Motory, ktoré poháňajú chatboty ako ChatGPT, Gemini a Claude – veľké jazykové modely (LLM) – sú zásobované obrovským množstvom materiálu z internetu.
Napriek úsiliu o odstránenie škodlivého textu zo školiacich údajov môžu LLM stále absorbovať informácie o nezákonných aktivitách, ako je hackovanie, pranie špinavých peňazí, dôverné obchodovanie a výroba bômb. Bezpečnostné kontroly sú navrhnuté tak, aby im zabránili používať tieto informácie vo svojich odpovediach.
Čoskoro v rukách každého
V správe v elektronickom archíve vedeckých prác
arXiv vedci dospeli k záveru, že je ľahké oklamať väčšinu chatbotov riadených AI, aby generovali škodlivé a nezákonné informácie, čo ukazuje, že riziko je bezprostredné, hmatateľné a hlboko znepokojujúce. „To, čo bolo kedysi obmedzené na štátnych aktérov alebo skupiny organizovaného zločinu, môže byť čoskoro v rukách každého, kto má laptop alebo dokonca mobilný telefón,“ varujú autori....
Tento článok je určený iba pre predplatiteľov.
Zostáva vám 85% na dočítanie.
01 - Modified: 2025-05-23 09:39:32 - Feat.: 1 - Title: CTO Microsoftu pre HN: AI je nástroj, ktorý používateľom umožní efektívne pracovať v akomkoľvek odvetví
02 - Modified: 2025-03-20 20:46:25 - Feat.: 1 - Title: ChatGPT tvrdil, že Nór zabil svoje deti. Organizácia sa sťažuje na OpenAI kvôli šíreniu lživých informácií
03 - Modified: 2025-03-18 13:29:01 - Feat.: 0 - Title: Smrťou to nekončí. Nebožtíci s nami môžu hovoriť ako chatboti, ktorých vytvára umelá inteligencia
04 - Modified: 2025-01-29 13:28:49 - Feat.: 1 - Title: Čínsky chatbot, ktorý vystrašil americké firmy, ukázal nový trik. Ponúka už aj generátor obrázkov
05 - Modified: 2024-12-11 21:51:24 - Feat.: 1 - Title: Chatbot podľa rodiny nabádal mladého Američana, aby zabil rodičov
06 - Modified: 2024-10-09 14:55:32 - Feat.: 0 - Title: Nobelovku za fyziku získali vedci za rozvoj umelej inteligencie. Jeden z nich sa obáva jej desivých rizík
07 - Modified: 2024-10-03 22:00:00 - Feat.: 0 - Title: Umelá inteligencia zväčšovaním hlúpne. Nesčíta ani 47309068053 s 95464
01 - Modified: 2025-06-02 10:03:04 - Feat.: - Title: Veľké firmy chcú zmeniť internet. Umelá inteligencia má komunikovať bez nás
02 - Modified: 2025-06-01 15:35:00 - Feat.: - Title: Umelá inteligencia podľa združenie Bitkom neohrozí trh práce v Nemecku
03 - Modified: 2025-05-30 16:00:00 - Feat.: - Title: Kennedyho trapas. Správu o zdraví Američanov zbabral umelou inteligenciou
04 - Modified: 2025-05-30 09:35:46 - Feat.: - Title: Drucker rokoval s americkými firmami o spolupráci v oblasti umelej inteligencie vo vzdelávaní
05 - Modified: 2025-05-27 11:44:25 - Feat.: - Title: Generácia Z si vie predstaviť manželstvo s AI: Až osem z desiatich mladých by si vybralo partnera ako umelú inteligenciu
