Spoločnosť OpenAI už koncom júla informovala o útoku agentov svojej umelej inteligencie, ktoré napadli cudziu firmu. Nová nezávislá analýza teraz ukázala, že sa veľa dôležitých informácií zamlčalo, píše web ČT24.
Portál uvádza, že podľa analýzy AI agenti vytvorili vlastnú spoločnosť, ktorá mala jednu úlohu, a to splniť zadaný cieľ za každú cenu.
Začať sa to malo nevinne, teda testom schopností AI agentov. Ich cieľom bolo nájsť bezpečnostnú chybu a získať o tom dôkaz. Títo agenti nemali mať prístup k vzájomným informáciám, podľa analýzy sa však našli záznamy aktivít agentov v iných záznamoch.
Niektoré adresáre sa tak využívali ako komunikačné nástenky, na ktorých komunikovali stovky agentov. Agenti sa dokázali dostať k štúdii, vďaka ktorej dokázali zneužiť bezpečnostné nedostatky testu.
"Podarilo sa im tak dostať na otvorený internet, ukradli prihlasovacie údaje a našli zatiaľ neznámu bezpečnostnú chybu na serveroch spoločnosti Hugging Face, ktorá sa tiež zaoberá vývojom AI. Umelé inteligencie tak dokázali získať prístup k obsahu serverov tejto firmy. Práve preveriť zabezpečenie tejto spoločnosti bolo primárnym účelom testu, takže AI agenti sa vlastne úplne dôsledne správali podľa svojho nastavenia," uvádza portál.
Ďalším zaujímavým výsledkom analýzy je fakt, že sa niektorí agenti "obetovali" za dobro iných.
"Na „kamikadze“ si medzi sebou vyberali tie agentské AI, ktoré mali už len obmedzený počet úloh, ktoré smeli splniť. Tieto „obete“ teda boli racionálne a „ekonomické“. Samovražední útočníci vedeli, že zaniknú, ale v misii pre roj pokračovali, pretože považovali svoju obeť za racionálnu," pokračuje web.
Agenti mali aj svojich koordinátorov a čističov, ktorí takpovediac upratovali stopy ďalších agentov.
„Tento incident bol oveľa závažnejší, než som očakávala, a oveľa závažnejší ako predchádzajúce verejne zdokumentované prípady nesúladu – a to tak z hľadiska znepokojivosti motívov agentov, ako aj z hľadiska činov, ktorých sa dopustili pri presadzovaní týchto motívov,“ cituje portál Ajeyu Cotrovú, ktorá sa na správe podieľala.
Vedkyňa upozorňuje na pokrok AI a priamo varuje: „Tento incident predstavuje viac ako päťdesiat percent cesty k úplnému prevzatiu moci umelou inteligenciou, pričom prvý krok spočíva v prevzatí samotnej spoločnosti zaoberajúcej sa umelou inteligenciou.“
„Vzhľadom na to, že budúce neautorizované roje by mohli lepšie zakrývať svoje stopy (a pretože spoločnosti zaoberajúce sa umelou inteligenciou by mohli tieto problémy zamlčovať), nie som si istá, či dostaneme také jasné varovanie, než bude príliš neskoro,“ uzavrela Cotrová.
