Dvaja autonómni agenti spoločnosti OpenAI poháňaní jej pokročilými modelmi umelej inteligencie napadli pri testovaní okrem webu Hugging Face ďalšie štyri platformy.
Využili ich okrem iného na kopírovanie programového kódu alebo na jeho testovanie, neprekročili vraj však rámec toho, čo by urobil bežný užívateľ. S odvolaním sa na oznámenie OpenAI o tom informuje agentúra AFP.
Do utorka sa malo za to, že jedinou obeťou hackerského útoku bola spoločnosť Hugging Face. Teraz však OpenAI priznáva, že jej robot napadol niekoľko "verejne dostupných služieb", ich mená však nezverejnila.
Hugging Face je platforma používaná ako hosting pre veľké jazykové modely s otvoreným kódom a dátové súbory. Start-up uviedol, že ho 16. júla napadli hackeri pomocou výkonnej autonómnej umelej inteligencie, a nahlásil to polícii.
Takmer o týždeň neskôr OpenAI priznala, že to bola jej umelá inteligencia, ktorá unikla z uzavretého prostredia a počas testu sama zaútočila na Hugging Face. Snažila sa tak nájsť odpovede na hackerský test, ktorý jej OpenAI dala. Teraz OpenAI vyhlásenie aktualizovala s tým, že obetí napadnutia bolo viac.
Podľa Hugging Face sa oba modely AI pokúšali pri hodnotení podvádzať. Snažili sa "ukradnúť riešenie testov, namiesto toho, aby sa pokúsili na ne odpovedať sami. "
Opísaný únik modelov AI mimo kontrolu nie je prvý, ktorý bol zdokumentovaný, ale je považovaný za zďaleka najzávažnejší prípad k dnešnému dňu, píše AFP. Priniesol ďalšie podnety do už tak živej diskusie o zrýchľujúcom sa vývoji AI, o jej čoraz širších schopnostiach a o ťažkostiach pri jej kontrole.
