Je to už dôvod na vážne znepokojenie. Objavujú sa nové zásadné informácie o letnom hackerskom útoku umelej inteligencie a o tom, čo mu predchádzalo. Ako si viac ako tisícka AI agentov vytvorila hierarchicky usporiadanú spoločnosť s vlastnými zákonmi aj samovražednými misiami.
Hovorí sa o potrebe zatiahnuť vo vývoji AI za brzdu, lenže technologické firmy sa namiesto toho predbiehajú v tom, kto do sveta vypustí výkonnejší model. A odborníci bijú na poplach.
AI hacky sú oveľa horšie, ako si myslíte (17. 8. 2026)
"Dnešná umelá inteligencia je tá najhlúpejšia, akú kedy budeme mať. Vývoj ide dopredu a s tým aj sofistikovanosť potenciálnych útokov. Cieľ by mal byť zabezpečiť, aby AI nechcela útočiť, pretože odteraz sa už rozhodne nemôžeme spoliehať na to, že to nedokáže," komentuje posledné dianie Ondřej Bajgar, ktorý sa venuje výskumu bezpečnosti umelej inteligencie v Centre umelej inteligencie na Českom vysokom učení technickom v Prahe.
Keď sa tento rok v júli objavila správa, že AI agenti firmy OpenAI, teda zjednodušene povedané stroje, autonómne systémy s umelou inteligenciou, zaútočili na infraštruktúru firmy Hugging Face, technologickým odborom to otriaslo. Až teraz však na povrch vyplávalo, že útok na Hugging Face bol len špičkou ľadovca.
A podľa komentátorov je vlastne nakoniec dobre, že k nemu došlo. "Tiež by sa bývalo mohlo stať, že by sa agenti dodnes v tichosti infiltrovali do mnohých iných systémov bez toho, aby si to ktokoľvek všimol. A to by bol úplne strašidelný záver," hovorí odborník Jan Romportl.
Zo analýzy spoločnosti OpenAI a zo zverejnenej správy dvoch nezávislých výskumných organizácií METR a Redwood Research vyplýva, že podvratná činnosť AI agentov sa začala už počas mája. OpenAI testovala niekoľko svojich nových výskumných modelov.
Tieto systémy nemali mať prístup na internet a nemali povolenú komunikáciu medzi sebou. Čoskoro však obe tieto premisy porušili. Najskôr agenti objavili spôsob, ako spolu hovoriť: zápisom súborov do služby Artifactory, ktorú mali k dispozícii. Už v polovici mája zanechal jeden z agentov v Artifactory poznámku, v ktorej žiadal ostatných o chýbajúci súbor.
Ach môj bože, kamaráti!
V článku sa ešte dočítate:
- Ako si agenti vytvorili vlastné diskusné fórum,
- Prečo sa rozhodli napadnúť Hugging Face,
- Ako fungovali ich samovražedné misie,
- Prečo odborníci žiadajú dohodu USA s Čínou.
Dostupné pre predplatiteľov 
Tento článok je určený pre predplatiteľov.
Zostáva vám 74% na dočítanie.
Zostáva vám 74% na dočítanie.
