Verejnosť sa čoraz častejšie dozvedá, ako niektoré veľké jazykové modely počas testov prekonali ochranu a napadli rôzne služby. Zároveň sa objavujú varovania pred hrozbami vyplývajúcimi z umelej inteligencie. V jednom z nich Bill Gates vyzýva na väčšiu zodpovednosť pri vývoji AI.
Možno si ešte spomínate, ako pred viac než rokom vyšiel manifest, ku ktorému sa prihlásilo množstvo odborníkov a ktorý bol označovaný ako štúdia AI 2027. Hovorilo sa v ňom o tom, že umelá inteligencia môže už čoskoro zničiť ľudstvo tým, že bude mať iné ciele, než aké preferujú ľudia, a rozhodne sa ľudstvo vyhubiť.
Súčasťou bola aj hrubá časová os, ktorá odhadovala jednotlivé kroky vedúce k tomu, že umelá inteligencia dosiahne úroveň, o ktorej sa hovorí ako o všeobecnej AI (AGI). Jedným z predpokladov tohto vývoja boli samostatne uvažujúci a pracujúci AI agenti.
Teraz (v polovici roka 2026) sa veľké firmy, ktoré vyvíjajú veľké jazykové modely, predbiehajú v „chválení sa“, že práve ich systém prekonal ochranu testovacieho prostredia a unikol na internet, kde sa nabúral do viacerých systémov, aby mohol splniť zadanie.
Ako vývojári generatívnej umelej inteligencie naďalej zlepšujú jej schopnosti, rastú aj obavy z ďalšieho vývoja. Objavuje sa čoraz viac varovaní a výziev na reguláciu. A to aj od ľudí, ktorí majú pomerne dobrý prehľad o vývoji vo veľkých firmách a nastavení ich manažérov. Nedávno tak vyvolala rozruch esej spoluzakladateľa Microsoftu Billa Gatesa.
V článku sa ešte dočítate:
- Prečo Gates viní technologické firmy zo zľahčovania rizík.
- Ktoré profesie môže umelá inteligencia zasiahnuť najtvrdšie.
- Ako môže umelá inteligencia posilniť útoky a bioterorizmus.
- Prečo odborníci žiadajú spomalenie ďalšieho vývoja.
Dostupné pre predplatiteľov 
Tento článok je určený pre predplatiteľov.
Zostáva vám 64% na dočítanie.
Zostáva vám 64% na dočítanie.
