Zaoberáte sa bezpečnosťou umelej inteligencie, ako sa pozeráte na súčasnú situáciu?
Vývoj umelej inteligencie závratne zrýchľuje, z veľkej časti preto, že s vývojom čoraz viac pomáha sama AI. Nemyslím si, že by výskum bezpečnosti držal krok s tempom vývoja umelej inteligencie ako takej, čo je problém.
Nachádzame sa teraz v období niekoľkých rokov, ktoré môžu byť pre budúcnosť ľudstva veľmi formatívne. A zároveň si nie som istý, že je ľudstvo pripravené toto dôležité obdobie zvládnuť dobre.
Je namieste hovoriť o budúcnosti ľudstva, nie je to prehnané?
Posledné tisíce rokov bol človek jednoznačne najinteligentnejší tvor, ktorý chodí po Zemi, a to sa môže zmeniť. Ľudia možno prídu o prvenstvo, s ktorým sa spája schopnosť ovplyvňovať, kam svet smeruje. V histórii prichádzali rôzne technológie, ktoré nám pomáhali zefektívňovať prácu. Ale vždy to bolo obmedzené len na niekoľko druhov činností.
Umelá inteligencia však môže nahradiť ľudí viac-menej v akejkoľvek kognitívnej činnosti, v akejkoľvek práci s informáciami. Podobu a smerovanie štátov do veľkej miery určujú rozhodnutia politikov a štátnej byrokracie. A ekonomiku formujú rozhodnutia vo firmách.
Pokiaľ tieto rozhodnutia bude postupne čoraz viac robiť umelá inteligencia, je možné, že nad svetom efektívne prevezme kontrolu.
Hovoríte, že môže prísť AI, ktorá bude inteligentnejšia ako my. Nie je to však tak, že tu už je?
Umelú inteligenciu, ktorá je inteligentnejšia ako my vo vybraných oblastiach, už tu máme dlho – napríklad AI, ktorá hrá šach lepšie ako ľudia, existuje už od deväťdesiatych rokov. Takýmto systémom sa hovorí úzka superinteligencia. Teraz dochádza k posunu k čoraz všeobecnejšej umelej inteligencii. AI sa približuje k ľudskej úrovni alebo ju prekonáva v čoraz viac oblastiach.
S tým sa spája termín AGI, všeobecná umelá inteligencia, ktorá je vo všetkých oblastiach inteligencie aspoň na ľudskej úrovni. Ale zatiaľ to tak nie je, stále má nedostatky spájajúce sa napríklad so spoľahlivosťou. To sa najviac prejavuje pri činnostiach, ktoré vyžadujú mnoho krokov po sebe, a možnosť chýb sa tak kumuluje.
Väčšinu dlhších úloh tak ľudia zatiaľ zvládajú lepšie. Lepšie tiež vedia pracovať so svojou vlastnou neznalosťou alebo intuíciou o fyzickom svete.
V článku sa ešte dočítate:
- Kedy môže vzniknúť všeobecná umelá inteligencia,
- Ako AI agenti menia prácu s informáciami,
- Prečo môže automatizácia pripraviť ľudí o rozhodovaciu moc,
- Čo hrozí, ak hodnoty AI nebudú zladené s ľudskými.
Dostupné pre predplatiteľov 
Tento článok je určený pre predplatiteľov.
Zostáva vám 77% na dočítanie.
Zostáva vám 77% na dočítanie.
