Význam aj počet používateľov technológií postavených na báze umelej inteligencie neustále rastie. A jej vplyv bude stúpať čoraz rýchlejšie. Zároveň s tým narastajú i riziká, ktoré AI so sebou prináša. Či už sú to hrozby úniku dát do nepovolaných rúk, geopolitické riziká súvisiace s využívaním najmodernejších technológií nepriateľskými krajinami, alebo psychologické bariéry vyplývajúce z príliš rýchlych zmien, ktoré umelá inteligencia prináša do života každého z nás.
Aj o týchto témach diskutovali účastníci HN konferencie SlovakAI, ktorá sa uskutočnila uplynulý pondelok v Bratislave. „AI už dávno nie je témou iba pre technologických nadšencov. Týka sa doslova všetkých oblastí. A to, čo bolo pred pol rokom, je dnes starovek,“ uviedol v otváracom príhovore konferencie Samuel Migaľ, minister investícií, regionálneho rozvoja a informatizácie SR.
Fenomén shadow AI
Keďže rýchly a najmä nekontrolovaný nárast technológií spojených s AI by so sebou priniesol spomínané hrozby, Európska únia schválila predvlani Zákon o umelej inteligencii, takzvaný AI Act. A MIRRI v súčasnosti pripravuje národný rámec jeho implementácie. „Jeho cieľom nie je to, aby sa pribrzdili inovácie, ale aby sa nastavili jasné pravidlá,“ pripomenul minister Migaľ. Zneužitie umelej inteligencie útočníkmi totiž môže ohroziť najmä tých najzraniteľnejších – deti a seniorov. Pokusy o takéto útoky v podobe rôznych podvodov vidíme už dnes. Práve AI pritom dáva útočníkom nástroje, ako svoje aktivity zdokonaliť. Úlohou štátu je preto takejto činnosti zabrániť, a to i prostredníctvom regulácie, ktorú však Slovensko musí riešiť v úzkej koordinácii s ostatnými krajinami Európskej únie. Napokon i preto vzniká národný rámec implementácie AI Actu.
V článku sa ešte dočítate:
• Prečo zamestnanci riskujú únik dát.
• Ako chce štát regulovať nové nástroje.
• Ktoré odvetvia zasiahne zmena najviac.
• Prečo Európa zaostáva za Spojenými štátmi.
Dostupné pre predplatiteľov 
Ako zdôraznil Samuel Migaľ, umelá inteligencia je ako oheň – je to nepochybne dobrý sluha, ale zároveň môže byť veľmi zlým pánom. A to najmä vtedy, ak sa naše súkromné či firemné dáta dostanú do nesprávnych rúk.
Čoraz častejšie sa v súvislosti s týmito rizikami hovorí o fenoméne takzvanej shadow AI, teda tieňovej umelej inteligencie. Ide o jav, keď hádžeme svoje osobné či dokonca firemné údaje do nechránených, často neplatených veľkých jazykových modelov. Podľa prieskumov zadáva firemné dáta do voľných modelov, ako je ChatGPT, až 61 percent slovenských zamestnancov. „Shadow AI predstavuje obrovské riziko úniku dát. Umelá inteligencia môže bez toho, aby ľudia vedeli, ako ju používať, firmu zruinovať,“ zdôraznil v panelovej diskusii Radoslav Štefánek, splnomocnenec slovenskej vlády pre AI. Podľa neho sú vždy kľúčom ku kvalitne fungujúcej firme správne nastavené procesy a ľudia.
Prudký nárast používateľov
Význam toho, aby ľudia vedeli s umelou inteligenciou správne zaobchádzať, sa pritom exponenciálne zväčšuje nie každým rokom, ale doslova každým mesiacom či dokonca týždňom. Ak firmy nedokážu svoje procesy príslušne zmeniť a nanovo nastaviť, môžu na to kruto doplatiť. „Za dva roky sme zaznamenali štvornásobný nárast používania AI. Každý štvrtý Slovák ju využíva denne. A medzi študentmi dosahuje jej penetrácia prakticky sto percent,“ uviedla Miroslava Remenárová, riaditeľka pre vonkajšie vzťahy a udržateľnosť spoločnosti Slovak Telekom. Je teda jasné, že AI sa zákonite pretaví do pracovných aj súkromných aktivít každého človeka, ktorý s ňou prichádza do kontaktu.
A práve tu podľa Miroslavy Remenárovej vznikajú riziká, medzi ktoré patrí napríklad ilúzia vedomosti. Ide o psychologický jav, pri ktorom má človek pocit, že niečomu rozumie oveľa lepšie, než tomu tak je v skutočnosti. AI algoritmy sú totiž nastavené tak, že používateľovi skôr pritakávajú, než by ho upozornili na omyl. Často sa preto stáva, že pokiaľ človek nemá digitálne znalosti a vedomosti, môže mať problém rozlíšiť AI od reality.
Na HN konferencii SlovakAI sa diskutovalo aj o tom, či umelá inteligencia vezme ľuďom prácu. Všeobecná zhoda je v tom, že nové technológie väčšinu pracovných pozícií skôr transformujú, než by ich úplne zrušili. Časť zamestnancov tak čakajú rôzne rekvalifikačné kurzy, ktoré ich naučia, ako s AI pracovať. Medzi segmenty, ktorých sa zmeny dotknú najviac, patrí napríklad automotive, kde je už dnes miera automatizácie veľmi vysoká. Naopak, nájdeme veľa segmentov, kde umelá inteligencia nebude mať až taký dosah, ako sú remeslá či kvalifikovaná manuálna práca. Avšak AI vo veľkom preniká už aj do takých tradičných odvetví, ako je poľnohospodárstvo – farmári pomocou nej dokážu lepšie odhadnúť počasie, úrodu a podobne. Vďaka tomu získavajú väčšiu konkurencieschopnosť.
Pieskovisko pre startupy
Európa sa však musí brániť aj pred rizikami, ktoré ju ohrozujú ako celok, nielen na úrovni jednotlivých používateľov. A tie prichádzajú od veľkých hráčov. AI totiž využíva napríklad ruská propaganda. Jej algoritmy na sociálnych sieťach masírujú mozgy používateľov najmä pred voľbami.
Zlá správa znie, že EÚ podľa všetkého stratila v uplynulých rokoch hlavného spojenca v podobe USA. „Európa sa až do prvého príchodu Donalda Trumpa do Bieleho domu v januári 2017 správala ako 40-ročné decko, ktoré žije doma so svojou matkou a vďaka nej má všetko vybavené. Až po nástupe Trumpa sme pochopili, že je lepšie, ak si niektoré veci zariadime sami,“ dodal Radoslav Štefánek.
Niektoré krajiny Únie – prvé bolo Francúzsko – už avizujú snahu budovať čisto európske technológie nezávislé od tých amerických. Práve francúzska spoločnosť Mistral AI patrí medzi tie najúspešnejšie – jej súčasná hodnota sa odhaduje na 14 miliárd dolárov.
Niektorí odborníci hovoria, že USA majú pred nami náskok kvôli tomu, že našim firmám zväzujú ruky príliš veľké regulácie. To by na Slovensku i v ďalších krajinách mali vyriešiť takzvané regulačné sandboxy, teda pieskoviská, kde si startupy budú môcť za voľnejších podmienok vyvinúť a otestovať svoj produkt ešte predtým, než s ním vstúpia na regulárny trh.
