Nové technológie, najmä na báze umelej inteligencie, sa rozvíjajú veľkou rýchlosťou. Prichádzajú spolu s nimi nové riziká týkajúce sa ich zneužitia?
S novými technológiami prichádzajú vždy nové riziká. To sa v technologickej histórii nezmenilo. Môžu byť využívané na dobré účely, ale zároveň zneužívané zlými hráčmi. Samozrejme, väčšina z nás sa zameriava na pozitívne aspekty technológií. Niektoré z nich však, obzvlášť umelá inteligencia, dnes poskytujú silné impulzy na zneužitie – napríklad na kybernetické útoky či na ďalšie typy bezpečnostných hrozieb.
Ako sa dá proti zneužitiu AI efektívne brániť?
Bohužiaľ, na strane obrany nemáme rovnaké páky na rýchle prijatie protiopatrení. Existuje mnoho najmä socioekonomických dôvodov, prečo je obranný proces oneskorený. Následne tu vzniká obdobie, počas ktorého môžu útočníci napredovať rýchlejšie než obrancovia. A práve z toho vyplýva veľké riziko. Na rad tak prichádzajú politici. V tejto fáze musí zasiahnuť vláda a povedať – nastal čas, keď treba šliapnuť na plyn a urýchliť využívanie AI na obranné účely. Pretože v opačnom prípade sa v oblasti kybernetickej bezpečnosti dostaneme do veľmi nepríjemnej situácie. A práve na týchto hrozbách a boji proti nim pracujem.
Kto je hlavným aktérom zneužívania AI? Sú to štáty s nepriateľskými režimami, prípadne rôzne zločinecké organizácie?
Neraz ide o neštátnych aktérov, prípadne útočníkov podporovaných štátov. Keď sa bližšie pozriete na rôzne skupiny vykonávajúce kybernetické útoky, tak vidíte, že často pochádzajú z Číny, Ruska alebo zo Severnej Kórey. Takíto útočníci majú jasný mandát a motiváciu útočiť na kritickú infraštruktúru Západu, vládne ciele, prípadne dôležité súkromné firmy.
Čím sa títo útočníci vyznačujú?
Tým, že pri svojich útokoch využijú v podstate akýkoľvek nástroj, ktorý majú k dispozícii. Za svoje aktivity totiž čelia len minimálnym následkom a takmer žiadnemu prostriedku odstrašenia. Často pritom ide o organizácie s obmedzenými zdrojmi. Svoje útoky vykonávajú iba s tým, čo majú. Preto sú nútení využiť naplno všetky dostupné nástroje vrátane technológií, ktoré im zvyšujú produktivitu. To znamená aj umelú inteligenciu.
K akému konkrétnemu ohrozeniu tým dochádza?
Už dnes sme svedkami vzniku škodlivých malvérov, ktoré sú vytvárané pomocou umelej inteligencie. Presne tak, ako vývojári softvéru používajú AI na rýchlejšie písanie kódov, ju útočníci využívajú na rýchlejšie vyhľadávanie a zneužívanie takzvanej zero-day zraniteľnosti. To znamená, že využívajú dosiaľ neznámu zraniteľnosť systému. A budú tak robiť i naďalej, preto musíme byť pred takýmito hrozbami neustále v strehu.
Pridajte sa k tým, ktorí vedia viac.
Zostáva vám 77% na dočítanie.
Zostáva vám 77% na dočítanie.