Zástupcovia Európskeho parlamentu a členských štátov EÚ sa zhodli na podobe zákazu aplikácií umelej inteligencie (AI) umožňujúcich vytváranie sexualizovaných snímok a videí skutočných ľudí bez ich súhlasu.
Zákaz bude platiť od 2. decembra. EP to uviedol v dnešnej tlačovej správe. Europoslanci vec podporili už na marcovom plenárnom zasadnutí, keď dali zelenú vyjednávaniu s členskými štátmi. Ide o súčasť balíka na zjednodušenie a zmiernenie legislatívy k AI navrhnutého Európskou komisiou.
Obeťami sú aj deti
Bude napríklad zakázané uvádzať na trh Únie systémy AI s cieľom vytvárať podobný obsah, prípadne uvádzať takéto systémy na trh Únie bez primeraných bezpečnostných opatrení, ktoré by vytváraniu takýchto materiálov zabránili.
EP a Rada EÚ, teda krajiny bloku, konkrétne spomínajú "materiál zobrazujúci sexuálne zneužívanie detí alebo zobrazujú intímne partie identifikovateľnej osoby či ju zachytávajú pri sexuálne explicitných činnostiach bez jej súhlasu".
Zákaz vyzliekacích aplikácií do návrhu z pozície jeho tieňovej spravodajkyne vo výbore pre občianske slobody presadila česká pirátska europoslankyňa Markéta Gregorová z frakcie Zelených.
"Tieto nástroje nemajú v našej spoločnosti čo robiť. Sú vytvorené na to, aby digitálne vyzliekali ľudí bez ich súhlasu, pričom obeťami sú prevažne ženy a dokonca aj deti. Toto nie je inovácia, ale technologicky umožnené zneužívanie," uviedla Gregorová.
Dohodu musia ešte potvrdiť
Na 2. decembra má byť tiež odložená predtým schválená povinnosť odoberať audiovizuálny obsah vygenerovaný AI vodoznakom. Balík odkladá aj začiatok uplatňovania ďalších častí takzvaného Aktu o AI. Povinnosti týkajúce sa vysokorizikových systémov AI, ktoré sú výslovne uvedené v nariadení, sa odložia na 2. decembra 2027.
Pri systémoch AI, na ktoré sa vzťahujú sektorové právne predpisy EÚ o bezpečnosti a dohľade nad trhom, sa zástupcovia europoslancov a štátov zhodli na odklade na 2. augusta 2028.
Europoslanci a zástupcovia členských krajín musia dohodu, predbežne dosiahnutú v noci na dnes, ešte formálne potvrdiť. Podľa tlačovej správy EP by sa tak malo stať pred 2. augustom tohto roka, odkedy majú začať platiť niektoré ustanovenia novej legislatívy. Tú Európska komisia navrhla vlani v novembri.
Na problematiku v minulých mesiacoch upozornil predovšetkým škandál americkej sociálnej siete X miliardára Elona Muska. Jej užívatelia pomocou chatbota Grok bez súhlasu generovali a upravovali sexualizované fotografie skutočných žien a detí.
Na situáciu najprv upozornili médiá a vyústili do viacerých vyšetrovaní, jedno z nich vedie Britský úrad pre reguláciu mediálneho trhu Ofcom. Okrem programu Grok však existujú aj špecializované aplikácie zamerané priamo na generovanie podobného obsahu.
