Je deepfake video a tiež umelé vytváranie hlasov hrozba?

Ako každá iná technológia, aj vytváranie umelých videí alebo audiozáznamov vytvorených umelou inteligenciou je zneužiteľné a už boli zaznamenané nejaké pokusy. Zatiaľ je to skôr ako keby v testovacej fáze, ešte som nevidel úspešný príklad použitia deepfake videa, ktorý by dosiahol želaný účel. Veľmi veľa sa však o tom hovorí a možno si ľudia spomenú napríklad na video bývalého amerického prezidenta Baracka Obamu, v ktorom hovorí rôzne veci, ale v skutočnosti to nebol Barack Obama.

Čo na videu bolo?

Na konci videa hanlivým spôsobom označil Donalda Trumpa. Bolo to asi pred štyrmi rokmi a išlo o demonštráciu, čo je s touto technológiou možné robiť a vtedy sa aj začala veľká debata medzi technologickými spoločnosťami. Všetci z toho mali zlý spánok, ale zatiaľ sa obavy podľa mňa nenaplnili. Odvtedy uplynul pomerne dlhý čas a okrem zopár kuriozít týkajúcich sa ironizácie niekoho, alebo zábavného využitia videí, to napríklad vo vzťahu k politikom ešte nikto nepoužil úspešne.

U nás boli tiež pokusy dať von falošné video nejakého politika?

Existovalo video bývalého prezidenta Andreja Kisku, ako ho odvádzajú zo súdu do nejakej cely, ale bolo amatérsky urobené a bolo vidieť, že je umelo vytvorené. Takže ani v tomto prípade nesplnilo účel, ktorý asi autor videa chcel dosiahnuť. Kvalita videí vo väčšine prípadov ešte nedosahuje takú úroveň, aby sa nedalo odhaliť, že nie sú autentické.

V Hollywoode od mája protestujú scenáristi, ktorých ohrozuje umelá inteligencia, a v lete sa k nim pridali aj herci. Predpokladajú, že videá onedlho budú mať takú úroveň, že sa filmy budú točiť bez hercov, použijú len ich tváre, ale oni v skutočnosti nebudú hrať. Vo filmovom priemysle tam štrajkuje 160-tisíc ľudí...

Tam ide aj trochu iný problém – o ochranu autorských práv, či už scenáristov alebo hercov. Pri scenáristoch ide o automatizované spracovanie nimi vytvorených scenárov a v prípade hercov o spracovanie filmov, v ktorých hrajú. Existujúce filmy sa použijú na natrénovanie umelej inteligencie, aby mohla automatizovaným spôsobom vytvárať vizuály bez potreby platiť herca. Predstavte si herca, ktorý hral v mnohých filmoch a seriáloch, v archívoch sú hodiny a hodiny jeho vystúpení, a z nich sa naozaj môže umelá inteligencia naučiť vytvoriť hercov vizuál, čiže video, v ktorom herec reálne nevystupuje a napriek tomu bude veľmi ťažko rozoznateľné od originálu. Ide o objem trénovacieho materiálu, práve ten je predpokladom vytvorenia kvalitných deepfakeových videí.

To by sa pekne dalo použiť práve v politike, lebo existujú veľké množstvá nahratého materiálu politikov. Takže keby niekto chcel skompromitovať politika, už by to mohol dokázať?

Určite to hrozí. Zatiaľ som sa naozaj nestretol s úspešným príkladom využitia techniky, ktorá by mala dosah napríklad na voličské preferencie, viem si však predstaviť, že by niekto vytvoril deepfake video, v ktorom by dal politikovi do úst výroky, aké nikdy nepovedal. Napríklad v čase vrcholiacej predvolebnej kampane.