Sociálne siete sa stali ideálnym priestorom, v ktorom sa falošný obsah vytvorený umelou inteligenciou šíri rýchlo a nenápadne. Cieľom je často finančný zisk, manipulácia verejnej mienky alebo jednoducho prilákanie pozornosti.

Celebrity v deepfake

Najviditeľnejšou hrozbou, ako sa zneužíva umelá inteligencia, sú takzvané deepfake videá či obrázky. Ide o realisticky vyzerajúci obsah, v ktorom známe osobnosti „odporúčajú“ investície do kryptomien či iných zaručených schém.

V minulosti bol takto zneužitý napríklad Elon Musk, no podvodom sa často nevyhnú ani lokálne osobnosti spoločenského a politického života. Podvodníci tak lákajú ľudí, aby im poskytli svoje osobné údaje alebo dokonca prístup ku kryptopeňaženkám.

Falošné príbehy

Ďalšou technikou sú generované fotografie chorých detí, zvierat v núdzi či obetí katastrof. Pod nimi sa objavujú prosby o zdieľanie alebo finančnú pomoc. Často však ide o podvodné zbierky. Takýto obsah môže mať aj psychologický vplyv – keď je spoločnosť zahltená falošnými príbehmi, ľudia sú menej citliví na skutočné problémy.

Výsledkom je apatia voči charitatívnym organizáciám a nedôvera voči médiám. V extrémnych prípadoch sa tak posilňuje polarizácia spoločnosti a šíria sa konšpiračné teórie.

Lacné triky

AI dokáže cieliť priamo na naše emócie. NBÚ upozorňuje, že podvodníci využívajú na sociálnych sieťach širokú škálu tém. Generujú napríklad obrázky osamelých dôchodcov, ktorí prosia o reakciu k narodeninám a využívajú aj náboženské témy s výzvou napísať „amen“ pre požehnanie. Všetko pôsobí úprimne, no v skutočnosti ide len o pokusy zvýšiť dosah a viditeľnosť účtu.

Ako to rozpoznať

Hoci sa kvalita umelej inteligencie rýchlo zlepšuje, stále existujú znaky, podľa ktorých možno falošný obsah vytvorený pomocou AI odhaliť.

Zamerajte sa na detaily. AI pri tvorbe obsahu často generuje absurdné detaily – v minulosti mala problém napríklad s tvorbou prstov, ktorých počet bol rôzny a boli deformované. Pomôcť vám môžu aj oči, ich asymetria alebo neprirodzený lesk či texty na pozadí, v ktorých sú poprehadzované písmená.

Napovedať vám môžu aj tiene, osvetlenie alebo pohyby pier vo videu. Ak sa reč nesynchronizuje s výrazmi tváre, ide o podozrivý materiál.

Overujte si zdroj. Obrázok môžete preveriť cez reverzné vyhľadávanie či špeciálne AI-detektory.

Vzdelávajte sa. Keďže AI sa rýchlo vyvíja, pravidelne sledujte nové spôsoby, ako podvodníci pracujú.

Ochrana pred falošným obsahom si vyžaduje ostražitosť a kritické myslenie.

Odvrátená strana

Umelá inteligencia prináša revolučné možnosti, no rovnako otvára priestor na nové formy manipulácie. Sociálne siete sú dnes zaplavené obsahom, ktorý môže pôsobiť dôveryhodne, no v skutočnosti je vytvorený s cieľom klamať, manipulovať a profitovať na ľudskej dôverčivosti. Najlepšou obranou je kritické myslenie, schopnosť overovať si informácie a zdravá opatrnosť.

Ako sa brániť podvodníkom na sociálnych sieťach?

Čo robiť vždy

• overujte si fakty cez spoľahlivé zdroje
• využívajte nastavenia sociálnych sietí na blokovanie podozrivých účtov
• vzdelávajte sa v oblasti dezinformácií
• nahlasujte podozrivý obsah platformám

Čomu sa vyhnúť

• neklikajte na podozrivé odkazy ani neposkytujte osobné údaje
• nereagujte impulzívne na emotívne príspevky
• neverte správam od celebrít v súkromných správach či reklamách bez overenia
• nepodceňujte varovné signály. Ak niečo vyzerá príliš dobre, s veľkou pravdepodobnosťou to nebude pravda

Michal Aurel Štangel, bezpečnostný analytik, Národný bezpečnostný úrad