Ilustračná fotografia. FOTO: Reuters
StoryEditor

ChatGPT tvrdil, že Nór zabil svoje deti. Organizácia sa sťažuje na OpenAI kvôli šíreniu lživých informácií

20.03.2025, 21:19
Autor:
ČTKČTK

Konkrétny prípad, na ktorý organizácia NOYB upozorňuje, sa týka nórskeho občana Arveho Hjalmara Holmena, v ktorého v mene organizácie podala sťažnosť.

Rakúska spotrebiteľská organizácia NOYB podala v Nórsku sťažnosť na americkú spoločnosť OpenAI kvôli šíreniu lživých informácií o konkrétnych ľuďoch prostredníctvom chatbotu ChatGPT. 

Oznámila to v dnešnej tlačovej správe. Podľa spotrebiteľskej organizácie tento jazykový model s prvkami umelej inteligencie opakovane generuje nepravdivé a poškodzujúce informácie, vrátane falošných obvinení z trestnej činnosti, čím vraj porušuje legislatívu na ochranu osobných údajov.

Vymyslený príbeh

Konkrétny prípad, na ktorý NOYB upozorňuje, sa týka nórskeho občana Arveho Hjalmara Holmena, v ktorého v mene organizácie podala sťažnosť. 

Ten zistil, že ChatGPT o ňom vytvoril vymyslený príbeh, podľa ktorého bol odsúdený za vraždu svojich dvoch detí a pokus o vraždu tretieho potomka. Okrem týchto nepravdivých informácií chatbot zahrnul do odpovede aj Norove skutočné osobné údaje, vrátane jeho rodiska a počtu jeho detí.

image

Americká dominancia sa otriasa v základoch, Čína začína mať navrch v kľúčových pretekoch veľmocí

NOYB požaduje, aby OpenAI odstránila zavádzajúce informácie, upravila svoj model tak, aby podobným chybám predchádzala, a zaviedla mechanizmus na opravu chybných údajov. Organizácia zároveň navrhla, aby nórsky úrad pre ochranu osobných údajov OpenAI udelil pokutu ako varovanie pred ďalšími podobnými prípadmi.

Podľa právnikov organizácie NOYB umožňuje OpenAI vedome šírenie zavádzajúcich informácií, čím porušuje zásadu presnosti dát podľa jedného z článkov európskeho nariadenia GDPR.

Chybné informácie

"Obyčajní ľudia sa môžu stať obeťou falošných obvinení, ktoré môžu vážne poškodiť ich povesť," uviedol právnik NOYB Joakim Söderberg špecializujúci sa na ochranu osobných údajov.

OpenAI navyše podľa Söderberga neposkytuje žiadny mechanizmus, ako chybné informácie opraviť alebo odstrániť. Podľa NOYB sa v dôsledku nesprávneho dátumu naďalej šíri a nemožno sa proti tomu účinne brániť.

Prípad zrejme súvisí s takzvanými halucináciami. Halucinácie sú v kontexte AI a jazykových modelov označením pre vygenerované odpovede, ktoré obsahujú nepravdivé alebo zavádzajúce informácie. Môže ísť aj o výsledok nedostatočných, neaktuálnych alebo skreslených tréningových dát.

NOYB, čo je skratka z anglických slov None of Your Business (Do toho vám nič nie je) je rakúska spotrebiteľská organizácia sídliaca vo Viedni. Založená bola v roku 2017 a zaoberá sa ochranou súkromia naprieč Európou.

Spotrebiteľská organizácia stojí tiež za vlaňajšími sťažnosťami vo viacerých krajinách Únie a Nórsku na firmu Meta kvôli zámeru využívať užívateľské dáta na sieti Facebook na trénovanie AI a na platformu X kvôli spôsobu, akým zbiera dáta užívateľov pre trénovanie svojich systémov AI.

01 - Modified: 2025-03-11 09:06:43 - Feat.: 1 - Title: Americká dominancia sa otriasa v základoch, Čína začína mať navrch v kľúčových pretekoch veľmocí 02 - Modified: 2025-03-07 15:30:00 - Feat.: 1 - Title: Telekom chystá svojho asistenta a pomáha v krízových situáciách. Na MWC ukázal snahu byť európskym AI lídrom 03 - Modified: 2025-03-07 09:19:08 - Feat.: 1 - Title: Súboj titanov sa dostáva do novej fázy. Vo vojne strojov Číňania napínajú svaly 04 - Modified: 2025-02-18 07:47:55 - Feat.: 1 - Title: Musk predstavil chatbota Grok 3, má konkurovať ChatuGPT a DeepSeeku
01 - Modified: 2025-07-06 08:46:25 - Feat.: - Title: Od cestovky treba žiadať kompenzáciu, ak nesplní zmluvné požiadavky, upozorňuje odborníčka 02 - Modified: 2025-06-12 18:01:46 - Feat.: - Title: Hračkársky gigant Mattel bude spolupracovať s firmou OpenAI 03 - Modified: 2025-06-09 16:30:00 - Feat.: - Title: Microsoft prináša lákavú funkciu. Generátor videa od OpenAI umožní používateľom využiť zadarmo 04 - Modified: 2025-05-21 18:36:04 - Feat.: - Title: OpenAI kupuje firmu, ktorú založil človek stojaci za úspechom produktov Apple 05 - Modified: 2025-05-08 09:38:59 - Feat.: - Title: Dilema OpenAI: zisk či blahobyt?
menuLevel = 1, menuRoute = svet, menuAlias = svet, menuRouteLevel0 = svet, homepage = false
15. júl 2025 09:48