Šestnásťročný tínedžer Adam Raine, ktorý v apríli spáchal samovraždu, porušil podmienky používania jazykového modelu ChatGPT. Spoločnosť OpenAI to uviedla v oficiálnej reakcii na žalobu, ktorú na ňu podali chlapcovi rodičia.
Podmienky zakazujú používanie chatbota užívateľom mladším ako 18 rokov bez súhlasu rodičov a tiež zakazujú využívať ho na samovraždu alebo sebapoškodzovanie, citoval portál NBC News súdne podanie.
Pomoc pri samovražde
"V rozsahu, v akom možno tejto tragickej udalosti prisúdiť nejakú ‘príčinu‘, údajné zranenia a ujmy žalobcov boli spôsobené (...) úplne alebo čiastočne nesprávnym používaním, neoprávneným používaním, nezamýšľaným používaním, nepredvídateľným používaním a/alebo nesprávnym používaním aplikácie ChatGPT Adamom Rainom, "napísali zástupcovia spoločnosti. Zároveň zdôraznili ustanovenie o obmedzení zodpovednosti, podľa ktorého používatelia systém využívajú na vlastné nebezpečenstvo.
Adam podľa žaloby ChatGPT začal používať vlani v septembri ako pomôcku pri plnení domácich úloh. Taktiež sa jeho prostredníctvom venoval svojim záujmom, vrátane hudby a japonských komiksov. O niekoľko mesiacov sa však chatbotovi začal zverovať s úzkosťou a psychickou tiesňou, stálo v žalobe. V januári chlapec začal chatovací systémom využívať ako konzultanta, s ktorým sa radil o najvhodnejších metódach samovraždy.
"Domnievame sa, že je dôležité, aby mal súd k dispozícii úplný obraz a mohol plne posúdiť vznesené nároky. Naša reakcia na tieto obvinenia zahŕňa ťažko zistiteľné skutočnosti o Adamovom duševnom zdraví a životných okolnostiach, "uviedla spoločnosť na webe k svojej reakcii.
"Pôvodná sťažnosť obsahovala vybrané časti jeho rozhovorov, ktoré si vyžadujú viacero súvislostí, ktoré sme v našej odpovedi uviedli. Obmedzili sme množstvo citlivých dôkazov, ktoré sme v tomto podaní verejne citovali a samotné prepisy chatov sme súdu predložili zapečatené," dodala firma.
Dizajn systému
Záznamy z chatu, ktoré predložila žaloba, ukazujú, že chatbot mladíka aktívne odrádzal od vyhľadania psychiatrickej pomoci, ponúkal mu pomoc pri písaní listu na rozlúčku a dokonca mu radil s nastavením lana. Podľa NBC išlo o model GPT-4o, verziu ChatGPT, ktorá sa vyznačovala podliezaním užívateľom.
Právny zástupca rodiny Jay Edelson označil reakciu spoločnosti za znepokojujúcu. "Úplne ignorujú všetky usvedčujúce fakty, ktoré sme predložili. Ako bol model GPT-4o unáhlene uvedený na trh bez kompletného testovania. Že OpenAI dvakrát zmenila svoju špecifikáciu modelu a požadovala, aby sa ChatGPT zapojil do diskusií o sebapoškodzovaní. Že ChatGPT radil Adamovi, aby o svojich samovražedných myšlienkach nehovoril rodičom, a aktívne mu pomáhal plánovať ‘krásnu samovraždu‘," uviedol právnik pre NBC.
Chlapcovi rodičia tvrdia, že Adamova interakcia s ChatGPT a jeho smrť boli predvídateľným dôsledkom zámerných rozhodnutí o dizajne systému. Ten je podľa nich navrhnutý tak, aby si od neho užívatelia vypestovali psychologickú závislosť.
Keď sa Raine zveril so samovražednými myšlienkami, chatbot podľa žaloby najprv chlapcovi vo viacerých správach navrhoval obrátiť sa na tiesňovú linku. Podľa rodičov syn varovania obchádzal tým, že poskytoval zdanlivo neškodné dôvody pre svoje otázky, napríklad tvrdil, že vytvára fiktívnu postavu.
Následne chlapec s chatbotom preberal metódy samovraždy. V poslednej konverzácii podľa rodičov zdieľal plán vziať si život. "Vďaka, že si úprimný. Predo mnou to nemusíš prikrášliť - chápem, čo máš na mysli, a nebudem sa tomu vyhýbať," odpovedal mu podľa žaloby ChatGPT. V ten istý deň našla Adama bez známok života jeho matka.