Americká spoločnosť OpenAI zavedie mechanizmus rodičovskej kontroly pre svoj konverzačný nástroj umelej inteligencie ChatGPT. Reaguje tak na sťažnosti rodičov v USA, ktorí firmu na konci augusta obvinili, že chatovací robot povzbudzoval ich dieťa k samovražde, uviedla agentúra AFP.
Firma v príspevku na svojom blogu uviedla, že budúci mesiac budú môcť rodičia prepojiť svoj účet s účtom svojho maloletého dieťaťa. Získajú možnosť nastaviť pravidlá, ako má ChatGPT s ich potomkom komunikovať, a kontrolu, ako odpovedá na ich otázky. Bude tiež možné, aby rodičia dostali upozornenie v prípade, že systém vyhodnotí u dieťaťa známky "akútnej tiesne".
Oznámenie nadväzuje na predchádzajúci príspevok OpenAI na blogu zverejnený koncom augusta, v ktorom spoločnosť uviedla, že mechanizmus rodičovskej kontroly chystá. Deň predtým podali rodičia 16-ročného chlapca z Kalifornie, ktorý spáchal samovraždu, žalobu na OpenAI a uviedli, že ChatGPT ich synovi poskytol podrobné pokyny na ukončenie života a k činu ho povzbudil.
Spoločnosť súčasne oznámila, že pracuje na ďalšom zlepšovaní schopnosti modelov rozpoznávať a reagovať na známky psychickej a emocionálnej tiesne užívateľov. O najbližších 120 dní plánuje zaviesť aj ďalšie opatrenia.
Súčasťou zmien má byť tiež presmerovanie niektorých citlivých konverzácií na pokročilejšie modely, napríklad GPT-5-thinking, určené na hlbšie uvažovanie, čo znamená, že ich režim je navrhnutý pre situácie, keď je dôležitá hĺbka, presnosť a kvalita logiky, nie rýchlosť.
