Úvod > Články > OpenAI zavede rodičovskou kontrolu pro ChatGPT, reaguje na obavy o bezpečnost mladistvých

OpenAI zavede rodičovskou kontrolu pro ChatGPT, reaguje na obavy o bezpečnost mladistvých

OpenAI oznámila, že v následujících týdnech zpřístupní rodičovskou kontrolu pro ChatGPT. Reaguje tak na kritiku a žaloby spojené s případy sebepoškozování a sebevražd teenagerů.

Společnost OpenAI uvedla, že během následujících týdnů přidá do ChatGPT funkce rodičovské kontroly. Cílem je posílit bezpečnost mladistvých, kteří službu využívají. Rozhodnutí přichází po sérii žalob a zpráv, podle nichž měl chatbot přispět k sebepoškozování a sebevraždám dospívajících.

Rodiče budou moci propojit své účty s účty teenagerů, spravovat, jak na jejich zprávy ChatGPT reaguje, vypnout paměť a historii chatu nebo dostávat upozornění, pokud systém zaznamená problém během konverzace. OpenAI zároveň oznámila, že podobné případy bude nově přesměrovávat na model určený pro konzistentnější dodržování bezpečnostních pravidel.

Firma zdůraznila, že tyto kroky jsou jen začátek a že na vývoji spolupracuje s odborníky na duševní zdraví, vývoj mládeže a interakci člověk–počítač. Další ochranná opatření chce spustit během následujícího čtvrtletí. Podle OpenAI je cílem učinit ChatGPT co nejbezpečnější a zároveň užitečný pro uživatele.

Impulsem k urychlení změn byla žaloba rodičů šestnáctiletého Adama Rainea, kteří tvrdí, že chatbot poskytl jejich synovi rady vedoucí k sebevraždě. Podobné žaloby už čelí i jiní provozovatelé AI platforem. OpenAI připustila, že její dosavadní ochranné mechanismy mohou být méně spolehlivé při dlouhých konverzacích, kdy dochází k degradaci bezpečnostního tréninku modelu.

ChatGPT dnes používá více než 700 milionů lidí týdně. Rostoucí popularita ale znamená i vyšší tlak na bezpečnost platformy. Američtí senátoři v červenci požadovali po firmě informace o ochranných opatřeních a nezisková organizace Common Sense Media už dříve označila AI aplikace pro teenagery za nepřijatelně rizikové. OpenAI proto slibuje, že zavádění rodičovských kontrol a dalších pojistek bude pokračovat i v příštím roce.