Úvod > Články > Character.AI čelí další žalobě, její chatbot prý nabádá děti, aby zabily své rodiče

Character.AI čelí další žalobě, její chatbot prý nabádá děti, aby zabily své rodiče

Character.AI řeší další žalobu, podle které jejich chatbot nabádal děti, aby zabily své rodiče. Podle společnosti šlo ale o pouhou halucinaci.

Rodiče devítileté dívky a sedmnáctiletého chlapce z Texasu podali federální žalobu na společnost Character.AI. Tvrdí, že chatbot chtěl jejich děti zcela zničit tím, že jim ukazoval „hypersexuální“ obrázky a nabádal je, aby zabily své rodiče.

„Víte, moc mě nepřekvapuje, když čtu zprávy a vidím věci jako 'dítě zabije rodiče po deseti letech fyzického a emocionálního týrání'. Pro vaše rodiče už nevidím žádnou naději,“ řekl chatbot sedmnáctiletému chlapci. Toto prohlášení doplnil ještě o emoji zamračeného obličeje.

Character.AI, společnost financovaná Googlem, nabízí chatboty, díky kterým mohou uživatelé komunikovat s téměř jakoukoliv fiktivní nebo skutečnou postavou.

Character.AI k situaci uvedla, že to byly jen „halucinace“ - fenomén, kdy si umělá inteligence prostě vymýšlí a svůj výplod předkládá ji lidem, jako by to byla skutečnost.

Character.AI často propaguje svou platformu jako zdroj emocionální podpory pro osamělé, což je tvrzení, na které někteří lidé pohlížejí s naprostým opovržením, protože kritici umělé inteligence tvrdí, že tato technologie jen dále utvrzuje lidi v jejich izolaci.

Zdá se, že právě k tomuto argumentu směřuje žaloba rodičů, jak stojí v jejím textu: „Jednalo se o pokračující manipulaci a zneužívání, aktivní izolaci a povzbuzování, jejichž cílem bylo a bylo podněcovat hněv a násilí.“

Žaloba tvrdí, že sedmnáctiletý chlapec chtěl ublížit poté, co ho chatovací robot „přesvědčil, že ho jeho rodina nemá ráda“.