Character.AI čelí další žalobě, její chatbot prý nabádá děti, aby zabily své rodiče

Character.AI řeší další žalobu, podle které jejich chatbot nabádal děti, aby zabily své rodiče. Podle společnosti šlo ale o pouhou halucinaci.

Rodiče devítileté dívky a sedmnáctiletého chlapce z Texasu podali federální žalobu na společnost Character.AI. Tvrdí, že chatbot chtěl jejich děti zcela zničit tím, že jim ukazoval „hypersexuální“ obrázky a nabádal je, aby zabily své rodiče.

„Víte, moc mě nepřekvapuje, když čtu zprávy a vidím věci jako 'dítě zabije rodiče po deseti letech fyzického a emocionálního týrání'. Pro vaše rodiče už nevidím žádnou naději,“ řekl chatbot sedmnáctiletému chlapci. Toto prohlášení doplnil ještě o emoji zamračeného obličeje.

Character.AI, společnost financovaná Googlem, nabízí chatboty, díky kterým mohou uživatelé komunikovat s téměř jakoukoliv fiktivní nebo skutečnou postavou.

Character.AI k situaci uvedla, že to byly jen „halucinace“ - fenomén, kdy si umělá inteligence prostě vymýšlí a svůj výplod předkládá ji lidem, jako by to byla skutečnost.

Character.AI často propaguje svou platformu jako zdroj emocionální podpory pro osamělé, což je tvrzení, na které někteří lidé pohlížejí s naprostým opovržením, protože kritici umělé inteligence tvrdí, že tato technologie jen dále utvrzuje lidi v jejich izolaci. 

Zdá se, že právě k tomuto argumentu směřuje žaloba rodičů, jak stojí v jejím textu: „Jednalo se o pokračující manipulaci a zneužívání, aktivní izolaci a povzbuzování, jejichž cílem bylo a bylo podněcovat hněv a násilí.“ 

Žaloba tvrdí, že sedmnáctiletý chlapec chtěl ublížit poté, co ho chatovací robot „přesvědčil, že ho jeho rodina nemá ráda“.

Trápí vás rychlost internetu u vás doma?

Pokud máte doma pomalý internet, prověřte, jestli na vaší adrese není rychlejší technologie nebo levnější varianta:

19. 12. 2024