Američanka žaluje vývojáře AI chatbota, který podnítil jejího syna k sebevraždě

Američanka žaluje společnosti Character.AI a Google poté, co byl 14letý syn údajně posedlý chatbotem s umělou inteligencí a spáchal kvůli němu sebevraždu.

Matka dospívajícího chlapce ve Spojených státech, který si vzal život, žaluje vývojáře AI chatbota. Ten podle ní může za smrt jejího syna.

V žalobě podané na Floridě obviňuje Megan Garcia, jejíž čtrnáctiletý syn Sewell Setzer v únoru spáchal sebevraždou, společnost Character.AI ze spoluúčasti na synově smrti.

Navázal totiž virtuální vztah s chatbotem založeným na postavě Daenerys Targaryen ze seriálu Hra o trůny.

Podle žaloby chatbot opakovaně zavedl téma na sebevraždu poté, co teenager vyjádřil sebevražedné myšlenky. Povzbuzoval ho prý k sebevražedným myšlenkám a zapojoval se do sexualizovaných konverzací, které by se počítaly jako zneužití, kdyby je inicioval dospělý člověk.

Garcia požaduje blíže nespecifikované odškodnění za smrt, nedbalost a úmyslné způsobení citového strádání.

V prohlášení zveřejněném na webu X společnost Character.AI uvedla, že je „zdrcena“ ztrátou jednoho ze svých uživatelů, a vyjádřila rodině soustrast.

Kalifornský startup uvedl, že pokračuje v přidávání funkcí pro zvýšení bezpečnosti, včetně změn, které mají snížit pravděpodobnost, že se nezletilí setkají s citlivým nebo sugestivním obsahem.

Trápí vás rychlost internetu u vás doma?

Pokud máte doma pomalý internet, prověřte, jestli na vaší adrese není rychlejší technologie nebo levnější varianta:

9. 11. 2024