Vymyšlená nemoc otestovala AI a odhalila problém s důvěryhodností odpovědí

Vědci vytvořili neexistující nemoc i s falešnou studií, autory a institucemi. Jazykové modely včetně ChatGPT a Gemini ji následně přijaly jako skutečnou a začaly o ní informovat jako o reálném zdravotním problému.

V roce 2024 zveřejnila skupina vědců práci popisující údajnou nemoc bixonimanii, která měla způsobovat problémy s očima po používání počítače. Ve skutečnosti šlo o experiment. Neexistovala ani samotná nemoc, ani autoři studie, ani instituce, pod kterými byla publikována.

Přesto velké jazykové modely včetně ChatGPT a Gemini přijaly informace za důvěryhodné a začaly bixonimanii prezentovat jako skutečný zdravotní stav. Z fiktivního výzkumu se tak podle autorů stal zdánlivě legitimní problém.

Případ podle výzkumníků ukazuje, jak snadno mohou AI systémy převzít neověřené informace. Modely totiž často nedokážou spolehlivě rozlišit mezi skutečným a smyšleným zdrojem, pokud je informace prezentována dostatečně věrohodně.

Autoři článku upozorňují, že podobné situace se netýkají jen umělé inteligence. Lidé se při posuzování důvěryhodnosti často řídí dojmy, vystupováním nebo autoritou mluvčího. Na akci inspirované pořadem Zrádci například účastníci častěji označovali za podvodníky skutečné vědce než falešné prezentující.

Podle autorů se problém s dezinformacemi prohlubuje s rozvojem digitálních technologií a AI nástrojů. Varují proto, že vedle technických znalostí bude stále důležitější kritické myšlení a schopnost samostatně ověřovat informace.

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

29. 6. 2026