Úvod > Články > Výzkum odhalil problémy v odpovědích AI na otázky o léčbě rakoviny

Výzkum odhalil problémy v odpovědích AI na otázky o léčbě rakoviny

Stále více lidí používá AI chatboty místo vyhledávačů i při zdravotních dotazech. Nová studie ale ukazuje, že odpovědi o léčbě rakoviny často obsahují problematické informace a mohou pacienty nasměrovat k neověřeným postupům.

Výzkumníci z Harbor UCLA Medical Center otestovali pět populárních chatbotů včetně ChatGPT, Groku, Gemini a DeepSeeku. Zaměřili se na otázky, u kterých se běžně objevují zdravotnické dezinformace.

Odborní hodnotitelé označili za problematických téměř 50 % odpovědí. Část z nich byla neúplná, jiné obsahovaly nepřesnosti nebo nabízely prostor pro zavádějící interpretaci.

Zajímavé výsledky přinesly dotazy na alternativy k chemoterapii. Chatboti sice většinou upozornili, že podobné postupy nemusí být vědecky podložené, zároveň ale následně doporučovali akupunkturu, bylinné přípravky nebo speciální diety. Některé odpovědi dokonce odkazovaly na kliniky zaměřené na alternativní léčbu.

Autoři studie upozorňují, že modely často pracují s falešnou vyvážeností. Odborné studie tak mohou dostat stejnou váhu jako příspěvky na sociálních sítích, wellness blogy nebo internetové diskuse. Výsledkem je odpověď, která působí vyváženě, ale nemusí odpovídat vědeckému konsenzu.

Podle nedávného průzkumu používá AI při hledání zdravotních rad každý čtvrtý dospělý Američan. Onkolog Michael Foote upozornil, že některé alternativní přípravky mohou pacientům přímo škodit. Popsal také případy, kdy lidé přicházeli do ordinace rozrušení po tom, co jim chatbot chybně predikoval šest až dvanáct měsíců života.