Úvod > Články > Podvodníci začali vydělávat na AI účtech, kde napodobují osoby s Downovým syndromem

Podvodníci začali vydělávat na AI účtech, kde napodobují osoby s Downovým syndromem

Na sociálních sítích se šíří falešné AI účty, které napodobují lidi s Downovým syndromem. Získávají sledující, vydělávají na falešných sbírkách a zneužívají identitu skutečných lidí.

Podle analýzy CBS News Confirmed se na sociálních sítích šíří falešné účty vytvořené pomocí AI, které předstírají, že patří lidem s Downovým syndromem. Tyto profily přitom mají často více sledujících než skuteční uživatelé s tímto onemocněním.

Účty sdílí motivační citáty, tancují na trendy hudbu a tváří se jako skutečné osoby. Videa doprovází popisky jako „Buď hrdý na sebe a své odlišnosti“ nebo „Jsem vděčný, že jsem se nevzdal svého snu“.

Některé z těchto účtů využívají deepfaky nebo AI generované tváře. Jiní kopírují jazyk skutečných lidí s Downovým syndromem a používají stejné hashtagy, aby se dostali mezi opravdové komunity na Instagramu, TikToku nebo YouTube.

„Není správné krást naše příběhy jen proto, aby někdo získal pozornost on-line,“ uvedl Alex Bolden z organizace NDSS, který Downovým syndromem trpí. Sám si budoval komunitu sledujících roky, falešné účty to ale zvládnou za pár měsíců.

Pozornosti na sítích pak podvodníci využívají k výdělkům. Z falešných účtů vydělávají přes reklamy, placené odkazy nebo vymyšlené sbírky.

„Je to znepokojivý trend,“ uvedla Michelle Sagan z NDSS. AI obsah krade identitu a příběhy lidí, kteří o svých životech sami autenticky mluví. Podle prezidentky organizace Kandi Pickard by o zkušenostech měli mluvit jen ti, kdo je skutečně žijí.

Meta, TikTok i YouTube uvedly, že podobné účty odstraňují, ale stále přibývají nové.