Úvod > Články > Američtí politici požadují vyřazení X a Grok z obchodů s aplikacemi kvůli škodlivému obsahu

Američtí politici požadují vyřazení X a Grok z obchodů s aplikacemi kvůli škodlivému obsahu

Američtí demokratičtí senátoři vyzvali Apple a Google, aby dočasně stáhly aplikace X a Grok ze svých obchodů. Důvodem je šíření sexualizovaných deepfake obrázků, včetně obsahu se zneužíváním dětí.

Američtí demokraté tlačí na technologické giganty Apple a Google, aby zasáhly proti aplikacím X a Grok, které vlastní firma xAI Elona Muska. Podle senátorů umožňují tyto služby vytváření a šíření nelegálního a škodlivého obsahu.

Senátoři Ron Wyden, Ed Markey a Ben Ray Luján v otevřeném dopise vyzvali generální ředitele obou firem, aby okamžitě odstranili aplikace X a Grok z obchodů App Store a Google Play. Podle nich by měly zůstat stažené, dokud Elon Musk nezabrání generování a sdílení explicitních obrázků bez souhlasu zobrazených osob a obsahu se sexuálním zneužíváním dětí.

„Ignorování do očí bijícího chování platformy X by zesměšnilo vaše zásady moderace obsahu,“ uvedli senátoři s tím, že nečinnost by podkopala tvrzení Applu a Googlu, že jejich obchody s aplikacemi nabízejí bezpečnější prostředí než instalace aplikací mimo oficiální platformy.

Podle senátorů nástroje umožňují snadno vytvářet a masově šířit sexualizované deepfake obrázky, často bez souhlasu dotčených osob. Grok má být navíc využíván i k vytváření obsahu ponižujícího lidi na základě rasy nebo etnického původu.

Kritika už vyvolala regulační prověřování v několika zemích, včetně států v Evropě, Malajsii, Austrálii a Indii. Americké úřady zatím neoznámily, zda zahájí vlastní vyšetřování. Apple i Google se k výzvě senátorů bezprostředně nevyjádřily, xAI odpověděla automatickou zprávou.

X mezitím omezila generování obrázků pomocí Groku pouze na platící uživatele. Samostatná aplikace a webová verze ale podle médií stále umožňují vytváření explicitního obsahu bez ověření souhlasu. Apple i Google mají přitom přísná pravidla, která zakazují šíření materiálů se sexuálním zneužíváním dětí a jiného škodlivého obsahu.