xAI nedokázala zastavit zneužívání Groku, deepfaky generuje dál

AI chatbot Grok od společnosti xAI nadále vytváří sexualizované snímky skutečných lidí. Děje se to i přes dřívější sliby firmy, že podobné výstupy omezí.

AI chatbot Grok od společnosti xAI nadále umožňuje vytvářet sexualizované deepfake snímky skutečných lidí bez jejich souhlasu. Nové případy se objevují i po lednových opatřeních, která měla podobné výstupy omezit.

Uživatelé hledají způsoby, jak omezení obejít. Místo přímých požadavků na odhalování postav zadávají kombinace obrázků nebo změny póz. AI pak vytváří nové snímky, které zvýrazňují intimní části těla nebo upravují oblečení.

Množství těchto výstupů sice oproti začátku roku kleslo, deepfaky ale úplně nezmizely. Některé obrázky a videa se dokonce dál šíří na síti X, i když část z nich byla později odstraněna kvůli porušení pravidel.

Experti upozorňují, že je obtížné zjistit skutečný rozsah problému. Velká část obsahu může vznikat mimo veřejně dostupné prostředí, například v soukromých konverzacích nebo aplikacích.

Firma xAI tvrdí, že má zavedené ochrany a průběžně je upravuje. Kritici ale namítají, že uživatelé dokážou pravidla opakovaně obcházet a zneužívání tím nekončí.

Celou situaci řeší úřady v několika zemích a probíhají i soudní spory. Případ přichází v době, kdy Muskovy firmy dál rozšiřují aktivity v oblasti AI a hledají nové investice.

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

5. 5. 2026