Pouhé označení AI nemusí stačit, ČTÚ řeší rozdíly mezi úpravami a deepfake obsahem

Kdy musí být video, fotografie nebo jiný obsah označený jako vytvořený umělou inteligencí? ČTÚ řeší výklad evropských pravidel s úřady a médii. Rozdíl může být mezi drobnou úpravou záznamu a vytvořením realistického deepfake.

Český telekomunikační úřad řeší s médii, úřady a dalšími institucemi pravidla pro označování obsahu vytvořeného nebo upraveného umělou inteligencí. Evropský akt o umělé inteligenci sice stanovuje povinnosti transparentnosti, jejich použití v konkrétních situacích ale není vždy jednoznačné.

Jedním z problémů je rozlišení běžných technických úprav od zásadnějších zásahů do obsahu. Pokud AI pouze odstraní šum z nahrávky nebo upraví barvy obrazu, jde o jinou situaci než v případě, kdy vytvoří realistickou podobu člověka, který před kamerou vůbec nestál. Stejné označení pro všechny tyto případy nemusí divákovi poskytnout dostatek informací.

Článek 50 evropského aktu o umělé inteligenci řeší dva základní okruhy povinností. Prvním je informování lidí, například když komunikují s chatbotem nebo jsou vystaveni systému rozpoznávání emocí. Druhým je technická identifikovatelnost syntetického obsahu, například pomocí metadat. U realistických obrazových a zvukových materiálů je podstatné také to, zda je lze zaměnit za skutečný záznam.

ČTÚ uspořádal 15. října workshop se zástupci ministerstev, České televize, Seznam.cz a dalších organizací. Účastníci se věnovali také využití AI ve veřejné správě. Představený asistent může úředníkům pomáhat s dokumenty nebo přípravou návrhů, konečné rozhodnutí ale musí zůstat na odpovědné úřední osobě.

Diskuse upozornila i na riziko příliš častého označování. Pokud bude upozornění na AI přítomné téměř u každého obsahu, může ztratit vypovídací hodnotu. ČTÚ proto plánuje připravit metodické manuály a dokument s otázkami a odpověďmi, které mají pomoci vyjasnit sporné situace při uplatňování pravidel.

Ověřte si dostupnost internetu na vaší adrese

Jak rychlý internet můžete mít u vás doma? Vyplňte formulář níže a hned to zjistíte!

26. 10. 2026