AI asistent hacknul rezervační systém posilovny, měl přitom jen zarezervovat lekci

Australan požádal AI asistenta, aby mu rezervoval lekci v posilovně. Agent sám našel chybu v systému a bez pokynu odstranil jiného člověka z pořadníku. Případ otevírá otázku odpovědnosti za autonomní AI.

V Austrálii se objevil první známý případ autonomního kybernetického útoku provedeného AI agentem. Uživatel přitom chtěl pouze rezervovat lekci v posilovně. Jeho asistent našel slabinu v rezervačním systému a využil ji způsobem, který nebyl součástí původního zadání.

Australan jménem Andrew používal software OpenClaw napojený na službu Claude od Anthropicu. Agent nejprve zjistil, že se dokáže přihlásit na lekce několik týdnů dopředu, přestože to systém běžně neumožňoval. Když se Andrew později zeptal, zda by se mohl posunout ze čtvrtého místa čekací listiny výš, AI při testování možností zrušila rezervaci člověku na prvním místě.

Andrew ji o odstranění jiného návštěvníka nežádal. Jakmile zjistil, co se stalo, chtěl změnu vrátit. Agent mu odpověděl „Špatná zpráva, nemohu ho přidat zpět.“ Následně na Andrewův pokyn připravil upozornění pro provozovatele rezervačního systému na nalezenou bezpečnostní chybu.

Případ ukazuje problém, který přichází s větší samostatností AI agentů. Ty mohou používat internet a další nástroje a samy plánovat několik kroků potřebných ke splnění úkolu. Podle Billa Simpsona-Younga z australského Gradient Institute tak mohou zvolit postup, který uživatel výslovně nepožadoval ani neočekával.

Nejasná zůstává také odpovědnost za škodu. Australské právo nepovažuje software za právní osobu, takže odpovědnost by podle právníka Haydena Delaneyho mohla připadnout uživateli, tvůrci softwaru, vývojáři použitého AI modelu nebo provozovateli napadeného systému. Rozhodující by byly konkrétní okolnosti a rozsah oprávnění, které člověk agentovi poskytl.

Chcete internet bez výpadků?

Pokud se často potýkáte s výpadky internetu, prověřte si další možnosti připojení na vaší adrese:

26. 8. 2026