Úvod > Články > Pojišťovny chtějí snížit rizika AI, začínají nabízet nový typ pojištění

Pojišťovny chtějí snížit rizika AI, začínají nabízet nový typ pojištění

Některé pojišťovny začínají nabízet speciální pojištění pro selhání AI agentů. Mezi častá rizika patří úniky dat, chyby modelů i právní odpovědnost.

AI agenti se rychle zařazují do firemních procesů a přebírají úkoly zákaznické podpory, náboru nebo cestovního poradenství. S tím ale roste i riziko chyb, za které mohou nést odpovědnost samotné firmy.

Několik pojišťoven proto začalo nabízet specializované pojištění pro selhání AI agentů. Startupy i velcí hráči věří, že tím mohou přinést více bezpečnosti a určitou formu regulace tam, kde státní dozor zatím nestíhá. Michael von Gablenz z německé Munich Re připomněl, že například bezpečnostní pásy v autech se prosadily i díky tlaku pojišťoven: „Když se díváme na starší technologie, pojištění hrálo velkou roli, a věřím, že ji může hrát i u AI.“

Firmy podle pojišťoven řeší širokou škálu rizik, od úniků dat a jailbreaků přes halucinace modelů až po právní odpovědnost či poškození reputace. To potvrzuje i Rajiv Dattani z amerického startupu AIUC, který vyvíjí standardy pro AI agenty. „Dobrovolné závazky firem nestačí,“ uvedl a dodal, že pojištění může fungovat jako třetí strana dohlížející na rizika.

AIUC letos spustil první certifikaci AI agentů s názvem AIUC-1, která hodnotí bezpečnost, spolehlivost, práci s daty, odpovědnost i společenská rizika. Certifikace má sloužit jako audit, kterým se mohou firmy pochlubit zákazníkům i pojišťovnám. Společnost navíc připravuje standard zaměřený na riziko sebevražedného nebo sebepoškozujícího obsahu. Cristian Trout z AIUC vysvětlil: „Pojišťovny chtějí vědět, jak často k událostem dochází a jak jim lze předejít.“

Pojištění AIUC nabízí krytí až do 50 milionů dolarů (1,04 miliardy korun) za škody způsobené AI agenty, například halucinacemi, úniky dat nebo porušením autorských práv. Podobnou nabídku spustila i kanadská Armilla, která hlásí rychle rostoucí poptávku napříč odvětvími. Její CEO Karthik Ramakrishnan uvedl: „AI je jedna z nejdemokratičtějších technologií. Přijímá ji každý typ firmy, a proto poptávka přichází odevšud.“

AI pojištění nabízí také zmíněná Munich Re, která kryje hlavně halucinace modelů a zvažuje rozšíření o další rizika. Ekonomka Gillian Hadfield připomíná, že kombinace státní regulace a tržních mechanismů může fungovat lépe než spoléhání na vlády samotné. Pojištění podle ní může motivovat vývojáře, aby dodržovali nové bezpečnostní standardy a nezvyšovali riziko pro své klienty. Podle Hadfield bude vedle trhu s AI růst i trh nezávislých ověřovacích služeb, které budou hodnotit bezpečnost modelů.