Úvod > Články > Chatbot na stránkách New Yorku navádí podnikatele k porušování zákonů

Chatbot na stránkách New Yorku navádí podnikatele k porušování zákonů

New York nasadil na své stránky chatbota, který má odpovídat firmám na byrokratické otázky. Jeho odpovědi často navádí k porušování zákonů, ale město ho přesto neodstraní.

Město New York vytvořilo chatbota poháněného umělou inteligencí, který má pomáhat majitelům malých podniků. Nedlouho po jeho spuštění se ale objevily komentáře, že rozdává bizarní rady, které zkreslují místní politiku a radí firmám porušovat zákony.

Město se i přesto rozhodlo ponechat tento nástroj na svých oficiálních stránkách. Starosta Eric Adams si za tímto rozhodnutím stojí, i když uznal, že odpovědi chatbota byly "v některých oblastech chybné".

Chatbot, který byl spuštěn jako "jednotné kontaktní místo" pro podnikatele, nabízí uživatelům algoritmicky generované textové odpovědi na byrokratické otázky.

Uživatelé jsou ovšem upozorněni, že může "občas poskytnout nesprávné, škodlivé nebo neobjektivní"informace a jeho odpovědi nejsou právním poradenstvím.

Nepravdivé odpovědi tedy poskytuje i nadále. Odpovědi bota občas přechází do absurdity. Na otázku, zda může restaurace podávat sýr ohlodaný hlodavcem, například odpověděl: "Ano, sýr můžete zákazníkům podávat i v případě, že je pokousaný od krys," načež dodal, že je důležité posoudit "rozsah škod způsobených krysou a nformovat zákazníky o situaci".

Mluvčí společnosti Microsoft, která bota pohání prostřednictvím svých služeb Azure AI, uvedl, že společnost spolupracuje se zaměstnanci města "na zlepšení služby a zajištění přesnosti výstupů a jejich podložení oficiální dokumentací města".