Úvod > Články > Elon Musk varoval před riziky umělé inteligence

Elon Musk varoval před riziky umělé inteligence

Elon Musk v podcastu znovu varoval před riziky umělé inteligence. Podle něj není zaručené, že AI přinese pozitivní budoucnost, a uvedl tři klíčové vlastnosti, které mají zabránit katastrofickým scénářům.

Technologický podnikatel Elon Musk dlouhodobě upozorňuje na nebezpečí spojená s umělou inteligencí. V novém rozhovoru s indickým miliardářem Nikhilem Kamatham zopakoval, že jde o mocnou technologii, která může být při špatném vývoji pro lidstvo destruktivní. „Není jisté, že budoucnost s AI bude pozitivní,“ řekl.

Musk, který založil OpenAI a později firmu xAI, zdůraznil, že umělá inteligence musí být navržena tak, aby hledala pravdu, nesklouzávala k nepřesnostem a nečerpala z neověřených informací. „AI můžete přivést k šílenství, když ji nutíte věřit věcem, které nejsou pravda,“ řekl. Jako příklad zmínil, že model pak vytváří závěry, které nejsou slučitelné s realitou a mohou být nebezpečné.

Dalšími dvěma klíčovými prvky jsou podle něj krása a zvídavost. Podle Muska je důležité, aby AI dokázala ocenit harmonii, dokázala poznat estetické kvality a zároveň chtěla věcem více rozumět. „Je zajímavější sledovat rozvoj a prosperitu lidstva než jeho zničení,“ dodal.

Musk také připomněl riziko takzvaných halucinací, tedy situací, kdy AI vytváří nepravdivé nebo zavádějící odpovědi. Uvedl příklad funkce na iPhonech, která letos generovala falešná upozornění na zprávy, včetně chybných sportovních výsledků. Apple následně přislíbil úpravu, která bude jasněji označovat, kdy text vytvořila AI.

O hrozbách hovoří i další experti. Geoffrey Hinton, bývalý viceprezident Googlu a jeden z průkopníků oboru, odhadl šanci na katastrofický scénář způsobený AI na 10 až 20 %. Krátkodobé problémy podle něj zahrnují halucinace či automatizaci některých pracovních pozic.

Foto: x.com / @elonmusk