Skupina odborníků na umělou inteligenci v čele s Elonem Muskem naléhá na šestiměsíční pozastavení jejího vývoje. Obává se totiž o bezpečnost lidstva. Závod ve vývoji AI se podle signatářů vymknul a může vést ke ztrátě kontroly nad civilizací. Informují o tom New York Post a Reuters.
Více než tisícovka expertů v oblasti AI v otevřeném dopise publikovaném neziskovou organizací Future of Life Institute vyzývá k šestiměsíčnímu pozastavení výcviku pokročilých modelů umělé inteligence, napsal americký deník New York Post.
V této pauze by měly přijít laboratoře se sdílenými bezpečnostními protokoly kontrolovanými externími stranami. Dopis, jehož podepsal i miliardář Elon Musk, v prvé řadě zmiňuje hrozby šíření nepravd a dezinformací.
Musk, experts urge pause on AI systems, citing ‘risks to society’ https://t.co/VLgNONAyo0 pic.twitter.com/kTTCyqJTeJ
— New York Post (@nypost) March 29, 2023
Dále se v něm píše, že AI může zvýšit nezaměstnanost a rozvinout „nelidskou mysl“, v jejímž porovnání by ta naše působila zastarale. Tato inteligence by nás mohla převýšit, což by mohlo vést ke ztrátě kontroly nad civilizací.
„Tato pauza by měla být veřejná a ověřitelná,“ stojí v petici. „Měla by zahrnovat všechny klíčové aktéry.“ Dopis podepsal i spoluzakladatel Apple Steve Wozniak, spoluzakladatel Pinterestu Evan Sharp či experti na AI z laboratoří DeepMind.
Závod, který se vymknul kontrole
„Výkonné systémy umělé inteligence by měly být vyvíjeny pouze tehdy, když jsme si zcela jisti jejich pozitivním vlivem a zvládnutelnými riziky,“ píše se dále podle agentury Reuters v dopise, který překvapivě nepodepsal šéf OpenAI Sam Altman.
On přitom v nedávném rozhovoru pro ABC News přiznal, že se AI „trošku bojí“. „Musíme být opatrní,“ uvedl Altman. Právě OpenAI stojí za kontroverzním chatbotem ChatGPT a nejnovější verzí ChatGPT-4, která zachází ještě dál.
„Umělá inteligence mě stresuje,“ přiznal začátkem měsíce Musk, který využívá AI v systémech autopilota u vozů Tesla a patří mezi sponzory OpenAI. Neomezený vývoj AI označil za jednu z největších hrozeb pro lidstvo.
Objev jaderné fyziky zavedl lidstvo k výrobě jaderné energie, ale vyzbrojil jej jadernými zbraněmi. Podobný scénář podle něj hrozí i ve vývoji AI. Zpráva upozorňuje, že závod ve vývoji různých jazykových modelů technologických gigantů se už vymknul kontrole.
