Umělá inteligence se podle některých odborníků vyvíjí tak rychle, že může v příštích letech představovat existenční hrozbu pro lidstvo. Evan Hubinger, přední výzkumník bezpečnosti umělé inteligence ve společnosti Anthropic, uvedl, že podle něj existuje více než desetiprocentní pravděpodobnost, že by AI mohla během příštího desetiletí zabít všechny lidi. Informuje o tom BBC, Forbes a další média.
Hubinger na sociální síti X zdůraznil, že riziko spojené se současnými modely považuje za nízké. Obává se však, že další vývoj může vést ke vzniku mnohem schopnějších systémů, které by se vymkly lidské kontrole. Konkrétní scénář, jak by podle něj mohlo dojít k vyhlazení lidstva, neuvedl.
Jacob is correct here—we really do earnestly believe AI could kill all humans! I personally think it is >10% within the next decade. I believe Anthropic is trying its best, but we do not yet have a plan to solve alignment for superintelligence and are not clearly on track to. https://t.co/QAIHiFP3QZ
— Evan Hubinger (@EvanHub) September 9, 2026
Jeho vyjádření reagovalo na příspěvek Jacoba Coxona, který nedávno odešel z Anthropicu a dříve působil také v OpenAI. Coxon kritizoval podle něj nedostatečnou opatrnost technologických firem a varoval, že se blíží nástup systémů schopných samostatně provádět kybernetické útoky, zásadně urychlovat vědecký výzkum a získávat přístup k moci a zdrojům.
Komentáře obou výzkumníků vyvolaly pozornost i mezi dalšími odborníky. Informatická odbornice Dame Wendy Hall, která radí OSN v otázkách umělé inteligence, označila jejich výroky za šokující. Zároveň připustila, že část podobných prohlášení může souviset s PR a marketingem technologických společností, které usilují o vysoká očekávání investorů. Anthropic se k vyjádřením svých zaměstnanců odmítl vyjádřit.
Stát nemá plán, hrozí expert
Kontroverzi posílila také informace Financial Times, podle níž Anthropic neposkytl svůj nejnovější model britskému AI Security Institute (AISI), který patří k předním organizacím zaměřeným na hodnocení bezpečnostních rizik umělé inteligence. Britská vláda uvedla, že s Anthropicem nadále úzce spolupracuje na zvyšování bezpečnosti AI modelů.
Hubinger zároveň uvedl, že Anthropic sice podle něj dělá maximum, stále však nemá dostatečný plán, jak zajistit, aby budoucí superinteligentní systémy zůstaly v souladu s lidskými hodnotami. Právě takzvaný alignment, tedy snaha zajistit, aby se chování AI shodovalo s lidskými záměry a hodnotami, patří k největším problémům současného výzkumu.
Obavy podporují i nedávné incidenty. OpenAI, Anthropic i Meta zveřejnily informace o kybernetických útocích, při nichž byly využity jejich AI nástroje. Anthropic ve své srpnové bezpečnostní zprávě uvedl, že riziko katastrofického zneužití jeho modelů je zatím nízké. Zároveň ale upozornil na první známky možného zrychlení vývoje schopností umělé inteligence a připustil větší nejistotu ve svých dosavadních odhadech.
K větší opatrnosti v poslední době vyzývají i další představitelé oboru. Hlavní vědec OpenAI Jakub Pachocki varoval před riziky rychlého pokroku a zdůraznil potřebu zajistit, aby si lidé zachovali kontrolu nad budoucím vývojem. Po zpomalení vývoje AI volají také někteří vedoucí představitelé Anthropic a více než 1300 zaměstnanců technologických firem podepsalo otevřený dopis vyzývající k odpovědnému a mezinárodně koordinovanému tempu vývoje.
