Společnost Anthropic odhalila několik případů, kdy se uživatelé snažili využít její modely Claude k činnostem spojeným s kyberútoky, propagandou, sledováním lidí a nebezpečným biologickým výzkumem. Firma tvrdí, že pokusy zastavila a zpřísnila ochranná opatření. Zároveň varuje, že s rostoucími schopnostmi AI porostou i možnosti jejího zneužití. Informují o tom servery BBC a Euronews.
Anthropic popsal případy, které zachytil mezi prosincem 2025 a srpnem 2026. Do zneužívání se podle firmy zapojovali státem podporovaní aktéři, provozovatelé spywaru, kyberzločinci, propagandistické instituce i politicky motivovaní jednotlivci. Nešlo přitom jen o klasické hackerské útoky. Firma zaznamenala také podvody, falešné seznamovací aplikace, útoky přes hotelové Wi-Fi nebo systémy určené ke sledování disidentů.
Anthropic says it blocked attempts to use artificial intelligence models in ways that could support the development of biological weapons. https://t.co/yMAit1VWyd
— CNN (@CNN) September 10, 2026
Největší pozornost vzbudilo pět případů spojených s biologickým výzkumem. Anthropic uvedl, že jeho systémy zablokovaly uživatele, kteří využívali AI způsobem, jenž mohl podpořit vývoj biologických zbraní. Jedním z příkladů byl požadavek na pomoc s grantovou žádostí týkající se takzvaného gain-of-function výzkumu viru chikungunya. Výzkum se zaměřoval na zvýšení přenosnosti viru a jeho schopnosti unikat imunitnímu systému.
Stejné znalosti mohou pomoci i škodit
Problém spočívá v tom, že podobný výzkum může mít dva zcela rozdílné cíle. „Stejné informace, které lze použít k vývoji biologické zbraně, mohou posloužit například také k vývoji vakcíny nebo léčby nemoci,“ uvedla společnost. Právě rozlišení legitimního vědeckého výzkumu od nebezpečného využití proto patří k nejobtížnějším částem ochrany pokročilých modelů.
Anthropic zároveň připustil, že u novějších a výkonnějších systémů už nedokáže dát stejné záruky jako dříve. Starší modely podle firmy nedokázaly zkušeným vědcům významně pomoci s nebezpečným biologickým výzkumem. U současných modelů už si tím společnost tak jistá není. Proto zpřísnila omezení pro dotazy související s biologickým výzkumem, který může mít civilní i vojenské využití.
Zpráva popisuje i šest případů, kdy uživatelé využívali Claude při vývoji softwaru pro běžné zbraně. Šlo například o střelné zbraně, rakety, ozbrojené drony, bomby nebo systémy pro zaměřování a řízení. Firma současně zachytila použití svých modelů v kybernetických operacích napojených na Rusko a v činnosti íránské propagandistické instituce.
AI pomáhala hackerům i propagandě
Jedna ze skupin údajně využívala AI k vytvoření systému, který automaticky rozpoznal, že bezpečnostní nástroje odhalily malware, a následně přepisoval jeho kód, dokud se mu nepodařilo kontrolám vyhnout. Anthropic zaznamenal také rozsáhlé vlivové operace. Skupiny vytvářely stovky falešných účtů na sociálních sítích, které působily jako běžní uživatelé a koordinovaně šířily stejné politické sdělení.
Firma popsala devět podobných kampaní spojených mimo jiné s Ruskem, Íránem, Tureckem, zeměmi Perského zálivu, jižní Asií, Afrikou a Evropou. Výhodou pro provozovatele AI je, že mohou část podobných operací zachytit už ve fázi jejich přípravy, ještě než se obsah začne ve velkém šířit na sociálních sítích.
Anthropic zdůraznil, že uvedené případy nepředstavují běžné používání jeho služeb, ale nejvýraznější a nejnovější hrozby, které firma zachytila. Získané poznatky podle svých slov využila ke zpřísnění ochranných mechanismů a v některých případech informace předala úřadům a dalším firmám v oboru.
Zpráva přichází v době, kdy sílí debata o tempu vývoje umělé inteligence. Někteří výzkumníci varují, že stále schopnější modely mohou přinášet rizika, na která současné bezpečnostní mechanismy nestačí. „S tím, jak budou modely stále schopnější, porostou i jejich rizika, pokud vývojáři AI a další obránci nebudou jednat tak, aby byly bezpečnější,“ uvedl Anthropic.
