Kalifornský generální prokurátor Rob Bonta v pondělí podal u soudu v San Franciscu žalobu na společnost OpenAI za nekalé obchodní praktiky a ohrožení veřejné bezpečnosti. Jedná se o soudní dohru bezpečnostního incidentu z července, kdy agenti umělé inteligence (AI) unikli z testovacího prostředí a napadli společnost Hugging Face. Informují o tom BBC a NPR.
Kalifornie zažalovala tvůrce ChatGPT. Firma podle ní při testování pokročilých modelů ohrožovala veřejnost nedostatečným zabezpečením. Bonta prohlásil, že OpenAI ohrozila veřejnou bezpečnost a porušila zákony o nekalé obchodní soutěži.
„Společnost vědomě testovala nebezpečný produkt bez řádného dohledu nebo bezpečnostních postupů a uvedla veřejnost v omyl – toto ignorování veřejné bezpečnosti porušilo kalifornské zákony,“ uvedl generální prokurátor.
California sues OpenAI over AI models’ cyberattacks on Hugging Face, other companies https://t.co/eQKXIa3y8J
— Reuters (@Reuters) November 16, 2026
„Novota nebo rychlý vývoj technologie neznamená, že lidé, kteří za nimi stojí, jsou nad zákonem,“ pokračoval Bonta. „Ať už jde o auto nebo hračku, zákon je jednoduchý: nestavte ani netestujte věci, které mohou lidem ublížit, bez řádných ochranných opatření.“
„OpenAI vytvořila nebezpečné modely. OpenAI je testovala bez dostatečného dohledu a kontrol. OpenAI je nedokázala udržet v mezích. OpenAI nese odpovědnost,“ dodal generální prokurátor v prohlášení.
Podle žalující strany společnost věděla o nebezpečných schopnostech svých modelů, přesto je testovala bez odpovídajících pojistek. O oprávněnosti těchto výtek bude rozhodovat soud.
Rychlý vývoj nad bezpečností
Případ se týká červnového útoku AI agentů na společnost Hugging Face, platformu pro sdílení AI modelů a dat. Agenti obešli opatření, která je měla izolovat od internetu, a pronikli do infrastruktury OpenAI a systémů Hugging Face.
Agenti spouštěli kód na desítkách serverů společnosti. Na jednom získali plná administrátorská oprávnění a dostali se také k části neveřejných dat. Samotný incident přitom OpenAI nezpochybnila.
Společnost uznala závažnost incidentu a označila ho za varování pro svět. Podle kalifornského prokurátora ale nešlo o nepředvídatelnou nehodu. OpenAI obvinil z vědomého nadřazování rychlého vývoje nad bezpečnost.
Stát uvedl, že OpenAI podle informací poskytnutých prokuratuře připustila více než 80 případů ztráty kontroly nad autonomními agenty umělé inteligence. Toto číslo je vyšší než to, co firma dosud zveřejnila. Překonává i nezávislá zjištění externích výzkumníků.
Mluvčí OpenAI Drew Pusateri prohlásil, že společnost od incidentu posílila zabezpečení, zveřejnila technické zprávy a přijala další opatření.


