EkonomikaAI se vymkla kontrole a napadla firmu. Kalifornie žaluje OpenAI

AI se vymkla kontrole a napadla firmu. Kalifornie žaluje OpenAI

Kalifornský generální prokurátor Rob Bonta v pondělí podal u soudu v San Franciscu žalobu na společnost OpenAI za nekalé obchodní praktiky a ohrožení veřejné bezpečnosti. Jedná se o soudní dohru bezpečnostního incidentu z července, kdy agenti umělé inteligence (AI) unikli z testovacího prostředí a napadli společnost Hugging Face. Informují o tom BBC a NPR.

Kalifornie zažalovala tvůrce ChatGPT. Firma podle ní při testování pokročilých modelů ohrožovala veřejnost nedostatečným zabezpečením. Bonta prohlásil, že OpenAI ohrozila veřejnou bezpečnost a porušila zákony o nekalé obchodní soutěži.

„Společnost vědomě testovala nebezpečný produkt bez řádného dohledu nebo bezpečnostních postupů a uvedla veřejnost v omyl – toto ignorování veřejné bezpečnosti porušilo kalifornské zákony,“ uvedl generální prokurátor.

„Novota nebo rychlý vývoj technologie neznamená, že lidé, kteří za nimi stojí, jsou nad zákonem,“ pokračoval Bonta. „Ať už jde o auto nebo hračku, zákon je jednoduchý: nestavte ani netestujte věci, které mohou lidem ublížit, bez řádných ochranných opatření.“

„OpenAI vytvořila nebezpečné modely. OpenAI je testovala bez dostatečného dohledu a kontrol. OpenAI je nedokázala udržet v mezích. OpenAI nese odpovědnost,“ dodal generální prokurátor v prohlášení.

Podle žalující strany společnost věděla o nebezpečných schopnostech svých modelů, přesto je testovala bez odpovídajících pojistek. O oprávněnosti těchto výtek bude rozhodovat soud.

Rychlý vývoj nad bezpečností

Případ se týká červnového útoku AI agentů na společnost Hugging Face, platformu pro sdílení AI modelů a dat. Agenti obešli opatření, která je měla izolovat od internetu, a pronikli do infrastruktury OpenAI a systémů Hugging Face.

Agenti spouštěli kód na desítkách serverů společnosti. Na jednom získali plná administrátorská oprávnění a dostali se také k části neveřejných dat. Samotný incident přitom OpenAI nezpochybnila.

Společnost uznala závažnost incidentu a označila ho za varování pro svět. Podle kalifornského prokurátora ale nešlo o nepředvídatelnou nehodu. OpenAI obvinil z vědomého nadřazování rychlého vývoje nad bezpečnost.

Stát uvedl, že OpenAI podle informací poskytnutých prokuratuře připustila více než 80 případů ztráty kontroly nad autonomními agenty umělé inteligence. Toto číslo je vyšší než to, co firma dosud zveřejnila. Překonává i nezávislá zjištění externích výzkumníků.

Mluvčí OpenAI Drew Pusateri prohlásil, že společnost od incidentu posílila zabezpečení, zveřejnila technické zprávy a přijala další opatření.

Doporučujeme

Americký důstojník podezřelý ze špionáže pro Rusko je v armádní vazbě

Americký armádní důstojník, kterého britská policie zadržela kvůli podezření ze špionáže ve prospěch Ruska, byl předán do vazby americké armády. Oznámila to britská protiteroristická policie, která se případem původně zabývala. Jednačtyřicetiletý muž byl zadržen minulý týden poblíž města Gloucester na jihozápadě Anglie.

Američané před Vánocemi brzdí nákupy. Tržby rostly jen o 0,2 procenta

Američané začínají být před vánoční sezonou opatrnější při utrácení. Maloobchodní tržby ve Spojených státech v říjnu vzrostly pouze o 0,2 procenta, zatímco v září se zvýšily o 0,8 procenta. Spotřebitelé omezovali především nákupy automobilů, nábytku a oblečení. Internetovým obchodům se naopak dál dařilo.

Philippe Diallo vyzve Infantina v boji o vedení FIFA. Francouzský svaz jeho kandidaturu schválil

Francouzský fotbalový funkcionář Philippe Diallo se chce ucházet o post prezidenta Mezinárodní fotbalové federace FIFA. Jeho kandidaturu podpořili představitelé UEFA a jednomyslně ji schválil také Francouzský fotbalový svaz. Současný šéf francouzského fotbalu tak hodlá vyzvat Gianniho Infantina, který stojí v čele FIFA od roku 2016.

Ukrajina zasáhla Krymský most, podle Zelenského v odvetě, Moskva slíbila opravu

Ukrajina zasáhla a vážně poškodila Krymský most, který spojuje ruskou pevninu s okupovaným poloostrovem Krym. Ukrajinský prezident Volodymyr Zelenskyj na síti X napsal, že úder byl výsledkem několikatýdenní operace a odvetou za opakované ruské útoky na ukrajinskou infrastrukturu. Správa Krymu mezitím oznámila, že železniční doprava po mostě byla obnovena, ale automobily musí využít trajekty, nebo objet Azovské moře po pevnině. Mluvčí Kremlu Dmitrij Peskov již slíbil opravu. Dřívější zprávy médií uváděly, že se po zásahu zřítila část silničního mostu i s obloukem a že poškozena byla i železniční sekce, Moskva však rozsah škod oficiálně neupřesnila.

Bývalý kosovský prezident dostal další trest. Z vazby ovlivňoval svědky

Bývalý kosovský prezident Hashim Thaçi dostal dalších 17 měsíců vězení za pokusy ovlivňovat svědky a maření spravedlnosti. Soud v Haagu rozhodl, že z vazby předával důvěrné informace a pokyny ke svědeckým výpovědím. Nový trest si má odpykat odděleně od 25letého trestu za válečné zločiny, který mu soud uložil v září.

Návrh závěrečného textu COP31 budí kontroverze. Státy rozdělují sporné požadavky

Australský ministr pro změnu klimatu Chris Bowen, který vede jednání na klimatickém summitu COP31 v tureckém městě Antalya, předložil návrh textu konečného politického rozhodnutí konference. Zahrnuje opatření proti změně klimatu, na nichž se státy zatím neshodují, přičemž sporné požadavky budící kontroverze. Chce zjistit, co jsou jednotlivé země ochotny přijmout a co odmítnou.

ANALÝZA: Rusko na Ukrajině vojensky propadá, to však neznamená, že nemůže vyhrát

Válka na Ukrajině trvá pátým rokem a Rusko ani letos nedosáhlo významnějších územních zisků. Na bojišti se mu naopak příliš nedaří. Dva scénáře, jak vyhrát válku, se podle analytiků ruskému prezidentovi Vladimirovi Putinovi nepodařilo naplnit. Jeho cílem bylo způsobit kolaps ukrajinské armády a amerického prezidenta Donalda Trumpa přimět k ústupkům. Nyní se podle expertů zaměřuje na další dva scénáře. Vyžadují čas a trpělivost, mohou však být o to nebezpečnější.

Novým Jamesem Bondem bude Robert Pattinson. Roli agenta 007 převezme po Danielu Craigovi

Spekulace o tom, kdo převezme roli nejslavnějšího filmového agenta, jsou u konce. Novým Jamesem Bondem se stane čtyřicetiletý britský herec Robert Pattinson, známý především ze ságy Stmívání a filmu Batman. Jeho obsazení v pondělí 16. listopadu oficiálně potvrdilo studio Amazon MGM. Připravovaný snímek má do kin dorazit v roce 2028 a zahájí novou éru slavné špionážní série.

Ministři EU schválili další sankce proti Rusku, na seznam přibylo 145 jmen

Ministři zahraničí Evropské unie dnes schválili další sankce proti ruským osobám a subjektům. Na sankční seznam přibylo 145 jmen. Informovala o tom Rada EU, která zastupuje členské státy. Opatření se zaměřují zejména na ruské banky, energetické společnosti, firmy napojené na takzvanou stínovou flotilu a osoby a organizace zapojené do dezinformačních kampaní a kybernetických útoků.

Žaludy mohou předpovědět nárůst počtu klíšťat

Množství žaludů v lese může napovědět, kolik klíšťat se objeví za dva roky. Američtí vědci během více než 35 let výzkumu zjistili, že na jejich počty mají výraznější vliv myši než jeleni. Výsledky mohou pomoci lépe předvídat riziko nákazy lymskou boreliózou.

Pět zemí EU chystá deportační středisko ve Rwandě, fungovat by mohlo příští rok

Rakousko, Německo, Nizozemsko, Dánsko a Řecko chtějí ve Rwandě deportační středisko pro odmítnuté žadatele o azyl, které není možné vyhostit do jejich zemí původu. Dnes to podle agentury APA společně oznámili rakouský kancléř Christian Stocker a dánská premiérka Mette Frederiksen. Pětice států EU očekává, že jednání s africkou zemí budou rychlá a že první odmítnuté žadatele o azyl středisko ve Rwandě přijme už v příštím roce.

Putin ohledně Ukrajiny slevuje, řekl před odletem do Asie prezident Trump

Ruský prezident Vladimir Putin v otázce Ukrajiny trochu ustupuje, uvedl dnes americký prezident Donald Trump s tím, že Putin by mohl být neústupnější. Trump to řekl novinářům před Bílým domem před odletem vrtulníkem Marine One, píše agentura Reuters. Ruská válka na Ukrajině bude podle Trumpa jedním z témat jeho blížící se schůzky s Putinem a čínským prezidentem Si Ťin-Pchingem.

Bude se Trumpův dědic MAGA ucházet o Bílý dům? Vance si s rozhodnutím dává načas

J. D. Vance se někdy příští rok rozhodne, zda bude v roce 2028 kandidovat na post prezidenta. Americký viceprezident to řekl v rozhovoru s televizí Fox News. Podle osob z jeho blízkého okolí přitom zvažoval, že se o Bílý dům ucházet nebude.

Nesvěřujme rozhodnutí o zabití robotům, zní z Ženevy. OSN jedná o autonomních zbraních

Umělá inteligence (AI) a autonomní systémy mění moderní válčení. Ukrajinská armáda se kvůli nedostatku lidské síly stále více spoléhá na robotické systémy, zatímco vzdušný prostor ovládly drony. USA ve válce s Íránem zase použily AI k určování cílů. Obavy z nástupu autonomního válčení se od pondělí projednávají na sedmé hodnotící konferenci smluvních stran Úmluvy o některých konvenčních zbraních (CCW).

Lindsay Clancy obviněnou z vraždy jejích dětí čeká příští rok další soud

Američanka Lindsay Clancy, obviněná z vraždy svých tří malých dětí, se příští rok znovu postaví před soud. Soudce William Sullivan stanovil začátek nového procesu na 29. března 2027. Zatím není oficiálně jasné, zda bude žena čelit stejným obviněním jako při prvním procesu, tedy třem případům vraždy prvního stupně.
Reklama
Reklama
Reklama
Reklama