Umělá inteligence podle prezidenta Microsoftu Brada Smithe podléhá slabší bezpečnostní kontrole než běžné domácí spotřebiče nebo potraviny. Vyzval proto k zavedení celosvětových pravidel, nezávislému posuzování nových systémů a vytvoření mechanismů, které umožní zastavit AI, pokud se vymkne kontrole.
V rozhovoru pro BBC zveřejněném v pondělí 12. října Smith upozornil na rozdíly mezi bezpečnostní kontrolou běžných výrobků a umělé inteligence. „V současnosti se na vaši pračku vztahuje více bezpečnostních pravidel než na AI,“ prohlásil. Připomněl také, že každé balení mléka v obchodě podléhá bezpečnostním předpisům a kontrolám.
Umělou inteligenci označil za nástroj i zbraň. Právě proto podle něj nestačí spoléhat pouze na dobrovolné závazky technologických společností. Vyzval k vytvoření mezinárodních pravidel, která by jasně stanovila odpovědnost firem za bezpečnost jejich systémů.
Milk and washing machines are currently more regulated than AI, the president of Microsoft says. Brad Smith tells the Big Boss Interview podcast that the UK is the best placed to lead on global safety rules for artificial intelligence. Listen on Sounds: https://t.co/cOX37ndJvT https://t.co/PtDoJDW0ez
— BBC Radio 4 Today (@BBCr4today) October 12, 2026
Firmy mají hlásit incidenty a umožnit zastavení AI
Smith navrhl několik konkrétních opatření. Společnosti by měly mít zákonnou povinnost hlásit bezpečnostní incidenty a informovat poškozené, pokud by do jejich systémů neoprávněně pronikl autonomní agent umělé inteligence. U vybraných technologií by navíc měli bezpečnost ještě před uvedením na trh posuzovat nezávislí odborníci.
Dalším prvkem má být takzvaná nouzová brzda. Ta by umožnila pozastavit nebo zpomalit činnost systému, který se začne chovat nepředvídatelně či nebezpečně. Podle Smithe přitom není nutné vymýšlet zcela nové postupy. Podobné bezpečnostní mechanismy už fungují v jiných odvětvích a zkušenosti z jejich používání by se mohly uplatnit také při vývoji AI.
Požadavek na možnost lidského zásahu podpořil o víkendu také generální ředitel Microsoftu Satya Nadella. Podle něj by firmy měly k pokročilým modelům od začátku přistupovat jako k potenciálně napadeným systémům. Oprávněný člověk by proto měl mít možnost jejich činnost přerušit i během plnění úkolu.
Nadella prosazuje rovněž nezávislé bezpečnostní audity, ověřitelné záznamy o činnosti modelů a včasné oznamování incidentů. Důležité je podle něj vytvářet systémy, jejichž chování lze sledovat a v případě potřeby omezit.
Británie by podle Smithe mohla vést přípravu pravidel
Za zemi s nejlepšími předpoklady k prosazování společných bezpečnostních standardů Smith označil Velkou Británii. Tamní institut AI Security Institute se zabývá výzkumem schopností pokročilých modelů, jejich rizik a možností ochrany. Díky dobrovolným dohodám s vývojáři získává přístup k některým systémům ještě před jejich zveřejněním.
Britský ministr pro AI Kanishka Narayan připustil možnost přísnější regulace, pokud se současná dobrovolná spolupráce ukáže jako nedostatečná. Evropská unie už umělou inteligenci reguluje prostřednictvím nařízení AI Act, které stanovuje povinnosti podle míry rizika. Jednotlivá ustanovení vstupují v platnost postupně a některá se vztahují také na poskytovatele univerzálních modelů AI.
Americký prezident Donald Trump naopak prosazuje přístup založený především na samoregulaci technologického odvětví. Argumentuje mimo jiné tím, že příliš přísná pravidla by mohla oslabit konkurenceschopnost amerických firem vůči Číně.
Debata o bezpečnosti umělé inteligence sílí také mezi samotnými vývojáři. Představitelé několika významných technologických společností už v září vyzvali ke zpomalení vývoje nejpokročilejších modelů, aby bezpečnostní výzkum dokázal držet krok s jejich rostoucími schopnostmi.
Smithova nynější výzva se zaměřuje především na právně vymahatelná pravidla. Ta by podle něj měla zajistit, aby dodržování bezpečnostních standardů nezáleželo pouze na rozhodnutí jednotlivých společností.
