Protext ČTKMicrosoft a organizace z různých odvětví spouštějí Iniciativu pro transparentnost umělé inteligence...

Microsoft a organizace z různých odvětví spouštějí Iniciativu pro transparentnost umělé inteligence s cílem posílit důvěru podniků v modely a agenty umělé inteligence

Redmond (USA) 18. listopadu 2026 (PROTEXT/PRNewswire) – V rámci nové Iniciativy pro transparentnost umělé inteligence spolupracuje společnost Microsoft s více než 40 organizacemi, včetně společností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, na prosazování společného přístupu k transparentnosti, bezpečnosti a správě umělé inteligence napříč modely a poskytovateli. Microsoft rovněž zajistí větší přehlednost ohledně toho, jak modely a agenti umělé inteligence vzájemně komunikují s podnikovými daty v rámci svých produktů a služeb

Organizace mohou sledovat velkou část aktivit souvisejících s modely umělé inteligence, často však nedokážou rekonstruovat, co se odehrálo mezi zadáním požadavku a výsledkem, což ztěžuje nezávislé ověření chování modelu. V úterý na konferenci Microsoft Ignite oznámil předseda představenstva a generální ředitel společnosti Microsoft Satya Nadella další fázi závazku společnosti Microsoft k zajištění větší bezpečnosti umělé inteligence: Iniciativu pro transparentnost umělé inteligence, která představuje společné úsilí se zákazníky a partnery o zavedení společného, otevřeného přístupu k bezpečnosti a správě napříč modely a poskytovateli. Tato iniciativa vychází z jednoduchého principu: větší autonomie umělé inteligence vyžaduje větší transparentnost.

„Aby byly bezpečnostní kontroly účinné, potřebuje každá organizace větší transparentnost samotného modelu,“ uvedla Hayete Gallotová, výkonná viceprezidentka divize Microsoft Security. „Díky této práci zajistíme větší transparentnost u všech modelů. Jedná se o zásadní krok k chytřejšímu a silnějšímu omezení rizik, který nám umožní lépe zajistit odpovědnost a sledovatelnost.“

Podniky propojují modely umělé inteligence s daty, nástroji, přihlašovacími údaji a infrastrukturou, což agentům umožňuje provádět akce bez lidského schválení v každém kroku. Stávající kontrolní mechanismy mohou sledovat velkou část aktivity kolem modelů umělé inteligence, ale nemohou vidět, co se děje uvnitř těchto modelů, ani nezávisle ověřit jejich vlastní zprávy o chování. To omezuje schopnost organizací porozumět kontextu, který stojí za akcemi agenta. Tato mezera v důkazech vytváří rizika v oblasti bezpečnosti, dodržování předpisů, auditu a odpovědnosti. Bezpečnostní týmy potřebují novou architekturu důvěry, aby mohly řešit rostoucí rizika ze strany těch, kdo mají přístup do systémů, která představují stále schopnější agenti umělé inteligence.

„Vzhledem k tomu, že se agenti umělé inteligence stále hlouběji začleňují do podnikových operací, potřebují bezpečnostní týmy jasný přehled o tom, k čemu tito agenti přistupují, jaké akce provádějí a jak lze tyto akce ověřit,“ uvedla Aanchal Guptová, ředitelka pro bezpečnost ve společnosti Adobe. „Vytvoření společného přístupu k transparentnosti umělé inteligence v rámci celého odvětví je zásadní pro posílení důvěry a pro to, aby organizace mohly s důvěrou inovovat při zachování bezpečnosti a odpovědnosti.“

Od principů k praxi

Tato iniciativa se skládá ze tří částí. Za prvé, Microsoft rozšíří svou účast v Iniciativě pro standardy SI agentů Národního institutu pro standardy a technologie (NIST) a na základě jeho výzkumu vyvine otevřené, odvětvové standardy pro transparentnost, bezpečnost a správu umělé inteligence. Za druhé, Microsoft spolupracuje s více než 40 organizacemi, včetně společností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, na vývoji otevřených standardů pro systémy umělé inteligence, které budou odpovědné, nezávisle ověřitelné a bezpečné již od samého návrhu, bez ohledu na model či poskytovatele.

Zatřetí, Microsoft začlení tuto práci do produktů Microsoft AI, Microsoft Foundry a Microsoft Copilot, což zákazníkům umožní využívat výsledné podklady ve svých nástrojích pro bezpečnost a dodržování předpisů, ať už od společnosti Microsoft, nebo od jiných poskytovatelů.

„Naši klienti chtějí s umělou inteligencí postupovat rychleji a neměli by být nuceni volit mezi inovací a bezpečností,“ uvedl John Israel, globální ředitel pro informační bezpečnost v KPMG International. „Důvěra v umělou inteligenci vyžaduje transparentnost, vysvětlitelnost a odpovědný dohled. Jsme hrdí na to, že spolupracujeme s Microsoftem na Iniciativě pro transparentnost umělé inteligence, abychom pomohli zavést otevřené standardy pro celé odvětví, které organizacím poskytnou přehled a kontrolu potřebnou k zodpovědnému nasazení umělé inteligence ve velkém měřítku.„

Jasná odpovědnost

Agenti s přístupem k datům, nástrojům a přihlašovacím údajům představují rizikový profil privilegovaného zaměstnance, ale pracují rychlostí a v měřítku stroje, což činí nezávislý dohled nezbytným.

Odpovědnost zůstává na organizaci. Když dojde k něčemu závažnému, vedoucí pracovníci se zodpovídají zákazníkům, zaměstnancům, představenstvům, auditorům a regulačním orgánům. Svalovat vinu na umělou inteligenci není řešením a „důvěřovat modelu“ není kontrolní mechanismus.

Iniciativa je navržena tak, aby fungovala napříč modely a poskytovateli, včetně uzavřených i otevřených modelů, takže vývojářské týmy mohou měnit nebo aktualizovat modely, na nichž jejich agenti fungují, aniž by tím ohrozily schopnost IT a bezpečnostních týmů je bezpečně spravovat nebo schopnost týmů pro dodržování předpisů prověřovat jejich činnosti.

„Jak organizace podnikají další kroky ve své transformaci pomocí AI, potřebují pevný základ důvěry a jistoty, na kterém mohou stavět,“ uvedl Harpreet Sidhu, globální vedoucí pro kyberbezpečnost ve společnosti Accenture. „Iniciativy, jako je tato od společnosti Microsoft, které zaujímají otevřený, odvětvím řízený přístup k transparentnosti AI, mohou pomoci při zabezpečení modelů AI a jejich vybavení kontrolními mechanismy a správou. Accenture je hrdá na to, že v této oblasti spolupracuje s Microsoftem a dalšími vedoucími podniky.“

Vidět, ověřovat, kontrolovat

Společnost Microsoft je přesvědčena, že každá organizace by měla být schopna vidět, k čemu systémy umělé inteligence přistupují a co dělají, nezávisle ověřovat jejich činnosti a kontrolovat, co je jim povoleno dělat.

  • Sledujte: vědět, o co byla umělá inteligence požádána a k čemu byla oprávněna, který model a runtime byly použity, k jakým datům a nástrojům měla přístup a jaké akce provedla. Průběžně sledovat aktivitu agentů a signály rizika ve srovnání se zásadami a prahovými hodnotami.
  • Ověřujte: agenti nemohou být jediným zdrojem pravdy o svém vlastním chování a nelze se spoléhat na to, že se pokročilé modely budou řídit samy. Důkazy týkající se identity agenta, delegovaného záměru a akcí by měly identifikovat jejich zdroj (model, příslušné běhové prostředí nebo nezávislé systémy, jako jsou systémy pro správu identit a zásad), aby bylo možné signály hlášené modelem porovnat s nezávisle pozorovanými záznamy. Organizace by měly být schopny nezávisle ověřovat činnost AI pomocí svých vlastních systémů zabezpečení a dodržování předpisů, aniž by se spoléhaly výhradně na popis chování poskytovatele modelu.
  • Kontrolujte: mějte pod kontrolou, co smí AI dělat. Jasné důkazy o účelu, vlastníkovi, datech a delegovaných pravomocích každého pracovního postupu pomáhají organizacím prosazovat jejich zásady ještě předtím, než dojde k závažným akcím, a rekonstruovat, co se stalo během vyšetřování, omezení šíření, obnovy a auditů. Tyto důkazy by měly zůstat v jejich držení i při změně modelů a poskytovatelů. Organizace by si měly zachovat kontrolu nad tím, k jakým datům mají jejich agenti přístup a jak je tento přístup řízen, bez ohledu na model nebo poskytovatele.

 

Zapojte se

Organizace, které mají zájem podílet se na utváření této iniciativy nebo sledovat její pokrok, se mohou dozvědět více a zaregistrovat se na adrese aka.ms/learnmoreAItransparency.

Sledujte novinky z konference Microsoft Ignite, kde Microsoft a přední představitelé odvětví budou sdílet poznatky o tom, jak mohou organizace s důvěrou spravovat modely umělé inteligence a agenty. Další informace najdete na blogu Microsoft Security.

 

Další informace (pouze pro novináře): Microsoft Media Relations, We. Communications pro Microsoft, (425) 638-7777, rapidresponse@wecommunications.com / Poznámka pro redaktory: Další informace, novinky a názory společnosti Microsoft najdete na webu Microsoft Source na adrese https://news.microsoft.com/source. Odkazy na webové stránky, telefonní čísla a názvy funkcí byly v době zveřejnění správné, ale mohly se změnit. V případě potřeby mohou novináři a analytici kontaktovat tým Microsoft Rapid Response Team nebo jiné příslušné kontaktní osoby uvedené na stránce https://news.microsoft.com/microsoft-public-relations-contacts.

ČTK Connect ke zprávě vydává obrazovou přílohu, která je k dispozici na adrese https://www.protext.cz/zpravy/60110.

Doporučujeme

Bajkal se po desetiletích vysychání znovu plní vodou

V povodí Bajkalu přibývá vody, hladina jezera stoupá a okolní krajina se zelená. Obrat po desetiletích vysychání začal kolem roku 2017. Souviset může se změnami proudění vzduchu, které do oblasti přivádějí více vláhy.

Putin kritizoval evropskou ekonomiku a vyzdvihoval tu ruskou. Data ale nehovoří v jeho prospěch

Evropská unie (EU) zaostává za konkurencí. Rusko vykazuje navzdory americkým sankcím ekonomickou odolnost. S takovými slovy vystoupil na dvoudenní podnikatelské konferenci v rámci summitu Asijsko-pacifického hospodářského společenství (APEC), který se koná v Číně, ruský prezident Vladimir Putin. Evropská ekonomika je ale podle Evropské komise (EK) odolnější, než se očekávalo. Navzdory energetické krizi, geopolitickému napětí a vysoké inflaci pokračuje v růstu. Růst ruské ekonomiky ve třetím čtvrtletí naproti tomu zpomalil na jedno procento.

Globální nekontrolovanost umělé inteligence je rizikem, uvedl kanadský premiér

Nedostatek globální kontroly nad umělou inteligencí (AI) představuje ohromné riziko a je nejvyšší čas ji usměrnit. Na summitu Asijsko-pacifického hospodářského společenství (APEC) to dnes řekl kanadský premiér Mark Carney, informovala agentura AFP. Umělá inteligence je jedním z témat programu letošního setkání.

Muska nepotřebujeme. Ukrajina poškodila Krymský most bez Starlinku

Ukrajina dokázala vážně poškodit Krymský most bez použití satelitních systémů Starlink nebo Starshield. Nasadila vlastní komunikační systém. Cílem operace mělo být ponížení ruského prezidenta Vladimira Putina před setkáním s americkým a čínským protějškem.

Netanjahu ztrácí kontrolu nad izraelským parlamentem. Opozice prosadila nového předsedu

Izraelský premiér Benjamin Netanjahu utrpěl další politickou porážku. Parlament v úterý zvolil novým předsedou Knesetu Matana Kahanu z opoziční strany Jašar, čímž oslabil vliv dosavadního premiéra na legislativní proces. Hlasování představuje první významný úspěch opozičního bloku vedeného bývalým náčelníkem generálního štábu Gadim Eisenkotem po říjnových volbách. Přesto zůstává nejisté, zda se opozici podaří sestavit novou vládu.

Rada míru varovala OSN před zhroucením příměří v Gaze

Příměří v Pásmu Gazy se může zhroutit, pokud Izrael a palestinské hnutí Hamás nezačnou plnit své závazky. Varovala před tím Rada míru, která dohlíží na plnění dohody zprostředkované USA, v nové zprávě pro Radu bezpečnosti OSN. Dokument upozorňuje na pokračující izraelské útoky, vojenskou aktivitu Hamásu i překážky při dodávkách humanitární pomoci.

Volební bouře v USA doznívá. Demokraté získali i Aljašku

Demokratka Mary Peltola porazila republikánského senátora Dana Sullivana v senátních volbách na Aljašce. Aljaška byla posledním senátorským obvodem, kde se čekalo na výsledek listopadových midterms. Demokraté tedy budou v horní komoře disponovat většinou 56 mandátů.

Americký důstojník podezřelý ze špionáže pro Rusko je v armádní vazbě

Americký armádní důstojník, kterého britská policie zadržela kvůli podezření ze špionáže ve prospěch Ruska, byl předán do vazby americké armády. Oznámila to britská protiteroristická policie, která se případem původně zabývala. Jednačtyřicetiletý muž byl zadržen minulý týden poblíž města Gloucester na jihozápadě Anglie.

Američané před Vánocemi brzdí nákupy. Tržby rostly jen o 0,2 procenta

Američané začínají být před vánoční sezonou opatrnější při utrácení. Maloobchodní tržby ve Spojených státech v říjnu vzrostly pouze o 0,2 procenta, zatímco v září se zvýšily o 0,8 procenta. Spotřebitelé omezovali především nákupy automobilů, nábytku a oblečení. Internetovým obchodům se naopak dál dařilo.

Philippe Diallo vyzve Infantina v boji o vedení FIFA. Francouzský svaz jeho kandidaturu schválil

Francouzský fotbalový funkcionář Philippe Diallo se chce ucházet o post prezidenta Mezinárodní fotbalové federace FIFA. Jeho kandidaturu podpořili představitelé UEFA a jednomyslně ji schválil také Francouzský fotbalový svaz. Současný šéf francouzského fotbalu tak hodlá vyzvat Gianniho Infantina, který stojí v čele FIFA od roku 2016.

Ukrajina zasáhla Krymský most, podle Zelenského v odvetě, Moskva slíbila opravu

Ukrajina zasáhla a vážně poškodila Krymský most, který spojuje ruskou pevninu s okupovaným poloostrovem Krym. Ukrajinský prezident Volodymyr Zelenskyj na síti X napsal, že úder byl výsledkem několikatýdenní operace a odvetou za opakované ruské útoky na ukrajinskou infrastrukturu. Správa Krymu mezitím oznámila, že železniční doprava po mostě byla obnovena, ale automobily musí využít trajekty, nebo objet Azovské moře po pevnině. Mluvčí Kremlu Dmitrij Peskov již slíbil opravu. Dřívější zprávy médií uváděly, že se po zásahu zřítila část silničního mostu i s obloukem a že poškozena byla i železniční sekce, Moskva však rozsah škod oficiálně neupřesnila.

Bývalý kosovský prezident dostal další trest. Z vazby ovlivňoval svědky

Bývalý kosovský prezident Hashim Thaçi dostal dalších 17 měsíců vězení za pokusy ovlivňovat svědky a maření spravedlnosti. Soud v Haagu rozhodl, že z vazby předával důvěrné informace a pokyny ke svědeckým výpovědím. Nový trest si má odpykat odděleně od 25letého trestu za válečné zločiny, který mu soud uložil v září.

Návrh závěrečného textu COP31 budí kontroverze. Státy rozdělují sporné požadavky

Australský ministr pro změnu klimatu Chris Bowen, který vede jednání na klimatickém summitu COP31 v tureckém městě Antalya, předložil návrh textu konečného politického rozhodnutí konference. Zahrnuje opatření proti změně klimatu, na nichž se státy zatím neshodují, přičemž sporné požadavky budící kontroverze. Chce zjistit, co jsou jednotlivé země ochotny přijmout a co odmítnou.

ANALÝZA: Rusko na Ukrajině vojensky propadá, to však neznamená, že nemůže vyhrát

Válka na Ukrajině trvá pátým rokem a Rusko ani letos nedosáhlo významnějších územních zisků. Na bojišti se mu naopak příliš nedaří. Dva scénáře, jak vyhrát válku, se podle analytiků ruskému prezidentovi Vladimirovi Putinovi nepodařilo naplnit. Jeho cílem bylo způsobit kolaps ukrajinské armády a amerického prezidenta Donalda Trumpa přimět k ústupkům. Nyní se podle expertů zaměřuje na další dva scénáře. Vyžadují čas a trpělivost, mohou však být o to nebezpečnější.

Novým Jamesem Bondem bude Robert Pattinson. Roli agenta 007 převezme po Danielu Craigovi

Spekulace o tom, kdo převezme roli nejslavnějšího filmového agenta, jsou u konce. Novým Jamesem Bondem se stane čtyřicetiletý britský herec Robert Pattinson, známý především ze ságy Stmívání a filmu Batman. Jeho obsazení v pondělí 16. listopadu oficiálně potvrdilo studio Amazon MGM. Připravovaný snímek má do kin dorazit v roce 2028 a zahájí novou éru slavné špionážní série.
Reklama
Reklama
Reklama
Reklama