Redmond (USA) 18. listopadu 2026 (PROTEXT/PRNewswire) – V rámci nové Iniciativy pro transparentnost umělé inteligence spolupracuje společnost Microsoft s více než 40 organizacemi, včetně společností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, na prosazování společného přístupu k transparentnosti, bezpečnosti a správě umělé inteligence napříč modely a poskytovateli. Microsoft rovněž zajistí větší přehlednost ohledně toho, jak modely a agenti umělé inteligence vzájemně komunikují s podnikovými daty v rámci svých produktů a služeb
Organizace mohou sledovat velkou část aktivit souvisejících s modely umělé inteligence, často však nedokážou rekonstruovat, co se odehrálo mezi zadáním požadavku a výsledkem, což ztěžuje nezávislé ověření chování modelu. V úterý na konferenci Microsoft Ignite oznámil předseda představenstva a generální ředitel společnosti Microsoft Satya Nadella další fázi závazku společnosti Microsoft k zajištění větší bezpečnosti umělé inteligence: Iniciativu pro transparentnost umělé inteligence, která představuje společné úsilí se zákazníky a partnery o zavedení společného, otevřeného přístupu k bezpečnosti a správě napříč modely a poskytovateli. Tato iniciativa vychází z jednoduchého principu: větší autonomie umělé inteligence vyžaduje větší transparentnost.
„Aby byly bezpečnostní kontroly účinné, potřebuje každá organizace větší transparentnost samotného modelu,“ uvedla Hayete Gallotová, výkonná viceprezidentka divize Microsoft Security. „Díky této práci zajistíme větší transparentnost u všech modelů. Jedná se o zásadní krok k chytřejšímu a silnějšímu omezení rizik, který nám umožní lépe zajistit odpovědnost a sledovatelnost.“
Podniky propojují modely umělé inteligence s daty, nástroji, přihlašovacími údaji a infrastrukturou, což agentům umožňuje provádět akce bez lidského schválení v každém kroku. Stávající kontrolní mechanismy mohou sledovat velkou část aktivity kolem modelů umělé inteligence, ale nemohou vidět, co se děje uvnitř těchto modelů, ani nezávisle ověřit jejich vlastní zprávy o chování. To omezuje schopnost organizací porozumět kontextu, který stojí za akcemi agenta. Tato mezera v důkazech vytváří rizika v oblasti bezpečnosti, dodržování předpisů, auditu a odpovědnosti. Bezpečnostní týmy potřebují novou architekturu důvěry, aby mohly řešit rostoucí rizika ze strany těch, kdo mají přístup do systémů, která představují stále schopnější agenti umělé inteligence.
„Vzhledem k tomu, že se agenti umělé inteligence stále hlouběji začleňují do podnikových operací, potřebují bezpečnostní týmy jasný přehled o tom, k čemu tito agenti přistupují, jaké akce provádějí a jak lze tyto akce ověřit,“ uvedla Aanchal Guptová, ředitelka pro bezpečnost ve společnosti Adobe. „Vytvoření společného přístupu k transparentnosti umělé inteligence v rámci celého odvětví je zásadní pro posílení důvěry a pro to, aby organizace mohly s důvěrou inovovat při zachování bezpečnosti a odpovědnosti.“
Od principů k praxi
Tato iniciativa se skládá ze tří částí. Za prvé, Microsoft rozšíří svou účast v Iniciativě pro standardy SI agentů Národního institutu pro standardy a technologie (NIST) a na základě jeho výzkumu vyvine otevřené, odvětvové standardy pro transparentnost, bezpečnost a správu umělé inteligence. Za druhé, Microsoft spolupracuje s více než 40 organizacemi, včetně společností Accenture, Adobe, KPMG, Mastercard a Volvo Cars, na vývoji otevřených standardů pro systémy umělé inteligence, které budou odpovědné, nezávisle ověřitelné a bezpečné již od samého návrhu, bez ohledu na model či poskytovatele.
Zatřetí, Microsoft začlení tuto práci do produktů Microsoft AI, Microsoft Foundry a Microsoft Copilot, což zákazníkům umožní využívat výsledné podklady ve svých nástrojích pro bezpečnost a dodržování předpisů, ať už od společnosti Microsoft, nebo od jiných poskytovatelů.
„Naši klienti chtějí s umělou inteligencí postupovat rychleji a neměli by být nuceni volit mezi inovací a bezpečností,“ uvedl John Israel, globální ředitel pro informační bezpečnost v KPMG International. „Důvěra v umělou inteligenci vyžaduje transparentnost, vysvětlitelnost a odpovědný dohled. Jsme hrdí na to, že spolupracujeme s Microsoftem na Iniciativě pro transparentnost umělé inteligence, abychom pomohli zavést otevřené standardy pro celé odvětví, které organizacím poskytnou přehled a kontrolu potřebnou k zodpovědnému nasazení umělé inteligence ve velkém měřítku.„
Jasná odpovědnost
Agenti s přístupem k datům, nástrojům a přihlašovacím údajům představují rizikový profil privilegovaného zaměstnance, ale pracují rychlostí a v měřítku stroje, což činí nezávislý dohled nezbytným.
Odpovědnost zůstává na organizaci. Když dojde k něčemu závažnému, vedoucí pracovníci se zodpovídají zákazníkům, zaměstnancům, představenstvům, auditorům a regulačním orgánům. Svalovat vinu na umělou inteligenci není řešením a „důvěřovat modelu“ není kontrolní mechanismus.
Iniciativa je navržena tak, aby fungovala napříč modely a poskytovateli, včetně uzavřených i otevřených modelů, takže vývojářské týmy mohou měnit nebo aktualizovat modely, na nichž jejich agenti fungují, aniž by tím ohrozily schopnost IT a bezpečnostních týmů je bezpečně spravovat nebo schopnost týmů pro dodržování předpisů prověřovat jejich činnosti.
„Jak organizace podnikají další kroky ve své transformaci pomocí AI, potřebují pevný základ důvěry a jistoty, na kterém mohou stavět,“ uvedl Harpreet Sidhu, globální vedoucí pro kyberbezpečnost ve společnosti Accenture. „Iniciativy, jako je tato od společnosti Microsoft, které zaujímají otevřený, odvětvím řízený přístup k transparentnosti AI, mohou pomoci při zabezpečení modelů AI a jejich vybavení kontrolními mechanismy a správou. Accenture je hrdá na to, že v této oblasti spolupracuje s Microsoftem a dalšími vedoucími podniky.“
Vidět, ověřovat, kontrolovat
Společnost Microsoft je přesvědčena, že každá organizace by měla být schopna vidět, k čemu systémy umělé inteligence přistupují a co dělají, nezávisle ověřovat jejich činnosti a kontrolovat, co je jim povoleno dělat.
- Sledujte: vědět, o co byla umělá inteligence požádána a k čemu byla oprávněna, který model a runtime byly použity, k jakým datům a nástrojům měla přístup a jaké akce provedla. Průběžně sledovat aktivitu agentů a signály rizika ve srovnání se zásadami a prahovými hodnotami.
- Ověřujte: agenti nemohou být jediným zdrojem pravdy o svém vlastním chování a nelze se spoléhat na to, že se pokročilé modely budou řídit samy. Důkazy týkající se identity agenta, delegovaného záměru a akcí by měly identifikovat jejich zdroj (model, příslušné běhové prostředí nebo nezávislé systémy, jako jsou systémy pro správu identit a zásad), aby bylo možné signály hlášené modelem porovnat s nezávisle pozorovanými záznamy. Organizace by měly být schopny nezávisle ověřovat činnost AI pomocí svých vlastních systémů zabezpečení a dodržování předpisů, aniž by se spoléhaly výhradně na popis chování poskytovatele modelu.
- Kontrolujte: mějte pod kontrolou, co smí AI dělat. Jasné důkazy o účelu, vlastníkovi, datech a delegovaných pravomocích každého pracovního postupu pomáhají organizacím prosazovat jejich zásady ještě předtím, než dojde k závažným akcím, a rekonstruovat, co se stalo během vyšetřování, omezení šíření, obnovy a auditů. Tyto důkazy by měly zůstat v jejich držení i při změně modelů a poskytovatelů. Organizace by si měly zachovat kontrolu nad tím, k jakým datům mají jejich agenti přístup a jak je tento přístup řízen, bez ohledu na model nebo poskytovatele.
Zapojte se
Organizace, které mají zájem podílet se na utváření této iniciativy nebo sledovat její pokrok, se mohou dozvědět více a zaregistrovat se na adrese aka.ms/learnmoreAItransparency.
Sledujte novinky z konference Microsoft Ignite, kde Microsoft a přední představitelé odvětví budou sdílet poznatky o tom, jak mohou organizace s důvěrou spravovat modely umělé inteligence a agenty. Další informace najdete na blogu Microsoft Security.
Další informace (pouze pro novináře): Microsoft Media Relations, We. Communications pro Microsoft, (425) 638-7777, rapidresponse@wecommunications.com / Poznámka pro redaktory: Další informace, novinky a názory společnosti Microsoft najdete na webu Microsoft Source na adrese https://news.microsoft.com/source. Odkazy na webové stránky, telefonní čísla a názvy funkcí byly v době zveřejnění správné, ale mohly se změnit. V případě potřeby mohou novináři a analytici kontaktovat tým Microsoft Rapid Response Team nebo jiné příslušné kontaktní osoby uvedené na stránce https://news.microsoft.com/microsoft-public-relations-contacts.
ČTK Connect ke zprávě vydává obrazovou přílohu, která je k dispozici na adrese https://www.protext.cz/zpravy/60110.


