ChatGPT nově nabízí bezpečnostní režim Lockdown Mode, který má snížit riziko úniku citlivých dat při práci s webem, soubory a externími službami. Funkce je určená hlavně pro lidi a organizace, které v umělé inteligenci řeší důvěrnější obsah. Vyšší ochrana ale přichází za cenu omezení některých pohodlných nástrojů.
OpenAI zpřístupnilo Lockdown Mode všem přihlášeným uživatelům napříč typy účtů a pracovními prostory. Jde o volitelné pokročilé nastavení, které omezuje funkce schopné připojit ChatGPT k internetu nebo externím službám. Cílem je snížit riziko, že se citlivá data dostanou ven kvůli škodlivým instrukcím ukrytým v obsahu, s nímž asistent pracuje.
Takovým útokům se říká prompt injection. Mohou se objevit třeba ve webové stránce, nahraném souboru nebo jiném textu, který umělá inteligence zpracovává. Útočník se tím pokouší přimět model, aby porušil původní zadání, změnil chování nebo odeslal informace jinam. Právě poslední fázi, tedy možný odtok dat, má Lockdown Mode výrazně ztížit.
„Lockdown Mode je navržen tak, aby pomohl zabránit závěrečné fázi úniku dat při prompt injection útoku tím, že omezuje odchozí síťové požadavky, které by mohly citlivá data předat útočníkovi,“ popisuje OpenAI. Firma zároveň upozorňuje, že nejde o neprůstřelnou ochranu. Škodlivé instrukce se mohou v obsahu stále objevit a mohou ovlivnit chování nebo přesnost odpovědi.
Režim proto nevypíná samotnou možnost, že ChatGPT narazí na problematický obsah. Spíš mu omezuje cesty, jak by mohl takový obsah využít k odeslání dat ven. V praxi se po zapnutí Lockdown Mode omezí živé prohlížení webu, práce s obrázky z internetu, hlubší rešerše, agentní režim, síťový přístup v Canvasu nebo stahování souborů pro datovou analýzu.
Uživatel může dál nahrávat vlastní soubory a ChatGPT s nimi může pracovat. Lockdown Mode také nemění nastavení paměti, sdílení konverzací ani pravidla, zda se konverzace mohou využívat ke zlepšování modelů. Tyto volby zůstávají samostatně nastavitelné, u firemních účtů často přes správce pracovního prostoru.
Pro osobní účty a samoobslužné firemní účty režim povoluje konektory využívající už synchronizovaná data, ale blokuje živý přístup ke konektorům a akce zápisu. Některé propojené funkce, například finanční nástroje v ChatGPT nebo nákupní agenti, v tomto nastavení dostupné nejsou. U spravovaných pracovních prostorů záleží na rolích, oprávněních a nastavení jednotlivých aplikací.
OpenAI upozorňuje, že prompt injection patří mezi složité bezpečnostní problémy, které se stále vyvíjejí. „Lockdown Mode je navržen tak, aby podstatně snížil riziko úniku dat založeného na prompt injection v ChatGPT a podporovaných produktech OpenAI, ale nezaručuje, že k němu nemůže dojít,“ upozorňuje firma. Pro uživatele pracující s citlivými daty tak jde spíš o další vrstvu ochrany než o důvod přestat být opatrný.
