Státy po celém světě činí razantní opatření ve snaze odpovědět na potenciální úskalí umělé inteligence (AI), regulátoři a zákonodárci ve Washingtonu, v Bruselu a jinde však tento souboj prohrávají. Evropské činitele zaskočil rozvoj technologie, zatímco američtí politici otevřeně přiznávají, že jen stěží chápou, jak vlastně funguje, uvádí v rozsáhlé analýze deník The New York Times (NYT).
„Vždycky budeme pozadu za rychlostí technologie,“ konstatovala německá europoslankyně Svenja Hahnová, která je zapojená do přípravy regulace na úrovni Evropské unie. Návrh takzvaného aktu o umělé inteligenci předložila Evropská komise v dubnu 2021, přičemž jej prezentovala jako návod pro zbytek světa, který obstojí i v budoucnosti. Pak ale přišel ChatGPT.
Alarmed by the power of AI, governments are trying to respond — but the technology is evolving more rapidly than their policies. Without action, some officials warned, governments may get further left behind by the makers and their breakthroughs. https://t.co/4IT5OcV17k
— The New York Times (@nytimes) December 6, 2023
Tenhle chatovací program, který až strašidelně napodobuje člověka, zastihl strůjce unijní politiky nepřipravené, když loni vtrhl na scénu. Druh AI, na němž je aplikace založená, v navrženém zákoně nebyl zmíněný a nebyl zásadním tématem diskusí. Unijní činitelé tento týden stále jednali o tom, jak přesně postupovat.
Nejen v EU se úřady snaží ze všech sil držet krok, zatímco sílí obavy, že AI nahradí mnohá pracovní místa, podpoří šíření dezinformací a nakonec dospěje k vlastnímu druhu inteligence. Výsledkem je změť nejrůznější kroků.
Americký prezident Joe Biden v říjnu vydal dekret o dopadech AI na národní bezpečnost a zákonodárci současně probírají, zda přijmout vlastní opatření. Japonsko pracuje na nezávazných doporučeních pro vývoj technologie, zatímco Čína zavedla omezení pro jisté druhy AI. Saúdská Arábie a Spojené arabské emiráty nalévají vládní prostředky do výzkumu umělé inteligence.
Tyto nejednotné přístupy pramení ze základního problému: Vývoj systémů umělé inteligence postupuje tak rychle a nepředvídatelně, že zákonodárci a regulátoři nestíhají. Tuto nerovnost prohlubují nedostatečné znalosti o AI uvnitř vlád, byrokratické překážky a obavy z toho, že příliš mnoho pravidel může mimoděk potlačit přínosy této technologie.
Evropská unie v přípravě svého aktu o AI pokračuje, navzdory sporům ohledně toho, jak přistupovat ke strůjcům nejnovějších nástrojů. Konečná dohoda by mohla omezit jistá riziková využití a vytvořit požadavky na transparentnost ohledně fungování systémů, které se skrývají v pozadí. I kdyby však EU nařízení přijala, jeho vstup v platnost se očekává nejméně po 18 měsících, což je ve vývoji AI celá věčnost. A způsob jeho vymáhání stále není jasný.
Absence pravidel vytváří vakuum. Společnosti Google, Meta a OpenAI, která provozuje ChatGPT, dohlížejí samy na sebe, zatímco vyvíjí pokročilé systémy a snaží se na nich vydělávat. Mnohé firmy preferují nezávazné kodexy, které ponechávají prostor pro urychlování vývoje, lobbují za zmírnění navrhovaných regulací a staví různé vlády proti sobě. Někteří činitelé varují, že bez společného postupu může ztráta vlád na vývojáře ještě narůstat.
„Nikdo, ani tvůrci těchto systémů, neví, čeho budou schopné,“ míní Matt Clifford, který je poradcem britského premiéra Rishiho Sunaka. Ten v listopadu uspořádal summit na téma bezpečnosti AI za účasti dalších 28 zemí. „Naléhavost je daná tím, že je zde skutečná otázka, zda jsou vlády schopné ošetřit a zmírnit rizika,“ uvedl Clifford.
Ve Washingtonu se roky snažil o tématu zákonodárce informovat Jack Clark, zakladatel společnosti Anthropic vyvíjející systémy AI. Téměř vždy se při jeho návštěvách ukázalo jen několik málo poradců. Avšak poté, co ChatGPT přitáhl pozornost celého světa, začali se na jeho prezentacích mačkat zákonodárci a asistenti, kteří si chtěli vyslechnout rychlokurz o umělé inteligenci a jeho názory.
„Všichni se tak nějak hromadně probrali,“ popsal vývoj Clark, jehož firma si nedávno ve Washingtonu najala dvě lobbistické společnosti. Jelikož zákonodárci nejsou experty na moderní technologie, čím dál víc spoléhají na Anthropic, Microsoft, Google, OpenAI a další ve snaze pochopit umělou inteligenci a pomoci nastolit pravidla v oboru.
Aktivita kolem AI ve Washingtonu nabrala zběsilé tempo, žádné návrhy zákonů ale zatím nepřinesla. Lídři čtyř uvedených společností byli v květnu po jednání v Bílém domě vyzváni, aby navrhli vlastní zásady, které by posílily zabezpečení jejich produktů, řekl ředitel Microsoftu Brad Smith. O dva měsíce později Bílý dům oznámil, že firmy souhlasily s dobrovolnými závazky včetně testování svých systémů prostřednictvím třetích stran, což většina z nich už předtím dělala.
„Bylo to skvělé,“ řekl Smith. „Místo toho, aby lidé z vlády přišli s nápady, které by mohly být nepraktické, nám řekli: ‚Ukažte nám, co si myslíte, že můžete udělat, a my budeme tlačit na to, abyste dělali víc,'“ dodal.
Na mezinárodní úrovni zatím výraznější pokrok nepřichází. V květnu o možné spolupráci na digitální politice jednali členové americké vlády s eurokomisařkou Margrethe Vestagerovou, která má v EU tuto agendu na starosti. Po dvou dnech rozhovorů Vestagerová oznámila, že EU a USA v horizontu týdnů oznámí společný kodex pro tvůrce AI. Po několika měsících se žádné společné zásady neobjevily a Washington oznámil vlastní sadu bezpečnostních principů.
Podle indického ministra pro technologie Rádžíva Čandrasekhara bude „slabá regulace“ v určité zemi dopadat i na ostatní. Poznamenal, že absence pravidel pro americké sociální sítě vedla k celosvětové vlně dezinformací. „Většina zemí, které byly těmito technologiemi zasažené, nikdy nebyly u stolu, když se rozhodovalo o regulaci,“ řekl. „Dohlížet na AI bude řádově složitější,“ dodal.
