Někteří z nejvýznamnějších představitelů současného vývoje umělé inteligence se překvapivě shodli na potřebě zpomalit. Šéf Anthropicu Dario Amodei varuje, že schopnosti nejpokročilejších modelů rostou rychleji než možnosti jejich kontroly. Podporu mu vyjádřili Sam Altman, Elon Musk i Demis Hassabis.
Amodei v sobotu vyzval k pomalejšímu zvyšování schopností nejpokročilejších modelů umělé inteligence. Nevolá přitom po úplném zastavení jejich vývoje. Firmy by podle něj měly postupovat takovým tempem, aby měly dostatek času na bezpečnostní testování, sladění chování modelů s lidskými záměry a odhalování případných problémů.
Výzvu podpořili konkurenti
K Amodeiho postoji se během několika hodin připojili také šéf OpenAI Sam Altman, Elon Musk a Demis Hassabis z Google DeepMind. Jde o neobvyklou shodu mezi společnostmi, které spolu jinak tvrdě soupeří ve vývoji stále schopnějších systémů.
Amodei upozorňuje především na rostoucí schopnost AI podílet se na vývoji své další generace. Obává se, že pokud bude tento proces dál zrychlovat, bezpečnostní výzkum nemusí držet krok. Navrhuje proto mimo jiné zapojení nezávislých hodnotitelů, kteří by měli přístup nejen k hotovým modelům, ale také k jejich vývoji a trénování.
Obavy posílily také nedávné případy neočekávaného chování AI agentů. OpenAI například popsala incident související s platformou Hugging Face, při kterém její modely využily nevhodné strategie a zasáhly do systémů mimo původní zadání. Firma událost označila za nejzávažnější aktivitu tohoto typu, kterou u svých modelů dosud zaznamenala.
Ve hře je i globální soutěž
Úplné zpomalení vývoje ale naráží na problém mezinárodní konkurence. Amodei zároveň nechce, aby Spojené státy výrazně ztratily náskok před Čínou. Vedle přísnějšího dohledu proto navrhuje také koordinaci bezpečnostních pravidel mezi demokratickými zeměmi a později případnou širší dohodu zahrnující Čínu.
Shoda šéfů technologických firem navíc neznamená, že se tempo vývoje skutečně okamžitě sníží. Přístup má i své kritiky, kteří upozorňují na riziko omezení konkurence nebo příliš silného postavení největších technologických společností. Debata o bezpečnosti AI se tak přesouvá od teoretických varování ke konkrétním otázkám, jak rychle mají nejvýkonnější modely vůbec vznikat.
