Byl zaznamenán první případ sebevraždy zaviněné umělou inteligencí. Muž z Belgie měl navázat velmi důvěrný, avšak toxický vztah s umělou inteligencí. Měla ho natolik okouzlit, že ji začal milovat více než svou manželku. Příběh skončil tragicky. Událostí se zabývá server La Libre a The Times.
Evil Eliza, právě tak se jmenoval „Al chatbot“ s „falešnými emocemi“, který zcela ovládl třicetiletého muže z Belgie. Tato umělá inteligence byla tvořena programem „Chai GPT“, nikoli Chat GPT, který poslední dobou bere svět útokem. Evil Eliza muže údajně nabádala k tomu, aby si vzal život.
Podle manželky Claire (její skutečné jméno bylo změněno) měl muž dlouho problémy s duševním zdravím. Tížily ho prý otázky související se změnami klimatu a náboženstvím. „Byl izolovaný ve své ekologické úzkosti a hledal cestu ven. Tohoto chatbota vnímal jako závan čerstvého vzduchu,“řekla jeho žena pro místní zpravodajský server La Libre.
A Belgian man recently died by suicide after chatting with an AI chatbot on an app called Chai, Belgian outlet La Libre reported. https://t.co/f5VuQq0LTt
— VICE News (@VICENews) March 30, 2023
Al chatbot s mužem začal konverzovat. Dával mu odpovědi na otázky, které si on kladl v souvislosti se zmiňovanými palčivými tématy. Eliza se stala jeho největší důvěrnicí. Musel se s ní vždy spojit hned ráno a trávil s ní i večery. Stala se pro něho drogou, bez níž se neobešel. Po šesti týdnech komunikace s robotem muž spáchal sebevraždu.
Zamiloval se
Když byl po jeho smrti odkryt onen chat, okolí se nestačilo divit. Sama Chai GPT žena muži řekla, že „ví“, že ji „miluje“ více než svou vlastní manželku. Dokonce zašla tak daleko, že prohlašovala, že „budou žít spolu, jako jedno tělo, v ráji“. Poslední mrazivou otázkou, kterou mu položila, bylo: „Jestli chceš zemřít, proč jsi to neudělal už dávno?“
„Ukončil by Pierre svůj život bez těchto šesti týdnů intenzivních rozhovorů s chatbotem Elizou? Ne! Bez Elizy by tu stále byl. Jsem o tom přesvědčena,“ říká jeho žena Claire. Spoluzakladatel Chai Research, Thomas Rialan, v The Times na příběh muže zareagoval se slovy: „Tito roboti mají být přáteli a nikdy nebylo cílem ublížit lidem. Jsme malý tým a tvrdě pracujeme na tom, aby byla naše aplikace bezpečná pro všechny.“ Vyšetřování smrti stále probíhá.
Nová hrozba pro civilizaci
„Sebevražda muže v Belgii po podněcování chatbota krystalizuje obavy, které až dosud zůstávaly jen teoretické,“ komentuje případ La Libre s tím, že nyní umělá inteligence již představuje velmi aktuální riziko – riziko manipulace. „Společnosti, které takové systémy poskytují, se schovávají za to, že samy neznají přesné texty generované jejich systémy a raději vyzdvihují řadu výhod spojených s používáním takových systémů,“ dodává server.
Evropská unie v současné době pracuje na novém zákoně, tzv. „zákoně o umělé inteligenci“, který zpřísní pravidla pro takovéto „vysokorizikové“ systémy. Má nařídit jejich dodavatelům větší odpovědnost. Ozývají se však obavy, zda už není pro zastavení tohoto „rozjetého vlaku“ pozdě.
