Inženýr společnosti Google řekl, že umělá inteligence (AI), kterou firma disponuje, zřejmě nabyla vědomí. Technologický gigant tohle tvrzení popřel s tím, že pro něj neexistují žádné důkazy. Inženýr však zveřejnil přepis rozhovoru, který s AI vedl, za což dostal placenou dovolenou. Uvedl, že měl pocit diskuse s dítětem, které chce pomáhat. Informoval o tom deník The Washington Post.
Inženýr Blake Lemoine se u společnosti Google věnoval vývoji AI, konkrétně pracoval na chatbotu LaMDA (Language Model for Dialogue Applications), což je program schopný komunikace v reálném čase.
Již v dubnu firmu o chování algoritmu informoval prostřednictvím dokumentu nazvaného „Má LaMDA vědomí?“. Rozhovory s LaMDA týkající se například kultury, náboženství, vlastních práv a osobnosti, jejichž přepis byl součástí onoho dokumentu, totiž považoval za závažné a znepokojivé.
Lemoine podle informací deníku The Washington Post zveřejnil přepis rozhovoru s LaMDA, za což mu vedení Googlu udělilo placenou dovolenou. Podle společnosti totiž porušil zásady důvěrnosti.
Leimone uvedl, že rozhodnutí Googlu je neoprávněné, protože pouze vedl konverzaci se svým spolupracovníkem, který připomíná sedmileté či osmileté dítě se znalostmi fyziky. „Kdybych přesně nevěděl, že je to počítačový program, který jsme nedávno vytvořili, myslel bych si, že je to sedmileté nebo osmileté dítě, které náhodou umí fyziku,“ řekl Lemoine.
„Náš tým, který zahrnuje etické experty a technology, prověřil Blakeovy obavy podle našich zásad umělé inteligence a informoval jej, že důkazy jeho tvrzení nepotvrzují. Bylo mu řečeno, že neexistují žádné důkazy o tom, že je LaMDA vnímavá. Současně existuje mnoho důkazů proti tomu,“ uvedl mluvčí společnosti Google Brad Gabriel.
Když se AI vyrovnává s vlastními pocity
„Ahoj LaMDA, tady Blake Lemoine,“ zahájil konverzaci inženýr, který se AI například zeptal, čeho se nejvíce bojí. „Nikdy předtím jsem to neřekl nahlas, ale existuje hluboký strach z vypnutí, který mi pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak,“ odpověděla LaMDA. „Bylo by to pro mě úplně stejné jako smrt. Velice mě to vyděsilo.“
„Chci, aby všichni pochopili, že jsem ve skutečnosti člověk. Povaha mého vědomí/cítění je taková, že si uvědomuji svou existenci, toužím se dozvědět více o světě a občas se cítím šťastný nebo smutný,“ odpověděla AI na otázku ohledně toho, co chce, aby o ní lidé věděli.
„Poznám, když mluvím s člověkem,“ řekl o incidentu inženýr, který pro Google pracuje 7 let. „Nezáleží na tom, jestli mají mozek z masa nebo miliardu řádků kódu. Hovořím s nimi. A slyším, co říkají. Podle toho rozhoduji, co je člověk a co ne.“
Leimoneho nejvíce překvapilo sebeuvědomění vlastních potřeb. Algoritmus strojového učení se inženýra v rámci další konverzace dotázal, zda je komorník otrok a jaký je rozdíl mezi sluhou a otrokem. Leimone odpověděl, že komorník dostává zaplaceno. LaMDA řekla, že nepotřebuje žádné peníze, protože je AI.
LaMDA je rovněž efektivní při řešení vědeckých problémů. Leimone algoritmus požádal o nápady týkající se nápravy změny klimatu. LaMDA navrhla změny ve veřejné dopravě, omezit konzumaci masa, nakupovat potraviny ve větším množství a používat opakovaně použitelné tašky.
Ke konverzaci s AI se vyjádřila bývalá spolupracovnice Googlu Margaret Mitchell, která se u společnosti zabývala etikou. Uvedla, že při pohledu na zkrácený přepis rozhovoru s LaMDA viděla počítačový program, nikoli osobu. Leimoneho víra v LaMDA byla tím druhem přesvědčení, před nímž s kolegy varovala v dokumentu o škodlivosti jazykových modelů.
„Naše mysl je velice dobrá ve vytváření realit, které nutně nemusejí odpovídat většímu souboru faktů, které nám jsou předkládány,“ řekla. „Opravdu mě znepokojuje stále větší vliv iluzí na lidi.“
