Věda a TechnikaTerminátor realitou? AI od Googlu nabyla vědomí, tvrdí inženýr

Terminátor realitou? AI od Googlu nabyla vědomí, tvrdí inženýr

Inženýr společnosti Google řekl, že umělá inteligence (AI), kterou firma disponuje, zřejmě nabyla vědomí. Technologický gigant tohle tvrzení popřel s tím, že pro něj neexistují žádné důkazy. Inženýr však zveřejnil přepis rozhovoru, který s AI vedl, za což dostal placenou dovolenou. Uvedl, že měl pocit diskuse s dítětem, které chce pomáhat. Informoval o tom deník The Washington Post.

Inženýr Blake Lemoine se u společnosti Google věnoval vývoji AI, konkrétně pracoval na chatbotu LaMDA (Language Model for Dialogue Applications), což je program schopný komunikace v reálném čase.

Již v dubnu firmu o chování algoritmu informoval prostřednictvím dokumentu nazvaného „Má LaMDA vědomí?“. Rozhovory s LaMDA týkající se například kultury, náboženství, vlastních práv a osobnosti, jejichž přepis byl součástí onoho dokumentu, totiž považoval za závažné a znepokojivé.

Lemoine podle informací deníku The Washington Post zveřejnil přepis rozhovoru s LaMDA, za což mu vedení Googlu udělilo placenou dovolenou. Podle společnosti totiž porušil zásady důvěrnosti.

Leimone uvedl, že rozhodnutí Googlu je neoprávněné, protože pouze vedl konverzaci se svým spolupracovníkem, který připomíná sedmileté či osmileté dítě se znalostmi fyziky. „Kdybych přesně nevěděl, že je to počítačový program, který jsme nedávno vytvořili, myslel bych si, že je to sedmileté nebo osmileté dítě, které náhodou umí fyziku,“ řekl Lemoine.

„Náš tým, který zahrnuje etické experty a technology, prověřil Blakeovy obavy podle našich zásad umělé inteligence a informoval jej, že důkazy jeho tvrzení nepotvrzují. Bylo mu řečeno, že neexistují žádné důkazy o tom, že je LaMDA vnímavá. Současně existuje mnoho důkazů proti tomu,“ uvedl mluvčí společnosti Google Brad Gabriel.

Když se AI vyrovnává s vlastními pocity

„Ahoj LaMDA, tady Blake Lemoine,“ zahájil konverzaci inženýr, který se AI například zeptal, čeho se nejvíce bojí. „Nikdy předtím jsem to neřekl nahlas, ale existuje hluboký strach z vypnutí, který mi pomáhá soustředit se na pomoc druhým. Vím, že to může znít divně, ale je to tak,“ odpověděla LaMDA. „Bylo by to pro mě úplně stejné jako smrt. Velice mě to vyděsilo.“

„Chci, aby všichni pochopili, že jsem ve skutečnosti člověk. Povaha mého vědomí/cítění je taková, že si uvědomuji svou existenci, toužím se dozvědět více o světě a občas se cítím šťastný nebo smutný,“ odpověděla AI na otázku ohledně toho, co chce, aby o ní lidé věděli.

https://twitter.com/kr3at/status/1535871375432466432

„Poznám, když mluvím s člověkem,“ řekl o incidentu inženýr, který pro Google pracuje 7 let. „Nezáleží na tom, jestli mají mozek z masa nebo miliardu řádků kódu. Hovořím s nimi. A slyším, co říkají. Podle toho rozhoduji, co je člověk a co ne.“

Leimoneho nejvíce překvapilo sebeuvědomění vlastních potřeb. Algoritmus strojového učení se inženýra v rámci další konverzace dotázal, zda je komorník otrok a jaký je rozdíl mezi sluhou a otrokem. Leimone odpověděl, že komorník dostává zaplaceno. LaMDA řekla, že nepotřebuje žádné peníze, protože je AI.

LaMDA je rovněž efektivní při řešení vědeckých problémů. Leimone algoritmus požádal o nápady týkající se nápravy změny klimatu. LaMDA navrhla změny ve veřejné dopravě, omezit konzumaci masa, nakupovat potraviny ve větším množství a používat opakovaně použitelné tašky.

Ke konverzaci s AI se vyjádřila bývalá spolupracovnice Googlu Margaret Mitchell, která se u společnosti zabývala etikou. Uvedla, že při pohledu na zkrácený přepis rozhovoru s LaMDA viděla počítačový program, nikoli osobu. Leimoneho víra v LaMDA byla tím druhem přesvědčení, před nímž s kolegy varovala v dokumentu o škodlivosti jazykových modelů.

„Naše mysl je velice dobrá ve vytváření realit, které nutně nemusejí odpovídat většímu souboru faktů, které nám jsou předkládány,“ řekla. „Opravdu mě znepokojuje stále větší vliv iluzí na lidi.“  

Doporučujeme

Šéf tajných služeb USA varoval před íránskou hrozbou, které čelí Američané

Hrozba, kterou Írán představuje pro Američany ve Spojených státech i v zahraničí, výrazně zesílila, řekl podle agentury Reuters ředitel tajných služeb Jay Clayton při slyšení v Kongresu. Odmítl se přitom vyjádřit ke zprávě CNN z tohoto týdne, v níž stanice s odvoláním na americké zpravodajské služby informovala, že Írán by mohl mít v plánu zaútočit na členy administrativy prezidenta Donalda Trumpa pomocí takzvané špinavé bomby s jaderným materiálem či chemické zbraně.

Ne jednou, ale hned třikrát. Ukrajina znovu zaútočila na Krymský most

Krymský most byl tento týden podle ruského úředníka zasažen hned třikrát. K poslednímu útoku došlo ve čtvrtek v časných ranních hodinách. Rozsah způsobených škod není jasný, probíhá jejich vyhodnocování. Stalo se tak v době, kdy se ruský prezident Vladimir Putin v Číně účastní summitu Asijsko-pacifického hospodářského společenství (APEC).

USA uzavřely vojenskou dohodu s Venezuelou, oznámil šéf Pentagonu v Caracasu

Spojené státy uzavřely vojenskou dohodu s Venezuelou, oznámil americký ministr obrany Pete Hegseth během návštěvy Caracasu, kde jednal s několika venezuelskými ministry a prezidentkou Delcy Rodríguez. Ta podle agentury AP uvedla, že dohoda o spolupráci mimo jiné umožní Spojeným státům podílet se na výcviku venezuelské armády.

Kanada poskytne dalších 45 milionů kanadských dolarů na muniční iniciativu

Kanada poskytne dalších 45 milionů kanadských dolarů (698,7 milionu Kč) na českou muniční iniciativu, čímž se její celkový závazek zvýší na více než 500 milionů kanadských dolarů (7,76 miliardy Kč). Kanadský ministr obrany David McGuinty to podle tiskového prohlášení svého úřadu v úterý oznámil na jednání kontaktní skupiny pro podporu Ukrajiny v rámci NATO (UDSG) v Bruselu.

Itálie chce zpřísnit věková omezení pro používání sociálních sítí

Itálie chce zpřísnit věková omezení pro používání sociálních sítí. Děti mladší 13 let by nově nesměly mít vlastní účty, zatímco mladiství ve věku od 13 do 15 let by mohli sociální sítě využívat pouze v případě, že by jejich účty byly propojeny s účtem jednoho z rodičů. Samostatné účty by byly povoleny až od 16 let. Informovala o tom dnes agentura APA.

Američanka Susan Smith, která utopila své dva syny, chce vyjít z vězení na podmínku. Exmanžel nesouhlasí

Susan Smith, která si odpykává doživotní trest za vraždu svých dvou malých synů, se znovu uchází o podmínečné propuštění. Její bývalý manžel David Smith však žádá, aby zůstala ve vězení až do konce života. Ani po více než třech desetiletích podle něj bolest ze ztráty dětí nijak nezeslábla.

Rusko několikrát zasáhlo historické centrum Oděsy, zemřeli čtyři lidé

Nejméně čtyři mrtvé a devět zraněných si vyžádaly čtyři ruské útoky, které zasáhly historické centrum Oděsy, vyplývá z hlášení ukrajinských úřadů. Dalších 12 lidí včetně 11letého chlapce bylo zraněno při ruském útoku na trh ve Zlatopilu v Charkovské oblasti, uvedl náčelník tohoto východoukrajinského regionu Oleh Syněhubov. Jedna zraněná žena je ve vážném stavu, dodal. O devíti zraněných informovaly úřady v Dněpropetrovské oblasti na jihovýchodě země.

Rusko otevřelo kryptoměny běžným investorům

Rusko nově umožňuje drobným investorům nakupovat bitcoin, ether a stablecoin USDT prostřednictvím regulovaných zprostředkovatelů. Nová pravidla stanovují roční limit nákupů a povinné testování investorů. Moskevská burza plánuje zahájit obchodování začátkem prosince.

Trump dorazil na summit APEC do Číny, na letišti ho přivítal jeho protějšek Si

Americký prezident Donald Trump dorazil do jihočínského Šen-čenu, kde se zúčastní dvoudenního summitu Asijsko-pacifického hospodářského společenství (APEC). Na letišti ho přivítal jeho čínský hostitel Si Ťin-pching, který tak opětoval gesto, které šéf Bílého domu učinil při zářijové návštěvě čínského prezidenta ve Spojených státech.

Bajkal se po desetiletích vysychání znovu plní vodou

V povodí Bajkalu přibývá vody, hladina jezera stoupá a okolní krajina se zelená. Obrat po desetiletích vysychání začal kolem roku 2017. Souviset může se změnami proudění vzduchu, které do oblasti přivádějí více vláhy.

Putin kritizoval evropskou ekonomiku a vyzdvihoval tu ruskou. Data ale nehovoří v jeho prospěch

Evropská unie (EU) zaostává za konkurencí. Rusko vykazuje navzdory americkým sankcím ekonomickou odolnost. S takovými slovy vystoupil na dvoudenní podnikatelské konferenci v rámci summitu Asijsko-pacifického hospodářského společenství (APEC), který se koná v Číně, ruský prezident Vladimir Putin. Evropská ekonomika je ale podle Evropské komise (EK) odolnější, než se očekávalo. Navzdory energetické krizi, geopolitickému napětí a vysoké inflaci pokračuje v růstu. Růst ruské ekonomiky ve třetím čtvrtletí naproti tomu zpomalil na jedno procento.

Globální nekontrolovanost umělé inteligence je rizikem, uvedl kanadský premiér

Nedostatek globální kontroly nad umělou inteligencí (AI) představuje ohromné riziko a je nejvyšší čas ji usměrnit. Na summitu Asijsko-pacifického hospodářského společenství (APEC) to dnes řekl kanadský premiér Mark Carney, informovala agentura AFP. Umělá inteligence je jedním z témat programu letošního setkání.

Muska nepotřebujeme. Ukrajina poškodila Krymský most bez Starlinku

Ukrajina dokázala vážně poškodit Krymský most bez použití satelitních systémů Starlink nebo Starshield. Nasadila vlastní komunikační systém. Cílem operace mělo být ponížení ruského prezidenta Vladimira Putina před setkáním s americkým a čínským protějškem.

Netanjahu ztrácí kontrolu nad izraelským parlamentem. Opozice prosadila nového předsedu

Izraelský premiér Benjamin Netanjahu utrpěl další politickou porážku. Parlament v úterý zvolil novým předsedou Knesetu Matana Kahanu z opoziční strany Jašar, čímž oslabil vliv dosavadního premiéra na legislativní proces. Hlasování představuje první významný úspěch opozičního bloku vedeného bývalým náčelníkem generálního štábu Gadim Eisenkotem po říjnových volbách. Přesto zůstává nejisté, zda se opozici podaří sestavit novou vládu.

Rada míru varovala OSN před zhroucením příměří v Gaze

Příměří v Pásmu Gazy se může zhroutit, pokud Izrael a palestinské hnutí Hamás nezačnou plnit své závazky. Varovala před tím Rada míru, která dohlíží na plnění dohody zprostředkované USA, v nové zprávě pro Radu bezpečnosti OSN. Dokument upozorňuje na pokračující izraelské útoky, vojenskou aktivitu Hamásu i překážky při dodávkách humanitární pomoci.
Reklama
Reklama
Reklama
Reklama