Állítólag öntudatára ébredt egy mesterséges intelligencia a Google-nél

A Google felfüggesztette egyik mérnökét, miután azt állította, hogy a vállalat egyik kísérleti mesterséges intelligenciája (MI) képesé vált az érzelmekre. „Ha nem tudnám pontosan, hogy mi is ez a számítógépes program, amit nemrég építettünk, azt hinném, hogy egy hét-nyolc éves gyerek, aki történetesen ért a fizikához" – mondta a mérnök, Blake Lemoine a Washington Postnak.

A cikk megjelenése után más nagy lapok, köztük a The New York Times is felfigyelt a történetre és újra felerősödött a vita, hogy vajon a chatbotok formájában megjelenő komplex nyelvi modellek közel állnak-e ahhoz, hogy valóban öntudatra ébredjenek? A másik lehetőség persze az, hogy a Lemoine-t egy ügyesen megtervezett algoritmus verte át, amely csupán átdolgozza a korábban megetetett emberi nyelv darabkáit. Más szóval, talán egyszerűen csak antropomorfizálta a mesterséges intelligenciát.

A szóban forgó szoftver a Language Model for Dialogue Applications (LaMDA) nevet viseli, amely fejlett nyelvi modelleken alapul, amelyek lehetővé teszik, hogy elképesztően hihető mértékben utánozza a beszédet. Miközben a LaMDA-t tesztelte, hogy kiderüljön, generált-e valaha is gyűlöletbeszédet – ami nem ritka a hasonló nyelvi modellek esetében –, Lemoinebeszélgetni kezdett az MI-vel. A témák Asimov harmadik robotikai törvényétől kezdve – amely szerint egy robotnak meg kell védenie a saját létezését – egészen a személyiségig terjedtek. A LaMDA érzőképességének kiderítésére végzett tesztje során a halálról és olyan filozófiai kérdésekről kérdezte, mint például a komornyik és a rabszolga közötti különbség.

A mérnöknek a Google mesterséges intelligenciája olyan dolgokat mondott és úgy viselkedett, ami arra késztette Blake Lemoine, hogy figyelmeztesse a főnökeit: úgy tűnik, a LaMDA öntudatára ébredt.

A vezetőséget ez nem hatotta meg, és azonnal elutasította az állításokat, Lemoine-t pedig fizetett szabadságra küldték. 

„Csapatunk – beleértve etikával és a technológiával foglalkozó szakemebreket is – a mesterséges intelligencia alapelvei szerint megvizsgálta Blake aggályait, és tájékoztattuk őt, hogy a bizonyítékok nem támasztják alá állításait" – mondta Brian Gabriel, a Google szóvivője a New York Times-nek. „A szélesebb MI-vel foglalkozó közösségben néhányan fontolgatják az érző vagy általános MI hosszú távú lehetőségét, de ennek nincs értelme a mai társalgási modellek antropomorfizálásával, amelyek nem érzőek".

A Google Lemoine elbocsátásáról szóló döntése mögött több érv is meghúzódhat. A vezetőség „többször megkérdőjelezte az épelméjűségemet" – mondta a mérnök a NYT-nek. „Azt kérdezték: 'Megvizsgáltatta magát mostanában egy pszichiáter?'."

A hír azután érkezett, hogy a Google MI-csapatából másokat is elbocsátottak. 2020-ban például a vállalat MI etikai csapatának két tagját bocsátották el, miután kritizálták a vállalat nyelvi modelljeit, bár egyikük sem állította, hogy az algoritmusok érzőképességre tettek volna szert. A szakértők többsége továbbra is szkeptikus azzal kapcsolatban, amit Lemoine állítása szerint a LaMDA-val kapcsolatban gondol. 

„Most már vannak olyan gépeink, amelyek képesek esztelenül szavakat generálni, de még nem tanultuk meg, hogyan ne képzeljünk mögéjük elmét" – mondta Emily Bender, a Washingtoni Egyetem nyelvészprofesszora a Washington Postnak. 

Más szóval, az algoritmusok ügyesen meg tudják jósolni, hogy más, hasonló beszélgetésekben mi hangozna el legközelebb, amit könnyen félre lehetne érteni, mintha egy másik emberrel beszélgetnének. 

Gabriel a WaPo-nak elmondta, hogy hajlamosak vagyunk messze túlbecsülni a LaMDA-hoz hasonló chatrobotok képességeit, és hogy „ezek a rendszerek utánozzák a több millió mondatban előforduló csevegéstípusokat, és bármilyen fantasztikus témára képesek rácsodálkozni". 

Ugyanakkor éppen a múlt héten a Google egyik alelnöke írt egy esszét a The Economistnak arról, hogy a vállalat mesterséges intelligenciája „lépéseket tesz a tudatosság felé". Ugyanez az alelnök azonban részt vett Lemoine állításainak értékelésében, és elutasította azokat. A lap hozzáteszi: Lemoine-t korábban misztikus keresztény pappá szentelték, és még az okkultizmust is tanulmányozta. Annak ellenére, hogy állításait kétségbe vonták, Lemoine kitart a véleménye mellett.

„Felismerek egy embert, amikor beszélek vele" – mondta a Washington Postnak. „Nem számít, hogy van-e húsból készült agy a fejükben. Vagy hogy van-e egymilliárd sornyi kódjuk. Én beszélek velük. És meghallgatom, amit mondani akarnak, és így döntöm el, hogy mi az, ami egy személy, és mi nem az."

(Kiemelt képünk illusztráció. Fotó: Shutterstock)