A jóról és a rosszról ne döntsön a gép

Intelligencia mai állapotában a mesterséges intelligencia? Vagy inkább csak számítási kapacitás?

Erre nem tudunk addig felelni, amíg nem határoztuk meg, mi az intelligencia. Nagyon nehéz olyan meghatározást mondani, amellyel az emberi képességekhez hozzá tudnánk mérni a számítógépek teljesítményét.

Mi lenne, ha úgy határoznánk meg az intelligenciát, mint olyan képességet a problémák megoldására, amely mögött nincs genetikai kód, kívülről bevitt program, vagy mások által tanított módszer?

Kötözködnöm kell. A probléma a feladat elképzelésével, annak megfogalmazásával kezdődik, és a folytatásban, az esetek jelentős részében kiderül, hogy az nem is megoldható. Nincs örök élet, nem lehet megtalálni a bölcsek kövét, létrehozni a perpetuum mobilét. Kár, de így van. Az egyén és a közösség napi problémáiról általában nagyon bonyolult dolog eldönteni, hogy megoldhatók-e egyáltalán. Felállítható-e olyan algoritmus, amellyel leírhatók annak lépései, hogy a jelenlegi helyzetből hogyan jussunk el a kívánt állapotba. Lehet, hogy a jövőben éppen ennek eldöntésére lesz érdemes használnunk a mesterséges intelligenciát. Amikor azonban a számítógéptől manapság kérdezünk valamit, akkor valójában nem is a problémáinkat tárjuk elé, csak valamilyen nagyon pontosan kiszámítható, egyszerű statisztikai lépésekkel követhető feladatot adunk neki. De az értékelés feladata a miénk marad, mi pedig elismeréssel adózunk a gépnek. Azt mondjuk, milyen okos volt, hogy tíz perc alatt kiszámított valamit, ami nekünk papírral-ceruzával évekig tartott volna. De a gép csak gyorsabban jutott el valahova, ahová mi is megérkeztünk volna, hiszen a problémát mi fogalmaztuk meg, és mi alkottuk meg a végrehajtandó lépéseket. Nem véletlen, hogy az emberi intelligencia meghatározásakor általában a kreativitást említik, a gépeknél valamilyen speciális képességüket. Hogy jól tudnak sakkozni, vagy remekül felismerik a képeket.

A mesterséges intelligenciáktól manapság azt várjuk, hogy tanítsák önmagukat. Vonják le a tanulságokat a hibáikból, ismerjék fel a jó eredményt.

Elterjedt nézet, hogy idővel képesek lehetünk létrehozni olyan programokat, amelyek bármilyen okosságot igénylő területen jól teljesítenek, az ember versenytársai lehetnek. Elvileg ez bizonyosan lehetséges. Van viszont némi gondom a kérdésnek azzal a részével, amelyben a gép örömmel nyugtázza, hogy jó megoldást talált. De hogyan határozza meg, hogy mi a jó? Ezzel ugyanis eltávolodunk az intelligencia kérdésétől, és átlépünk az értékek tartományába: mi fontos, mi számít? A modern időkben egyre bizonytalanabbá vált a jó és a rossz, a káros és a hasznos fogalma. Kitalálnak egy csodálatos műanyagot, amelyből vékony fóliát lehet nyújtani, kiválóan alkalmasat arra, hogy tartós zacskókat állítsanak elő belőle. Aztán elárasztják a világot ezekkel a zacskókkal. Annyira, hogy ma már évente 8 millió tonna műanyag szemét kerül a világ tengereibe. Halak, madarak milliói pusztulnak el, amikor megeszik őket, fuldokolnak a delfinek, megy tönkre az ökoszisztéma. Jót tett a fólia kitalálója, vagy sem? Ráadásul már a kezdetek kezdetén lehetett tudni, hogy ez az anyag csak több száz év alatt bomlik le, és ezt előnyként hirdették. Rengeteg dolgot tudnék felsorolni, ami a piac és a társadalom pillanatnyi működése szempontjából nagyon jónak látszott, de hosszú távon roppant károkat okoz. Nincs meg a társadalomnak az a mechanizmusa, amely a hosszú távú jót tudná definiálni. Tehát még az általunk ismert legintelligensebb intelligencia, az emberi ész esetében is azt látjuk, hogy amint kilép abból a szűk körből, amit a biológiai meghatározottság, az önfenntartás és a fajfenntartás rendelt hozzá, iszonyú dolgokat tud csinálni. Tényleg az értékek választásának körébe akarjuk küldeni a számítógépeket, és azt várjuk, hogy ebből valami jó sül ki?

Az ön regényében Christian, a mesterséges intelligencia rájött, hogy az emberiség a vesztébe rohan, és ezért átvette az irányítást. És tényleg: a klímaválság körülményei között, amikor még tart minden idők legnagyobb globális járványa, könnyen megfogalmazható a legfőbb közjó. Az emberiség túlélése.

Igen? Biztos abban, hogy a nyolcmilliárd emberből álló globális társadalom fenntartása tényleg a legfőbb közjó? És tényleg azt akarjuk, hogy a nyolcmilliárd még sokasodjon is? Nem lehet, hogy egy hosszú távon fenntartható rendszer csak kétmilliárd emberből állhat majd? Persze, abban mindenki egyetért, hogy maradjon fenn az emberiség, de mennyien legyünk? És meddig éljünk? Tényleg az a közjó, hogy minél több ember minél tovább éljen? Biztos, hogy az erőforrásokat akkor használjuk a legjobban, ha azt a célt követjük, hogy mindenki, aki megszületett, megélhesse a 100. születésnapját, a föld pedig legyen tele szenilis öregekkel? Mindez nekünk sem egyszerű, de gépekre ezeket a döntéseket semmiképpen sem bízhatjuk.

Annyira nem egyszerű a döntés, hogy manapság senki sem dönt. Ezt is a piacra bíztuk.

Igen, ma ez a helyzet. Az ember azért emelkedett ki az állatvilágból, mert a nyelv segítségével képes absztrakciókra. Képes fantáziálni. Ma már vannak globális fantáziáink is: hogy felmelegszik a bolygó, hogy ilyen-olyan új járványok indulnak el. Elképzeljük, hogy elmegyünk majd a Marsra, meghódítjuk. Néhány száz év múlva már ott is lesz víz, oxigén, légkör, kapunk még egy bolygót, amit elronthatunk. Fantáziákkal operálunk, de nincs meg a képességünk ahhoz, hogy a megvalósuló fantáziák hatását megjósoljuk, pedig azok egyre súlyosabbak, ahogy egyre terjeszkedünk. És az egyik fantáziánk éppen az, hogy majd létrehozzuk a mesterséges intelligenciát, amely előre jelzi a következményeket, és esetleg korrigálja is, amit elrontottunk. Valójában ez is csak egy hiedelem a sok közül. Tegyük fel, hogy azt mondjuk neki: azt szeretnénk, hogy az emberiség létszáma ne legyen több kétmilliárdnál, mert ennyien még békében tudnánk élni a bioszférával. Erre a gép kihozza, hogy azt a célt csak egy világszintű totális diktatúrában lehet megvalósítani, ahol mindenkinek megmondják, hogy mit kell csinálnia, és azt csinálja. Pofa be! Akarjuk ezt?

A teljes interjút a 168 Óra hetilapban olvashatja, ahonnan kiderül az is, hogy előfordulhat-e, hogy a mesterséges intelligencia öntudatra ébred, vagy a miénktől különböző önérdeket is megfogalmazhatnak a gépek?

(Kiemelt képünk illusztráció: KTS/Science Photo Library/AFP)