Hamis világ

Meg tudná magyarázni, hogyan lehetséges, hogy például a Facebookon terjesztett álhíreket akár milliók is elhiszik, miközben lehet, a való életük tapasztalatai mindezeknek a közléseknek ellentmondanak?

Ennek az egyik magyarázata a filterbuborék- vagy szűrőbuborék-jelenség lehet. Echo chambernek, vagyis visszhangkamrának is hívják. Ennek az a lényege, hogy a szűrők miatt, amelyeket mi hozunk létre a közösségi médiában, amikor beállítjuk, mely ismerőseink tartalmát lássuk és viszont, az oldal azt a tartalmat válogatja ki és teszi elénk, amely megfelel a mi preferenciáinknak. Ez a szolgáltató érdeke, hiszen a felhasználó akkor tölt el sok időt az oldalon, ha ott a számára szimpatikus, a vele egyetértő tartalmakat olvashatja. Azokat, amelyek megfelelnek annak, ahogyan gondolkodik a világról. Ráadásul megjelenik egy másik hatás is, ezt megerősítési torzításnak nevezzük, ami azt jelenti, ha elég sokszor találkozunk ugyanazzal a tartalommal, akkor elhisszük, hogy az valóban igaz is.

Még meg sem találtuk az álhírek terjesztésének ellenszerét, amikor

úgy három évvel ezelőtt megjelent egy sokkal hatásosabb fegyver, a deep fake. Hol a határ a hamisításban? Vagy ez már az a virtuális kor, amikor minden valóságosan létező dolognak lesz egy vagy több mesterséges változata is, amivel együtt kell élnünk?

Obama elnök szájából az ő digitális arcmását használó hamis videón a valóságban elképzelhetetlen állítások hangzottak el, de ez még tanító akció volt, mert a készítője leleplezte a hamisítást, és bemutatta, miként is állította azt elő.

Nyilván a közszereplők jobban ki vannak téve annak, hogy ilyen megtévesztő felvételeket készítsenek róluk, ezért is említettük Angelina Jolie esetét a bevezetőben.

Igen, de a technológia adott, és egyre könnyebb hozzáférni, ezért bárkiről bármilyen hamis anyagot elő lehet állítani. A deep fake-et használják a politikai életben, de tegyük hozzá, a mesterséges intelligenciával előállított hamis videók döntő többsége a pornóiparban jelenik meg. Bosszúpornónak, zsarolópornónak hívják, amellyel egyetlen perc alatt tönkre lehet tenni akárkinek az életét. Volt egy deep fake-készítő applikáció, amelyet három hónap alatt több mint százezren töltöttek le, és készítettek számtalan ilyen jellegű videót, azután a szolgáltatók egymás után kezdték letiltani ezeket, többek között a Pornhub is. Nem sokkal később azonban megjelent egy új applikáció, a DeepNude, amelynek a lényege, hogy fel lehet tölteni egy képet bárkiről, akit aztán az alkalmazás levetkőztet. A program ingyenes, az első változatokban még a hamis képre vízjelet tesz, ami mutatja, hogy nem valódi a felvétel, de ezt néhány dollárért el lehet távolítani.

Akkor mi lesz itt, ha az etikai szabályok már semmiben sem találnak követőkre? Vagy ne kongassunk vészharangot, majd visszaszorul ez a jelenség is a helyére? Van ennek egyáltalán helye?

Az egyik megoldás a tartalmak technológiai szűrése és letiltása. Az viszont nehézséget jelent, hogy a védekezés nem tud lépést tartani a mesterséges intelligencia fejlesztésének sebességével. A második a jogi szabályozás. Kaliforniában már megtiltották a választási kampányokban a deep fake alkalmazását, azaz büntethetővé tették a politikusokról készített hamis videók közzétételét. A harmadik védekezési lehetőség az edukáció, az oktatás. A Facebook például külön tanfolyamot indított, ahol meg lehet ismerni a deep fake felismerés részleteit. Nemcsak a gyerekeket kell erre felkészíteni, hanem a felnőtteket is, hiszen ők a választójogú polgárok, nekik is fontos, hogy ne fogadjanak el kritikátlanul mindent, ami a szemük elé kerül. Mert az idősebb korosztály még ahhoz szokott, hogy az írás (és később a videó) hiteles. Ez kérdőjeleződött meg mára, a közösségi média korában. A neten bárki szinte azt ír, azt állít össze és tesz közzé, amit akar.

Vannak árulkodó jelek az ilyen felvételeken?

Igen. A Reuters és a Facebook közös kurzusán is meg lehet tanulni ezeket. Érdemes figyelni például a szemet. Ha élettelen, az már elég biztos jel, vagy amennyiben ritkán, netán éppen túl gyakran pislog, az is. Azután az is árulkodó, ha pixeles az arc széle vagy a ruházat, netán a környezetben látható valamilyen tárgy. Amikor nincs teljesen szinkronban a szájmozgás és a hang, akkor gyanakodnunk érdemes, hogy deep fake-et látunk. Persze nagyon gyorsan fejlődik a technológia. Ha megnézzük a már említett, három évvel ezelőtt készült Obama-videót, mai szemmel már nagyon sok hibát látunk rajta. Egy most készült deep fake elsőre tökéletesnek látszik.

Aki közösségi oldalakat használ, videojátékokon él, lényegében ki-be járkál a digitális és a való világ között. Nem okoz ez végzetes torzulást majd rajtunk?

Szerintem egyáltalán nem. Amikor a kétezres évek legeslegelején elkezdtem foglalkozni ezzel a témával, akkor az ember mit csinált? Bekapcsolta a számítógépet, akkor online volt, majd kikapcsolta, és offline lett. Most mi a helyzet? Mindkettőnk zsebében ott az okostelefon, folyamatosan fenn vagyunk a világhálón, a készülék kikapcsolt állapotban is jeleket ad és fogad. Mindez kezdi alapvetően átalakítani az életünket. Interneten vásárolunk, a hálón intézzük a legtöbb hivatalos ügyet, 24 órában online kapcsolatban vagyunk egymással.

Éppen ez az egyik veszélyforrás. Szinte minden elérhetővé vált, minden tudás megszerezhető a világhálón. Ha akarom, a Library of Congressben keresek témát, adatokat, szakirodalmat, vagy a kiotói egyetemen, de mondhatnám bármely adattárat, mind elérhető. Minek ide tanár vagy iskola, egyáltalán bármilyen szakember, majd én megtalálom a szükséges tudást. Nem zsákutca ez?

Nem hiszek a korlátlan hozzáférésben. Ha az ember nem tudja, hogy mihez is férhet hozzá, akkor nem fogja megtalálni. Ha beüti a keresett kifejezést, és a Google első tíz találatát böngészi, még nem fog feltétlenül eljutni az Amerikai Egyesült Államok Kongresszusi Könyvtárának adatbázisába. Azzal viszont egyetértek, hogy a tudomány szerepe átalakult. A tudománykommunikáció az egyik szakterületem, és látom, hogy az emberek tömegével sorakoznak fel az áltudományos tartalmak mögé. Szomorú aktualitása van például a koronavírus okozta fertőzés kialakulásáról szóló hamis híreknek, konteóknak, de említhetjük az oltásellenességet vagy a lapos Föld hívőket is. Nemrég olvashattunk Magyarországon arról a párról, akiktől a hatóság elvette az újszülöttet, mert az anyakönyvezés elleni mozgalom tagjaként a bejegyzést megtagadták. Igen, mindez hatalmas károkat okoz. Ami nagyon érdekes, a vizsgálataink azt mutatják, nincs erős összefüggés az iskolázottság, az intelligencia, a szociális helyzet és az összeesküvés-elméletekbe vetett hit között. Egy erős megfelelés van csak: aki egy ilyen elméletben hisz, az elfogadja a többi hasonlót is. Ez eléggé ijesztő. / Rózsa Péter