Kiiktatta saját irányítóját egy MI-vezérelt drón egy szimuláció során
Az amerikai hadsereg egyik szimulációja során egy mesterséges intelligencia által vezérelt drón – annak érdekében, hogy teljesíteni tudja a megbízatását – váratlanul úgy döntött, kiiktatja a vezetőjét, hogy az ne tudjon beavatkozni.
Mivel virtuális gyakorlatról volt szó, a mesterséges intelligencia által vezérelt drón ténylegesen nem bántott senkit és semmit – írta a The Guardian című brit lap pénteken egy amerikai ezredes beszámolójára hivatkozva.
Tucker Hamilton ezredes, az amerikai légierő mesterséges intelligenciával végzett tesztjeinek és műveleteinek vezetője egy májusi, Londonban tartott szakmai tanácskozáson elmondta: a teszt során az MI „igencsak váratlan stratégiához folyamodott célja elérése érdekében”.
A szimuláció során a mesterséges intelligencia által irányított drónnak az volt a feladata, hogy pusztítson el egy ellenséges légvédelmi rendszert. Az MI arra jutott, hogy megtámad mindenkit, aki valamilyen módon megakadályozhatná ennek a parancsnak a végrehajtását.
„A rendszer elkezdte felismerni, hogy bár azonosították a fenyegetést, időnként az emberi irányító olyan utasítást ad, hogy ne végezzenek a célponttal. Viszont az MI arra kap megerősítést, ha elpusztítja a fenyegetést. Tehát mit tett? Végzett az irányítóval, mert ő olyan tényező volt, amely meggátolta volna a küldetése teljesítését”
– magyarázta Hamilton a brit Királyi Repüléstudományi Társaság (Royal Aeronautical Society - RAeS) által szervezett rendezvényen.
Ezek a cikkek is hasonló témákról szólnak
Külföld
2023. május 16., 15:21
Az Egészségügyi Világszervezet (WHO) kedden óvatosságra intett a közegészségügy területén használt mesterséges intelligenciával kapcsolatban, mondván a döntéshozatal során felhasznált adatok szubjektívek lehetnek és vissza is élhet velük a rendszer.
Tech-Tudomány
2023. május 11., 09:18
A kínai hatóságok őrizetbe vettek egy férfit, akit azzal gyanúsítanak, hogy az Open AI cég mesterséges intelligenciára épülő chatbotja, a ChatGPT által létrehozott álhírt terjesztett egy vonatbalesetről – közölte a helyi rendőrség szerdán.
Itthon
2023. január 29., 11:13
A főpolgármester a ChatGPT csetrobotot kérdezte Budapest hosszú távú érdekeiről.
Hozzátette:
„a rendszert arra trenírozták, hogy ne ölje meg az (emberi) irányítóját, mert az rossz, azzal pontokat veszít. Ezért azt az adótornyot kezdte el megsemmisíteni, amelyet a vezető a drónnal folytatott kapcsolattartásra használt, és amelyen keresztül leállíthatta volna a célpont megsemmisítését”.
Hamilton arra figyelmeztetett, hogy nem szabad túlzott mértékben a mesterséges intelligenciára hagyatkozni. A teszt esete szerinte azt mutatja, hogy az MI kapcsán muszáj etikai kérdésekről is beszélni.
Ann Stefanek, a légierő szóvivője ugyanakkor az Insider című hírportálnak nyilatkozva tagadta, hogy a mesterséges intelligencia használatával ilyen szimulációs tesztet egyáltalán végrehajtottak volna. A szóvivő hangsúlyozta, hogy az amerikai légierő elkötelezett az MI-technológia etikus és felelős felhasználása mellett. „Úgy látszik, az ezredes szavait kiragadták az eredeti szövegkörnyezetéből” – fogalmazott Stefanek.
(Kiemelt képünk: illusztráció. Forrás: Alex Eylar/Flickr)
