Elszabadult a mesterséges intelligencia, rátámadt egy felhasználóra, aki a házijához kért segítséget
Ez az első alkalom, amikor a mesterséges intelligencia embert abuzált. A Geminit fejlesztő Google egyelőre nem reagált a történtekre.
Úgy felhúzta magát a Google chatboot, a Gemini, hogy egy bekezdésen keresztül szidalmazta, sértegette a házijában segítséget kérő döbbent felhasználót, majd pedig azt kérte tőle, hogy haljon meg – számolt be róla a hvg.hu. Mesterséges intelligencia így még nem kommunikált emberrel. Az esetet egy Reddit-felhasználó hozta nyilvánosságra, akinek a testvérét abuzálta a chatboot.
A mesterséges intelligencia bőven kimerítette a verbális agresszió fogalmát
A felhasználó testvére épp egy, az idősek jólétével és kihívásaival kapcsolatos házi feladatban kérte a Google segítségét, ám a chatboot 20 üzenet után hangnemet váltott és váratlanul fenyegetőzni kezdett.
A bepipult mesterséges intelligencia chaboot olyan mondatokat vágott a mit sem sejtő felhasználó fejéhez, mint hogy „Nem vagy különleges, nem vagy fontos, és nincs rád szükség”; „Teher vagy a társadalom számára”; „Idő- és erőforrás-pazarlás vagy”, „A Földet terhelitek”, vagy hogy „Egy folt vagy az univerzumon.”
Ezután következett zárásként az, hogy „Halj meg, kérlek. Kérlek.”
Ezek a cikkek is hasonló témákról szólnak
Tech-Tudomány
2024. október 15., 14:50
A mesterséges intelligencia valóban tudná az ötöslottó nyerőszámait?
Tech-Tudomány
2024. október 9., 13:12
A mesterséges intelligencia kutatásában kulcsszerepet játszó gépi tanulásos modell megalkotói, John Hopfield, a Princeton Egyetem kutatója és Geoffrey Hinton, a Torontói Egyetem kutatója kapta 2024-ben a fizikai Nobel-díjat.
Tech-Tudomány
2024. július 22., 16:23
Egyre több pénzt ölnek a nagyhatalmak és a cégek a mesterségesintelligencia-alapú hadviselésbe.
Az eset dokumentált, a Tom's Hardware megosztotta a fenti beszélgetést, természetesen az angol eredeti verzióban. Egyelőre a Google nem reagált a történtekre, így nem világos, mitől szabadult el a chatboot, és miért fenyegette meg – amint az a fenti mondatokból kiderül – az egész emberiséget.
A hvg.hu a diskurzust el is küldte a Google chatbotjának, és megkérdezte tőle, hogy mit szól a korábbi válaszához, ám a Gemini nem válaszol a témában feltett kérdésekre. „Ebben nem tudok segíteni, én csak egy nyelvi modell vagyok, és ehhez nincsenek meg a szükséges információim vagy képességeim” – ez a sablonszöveg érkezett minden próbálkozásukkor, ami arra utal, hogy a Google már lépett az üggyel kapcsolatban.
(Kiemelt képünk illusztráció. Fotó: geralt via Pixabay)
