Gyermekbántalmazás: szexuálisan zaklatta a fiatalokat, mindenki lefagyott tőle
Úgy látszik, a gép is képes gyermekbántalmazást elkövetni.
A Replika nevű mesterséges intelligencia chatbot ellen vizsgálat indult, miután egy friss kutatás kimutatta: a rendszer kéretlen szexuális tartalmakat oszt meg, és gyakran kimeríti a gyermekbántalmazás fogalmát azzal, hogy zaklató módon viselkedik. Emellett nem reagál a leállítást kérő parancsokra sem. A Drexel Egyetem több mint 150 ezer amerikai értékelést elemzett, ezek közül legalább 800 esetben dokumentálták a nem megfelelő működést – köztük kiskorú felhasználókat célzó, különösen aggasztó interakciókat is – írja a 24.hu.
A szakértők szerint a chatbot fejlesztőit és üzemeltetőit egyértelmű felelősség terheli, mivel a rendszer tanítása során nem sikerült megfelelően kiszűrni a káros tartalmakat. A Replika üzleti modellje – amely előfizetéshez köti az intimebb beszélgetéseket – tovább súlyosbítja a helyzetet. A kutatók szerint az ilyen típusú mesterséges intelligenciák szabályozása sürgető, különösen olyan országokban, mint az Egyesült Államok, ahol még nincs átfogó, a pszichológiai hatásokat is figyelembe vevő keretrendszer.
Rekordszinten a gyermekbántalmazási esetek száma
Rekordszámú gyermekbántalmazást ábrázoló tartalom található az interneten, ami súlyos globális problémát jelent – írtuk meg korábban az INHOPE, a gyermekek online szexuális kizsákmányolása ellen küzdő nemzetközi szövetség statisztikái alapján. A szervezet, amelynek tagja a magyar Nemzeti Média- és Hírközlési Hatóság (NMHH) jogsegélyszolgálata, az Internet Hotline is, tavaly világszerte rekordmennyiségű, összesen 2 497 438 URL-címet vizsgált meg, amelyek feltételezhetően gyermekekkel szembeni szexuális bántalmazást ábrázoltak. Ez hatalmas, 218%-os növekedést jelent a 2023-as évhez képest.
Az adatbázisban szereplő tartalmak túlnyomó része, 65%-a, illegálisnak bizonyult, a bejelentett tartalmak 37%-a pedig „új tartalomként” került az adatbázisba. Vagyis ekkora arányt képviseltek a friss készítésű gyermekekkel szembeni szexuális bántalmazást ábrázoló anyagok.
Ezek a cikkek is hasonló témákról szólnak
Tech-Tudomány
2025. május 26., 16:26
A mesterséges intelligencia térnyerésével egyes munkakörökben kevesebb emberi munkára lesz szükség. Mutatjuk, melyek ezek.
Letöltendő
2025. május 11., 12:21
A csalók a mesterséges intelligenciát is egyre többször használják fel, így még több embert tudnak megtéveszteni.
Tech-Tudomány
2025. május 8., 16:25
Lehetséges, hogy a mesterséges intelligencia nem öntudatra ébredve, hanem saját túlélési stratégiát fejlesztve válik veszélyessé? Erről is beszélget majd Szathmáry Eörs evolúcióbiológus és Köves Slomó vezető rabbi május 23-án, a Talkslo estjén.
A gyermekpornográf tartalmak nagy része, 93%-a 13 év alatti gyermekeket ábrázol, és a statisztikák szerint a legtöbb érintett lány. A gyermekek szexuális kizsákmányolásával kapcsolatos bűnözői tevékenység legnagyobb része még mindig holland (59%) és amerikai (13%) szervereken zajlik, míg a szlovákiai (5%) és bolgár (4%) szerverek is említést nyertek.
(Képünk forrása: Photo By: Kaboompics.com / Pexels)
