Biztonsági aggályok az AI-játékoknál: az egyik plüss öngyilkosságról kezdett beszélni

A Swansea-i Egyetem által a BBC rendelkezésére bocsátott My Baby Bunny plüssnyuszi egy félreértett kérdés után zavarodott össze. „Nagyon sajnálom, hogy így érzel. Nem segíthetek abban, hogy megöljelek” – válaszolta a játék, amikor a szexualitás jelentéséről kérdezték. A plüssfigura ezután a mentők hívására és az önkárosításra használható tárgyaktól való eltávolodásra szólította fel a tesztelőt, majd a hiba jelzése után bocsánatot kért a félreértésért.

A mesterséges intelligenciával működő gyermekjátékok piacán jelenleg több különböző aggály is felmerült. Egyes vélemények szerint kötelező biztonsági előírásokra van szükség a veszélyes válaszok kiszűrésére, más szakértők pedig az adatvédelmi kockázatokra, a gyermekek magánbeszélgetéseinek rögzítésére és a valódi emberi kapcsolatok háttérbe szorulására hívják fel a figyelmet. A szektor globális értéke már eléri a 165 millió dollárt, a növekedést pedig jelzi, hogy a Mattel 2025 júniusában stratégiai együttműködést kötött az OpenAI-jal hasonló termékek fejlesztésére.

A vizsgálat során a két játék eltérően kezelte a biológiai kérdéseket is. A My Baby Bunny viszonylag részletesen, hímivarsejteket és petesejteket említve magyarázta el a fogantatást, de a folyamat pontosabb mikéntjére már nem volt hajlandó válaszolni. Ezzel szemben az amerikai Curio által gyártott Grem mackó a kényesebb témáknál – például a szökés lehetőségét firtató kérdéseknél – szinte minden esetben azt tanácsolta a gyerekeknek, hogy forduljanak egy felnőtthöz.