PostNews

Hírek — csak a lényeg, felesleges zaj nélkül.

— Hortenzia

Kép: Fox News

Új eszközökkel küzd az OpenAI a mesterséges intelligenciával gyártott gyermekpornográfia ellen

2026. 11. 17. — 02:15

A technológiai vállalat új képosztályozót mutatott be, és szigorúbb ChatGPT-korlátozásokat vezetett be. Az intézkedések célja az AI-val generált visszaélések kiszűrése és a megelőzés segítése.

  • Az új képosztályozó a képek vizuális jeleit vizsgálja, így korábban nem azonosított bántalmazó tartalmakat is jelezhet.
  • A ChatGPT-n mostantól figyelmeztető üzenet és 24 órás felfüggesztés jár, ha valaki gyermekeket szexualizáló tartalmakra próbál rákeresni.
  • A tesztek szerint az új rendszer 48 százalékkal kevesebb képet jelölt felülvizsgálatra, miközben nagyjából ugyanannyi bántalmazó tartalmat észlelt.
  • Az OpenAI az osztályozót díjmentesen kínálja ellenőrzött szervezeteknek API-n keresztül, a bűnüldöző szerveknek pedig külön AI-eszközöket és képzést biztosít.

A Fox News jelentése szerint az új szűrőrendszert az Eltűnt és Kizsákmányolt Gyermekek Országos Központjával (NCMEC) együttműködve fejlesztették ki. A technológia különlegessége, hogy nem a fájlok korábban azonosított digitális ujjlenyomatait (hash) keresi, hanem pontozza a képek vizuális elemeit. Ez lehetővé teszi az olyan új, mesterséges intelligenciával generált tartalmak felismerését is, amelyek korábban még nem szerepeltek egyetlen adatbázisban sem.

Az OpenAI közlése szerint az ismételt szabályszegések hosszabb korlátozáshoz vagy a fiók végleges lezárásához vezethetnek, és hatósági bejelentést is eredményezhetnek. A Fox News szerint az NCMEC CyberTipline-ja 2025-ben több mint 400 ezer, generatív MI-vel összefüggő bejelentést kapott; ezek nem mindegyike vonatkozott AI-val generált bántalmazó tartalom létrehozására vagy megosztására.

A bűnüldöző szervek számára a cég speciális elemző eszközöket és tréningeket is biztosít. Ezek segítik a nyomozókat a hosszú csevegési naplók és jogi úton beszerzett adathalmazok gyorsabb feldolgozásában, lehetővé téve a gyanús kapcsolatok és idővonalak hatékonyabb feltárását. Az OpenAI emellett új útmutatót is közzétett a fejlesztők számára, hogy segítsen nekik saját felületeiken is bevezetni a megfelelő gyermekvédelmi protokollokat.

Kapcsolódó cikkek

Vissza a főoldalra