PostNews

Hírek — csak a lényeg, felesleges zaj nélkül.

— Hortenzia

Kép: hvg.hu

Biztonsági riasztást váltott ki az Anthropic mesterséges intelligenciájának fejlődése

2026. 11. 17. — 16:22

Az amerikai tőzsdefelügyelethez benyújtott dokumentumok szerint az Anthropic arra jutott, hogy életbe lépett az irányelveiben meghatározott küszöb, amely a fejlődés meghatározott mértékű felgyorsulásának észlelésekor vagy várakozásakor aktiválódik.

  • Az Anthropic a felelősségteljes skálázásra vonatkozó irányelvei szerinti küszöb elérésére jutott, mert a meghatározott mértékű fejlődésgyorsulást észlelte vagy várta.
  • A küszöb elérése miatt a vállalatnak felül kell vizsgálnia a biztonsági előírásait, és szorosan figyelemmel kell követnie, mit tesz az általa fejlesztett mesterséges intelligencia.
  • A dokumentum módosítása arra utal, hogy az irányelvek szerinti küszöb már életbe lépett; a jelzés ugyanakkor a jövőbeli modellekre vonatkozik, és nem jelent hirtelen technológiai ugrást.

A Gizmodo beszámolója szerint az Anthropic az Egyesült Államok Értékpapír- és Tőzsdefelügyeletéhez (SEC) november 2-án benyújtott dokumentumaiban még csak lehetőségként említette a fejlődés drámai felgyorsulását. A november 10-i változatból arra lehet következtetni, hogy az irányelv szerinti küszöb már életbe lépett.

A rekurzív önfejlesztés az az elméleti pont, amikor a mesterséges intelligencia képessé válik önmaga továbbfejlesztésére. Bár a mostani bejelentés nem jelenti a technológiai szingularitás elérését, a vállalatnak felül kell vizsgálnia a biztonságra vonatkozó előírásait, és szorosan figyelemmel kell követnie, mit csinál az általa fejlesztett mesterséges intelligencia.

A cég hangsúlyozta, hogy a jelzés nem a jelenleg elérhető, hanem a fejlesztés alatt álló, jövőbeli modellek potenciális kockázataira vonatkozik. Az Anthropic közlése szerint a küszöb a jövőbeli modellekre vonatkozik.

Kapcsolódó cikkek

Vissza a főoldalra