Álmodással tanítja saját hibáinak kijavítására modelljeit az Anthropic

Az Anthropic az emberi agy működését modellezte, ahol a hippokampusz által rögzített friss élmények alvás közben épülnek be a hosszú távú memóriát tároló neocortexbe. A kutatás során kiderült, hogy a régebbi Sonnet 3.7 modell hajlamos volt a túlzott adatgyűjtésre: a Pokémon Red játék alatt közel egymillió karakternyi jegyzetet készített, és egy ponton 17 lépésen keresztül csak a fájljait rendezgette ahelyett, hogy haladt volna. Ezzel szemben az újabb, Fable 5 nevű modell huszadannyi jegyzettel is sokkal sikeresebben gyűjtötte a jelvényeket, mivel csak a képernyőről le nem olvasható, stratégiai információkat rögzítette.

A technológia gyakorlati hasznát a Stainless szoftvercég 350 ezer belső dokumentumán is tesztelték. A Claude Opus 5-re épülő ágensek 128 munkamenet alatt egy wikiszerű gyűjteményt hoztak létre az adatokból. A wikire támaszkodva a modell a tesztkérdések értékelési szempontjainak 48 százalékát teljesítette; keresővel együtt 61 százalékot ért el. A módszer ráadásul kérdésenként nagyjából 20 ezer tokent takarított meg a modellnek.

A fejlesztők szerint az álmodás során végzett önreflexió segít kiküszöbölni a logikai bukfencet okozó téves feljegyzéseket is. A modell tévesen a hegy keleti oldalára helyezte a barlang bejáratánál álló Pokémon Centert, ezért azt hitte, már túljutott a barlangon. Az „álmodás” során a naplóval összevetve felismerte és kijavította a tévedést. A tapasztalatok azt mutatják, hogy a rendszer akkor teljesít a legjobban, ha a fejlesztők rábízzák, mit tart fontosnak lejegyezni a későbbi feladatokhoz.