Don't Lose the Thread: Empowering Long-Horizon LLM Agents with Cognitive Resource Self-Allocation
Pubblicata su AIChronos il · fonte del · Zheng Zhu, Xiaozhuan Liang, Xi Chen, Bei Yu, Jiaya Jia
Gli agenti alimentati da LLM spesso falliscono in compiti a lungo termine a causa del sovraccarico cognitivo e della memoria di lavoro intasata. Per mitigare questo problema, l'autore introduce CORAL (Cognitive Resource Self-Allocation), un paradigma che permette agli agenti di ottimizzare proattivamente il contesto salvando i fatti verificati e resettando le informazioni irrilevanti. Questa tecnica utilizza una politica di ottimizzazione rinforzata multi-episodio per gestire efficacemente la memoria, consentendo ai modelli di riprendere il ragionamento da uno stato pulito senza perdere progressi.
- CORAL è un toolkit gestibile dalla chiamata dell'agente che permette di checkpointare i fatti e resettare contesti contaminati.
- Sul benchmark GAIA, CORAL con un modello da 8B raggiunge una precisione media del 42.8%, superando le prestazioni su compiti complessi (Livello 2 e 3).
- L'approccio riduce drasticamente i costi di inferenza consumando solo il 6-7% dei token in ingresso rispetto a un agente ReAct.
- La soluzione si generalizza con successo ai benchmark Knowledge QA multi-hop e al dataset BrowseComp, migliorando gli agenti proprietari esistenti.
Perché conta. Per uno sviluppatore che lavora su AI locale o agenti autonomi, CORAL offre una via per estendere l'orizzonte temporale dei ragionamenti senza aumentare i costi computazionali proibitivi. È fondamentale perché risolve il collo di bottiglia della memoria a breve termine degli LLM, permettendo applicazioni reali più complesse e sostenibili.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.