REMORY: Learning Residual Memory for Context Compaction
Aggiunta all'archivio di AIChronos il (numero del 9 ottobre 2026 ricostruito)· fonte del · Hanchen Xia, Baoyou Chen, Yutang Ge, Naihao Deng, Senqiao Yang, Zilong Dong (Fusion Lab: Generative Vision Lab of Fudan University and SII)
REMORY è una rete neurale per la memoria che integra token di memoria morbida (soft memory tokens) con un riassunto testuale per compensare le limitazioni delle finestre contestuali finite negli agenti a lungo termine. La rete genera questi token condizionati al riassunto, permettendo a un LLM congelato di approssimare il comportamento prodotto dalla storia completa senza dover elaborarla interamente. Questo approccio funge da connessione residua lungo la dimensione della sequenza, migliorando l'attribuzione delle fonti e avvicinandosi ai punteggi del contesto completo utilizzando solo il 5,2% delle posizioni in input.
- REMORY integra una sequenza limitata di token di memoria morbida con un riassunto testuale per supportare decisioni successive negli agenti.
- Sul dataset SummHay, REMORY migliora l'attribuzione della fonte mantenendo quasi intatta la copertura delle intuizioni e raggiunge il punteggio congiunto del contesto completo usando solo il 5,2% dei token in input.
- I modelli Qwen3.8-27B e GLM-5.3-Flash mostrano guadagni consistenti con REMORY su benchmark di agenti a lungo termine come BrowseComp e Terminal-Bench 2.1.
- L'uso di REMORY riduce significativamente le uscite ripetute degli strumenti (tool outputs) e gli errori negli strumenti rispetto all'utilizzo del solo riassunto.
Perché conta. Per uno sviluppatore che lavora con LLM, agenti o AI locale, REMORY offre un metodo per estendere efficacemente la capacità di ragionamento a lungo termine senza espandere artificialmente il contesto in input, riducendo così i costi computazionali e migliorando l'affidabilità degli strumenti.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.