RAG, memoria e knowledge base per LLM

In breve

Le fonti coprono tre strade complementari per dare memoria agli LLM: retrieval da un archivio esterno (RAG e cache di esempi), memoria a lungo termine per agenti (conversazioni, azioni passate), e consolidamento dell'informazione nei pesi del modello. Le ricerche più recenti tendono a comprimere la memoria in pochi token appresi o in rappresentazioni strutturate, invece di reinserire tutto il contesto ^1,3,17. Emergono però rischi concreti, come la sycophancy indotta dalla memoria ²⁴, e la qualità del retrieval dipende dallo spazio di embedding scelto ⁴⁵. Le fonti sono quasi tutte preprint e non offrono una ricetta consolidata di produzione.

Lo stato attuale

Memoria compressa in token appresi. Memorilla codifica i documenti una volta sola in embedding riutilizzabili e, con soli 16 memory token, risulta migliore di baseline come Mem0 e MemoRAG su cinque benchmark su otto. Su FactKG raggiunge 84,33% di accuracy contro l'80,43% dell'inferenza a contesto pieno, con 108 volte meno token per rappresentare i documenti ¹. REMORY affianca al riassunto testuale una sequenza limitata di soft memory token: su SummHay si avvicina al punteggio a contesto pieno usando il 5,2% delle posizioni in input, e riduce output ripetuti degli strumenti ed errori su BrowseComp e Terminal-Bench 2.1 ¹⁷.

Rappresentazioni strutturate della conoscenza. SPRA organizza oltre un milione di paper in problemi, contributi, componenti, setup sperimentali, misure e risultati, interrogati via Schema-RAG. Rispetto al passage retrieval migliora la QA scientifica di 0,381/5 ed è solo 0,078/5 sotto il Full Compact; i token input+output calano del 28,5% rispetto al passage retrieval e del 95,3% rispetto al Full Compact ³. Sulla sintesi Top-5 gli effetti sulla qualità sono misti ³.

Memoria per agenti conversazionali e a lungo orizzonte. SpeakerMem-R1 usa una memoria a doppio binario (messaggi verbatim con etichetta del parlante e stati derivati, a livello persona e gruppo) e riporta 62,33% sul leaderboard pubblico di EverMemBench ⁴³. PoS mantiene stati di credenza espliciti invece di conservare o comprimere la storia, e risulta migliore su quattro benchmark con tre backbone ³³. In Learn2Play Bench, conservare record completi di azioni e feedback supporta un apprendimento più efficace del riassumerli in regole o strategie ¹⁵.

Consolidamento nei pesi. Cortex distilla gli output condizionati dal contesto in aggiornamenti low-rank o strutturali sulle feed-forward. Dopo 50 modifiche fattuali sequenziali su un modello da 14B, la variante strutturale recupera l'88,9% del guadagno da contesto mantenendo il 99,8% delle prestazioni non target ⁹.

Retrieval come componente di sistema. Nel caso del CLIP con cache, lo stesso contenuto di memoria dà guadagni molto diversi cambiando solo l'encoder di retrieval: da al massimo +0,44 punti (CLIP, MAE) a +19,7 (DINOv2-L) su ImageNet-A ⁴⁵. Va notato che è un risultato di visione, non di testo.

Approcci e strumenti

• RAG su embedding locali. EmbeddingGemma 2 è un modello di embedding multimodale (testo, codice, immagini, audio, video) in uno spazio condiviso, con Matryoshka Representation Learning e licenza Apache 2.0 ²⁵. Transformers v5.19.0 lo include, con vettori a 768 dimensioni troncabili a 512, 256 o 128 ²⁶. Pro: pipeline locali e uno spazio unico per più modalità ^25,26. Contro: le fonti non riportano confronti end-to-end di qualità RAG.
• Memory token appresi (Memorilla, REMORY). Pro: contesto corto e costo ridotto ^1,17. Contro: operano su un LLM congelato ma richiedono l'addestramento di un modulo di memoria ^1,17; le fonti non dicono quanto costi né come generalizzi.
• Rappresentazioni schema-based (SPRA). Pro: risparmio di token e provenienza verificabile tramite le posizioni nelle fonti ³. Contro: richiede costruire e mantenere lo schema; le evidenze riguardano il dominio dei paper AI ³.
• Memoria come file leggibili. nanoMuse tiene la memoria in file che l'utente può leggere, con provenienza, ma le stime di costo sono indicative e la memoria con provenienza è ancora in roadmap ²⁰. ECC è un harness per agenti che cita tra le funzioni anche la memoria, ma la descrizione è troppo scarna per valutarlo ⁷.
• Aggiornamento dei pesi (Cortex). Pro: il guadagno persiste dopo la rimozione del contesto ⁹. Contro: è una modifica del modello, non un archivio consultabile; la fonte non discute cancellazione o audit dei fatti inseriti.
• Retrieval per decisioni. RSAJEV sostituisce la testa linguistica di un MLLM con matching sui prototipi in cache, descritto come isomorfo al RAG ma per decisioni discriminative ¹². RADAR usa il retrieval di regimi storici simili per condizionare un modello di diffusione in finanza ³⁹.

Cosa provare

1. Parti dal retrieval, e misuralo. Confronta più encoder sullo stesso corpus: ⁴⁵ mostra che la scelta dello spazio può valere più del contenuto in memoria (in un contesto visivo, da verificare sul testo). Per un setup locale, EmbeddingGemma 2 è un candidato, di cui valutare la qualità sul proprio dominio ^25,26.
2. Struttura i documenti ricorrenti. Se interroghi spesso lo stesso tipo di documento, uno schema esplicito con riferimenti alla fonte può ridurre i token rispetto al passage retrieval ³.
3. Negli agenti lunghi, non affidarti al solo riassunto. Conserva i record completi di azioni e feedback quando possibile ¹⁵, oppure mantieni uno stato di credenza esplicito ³³. Se hai un modello congelato e budget di addestramento, REMORY e Memorilla sono le opzioni da replicare ^1,17.
4. Separa chi ha detto cosa se l'agente lavora su conversazioni multi-parte, conservando sia i messaggi verbatim sia gli stati derivati ⁴³.
5. Prevedi un controllo sull'influenza della memoria prima di integrarla nella risposta, come in MemAdapter (induzione controfattuale, riflessione sul contesto, ragionamento su evidenze) ²⁴.
6. Considera l'infrastruttura locale: Ollama v0.40.4 aggiunge il supporto agli embedding multimodali via llama-server e corregge il caricamento con context window piccoli ¹¹.

Questioni aperte

• Sycophancy da memoria. Anche memorie corrette e oggettive possono indurla, e la stessa memoria richiede influenza diversa in contesti diversi ²⁴. Filtrare le memorie sbagliate non basta.
• Compressione contro conservazione. Le fonti spingono in direzioni diverse: Memorilla supera il contesto pieno su FactKG ¹, REMORY ci si avvicina ¹⁷, mentre in Learn2Play i record completi battono i riassunti ¹⁵. I compiti e i benchmark sono diversi, quindi non si può dire quale approccio prevalga in generale.
• Confronti incompleti. La Scheda di Memorilla parla di superamento delle baseline in generale, ma l'abstract specifica cinque benchmark su otto ¹; sugli altri tre le fonti non dicono come vada. Per SPRA la sintesi Top-5 è mista ³.
• Limiti di generalizzazione. EvoDuet, che usa un gate di retrieval per decidere quando cercare, non porta benefici a Qwen3.5-9B mentre ne porta ad altri modelli ³⁴: il retrieval non aiuta ugualmente ogni backbone.
• Lacune delle fonti. Non ci sono dati su chunking, reranking, vector database, costi di produzione o valutazioni di RAG testuale classico su larga scala. Le fonti ⁵ e ²³ (video di discussione) non offrono contenuto tecnico utilizzabile sul tema. Molte fonti dell'elenco riguardano remote sensing, finanza o robotica e toccano il tema solo di lato.
• Da tenere d'occhio: l'efficacia della memoria a token appresi fuori dai benchmark ^1,17, e il consolidamento nei pesi su sequenze più lunghe di 50 modifiche ⁹.

Fonti

1. Memorilla: Latent Semantic Memory for LLMs — arXiv, in AIChronos dal 18 ottobre 2026 · scheda
3. Do Agents Need a New Kind of Paper? SPRA: Structured Paper Representation for Agents — arXiv, in AIChronos dal 18 ottobre 2026 · scheda
5. Matt and Ryan have a chat on October 20, 2026 — YouTube, in AIChronos dal 17 ottobre 2026 · scheda
7. affaan-m/ECC — GitHub, in AIChronos dal 17 ottobre 2026 · scheda
9. Cortex: Consolidating Context into Parametric Memory — HF Daily Papers, in AIChronos dal 15 ottobre 2026 · scheda
11. ollama/ollama v0.40.4 — GitHub, in AIChronos dal 12 ottobre 2026 · scheda
12. RSAJEV: Training-Free Abstaining Prototype Memory for Eliminating Silent Hallucination in JEV-Based Remote Sensing Classification — arXiv (temi verticali), in AIChronos dal 11 ottobre 2026 · scheda
15. Learn2Play Bench: How Well Do LLM Agents Learn from Experience in Unfamiliar Environments? — HF Daily Papers, in AIChronos dal 9 ottobre 2026 · scheda
17. REMORY: Learning Residual Memory for Context Compaction — HF Daily Papers, in AIChronos dal 9 ottobre 2026 · scheda
20. nanoMuse: An Open-Source Personal Agent for Every Device You Own — HF Daily Papers, in AIChronos dal 8 ottobre 2026 · scheda
23. Matt and Ryan Have a Chat: Dishwashers, Datadog Spreadsheets, & Electric Fly Swatters — YouTube, in AIChronos dal 7 ottobre 2026 · scheda
24. Memadapter: Counterfactual Adaptation Against Memory-induced Sycophancy — HF Daily Papers, in AIChronos dal 6 ottobre 2026 · scheda
25. EmbeddingGemma 2: an open, lightweight multimodal embedding model — Blog, in AIChronos dal 6 ottobre 2026 · scheda
26. huggingface/transformers v5.19.0 — Release v5.19.0 — GitHub, in AIChronos dal 6 ottobre 2026 · scheda
33. Beyond Memory: Harnessing Long-Horizon Agents with Explicit Belief States — HF Daily Papers, in AIChronos dal 2 ottobre 2026 · scheda
34. EvoDuet: Bilevel Co-Evolution of Web Searching and Task Solving for Scientific Discovery — HF Daily Papers, in AIChronos dal 1 ottobre 2026 · scheda
39. Retrieval-Augmented Diffusion Modeling for Stochastic Discount Factor Portfolios — arXiv (temi verticali), in AIChronos dal 28 settembre 2026 · scheda
43. SpeakerMem-R1: Speaker-Centered Dual-Track Memory for Multi-Party Dialogue — HF Daily Papers, in AIChronos dal 24 settembre 2026 · scheda
45. Retrieval Geometry Shapes Cache-Based Clip Adaptation — arXiv (temi verticali), in AIChronos dal 20 settembre 2026 · scheda