AIChronos.notizie sull'intelligenza artificiale
Iscriviti
Paper · arXiv

Temporal Evidence-Parameter Co-Alignment for LLM Reasoning over Temporal Knowledge Graphs

Pubblicata su AIChronos il · fonte del · Jiapu Wang

I Large Language Models (LLMs) faticano nel ragionamento temporale a causa del disallineamento tra la loro memoria parametrica statica e l'evoluzione dinamica delle conoscenze reali. Il framework proposto, Temporal Evidence-Parameter Co-Alignment (TEPCA), risolve questo problema allineando il ragionamento dell'LLM alla conoscenza temporale sia al livello degli evidenti che dei parametri. Al livello degli evidence, utilizza un pruning guidato dalla rilevanza dinamica e basato sull'Mutual Information per preservare percorsi coerenti nel tempo. Al livello parametrico, integra Dynamic-Gated LoRA (DG-LoRA), un meccanismo di adattamento a rango basso condizionato dal timestamp che modula dinamicamente lo spazio di adattamento.

  • TEPCA supera le limitazioni dei metodi RAG e PEFT tradizionali ignorando la validità temporale, l'ordine degli eventi e le dipendenze evolutive.
  • Il pruning basato su Mutual Information (MI) mantiene i fatti locali informativi rispetto alla query sotto vincoli temporali specifici.
  • Dynamic-Gated LoRA (DG-LoRA) permette di catturare la semantica fine-grained dell'evoluzione delle entità e il drift delle relazioni dipendenti dal tempo.
  • Il framework preserva l'efficienza dei parametri mentre migliora significativamente le prestazioni su benchmark di Knowledge Graph temporali.
  • Le valutazioni aggiuntive confermano la capacità input-adaptive, la scalabilità sui backbones LLM e l'interpretabilità del meccanismo DG-LoRA.

Perché conta. Per uno sviluppatore che lavora con agenti AI locali o sistemi di ragionamento complesso, TEPCA offre un modo per integrare dinamicamente conoscenze esterne senza bloccarsi su informazioni temporalmente obsolete. La tecnica permette di costruire agenti più robusti capaci di gestire la deriva semantica delle entità nel tempo mantenendo l'efficienza computazionale tipica dei metodi PEFT.

Vai alla fonte originale ↗

Large Language ModelsTemporal Knowledge GraphsParameter-Efficient Fine-TuningRetrieval-Augmented GenerationDynamic-Gated LoRAMutual Information

Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.