Can Test-Time Memory Evolution Outperform Test-Time Training for Scientific Discovery?
Pubblicata su AIChronos il · fonte del · Yepeng Liu, Shengmai Chen, Xuandong Zhao, Chengzhi Liu, Dawn Song, Xin Eric Wang
Il paper introduce Test-Time Memory Evolution (TTME), un metodo di adattamento al momento del test che aggiorna la memoria esterna distillando esperienze senza modificare i pesi del modello. Questo approccio è proposto come alternativa efficiente ai recenti framework di Test-Time Training (TTT) per compiti di scoperta scientifica. Gli esperimenti dimostrano che TTME supera le prestazioni dei modelli TTT su cinque task matematici riducendo drasticamente il costo computazionale in FLOPs e tempo di esecuzione.
- TTME evita l'aggiornamento online dei pesi del modello, eliminando i costi aggiuntivi tipici del Test-Time Training (TTT).
- Il metodo guida le scoperte successive distillando continuamente esperienze nella memoria esterna invece di addestrare il modello.
- L'implementazione è plug-and-play e può sostituire direttamente la componente di adattamento nel framework TTT esistente.
- La valutazione mostra una riduzione del costo computazionale tra l'82,8% e l'84,6% in FLOPs rispetto a TTT.
- I risultati confermano che TTME è un'alternativa efficace per scalare i modelli mantenendo alta efficienza.
Perché conta. Per uno sviluppatore di agenti AI o sistemi locali, TTME offre una via praticabile per migliorare le prestazioni dei LLM in compiti complessi senza richiedere hardware ad alte prestazioni necessario per l'addestramento online continuo.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.