PAR: Progress-Aligned Recurrence for Length Generalization in State Tracking
Pubblicata su AIChronos il · fonte del · Pan Wang, Yihao Hu, Guangyuan Dong, Yitong Lin, Hang Wang, Zimi Liu (ant-international)
Il paper introduce Progress-Aligned Recurrence (PAR), un metodo per migliorare la generalizzazione della lunghezza nei modelli linguistici ricorsivi. PAR allinea le previsioni dell'iterazione k allo stato dopo i primi k operazioni e riscalibra gli stati ricorrenti alle loro norme iniziali, superando il limite in cui iterazioni aggiuntive non aiutano a risolvere problemi più lunghi. Su swap-S_5, un modello Qwen2.5-0.5B addestrato su al massimo 32 mosse raggiunge una precisione del 95.5% a 512 mosse (16 volte la lunghezza di training), rispetto all'8% ottenuto con il chain of thought esplicito. Tecniche come prefix self-distillation permettono l'apprendimento quando mancano etichette intermedie, mentre un readout imparato seleziona autonomamente quando rispondere.
- PAR risolve il problema in cui iterazioni aggiuntive non migliorano la risoluzione di problemi più lunghi nei modelli sequenziali.
- L'allineamento al progresso e l'ancoraggio della norma (norm anchoring) sono essenziali per mantenere un fattore di estrapolazione elevato (16x).
- La sostituzione degli obiettivi allineati al progresso con supervisione finale riduce drasticamente la capacità di generalizzazione.
- Il prefix self-distillation induce corrispondenze tra prefissi più brevi utilizzando solo risposte finali quando le etichette intermedie non sono disponibili.
- I guadagni si applicano a vari task di state tracking, stabilendo la struttura necessaria per l'estrapolazione della profondità.
Perché conta. Questa tecnica è cruciale per sviluppatori che lavorano con agenti e LLM locali perché permette di estendere significativamente il raggio d'azione dei modelli senza aumentare le dimensioni o i costi computazionali, rendendo la ricorsione test-time realmente utile. Consente di costruire sistemi autonomi capaci di gestire sequenze molto lunghe (es. 512 mosse) partendo da dati limitati.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.