Latent Path Exploration via Potential-Guided Subtrajectory Balance
Pubblicata su AIChronos il · fonte del · Xiaoling Zeng, Qi Zhang
Il paper introduce SubLAT, un framework che abilita il ragionamento latente continuo guidando le transizioni stocastiche verso percorsi di calcolo utili tramite potenziale relativo e bilanciamento delle sottotrajettorie. Questo approccio supera i limiti dell'esplorazione puramente stocastica accoppiando segnali di correttezza terminali con densità di transizione in avanti e all'indietro su diverse lunghezze di percorso. Il modello viene addestrato congiuntamente utilizzando supervisione sulle risposte, sul ragionamento passo-passo (CoT) e distillazione delle rappresentazioni. Gli esperimenti dimostrano un aumento della copertura delle soluzioni sia nei benchmark in-dominio che out-of-domain, inclusi quelli strutturali.
- SubLAT accoppia il potenziale relativo dell'answer con Subtrajectory Balance per apprendere l'esplorazione latente stocastica efficace.
- Il metodo guida le transizioni tra stati latenti intermedi verso percorsi di ragionamento utili senza generare tracce esplicite.
- L'addestramento congiunto integra supervisione delle risposte, supervisione CoT e distillazione della rappresentazione per migliorare la robustezza.
- Le analisi delle traiettorie rivelano una divergenza progressiva tra i percorsi latenti campionati nei benchmark aritmetici.
- Il framework mostra miglioramenti significativi su benchmark out-of-domain (OOD) strutturali con budget di sampling più ampi.
Perché conta. Per gli sviluppatori che lavorano con LLM e agenti, SubLAT offre un meccanismo per migliorare il ragionamento interno senza aumentare la latenza dell'output testuale o richiedere memoria a lungo termine esplicita. È rilevante specialmente per l'inferenza locale dove ottimizzare i percorsi di calcolo interni è cruciale per prestazioni superiori in compiti complessi.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.