Cord: Confidence-Anchored Order Residual Decoding for Masked Diffusion Language Models
Pubblicata su AIChronos il · fonte del · Chengwei Zhou, Zhaoyan Jia, Massoud Pedram, Gourav Datta
Cord è un metodo leggero per i modelli linguistici a diffusione mascherata (dLLMs) che migliora la qualità della generazione adattando dinamicamente l'ordine di rivelazione dei token. A differenza degli approcci standard basati solo sulla confidenza, Cord utilizza residui geometrici condizionali dal prompt per determinare quando e come deviare dalla strategia base durante il processo di infillaggio bidirezionale. Il modello apprende una traiettoria dipendente dallo stato campionando un'unica matrice a basso dimensionalità per rollout, evitando aggiornamenti del backbone o assegnazione dei crediti al livello step. Questo approccio porta a significativi miglioramenti nella successione delle attività su benchmark di ragionamento e codice con un sovraccarico computazionale minimo.
- Cord integra la decodifica per confidenza come riferimento stabile, modificandola tramite residui geometrici basati sulla direzione della generazione e dalla prossimità al contesto rivelato.
- Il metodo utilizza una formulazione di bandit contestuale addestrata direttamente da ricompense a livello di sequenza, senza necessità di credit assignment step-by-step.
- L'implementazione aggiunge solo 0.53M parametri trainabili e richiede nessun passaggio forward aggiuntivo nel backbone del modello originale.
- I test su tre dLLMs dimostrano un aumento della media dei tassi di successo delle attività dal 32.0% al 48.2%, superando le strategie fisse per dominio specifico.
- Le audit comportamentali confermano che i residui appresi inducono cambiamenti sostanziali e dipendenti dal compito nella località di rivelazione e nell'infillaggio bidirezionale.
Perché conta. Per gli sviluppatori che lavorano con LLM locali o agenti, Cord offre un modo efficiente per potenziare la capacità dei modelli a diffusione mascherata senza modificare l'architettura base né aumentare significativamente i tempi di inferenza. È particolarmente utile in scenari dove la qualità della generazione dipende criticamente dall'ordine di rivelazione e dalla gestione dell'infillaggio bidireziale.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.