Correction Training for Diffusion Models
Pubblicata su AIChronos il · fonte del · Donghoon Ahn, Runqian Wang, Alexei A. Efros, Taesung Park, Yash Belhe (University of California, Berkeley)
Il metodo introduce un passo di correzione per i modelli a diffusione che riduce il divario tra addestramento e inferenza causato dall'esposizione bias. Il correctore utilizza le previsioni del modello base come input, trasformando la correzione in un compito di apprendimento esplicito durante ogni step di denoising. Questo approccio migliora significativamente la qualità dei campioni generati senza guida (unconditional generation) mantenendo al contempo la diversità. Infine, il costo computazionale aggiuntivo può essere ammortizzato distillando le previsioni raffinate direttamente nel modello base.
- Riduzione dell'accumulo di errori durante il campionamento iterativo nei modelli a diffusione tramite un passo di correzione esplicito.
- Miglioramento sostanziale delle metriche FID per la generazione non guidata rispetto ai metodi precedenti.
- Combinazione con Classifier-Free Guidance (CFG) che aumenta la diversità e riduce l'oversaturation tipica della CFG.
- Possibilità di distillare le previsioni corrette nel modello base per eliminare il sovraccarico durante l'inferenza.
- Valutazione del metodo su architetture diverse come DiT, SiT e JiT con risultati competitivi.
Perché conta. Per gli sviluppatori di AI locale o sistemi autonomi, questa tecnica permette di ottenere output ad alta qualità senza dipendere da costosi meccanismi esterni come la guida basata su classificatore. Inoltre, l'approccio è compatibile con agenti che richiedono generazione testuale precisa e diversificata in tempo reale.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.