Compatible Likelihoods for Flow Matching on Manifolds
Pubblicata su AIChronos il · fonte del · Lucas Ng, Georgios Batzolis, Mark Girolami
Lo studio identifica un difetto fondamentale nelle estensioni recenti del Riemannian flow matching su manifold non euclidei, dove l'ottimizzazione globale può spingere i campioni lontano dalla distribuzione dei dati. Gli autori introducono il concetto di 'compatibilità', definendo una condizione generale per gli obiettivi basati sulla likelihood che recuperino correttamente il campo vettoriale marginale indotto dai dati e dall'accoppiamento. Viene proposto un nuovo obiettivo costruito su una famiglia esponenziale degli endpoint, garantito sia compatibile sia supportato esclusivamente da velocità fattibili sui manifold compatti. Empiricamente, questo approccio recupera il corretto campo vettoriale nei casi di test e supera i metodi precedenti su benchmark geospaziali standard.
- Esiste una modalità di fallimento nel Riemannian flow matching dove la minimizzazione della likelihood spinge erroneamente le campioni lontano dalla distribuzione dati.
- La 'compatibilità' è definita come la proprietà per cui il minimo di popolazione dell'obiettivo basato sulla likelihood recupera esattamente il campo vettoriale indotto dai dati e dall'accoppiamento.
- Il nuovo metodo proposto utilizza una famiglia esponenziale sugli endpoint con velocità condizionale come statistica sufficiente, limitando le probabilità a velocità fattibili su manifold compatti.
- Sui manifold di curvatura costante, la perdita viene ripesata per trattare gli errori nella velocità e direzione del flusso in modo differenziato.
- Il metodo ottiene miglioramenti significativi nel Negative Log-Likelihood (NLL) sui benchmark geospaziali sulla sfera con un overhead computazionale moderato.
Perché conta. Per gli sviluppatori che lavorano su AI locale o modelli generativi, comprendere le proprietà geometriche dei manifold è cruciale per evitare distorsioni nei dati quando si applica il fine-tuning o l'inference in spazi non euclidei. Questo paper offre una base teorica solida e un metodo pratico per garantire la stabilità del campo vettoriale nel flow matching, migliorando così l'affidabilità dei modelli su dataset complessi come pose umane o coordinate geografiche.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.