A-RSI: Adaptive Task Refresh for Zero-Data Multimodal Self-Improvement
Pubblicata su AIChronos il · fonte del · Yu Liu, Youxing Li, Yuedong Tan, Zhiwei Yang, Zihan Su, Hanqi Feng (Xiaomi Research)
A-RSI è un framework per il self-improvement multimodale che risolve due limiti delle tecniche esistenti di recursive self-improvement (RSI): la gestione del timing nell'acquisizione di nuove esperienze e l'affidabilità dei dati supervisionati. Il metodo monitora le variazioni di reward e accuratezza nei log di training per decidere autonomamente quando refreshare il pool di task, senza consultare validation o test set esterni. Per generare i dati necessari, utilizza una libreria statica di programmi scritti dal modello stesso che produce domande multimodali e risposte di riferimento verificabili automaticamente tramite un contratto specifico sulla generazione dei task.
- A-RSI determina il momento per acquisire nuove esperienze analizzando la degradazione del segnale di apprendimento nei log, indipendentemente dai punteggi esterni.
- Le supervisioni non dipendono dalla consistenza interna o dal voto maggioritario incerto del modello stesso.
- Il sistema genera domande e risposte multimodali utilizzando un insieme statico di programmi autorizzati dal modello (model-authored programs).
- Tutti i dati per l'addestramento sono generati internamente senza esempi esterni o etichette scritte da umani.
- Sull'undici suite benchmark principale, A-RSI aumenta la performance media del 3.28 punti percentuali (da 57.77 a 61.05) con solo 800 task freschi.
Perché conta. Per gli sviluppatori di agenti e AI locale, A-RSI offre un percorso per migliorare i modelli in autonomia senza costi di dati esterni o annotazioni umane, garantendo al contempo la verificabilità delle risposte generate.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.