HyperRepair: Recovering Forgotten General Capabilities of Fine-Tuned Language Models
Pubblicata su AIChronos il · fonte del · Junrong Tang, Jianghui Wang, Hao Kong, Yang Lin, Yibo Yang
HyperRepair è un framework progettato per recuperare le capacità generali indebolite nei modelli linguistici fine-tuned senza compromettere la specializzazione di dominio. Il metodo utilizza una hypernetwork addestrata su riparazioni provenienti da modelli sorgente, che genera una rete laterale personalizzata basandosi sui fingerprint delle attivazioni rispetto al backbone pre-addestrato. Questa architettura applica correzioni selettive tramite un gate condizionato dal prompt durante l'inferenza, permettendo il recupero generalizzabile anche per domini di adattamento non visti e senza esempi target aggiuntivi o ottimizzazione extra.
- Recupera le capacità generali dei modelli fine-tuned mantenendo intatta la specializzazione nel dominio specifico.
- Utilizza una hypernetwork che apprende riparazioni da modelli sorgente per generare reti laterali personalizzate (RSN).
- Opera esclusivamente a costo di inferenza, senza richiedere esempi del dominio target o ulteriore ottimizzazione.
- È generalizzabile attraverso diversi modelli che condividono lo stesso backbone pre-addestrato e domini non visti.
- Raggiunge il 93.4% della capacità generale dei modelli base mantenendo il 99.5% delle prestazioni di dominio specializzato.
Perché conta. Per gli sviluppatori che lavorano con LLM, agenti e AI locale è cruciale perché risolve il trade-off tra specializzazione verticale e competenze generali senza richiedere risorse computazionali aggiuntive per l'addestramento o la fine-tuning ripetuto.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.