WeAct: Dynamic Weight Switching as Agent Actions
Pubblicata su AIChronos il · fonte del · Rui Shi, Xunjian Yin, Jiacheng Sang, Zichuan Liu, Shuyan Zhou
WeAct è un framework che risolve il problema del forgetting catastrofico negli agenti a lungo termine permettendo di apprendere capacità eterogenee senza modificare i parametri condivisi. Il metodo addestra adattatori LoRA specifici per ogni capacità su uno backbone congelato, aggiungendo la selezione degli adattatori allo spazio delle azioni dell'agente. Questa architettura consente una composizione dinamica e on-demand delle capacità utilizzando l'interfaccia nativa di tool-calling del modello all'interno dello stesso contesto.
- Introduce WeAct (Weight-level Internal Actions) per gestire le fasi diverse di un percorso tramite configurazioni parametriche dinamiche invece che statiche.
- Migliora l'accuratezza media del +6.2% rispetto al fine-tuning completo e del +27.5% rispetto ai metodi statici di merging LoRA su otto benchmark di deep research.
- Supporta un adattamento continuo modulare, permettendo di aggiungere nuovi adattatori per capacità computazionali o aggiornare quelli esistenti senza alterare il backbone.
- Utilizza l'interfaccia tool-calling nativa del modello per selezionare e attivare le competenze necessarie in tempo reale durante l'esecuzione dell'agente.
Perché conta. Per gli sviluppatori di agenti AI, WeAct offre un modo efficiente per espandere le funzionalità senza degradare le prestazioni pregresse o richiedere risorse computazionali eccessive come nel fine-tuning completo.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.