EvoRouter: Cost-Efficient Multi-Agent Routing via Insight-Guided On-Policy Distillation
Pubblicata su AIChronos il · fonte del · Yitao Xiao, Xu Zhang, Ye Cheng, Shaoyong Guo, Yan Sun, Ziyue Zhu
EvoRouter è un framework per il routing multi-agente che utilizza la distillazione on-policy guidata da insight per ottimizzare autonomamente le configurazioni dei sistemi. Un insegnante privilegiato combina feedback di esecuzione ed insight sintetizzati periodicamente per fornire supervisione densa a livello token alla policy del router. Questo approccio integra apprendimento per rinforzo consapevole dei costi, permettendo al sistema di internalizzare insights sull'esecuzione in un ciclo continuo di auto-miglioramento guidato dall'azione.
- Il framework risolve lo spazio combinatorio delle configurazioni multi-agente tramite distillazione on-policy guidata da insight.
- Un insegnante privilegiato fornisce supervisione densa a livello token combinando feedback di esecuzione ed insight sintetizzati.
- L'apprendimento per rinforzo consapevole dei costi ottimizza simultaneamente le prestazioni del task e il costo computazionale dell'inferenza.
- EvoRouter raggiunge una precisione media in-domain del 68.69% su 19 dataset, superando i baseline esistenti.
- Il sistema riduce il costo di calcolo per l'inferenza del 50.95% rispetto alle soluzioni più forti.
Perché conta. Per gli sviluppatori che lavorano con LLM e agenti locali, EvoRouter offre un metodo scalabile per gestire configurazioni complesse senza supervisione manuale estensiva, riducendo drasticamente i costi di inferenza mantenendo alte prestazioni.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.