RouteWeaver: Weaving Mode Selection and Execution into Unified LLM Routing
Pubblicata su AIChronos il · fonte del · Xiaohan Wang, Haozhen Zhang, Qingyuan Liu, Tao Feng, Wenya Wang (Nanyang Technological University)
RouteWeaver è un framework di routing unificato per LLM che integra la selezione del modo di esecuzione e il coordinamento dei modelli eterogenei in una singola policy. Il metodo introduce COMET-GRPO per ottimizzare congiuntamente la scelta del modo e l'esecuzione interna, decoupling i segnali di vantaggio a livello di traiettoria. Viene inoltre applicata un'explorazione progressiva che sposta gradualmente il training da modalità assegnate esternamente alla selezione autonoma. Questo approccio supera le baselines esistenti in cinque domini chiave (matematica, coding, conoscenza, ragionamento logico e recall fattuale) raggiungendo una precisione media del 61,4%.
- RouteWeaver unifica paradigmi di routing predefiniti come single-round, multi-round o agentic in un'unica policy LLM.
- COMET-GRPO permette un credit assignment mirato separando i segnali per la selezione del modo e l'esecuzione interna.
- L'explorazione progressiva garantisce che il router impari prima a eseguire ogni modalità autonomamente prima di decidere quando utilizzarla.
- Il framework supera tutte le baselines comparate in ciascuno dei cinque domini valutati con un miglioramento relativo dell'11,03% rispetto alla baseline più forte.
- Le ablazioni confermano che sia COMET-GRPO che l'explorazione progressiva sono essenziali per evitare il collasso della policy verso una sola modalità di esecuzione.
Perché conta. Per gli sviluppatori che lavorano con LLM e agenti, RouteWeaver offre un meccanismo adattivo cruciale per gestire query diverse senza essere vincolati a paradigmi rigidi di routing. La capacità del framework di apprendere autonomamente quando attivare modalità complesse (come l'esecuzione agentic) è fondamentale per ottimizzare le risorse in scenari locali o distribuiti.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.