SWE-Trail: History-Guided Trajectory Collection for Coding Agent Training
Pubblicata su AIChronos il · fonte del · Ziming Li, Lu Yu, Jiatan Huang, Qing Cui, Jun Zhou, Chuxu Zhang (Ant Group)
SWE-Trail è un nuovo metodo per la raccolta di traiettorie (trajectories) utilizzato nell'addestramento degli agenti di coding. A differenza dell'approccio comune che campiona traiettorie in modo indipendente, SWE-Trail utilizza le informazioni storiche delle esecuzioni precedenti per guidare dove concentrare gli sforzi di raccolta senza esporre l'agente a tali dati storici nel suo contesto. Questo approccio evita il mismatch train-test causato dall'insegnamento all'agente di fare affidamento su consigli non disponibili al momento del test, migliorando significativamente le prestazioni rispetto ai metodi basati sul campionamento indipendente.
- Le traiettorie indipendenti tendono a diventare ridondanti man mano che il numero di campioni aumenta; SWE-Trail mitiga questo problema sfruttando la storia per ottimizzare l'esplorazione.
- La raccolta guidata dalla storia identifica stati dove ulteriori sforzi sono utili, lasciando all'agente coding la decisione su cosa generare basandosi sul suo contesto ordinario.
- L'integrazione della storia nella fase di collezione migliora il mean resolution del modello studente (124B) su SWE-bench Multilingual e Pro rispetto al campionamento indipendente senza history.
- Il metodo preserva l'indipendenza tra la conoscenza storica usata per guidare la raccolta e il contesto dell'agente durante l'inferenza, garantendo generalizzazione robusta.
- SWE-Trail dimostra che esporre l'agente alla storia crea dipendenze non trasferibili al test time, mentre usarla solo come guida strategica è più efficace.
Perché conta. Per gli sviluppatori di agenti AI e LLM locali, SWE-Trail offre una strategia cruciale per ottimizzare i dati di post-training senza introdurre bias legati alla disponibilità dei dati storici durante l'inferenza. Questo approccio massimizza il valore delle traiettorie raccolte migliorando la risoluzione degli issue su benchmark complessi come SWE-bench.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.