TAC-CoT: Tool-Empowered Implicit Chain-of-Thought via Interleaving Explicit Tokens
Pubblicata su AIChronos il · fonte del · Juseon Do, Sangmin Bae, Jeesu Jung, Hwanjun Song (Data Intelligence System Lab)
TAC-CoT è un framework che integra ragionamento implicito e uso di strumenti negli agenti LLM sostituendo i tracciati espliciti con segmenti latenti compatti. Questo approccio interleavea token testuali solo per chiamate a strumenti, osservazioni e risposte finali, evitando di verbalizzare ogni passo intermedio del ragionamento. Gli esperimenti su benchmark matematici e QA dimostrano un miglioramento dell'accuratezza fino all'8,8% e una riduzione dei forward pass del modello fino a 6,8 volte. Inoltre, l'analisi conferma che la qualità dell'uso degli strumenti migliora sia in configurazioni single-tool che multi-tool.
- Sostituisce i tracciati di ragionamento espliciti con segmenti latenti compatti per ridurre il sovraccarico generativo.
- Mantiene i token testuali esclusivamente per le interfacce di comunicazione necessarie come chiamate a strumenti e risposte finali.
- Riduce significativamente il numero di forward pass del modello, migliorando l'efficienza computazionale senza sacrificare la precisione.
- Supporta efficacemente l'uso di agenti con uno o più strumenti attraverso un design interleaveato specifico.
- Dimostra superiorità rispetto al CoT esplicito su benchmark che richiedono ragionamento accurato e conoscenza esterna.
Perché conta. Per gli sviluppatori di agenti AI locali, TAC-CoT offre un modo per bilanciare la potenza del ragionamento con l'efficienza delle risorse, cruciale quando si opera in ambienti a hardware limitato o con vincoli di latenza stretti.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.