MCPHallu: Benchmarking Reasoning, Execution, and Memory Hallucinations in MCP Agents
Pubblicata su AIChronos il · fonte del · Yizhen Jiang, Haowei Guo, Tianyi Bai, Zengjie Hu, Lu Ma, Zhengyang Zhao
Il paper introduce MCPHallu, un benchmark progettato per diagnosticare le allucinazioni negli agenti basati sul Model Context Protocol (MCP) lungo tre assi: ragionamento, esecuzione e memoria. A differenza dei benchmark esistenti che misurano solo il completamento del compito, MCPHallu integra trigger strutturali per isolare rischi specifici come Branch Collapse, Unreachable Goal, Tool Misuse o Context Forgetting. Il dataset comprende 358 task su 5.012 traiettorie eseguite su 36 server MCP di produzione, valutando quattordici agenti LLM frontier. I risultati evidenziano una vulnerabilità significativa degli agenti attuali, con punteggi medi di 0.642 e un crollo delle prestazioni fino a 0.458 nei task con obiettivi irraggiungibili.
- MCPHallu valuta le allucinazioni in tre dimensioni specifiche: ragionamento, esecuzione e memoria, superando i limiti dei benchmark tradizionali.
- Ogni task include un trigger strutturale che induce selettivamente uno dei quattro sottotipi di fallimento dominanti per l'analisi granulare.
- Le analisi rivelano una forte disconnessione tra le capacità degli agenti in scenari diversi, con punteggi medi inferiori nel riconoscere obiettivi irraggiungibili.
- La valutazione copre 14 agenti LLM frontier da 8 fornitori su un ambiente isolato di 36 server MCP di produzione.
- Il benchmark dimostra che gli agenti tendono a continuare le chiamate agli strumenti o a dichiarare successo anche quando l'obiettivo è tecnicamente impossibile.
Perché conta. Per gli sviluppatori che integrano agenti AI locali o utilizzano il protocollo MCP, questo paper fornisce metriche critiche per identificare vulnerabilità specifiche nel ragionamento e nella gestione della memoria prima del deployment.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.