From Twisted Facts to Rogue Agents: Can LLMs Reliably Detect Multi-Dimensional Hallucinations?
Pubblicata su AIChronos il · fonte del · Hanyu Qiu, Ze Liu, Zhe Zhao, Kuang Xiong, Blaze Chen, Zhenxiang Yan
L'articolo presenta HaluCheck, un benchmark su larga scala bilingue che valuta la capacità dei Large Language Models (LLMs) di rilevare allucinazioni fattuali e di fedeltà nelle traiettorie degli agenti. Gli esperimenti condotti su quattordici modelli mostrano che, sebbene esistano capacità base di rilevamento a livello di campione, i modelli faticano nella localizzazione fine-grained, nella correzione e nel rilevamento delle allucinazioni specifiche degli agenti. L'analisi evidenzia che tecniche come il ragionamento (thinking), la ricerca web e il supervised fine-tuning offrono miglioramenti parziali ma non risolvono completamente il problema della affidabilità.
- HaluCheck include oltre 42k istanze con annotazioni multi-livello per rilevamento, localizzazione e correzione.
- I modelli attuali dimostrano difficoltà significative nella localizzazione fine-grained delle allucinazioni.
- Nessuna strategia singola (thinking, web search, supervised fine-tuning) risolve pienamente il problema delle allucinazioni negli agenti.
- Il benchmark copre sia allucinazioni fattuali nel testo che allucinazioni di fedeltà nelle traiettorie degli agenti.
- HaluCheck fornisce una base solida per diagnosticare l'affidabilità dei LLM in scenari testuali e di agenti.
Perché conta. Per gli sviluppatori che integrano LLM o costruiscono agenti autonomi, questo paper è cruciale perché evidenzia i limiti attuali nella gestione delle allucinazioni multi-dimensionali, guidando la scelta di strategie di mitigazione più robuste per applicazioni locali o enterprise.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.