Verus-Insight: Towards Explainable Artifact Detection in AI-Generated Videos
Pubblicata su AIChronos il · fonte del · Zhuoran Zhang, Yang Shi, Qixun Wang, Tengfei Liu, Yuqi Tang, Xuanyu Zhu
Verus-Insight è un framework per la rilevazione di artefatti in video generati da AI che formula il processo come tre capacità complementari: Inspection Planning, Evidence Verification e Evidence Aggregation. Il modello viene addestrato con supervisione umana completa su tutto il processo e training progressivo delle capacità per migliorare sia l'analisi fine-grained che la rilevazione a livello di video. Viene introdotto anche Verus-Bench, un benchmark con annotazioni umane dettagliate degli artefatti percepibili per valutare le prestazioni dei detector. Gli esperimenti dimostrano che Verus-Insight recupera efficacemente gli artefatti percepiti dall'umano senza aumentare i falsi positivi.
- Formulazione strutturata della rilevazione di artefatti in tre fasi distinte: pianificazione dell'ispezione, verifica delle prove e aggregazione delle evidenze.
- Training basato su supervisione umana completa (human-anchored full-process supervision) per rafforzare la capacità di identificare artefatti sottili.
- Introduzione del benchmark Verus-Bench con annotazioni umane fine-grained specificamente progettato per valutare i detector basati sugli artefatti.
- Verus-Insight converte in modo più affidabile gli obiettivi di ispezione rilevanti in prove supportate, riducendo le affermazioni spurie rispetto ai metodi esistenti.
Perché conta. Per uno sviluppatore che lavora con LLM e agenti AI locali, questo approccio è cruciale per costruire sistemi difensivi (defensive measures) capaci di distinguere contenuti sintetici da quelli reali in applicazioni video. La capacità di spiegare quali artefatti specifici supportano una decisione di rilevazione aumenta la trasparenza e l'affidabilità dei modelli generativi deployati.
Vai alla fonte originale ↗ arXiv ↗
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.