MAS-Guard: Unified Guardrails from Individual Agents to Multi-Agent LLM Systems
Pubblicata su AIChronos il · fonte del · Mohammad Kachuee, Phu Mon Htut, Sheng Li, Nikolaos Pappas, Miguel Ballesteros Martinez, Yassine Benajiba
MAS-Guard è un framework unificato progettato per proteggere sia le applicazioni single-agent che multi-agent da azioni non sicure e manipolazioni avversarie. Il sistema integra uno strato locale di guardrail (A-Guard) basato su esperti specifici del task all'interno degli agenti strumentabili, combinandolo con controlli deterministici a livello sistemico tramite Agent Charters e un Control Plane. Questa architettura bilancia verifiche strutturali delle rotte e dei formati messaggi con valutazioni semantiche sui ruoli e sul contenuto, applicando interventi condivisi come allow, reflection, confirmation o block. Valutato su sei benchmark con tre modelli LLM diversi, MAS-Guard riduce drasticamente il tasso di successo degli attacchi mantenendo l'utilità nei compiti benigni.
- MAS-Guard colma le lacune delle difese frammentarie esistenti offrendo una copertura unificata per esecuzioni locali e interazioni a livello di sistema.
- Il framework gestisce efficacemente sia agenti strumentabili che partecipanti opachi o potenzialmente compromessi in sistemi distribuiti.
- La combinazione di controlli deterministici (route, capabilities) e valutazioni semantiche permette un enforcement robusto attraverso quattro tipi di intervento.
Perché conta. Per gli sviluppatori che implementano AI locale o sistemi multi-agent, MAS-Guard fornisce una difesa strutturata contro la perdita di dati e le manipolazioni avversarie senza sacrificare l'utilità funzionale. Offre un approccio scalabile per garantire la sicurezza in architetture complesse dove il potere decisionale è distribuito tra ruoli eterogenei.
Scheda generata automaticamente da un modello AI locale a partire dalla fonte originale: può contenere imprecisioni.