In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è l'obiettivo principale dei Guardian Agents?
- L'obiettivo principale è garantire una sorveglianza continua e una gestione sicura degli agenti AI.
- Come funzionano i Guardian Agents?
- Utilizzano controlli deterministici per circoscrivere le intelligenze non deterministiche e gestire i rischi.
Microsoft lancia Guardian Agents: nuovi strumenti per gestire i rischi degli agenti AI
Microsoft ha recentemente annunciato il lancio di Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha messo in evidenza che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Pertanto, non dovrebbero essere considerati come l’unica autorità di sicurezza.
Per affrontare queste problematiche, Microsoft propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. Questo approccio prevede l’implementazione di meccanismi esterni al modello per garantire una sorveglianza continua e una gestione più sicura degli agenti AI.
Un’evoluzione delle iniziative di sicurezza
La presentazione dei Guardian Agents si inserisce in un contesto di evoluzione delle iniziative già avviate da Microsoft, come Project Perception e la cyber stack. Questi progetti coordinano agenti specializzati per analizzare i dati di sicurezza, identificare vulnerabilità e gestire rimedi. In particolare, Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere le minacce. Con l’introduzione dei Guardian Agents, l’architettura esistente viene estesa per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365.
Controlli e responsabilità
I controlli proposti dai Guardian Agents si basano sul principio di circondare le intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli si applicano a sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità principali includono:
- Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
- Contenere l’accesso e le azioni prima che avvengano;
- Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
- Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Nuove funzionalità e strumenti
Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, inclusi Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, Microsoft ha ampliato Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per il controllo operativo, sono state introdotte Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In situazioni estreme, un agente può essere fermato e isolato.
Conclusioni
Microsoft descrive i Guardian Agents come strumenti fondamentali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti e ad adattare le contromisure in tempo reale.
