In Breve
- Cosa sono i Guardian Agents di Microsoft?
- I Guardian Agents sono strumenti progettati per monitorare e gestire i rischi associati agli agenti AI autonomi.
- Qual è la funzione principale dei Guardian Agents?
- La loro funzione principale è garantire la sicurezza degli agenti AI, evitando che diventino una minaccia.
- Come si integrano i Guardian Agents con altre iniziative di Microsoft?
- I Guardian Agents si integrano con iniziative come il Project Perception per migliorare la sicurezza e la gestione dei rischi.
Microsoft Rivoluziona la Sicurezza degli Agenti AI con i Guardian Agents
In un mondo sempre più dominato dall’intelligenza artificiale, Microsoft ha recentemente annunciato il lancio dei Guardian Agents, una serie di strumenti innovativi progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. Questa iniziativa si inserisce in un contesto di crescente preoccupazione riguardo alla sicurezza degli agenti AI, che, sebbene non siano intrinsecamente maligni, possono commettere errori, essere manipolati o compromessi.
La Necessità di Controlli Esterni
Microsoft sottolinea che gli agenti AI non devono essere lasciati come unica autorità di sicurezza. Per affrontare questa sfida, l’azienda propone di separare la fornitura di intelligenza dall’autorità che ne controlla l’accesso e le azioni. I Guardian Agents sono pensati per fornire una sorveglianza continua, utilizzando meccanismi esterni al modello stesso.
Un’Evoluzione delle Iniziative di Sicurezza
Questa proposta si inserisce in un’evoluzione di iniziative già avviate, come il Project Perception e la cyber stack di Microsoft, che coordinano agenti specializzati per analizzare dati di sicurezza, cercare vulnerabilità e gestire rimedi. Il Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Ora, l’architettura viene estesa per proteggere gli “agentic insiders” tramite i Guardian Agents, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365.
Controlli e Responsabilità dei Guardian Agents
I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli agiscono su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le responsabilità principali includono:
- Conoscere l’esistenza, la proprietà e il comportamento degli agenti;
- Contenere l’accesso e le azioni prima che avvengano;
- Proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti;
- Adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.
Nuove Funzionalità e Strumenti
Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza.
Per il controllo operativo, i Guardian Agents implementano:
- Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico;
- Dynamic Agent Risk, che valuta potenziali minacce;
- Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano.
In scenari estremi, un agente può essere fermato e isolato per prevenire danni.
Conclusioni: Un Futuro Sicuro per gli Agenti AI
Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Integrando sensori, contesto e attuatori su tutta la pila di sicurezza, questi strumenti mirano a comprendere i rischi emergenti degli agenti AI e ad adattare le contromisure necessarie.
