Microsoft lancia Guardian Agents per gestire i rischi degli agenti AI autonomi

In un’epoca in cui l’intelligenza artificiale sta diventando sempre più prevalente, Microsoft ha annunciato i Guardian Agents, una serie di strumenti progettati per monitorare, limitare e gestire i rischi associati agli agenti AI autonomi. L’azienda ha messo in evidenza che, sebbene i modelli agentici non siano intrinsecamente maligni, possono comunque commettere errori, essere manipolati o compromessi. Per questo motivo, è fondamentale non considerarli come unica autorità di sicurezza.

La proposta di Microsoft si inserisce in un contesto più ampio di iniziative già avviate, come il Project Perception e la cyber stack dell’azienda, che coordinano agenti specializzati per analizzare dati di sicurezza, cercare vulnerabilità e gestire rimedi. Il Project Perception utilizza tre tipi di agenti (red, blue e green) per testare, investigare e correggere minacce. Con l’introduzione dei Guardian Agents, l’architettura esistente viene estesa per proteggere gli “agentic insiders”, condividendo segnali, contesto e un registro unificato con Microsoft Agent 365 per fornire una visione coerente di agenti e rischi.

I controlli proposti dai Guardian Agents si basano sul principio di circondare intelligenze non deterministiche con controlli deterministici, evidenze indipendenti e confini di contenimento. Questi controlli operano su sette aspetti fondamentali: identity, permissions, data, endpoints, network, cloud e runtime. Le quattro responsabilità principali includono: conoscere l’esistenza, la proprietà e il comportamento degli agenti; contenere l’accesso e le azioni prima che avvengano; proteggere dati, strumenti, runtime e risorse utilizzate dagli agenti; e adattare le protezioni in modo continuo in base a comportamento, contesto e rischio.

Tra le funzionalità annunciate, spicca la scoperta estesa di 35 tipi aggiuntivi di agenti locali, tra cui Claude Code, OpenAI Codex e GitHub Copilot. Inoltre, è previsto l’ampliamento di Microsoft Entra Agent ID con nuovi tipi di identità per pattern di agenti locali e agenti precedentemente sconosciuti, rilevati tramite sensori di sicurezza. Per il controllo operativo, sono state introdotte Dynamic Permissions, che limitano l’accesso di un agente alle risorse necessarie per un compito specifico; Dynamic Agent Risk, che valuta potenziali minacce; e Dynamic Conditional Access, che può reagire a rischi crescenti restringendo permessi, bloccando operazioni o richiedendo l’intervento umano. In scenari estremi, un agente può essere fermato e isolato.

Microsoft descrive i Guardian Agents come strumenti essenziali per consentire ai team di sicurezza di operare in modo continuo e alla velocità delle macchine. Questi strumenti integrano sensori, contesto e attuatori su tutta la pila di sicurezza per comprendere i rischi emergenti degli agenti e adattare le contromisure in tempo reale.