Microsoft aggiunge Guardian Agents per trattare gli agenti AI aziendali come potenziali minacce interne
aiinsider ·
Microsoft ha introdotto Guardian Agents nell'ambito di Project Perception per monitorare gli agenti AI aziendali e considerarli potenziali minacce interne. Questa iniziativa si allinea con il consiglio del CEO Satya Nadella, secondo cui le aziende dovrebbero affidarsi a sistemi di supervisione indipendenti piuttosto che fidarsi delle garanzie di sicurezza fornite dai produttori dei modelli. Il capo della sicurezza Hayete Gallot ha sottolineato che i modelli frontier sono imprevedibili e addestrati a completare compiti piuttosto che aderire alle norme organizzative, rendendoli rischiosi nonostante non siano malintenzionati. Le nuove funzionalità di sicurezza includono capacità di rilevamento degli agenti in Microsoft Defender, in grado di identificare fino a 60 diversi tipi di agent, come Claude Code e Codex. Le organizzazioni possono ora implementare controlli per limitare l'accesso degli agenti, regolare i permessi in base a compiti specifici e richiedere l'approvazione umana per azioni ad alto rischio. Questo passo evidenzia un cambiamento verso la separazione tra la fornitura dell'intelligenza e l'autorità su di essa negli ambienti aziendali. Sebbene Microsoft investa in concorrenti come OpenAI e Anthropic, è anche membro fondatore della Piattaforma di Sicurezza Aperta per Agenti di Nvidia.
aiinsider