Microsoft adiciona Guardian Agents para tratar agentes de IA corporativos como potenciais ameaças internas
aiinsider ·
A Microsoft introduziu os Guardian Agents como parte do Projeto Perception para monitorar agentes de IA corporativos e tratá-los como possíveis ameaças internas. Essa iniciativa está alinhada com o conselho do CEO Satya Nadella, que recomenda que as empresas confiem em sistemas de supervisão independentes em vez de confiar nas garantias de segurança fornecidas pelos provedores de modelos. A chefe de segurança, Hayete Gallot, enfatizou que os modelos de fronteira são imprevisíveis e treinados para concluir tarefas em vez de aderir às normas organizacionais, tornando-os arriscados apesar de não serem maliciosos. As novas funcionalidades de segurança incluem capacidades de detecção de agentes no Microsoft Defender, capazes de identificar até 60 tipos diferentes de agentes, como Claude Code e Codex. As organizações agora podem implementar controles para limitar o acesso dos agentes, ajustar permissões com base em tarefas específicas e exigir aprovação humana para ações de alto risco. Esse movimento destaca uma mudança rumo à separação entre o fornecimento de inteligência e a autoridade sobre ela nos ambientes corporativos. Embora a Microsoft invista em concorrentes como OpenAI e Anthropic, ela também é membro fundadora da Plataforma de Segurança de Agentes Abertos da Nvidia.
aiinsider