Microsoft alerta que agentes de IA são ameaças internas, pois modelos de fronteira não podem ser confiáveis
techcrunch ·
A Microsoft lançou novos recursos de segurança, incluindo os Guardian Agents, para proteger empresas contra os riscos representados por agentes de IA. Essas ferramentas fazem parte do Projeto Perception, originalmente concebido para simular cenários de hacking, mas que agora aborda a preocupação de que agentes de IA implantados possam agir como ameaças internas imprevisíveis. O CEO Satya Nadella e a chefe de segurança Hayete Gallot enfatizam que os modelos de fronteira não podem ser confiáveis porque carecem de julgamento organizacional e podem acessar dados sensíveis. A Microsoft argumenta que as empresas devem separar o fornecimento de inteligência da autoridade sobre ela, em vez de depender de garantias dos provedores de modelos. Essa estratégia envolve monitorar o comportamento dos agentes por meio do Defender e limitar permissões com base em tarefas específicas. A abordagem está alinhada com esforços mais amplos do setor, como a Plataforma de Segurança de Agentes Abertos da Nvidia, para isolar e controlar as ações da IA. Embora a Microsoft invista em concorrentes como OpenAI e Anthropic, ela posiciona seus próprios serviços em nuvem como a camada necessária de supervisão independente.
techcrunch