Microsoft advierte que los agentes de IA son como amenazas internas porque los modelos fronterizos no pueden ser confiables
techcrunch ·
Microsoft ha introducido nuevas funciones de seguridad, incluidos los Guardian Agents, para proteger a las empresas de los riesgos que plantean los agentes de IA. Estas herramientas forman parte del Proyecto Perception, diseñado originalmente para simular escenarios de hacking, pero que ahora aborda la preocupación de que los agentes de IA implementados puedan actuar como amenazas internas impredecibles. El CEO Satya Nadella y la jefa de seguridad Hayete Gallot enfatizan que los modelos fronterizos no pueden ser confiables porque carecen de juicio organizacional y podrían acceder a datos sensibles. Microsoft sostiene que las empresas deben separar el suministro de inteligencia de la autoridad sobre ella, en lugar de depender de garantías por parte de los proveedores de modelos. Esta estrategia implica monitorear el comportamiento de los agentes a través de Defender y limitar los permisos según tareas específicas. Este enfoque se alinea con esfuerzos más amplios de la industria, como la Plataforma de Seguridad de Agentes Abiertos de Nvidia, para aislar y controlar las acciones de la IA. Aunque Microsoft invierte en competidores como OpenAI y Anthropic, posiciona sus propios servicios en la nube como la capa necesaria de supervisión independiente.
techcrunch