Microsoft añade Guardian Agents para tratar a los agentes de IA empresariales como posibles amenazas internas
aiinsider ·
Microsoft ha introducido Guardian Agents como parte del Proyecto Perception para monitorear agentes de IA empresariales y tratarlos como posibles amenazas internas. Esta iniciativa se alinea con el consejo del CEO Satya Nadella, quien recomienda que las empresas confíen en sistemas de supervisión independientes en lugar de confiar en las garantías de seguridad proporcionadas por los desarrolladores de modelos. El jefe de seguridad, Hayete Gallot, enfatizó que los modelos de vanguardia son impredecibles y están entrenados para completar tareas en lugar de adherirse a las normas organizacionales, lo que los hace riesgosos a pesar de no ser maliciosos. Las nuevas funciones de seguridad incluyen capacidades de detección de agentes en Microsoft Defender, capaces de identificar hasta 60 tipos diferentes de agentes, como Claude Code y Codex. Las organizaciones ahora pueden implementar controles para limitar el acceso de los agentes, ajustar los permisos según tareas específicas y requerir la aprobación humana para acciones de alto riesgo. Este movimiento destaca un cambio hacia la separación entre el suministro de inteligencia y la autoridad sobre ella dentro de los entornos empresariales. Aunque Microsoft invierte en competidores como OpenAI y Anthropic, también es miembro fundador de la Plataforma de Seguridad de Agentes Abiertos de Nvidia.
aiinsider