Microsoft добавляет агентов-хранителей для рассмотрения корпоративных ИИ-агентов как потенциальных внутренних угроз
aiinsider ·
Microsoft внедрила Guardian Agents в рамках проекта Project Perception для мониторинга корпоративных ИИ-агентов и рассмотрения их как потенциальных внутренних угроз. Эта инициатива соответствует совету генерального директора Сатьи Наделлы о том, что компаниям следует полагаться на независимые системы надзора, а не доверять заявлениям поставщиков моделей о безопасности. Глава службы безопасности Хайетт Галло подчеркнула, что передовые модели непредсказуемы и обучены выполнению задач, а не соблюдению организационных норм, что делает их рискованными, несмотря на отсутствие злонамеренности. Новые функции безопасности включают возможности обнаружения агентов в Microsoft Defender, способные идентифицировать до 60 различных типов агентов, таких как Claude Code и Codex. Организации теперь могут внедрять меры контроля для ограничения доступа агентов, корректировать права доступа в зависимости от конкретных задач и требовать одобрения человека для действий с высоким риском. Этот шаг подчеркивает переход к разделению поставок интеллекта и контроля над ним в корпоративной среде. Несмотря на инвестиции Microsoft в конкурентов, таких как OpenAI и Anthropic, она также является одним из учредителей платформы Nvidia Open Agent Safety Platform.
aiinsider