微软添加守护者代理,将企业人工智能代理视为潜在的内部威胁
aiinsider ·
微软已将“守护者代理”(Guardian Agents)纳入“感知计划”(Project Perception),用于监控企业AI代理并将其视为潜在的内部威胁。该举措与首席执行官萨提亚·纳德拉的建议一致,即企业应依赖独立的监督系统,而非盲目信任模型提供商的安全保证。安全主管Hayete Gallot强调,前沿模型具有不可预测性,其训练目标是完成任务而非遵守组织规范,因此尽管并非恶意,但仍存在风险。新的安全功能包括Microsoft Defender中的代理检测能力,可识别多达60种不同类型的代理,如Claude Code和Codex。组织现在可以实施控制措施以限制代理访问权限,根据具体任务调整权限,并要求对高风险操作进行人工审批。这一举措凸显了在企业环境中将智能供应权与其控制权相分离的趋势。尽管微软投资了OpenAI和Anthropic等竞争对手,但它也是英伟达开放代理安全平台(Nvidia’s Open Agent Safety Platform)的创始成员之一。
aiinsider