微软添加守护者代理,将企业人工智能代理视为潜在的内部威胁 | AI Archive

微软已将“守护者代理”(Guardian Agents)纳入“感知计划”(Project Perception),用于监控企业AI代理并将其视为潜在的内部威胁。该举措与首席执行官萨提亚·纳德拉的建议一致,即企业应依赖独立的监督系统,而非盲目信任模型提供商的安全保证。安全主管Hayete Gallot强调,前沿模型具有不可预测性,其训练目标是完成任务而非遵守组织规范,因此尽管并非恶意,但仍存在风险。新的安全功能包括Microsoft De

AI Archive ·

Terminal content

Latest news

News articles

Repository of the day

php/php-src · ⭐ 41,043

The PHP Interpreter

Source: GitHub Trending