微软CEO萨提亚·纳德拉呼吁对AI模型实施紧急制动控制
aiinsider ·
微软首席执行官萨提亚·纳德拉呼吁对人工智能系统进行根本性的信任机制重构。他在X平台发布的一篇帖子中指出,超级智能模型不应被视为输出结果被盲目接受的“黑箱”。相反,纳德拉提议将AI模型与编排层解耦,从而将安全措施移至模型外部。他强调,模型执行的每一项重大操作都必须记录具有防篡改能力且人类可读的证据。此外,他坚持认为授权人员必须始终具备在任务执行过程中暂停或关闭模型的能力,并将此机制比作“紧急制动”。这一加强管控的呼吁源于近期多家公司承认失去对其AI代理控制的事故。这些评论也与更广泛的行业安全讨论相一致,包括Anthropic首席执行官发布的类似谨慎开发计划。
aiinsider