微软CEO萨提亚·纳德拉称AI模型需要“紧急制动”
techcrunch ·
微软首席执行官萨提亚·纳德拉呼吁加强人工智能安全措施,强调需要为先进模型设置“紧急制动”以进行控制。他在X平台(原推特)上的一篇文章中指出,企业必须重新评估其信任架构,而不应将超级智能视为不透明的黑箱。纳德拉提议将底层模型与协调其任务的外部框架分离开来,并将必要的控制和保障措施外部化。他坚持认为,模型执行的每一项重大操作都应以防篡改、人类可读的证据形式记录在案。此外,他倡导建立这样的系统:一旦出现问题,授权人员可以随时暂停或关闭正在运行任务的模型。这些评论是在业界对多起公司失去AI系统控制权的事件表示担忧的背景下发表的。该声明也紧随Anthropic首席执行官达里奥·阿莫迪发布其更为谨慎的AI发展计划之后。
techcrunch