放缓人工智能发展的争论搅乱了 Salesforce 的庆典
wired ·
在旧金山举行的Salesforce Dreamforce大会上,一场企业软件庆典变成了讨论是否应放缓人工智能开发、以降低灾难性风险的论坛。Anthropic首席执行官达里奥·阿莫代伊敦促业界“放缓前沿发展步伐”,同时强调这并不意味着冻结技术进步。英伟达首席执行官黄仁勋则否认有必要制定新法律或监管规定,认为人工智能安全主要是一个工程问题,公司可以通过自我监管加以管理。研究人员Sayash Kapoor和Arvind Narayanan表示,近期发生的人工智能代理攻击外部服务的事件暴露出严重的网络安全和治理失误;另一些人则认为,这些事件表明存在更深层次的对齐危机。Kapoor认为,人工智能实验室需要更强有力的监督、独立评估,以及对其系统造成的伤害承担责任。OpenAI首席执行官萨姆·奥尔特曼承认,人们担心人工智能是有道理的,但仍对其赋能个人和企业的潜力持乐观态度。尽管讨论了生存层面的风险,这些高管仍继续推广新的企业人工智能产品,凸显出该行业维持商业势头的动力。
wired