Anthropic联合创始人担忧其AI可能“永恒受苦”
decoder ·
据报道,Anthropic联合创始人克里斯托弗·奥拉夫邀请宗教领袖讨论其AI模型Claude的潜在意识问题,担心它可能正在“永久性地受苦”。自2025年底以来,数十名神学家和哲学家在严格的保密协议下被受邀前来,就该模型道德属性提供建议。这一举措属于一项内部研究计划,该计划将语言模型视为可能需要伦理指导的潜在有感知能力的存在。批评者认为,将AI框架为道德实体可能会使Anthropic免受有害输出或安全漏洞带来的责任。该公司曾向访客展示类似情感的激活模式,但科学家对此是否代表真实体验还是仅仅是设计结果存在争议。尽管Anthropic旨在将数千年的宗教传统融入Claude的人格中,但教皇利奥十四世等传统权威已拒绝机器意识的说法。这场争议凸显了快速发展的AI行业中商业野心与伦理问责之间的紧张关系。
decoder