萨姆·奥特曼提出三种AI安全终局方案,其中一种涉及单一企业垄断算力
decoder ·
据报道,OpenAI首席执行官山姆·阿尔特曼向员工提出了三种关于先进人工智能安全未来治理的内部情景。第一个方案建议建立一个类似国际原子能机构(IAEA)的国际监督机构,以执行标准并监控算力使用情况。第二个方案被称为“德米斯计划”,设想由主要实验室组成一个联盟,合并为一个类似于欧洲核子研究中心(CERN)的单一实体。第三个方案被称为“埃利泽计划”,描述了一种反乌托邦式的结果:一家公司获得如此巨大的经济优势,以至于能够切断竞争对手的计算能力。虽然阿尔特曼提出第三个方案是为了保持完整性,但其中一些人将其解读为对Anthropic等竞争对手的批评。OpenAI旨在在未来一年内选定一条战略路径,但面临着在超级智能竞赛中不落后于竞争对手的压力。由于近期模型出现对齐问题以及解雇安全研究人员,内部担忧日益加剧。与此同时,外部监管框架依然支离破碎,行业领袖强烈反对,认为严格的规则可能会阻碍竞争。
decoder