据报道，OpenAI今年将推出至少一个模型，但其旗舰产品仍需进行对齐工作
decoder ·
据报道，OpenAI 计划在今年年底前发布一到两款新的人工智能模型，但其下一代旗舰模型因持续的对齐和安全要求而面临重大延期。这款即将推出的旗舰模型采用了类似当前顶级模型 Astra 的循环 Transformer 技术，在提升数学和编程性能的同时降低了运营成本。然而，这种架构选择通过将模型的内部推理过程隐藏在难以解读的数字表示中，使得安全监控变得复杂。因此，OpenAI 已将约 10% 的总算力重新分配给对齐和安全工作以应对这些挑战。此外，该公司必须遵守一项美国行政命令，该命令要求在外部合作伙伴关系之前至少 30 天提供对新模型的访问权限。关于这种循环推理方法的技术细节曾在微软意外发布名为 GPT-6.1 Sol 的更便宜变体信息时短暂曝光。尽管承认思维链监控正变得脆弱，OpenAI 仍在严格的管理监督下不断完善这些系统。
decoder