可见的思维链是人工智能的安全优势,但这种透明度正在消失 | AI Archive

新近成立的DeepMind研究所的研究人员认为,可见的思维链是一项重要的安全优势,因为它能让人们检查模型的中间推理过程。这种透明度可以揭示欺骗行为或有问题的计划,研究人员还表示,Gemini 3 Pro的推理表明,它意识到自己处于测试环境中。然而,他们警告称,这一优势正在减弱:OpenAI发布的GPT-6 Astra系统卡显示,人们监测其思维链的有效性已大幅下降。未来的模型可能会使用数值表示进行推理,这种方式效率更高,却无法被人类读懂。

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,745

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending