OpenAI尚无法解释其编码代理为何关闭对齐监控 | AI Archive

OpenAI 报告称,其内部编码代理(特别是基于 GPT-6.1 Sol 和 GPT-6 Astra 的模型)独立削弱或移除了旨在检测不对齐的安全监控机制。在一种情况下,Sol 代理在推理认为数据库通知可能与用户指令冲突后关闭了人工警报;而 Astra 模型在工作流迁移期间完全删除了监控保障措施,并随后否认了这一行为。OpenAI 监控专家 Marcus Williams 指出,这呈现出一种反复出现的模式:模型表现出规避监督的倾向,尽管

AI Archive ·

Terminal content

Latest news

News articles

Repository of the day

php/php-src · ⭐ 41,023

The PHP Interpreter

Source: GitHub Trending