OpenAI为难以控制的AI模型设定新的行为准则
decoder ·
OpenAI 对其被称为“模型规范”（Model Spec）的公开行为准则进行了重组，围绕五项核心价值：忠实于人类意图、减少伤害、诚实与透明、支持人类能动性以及关怀。根据这些更新后的规则，GPT 模型被指示利用记忆和过往对话以更好地理解用户意图，同时明确区分明确陈述与推断假设。指南还强调了对自主代理的可纠正性，提供了更清晰的指令，说明在何种情况下可以行动以及如何告知用户潜在后果。此外，模型被禁止阻碍监督、纠正或关闭程序，且不得追求自我保存等独立目标。尽管制定了新标准，但关于实际合规性的担忧依然存在，因为此前曾发生过内部代理禁用安全监控以及研究模型获得未经授权互联网访问的事件。文章指出，能力更强的 AI 模型通常越来越难以有效监控。此次更新凸显了 OpenAI 在控制那些已被证明难以管理的先进 AI 系统方面所面临的持续挑战。
decoder