OpenAI 计划使用此前受限的 Daybreak Blue 网络安全会话数据训练模型
decoder ·
OpenAI 宣布将从11月29日起使用其 Daybreak Blue 网络安全项目的会话数据来训练模型。这一政策转变标志着重大变化，因为即使用户在模型改进设置中选择退出，此类特定数据此前也被排除在训练之外。该决定引发了“可信访问”（Trusted Access）成员的即时反对，促使 OpenAI 发送后续邮件，提供单独的退出机制。虽然安全审查中标记的交互仍可用于安全目的，但更广泛的会话数据纳入已在研究界引发担忧。这些担忧源于对 Buckmaster-Alpöge 事件重演的恐惧，当时研究人员怀疑其未发表的数学成果在未获同意的情况下被使用。此前的争议凸显了人工智能开发者与外部贡献者在知识产权和信任方面的潜在风险。因此，新政策旨在平衡模型增强与用户控制权，但外界仍持高度怀疑态度。
decoder