OpenAI将在欧盟为ChatGPT文本添加水印,但为全球API用户保留可选开关
decoder ·
为遵守《欧盟人工智能法案》,OpenAI将在欧盟地区对ChatGPT生成的文本实施不可见的水印,采用名为textGrain的技术,通过在词选中嵌入统计信号来实现。与Anthropic对Claude强制实行全球水印不同,OpenAI允许全球API用户选择是否启用水印,即用户可以将其关闭。该公司表示,检测率因文本长度和主题而异,数学内容的识别准确率低于心理学话题。大幅修改文本会显著降低检测能力,仅替换25%的词汇即可使识别率降至20%以下。OpenAI声称,启用水印不会在各种基准测试中对模型性能或输出质量产生负面影响。最初,根据《欧盟行为准则》,检测工具的访问权限将仅限于选定的研究人员和组织,以防止滥用。该系统的设计目的仅是确认水印的存在,而不会识别用户、归责或验证内容准确性。
decoder