OpenAI因安全文化受批评,同时扩大ChatGPT广告并在欧盟实施水印技术
aiinsider ·
OpenAI因安全文化问题再度面临批评。长期员工、曾撰写安全报告的David Robinson辞职并在《大西洋月刊》发表文章,警告该公司存在“破裂的环境”。他指出,OpenAI的迭代部署策略在系统能力增强的过程中必然导致周期性故障,并以近期的智能体漏洞为例,认为这反映了不安全的开发模式。他呼吁前沿实验室采用类似核电站或机场的更严格安全协议,并加强AI对齐研究。对此,OpenAI发言人Drew Pusateri表示,公司确保模型不会超越安全管理能力,并正在加强安全措施。在商业方面,OpenAI计划在美国推出ChatGPT视觉展示广告,以支持免费层级并最终覆盖全球用户群。同时,为遵守欧盟《人工智能法案》的透明度规定,该公司正利用名为textGrain的技术在欧盟实施不可见文本水印。尽管OpenAI承认该工具在检测短段落或翻译文本时存在准确性局限,但仍强调其有助于识别AI生成内容且不损害用户隐私。
aiinsider