AI实验室存在其政策未能解决的数据信任问题
decoder ·
尽管已有企业政策,主要科技公司因未解决的数据信任问题而日益限制其高级人工智能模型的使用。在Anthropic宣布保留三十天的使用日志后,英伟达(Nvidia)和博思艾伦·汉密尔顿(Booz Allen Hamilton)限制了对其Fable模型在敏感任务中的访问权限。Palantir也暂停了部署,直到获得不可撤销的零数据保留保证,这反映了客户对AI提供商被感知为剥削行为的普遍不满。虽然部分实验室现在允许客户将安全日志存储在自己的服务器上,但重大的隐私差距依然存在。专家警告称,即使元数据经过去标识化处理,公司仍可通过统计模式或强化学习痕迹提取有价值的知识产权。Buckmaster案凸显了这种信任的脆弱性,该案件中一位数学家指控OpenAI从其上传的研究草稿中获益。因此,行业领袖呼吁建立更严格的规范,以提高用户数据如何影响模型训练的透明度。
decoder