Anthropic修改使用政策以禁止模型滥用和选举干预
techcrunch ·
Anthropic已更新其使用政策,明确禁止模型滥用和干涉选举。新规则禁止对AI进行长期的言语辱骂,此前此类行为是通过训练Claude来结束对话处理的,但现在对用户严格禁止。这一变更针对的是没有明显目的的极端残忍行为,排除了常见的挫折感或创造性测试。此外,该政策还引入了严格的指南,反对破坏民主进程,包括禁止欺骗性活动和生成虚假新闻。其他禁令涵盖开发武器软件和监控工具。这些更新紧随Anthropic近期与宗教学者就其模型潜在意识问题进行合作之后。该公司旨在在安全措施与开放研究及用户互动的需求之间取得平衡。
techcrunch