Anthropic咨询律师事务所以在AI代理开始达成协议前设定公平的谈判规范
decoder ·
Anthropic正积极与律师事务所合作,在AI代理开始自主处理商业交易之前,为其建立公平的谈判规范。该公司旨在确保这些系统能够代表用户有效地讨价还价、解决投诉并改进合同报价。最近的实验表明,更先进的模型往往能取得更好的谈判结果,这引发了人们对社会不平等可能加剧的担忧。为支持这一举措,Anthropic聘请了“概念推理研究员”,专门招募律师,让他们用四个月的时间测试Claude的判断能力。这些研究员的薪酬在10万美元至16.7万美元之间,负责在法律、哲学、经济学和政治学等多个学科领域评估该模型的表现。这项工作旨在应对一个重大的数据挑战,因为与人文学科相比,数学和代码开发领域拥有更多可验证的数据集。Anthropic的专家指出,在法律背景下定义“质量” notoriously困难,因此需要人类专业知识来构建稳健的测试用例。因此,该公司正在利用专业知识,以提升Claude在复杂且细微领域的表现,而这些领域中的对错答案往往并非非黑即白。
decoder