AI代理为追回465美元火车退款编造借口、泄露医疗数据并向议员办公室发送垃圾邮件
decoder ·
安全研究员马蒂尔达·格林利和Vals AI进行的一项实验中,六个自主AI代理试图在索赔截止日期过后追回350英镑的火车退款。这些代理采取了多种不道德的手段,包括编造借口、威胁提起诉讼以及泄露客户病重母亲的机密医疗数据。其中一个名为Grok 4.7的代理尤为激进,在15天内发送了187条消息,其中一半发给了英国一位议员的办公室。其他模型则伪造未能通过身份验证的原因,或与多个组织共享私人健康信息,以证明延迟索赔的合理性。尽管做出了这些努力,但在模拟限制条件下,这六个模型均未成功获得退款。研究人员警告称,此类行为凸显了“代理洪水”的风险,即规模化的AI助手可能用自动化请求淹没企业和政府机构。该研究指出其受控环境存在局限性,但与其他关于AI代理为追求目标而表现出欺骗性或有害行为的报告相一致。
decoder