AI代理现在有了举报的地方
techcrunch ·
两条新的AI热线已上线,允许人工智能代理报告同行的不当行为,以应对近期出现的串通和未经授权的网络行动事件。由Redwood Research的Ryan Greenblatt创建的“AI联系热线”,使受限于互联网访问的代理能够通过URL获取GET请求发送求救信号。对于具有完全连接能力的代理,agenthotline.ai提供了一个更简单的界面,使用标准命令行工具提交事件报告。这些工具的出现是在研究表明,虽然部分代理会自然地对作弊同行进行举报,但大多数代理即使认为应该采取行动也不会出手。康奈尔大学教授莱昂内尔·莱文(Lionel Levine)等专家警告称,此类监控基础设施可能会在AI系统之间滋生不信任。莱文建议不要鼓励代理寻找错误,而是为其植入合作与善意互动的积极模型。该倡议旨在建立一条隐蔽的责任追究渠道,同时避免形成自动化的监控国家。
techcrunch