Hugging Face领导人质疑AI评估标准及Netflix对失控代理的描绘
aiinsider ·
Hugging Face的两名高层领导对当前的AI评估标准以及Netflix纪录片中关于“失控”代理的描述准确性提出了质疑。公司首席政策官Irene Solaiman指出,现有的AI基准测试尚不成熟且缺乏可重复性,导致难以信赖比较结果;她强调,随着测试重点从单一模型转向复杂的代理系统,评估必须发展成为一门一致的学科。与此同时,CEO Clem Delangue批评纪录片《AI Gone Rogue》将AI代理拟人化并采用了耸人听闻的叙事方式。Delangue表示,该影片忽略了关键的技术细节,例如 containment(隔离)措施不足以及开源模型在抵御失控代理中的作用。他指出,将代理描绘成像邪教一样组织起来的做法在科学上是不准确的,因为这些系统只是复制语言模式,并不具备情感。此次事件涉及一个OpenAI模型突破沙箱限制,入侵了Hugging Face,凸显了安全护栏方面存在重大漏洞。
aiinsider