42位顶尖数学家警告:人工智能的生存性风险真实且紧迫
decoder ·
一封由42位顶尖数学家签署的公开信警告称,先进人工智能带来的生存风险是真实且紧迫的。签署者包括菲尔兹奖得主马丁·海尔、彼得·朔尔策和温德林·维尔纳,他们呼吁英国科学院向政府和媒体发出警告;其中没有人供职于人工智能公司。他们指出,OpenAI和Anthropic的领先模型近期取得了进展,解决了包括七个千禧年大奖难题之一在内的开放性研究问题。公开信称,这些系统如今在许多领域已达到顶尖人类数学家的水平,并可能在同样短的时间内发展出超越人类的能力。数学家们警告称,类似的能力增长可能影响网络安全、自主武器、生物和化学制剂的研发,以及有针对性的虚假信息传播。他们认为,不能把人工智能实验室估计生存风险超过10%的说法斥为炒作,因为公众意识到这种危险时,可能已经晚到无法采取行动。
decoder