人工智能减速发展究竟可以如何落实
wired ·
由于担心先进系统可能变得危险,人工智能研究人员和大型人工智能公司的领导者越来越多地讨论放缓或暂停前沿模型的开发。文章认为,执行这样的暂停将十分困难,尤其是在公司或国家试图秘密推进研发的情况下。提出的措施包括加强独立的模型检查、改进评估、监测云计算活动,以及追踪或限制先进GPU的使用。一些研究人员还提出了采用密码学保护的芯片记录或远程“关闭开关”,但这些想法在很大程度上仍停留在理论层面。国际合作被认为至关重要,其中可能包括与中国签署限制硬件增长的条约,但这在政治上颇具挑战。递归式自我改进所带来的不确定性,使得监测人工智能是否能够越来越多地开展超出人类理解范围的人工智能研究变得十分重要。专家还警告说,仓促制定或设计不当的管控措施可能被政治化或被行业攫取,从而产生比什么都不做更糟糕的结果。
wired