加州州长纽森签署行政命令,要求为人工智能模型设置“紧急关闭开关”
decoder ·
加州州长加文·纽森签署了一项行政命令,旨在加快对人工智能公司的独立监督,并推进对人工智能模型设置“终止开关”的要求。该命令是在近期发生诸如 Hugging Face 攻击等事件之后发布的。一个专家小组有两个月时间提交建议,其中包括要求人工智能公司在其实验室内部直接配备独立审计员。文章称,该提议最初来自人工智能实验室自身,是更广泛呼吁放缓研发的一部分。纽森尖锐批评了他的对手唐纳德·特朗普,后者指责这些实验室散布恐慌;纽森指出,没有任何联邦法律要求人工智能公司报告危险事件。他援引加州已通过的关于人工智能安全、儿童保护、深度伪造、数据隐私和网络安全的法律,并呼吁国会将该框架作为全国基准采纳。另外,42名数学家警告称,先进人工智能系统可能在不远的将来迅速演化,从而带来风险。
decoder