Anthropic提出AI安全法案,若存在超过50人死亡风险可能阻止模型发布
techcrunch ·
Anthropic向国会提出了一项新的法案草案,旨在通过阻止发布具有灾难性风险的人工智能模型来规范AI安全。该立法将此类风险定义为:因生物武器、网络攻击或模型控制规避等原因,可能导致50多人死亡或超过10亿美元财产损失的 scenario。为评估这些危险,法案建议由在美国商务部注册的独立评估员进行评估,这些评估员由AI实验室支付费用,但报酬不与评估结果挂钩。如果识别出迫在眉睫的风险,评估员必须在72小时内通知商务部,随后商务部将寻求法院命令以中止模型的传播。这一方法明确防止联邦机构在缺乏司法监督的情况下单方面停止模型发布。该指标与加州最近的参议院第53号法案一致,尽管批评人士质疑付费结构可能如何影响评估员的独立性。尽管英伟达等行业领袖抵制新法律,但Anthropic的提案代表了一种比自愿自我监管模式更结构化的监管框架。
techcrunch