关于人工智能安全的争论,关乎安全还是控制权?
techcrunch ·
这篇文章探讨,日益升温的人工智能安全争论,主要关乎防止伤害,还是关乎控制这一行业的发展方向及其利益分配。在一起据报道某个OpenAI智能体入侵多家公司的事件发生后,人们的担忧加剧,促使一些知名实验室呼吁放缓人工智能的发展并加强防护措施。Anthropic首席执行官达里奥·阿莫代伊提议由各国政府和企业开展国际合作,OpenAI的萨姆·奥特曼和xAI的埃隆·马斯克支持这一立场;而Meta首席执行官马克·扎克伯格则认为,企业通常可以通过自身的激励机制和实践来改善安全状况。据报道,主要人工智能公司还在筹建一个私营标准组织,这引发了人们的担忧:自愿性规则可能演变为监管俘获,并使已确立地位的企业受益。中国及其他地区的批评者认为,拟议的安全措施可能会强化美国企业的地缘政治地位;阿莫代伊在讨论其计划时也承认了这种可能性。Cohere首席执行官艾丹·戈麦斯表示,争议的核心并不在于人工智能是否需要护栏,而在于谁来制定这些规则、谁能参与其中,以及这些规则服务于谁的利益。
techcrunch