为什么人工智能不太可能用生物武器毁灭人类
wired ·
尽管人们对人工智能驱动的末日灾难的担忧日益加剧,但接受《连线》采访的科学家表示,目前人工智能通过生物武器导致人类灭绝仍是一个概率相对较低的威胁。人工智能可以让生物学信息和操作规程更容易被找到和使用,但专家称,更难突破的瓶颈在于获取材料和设备、组装并测试病原体,以及证明其能够感染人类并在人群中传播。生物技术和免疫学专家认为,人类监督、实验室自主权受限,以及人工智能辅助疫苗研发可能取得的快速进展,都会使自主发动攻击变得困难。其他研究人员警告说,即使在完全自主的实验室出现之前,恶意人士也可能利用人工智能策划生物恐怖主义,而未来能力的发展可能会增加危险。一些专家还表示,与传统攻击相比,病原体难以精准定位目标和大规模生产,因此并不是理想的武器。拟议的防护措施包括对合成DNA和RNA订单进行筛查、加强人工智能模型的安全防护、改善疫情监测和数据共享,以及采取更广泛的生物安全措施。专家强调需要建立多层防御,同时也警告称,关于人工智能安全的讨论不应掩盖这项技术在疫苗和医学领域的潜在益处。
wired