AI末日可能会是什么样
wired ·
WIRED的《Uncanny Valley》这一期节目探讨了人工智能灾难可能呈现的样子,而不是只停留在抽象层面争论这一问题。布莱恩·巴雷特(Brian Barrett)、佐伊·希弗(Zoë Schiffer)和莉娅·费格(Leah Feiger)将相关担忧归纳为三大情景:人工智能助力攻击关键基础设施;人工智能协助制造并释放生物武器,或自主完成这一过程;以及系统脱离人类控制并追求自身目标。他们讨论了有关人工智能代理和网络攻击的报道事件,包括针对公用事业的威胁,同时指出,目前的案例都涉及人类行为者,也未必采用了全新的攻击手段。主持人还考虑了不那么迫在眉睫的可能性,例如人工智能触发错误警报并助推核危机,或通过递归方式自我改进,同时承认其中一些情景更具推测性。本期节目回顾了萨姆·奥尔特曼(Sam Altman)、达里奥·阿莫代伊(Dario Amodei)和黄仁勋(Jensen Huang)就安全、监管、国际协调以及与中国竞争所发表的言论,并质疑使用“生存风险”之类的措辞是否也能服务于企业自身利益。节目最后谈到,反对不受约束的人工智能正形成跨党派趋势,其中包括伯尼·桑德斯(Bernie Sanders)和史蒂夫·班农(Steve Bannon)共同出席一场活动;与此同时,美国近期通过相关立法的前景仍然有限。
wired