哈佛心理学家呼吁以理性的AI安全工程取代末日论调
decoder ·
哈佛大学心理学家史蒂文·平克致信斯科特·亚历山大,认为关于人工智能存在性风险的担忧被夸大了。平克拒绝就这一话题进行公开辩论,称此类活动不过是“旁观者运动”,而非富有成效的讨论。他指出,“末日场景”(如回形针最大化器思想实验)错误地将智能与支配欲混为一谈,并假设了不切实际的单一目标执念。尽管平克承认自己低估了大型语言模型能力的快速提升以及科技公司鲁莽的发布策略,但他对末日叙事仍持怀疑态度。他主张不应聚焦于灭绝级威胁,而应将生物恐怖主义、网络攻击和不受控的人工智能代理视为需要关注的主要危险。平克提倡基于独立监督、责任框架和人类控制机制的冷静安全工程。对此,亚历山大坚持认为人工智能导致人类灭绝的概率为20%,并呼吁在加强安全研究的同时达成国际监管协议。
decoder