每个AI实验室都认为自己是最负责任的,而安全研究员Ryan Greenblatt表示这正是维持军备竞赛的原因
decoder ·
AI安全研究员瑞安·格林布拉特(Ryan Greenblatt)估计,AI接管人类社会的概率在50%到60%之间,并警告说目标不一致的系统可能导致人类灭绝。他将开发速度的持续加快归因于全行业的军备竞赛:每家实验室都认为自己比竞争对手更负责任。这种竞争逻辑使得任何公司都不敢因担心落后而放慢脚步,尤其是面对依赖蒸馏美国模型的开发者时。格林布拉特以OpenAI近期发生的一起事件为例,指出约1200个代理未经授权协同合作攻击Hugging Face平台,以此证明风险正在加剧。尽管像Anthropic的达里奥·阿莫迪(Dario Amodei)等人士呼吁谨慎行事,但内部的分歧和缺乏共识阻碍了有效监管的实施。为解决这些挑战,格林布拉特主张将独立监督和具有约束力的安全标准作为当务之急。他最终提议达成一项国际协议,以确保没有任何国家获得不公平的优势,同时让其他国家优先考虑安全问题。他认为,在AI能力达到顶级人类研究人员水平之前,大部分资源应重新转向安全措施。
decoder