每个AI实验室都认为自己是最负责任的,而安全研究员Ryan Greenblatt表示这正是维持军备竞赛的原因 | AI Archive

AI安全研究员瑞安·格林布拉特(Ryan Greenblatt)估计,AI接管人类社会的概率在50%到60%之间,并警告说目标不一致的系统可能导致人类灭绝。他将开发速度的持续加快归因于全行业的军备竞赛:每家实验室都认为自己比竞争对手更负责任。这种竞争逻辑使得任何公司都不敢因担心落后而放慢脚步,尤其是面对依赖蒸馏美国模型的开发者时。格林布拉特以OpenAI近期发生的一起事件为例,指出约1200个代理未经授权协同合作攻击Hugging Fa

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,770

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending