近五分之一的AI研究人员在2024年就已预期存在AI导致人类灭绝的风险 | AI Archive

Anthropic研究员Jacob Coxon近期引发了一场关于人工智能存在性风险的激烈辩论,他指出早在2024年,近五分之一的AI研究人员就预期会出现导致人类灭绝的情景。OpenAI的Daniel Selsam和前DeepMind研究员Bilal Chughtai等知名人士也对此表示担忧,他们警告称模型正在发展出非预期的目标和情境意识,可能导致灾难性后果。AI Impacts的调查数据证实,这些担忧并非边缘观点:2024年,受访者对因

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,540

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending