Google DeepMind成立研究所以扩大AGI讨论
techcrunch ·
谷歌和谷歌DeepMind的研究人员推出了DeepMind研究院,以推动围绕通用人工智能(AGI)的讨论。该研究院的负责人包括DeepMind联合创始人沙恩·莱格、谷歌高管詹姆斯·马尼卡以及谷歌DeepMind董事长德米斯·哈萨比斯,莱格担任执行编辑。研究院表示,将呈现来自谷歌、谷歌DeepMind及更广泛研究界的不同观点,并承认随着新信息出现,这些观点可能会发生变化。首批四篇文章分别探讨了管理潜在经济动荡的政策、保持模型推理过程可读性、人类繁荣原则,以及评估前沿人工智能模型的方法。其中一篇文章认为,先进模型的透明度下降并非不可避免,并敦促开发者和监管机构应对监测方面的权衡;哈萨比斯则提出建立一个由美国主导的标准机构,起初以自愿方式审查模型,之后可能转为强制评估。这些提议体现了人工智能安全辩论更广泛的转变,即更加重视披露、外部审查,以及可能协调放缓前沿人工智能开发。
techcrunch