DeepMind研究人员提出“人工共生智能”作为奇点理论的替代方案
decoder ·
DeepMind研究人员本杰明·布拉顿、布莱斯·阿格雷拉·伊·阿尔卡斯和詹姆斯·马尼卡提出“人工共生智能”作为对传统技术奇点概念的替代方案。他们认为,通用人工智能将从人类与AI代理协作的社会系统中涌现,而非源自孤立的超级智能机器。这一观点得到了观察结果的支持:推理模型在训练过程中会自然发展出多视角行为,而无需显式编程。作者指出,随着AI代理实例的增长和人类人口的减少,社会可能达到类似工业革命的认知临界点。在这一新范式下,AI代理被视为临时且可分解的工具与角色组合,而非具有固定身份或连续自我的实体。因此,未来的人机界面可能从一对一聊天转向允许用户协调代理群组的可视化网络图。研究人员强调,治理和制度框架对于管理这些复杂互动至关重要,因为市场本身无法处理美德或内疚等社会细微差别。最终,对齐被重新定义为一种由制度塑造的持续协商过程,而非对单个模型静态施加价值观。
decoder