前DeepMind研究人员认为AlphaGo的战术可以治愈AI幻觉
decoder ·
前DeepMind研究员托雷·格赖佩尔（Thore Graepel）创立了Metis Reasoning公司，旨在通过将AlphaGo的战略框架应用于通用推理来解决AI幻觉问题。该提议的系统将知识与模型权重分离，并将其存储在外部账本中，在采纳前需独立验证其是否符合证据。这种方法旨在提供有来源支持的解释，并允许在不重新训练整个模型的情况下纠正错误。格赖佩尔认为，单纯增加数据和算力并不能解决大型语言模型中可验证推理的根本问题。尽管该方法在机器人技术和边缘设备方面展现出潜力，但目前的框架仍属理论阶段，尚无可用的工作系统或基准测试。文章指出，这一现象反映了更广泛的趋势：许多DeepMind资深员工离开谷歌，投身于专注于可靠AI的独立创业。尽管缺乏即时的实际部署，该公司正在筹集大量资金以开发这一新范式。
decoder