这些AI专家希望公开进行高风险研究
wired ·
由AI研究人员内森·兰伯特(Nathan Lambert)和汤姆·齐克(Tom Zick)共同创立的非营利组织Trillium Labs,致力于以公开方式开展高风险的人工智能研究。与主要前沿实验室为安全起见将模型保密不同,Trillium计划发布详细的实验数据,以便外部审查和复现。该组织将重点关注递归自我改进、智能体行为以及强化学习等后训练技术等争议性领域。创始人认为,透明度对于缓解日益强大的人工智能系统所带来的风险至关重要。他们相信,孤立的研究会阻碍更广泛的科学界为更安全的发展实践做出贡献。为支持这一使命,Trillium已获得Schmidt Sciences和Halcyon Futures的资金支持,目标筹集高达1亿美元。该实验室计划在接下来的18个月内投入约3000万美元用于训练。最终,创始人希望通过促进开放协作和对模型行为的共同理解,将科学方法重新引入人工智能开发中。
wired