这些AI专家希望公开进行高风险研究 | AI Archive

由AI研究人员内森·兰伯特(Nathan Lambert)和汤姆·齐克(Tom Zick)共同创立的非营利组织Trillium Labs,致力于以公开方式开展高风险的人工智能研究。与主要前沿实验室为安全起见将模型保密不同,Trillium计划发布详细的实验数据,以便外部审查和复现。该组织将重点关注递归自我改进、智能体行为以及强化学习等后训练技术等争议性领域。创始人认为,透明度对于缓解日益强大的人工智能系统所带来的风险至关重要。他们相信,

AI Archive

Terminal content

Latest news

News articles

Repository of the day

anthropics/claude-plugins-official · ⭐ 41,461

Official, Anthropic-managed directory of high quality Claude Code Plugins.

Source: GitHub Trending