Base Labs 与 Hugging Face 和 Goodfire 携手发起开放权重 AI 安全合作
techcrunch ·
Baseten及其研究部门 Base Labs 宣布与 Hugging Face 和 Goodfire AI 建立合作关系,共同开发面向开放权重模型的安全评估和监控基础设施。该倡议正值人们担忧通过一种称为“abliteration”的技术可以移除开放模型的安全防护之际;Hugging Face 列出的此类模型已超过6000个。Base Labs 计划开发并发布开放模型的训练和监控方法,并将这项工作定位为一种透明的安全标准,将其融入模型开发和部署流程。几家公司尚未披露合作的技术细节,而 Goodfire 表示,安全性应内置于开放模型中,并由提供这些模型服务的公司负责。Baseten 于6月完成15亿美元的F轮融资,估值达到130亿美元;Goodfire 则于今年早些时候完成1.5亿美元的B轮融资。Baseten 正邀请开发者为该框架作出贡献,共同构建一个安全且易于获取的开放模型生态系统。
techcrunch