Base Labs lança uma parceria de segurança de IA para modelos de pesos abertos com a Hugging Face e a Goodfire
techcrunch ·
A Baseten e seu braço de pesquisa, a Base Labs, anunciaram uma parceria com a Hugging Face e a Goodfire AI para desenvolver uma infraestrutura de avaliação e monitoramento de segurança para modelos de pesos abertos. A iniciativa ocorre em meio a preocupações de que as proteções possam ser removidas de modelos abertos por meio de uma técnica conhecida como abliteration, com a Hugging Face listando mais de 6.000 modelos desse tipo. A Base Labs planeja desenvolver e publicar métodos para treinar e monitorar modelos abertos, apresentando o trabalho como um padrão transparente de segurança integrado ao desenvolvimento e à implantação dos modelos. As empresas não divulgaram os detalhes técnicos da parceria, enquanto a Goodfire afirmou que a segurança deve ser incorporada aos modelos abertos e fornecida pelas empresas que os disponibilizam. A Baseten captou US$ 1,5 bilhão em uma rodada Série F em junho, alcançando uma avaliação de US$ 13 bilhões, enquanto a Goodfire captou US$ 150 milhões em uma rodada Série B no início deste ano. A Baseten está convidando desenvolvedores a contribuir para a estrutura e ajudar a construir um ecossistema de modelos abertos que sejam seguros e acessíveis.
techcrunch