Base Labs lance un partenariat pour la sécurité de l’IA à poids ouverts avec Hugging Face et Goodfire
techcrunch ·
Baseten et sa branche de recherche Base Labs ont annoncé un partenariat avec Hugging Face et Goodfire AI afin de développer une infrastructure d’évaluation et de surveillance de la sécurité pour les modèles à poids ouverts. Cette initiative intervient alors que des inquiétudes sont exprimées quant au fait que les garde-fous peuvent être supprimés des modèles ouverts grâce à une technique connue sous le nom d’ablération, Hugging Face recensant plus de 6 000 modèles de ce type. Base Labs prévoit de développer et de publier des méthodes pour entraîner et surveiller les modèles ouverts, en présentant ce travail comme une norme de sécurité transparente intégrée au développement et au déploiement des modèles. Les entreprises n’ont pas dévoilé les détails techniques du partenariat, tandis que Goodfire a déclaré que la sécurité devait être intégrée aux modèles ouverts et assurée par les entreprises qui les mettent à disposition. Baseten a levé 1,5 milliard de dollars lors d’un tour de financement de série F en juin, atteignant une valorisation de 13 milliards de dollars, tandis que Goodfire a levé 150 millions de dollars lors d’un tour de série B plus tôt cette année. Baseten invite les développeurs à contribuer au cadre et à participer à la création d’un écosystème de modèles ouverts sûrs et accessibles.
techcrunch