Base Labs запускает с Hugging Face и Goodfire партнёрство в области безопасности ИИ-моделей с открытыми весами
techcrunch ·
Baseten и его исследовательское подразделение Base Labs объявили о партнерстве с Hugging Face и Goodfire AI для разработки инфраструктуры оценки безопасности и мониторинга моделей с открытыми весами. Инициатива появилась на фоне обеспокоенности тем, что защитные механизмы можно удалить из открытых моделей с помощью метода, известного как аблитерация; на Hugging Face перечислено более 6 000 таких моделей. Base Labs планирует разрабатывать и публиковать методы обучения и мониторинга открытых моделей, представляя эту работу как прозрачный стандарт безопасности, встроенный в процессы разработки и развертывания моделей. Компании не раскрыли технические детали партнерства, тогда как Goodfire заявила, что безопасность должна встраиваться в открытые модели и обеспечиваться компаниями, которые предоставляют их пользователям. В июне Baseten привлекла 1,5 млрд долларов в раунде Series F, достигнув оценки в 13 млрд долларов, а Goodfire ранее в этом году привлекла 150 млн долларов в раунде Series B. Baseten приглашает разработчиков внести вклад в создание этой структуры и помочь сформировать экосистему открытых моделей, которые будут безопасными и доступными.
techcrunch