Base Labs lanza una alianza para la seguridad de la IA de pesos abiertos con Hugging Face y Goodfire
techcrunch ·
Baseten y su división de investigación Base Labs han anunciado una alianza con Hugging Face y Goodfire AI para desarrollar infraestructura de evaluación y monitoreo de la seguridad de modelos de pesos abiertos. La iniciativa surge en medio de preocupaciones de que las salvaguardas puedan eliminarse de los modelos abiertos mediante una técnica conocida como abliteration, y Hugging Face incluye más de 6.000 modelos de ese tipo. Base Labs planea desarrollar y publicar métodos para entrenar y monitorear modelos abiertos, presentando el trabajo como un estándar de seguridad transparente integrado en el desarrollo y la implementación de modelos. Las empresas no han revelado los detalles técnicos de la alianza, mientras que Goodfire ha afirmado que la seguridad debe incorporarse a los modelos abiertos y ser proporcionada por las empresas que los ofrecen. Baseten recaudó 1.500 millones de dólares en una ronda de financiación Serie F en junio, alcanzando una valoración de 13.000 millones de dólares, mientras que Goodfire recaudó 150 millones de dólares en una ronda Serie B a principios de este año. Baseten invita a los desarrolladores a contribuir al marco y ayudar a construir un ecosistema de modelos abiertos que sean seguros y accesibles.
techcrunch