Base Labs lancia una partnership sulla sicurezza dell’IA a pesi aperti con Hugging Face e Goodfire
techcrunch ·
Baseten e il suo ramo di ricerca Base Labs hanno annunciato una partnership con Hugging Face e Goodfire AI per sviluppare infrastrutture di valutazione e monitoraggio della sicurezza per modelli open-weight. L’iniziativa nasce nel contesto delle preoccupazioni secondo cui le protezioni dei modelli open possono essere rimosse attraverso una tecnica nota come abliteration; Hugging Face ne elenca più di 6.000. Base Labs intende sviluppare e pubblicare metodi per addestrare e monitorare i modelli open, presentando il lavoro come uno standard di sicurezza trasparente integrato nello sviluppo e nella distribuzione dei modelli. Le aziende non hanno reso noti i dettagli tecnici della partnership, mentre Goodfire ha dichiarato che la sicurezza dovrebbe essere integrata nei modelli open e garantita dalle aziende che li forniscono. A giugno Baseten ha raccolto 1,5 miliardi di dollari in un round di serie F, raggiungendo una valutazione di 13 miliardi di dollari, mentre Goodfire ha raccolto 150 milioni di dollari in un round di serie B all’inizio di quest’anno. Baseten invita gli sviluppatori a contribuire al framework e a contribuire alla creazione di un ecosistema di modelli open sicuri e accessibili.
techcrunch