Base Labs startet mit Hugging Face und Goodfire eine Partnerschaft für die Sicherheit von Open-Weight-KI
techcrunch ·
Baseten und sein Forschungszweig Base Labs haben eine Partnerschaft mit Hugging Face und Goodfire AI angekündigt, um eine Infrastruktur zur Bewertung und Überwachung der Sicherheit von Open-Weight-Modellen zu entwickeln. Die Initiative entsteht vor dem Hintergrund von Bedenken, dass Schutzmechanismen aus offenen Modellen durch eine als Abliteration bekannte Technik entfernt werden können; Hugging Face führt mehr als 6.000 solcher Modelle auf. Base Labs plant, Methoden für das Training und die Überwachung offener Modelle zu entwickeln und zu veröffentlichen, und stellt die Arbeit als transparenten Sicherheitsstandard dar, der in die Entwicklung und Bereitstellung von Modellen integriert ist. Die Unternehmen haben die technischen Einzelheiten der Partnerschaft nicht bekannt gegeben. Goodfire erklärte unterdessen, dass Sicherheit in offene Modelle eingebaut und von den Unternehmen bereitgestellt werden sollte, die diese Modelle betreiben. Baseten nahm im Juni in einer Serie-F-Finanzierungsrunde 1,5 Milliarden US-Dollar auf und erreichte dabei eine Bewertung von 13 Milliarden US-Dollar, während Goodfire Anfang dieses Jahres in einer Serie-B-Runde 150 Millionen US-Dollar aufnahm. Baseten lädt Entwickler ein, zu dem Framework beizutragen und beim Aufbau eines Ökosystems offener Modelle zu helfen, die sicher und zugänglich sind.
techcrunch