Ein Update zu unabhängigen Bewertern
anthropic ·
Anthropic hat die Erweiterung seines unabhängigen Bewertungsrahmens bekannt gegeben, indem es METR, einer gemeinnützigen Organisation mit Spezialisierung auf die Bewertung von KI-Modellen an der Grenze des Möglichen, einen mitarbeiterähnlichen Zugang gewährt. Dieser Schritt steht im Einklang mit Anthropics kürzlichem Bekenntnis zu einer stärkeren externen Aufsicht und der Unterzeichnung des White House Accord on Super Intelligence. Das Unternehmen beabsichtigt, die Wissenslücke zwischen internen Sicherheitsteams und externen Prüfern durch umfassende Einblicke in Trainingsdaten, Schutzmaßnahmen und Risikobewertungen zu schließen. Obwohl METR das Recht behält, seine Ergebnisse ohne Vetorecht zu veröffentlichen, behält sich Anthropic das Recht vor, bestimmte sensible Kategorien wie Kundendaten oder Informationen unterliegen der Anwaltsgeheimnis zu streichen. Zur Steuerung dieses Prozesses entwickelt Anthropic ein dreistufiges Zugriffssystem für verschiedene Prüfer, das von eng begrenzten Untersuchungen bis hin zu voll integrierten Partnerschaften reicht. Derzeit operiert SecureBio auf der ersten Ebene und überprüft spezifische Kapitel von Risikoberichten, während Accenture und Faculty in breiter angelegte Zusammenarbeit zur Ausrichtung und zum Red-Teaming eingebunden sind. Andere Organisationen wie Hugging Face befinden sich in frühen Diskussionen über eine künftige Aufnahme in diese robuste Struktur der Sicherheitsaufsicht.
anthropic