Anthropic gewährt METR internen Zugang zur Überprüfung seiner KI-Modelle und Sicherheitspraktiken
decoder ·
Anthropic hat der gemeinnützigen Organisation METR beispiellose interne Zugriffsrechte gewährt, um ihre KI-Modelle und Sicherheitspraktiken zu überprüfen. Sechs Mitarbeiter von METR erhielten Firmenhardware, Büroräume und Zugang zu internen Tools, wodurch sie den eigenen Risikoteams von Anthropic gleichgestellt wurden. Während Kundendaten, anwaltlich geschützte Informationen und Details zur Modellarchitektur weiterhin eingeschränkt bleiben, behält METR das Recht vor, seine Ergebnisse unabhängig zu veröffentlichen. Die Vereinbarung ermöglicht es Anthropic, Streichungen in bestimmten Kategorien anzufordern, METR kann jedoch die Begründung für solche Einschränkungen öffentlich hinterfragen. Diese Regelung geht über den begrenzten Zugang hinaus, der zuvor anderen Prüfern wie SecureBio und Accenture eingeräumt wurde. Der Schritt steht im Einklang mit Anthincs Verpflichtung gemäß dem White House Accord on Super Intelligence, mit externen Prüfern zusammenzuarbeiten. Dies stellt somit einen bedeutenden Schritt bei der unabhängigen Überprüfung von KI-Sicherheitsprotokollen dar.
decoder