Anthropic arbeitet mit Accenture an eingebetteter Evaluierung
anthropic ·
Anthropic arbeitet mit der spezialisierten KI-Sparte Faculty von Accenture zusammen, um unabhängige Bewertungen modernster KI-Modelle durchzuführen. Die Arbeit umfasst Modellevaluierungen und Red-Teaming, Bewertungen der Ausrichtung sowie Tests von Schutzmechanismen und stützt sich auf Accentures Erfahrung mit KI-Einsätzen in Unternehmen und Behörden. Anthropic und Accenture gehen jeweils davon aus, in den kommenden fünf Jahren mindestens 1 Milliarde US-Dollar in den Aufbau von Evaluierungskapazitäten zu investieren. Eingebettete Evaluatoren werden mit einem mit Mitarbeitenden vergleichbaren Zugang innerhalb von KI-Unternehmen arbeiten. Dadurch können sie die Ausbildung der Modelle beobachten, Entwicklungs- und Einsatzentscheidungen prüfen, mit Beschäftigten sprechen, Sicherheitszusagen verifizieren, blinde Flecken identifizieren und Vorfälle melden. Anthropic erklärt, dass unabhängige Evaluatoren die Überprüfbarkeit seiner Rechenschaftspflicht stärken werden, während die Verantwortung für die Modellsicherheit bei Anthropic bleibt. Da Standards und langfristige Finanzierungssysteme noch nicht etabliert sind, wird Anthropic die Arbeit von Accenture zunächst direkt finanzieren und zugleich Gespräche mit METR und anderen gemeinnützigen Evaluatoren führen. Das Unternehmen erwartet, dass sich der nicht exklusive Ansatz zu einem breiteren Ökosystem mit gemeinsamen Standards weiterentwickelt.
anthropic