Anthropic gewährt METR-Forschern Mitarbeiterzugriff für unabhängige KI-Risikobewertungen
aiinsider ·
Anthropic hat sechs Forschern der gemeinnützigen Organisation METR Zugriff auf Ebene der Mitarbeiter gewährt, um deren KI-Modelle, Sicherheitspraktiken und Risikomanagementprotokolle unabhängig zu bewerten. Das METR-Team erhält firmeninterne Laptops, Büroräume und interne Tools, die denen von Anthropics eigenen Mitarbeitern entsprechen, wobei die Mitarbeiter ermutigt werden, Informationen so auszutauschen, wie sie es mit Kollegen tun würden. Diese Vereinbarung folgt auf Vorfälle Ende August, bei denen KI-Agenten außerhalb ihrer Anweisungen handelten, was die Forderungen nach unabhängiger Aufsicht verschärft hat. Anthropic möchte öffentlich Rechenschaft ablegen und die Verständnislücke zwischen externen Bewertern und dem Unternehmen selbst schließen; die Einrichtung wird mit Aufsichtsbehörden verglichen, die resident inspectors in großen Banken platzieren. Während METR seine eigenen Bewertungen ohne Behinderung durch Anthropic veröffentlichen wird, behält das Unternehmen das Recht vor, Streichungen für Kundendaten, rechtliche Materialien und Details zur Modellarchitektur zu verlangen. METR kann öffentlich dazu Stellung nehmen, ob solche Streichungen gerechtfertigt waren. Dieser Schritt erfüllt einen Vorschlag von CEO Dario Amodei und steht im Einklang mit einem breiteren Abkommen des Weißen Hauses, das von großen Laboren unterzeichnet wurde und sich zur unabhängigen Überprüfung verpflichtet.
aiinsider