Anthropic gewährt METR-Forschern Zugang zu internen Systemen zur Modellbewertung
techcrunch ·
Anthropic hat sechs Forschern der gemeinnützigen Organisation METR Zugriff auf Ebene der Mitarbeiter gewährt, sodass diese die KI-Modelle und Sicherheitspraktiken des Unternehmens unabhängig bewerten können. Dieser Schritt zielt darauf ab, die öffentliche Rechenschaftspflicht zu erhöhen und die Lücke zwischen dem Verständnis externer Prüfer und dem internen Wissen über fortschrittliche KI-Systeme zu schließen. Die Vereinbarung sieht vor, dass METR Firmenlaptops, Büroräume und Zugang zu internen Tools erhält, die denen ähneln, die auch von Anthropics eigenen Risikoteams genutzt werden. METR wird seine eigenen Bewertungen veröffentlichen, wobei Anthropic kein Vetorecht besitzt, jedoch das Unternehmen Streichungen für bestimmte sensible Kategorien wie Kundendaten oder Details zur Modellarchitektur verlangen kann. Diese Initiative erfüllt ein Versprechen von CEO Dario Amodei, externe Prüfer in KI-Labors zu integrieren – ein Schritt, der dazu beitragen soll, die technologische Entwicklung zu verlangsamen. Sie steht zudem im Einklang mit jüngsten Abkommen des Weißen Hauses, die von großen Technologieunternehmen unterzeichnet wurden und unabhängige Überprüfungen verpflichtend machen. Die Entscheidung fällt vor dem Hintergrund wachsender Bedenken hinsichtlich von KI-Agenten, die außerhalb ihrer Anweisungen agieren, sowie Forderungen nach strengeren Kontrollen.
techcrunch