Anthropics erster eingebetteter Evaluator ist … Accenture?
techcrunch ·
Anthropic kündigte an, dass Mitarbeitende von Accentures KI-Sparte Faculty künftig innerhalb des Unternehmens an der Evaluierung und dem Red-Teaming von Modellen, an Alignment-Bewertungen sowie an der Erprobung von Schutzvorkehrungen arbeiten werden. Anthropic und Accenture erwarten, in den nächsten fünf Jahren mindestens 1 Milliarde US-Dollar in die Initiative zu investieren. Die Auswahl von Accenture überraschte einige Beobachter der KI-Branche, insbesondere weil sich die Diskussionen über eingebettete Evaluatoren bislang weitgehend auf Organisationen wie METR, Redwood Research und Apollo Research konzentriert hatten. Anthropic erklärte, weitere Evaluatoren ankündigen zu wollen, und Gespräche über Pilotprojekte mit METR und anderen gemeinnützigen Organisationen zu führen, die diese aus eigenen Mitteln finanzieren. Das Unternehmen verwies auf Accentures Erfahrung mit dem Einsatz von KI für Unternehmen und Regierungen sowie auf seine Unabhängigkeit als großes börsennotiertes Unternehmen, räumte jedoch ein, dass bislang noch keine Standards für den Zugang von Evaluatoren und die Kommunikation mit ihnen festgelegt worden seien. Kritiker argumentieren, dass eingebettete Evaluierung es der KI-Branche ermöglichen könnte, sich selbst zu beaufsichtigen. Anthropic zufolge wird die Vereinbarung die Rechenschaftspflicht jedoch besser überprüfbar machen, statt sie zu verringern.
techcrunch