Anthropic collabora con Accenture per valutazioni indipendenti integrate
anthropic ·
Anthropic sta collaborando con Faculty, la divisione specializzata in IA di Accenture, per condurre valutazioni indipendenti dei modelli di IA all’avanguardia. Il lavoro comprenderà la valutazione dei modelli e il red teaming, valutazioni dell’allineamento e test delle misure di sicurezza, facendo leva sull’esperienza di Accenture nelle implementazioni dell’IA presso aziende ed enti governativi. Anthropic e Accenture prevedono entrambe di investire almeno 1 miliardo di dollari nello sviluppo della capacità di valutazione nei prossimi cinque anni. I valutatori integrati lavoreranno all’interno delle aziende di IA con un accesso simile a quello dei dipendenti, potendo osservare l’addestramento, esaminare le decisioni di sviluppo e implementazione, parlare con il personale, verificare gli impegni in materia di sicurezza, individuare i punti ciechi e segnalare gli incidenti. Anthropic afferma che i valutatori indipendenti rafforzeranno la verificabilità della sua responsabilità, mentre la responsabilità della sicurezza dei modelli resterà ad Anthropic. Poiché non sono ancora stati istituiti standard e sistemi di finanziamento a lungo termine, Anthropic finanzierà inizialmente direttamente il lavoro di Accenture, dialogando al contempo con METR e altri valutatori senza scopo di lucro, e prevede che l’approccio non esclusivo evolva verso un ecosistema più ampio con standard condivisi.
anthropic