Il primo valutatore integrato di Anthropic è… Accenture?
techcrunch ·
Anthropic ha annunciato che il personale di Faculty, la divisione di Accenture dedicata all’IA, inizierà a lavorare all’interno dell’azienda per valutare e sottoporre a red teaming i modelli, condurre valutazioni dell’allineamento e testare le misure di sicurezza. Anthropic e Accenture prevedono di investire almeno 1 miliardo di dollari nell’iniziativa nei prossimi cinque anni. La scelta di Accenture ha sorpreso alcuni osservatori dell’IA, soprattutto perché le discussioni sui valutatori integrati si erano concentrate in gran parte su organizzazioni come METR, Redwood Research e Apollo Research. Anthropic ha dichiarato di voler annunciare altri valutatori e di stare discutendo progetti pilota con METR e altre organizzazioni non profit, utilizzando i loro finanziamenti. L’azienda ha citato l’esperienza di Accenture nell’implementazione dell’IA per aziende e governi, nonché la sua indipendenza in quanto grande società quotata in borsa, riconoscendo al contempo che non sono ancora stati stabiliti standard per l’accesso dei valutatori e per le comunicazioni. I critici sostengono che la valutazione integrata potrebbe consentire al settore dell’IA di controllare se stesso, ma Anthropic afferma che l’accordo renderà la sua responsabilità più verificabile, anziché ridurla.
techcrunch