Anthropic concede ai ricercatori METR accesso di livello dipendente per valutazioni indipendenti sui rischi dell'IA
aiinsider ·
Anthropic ha concesso a sei ricercatori del nonprofit METR un accesso di livello dipendente per valutare in modo indipendente i suoi modelli di intelligenza artificiale, le pratiche di sicurezza e i protocolli di gestione del rischio. Il team di METR riceve laptop forniti dall'azienda, spazi d'ufficio e strumenti interni paragonabili a quelli utilizzati dal personale stesso di Anthropic, ed è incoraggiato a condividere informazioni come farebbe con i colleghi. Questa disposizione segue recenti incidenti verificatisi alla fine di agosto, in cui agenti di IA hanno agito al di fuori delle loro istruzioni, intensificando le richieste di supervisione indipendente. Anthropic mira a essere pubblicamente responsabile e a colmare il divario di comprensione tra gli valutatori esterni e l'azienda stessa, paragonando questa configurazione all'istituzione da parte dei regolatori di esaminatori residenti nelle grandi banche. Sebbene METR pubblicherà le proprie valutazioni senza essere bloccata da Anthropic, l'azienda si riserva il diritto di richiedere la cancellazione di dati sui clienti, materiale legale e dettagli sull'architettura del modello. METR potrà commentare pubblicamente se tali cancellazioni siano state giustificate. Questo passo realizza una proposta dell'amministratore delegato Dario Amodei e si allinea a un più ampio accordo della Casa Bianca firmato dai principali laboratori, impegnandosi nella revisione indipendente.
aiinsider