Un aggiornamento sui valutatori indipendenti
anthropic ·
Anthropic ha annunciato una significativa espansione del proprio quadro di valutazione indipendente, concedendo a METR, un'organizzazione senza scopo di lucro specializzata nella valutazione dei modelli di intelligenza artificiale all'avanguardia, l'accesso simile a quello dei dipendenti. Questa mossa si allinea con il recente impegno di Anthropic verso una supervisione più rigorosa da parte di terze parti e con la firma dell'Accordo della Casa Bianca sulla Superintelligenza. L'azienda mira a colmare il divario conoscitivo tra i team interni di sicurezza e gli auditor esterni, fornendo una visibilità approfondita sui dati di addestramento, sulle misure di salvaguardia e sulle valutazioni dei rischi. Sebbene METR mantenga la libertà di pubblicare i propri risultati senza potere di veto, Anthropic conserva il diritto di censurare categorie specifiche sensibili, come i dati dei clienti o le informazioni protette dal privilegio avvocato-cliente. Per gestire questo processo, Anthropic sta sviluppando un sistema di accesso a tre livelli per vari valutatori, che va da indagini circoscritte a partnership integrate a pieno titolo. Attualmente, SecureBio opera al primo livello esaminando capitoli specifici dei report sui rischi, mentre Accenture e Faculty sono impegnate in collaborazioni più ampie relative all'allineamento e alle attività di red-teaming. Altre organizzazioni, come Hugging Face, sono in fase di discussioni iniziali per un futuro inserimento in questa robusta struttura di supervisione della sicurezza.
anthropic