Anthropic concede a METR l'accesso interno per verificare i modelli di IA e le pratiche di sicurezza
decoder ·
Anthropic ha concesso all'organizzazione no-profit METR un accesso interno senza precedenti per auditare i suoi modelli di intelligenza artificiale e le pratiche di sicurezza. Sei membri dello staff di METR hanno ricevuto hardware aziendale, spazi d'ufficio e l'accesso a strumenti interni, posizionandosi sullo stesso piano dei team di rischio di Anthropic. Sebbene i dati dei clienti, le informazioni coperte dal privilegio avvocato-cliente e i dettagli sull'architettura del modello rimangano riservati, METR mantiene il diritto di pubblicare indipendentemente i propri risultati. L'accordo consente ad Anthropic di richiedere la censura in categorie specifiche, ma METR può contestare pubblicamente la giustificazione di tali restrizioni. Questa disposizione supera l'accesso limitato precedentemente offerto ad altri revisori come SecureBio e Accenture. La mossa si allinea con l'impegno di Anthropic, assunto nell'Accordo della Casa Bianca sulla Super Intelligenza, di collaborare con auditor esterni. Di conseguenza, questo rappresenta un passo significativo nella verifica da parte di terze parti dei protocolli di sicurezza dell'IA.
decoder