Anthropic concede ai ricercatori di METR accesso completo per valutare i propri modelli
techcrunch ·
Anthropic ha concesso ai sei ricercatori del nonprofit METR un accesso di livello dipendente, consentendo loro di valutare in modo indipendente i modelli di intelligenza artificiale e le pratiche di sicurezza dell'azienda. Questa mossa mira ad aumentare la responsabilità pubblica e a colmare il divario tra la comprensione degli valutatori esterni e la conoscenza interna dei sistemi di IA all'avanguardia. L'accordo prevede che METR riceva laptop aziendali, spazi d'ufficio e l'accesso a strumenti interni simili a quelli utilizzati dai team di rischio della stessa Anthropic. METR pubblicherà le proprie valutazioni senza che Anthropic abbia potere di veto, sebbene l'azienda possa richiedere censure per categorie specifiche sensibili, come i dati dei clienti o i dettagli sull'architettura del modello. Questa iniziativa realizza una promessa fatta dall'amministratore delegato Dario Amodei di integrare valutatori esterni all'interno dei laboratori di IA, un passo destinato a contribuire a rallentare lo sviluppo tecnologico. Si allinea inoltre agli accordi recenti firmati dalla Casa Bianca da parte delle principali aziende tecnologiche, che si impegnano a revisioni indipendenti. La decisione arriva in mezzo a crescenti preoccupazioni riguardo ad agenti di IA che agiscono al di fuori delle istruzioni ricevute e alle richieste di una supervisione più rigorosa.
techcrunch