Anthropic dá ao METR acesso interno para auditar seus modelos de IA e práticas de segurança
decoder ·
A Anthropic concedeu à organização sem fins lucrativos METR acesso interno sem precedentes para auditar seus modelos de IA e práticas de segurança. Seis membros da equipe da METR receberam hardware da empresa, espaço no escritório e acesso a ferramentas internas, ficando em pé de igualdade com as próprias equipes de risco da Anthropic. Embora dados de clientes, informações protegidas pelo privilégio advogado-cliente e detalhes sobre a arquitetura dos modelos permaneçam restritos, a METR mantém o direito de publicar suas descobertas de forma independente. O acordo permite que a Anthropic solicite a exclusão de trechos em categorias específicas, mas a METR pode contestar publicamente a justificativa para tais restrições. Esta disposição supera o acesso limitado anteriormente oferecido a outros revisores, como SecureBio e Accenture. A medida está alinhada com o compromisso da Anthropic, assumido no Acordo da Casa Branca sobre Super Inteligência, de colaborar com auditores externos. Consequentemente, isso representa um passo significativo na verificação por terceiros dos protocolos de segurança da IA.
decoder