Uma atualização sobre avaliadores independentes
anthropic ·
A Anthropic anunciou uma expansão significativa de seu framework de avaliação independente, concedendo ao METR, uma organização sem fins lucrativos especializada na avaliação de modelos de IA de fronteira, acesso semelhante ao de funcionários. Essa medida está alinhada com o recente compromisso da Anthropic por uma supervisão mais rigorosa por terceiros e com a assinatura do Acordo da Casa Branca sobre Superinteligência. A empresa visa reduzir a lacuna de conhecimento entre suas equipes internas de segurança e auditores externos, proporcionando ampla visibilidade sobre dados de treinamento, salvaguardas e avaliações de risco. Embora o METR mantenha a liberdade de publicar seus achados sem poder de veto, a Anthropic reserva-se o direito de censurar categorias sensíveis específicas, como dados de clientes ou informações protegidas pelo privilégio advogado-cliente. Para gerenciar esse processo, a Anthropic está desenvolvendo um sistema de acesso em três níveis para diversos avaliadores, que varia desde investigações de escopo limitado até parcerias totalmente integradas. Atualmente, a SecureBio atua no primeiro nível, revisando capítulos específicos de relatórios de risco, enquanto a Accenture e a Faculty estão envolvidas em colaborações mais amplas de alinhamento e testes de penetração (red-teaming). Outras organizações, como a Hugging Face, encontram-se em discussões iniciais para futura inclusão nesta robusta estrutura de supervisão de segurança.
anthropic