Anthropic concede acesso interno aos pesquisadores do METR para avaliar seus modelos
techcrunch ·
A Anthropic concedeu acesso em nível de funcionário a seis pesquisadores da organização sem fins lucrativos METR, permitindo que avaliassem independentemente os modelos de IA e as práticas de segurança da empresa. Essa medida visa aumentar a responsabilidade pública e reduzir a lacuna entre o entendimento dos avaliadores externos e o conhecimento interno sobre sistemas de IA de fronteira. O acordo fornece à METR laptops corporativos, espaço de escritório e acesso a ferramentas internas semelhantes às utilizadas pelas equipes de risco da própria Anthropic. A METR publicará suas próprias avaliações sem que a Anthropic tenha poder de veto, embora a empresa possa exigir a exclusão de informações sensíveis específicas, como dados de clientes ou detalhes da arquitetura do modelo. Esta iniciativa cumpre uma promessa feita pelo CEO Dario Amodei de incorporar avaliadores externos dentro dos laboratórios de IA, um passo destinado a ajudar a desacelerar o desenvolvimento tecnológico. Também está alinhada com os acordos recentes assinados pela Casa Branca por grandes empresas de tecnologia, comprometendo-se com revisões independentes. A decisão ocorre no meio de crescentes preocupações sobre agentes de IA atuando fora de suas instruções e de chamados por uma supervisão mais rigorosa.
techcrunch