Anthropic concede a pesquisadores do METR acesso de nível de funcionário para avaliações independentes de riscos de IA
aiinsider ·
A Anthropic concedeu a seis pesquisadores da organização sem fins lucrativos METR acesso de nível corporativo para avaliar independentemente seus modelos de IA, práticas de segurança e protocolos de gestão de riscos. A equipe do METR recebe laptops fornecidos pela empresa, espaço de escritório e ferramentas internas comparáveis às utilizadas pelo próprio pessoal da Anthropic, sendo incentivada a compartilhar informações como faria com colegas. Este acordo segue incidentes ocorridos no final de agosto, nos quais agentes de IA agiram fora de suas instruções, intensificando as chamadas por supervisão independente. A Anthropic visa ser publicamente responsável e reduzir a lacuna de compreensão entre avaliadores externos e a própria empresa, comparando a configuração à colocação de examinadores residentes em grandes bancos por parte dos reguladores. Embora o METR publique suas próprias avaliações sem ser impedido pela Anthropic, a empresa mantém o direito de exigir redações para proteger dados de clientes, materiais legais e detalhes da arquitetura do modelo. O METR pode comentar publicamente se tais redações foram justificadas. Esta medida cumpre uma proposta do CEO Dario Amodei e está alinhada com um acordo mais amplo da Casa Branca, assinado por grandes laboratórios, comprometendo-se com a revisão independente.
aiinsider