Anthropic faz parceria com a Accenture para avaliação integrada
anthropic ·
A Anthropic está fazendo uma parceria com a unidade especializada em IA da Accenture, a Faculty, para realizar avaliações independentes de modelos de IA de fronteira. O trabalho incluirá avaliação de modelos e red teaming, avaliações de alinhamento e testes de salvaguardas, aproveitando a experiência da Accenture em implementações de IA em empresas e no governo. A Anthropic e a Accenture esperam investir, cada uma, pelo menos US$ 1 bilhão na criação de capacidade de avaliação nos próximos cinco anos. Avaliadores incorporados trabalharão dentro de empresas de IA com acesso semelhante ao de funcionários, o que lhes permitirá observar o treinamento, examinar decisões de desenvolvimento e implantação, conversar com funcionários, verificar compromissos de segurança, identificar pontos cegos e comunicar incidentes. A Anthropic afirma que avaliadores independentes reforçarão a verificabilidade de sua prestação de contas, enquanto a responsabilidade pela segurança dos modelos continuará sendo da Anthropic. Como padrões e sistemas de financiamento de longo prazo ainda não foram estabelecidos, a Anthropic inicialmente financiará diretamente o trabalho da Accenture, enquanto também conversa com a METR e outros avaliadores sem fins lucrativos, e espera que a abordagem não exclusiva evolua para um ecossistema mais amplo, com padrões compartilhados.
anthropic