O primeiro avaliador integrado da Anthropic é… a Accenture?
techcrunch ·
A Anthropic anunciou que funcionários da divisão de IA da Accenture, a Faculty, começarão a trabalhar dentro da empresa para avaliar e realizar testes de segurança nos modelos, conduzir avaliações de alinhamento e testar salvaguardas. A Anthropic e a Accenture esperam investir pelo menos US$ 1 bilhão na iniciativa nos próximos cinco anos. A escolha da Accenture surpreendeu alguns observadores de IA, especialmente porque as discussões sobre avaliadores incorporados haviam se concentrado amplamente em organizações como a METR, a Redwood Research e a Apollo Research. A Anthropic afirmou que planeja anunciar mais avaliadores e que está discutindo projetos-piloto com a METR e outras organizações sem fins lucrativos, usando o financiamento próprio delas. A empresa citou a experiência da Accenture na implementação de IA para empresas e governos, bem como sua independência por ser uma grande companhia de capital aberto, embora reconheça que ainda não foram estabelecidos padrões para o acesso dos avaliadores e a comunicação com eles. Críticos argumentam que a avaliação incorporada poderia permitir que a indústria de IA fiscalizasse a si mesma, mas a Anthropic afirma que o acordo tornará sua responsabilização mais verificável, e não a reduzirá.
techcrunch