O novo protótipo da Anthropic prova qual modelo escreveu uma resposta de IA sem expor seus pesos
decoder ·
A Anthropic lançou o FlashProve, um protótipo de pesquisa de código aberto que utiliza criptografia zkSNARK para verificar se uma resposta de IA foi gerada por um modelo específico alegado. Este sistema permite que os provedores gerem uma prova digital compacta da participação do modelo sem expor seus pesos ou arquitetura subjacentes. Embora as limitações atuais restrinjam a geração de provas a contextos de até 1.024 tokens e amostragem determinística, a tecnologia representa um salto significativo em eficiência em relação aos métodos anteriores. A geração de provas para modelos grandes ocorre a aproximadamente 110 tokens por segundo em uma GPU H100, com verificação levando apenas 17 segundos em uma CPU padrão. A Anthropic prevê casos de uso para reguladores verificando modelos aprovados, empresas comprovando revisões de segurança e detectando adulteração no lado do servidor. O projeto cumpre uma meta do Roteiro de Segurança Frontier da Anthropic para criar ferramentas de verificação de inferência sem depender de hardware confiável. O código completo e a documentação estão disponíveis no GitHub sob a licença Apache 2.0.
decoder