O Claude da Anthropic agora escreve código e prova sua segurança automaticamente
decoder ·
A Anthropic fez parceria com a Theorem para demonstrar que seu modelo de IA, Claude, pode gerar automaticamente provas matemáticas que verificam a correção do código de software existente. Em um projeto recente, o Claude produziu aproximadamente 180 milhões de linhas de código de prova para 123 bibliotecas de código aberto do projeto OSS-Fuzz do Google em apenas algumas semanas. Esse processo autônomo envolveu a tradução de testes de falhas em problemas matemáticos e a análise de código de máquina compilado, com os resultados sendo verificados por uma ferramenta independente chamada Rocq. Durante essa fase de verificação, o Claude identificou centenas de bugs que métodos de teste convencionais haviam perdido ao longo de anos, incluindo falhas de segurança críticas em leitores de PDF amplamente utilizados. No entanto, essas provas formais estão sujeitas a limitações rigorosas, aplicando-se apenas a arquiteturas de processador específicas, programas single-threaded e entradas menores que 64 MB. Embora o custo computacional permaneça alto, a Anthropic observa que modelos mais recentes estão se tornando mais eficientes, exigindo menos tokens para resolver provas semelhantes. A empresa visa tornar a verificação formal baseada em IA tão rotineira quanto os testes de software padrão, potencialmente transformando a forma como os desenvolvedores confiam e revisam o código gerado por IA.
decoder