Anthropic trabalha em um sistema para provar a identidade dos modelos de IA
techcrunch ·
A Anthropic está desenvolvendo um sistema de código aberto chamado FlashProve para verificar criptograficamente qual modelo de IA gerou uma saída específica. Esta tecnologia visa fornecer 'inferência comprovável', garantindo que os usuários possam confirmar a autenticidade das respostas de modelos alegados. O sistema protege contra impostores, incluindo cenários em que um provedor pode secretamente trocar modelos para reduzir custos ou inflar métricas de desempenho. Para funcionar, os laboratórios devem publicar impressões digitais únicas para seus modelos sem revelar pesos proprietários, permitindo a verificação em dispositivos locais. Os pesquisadores lançaram especificações técnicas e código no GitHub como parte de um trabalho em andamento, e não como um produto final. O objetivo é permitir que terceiros verifiquem reivindicações sobre quais modelos avançados realizaram tarefas específicas. A Anthropic compartha explicitamente este progresso intermediário para encorajar melhorias e colaboração da comunidade.
techcrunch