El nuevo prototipo de Anthropic demuestra qué modelo escribió una respuesta de IA sin exponer sus pesos
decoder ·
Anthropic ha lanzado FlashProve, un prototipo de investigación de código abierto que utiliza criptografía zkSNARK para verificar si una respuesta de IA fue generada por un modelo específico alegado. Este sistema permite a los proveedores generar una prueba digital compacta de la participación del modelo sin exponer sus pesos ni su arquitectura subyacentes. Aunque las limitaciones actuales restringen la generación de pruebas a contextos de hasta 1.024 tokens y al muestreo determinista, la tecnología representa un salto significativo en eficiencia respecto a métodos anteriores. La generación de pruebas para modelos grandes ocurre a aproximadamente 110 tokens por segundo en una GPU H100, con una verificación que toma solo 17 segundos en una CPU estándar. Anthropic prevé casos de uso para reguladores que verifican modelos aprobados, empresas que demuestran revisiones de seguridad y detección de manipulación en el lado del servidor. El proyecto cumple con un objetivo del Mapa de Caminos de Seguridad Fronteriza de Anthropic para crear herramientas de verificación de inferencia sin depender de hardware confiable. El código completo y la documentación están disponibles en GitHub bajo la licencia Apache 2.0.
decoder