Le nouveau prototype d'Anthropic prouve quel modèle a généré une réponse IA sans exposer ses poids
decoder ·
Anthropic a publié FlashProve, un prototype de recherche open-source qui utilise la cryptographie zkSNARK pour vérifier si une réponse d'IA a été générée par un modèle spécifique revendiqué. Ce système permet aux fournisseurs de générer une preuve numérique compacte de l'implication du modèle sans exposer ses poids ou son architecture sous-jacents. Bien que les limitations actuelles restreignent la génération de preuves à des contextes d'au plus 1 024 tokens et à un échantillonnage déterministe, cette technologie représente un bond significatif en matière d'efficacité par rapport aux méthodes précédentes. La génération de preuves pour les grands modèles s'effectue à environ 110 tokens par seconde sur un GPU H100, tandis que la vérification prend seulement 17 secondes sur un processeur standard. Anthropic envisage des cas d'utilisation pour les régulateurs vérifiant les modèles approuvés, les entreprises prouvant leurs revues de sécurité et la détection de modifications non autorisées côté serveur. Le projet réalise un objectif de la feuille de route « Frontier Safety » d'Anthropic visant à créer des outils de vérification de l'inférence sans dépendre de matériel de confiance. Le code source complet et la documentation sont disponibles sur GitHub sous licence Apache 2.0.
decoder