Anthropic travaille sur un système pour prouver l'identité des modèles d'IA
techcrunch ·
Anthropic développe un système open-source appelé FlashProve pour vérifier cryptographiquement quel modèle d'IA a généré une sortie spécifique. Cette technologie vise à fournir une « inférence prouvable », permettant aux utilisateurs de confirmer l'authenticité des réponses provenant de modèles revendiqués. Le système protège contre les imposteurs, y compris les scénarios où un fournisseur pourrait secrètement remplacer des modèles pour réduire les coûts ou gonfler les indicateurs de performance. Pour fonctionner, les laboratoires doivent publier des empreintes digitales uniques pour leurs modèles sans révéler leurs poids propriétaires, ce qui permet la vérification sur les appareils locaux. Les chercheurs ont publié des spécifications techniques et du code sur GitHub dans le cadre de travaux en cours plutôt que comme un produit final. L'objectif est de permettre aux tiers de vérifier les affirmations concernant les modèles avancés ayant effectué des tâches spécifiques. Anthropic partage explicitement cette progression intermédiaire pour encourager l'amélioration et la collaboration au sein de la communauté.
techcrunch