Anthropic trabaja en un sistema para demostrar la identidad de los modelos de IA
techcrunch ·
Anthropic está desarrollando un sistema de código abierto llamado FlashProve para verificar criptográficamente qué modelo de IA generó una salida específica. Esta tecnología busca ofrecer una 'inferencia demostrable', garantizando que los usuarios puedan confirmar la autenticidad de las respuestas procedentes de modelos declarados. El sistema protege contra impostores, incluidos escenarios en los que un proveedor podría cambiar secretamente los modelos para reducir costos o inflar las métricas de rendimiento. Para funcionar, los laboratorios deben publicar huellas digitales únicas de sus modelos sin revelar sus pesos propietarios, lo que permite la verificación en dispositivos locales. Los investigadores han publicado especificaciones técnicas y código en GitHub como parte de un trabajo en curso, más que como un producto final. El objetivo es permitir que terceros verifiquen las afirmaciones sobre qué modelos avanzados realizaron tareas específicas. Anthropic comparte explícitamente este progreso intermedio para fomentar la mejora y la colaboración comunitaria.
techcrunch