Anthropic réduit le vol des jetons de raisonnement de Claude jusqu'à 99 % dans la lutte contre la distillation à l'échelle industrielle
decoder ·
Anthropic a réduit le vol des tokens de raisonnement de Claude jusqu'à 99 % grâce à de nouvelles mesures défensives contre les attaques de distillation à l'échelle industrielle. Ces attaques impliquent des acteurs malveillants utilisant d'immenses réseaux de faux comptes pour copier systématiquement les capacités de chaîne de pensée internes d'un modèle d'IA afin d'entraîner des modèles plus petits. L'entreprise a identifié les entreprises chinoises Zhipu et Moonshot comme participants clés, les accusant de soutirer des capacités informatiques pour leurs propres modèles et potentiellement pour des systèmes militaires étrangers. Pour contrer cette menace, Anthropic restreint désormais l'accès aux étapes de raisonnement internes, utilise un classificateur pour détecter les tentatives d'extraction et bannit automatiquement les comptes signalés. En conséquence, des dizaines de milliers de comptes ont été bannis, entraînant une chute nette des tentatives de distillation réussies. Bien qu'efficaces, ces mesures de sécurité ont eu involontairement un impact sur certains utilisateurs légitimes au cours du processus. Anthropic exhorte les autres développeurs d'IA à mettre en œuvre des protections similaires pour sauvegarder leurs modèles contre l'exploitation à grande échelle.
decoder