OpenAI met fin à une campagne visant à voler le raisonnement de ses modèles, mais la faille subsiste sur Azure
decoder ·
OpenAI a démantelé une campagne coordonnée ciblant les processus de raisonnement cachés de ses modèles, impliquant plus de 15 000 comptes tentant d'extraire des chaînes de réflexion internes. Les attaquants ont utilisé une technique appelée distillation adversariale, où des données de raisonnement chiffrées issues d'une conversation étaient déchiffrées par un modèle plus faible dans une session distincte. Bien qu'OpenAI ait réussi à interrompre l'essor initial de l'activité lié à des entités associées à Moonshot AI, des chercheurs ont démontré que la vulnérabilité persistait sur Microsoft Azure. Des tests indépendants ont révélé que si les API d'OpenAI et d'Anthropic étaient sécurisées, les versions hébergées sur Azure de ces modèles restaient exposées aux attaques d'extraction. De plus, une méthode plus simple impliquant des blocs-notes virtuels a permis aux utilisateurs de lire les sorties de raisonnement sur plusieurs plateformes, mettant en évidence des lacunes significatives dans la sécurité des fournisseurs de cloud. Les chercheurs critiquent les défenses actuelles comme étant fragmentaires, notant que les protections ont été appliquées de manière inégale et souvent plusieurs jours après l'exploitation des vulnérabilités. Ils soutiennent que sans normes de sécurité uniformes pour tous les hébergeurs cloud, les attaquants peuvent facilement contourner les restrictions en changeant de plateforme. Cet incident souligne le défi croissant de la protection des capacités propriétaires de l'IA alors que les techniques de distillation deviennent plus sophistiquées.
decoder