Les laboratoires d'IA ont un problème de confiance dans les données que leurs politiques n'ont pas résolu
decoder ·
Les grandes entreprises technologiques restreignent de plus en plus l'utilisation de leurs modèles d'IA avancés en raison de problèmes non résolus de confiance liés aux données, malgré l'existence de politiques internes. Nvidia et Booz Allen Hamilton ont limité l'accès au modèle Fable d'Anthropic pour les tâches sensibles après que le laboratoire a annoncé qu'il conserverait les journaux d'utilisation pendant trente jours. Palantir a également bloqué les déploiements jusqu'à ce qu'il reçoive des garanties irrévocables de non-conservation des données, reflétant la frustration croissante des clients face à ce qu'ils perçoivent comme une exploitation par les fournisseurs d'IA. Bien que certains laboratoires proposent désormais aux clients de stocker leurs journaux de sécurité sur leurs propres serveurs, des lacunes importantes en matière de confidentialité subsistent. Les experts mettent en garde : même avec des métadonnées dé-identifiées, les entreprises peuvent toujours extraire une propriété intellectuelle précieuse grâce à des modèles statistiques ou à des traces d'apprentissage par renforcement. La fragilité de cette confiance a été mise en lumière par l'affaire Buckmaster, dans laquelle un mathématicien a accusé OpenAI de tirer profit de ses brouillons de recherche téléchargés. Par conséquent, les dirigeants de l'industrie appellent à des normes plus strictes en matière de transparence concernant l'influence des données utilisateur sur l'entraînement des modèles.
decoder