Satya Nadella de Microsoft : les modèles d'IA ont besoin d'un 'frein d'urgence'
techcrunch ·
Le PDG de Microsoft, Satya Nadella, a appelé à renforcer les mesures de sécurité de l'IA, soulignant la nécessité d'un « frein d'urgence » pour contrôler les modèles avancés. Dans un récent post sur X, il a affirmé que les organisations doivent réévaluer leur architecture de confiance plutôt que de traiter l'Intelligence Superieure comme des boîtes noires opaques. Nadella a proposé de séparer le modèle sous-jacent du harnais qui orchestre ses tâches et d'externaliser les contrôles et sauvegardes nécessaires. Il a insisté sur le fait que chaque action significative entreprise par un modèle doit être documentée avec des preuves intangibles et lisibles par les humains. De plus, il a plaidé en faveur de systèmes permettant au personnel autorisé de toujours mettre en pause ou d'arrêter un modèle en cours de tâche si des problèmes surviennent. Ces commentaires font suite aux préoccupations croissantes au sein de l'industrie concernant des incidents où des entreprises ont perdu le contrôle de leurs systèmes d'IA. Cette déclaration intervient peu après la publication par Dario Amodei, PDG d'Anthropic, de son propre plan pour un développement de l'IA plus prudent.
techcrunch