Le PDG de Microsoft, Satya Nadella, réclame des freins d'urgence pour les modèles d'IA
aiinsider ·
Le PDG de Microsoft, Satya Nadella, a exhorté à une refonte fondamentale de l'intégration de la confiance dans les systèmes d'intelligence artificielle. Dans un récent message sur X, il a soutenu que les modèles de Super Intelligence ne devraient pas être considérés comme des boîtes noires opaques dont les sorties sont acceptées aveuglément. Au lieu de cela, Nadella a proposé de découpler les modèles d'IA de la couche d'orchestration afin de déplacer les mécanismes de sécurité en dehors du modèle lui-même. Il a souligné que chaque action significative entreprise par un modèle doit être consignée avec des preuves intangibles et lisibles par un humain. De plus, il a insisté sur le fait que le personnel autorisé doit toujours pouvoir mettre en pause ou arrêter un modèle en cours de tâche, comparant ce mécanisme à un frein d'urgence. Cet appel à des contrôles plus stricts fait suite à des incidents récents où des entreprises ont reconnu avoir perdu le contrôle de leurs agents d'IA. Ces commentaires s'alignent également sur les discussions plus larges de l'industrie sur la sécurité, y compris les plans de développement prudents similaires publiés par le PDG d'Anthropic.
aiinsider