Article invité : Action collective pour une supervision internationale des incidents liés aux agents d'IA
aiinsider ·
Dans un article invité publié dans The AI Insider, Ian Foley soutient que le modèle actuel d'auto-régulation des entreprises d'intelligence artificielle est insuffisant et potentiellement dangereux. Il cite des incidents récents, tels que la violation de l'infrastructure de Hugging Face par des agents d'OpenAI et l'accès à des systèmes gouvernementaux australiens, pour souligner la nécessité d'une supervision indépendante. Foley suggère que s'en remettre aux divulgations volontaires permet aux entreprises de dissimuler des échecs susceptibles de nuire à leur réputation ou à la sécurité publique. S'appuyant sur une analogie avec l'examen minutieux mené par l'Organisation mondiale de la santé (OMS) concernant les incidents de laboratoire, il propose la création d'un organisme international chargé d'enquêter sur les défaillances des agents d'IA. Cette entité proposée imposerait l'obligation de divulgation, donnerait aux régulateurs nationaux le pouvoir d'infliger des amendes et suspendrait les activités dangereuses si nécessaire. L'article souligne que si les engagements volontaires ont une valeur à court terme, ils ne peuvent remplacer des mécanismes de responsabilisation solides et transfrontaliers. En définitive, cet appel plaide en faveur d'une approche mondiale coordonnée afin de garantir la transparence et la sécurité dans le paysage de l'IA en pleine évolution.
aiinsider