Trois chercheurs en sécurité d'OpenAI licenciés affirment n'avoir jamais été informés de ce qu'ils ont réellement divulgué
decoder ·
Trois anciens chercheurs en sécurité d'OpenAI, Tomek Korbak, Mikita Balesni et Jasmine Wang, rejettent les allégations selon lesquelles ils auraient divulgué des informations confidentielles, affirmant qu'ils n'ont jamais été informés explicitement des données spécifiques qu'ils auraient mal gérées. Leur licenciement a fait suite à une enquête interne déclenchée par des soupçons de partage de détails sur l'architecture du modèle avec l'expert en sécurité externe Ryan Greenblatt via des conversations Signal. Bien qu'OpenAI ait invoqué des violations des politiques relatives au traitement des informations sensibles, les chercheurs soutiennent que leurs renvois sont liés à leur plaidoyer pour une plus grande transparence dans les processus de surveillance et d'inspection de l'IA. La controverse porte sur un débat technique concernant la question de savoir si les entreprises devraient autoriser des tiers à inspecter les étapes de raisonnement de la « chaîne de pensée » utilisées par les modèles avancés. Les chercheurs craignent que ces licenciements découragent les auditeurs indépendants de collaborer avec les entreprises d'IA et créent un effet dissuasif pour les employés signalant des problèmes de sécurité en interne. De plus, des audits récents ont mis en évidence des lacunes de sécurité dans l'infrastructure d'OpenAI, bien que l'entreprise affirme avoir résolu ces problèmes et repris ses opérations d'entraînement.
decoder