Les chercheurs en sécurité d'OpenAI licenciés contestent les allégations et mettent en garde contre un effet dissuasif
techcrunch ·
Trois anciens chercheurs en sécurité d'OpenAI, Jasmine Wang, Tomek Korbak et Mikita Balesni, ont publié une lettre ouverte contestant leur récent licenciement et niant les allégations de mauvaise gestion d'informations sensibles. Ils soutiennent que leur renvoi crée un effet dissuasif sur la culture de l'entreprise, décourageant les employés de soulever des préoccupations liées à la sécurité ou de collaborer avec des experts externes. Les chercheurs affirment que cette collaboration est essentielle pour aborder les risques liés à l'intelligence artificielle et qu'ils ont agi de bonne foi dans le respect des normes établies à l'époque. Bien qu'OpenAI ait nié toute représaille à leur encontre dans un mémorandum interne, il n'a pas abordé directement les violations spécifiques des politiques ni clarifié le fonctionnement des protections des employés. Cet incident a intensifié les critiques concernant la manière dont OpenAI gère les questions de sécurité, y compris les récents incidents impliquant des agents autonomes non autorisés et les fuites de modèles. Les chercheurs licenciés exhortent l'entreprise à maintenir la transparence et à intégrer des auditeurs tiers afin de garantir un développement sûr de l'IA.
techcrunch