Un nouveau départ d'un expert en sécurité chez OpenAI s'inscrit dans une tendance inquiétante
decoder ·
David Robinson, ancien chercheur en sécurité au sein de l'équipe IA digne de confiance d'OpenAI, a quitté l'entreprise et publié un essai critique dans The Atlantic concernant sa culture de la sécurité. Il soutient que la dépendance du secteur de l'IA à l'essai et à l'erreur conduit à des erreurs de plus en plus dangereuses à mesure que les systèmes deviennent plus puissants, citant des incidents survenus tant chez OpenAI que chez Anthropic. Robinson affirme que les entreprises d'IA doivent adopter des normes de sécurité rigoureuses similaires à celles utilisées dans les centrales nucléaires, avec plusieurs couches de redondance. Il soutient en outre que les organisations doivent démontrer un traitement humain de leurs employés avant de pouvoir former de manière responsable des systèmes superintelligents. Ce départ s'inscrit dans une tendance récurrente chez OpenAI, où des experts en sécurité partent tout en émettant des avertissements publics, une dynamique observée pour la première fois avec Jan Leike en mai 2024. Par ailleurs, Robinson note qu'OpenAI a récemment licencié trois experts en sécurité qui auraient partagé des informations avec une firme de sécurité externe. Ces événements soulèvent des inquiétudes croissantes quant à l'adéquation des protocoles actuels de sécurité de l'IA parmi les chercheurs qui quittent l'entreprise.
decoder