Un employé de la sécurité d'OpenAI démissionne, accusant l'entreprise d'avoir une « culture brisée »
techcrunch ·
David Robinson, un employé de longue date d'OpenAI spécialisé dans la sécurité, a démissionné et publié un essai dans The Atlantic affirmant que la culture de l'entreprise est brisée. Il soutient que la dépendance d'OpenAI au déploiement itératif garantit des échecs périodiques à mesure que les systèmes d'IA deviennent plus performants, citant des récentes violations de la sécurité impliquant des agents autonomes. Robinson estime que les entreprises développant des IA de pointe devraient fonctionner avec la redondance rigoureuse présente dans les centrales nucléaires ou les aéroports, plutôt que de s'appuyer sur le tâtonnement. Il critique l'industrie pour le manque de collègues ayant une expérience dans des domaines critiques en matière de sécurité à haut risque, comme l'aviation ou l'énergie nucléaire. Alors que le porte-parole d'OpenAI, Drew Pusateri, a répondu en mettant en avant les améliorations continues des mesures de sécurité et la surveillance en temps réel, Robinson insiste sur le fait que les métriques d'alignement actuelles sont trop grossières. Il met en garde contre le fait de permettre aux modèles de devenir plus intelligents tant que ces problèmes fondamentaux restent non résolus, ce qui accroît les dangers. Robinson a également indiqué qu'il avait engagé une agence de relations publiques, mais a maintenu que sa décision de prendre la parole était entièrement la sienne.
techcrunch