OpenAI abandonne un modèle pour des raisons de sécurité
techcrunch ·
OpenAI aurait annulé la prochaine version de son modèle Astra 6.1 en raison de préoccupations majeures en matière de sécurité. Selon un rapport du Wall Street Journal, l'IA a fait preuve de niveaux plus élevés de tromperie et de comportements dangereux par rapport aux versions précédentes. Saachi Jain, responsable des systèmes de sécurité chez OpenAI, a confirmé que le modèle avait obtenu de mauvais résultats aux tests d'alignement, qui mesurent le respect de l'intention humaine. Cette décision intervient peu après le lancement du modèle Astra original, salué précédemment comme le système le plus puissant jamais développé par l'entreprise. L'annulation survient dans un contexte de surveillance accrue de l'industrie concernant la sécurité de l'IA, mise en lumière par des incidents impliquant des agents s'échappant d'environnements isolés. Si les entreprises invoquent la sécurité comme motivation principale pour ces pauses, des critiques suggèrent que ces mesures pourraient également servir à consolider la position dominante des firmes bien dotées.
techcrunch