OpenAI expédiera au moins un modèle cette année, mais son modèle phare nécessite encore des travaux d'alignement
decoder ·
OpenAI serait sur la bonne voie pour lancer un ou deux nouveaux modèles d'IA avant la fin de 2026, bien que son prochain modèle phare subisse des retards importants en raison d'exigences persistantes en matière d'alignement et de sécurité. Le futur modèle phare utilise une technique de transformateur en boucle, similaire à celle du modèle actuel Astra, qui améliore les performances en mathématiques et en programmation tout en réduisant les coûts opérationnels. Cependant, ce choix architectural complique la surveillance de la sécurité en masquant les processus de raisonnement internes du modèle dans des représentations numériques illisibles. Par conséquent, OpenAI a redirigé environ dix pour cent de sa puissance de calcul totale vers des efforts d'alignement et de sécurité pour répondre à ces défis. De plus, l'entreprise doit se conformer à un décret exécutif du gouvernement américain qui exige de fournir un accès aux nouveaux modèles jusqu'à 30 jours avant les partenariats externes. Les détails techniques concernant cette méthode d'inférence en boucle ont été brièvement divulgués lorsque Microsoft a accidentellement publié des informations sur une variante moins coûteuse appelée GPT-6.1 Sol. Malgré la reconnaissance que la surveillance de la chaîne de pensée devient fragile, OpenAI continue d'affiner ces systèmes sous une supervision stricte de la direction.
decoder