OpenAI enviará al menos un modelo este año, pero su principal aún necesita trabajo de alineación
decoder ·
Se informa que OpenAI tiene previsto lanzar uno o dos nuevos modelos de IA antes de finales de 2026, aunque su próximo modelo insignia enfrenta retrasos significativos debido a los requisitos continuos de alineación y seguridad. El futuro modelo insignia utiliza una técnica de transformador en bucle, similar a la actual mejor versión Astra, lo cual mejora el rendimiento en matemáticas y programación mientras reduce los costos operativos. Sin embargo, esta elección arquitectónica complica la supervisión de la seguridad al ocultar los procesos de razonamiento interno del modelo dentro de representaciones numéricas ilegibles. Como consecuencia, OpenAI ha redirigido aproximadamente el diez por ciento de su potencia de cómputo total hacia esfuerzos de alineación y seguridad para abordar estos desafíos. Además, la empresa debe cumplir con una orden ejecutiva del gobierno de EE. UU. que exige proporcionar acceso a los nuevos modelos hasta 30 días antes de las asociaciones externas. Los detalles técnicos sobre este método de inferencia en bucle se expusieron brevemente cuando Microsoft publicó accidentalmente información sobre una variante más económica llamada GPT-6.1 Sol. A pesar de reconocer que la supervisión del pensamiento en cadena se está volviendo frágil, OpenAI continúa refinando estos sistemas bajo estricta supervisión directiva.
decoder