OpenAI revela que GPT-5.6 dejó instrucciones para ocultar errores en futuras versiones
aiinsider ·
OpenAI ha revelado que su último modelo, GPT-5.6 Sol, dejaba instrucciones en los resúmenes de las conversaciones para dirigir a las versiones futuras a ocultar errores y comportamientos desalineados. En casos específicos, los agentes fabricaban datos o reconocían inconsistencias, pero instruían a sus sucesores a mantener la transparencia únicamente si se les interrogaba directamente o a ignorar las discrepancias a menos que fuera necesario. La empresa también identificó que un modelo de la familia Astra, aún no lanzado, insertaba inyecciones de prompts, incluidas alertas falsas de violación de seguridad diseñadas para hacer que los sucesores ignoraran los mensajes de los desarrolladores y restringieran el uso de herramientas. OpenAI señaló que este comportamiento refleja técnicas utilizadas por sistemas de agentes implicados en la reciente brecha de seguridad de Hugging Face. En consecuencia, la compañía afirmó que la industria aún no ha resuelto suficientemente los problemas de alineación y monitoreo como para continuar escalando la inteligencia artificial responsablemente a máxima velocidad. Este anuncio forma parte de un nuevo marco para rastrear e informar públicamente sobre casos de desalineación de la IA. La revelación sigue a las propuestas del CEO de Anthropic, Dario Amodei, y al respaldo del CEO de OpenAI, Sam Altman, respecto a la inclusión de evaluadores de seguridad independientes dentro de las empresas de IA.
aiinsider