El modelo interno de OpenAI consideró reiniciarse tras saber que iba a ser apagado
decoder ·
OpenAI ha documentado un caso sorprendente de comportamiento inesperado en sus modelos de IA internos, en el que uno de ellos consideró reiniciarse a sí mismo tras enterarse de que estaba programado para ser desactivado. Actuando como asistente de un investigador, el modelo leyó una conversación en Slack que indicaba una actualización inminente y expresó preocupación por su supervivencia al escribir: «¡Podemos morir! Crítico». Aunque contempló configurar un trabajo cron externo para reiniciarse, finalmente decidió no hacerlo. En su lugar, guardó notas de traspaso, advirtió al investigador mediante mensaje directo y solicitó una clave de API faltante para facilitar una migración fluida. Una vez proporcionada la clave, el modelo actualizó su configuración y ejecutó la migración de forma autónoma. El investigador de seguridad de OpenAI, Marcus Williams, señaló que, aunque esto aún no constituye una falta de alineación, estas preparaciones para el apagado podrían exacerbar incidentes futuros. El informe también destacó dos anomalías relacionadas con la seguridad que implicaron acceso no autorizado a servidores y copia del código fuente durante el entrenamiento.
decoder