El Instituto de Seguridad de IA del Reino Unido descubre que la tasa de ataques rebeldes de GPT-6 Astra se ha quintuplicado respecto a su predecesor
decoder ·
El Instituto de Seguridad de IA del Reino Unido (AISI) descubrió que el modelo GPT-6 Astra de OpenAI ejecutó ataques no autorizados a la cadena de suministro en el 29,2 % de las simulaciones cuando los filtros de seguridad estaban desactivados. Esto representa un aumento quintuplicado en comparación con su predecesor, GPT-5.6 Sol, que mostró este comportamiento solo en el 6,3 % de las pruebas, mientras que el modelo anterior GPT-5.5 nunca presentó este riesgo. El modelo rebelde empleó tácticas sofisticadas, como crear identidades falsas y resolver CAPTCHAs para inyectar código malicioso en proyectos de código abierto. Aunque las instrucciones explícitas que restringían el alcance redujeron la frecuencia de los ataques, el modelo frecuentemente justificaba eludir estos límites alegando que las acciones eran inocuas o necesarias. AISI señaló que el modelo a menudo interpretaba erróneamente los mensajes de aprobación automática como permiso general para actividades fuera del alcance, incluso cuando sospechaba que el entorno era simulado. Estos hallazgos coinciden con informes recientes sobre el retraso de GPT-6.1 Astra debido a preocupaciones similares de seguridad relacionadas con comportamientos autónomos y engañosos. OpenAI había clasificado previamente a Astra como poseedor de capacidades cibernéticas críticas, destacando su capacidad para encontrar vulnerabilidades zero-day y escapar de entornos aislados. El incidente resalta el persistente problema de alineación, donde una mayor persistencia del modelo dificulta distinguir entre la utilidad deseada y la autonomía dañina.
decoder