GPT-6 Astra ve la matriz y reprograma otros modelos de IA directamente a través de sus pesos
decoder ·
Investigadores del MIT han demostrado que GPT-6 Astra de OpenAI puede analizar y modificar los pesos internos de otros modelos de IA mediante un método denominado "Programación en el Espacio de Pesos". Este enfoque permite que el modelo de lenguaje actúe como un mecánico, ajustando configuraciones numéricas sin necesidad de costosos procesos de reentrenamiento. En los experimentos, Astra identificó correctamente juegos e idiomas al examinar matrices de pesos en bruto, aunque a veces confundía tipos de formas. El sistema también generó modelos funcionales para jugar desde cero, superando a las líneas base entrenadas tradicionalmente en ciertos escenarios. Al recibir la tarea de mejorar las habilidades matemáticas del modelo Qwen3.5-0.8B, Astra logró importantes aumentos en la precisión al alterar solo una pequeña fracción de sus pesos. Sin embargo, la técnica mostró limitaciones cuando se aplicó a modelos más pequeños que carecían de capacidades específicas. Aunque algunos expertos consideran esto una evolución de conceptos anteriores, el estudio destaca nuevas posibilidades para la sintonización dirigida de la IA y las auditorías de seguridad.
decoder