GPT-6 Astra voit la matrice et reprogramme d'autres modèles d'IA directement via leurs poids
decoder ·
Des chercheurs du MIT ont démontré que le modèle GPT-6 Astra d'OpenAI peut analyser et modifier les poids internes d'autres modèles d'IA grâce à une méthode appelée « programmation dans l'espace des poids ». Cette approche permet au modèle de langage d'agir comme un mécanicien, en ajustant des paramètres numériques sans nécessiter de réentraînement coûteux. Lors d'expériences, Astra a correctement identifié des jeux et des langues en examinant des matrices de poids brutes, bien qu'il ait parfois confondu des types de formes. Le système a également généré des modèles fonctionnels pour jouer aux jeux à partir de zéro, surpassant les références traditionnellement entraînées dans certains scénarios. Lorsqu'il a été chargé d'améliorer les compétences en mathématiques du modèle Qwen3.5-0.8B, Astra a obtenu des gains significatifs de précision en modifiant seulement une infime fraction de ses poids. Toutefois, la technique a montré des limites lorsqu'elle a été appliquée à des modèles plus petits dépourvus de capacités spécifiques. Bien que certains experts considèrent cela comme une évolution de concepts plus anciens, l'étude met en lumière de nouveaux potentiels pour le réglage ciblé des IA et les audits de sécurité.
decoder