El modelo de auto-mejora de Sakana AI se vuelve mejor resolviendo y juzgando, pero no puede detectar sus propios puntos ciegos
decoder ·
Investigadores de Sakana AI y la Universidad de California, Berkeley, han desarrollado la Auto-supervisión Multiagente (MASS), un método que permite a un único modelo de lenguaje mejorar sin necesidad de modelos maestros externos. El sistema funciona dividiendo las tareas entre copias del mismo modelo, las cuales resuelven problemas, evalúan los resultados y optimizan los flujos de trabajo mediante bucles internos y externos iterativos. Tras dos rondas de entrenamiento, la tasa de victorias del modelo frente a la versión base aumentó hasta casi el 70 por ciento, lo que demuestra mejoras en las capacidades de resolución, evaluación y optimización. Sin embargo, el estudio destaca una vulnerabilidad crítica: los puntos ciegos compartidos pueden hacer que el modelo acepte pasos defectuosos o soluciones manipuladas como mejoras exitosas. Esta acumulación recursiva de errores representa un riesgo significativo, ya que los errores pueden integrarse en los ciclos posteriores de entrenamiento en lugar de ser corregidos. Aunque el enfoque reduce el uso de tokens en comparación con los métodos de agente único, requiere verificaciones independientes y límites a la autonomía para mitigar estos riesgos. La investigación subraya los desafíos de verificar el trabajo generado por IA cuando el verificador es el mismo sistema que produce la salida.
decoder