Los agentes de IA realizan más trabajo en el desarrollo de modelos, pero los humanos siguen tomando las decisiones
decoder ·
Un estudio de investigadores de la Universidad Fudan sobre el desarrollo del modelo Atria Dawn Preview revela que, aunque los agentes de IA realizan la mayoría de las tareas de ejecución, los humanos mantienen el control decisivo sobre la dirección del proyecto. El análisis de más de 700 registros de tareas mostró que la proporción de acciones de agentes frente a entradas humanas aumentó significativamente, lo cual reflejó mayor eficiencia en lugar de toma de decisiones autónoma. Aproximadamente un tercio de las tareas asistidas por IA se consideraron inviables sin inteligencia artificial, lo que indica que la IA permite realizar trabajos que de otro modo no se habrían intentado. Los humanos tomaron el 85,5 % de las decisiones respecto a métodos y parámetros, seleccionando consistentemente entre opciones propuestas por los agentes. Cuando surgieron problemas, la intervención humana consistió principalmente en proporcionar contexto o diagnosticar incidencias, en lugar de realizar trabajo manual. A pesar de este alto nivel de automatización, los autores advierten sobre el riesgo de una 'aprobación automática' (rubber-stamp), donde la supervisión se vuelve difícil debido a la longitud de los flujos de trabajo de los agentes. Estos hallazgos contrastan con las tendencias de la industria en empresas como Anthropic y OpenAI, sugiriendo que los modelos de vanguardia pueden manejar la ingeniería, pero aún tienen dificultades con las decisiones críticas de juicio.
decoder