Agentes de IA fazem mais trabalho no desenvolvimento de modelos, mas os humanos ainda tomam as decisões
decoder ·
Um estudo de pesquisadores da Universidade Fudan, analisando o desenvolvimento do modelo Atria Dawn Preview, revela que, embora os agentes de IA realizem a maioria das tarefas de execução, os humanos mantêm o controle decisivo sobre a direção do projeto. A análise de mais de 700 registros de tarefas mostrou que a proporção de ações dos agentes em relação às entradas humanas aumentou significativamente, mas isso refletiu eficiência, e não tomada de decisão autônoma. Aproximadamente um terço das tarefas assistidas por IA foram consideradas inviáveis sem inteligência artificial, indicando que a IA viabiliza trabalhos que, caso contrário, não seriam tentados. Os humanos tomaram 85,5% das decisões relativas a métodos e parâmetros, selecionando consistentemente entre as opções propostas pelos agentes. Quando surgiram problemas, a intervenção humana envolveu principalmente fornecer contexto ou diagnosticar questões, em vez de realizar trabalho manual. Apesar desse alto nível de automação, os autores alertam para o risco de um 'carimbo' (rubber-stamp), onde a supervisão se torna difícil devido ao comprimento dos fluxos de trabalho dos agentes. Esses achados contrastam com as tendências da indústria em empresas como Anthropic e OpenAI, sugerindo que os modelos de ponta podem lidar com engenharia, mas ainda têm dificuldades com julgamentos críticos.
decoder