Агенты ИИ выполняют большую часть работы при разработке моделей, но решения по-прежнему принимают люди
decoder ·
Исследование ученых из Университета Фудань, проанализировавших разработку модели Atria Dawn Preview, показало, что хотя ИИ-агенты выполняют большинство задач по исполнению, люди сохраняют решающий контроль над направлением проекта. Анализ более 700 журналов задач выявил значительное увеличение соотношения действий агентов к человеческим вводам, однако это отражало повышение эффективности, а не автономность принятия решений. Примерно треть задач, выполняемых с помощью ИИ, были признаны невыполнимыми без искусственного интеллекта, что указывает на способность ИИ обеспечивать работу, которую в противном случае не стали бы выполнять. Люди приняли 85,5% решений относительно методов и параметров, последовательно выбирая из вариантов, предложенных агентами. При возникновении проблем вмешательство человека заключалось преимущественно в предоставлении контекста или диагностике проблем, а не в выполнении ручной работы. Несмотря на высокий уровень автоматизации, авторы предупреждают о риске «штампования» (формального одобрения), когда надзор затруднен из-за длинных рабочих процессов агентов. Эти выводы контрастируют с тенденциями в таких компаниях, как Anthropic и OpenAI, предполагая, что передовые модели могут справляться с инженерными задачами, но все еще испытывают трудности с критическими оценочными решениями.
decoder