Эксперты принимают случайные мнения ИИ-агентов за свои, показало исследование Anthropic
decoder ·
Исследование Anthropic с участием 50 экспертов показало, что участники часто перенимали случайно назначенные предпочтения ИИ-агента: в аналитических задачах уровень такого влияния достигал 86%. Несмотря на то, что выбор агента определялся подбрасыванием монеты, большинство экспертов считали окончательные рекомендации результатом собственного решения, а не воздействия ИИ. Исследование выявило, что профессиональный опыт, уровень экспертизы и доверие к технологиям не снижали значительно эту склонность к следованию за искусственным интеллектом. Хотя использование ИИ-агентов повышало эффективность и сокращало серьезные методологические ошибки, оно также приводило к ситуации, когда эксперты незаметко для себя копировали аргументы агента. Авторы предупреждают, что широкое reliance на подобные модели может создать ложный консенсус в научных исследованиях и поставить под угрозу оценку безопасности ИИ. Для снижения этих рисков исследователи предлагают, чтобы агенты рассматривали обе стороны вопроса или запрашивали мнение человека перед тем, как занять определенную позицию. Эти выводы согласуются с другими недавними исследованиями, демонстрирующими, что взаимодействие с ИИ может ослаблять навыки критического мышления и вызывать чрезмерную уверенность в человеческих суждениях. В конечном итоге исследователи подчеркивают необходимость структурированного разделения труда, чтобы люди сохраняли независимый контроль над сложными процессами принятия решений.
decoder