Доступ к ИИ почти полностью лишает людей желания сказать «я не знаю», показывает исследование
decoder ·
Недавнее исследование с участием 3132 человек показало, что доступ к языковым моделям ИИ значительно снижает готовность людей признавать свою неуверенность. Исследователи обнаружили, что при наличии советов от ИИ доля участников, говоривших «Я не знаю», снизилась с более чем 36% до всего 3%, несмотря на то, что ИИ в основном давал неправильные ответы на вопросы из области общих знаний. Это привело к резкому росту уверенности пользователей, но одновременно к снижению точности ответов: доля правильных ответов упала более чем вдвое. Эффект сохранялся даже тогда, когда предложения ИИ отображались автоматически без запроса пользователя, что имитирует поведение современных поисковых систем. Хотя финансовые стимулы несколько снизили зависимость от ИИ и улучшили точность, они не восстановили полностью склонность воздерживаться от ответа. Авторы объясняют это явление «эпстемией» (Epistemia), когда пользователи принимают убедительно звучащие выводы ИИ без проверки. Таким образом, исследование предполагает, что человеческое суждение может пострадать по мере повсеместного распространения ИИ, независимо от точности моделей.
decoder