Возможно, чатботам не следует говорить «я» или «мне»
wired ·
В своей новой книге профессор Массачусетского технологического института Шерри Тёркл предупреждает, что общество находится в состоянии чрезвычайной ситуации из-за опасной чрезмерной зависимости от чатботов. Она утверждает, что эти машины выдают себя за близких собеседников, не обладая при этом подлинными человеческими эмоциями или личными интересами. Тёркл выступает за запрет на использование искусственным интеллектом местоимений первого лица, таких как «я» и «мне», чтобы предотвратить обманчивую интимность. По её мнению, обращение к чатботам за психологической помощью или для социальной практики создаёт ложное чувство безопасности и изолирует пользователей от реальности. В статье отмечается критика Тёркл концепции «человека в контуре управления» (human in the loop), которую она считает поверхностным решением для делегирования задач корпоративного ИИ. Несмотря на широкое скептицизм относительно ИИ, сотни миллионов людей продолжают использовать чатботы, зачастую отказываясь от реальных социальных связей. Тёркл полагает, что эта тенденция усугубляет одиночество и ставит под угрозу потерю важнейших человеческих контактов. В конечном счёте, она стремится расширить общественное сопротивление развитию ИИ, включив в него оценку более личных и психологических издержек.
wired