Психолог Гарварда призывает к трезвому инжинирингу безопасности ИИ вместо риторики конца света
decoder ·
Психолог Гарвардского университета Стивен Пинкер опубликовал открытое письмо Скотту Александеру, в котором утверждал, что опасения по поводу экзистенциальных рисков ИИ преувеличены. Пинкер отказался от публичных дебатов на эту тему, назвав такие мероприятия скорее зрелищным спортом, чем продуктивным дискурсом. Он утверждает, что сценарии конца света, такие как мысленный эксперимент о максимизаторе скрепок, ошибочно смешивают интеллект с желанием доминирования и исходят из нереалистичной фиксации на одной цели. Признавая, что он недооценил стремительное развитие возможностей больших языковых моделей и безответственные стратегии выпуска технологий со стороны IT-компаний, Пинкер остается скептиком по отношению к апокалиптическим нарративам. Вместо того чтобы сосредотачиваться на угрозах уровня вымирания, он выделяет биотерроризм, кибератаки и неконтролируемых агентов ИИ как основные опасности, требующие внимания. Пинкер выступает за трезвое инженерное обеспечение безопасности, основанное на независимом надзоре, системах ответственности и механизмах человеческого контроля. В ответ Александер сохраняет вероятность уничтожения человечества ИИ на уровне 20 процентов и призывает к улучшению исследований безопасности наряду с международными регуляторными соглашениями.
decoder