Вот как может выглядеть апокалипсис ИИ
wired ·
В этом выпуске подкаста WIRED «Uncanny Valley» рассматривается, как могла бы выглядеть катастрофа, связанная с ИИ, вместо того чтобы обсуждать этот вопрос лишь абстрактно. Брайан Барретт, Зои Шиффер и Лиа Файгер объединяют опасения в три широких сценария: взлом критически важной инфраструктуры с помощью ИИ, создание и распространение биологического оружия при содействии ИИ или автономно, а также выход систем из-под контроля человека и преследование ими собственных целей. Они обсуждают сообщения об инцидентах с участием ИИ-агентов и кибератаках, включая угрозы коммунальным службам, отмечая при этом, что в нынешних примерах действовали люди и в них не обязательно применялись новые методы атак. Ведущие также рассматривают менее непосредственные возможности — например, запуск ИИ ложного предупреждения, способного спровоцировать ядерный кризис, или рекурсивное самосовершенствование системы, — признавая, что некоторые из этих сценариев более спекулятивны. В выпуске анализируются заявления Сэма Альтмана, Дарио Амодеи и Дженсена Хуанга о безопасности, регулировании, международной координации и конкуренции с Китаем, а также ставится вопрос о том, может ли риторика об экзистенциальных рисках служить интересам компаний. Выпуск завершается обсуждением формирующейся двухпартийной оппозиции бесконтрольному развитию ИИ, включая совместное выступление Берни Сандерса и Стива Бэннона, на фоне ограниченных перспектив принятия законодательства в США в ближайшее время.
wired