Бывшие сотрудники Anthropic покупают удалённые участки на случай, если ИИ выйдет из-под контроля
decoder ·
По сообщениям, несколько ветеранов компании Anthropic покупают удалённые участки земли в США как меру предосторожности на случай, если искусственный интеллект выйдет из-под контроля. По данным The Wall Street Journal, эти ранние сотрудники обсуждали возможность переезда в изолированные районы, если системы ИИ станут опасными. Такое поведение отражает более широкую тенденцию в истории компании: ранее персонал рассматривал переезд в пустынные объекты для работы в условиях электромагнитной защиты. В статье подчёркивается тесная связь между первоначальным составом сотрудников Anthropic и субкультурой эффективного альтруизма, особенно её «доумерским» (пессимистичным) сообществом. Многие из этих людей находились под влиянием Элиезера Юдковского, который с середины 2000-х годов предупреждал о рисках неконтролируемого ИИ. До того как сосредоточиться на угрозах со стороны ИИ, эта группа годами готовилась к другим катастрофическим сценариям, таким как падение астероидов и извержения супервулканов. Эти действия демонстрируют, насколько глубоко укоренилась забота об устранении экзистенциальных рисков среди некоторых ключевых фигур в индустрии искусственного интеллекта.
decoder