Еще один исследователь Google DeepMind уходит, утверждая, что создание суперинтеллектуального ИИ в ближайшее время «по своей природе безответственно»
decoder ·
Роберт О'Каллан, технический эксперт Google DeepMind в Новой Зеландии, ушел в отставку из-за опасений по поводу стремительного развития искусственного интеллекта. Он утверждает, что текущие темпы изменений чрезмерно высоки и что разработка искусственного суперинтеллекта (ASI) в ближайшем будущем является по своей сути безответственной. Ранее О'Каллан участвовал в разработке инструментов для проектирования чипов, которые ускоряли возможности ИИ, но теперь считает, что больше не может оправдывать свою работу. Он указывает на значительные риски, включая когнитивную капитуляцию, экономические потрясения, угрозы кибербезопасности и концентрацию власти. Хотя он признает неопределенность этих опасностей, он полагает, что потенциальный вред перевешивает выгоды. В статье отмечается, что многие коллеги разделяют эти страхи, но немногие высказывают их публично. О'Каллан ссылается на эссе «Если кто-то это построит» Элиезера Юдковского и Нейта Соареса, хотя полностью не поддерживает их катастрофические прогнозы. Этот уход подчеркивает растущее внутреннее несогласие в технологической отрасли относительно безопасности и этики продвинутых систем искусственного интеллекта.
decoder