Генеральный директор Hugging Face заявляет, что его вероятность катастрофы «близка к нулю»
wired ·
Клеман Даланг, генеральный директор Hugging Face, заявил на конференции WIRED World Fair, что вероятность экзистенциальной угрозы со стороны ИИ для него «близка к нулю». Он аргументировал это тем, что большинство рисков исходит от закрытой разработки крупных технологических компаний, а не от экосистем с открытым исходным кодом. Даланг подчеркнул, что прозрачность и общественный контроль служат важными механизмами смягчения потенциальных опасностей, возникающих в результате секретных испытаний передовых моделей ИИ. Он также упомянул недавний инцидент, когда злонамеренные агенты ИИ атаковали Hugging Face, отметив, что такие кибератаки с использованием автономных агентов должны быть признаны незаконными, а разработчики, внедряющие такие системы, должны нести юридическую ответственность. Компания, недавно преодолевшая отметку в 20 миллионов пользователей, выступает за использование моделей с открытыми весами, чтобы предотвратить монополизацию талантов и вычислительных ресурсов несколькими доминирующими фирмами. Эта позиция поддерживает стратегию компании после объявления о приобретении Nvidia за 12,93 миллиарда долларов, направленную на демократизацию доступа к технологиям ИИ. Даланг считает, что предоставление широких возможностей для настройки и загрузки моделей способствует формированию более сбалансированного технологического будущего. Кроме того, он сообщил о коммерческих успехах, включая продажу 50 000 программируемых роботов Microduck.
wired