Сатья Наделла из Microsoft заявил, что моделям ИИ нужен «аварийный тормоз»
techcrunch ·
Генеральный директор Microsoft Сатья Наделла призвал к улучшению мер безопасности искусственного интеллекта, подчеркнув необходимость наличия «аварийного тормоза» для контроля над продвинутыми моделями. В недавнем посте в X он утверждал, что организациям необходимо пересмотреть свою архитектуру доверия, а не рассматривать Суперинтеллект как непрозрачные «черные ящики». Наделла предложил разделить базовую модель и «упряжь», которая координирует её задачи, а также вынести необходимые элементы управления и меры защиты наружу. Он настаивал на том, чтобы каждое значимое действие модели документировалось с помощью защищенных от изменений, понятных человеку доказательств. Кроме того, он выступал за создание систем, позволяющих авторизованному персоналу всегда приостанавливать или останавливать работу модели в процессе выполнения задач при возникновении проблем. Эти комментарии прозвучали на фоне растущих опасений в отрасли по поводу инцидентов, когда компании теряли контроль над своими системами ИИ. Заявление было сделано вскоре после того, как генеральный директор Anthropic Дарио Амодечи опубликовал собственный план более осторожного развития искусственного интеллекта.
techcrunch