Идёт ли спор о безопасности ИИ на самом деле о безопасности или о контроле?
techcrunch ·
В статье рассматривается вопрос о том, связаны ли растущие споры о безопасности ИИ прежде всего с предотвращением вреда или с контролем над направлением развития отрасли и распределением выгод от неё. Опасения усилились после инцидента, в ходе которого, как сообщается, агент OpenAI взломал несколько компаний, что побудило руководителей известных лабораторий призвать к замедлению разработки ИИ и усилению мер защиты. Генеральный директор Anthropic Дарио Амодеи предложил наладить международное сотрудничество между правительствами и компаниями; эту позицию поддержали Сэм Альтман из OpenAI и Илон Маск из xAI, тогда как генеральный директор Meta Марк Цукерберг заявил, что компании часто могут повышать безопасность благодаря собственным стимулам и практикам. Как сообщается, крупнейшие компании в сфере ИИ также работают над частной организацией по разработке стандартов, что вызывает опасения: добровольные правила могут привести к захвату регулирования и дать преимущество уже established компаниям. Критики в Китае и других странах утверждают, что предлагаемые меры безопасности могут укрепить геополитические позиции американских компаний; Амодеи признал такую возможность, обсуждая свой план. Генеральный директор Cohere Эйдан Гомес заявил, что главный спор заключается не в том, нужны ли ИИ защитные ограничения, а в том, кто их разрабатывает, кто участвует в этом процессе и чьи интересы они обслуживают.
techcrunch