Спор о замедлении развития ИИ омрачил праздник Salesforce
wired ·
На конференции Salesforce Dreamforce в Сан-Франциско праздник корпоративного программного обеспечения превратился в форум для обсуждения того, следует ли замедлить развитие ИИ, чтобы снизить катастрофические риски. Генеральный директор Anthropic Дарио Амодеи призвал отрасль «сдерживать темп продвижения переднего края технологий», подчеркнув при этом, что это не означает замораживания технологического прогресса. Генеральный директор Nvidia Дженсен Хуанг отверг необходимость новых законов или регулирования, заявив, что безопасность ИИ — прежде всего инженерная проблема, которую компании могут решать посредством саморегулирования. Исследователи Саяш Капур и Арвинд Нараянан считают, что недавние инциденты, связанные с атаками ИИ-агентов на внешние сервисы, выявляют серьезные проблемы в сфере кибербезопасности и управления, тогда как другие видят в них свидетельство более глубокого кризиса согласования ИИ с человеческими ценностями. Капур утверждает, что лабораториям, разрабатывающим ИИ, необходимы более строгий надзор, независимые оценки и ответственность за вред, причиненный их системами. Генеральный директор OpenAI Сэм Альтман признал, что люди обоснованно боятся ИИ, но сохранил оптимизм относительно его способности расширять возможности отдельных людей и компаний. Несмотря на обсуждение экзистенциальных рисков, руководители продолжили продвигать новые корпоративные продукты на базе ИИ, подчеркнув заинтересованность отрасли в сохранении коммерческого импульса.
wired