OpenAI подтверждает недели переговоров по безопасности ИИ с Anthropic и Google DeepMind
aiinsider ·
OpenAI подтвердила, что в течение нескольких недель вела переговоры о безопасности искусственного интеллекта с компаниями-конкурентами Anthropic и Google DeepMind. Крис Леан, глава глобальной политики OpenAI, подтвердил эту координацию во время работы с законодателями в Вашингтоне по вопросам катастрофических рисков ИИ. Это заявление последовало за эссе генерального директора Anthropic Дарио Амодеи, который призвал отрасль коллективно замедлить разработку передовых моделей ИИ, чтобы предотвратить катастрофические последствия. Видные деятели, включая Сэма Алтмана, Демиса Хагасиса и Илона Маска, выразили поддержку предложению Амодеи. OpenAI планирует присоединиться к Anthropic во внедрении сторонних оценщиков для внутреннего мониторинга безопасности — шаг, направленный на решение антимонопольных опасений относительно подавления конкуренции. Сообщается также, что компании работают над созданием отраслевого органа по стандартам для проверки продвинутых моделей и координации замедлений разработки при необходимости. Несмотря на эти совместные усилия, президент Трамп отверг обеспокоенность вопросами безопасности ИИ, утверждая, что замедление развития принесет пользу преимущественно Китаю.
aiinsider