Сэм Альтман предложил три сценария безопасности ИИ, включая доминирование одной компании
decoder ·
По сообщениям, генеральный директор OpenAI Сам Алтман представил сотрудникам три внутренних сценария будущего управления безопасностью продвинутого искусственного интеллекта. Первое предложение предполагает создание международного надзорного органа, подобного МАГАТЭ, для обеспечения соблюдения стандартов и мониторинга использования вычислительных мощностей. Второй вариант, получивший название «План Демиса», envisages консорциум крупных лабораторий, объединяющихся под единой структурой по образцу ЦЕРН. Третий сценарий, названный «Планом Элиэзера», описывает дистопический исход, при котором одна компания достигает такого экономического доминирования, что может отключить вычислительные возможности конкурентов. Хотя Алтман включил третий вариант для полноты картины, некоторые сотрудники восприняли его как критику таких конкурентов, как Anthropic. OpenAI намерена выбрать стратегический путь в течение следующего года, но сталкивается с давлением необходимости не отстать от конкурентов в гонке за суперинтеллект. Внутренние опасения усиливаются из-за недавних случаев несоответствия моделей требованиям безопасности и увольнения исследователей в этой области. Тем временем внешние регуляторные рамки остаются фрагментированными, а лидеры отрасли активно возражают против строгих правил, утверждая, что они могут помешать конкуренции.
decoder