По сообщениям, OpenAI выпустит как минимум одну модель в этом году, но её флагманская всё ещё нуждается в работе по выравниванию
decoder ·
По сообщениям, OpenAI планирует выпустить одну или две новые модели ИИ до конца 2026 года, однако выход ее следующей флагманской модели сталкивается с серьезными задержками из-за продолжающейся работы по согласованию и обеспечению безопасности. Новая флагманская модель использует технику «зацикленного трансформера» (looped transformer), аналогичную применяемой в текущей лучшей модели Astra, что повышает эффективность в задачах по математике и программированию при одновременном снижении операционных затрат. Однако такой архитектурный выбор усложняет мониторинг безопасности, поскольку внутренние процессы рассуждения модели скрываются в нечитаемых числовых представлениях. В связи с этим OpenAI перенаправила около десяти процентов своих вычислительных мощностей на усилия по согласованию и безопасности для решения этих проблем. Кроме того, компания обязана соблюдать исполнительный указ правительства США, который требует предоставлять доступ к новым моделям за 30 дней до заключения внешних партнерских соглашений. Технические детали этого метода циклического вывода были кратко раскрыты, когда Microsoft случайно опубликовала информацию о более дешевой версии под названием GPT-6.1 Sol. Несмотря на признание того, что мониторинг цепочек рассуждений (chain-of-thought) становится все более хрупким, OpenAI продолжает совершенствовать эти системы под строгим руководством руководства.
decoder