OpenAI предложила США возглавить разработку мировых стандартов для фронтирного ИИ и рекурсивного самоулучшения

Два обязательных элемента

Международные стандарты для практик безопасности и защищённости в разработке фронтирного ИИ OpenAI ставит по важности для темпа фронтира в один ряд с самими исследованиями выравнивания: стандарты дают общие определения качественного доказательства и согласованные базовые требования к строгости технических защит. Формулировка задачи в посте звучит так: они помогают ответить на вопрос, что значит «хорошо» в снижении риска катастрофического ИИ.

Из этого предложения OpenAI выделяет два обязательных элемента. Первый — механизм, который обеспечивает взаимодополняемость национальных и международных фронтирных стандартов. Второй — общие протоколы измерений и отчётности об инцидентах, без которых коллективные действия остаются разрозненными.

Решение, которое компания предлагает, сформулировано прямо: США должны возглавить работу с другими странами над глобальными техническими стандартами для фронтирного ИИ, включая рекурсивное самоулучшение. Пост не ограничивается техникой — в нём есть и геополитическая часть: OpenAI указывает, что конкуренция будет идти не только за техническое лидерство, но и за распространение и принятие ИИ, а исход этого зависит от того, кто предлагает реалистичные правила, на которые бизнес и общества готовы ставить своё будущее.

Фрагментация, коллективное действие и неравная ёмкость

Отдельно перечислены три проблемы, из-за которых национальных рамок, по логике поста, недостаточно. Первая — фрагментация: оценки, требования к отчётности и определения инцидентов в разных странах могут конфликтовать, что затрудняет сравнение доказательств, понимание возникающих возможностей и реагирование на риски, пересекающие границы. Вторая — коллективное действие: каждая страна, действуя независимо, может прийти к результату, которого не хочет никто, а рекурсивное самоулучшение способно ускорить сами ИИ-исследования за пределы коллективной способности понимать прогресс и удерживать содержательный человеческий надзор. Третья — неравная ёмкость: деятельность на фронтире и соответствующая экспертиза распределены по миру неравномерно, что усиливает обе предыдущие проблемы. OpenAI подчёркивает, что эти проблемы касаются и открытых, и закрытых моделей.

В качестве направления, которое компания считает позитивным, в посте назван диалог между США и Китаем по вопросам безопасности фронтирного ИИ: по оценке OpenAI, такие переговоры уместны именно сейчас.

Что уже есть: CAISI и Международная сеть

Одну из опор OpenAI видит в формирующейся сети институтов безопасности ИИ: в посте перечислены институты, уже созданные в Австралии, Канаде, Германии, Франции, Кении, Японии, Корее, Сингапуре, Индии и Великобритании, а стандартизацию предлагается вести через CAISI и национальные отраслевые объединения. Второй опорой названо создание Международной сети по измерению, оценке и науке о передовом ИИ в 2024 году, которая объединяет публичные институты для сотрудничества в измерении и оценке ИИ.

Как эта сеть выглядит со стороны регулятора: по данным NIST, Международная сеть основана Центром стандартов и инноваций в области ИИ (CAISI) в ноябре 2024 года и сосредоточена на укреплении науки, лежащей в основе оценки ИИ. В её состав входят государственные органы десяти стран, включая Австралию, Канаду, Евросоюз, Францию, Японию, Кению, Республику Корея, Сингапур, Великобританию и США. В декабре 2025 года CAISI принимал участников сети и представителей индустрии в Сан-Диего на полях NeurIPS, чтобы определить лучшие практики и открытые вопросы автоматизированных оценок ИИ.

Списки при этом расходятся, и это стоит держать в голове: пост OpenAI перечисляет институты безопасности ИИ в десяти странах, среди которых есть Германия и Индия, тогда как NIST описывает состав Международной сети через Евросоюз и без Германии и Индии. Речь идёт о разных вещах, и в посте OpenAI эти два перечня не разведены.

Стандарты, которые не станут лицензией

Границы предложения OpenAI проговаривает отдельно: технические стандарты не будут лицензиями, обязательной предпродажной проверкой или требованиями на одобрение моделей ИИ, а вопрос о том, включать ли их в правовые системы, останется за национальными правительствами. Общие стандарты, по формулировке компании, должны разрабатываться прозрачно и так, чтобы не давать преимуществ отдельным компаниям, странам или бизнес-моделям — в том числе не затрудняя конкуренцию новым участникам и разработчикам открытых весов.

Работу предлагается строить на консультациях с разработчиками открытых и закрытых моделей, независимыми техническими экспертами и академией. Среди организаций, с которыми OpenAI намерена работать, названы ISO, Frontier Model Forum, Agentic AI Foundation и Open Secure AI Alliance, а также Appia Foundation, которая разрабатывает практические спецификации, связывающие международные стандарты с реальными оценками ИИ. Отдельно указано, что такой подход может перенимать уроки авиации и финансовой стабильности, где страны выработали общие технические стандарты и доверенные каналы сотрудничества, не отказываясь от национальных полномочий.

Отчётность и рекурсивное самоулучшение

Стандарты для измерений и инцидентов OpenAI считает особенно важными там, где растёт автономность в ИИ-исследованиях. В перечне — оценка прогресса в рекурсивном самоулучшении и объёма автономной исследовательской работы внутри ИИ-компании; человеческий надзор над автоматизированными исследованиями, включая определение того, какие процессы должны запускать немедленную проверку человеком; классификация, отслеживание, отчётность и реагирование на инциденты, связанные с выравниванием и автоматизированными исследованиями.

Позицию по рекурсивному самоулучшению компания формулирует осторожно: полностью автономного самоулучшения сегодня нет, и его не следует добиваться до тех пор, пока это не удастся делать безопасно. Мотивировка — в том, что по мере автоматизации процесс может ускоряться очень быстро.

Своим вкладом в измерения OpenAI называет свежий отчёт об ускорении исследований, а в отчётность об инцидентах — рамку раскрытия случаев рассогласования моделей. В отчёте об ускорении исследований компания заявляет, что намерена продолжать быть прозрачной в прогрессе к рекурсивному самоулучшению, и что публично отслеживать этот прогресс должны быть обязаны и другие компании. Там же приводятся операционные цифры: к середине августа медианный исследователь OpenAI включал агентов в работу ежедневно, расходуя более 600 долларов инференса в день по ценам API. Осторожность заявлена и здесь: компания пишет, что пока не знает, как безопасно пройти весь путь до согласованного полного рекурсивного самоулучшения.

Что именно попадёт в такие стандарты, компания не детализирует: рамка раскрытия случаев рассогласования названа лишь ранним вкладом в отчётность об инцидентах, а отчёт об ускорении исследований — ранним вкладом в измерения.

Чего в предложении нет

Сроков, проекта текста стандартов и обязательств других правительств в посте нет. Сама Международная сеть описана как площадка для сотрудничества в измерении, оценке и науке, а не как орган, который принимает стандарты. Ставка сделана на механизм согласования и общие протоколы отчётности, а не на наднациональный регулятор.