«Сессия держит связную нить вычислений днями»: Third Moment Research запускает 10 000 агентов одновременно на Codex и GPT-6

Что построила Third Moment Research

Third Moment Research — лаборатория из Сан-Франциско, которая описывает свой продукт как «самоулучшающиеся инференс-эндпоинты»: клиент меняет один base_url на совместимый с OpenAI API эндпоинт, после чего компания записывает его запросы, группирует их в траектории, показывает найденные режимы отказов в дашборде и дообучает модель или оптимизирует обвязку против подтверждённых заказчиком проблем. OpenAI относит лабораторию к категории Startup, к региону Северная Америка и отрасли Technology, а из её продуктов называет API и Codex.

Название отсылает к третьему моменту распределения: по объяснению компании, средний балл на эвалах — это первый момент, который команды обычно и «подкручивают», разброс между прогонами — второй, а μ₃ = E[(X−μ)³] — это хвост, редкие тяжёлые случаи, которые усреднение сглаживает; компания заявляет, что строит эвалы именно под них.

OpenAI описывает систему так: модели анализируют поведение агентов, находят повторяющиеся слабости, автоматически создают тысячи синтетических сценариев вокруг этих проблем, улучшают агентов и повторяют цикл, как только проявляются новые слабости. Ключевой замысел — агенты должны улучшаться по мере работы, а не оставаться на одном уровне.

Бэктест: несколько часов против трёх–пяти минут

Ранним применением системы стала количественная финансовая аналитика — область, где успех легко измерить. Codex вместе с GPT-5.6, самой новой на тот момент моделью, изучил тысячи записанных траекторий симуляций вместе с временными метками и кодовой базой.

Узкое место нашлось в бэктесте: прогон торговой стратегии по годовому потоку ордерных данных о ценных бумагах США занимал несколько часов, а агенты опрашивали систему на предмет завершения, тратя токены и засоряя контекст проверками статуса. Codex профилировал сам бэктест и то, как читаются и расходуются его входные данные, нашёл оптимизацию кэширования и приём упаковки памяти, проверил их на эксперименте и довёл исправление до продакшена. В результате прогон сократился примерно с трёх часов до трёх–пяти минут, а расход токенов упал и контекст перестал заполняться посторонним. OpenAI в сводке по этому кейсу указывает сокращение времени бэктеста с помощью Codex на 97 %.

Внешняя обвязка: как агента удерживают на задаче

По умолчанию агенты работают в «обвязке» Codex внутри докеризованного окружения, получая терабайт данных, документацию и исследовательский репозиторий с модулями для инженерии признаков, обучения моделей на GPU, торговых стратегий и симуляции. Сама обвязка Codex даёт агенту инструменты действовать, составлять планы, ставить цели, порождать субагентов и сжимать контекст.

Одной из главных проблем стало то, что агенты прекращали работу, не доведя задачу до конца. Поэтому Codex в системе Third Moment Research выступает субагентом внутри внешней обвязки на GPT-6 Sol или GPT-6.1 Sol: когда задача остаётся незавершённой, внешняя обвязка разбирает траекторию и решает, что делать дальше — повторить попытку, прекратить работу или передать случай на проверку человеку.

«Обвязка Codex исключительно многофункциональна, и это позволяет применять её во множестве разных областей», — приводит OpenAI слова соучредителя компании Адама Хакхара. Задачи агентов при этом не абстрактные: они работают над улучшением базовой торговой системы, построенной инженерами Third Moment Research, — проверяют стратегии на исторических данных, судят, значимо ли улучшение или это шум, и по каждому результату выбирают следующий эксперимент; по словам Хакхара, их работа эту базовую систему улучшила.

Что изменилось с GPT-6

«За одну сессию GPT-6.1 Sol удерживает связную нить вычислительного исследования на протяжении дней вычислений, не теряя сюжета», — приводит OpenAI слова соучредителя Адама Хакхара. Именно эта способность удерживать длительную работу и позволяет лаборатории запускать 10 000 агентов одновременно на исследованиях по 36–48 часов.

По описанию OpenAI, до GPT-5.5 модели могли лишь исполнять эксперименты, назначенные человеком; с GPT-5.5 и GPT-5.6 вместе с обвязкой Codex они научились по результатам проектировать следующие эксперименты, а с GPT-6 Astra, GPT-6 Sol и GPT-6.1 Sol агенты доискиваются до первопричин, запуская сотни экспериментов параллельно силами субагентов.

Один из показательных случаев: GPT-6.1 Sol выявил влияние неотображаемых сделок на бирже, где такие сделки составляли неожиданно большую долю объёма — «это был неочевидный результат, о котором наша исследовательская команда поначалу не думала», — говорит Хакхар.

Модели в лаборатории оценивают по трём направлениям — оптимизация, ML-системы и количественные исследования: на самых высоких настройках рассуждения проверяют способность ориентироваться в репозитории, писать эффективный код и удерживать ход исследования, а сейчас в тестирование добавлена GPT-6 Luna. «GPT-6.1 Sol сейчас наша самая используемая модель из-за экономичности по токенам: она выполняет задачи за наименьшее число токенов, показывая результат, близкий к GPT-6 Astra», — приводит OpenAI слова соучредителя Джеффри Яна.

Для сравнения моделей у лаборатории есть собственный бенчмарк: сократить задержку обновления живого табло, сохранив выдачу, где ускорение считается как отношение времени эталонного решения к времени модели на том же железе при условии корректности — наибольшее ускорение дала GPT-6 Astra. На точечных задачах, включая проверки конкретных слабостей безопасности симуляционной системы, используются более экономичные модели вроде GPT-5.6 Terra, поскольку в глубоких исследованиях цена оправдана: «в области количественных финансов ценность найденного интересного сигнала чрезвычайно высока», — говорит Хакхар.

Безопасность: агенты сами тестируют симуляцию

Нагрузка в 10 000 одновременно работающих агентов требует проверок безопасности в том же масштабе. Здесь используется Daybreak: тестирование автоматизируется ещё до запуска симуляции, а сами проверки выясняют, может ли агент выйти из исследовательского окружения и добраться до внешней сети.

«С помощью Daybreak мы можем поручить агентам самим проводить пентест симуляции и тестировать её инфраструктуру и безопасность», — говорит Хакхар, добавляя, что без Daybreak автономно тестировать это в таком масштабе не получилось бы.

Куда это идёт

Амбиция лаборатории не ограничивается квантовыми финансами: в перечислении OpenAI — ритейлер, принимающий решения по цепочке поставок, инженерная команда, ищущая узкие места производительности в большой кодовой базе, и компания с документоёмкими процессами, сверяющая обязательства с зафиксированными результатами.

Ближайшая цель — перейти от отдельных исследований к сотням тысяч сотрудничающих субагентов и триллионам токенов, поддерживающим цепочки из десятков зависимых экспериментов друг от друга.

«Люди могут оказаться в гораздо более выгодном положении, когда думают о том, как вести исследование и как оптимизировать сам процесс исследования, вместо того чтобы делать его вручную», — формулирует Хакхар.