«501 миллиард параметров, 23 активных»: Reflection выпустила Beam — свою первую открытую MoE-модель для кода и агентов

Что именно выпустила Reflection

Beam — первая модель Reflection с открытыми весами. Это разреженная смесь экспертов: 501 миллиард параметров всего, но лишь 23 миллиарда активируются на каждом токене. Заявленная специализация — код, рассуждения и агентные сценарии, то есть работа с инструментами, терминалом и поиском. Модель открывается поэтапно: сейчас это ранний предпросмотр для ограниченного круга пользователей по списку ожидания, а веса, технический отчёт, карточка модели и инструменты для разработчиков должны выйти позже в октябре.

Ключевая идея, которую авторы подчёркивают с первых абзацев, — не максимальная абсолютная сила, а эффективность: сравнимые с более крупными открытыми моделями результаты при меньших вычислительных затратах на вывод. Именно это делает Beam «рабочей лошадкой» для корпоративного кода и агентов, а не витринным рекордсменом.

Предобучение: 23,8 трлн токенов на 6144 GB300

База Beam обучена на 23,8 триллиона разнообразных отобранных токенов из интернета и лицензированных проприетарных наборов данных. Полный цикл предобучения прошёл меньше чем за четыре недели на кластере из 6144 GPU NVIDIA GB300 NVL72. Авторы делают акцент на устойчивости процесса: за прогон выполнили девять полуавтоматических откатов (rewinds), связанных с недетерминированными всплесками нормы градиента или с подозрением на скрытое повреждение данных, а показатель хорошего времени (goodput — доля времени, потраченного на шаги, оставшиеся в финальной модели) к концу достиг 92,3%.

Отдельная тема — качество данных. По словам команды, около 95% «сырых» интернет-токенов отсеиваются на этапах разбора, дедупликации и фильтрации, но при этом традиционные методы пропустили бы примерно 1,8 триллиона высококачественных токенов, включая 87% отобранных веб-кодовых токенов. Перед обучением с подкреплением модель проходит стадию мидтрейнинга, которая расширяет эффективную длину контекста до 1 миллиона токенов.

RL в масштабе: 10,5 тыс. GB300 и 100 млн роллаутов

Главная ставка Beam — обучение с подкреплением как отдельная ось масштабирования. За четыре недели прогон сгенерировал более 100 миллионов роллаутов на 10,5 тысячи GPU NVIDIA GB300 при максимальной длине контекста 256 тысяч токенов. Для обучения и оценки использовалось примерно 1,3 миллиарда «песочниц» (sandboxes), а пул заданий собирался почти из миллиона окружений в областях программной инженерии, терминала, олимпиадного программирования, STEM, веб-поиска и работы с инструментами.

Инфраструктура выдерживала в среднем 110 тысяч одновременных роллаутов и до 170 тысяч одновременных песочниц; всего платформа обработала более миллиарда запросов на создание песочниц в 20 с лишним кластерах, двух облаках и четырёх регионах, причём 90% новых песочниц были готовы меньше чем за 10 секунд. Новые веса доезжали до инференс-парка в медиане примерно за 12 секунд, а иерархическая передача весов сократила межстоечный трафик на 75% и ускорила освоение весов всем парком в 2,2 раза. За прогон обработали 71 инцидент инференса без остановки обучения: ёмкость восстанавливалась в медиане за восемь минут, а потерянная ёмкость составила всего 0,02% от отработанных GPU-минут.

Авторы отмечают, что обучение шло асинхронно и оставалось устойчивым даже на устаревших данных: они показывают стабильную динамику при отставании до одного дня, то есть до 107 версий весов от текущей политики. Управляемый штраф за длину ответа позволяет модели тратить меньше токенов на простых задачах и больше — на сложных, а пользователь задаёт этот компромисс параметром усилия рассуждений (reasoning effort).

Результаты: близко к GLM 5.2, но дешевле на выводе

На агентных задачах Beam показывает DeepSWE v1.1 44,4, SWE Bench Pro v2-Hard 77,2, SWE Bench Pro v1 65,5, Terminal Bench v2.1 80,1 и SWEBench Verified 80,9. В рассуждениях — AIME 2026 97,8, GPQA Diamond 90,5, HLE без инструментов 36,2, SciCode 49,7. В работе с инструментами и поиском — MCP Atlas 78,7, BrowseComp с управлением контекстом 77,4, DeepSearchQA с управлением контекстом 80,1, tau3 banking 38,0. В общих способностях — LongBench v2 65,5, IFBench 79,7, AA-LCR 79,3.

Авторы формулируют позицию честно: Beam конкурентоспособен с более крупными открытыми моделями вроде GLM 5.2 и приближается к Qwen 3.8-Max на коде и агентных задачах, а там, где фронтирные открытые модели вроде Kimi K3 остаются впереди по «сырым» способностям, преимущество Beam — в эффективности на этапе вывода. На продвинутых бенчмарках рассуждений модель, по утверждению команды, достигает результатов уровня GLM-5.2, расходуя в 3–4 раза меньше вычислий на вывод. Авторы отмечают, что это оценочное сравнение по FLOPs, а не измеренная стоимость обслуживания.

Безопасность и выравнивание

Безопасность в Beam решается отдельной моделью: команда дообучила вторую модель от того же предобученного чекпоинта по независимому конвейеру SFT и RL на данных, специально нацеленных на принципы поведения. Способности двух «учителей» — крупного RL-учителя и выделенного учителя безопасности и выравнивания — объединили через многo-учительскую он-полиси дистилляцию (MOPD). Принципы разложены на три уровня: правила, которые нельзя нарушать, качества, которым нужно соответствовать, и стиль взаимодействия.

Для обучения использовались в том числе среды с непроверяемыми наградами, оцениваемыми генеративной моделью награды, и команда утверждает, что смогла прогнозировать улучшение поведения лучше, чем потолок Best-of-N: корреляция r = 0,79 против r = 0,46. Отдельно применялось делиберативное выравнивание (deliberative alignment), а наборы данных строились состязательно и итеративно. Результаты оценок безопасности авторы обещают опубликовать в техническом отчёте и открыть часть внутренних оценочных наборов.

Что дальше и чего в Beam нет

Beam — текстовая модель: она не мультимодальна и работает с другими модальностями только постольку, поскольку они представлены текстом. Это стоит держать в голове, выбирая её под визуальные задачи. Зато акцент на агентной работе подтверждается примерами: в одном из них модель построила живую карту метро Нью-Йорка на публичных данных MTA, в другом — блокнот для дообучения небольшой модели Gemma-4 под задачу Text2SQL, подняв её точность на отложенном наборе на 66,5%.

Главный практический срок — веса под Apache 2.0, технический отчёт, карточка модели и стек для запуска, оценки и дообучения, которые Reflection обещает выпустить в этом месяце вместе с партнёрами по дистрибуции и интеграциями с открытыми библиотеками. Beam заявлен как первая модель в серии, и авторы говорят, что уже обучают следующую.