«NVFP4 на ml.p5e.48xlarge, BF16 на ml.p6-b300.48xlarge»: AWS открыла Muse Spark Open в SageMaker JumpStart

Что объявила AWS

Публикация в блоге AWS Machine Learning от 15 октября 2026 года сообщает, что Muse Spark Open — открытая модель Meta для работы с кодом — доступна в Amazon SageMaker JumpStart, то есть в каталоге моделей SageMaker AI, откуда развёртывание идёт в несколько шагов. Модель описана как обученная на реальных рабочих процессах разработчиков, таких как многофайловые рефакторинги и длинные сессии отладки, с контекстным окном в 1 млн токенов.

Вариантов в JumpStart два: BF16 под именем Muse-Spark-Open-816B-A42B и 4-битный NVFP4 под именем Muse-Spark-Open-816B-A42B-NVFP4. Развернуть модель можно из SageMaker Studio или через SageMaker Python SDK, и в обоих случаях создаётся реальный endpoint в аккаунте заказчика, а не общий сервис на стороне AWS.

Авторы публикации — Aris Tsakpinis, старший специализированный архитектор решений по генеративному ИИ, и Liam Neal Reilly, инженер команды SageMaker JumpStart. Материал размечен как объявление уровня «Intermediate (200)» и состоит в основном из пошагового развёртывания, а не из описания самой модели.

Два варианта — два разных инстанса

Практическая часть публикации начинается с правила подбора железа. Разреженная активация снижает вычисления на каждый токен, но в памяти всё равно должны лежать все 816 млрд параметров, поэтому выбор инстанса определяется объёмом памяти, а не скоростью счёта.

Отсюда и разница между вариантами: NVFP4 хранит веса в 4-битном формате NVIDIA и требует примерно вчетверо меньше памяти, чем BF16. В JumpStart это разводит их по разным машинам: вариант NVFP4 работает на ml.p5e.48xlarge, вариант BF16 — на ml.p6-b300.48xlarge. AWS советует начинать подбор по стоимости именно с NVFP4, но проверять качество на собственных задачах, а не считать меньшую точность весов бесплатной.

Сама модель — смесь экспертов: 816 млрд параметров всего и 42 млрд активных на токен; на вход она принимает текст, изображения, документы, аудио и аудио-видео, на выход отдаёт текст, а веса выпущены по лицензии Muse Model License с Muse Spark Usage Policy. Все названные инстансы много-GPU, и за endpoint платят, пока он существует, независимо от того, приходят на него запросы или нет.

Как это разворачивают из Studio

Путь через Studio описан как последовательность шагов: открыть SageMaker Studio, в навигации выбрать JumpStart, найти по поиску Muse Spark Open, открыть карточку нужного варианта и нажать Deploy.

Модель отдаётся как gated: Studio показывает лицензионное соглашение Meta, и без его принятия развёртывание не продолжится. Затем задаются имя endpoint, тип инстанса — Studio предлагает только те машины, которые модель поддерживает, — и начальное число инстансов. Сразу же можно выбрать VPC, ключ AWS KMS и включить сетевую изоляцию контейнера.

Развёртывание занимает обычно 15–20 минут, пока AWS выделяет инстанс и загружает веса; готовность видна по статусу InService.

Путь через Python SDK

В SDK каждый вариант адресуется своим идентификатором: meta-vlm-muse-spark-open-816b-a42b для BF16 и meta-vlm-muse-spark-open-816b-a42b-nvfp4 для NVFP4. Поскольку модель gated, в конфигурации обязателен параметр accept_eula=True, подтверждающий принятие лицензии Meta.

Дальше развёртывание собирается из JumpStartConfig, ModelBuilder и Compute — в примере из публикации для NVFP4 указан инстанс ml.p5e.48xlarge. Вне SageMaker Studio нужно дополнительно передать роль выполнения через role_arn, а версию модели можно закрепить параметром model_version.

Среди требований названы: аккаунт AWS с правами на создание моделей и endpoint, роль выполнения IAM — для разбора достаточно управляемой политики AmazonSageMakerFullAccess, но для продакшена её советуют сузить под конкретные действия и ресурсы, — квота на нужный тип инстанса, а для пути через SDK ещё и Python 3.10 или новее вместе с SageMaker Python SDK v3.

Запрос к endpoint и что он возвращает

Endpoint принимает совместимый с OpenAI набор с полем messages и возвращает обычное chat completion. Ответ лежит в message.content, рассуждение модели — в message.reasoning_content, а usage.reasoning_tokens показывает, сколько токенов ушло на это рассуждение.

Отсюда практическое требование: у модели, которая рассуждает перед ответом, в max_tokens нужно оставлять место и на рассуждение, и на сам ответ. Поддерживается и потоковая выдача — для этого в запрос добавляется stream со значением true и вызывается invoke_with_response_stream вместо invoke.

Отдельно оговорено разделение ответственности: рассуждение endpoint возвращает вместе с ответом, то есть видно, что делает агент и почему, но инструменты, браузер и среду computer-use предоставляет не модель, а приложение или агентный фреймворк заказчика.

Что остаётся на стороне заказчика

Публикация подчёркивает, что endpoint работает в аккаунте заказчика: исходный код и промпты обрабатываются на инфраструктуре, которую он сам настраивает и контролирует. Практически это VPC, ключ KMS для шифрования диска, сетевая изоляция контейнера, выбор типа инстанса и лимитов масштабирования, а также закрепление версии модели — тогда она меняется только при повторном развёртывании.

Обратная сторона — платить придётся за всё время существования endpoint, поэтому удаление вынесено в отдельный раздел: через SDK удаляются модель, endpoint и его конфигурация, из Studio — через раздел Inference, подраздел Endpoints.

Чего это сообщение не доказывает

В публикации нет ни одного замера производительности: ни токенов в секунду, ни задержек, ни времени ответа для обоих вариантов. Сравнивать NVFP4 и BF16 AWS предлагает самостоятельно на своих репозиториях, то есть чисел, по которым это сравнение можно было бы сделать заранее, в тексте нет.

Цен тоже нет: за ставками публикация отправляет на страницу цен SageMaker AI, поэтому во сколько обойдётся час работы на ml.p5e.48xlarge или ml.p6-b300.48xlarge, по этому тексту посчитать нельзя.

Характеристика «модель, оптимизированная под код» и обучение на реальных рабочих процессах разработчиков — это описание самой Meta, повторённое AWS; независимых сравнений качества в публикации не приводится.

Наконец, на старте названы только два региона — US East (N. Virginia) и US East (Ohio), — а про остальные сказано проверять доступность прямо в JumpStart; появление модели в каталоге подтверждается только страницей AWS, стороннего подтверждения в публикации нет.