«До пяти раз выше пропускная способность»: NVIDIA выпустила открытую Nemotron 3.5 Super VL на 120 млрд параметров и довела Bolt до локальных машин

Что вышло

Nemotron 3.5 Super VL назван открытой моделью на 120 млрд параметров, которая даёт самый быстрый результат и лучшую точность на специализированных постоянно работающих агентах; в карточке модели уточняется конфигурация — 120 млрд параметров всего и 12 млрд активных на токен, контекст до 1 млн токенов. Архитектура — гибрид Mamba-2, смеси экспертов и внимания со зрительным энкодером C-RADIO; вывод ускорен нативной спекулятивной декодировкой Multi-Token Prediction.

Позиция в семействе описана прямо: Super VL, по словам NVIDIA, даёт передовую точность на мультимодальных агентных задачах — следование инструкциям, работа с инструментами, многошаговые бизнес-процессы и понимание изображений — на уровне самой большой рассуждающей модели компании при примерно в пять раз меньшем числе параметров. Модель построена в сотрудничестве с Nemotron Coalition.

В техническом блоге формулировка точнее: до пяти раз выше пропускная способность на одной GPU на агентных задачах по сравнению с другими открытыми моделями своего размерного класса, а на эндпоинте Baseten модель выдаёт более 600 токенов в секунду на агентных задачах Artificial Analysis Intelligence Index. Смысл объединения модальностей назван практическим: командам не нужно держать отдельные текстовую и зрительную модели и передавать между ними контекст задачи.

Что показывает карточка модели

Карточка публикует результаты двух чекпойнтов — BF16 и NVFP4 — и подчёркивает, что сравнение шло при неизменных конфигурациях, каркасах и прочих ненмодельных параметрах, чтобы изолировать эффект самого чекпойнта. Среди чисел: GPQA-Diamond 89,52 и 89,90, LiveCodeBench v6 88,22 и 87,41, SWE-bench Verified 71,10 и 71,07, SWE-bench Multilingual 67,72 и 67,00, tau2-bench retail 69,24 и 69,30, OCRBench v2 (EN) 68,12 и 68,34, а также Terminal-Bench 2.1 — 66,70 у BF16 против 60,80 у NVFP4.

Все прогоны, по заявлению NVIDIA, собраны через NeMo Gym, а рецепты с контейнерами, промптами, параметрами вывода и настройками скоринга опубликованы для воспроизведения. Часть бенчмарков ещё не перенесена в открытые инструменты компании: для BabyVision, CharXiv-RQ, MathVision, MMLongBench-Doc, OCR-Reasoning, OCRBench-v2, V* и Video-MME-v2 использовались либо их официальные открытые реализации, либо внутренний каркас, который NVIDIA обещает открыть позже.

Отдельно приведены результаты на агентных каркасах: на Hermes Bench модель набирает 63,44% против 56,33% у Nemotron 3 Ultra, на оценках LangChain — 87,05% против 84,3%. На CharXiv, бенчмарке рассуждений по графикам, указано 80,8% против 63% у Nemotron 3 Nano Omni, а с интерпретацией Python-кода — 84%.

Как её обучали

По данным NVIDIA, Super VL обучена примерно на 26 трлн токенов на этапах предобучения и продолженного предобучения, после чего прошла посттренировку примерно на 3,8 млн примеров и обучение с подкреплением в десятках сред. Карточка модели конкретизирует расписание: 100 млрд токенов продолженного предобучения на индийских языках, затем расширение контекста до 1 млн токенов на 35 млрд токенов, мид-тренировка на программной инженерии на 67 млрд токенов при контексте 256K и завершающий этап восстановления длинного контекста на 9 млрд токенов.

Двухэтапный SFT обучает языковую и зрительную части совместно; обучение шло упакованными последовательностями до 524 288 токенов, а голова Multi-Token Prediction дообучалась отдельно против замороженного бэкбона, чтобы повысить долю принимаемых спекулятивных токенов. Обучение языкового бэкбона начато от Nemotron 3 Super Base с дистилляцией из Nemotron 3 Ultra Base, а качество кода улучшалось в том числе функцией потерь SkewReverse при дистилляции.

Bolt: агентная работа на локальных машинах

Вторая часть релиза — edge-модели. Bolt 74B-A9B 24GB рассчитана на повседневные агентные задачи локально на NVIDIA RTX и DGX Spark: благодаря нативной 2-битной квантизации она помещается в 24 ГБ памяти и работает рядом с другими приложениями. По заявлению NVIDIA, это модель №1 среди открытых в своём классе на PinchBench и №2 среди открытых на BrowseComp; поддерживаются llama.cpp, Ollama, LM Studio, Unsloth и vLLM, а также ноутбуки NVIDIA RTX Spark, которые выходят 16 октября.

Bolt E4B 4GB предназначена для физических и разговорных агентов на GeForce RTX, Jetson и RTX/DGX Spark и сочетает естественный разговор с многошаговыми агентными возможностями; её выпуск назначен на 23 октября. Super VL и Bolt 74B-A9B доступны уже сейчас, и вместе три модели закрывают диапазон развёртываний — от крупных корпоративных серверов до периферийных устройств и локального железа.

Кто уже дообучает модель

NVIDIA перечисляет организации, которые посттренируют Super VL на своих данных, инструментах и регламентах, и приводит их эффект как заявленный ими самими. Scale AI дообучила модель для агента вендорского кредитного финансирования Skydance и для агента проверки в сделках M&A в EY; AfterQuery настроила её для Hebbia на анализе кредитных соглашений; AI21 и Alice — под устойчивость к кибератакам; Mercor — на бенчмарке APEX-SWE для агентов, которые планируют, пишут и отлаживают код.

Технический блог называет другие числа в тех же историях: по оценке NVIDIA, стоимость вывода для задачи Skydance снизится в 40 раз, а задержка — в 5 раз; Ramp ожидает до 50% роста пропускной способности и десятикратного снижения задержки на задаче с чеками, а AI21 и Alice улучшили точность на 41%. В перечне также ModelScope с фреймворком ms-swift, Ramp для финансовых документов, Dream для кибербезопасности, Lila Sciences для научного поиска, R1 для медицинских страховых требований и TrainLoop, дообучивший модель на дерматологических данных от Nolla.

Среди платформенных компаний, которые встраивают модель, названы Atlassian (агентный поиск по Jira и Confluence), CrowdStrike (агентная работа «синей команды»), Dassault Systèmes (инженерное проектирование), Perplexity (поиск и агентные задачи), Salesforce (агенты для государственных процессов через Missionforce Operations) и Synopsys (совместимость с проверкой проектирования полупроводников).

Доступ, данные и лицензия

Super VL доступна сейчас на Hugging Face, в Open Router, в сообществе ModelScope и в виде микросервиса NVIDIA NIM; NIM-пакет обновляется каждые две недели с патчами безопасности и улучшениями производительности. На NVIDIA Dynamo, по данным компании, модель позволяет обслуживать до восьми раз больше пользователей при задержке ниже на 85%. Модель работает на DGX Spark, DGX Station, RTX PRO и RTX в настольном сценарии, на Jetson — на периферии, а также в дата-центрах и облаках.

Вместе с моделью NVIDIA открывает наборы данных на Hugging Face: агентное использование инструментов, финансы, следование инструкциям, длинный контекст, справедливость и понимание изображений и текста, а также среды обучения с подкреплением в NeMo Gym. Дообучение предлагается вести через NeMo — SFT, LoRA и обучение с подкреплением; в техническом блоге отдельно названы 40 наборов данных для зрения и языка, а также вклад сторонних участников Nemotron Coalition: данные Perplexity помогли в мид-тренировке, среды Prime Intellect — в построении учительских моделей. Лицензия указана как OpenMDW-1.1, а сама карточка говорит, что модель готова к коммерческому и некоммерческому использованию.

Что осталось за рамками сообщения

Все числа в публикациях — собственные измерения NVIDIA, включая «до пяти раз» и «более 600 токенов в секунду»: сравнение идёт с неназванным списком открытых моделей «в своём размере», а сами детали замеров сведены в отчёт, который компания только обещает открыть. Бенчмарки карточки модели собраны через NeMo Gym — инструмент самой NVIDIA, — и часть из них опирается на внутренний каркас, ещё не выложенный.

Истории внедрения — это заявления компаний и ожидания, а не измеренный результат: для Skydance речь о том, что стоимость вывода «снизится», для Ramp — что пропускная способность «ожидается» выше, а про 41% роста точности у AI21 и Alice сообщает NVIDIA, а не независимый наблюдатель. Единственная ссылка на внешнюю оценку в техническом блоге — размещение модели на границе Парето по точности и времени выполнения задач на DGX Spark по данным EXO Labs.

Условий предоставления модели по API публикации не приводят: названы площадки, но не цены, лимиты и сроки. Лицензия OpenMDW-1.1 указана ссылкой на текст без пересказа ограничений, а заявление «готова к коммерческому использованию» — это формулировка карточки модели.