«Токены на мегаватт, а не пиковые терафлопсы»: NVIDIA собрала на AI Infra Summit результаты Vera Rubin, DSX MaxLPS и Groq 3 LPX

Главная метрика сместилась

Ian Buck, вице-президент NVIDIA по гиперскейлу и высокопроизводительным вычислениям, выступил на AI Infra Summit — конференции в конференц-центре Санта-Клары, которую в NVIDIA описывают как «Коачеллу» инфраструктурных технологий. Аудитория выросла с 3 500 участников годом ранее более чем до 8 000. Buck говорил о новых коллаборациях по платформам NVIDIA.

По формулировке самой NVIDIA, метрика для ИИ-инфраструктуры быстро смещается от пиковой производительности к подтверждённым агентным токенам на мегаватт. За счёт оптимизации энергопотребления на уровне всей фабрики DSX MaxLPS даёт до 1,4x больше токенов на мегаватт, а NVLink объединяет крупномасштабные ускорительные системы в один высокопроизводительный комплекс.

Lambda: первая валидация MaxLPS на Blackwell

Облачный провайдер Lambda представил на AI Infra Summit первую валидацию NVIDIA DSX MaxLPS на серверах NVIDIA Blackwell. В этом эксперименте 19 узлов работали в рамках энергобюджета, который обычно отводится под 16 узлов на полной мощности: кластерная пропускная способность выросла на 24% — примерно с 4 млн до 5 млн токенов в секунду, — а производительность на ватт — на 23%. Для ИИ-фабрик следующего поколения на Vera Rubin NVL72 DSX MaxLPS позволяет получить до 40% больше GPU в том же бюджете мегаватт.

Внутри стойки: до 35% больше токенов без новых линий

DSX MaxLPS непрерывно следит за энергопотреблением GPU и стоек, динамически перераспределяя доступную мощность туда, где она нужнее, и возвращая в работу ёмкость, которую статичное распределение оставляет простаивающей. Внутри каждой стойки Intelligent Power Smoothing и расширенная энергетическая буферизация гасят короткие пики, позволяя системам работать ближе к устойчивой нагрузке: неиспользованный резерв превращается в продуктивные вычисления. Итог для площадки — до 40% больше GPU в том же энергетическом конверте и до 35% выше пропускная способность по токенам без новых линий электропередачи.

Для агентных нагрузок, где шаги рассуждений и вызовы инструментов быстро накапливают задержку и контекст, NVIDIA добавляет Groq 3 LPX — детерминированный инференс со сверхнизкой задержкой. Совместная платформа выдаёт до 35x больше токенов на мегаватт, чем GB200 NVL72, для моделей от 2 трлн параметров и на длинном контексте. На нагрузке Qwen 3.8 27B с контекстом 100K Groq 3 LPX показала 2 529 выходных токенов в секунду на пользователя.

AgentX: 30x на мегаватт

SemiAnalysis AgentX измеряет инференс на записанных реальных агентных сессиях кодинга — с фактическим ростом контекста, задержками вызовов инструментов и порождением субагентов, — а не на одиночных запросах. Одна такая сессия накапливает сотни тысяч входных токенов — примерно в 15 раз больше объёма простого чат-запроса.

На модели DeepSeek V4 Pro платформа Vera Rubin NVL72 даёт до 30x более высокую пропускную способность на мегаватт, чем NVIDIA GB300 NVL72. По данным NVIDIA, результаты AgentX показывают до 45x меньшую стоимость на миллион токенов.

Гибкая нагрузка и устойчивость сети

Вместе с Emerald AI компания продемонстрировала коммерческую программу гибкой нагрузки для ИИ-фабрик в связке с Silicon Valley Power. Система успешно отреагировала на сотни сигналов спроса от Silicon Valley Power, сохранив производительность ИИ-нагрузок. Во втором материале NVIDIA уточняет масштаб: оператор уже отправил на эту фабрику более 200 сигналов спроса, и каждый раз всё срабатывало, а мощность автоматически снижалась с четырёх мегаватт до трёх, пока все высокоприоритетные задачи продолжали выполняться.

На сетевом уровне NVLink 6 добавляет многослойную устойчивость: на физическом уровне — собственную коррекцию ошибок, retry и universal physical layer recovery, на сетевом — credit-based flow control, динамическую маршрутизацию и ребалансировку линков. Помимо этого, Annapurna Labs (Amazon) работает с NVIDIA над пользовательской памятью NVHBM, а d-Matrix интегрирует платформу NVLink Fusion со своими Raptor XPUs.

Vera CPU глазами стартапов

Стартапы протестировали Vera CPU на агентных и требовательных рабочих нагрузках. Perplexity показала 1,9x более быстрый старт песочниц в своей платформе SPACE, DeepInfra — 2,2x меньшую задержку шага оркестрации, Redpanda — на 5,5x меньшие задержки и на 73% более высокую пропускную способность, Starburst — 3x более быструю пропускную способность запросов, Kinetica — 2,7x более быстрые аналитические запросы. ClickHouse назвал Vera самой быстрой машиной, которую команда измеряла до сих пор.