NVIDIA собирает AI-инфраструктуру в единую систему от CUDA до стойки

Единицей продукта становится стойка

NVIDIA описывает Vera Rubin NVL72 не как набор отдельных ускорителей, а как стоечный AI-суперкомпьютер. Система объединяет 72 Rubin GPU, 36 Vera CPU, ConnectX-9 SuperNIC, BlueField-4 DPU и NVLink 6 Switch, а для масштабирования между стойками использует Quantum-X800 InfiniBand и Spectrum-X Ethernet. Такая компоновка превращает межсоединения и управление данными в часть вычислительной архитектуры.

На уровне платформы Vera Rubin объединяет пять специализированных rack-scale систем в один многостоечный комплекс. NVIDIA связывает конструкцию с устранением узких мест коммуникации и перемещения памяти. Это важный сдвиг в определении производительности: полезный throughput зависит не только от скорости матричных операций GPU, но и от того, насколько быстро параметры, контекст и промежуточные результаты проходят через всю систему.

NVLink превращает множество GPU в общий вычислительный домен

Шестое поколение NVLink обеспечивает до 3,6 ТБ/с двунаправленной пропускной способности на GPU в платформе Rubin. В Vera Rubin NVL72 коммутаторы связывают 72 GPU по all-to-all топологии с совокупной полосой 260 ТБ/с. NVIDIA указывает, что это вдвое больше полосы на GPU по сравнению с предыдущим поколением и более чем в 14 раз выше PCIe Gen6.

Эти цифры относятся к заявленным и предварительным характеристикам производителя. Их практический смысл состоит в уменьшении коммуникационного штрафа, когда большая модель распределена между десятками ускорителей. Чем чаще слои или эксперты обмениваются данными, тем сильнее слабое межсоединение способно оставить вычислительные блоки без работы, даже если каждый GPU сам по себе быстр.

Производительность оценивается через токены и энергобюджет

Для Vera Rubin NVL72 NVIDIA заявляет до десятикратного роста числа токенов на мегаватт и стоимость миллиона токенов на уровне одной десятой от GB200 NVL72 в выбранном сценарии Kimi-K2-Thinking. Для обучения mixture-of-experts модели компания также указывает возможность уложиться в тот же срок с четвертью числа GPU. Все эти показатели помечены как подверженные изменениям или прогнозные и зависят от раскрытой конфигурации теста.

Поэтому сравнивать платформы только по пиковому FLOPS недостаточно. Оператору AI-фабрики важны токены в секунду при заданной задержке, стоимость токена, потребление стойки, доступность системы и способность пережить отказ компонента. NVIDIA подчёркивает для NVLink 6 устойчивость control plane, работу частично заполненной стойки и горячую замену switch trays. Эти свойства не увеличивают скорость отдельной операции, но влияют на полезную загрузку кластера.

DGX SuperPOD продаёт интеграцию, а не только оборудование

DGX SuperPOD расширяет тот же принцип до дата-центра. NVIDIA включает в продукт вычисления, сеть, хранение, программное обеспечение и управление инфраструктурой, оптимизированные для совместной работы. Платформа предлагается с вариантами Rubin и Blackwell и может масштабироваться до десятков тысяч GPU для обучения и inference.

Для заказчика ценность готового стека — в сокращении интеграционной работы и числа несовместимых решений на границах подсистем. Но вертикальная интеграция усиливает зависимость от архитектуры поставщика: обновление ускорителей, сети и системного ПО приходится планировать как связанный цикл. Поэтому покупателю нужно оценивать не только стартовую производительность, но и переносимость workloads, способы наблюдения, процедуру обновлений и доступность альтернативных компонентов.

CUDA замыкает аппаратную архитектуру программной

На уровне разработчика CUDA Toolkit даёт компилятор C/C++, runtime, GPU-ускоренные библиотеки, средства отладки и оптимизации для систем от edge-устройств до дата-центров и суперкомпьютеров. Благодаря этому NVIDIA контролирует не только физическое перемещение данных между чипами, но и основной путь, по которому приложение превращается в исполняемую нагрузку на GPU.

Именно сочетание CUDA, библиотек, сетевой ткани, CPU, DPU и стандартного дизайна стойки создаёт барьер, который нельзя воспроизвести одним более быстрым ускорителем. Конкурентный чип должен либо встроиться в существующую инфраструктуру, либо компенсировать заказчику стоимость переноса программ, эксплуатации и обучения команды. Это не гарантирует NVIDIA победу в каждом workload, но меняет предмет сравнения с цены одного GPU на стоимость и управляемость всей системы.

Что проверять вместо рекламного коэффициента

Заявленные NVIDIA преимущества получены на конкретных моделях, длинах входа и выхода и сравнительных системах. Перед закупкой оператору следует воспроизвести собственный профиль: размер модели, parallelism, batch, latency target, загрузку контекста, частоту отказов и реальную цену энергии. Отдельно нужно измерить время развёртывания и восстановления, поскольку неработающая стойка не производит токены независимо от её пиковых характеристик.

Главный вывод из архитектуры Vera Rubin — системный. В AI-кампусе мегаваттного масштаба GPU остаётся центральным вычислителем, но конкурентное преимущество формируют согласованные границы между вычислением, памятью, сетью, хранением, охлаждением и software. NVIDIA старается превратить эти границы из проекта клиента в готовую платформу. Реальную ценность такого подхода покажут не паспортные максимумы по отдельности, а стабильный throughput и стоимость полезного workload в эксплуатации.