Технологии

d-Matrix подключит Raptor XPU к платформе NVIDIA через NVLink Fusion

Производитель ускорителей инференса выбрал готовую архитектуру NVIDIA MGX, NVLink и Spectrum-X, чтобы вывести Raptor на уровень стоечного развёртывания без создания всей инфраструктуры с нуля.

d-Matrix подключит Raptor XPU к платформе NVIDIA через NVLink Fusion

Raptor выходит за пределы отдельного ускорителя

d-Matrix планирует связать следующее поколение ускорителей инференса Raptor XPU с инфраструктурой NVIDIA через NVLink Fusion. В заявленной схеме NVLink отвечает за масштабирование внутри вычислительного домена, Spectrum-X — за сеть между системами, а NVIDIA MGX задаёт стоечную архитектуру. Это не анонс готового общедоступного продукта или даты поставки: компании описывают выбранный путь интеграции будущих Raptor в фабрики искусственного интеллекта.

Для d-Matrix решение закрывает проблему, которая возникает после проектирования собственного чипа. Ускоритель нужно соединить с другими процессорами, встроить в стойку, обеспечить питание и жидкостное охлаждение, подобрать сеть, программный слой и цепочку поставок. NVIDIA предлагает использовать уже сложившуюся платформу вместо разработки каждого из этих компонентов отдельно. Генеральный директор и сооснователь d-Matrix Сид Шет описывает цель как более быстрое и менее рискованное масштабирование инференса с очень низкой задержкой.

Ключевое слово здесь — инференс, то есть исполнение уже обученных моделей. Raptor позиционируется как специализированный XPU, а не как замена всех GPU в дата-центре. Общая стойка должна позволить размещать специализированные ускорители рядом с системами NVIDIA и подбирать вычислительный тип под конкретную рабочую нагрузку.

Как устроен NVLink Fusion

NVLink Fusion открывает интерфейс масштабирования NVIDIA для сторонних CPU и XPU. По данным NVIDIA, шестое поколение NVLink обеспечивает для связей XPU втрое меньшую задержку, чем стандартный Ethernet, в десять раз большую частоту пакетов и до 3 ТБ/с обмена all-to-all на один XPU. Эти цифры относятся к характеристикам платформы, приведённым самой NVIDIA, а не к независимому тесту системы d-Matrix Raptor.

Платформа поддерживает основные архитектуры CPU — Arm, x86 и RISC-V — рядом с GPU NVIDIA. В перечне партнёров NVIDIA называет не только d-Matrix, но также AWS, Arm, Intel, Fujitsu, SiFive, Alchip, Astera Labs, GUC, Marvell, MediaTek, Samsung, Cadence, Synopsys, Ayar Labs и Lightmatter. Сам список показывает модель экосистемы: NVIDIA сохраняет собственную сетевую и стоечную основу, но допускает в неё вычислительные компоненты других разработчиков.

Для операторов дата-центров обещанная выгода состоит в унификации. Одна типовая стойка MGX должна поддерживать GPU, CPU и XPU без отдельного физического проекта для каждого типа процессора. При этом слово «типовая» не означает полностью взаимозаменяемые платы: интеграция высокоскоростных интерфейсов, сертификация конструкции и проверка охлаждения всё равно остаются инженерными этапами.

Какие компоненты выбрала d-Matrix

d-Matrix намерена объединить свои XPU в один домен с высокой пропускной способностью и низкой задержкой через NVIDIA NVLink. Стойки также должны работать рядом с GPU-системами NVIDIA Vera Rubin NVL72 в разнесённых сценариях инференса. В план интеграции входят CPU NVIDIA Vera, сетевые адаптеры ConnectX-9 SuperNIC, процессоры инфраструктуры BlueField-4 DPU и Ethernet-сеть Spectrum-X.

Такой набор разделяет вычислительную и инфраструктурную части. Raptor выполняет специализированную работу с моделями; Vera обеспечивает центральные процессоры; ConnectX-9 и Spectrum-X соединяют узлы; BlueField-4 переносит часть сетевых и инфраструктурных функций на DPU. NVLink и MGX связывают эти компоненты на уровне высокоскоростного домена и стойки.

В более широкой конфигурации NVIDIA перечисляет Vera Rubin NVL72, Groq 3 LPX, стойку Vera CPU, хранилище Vera BlueField-4 STX и сеть Spectrum-6 SPX Ethernet. Компания называет платформу универсальной для разных моделей и архитектур, однако публикация не приводит результатов Raptor в этой конфигурации, цены или измерения энергопотребления. Поэтому выводы о стоимости токена и эффективности конкретной системы пока требуют будущих тестов.

Стратегический смысл сделки

Для d-Matrix участие в NVLink Fusion сокращает объём инфраструктуры, которую пришлось бы создавать и продвигать самостоятельно. Компания может сосредоточиться на архитектуре Raptor и особенностях инференса, используя готовые стойки, сеть, охлаждение и каналы поставок NVIDIA. Для NVIDIA это способ расширять влияние платформы даже там, где основное вычисление выполняет не её GPU.

Это партнёрство не делает Raptor продуктом NVIDIA и не превращает NVLink Fusion в открытый стандарт вне контроля компании. Оно создаёт контролируемый путь совместимости: сторонний ускоритель подключается к определённому набору технологий NVIDIA. Реальный эффект станет измерим после появления систем, когда можно будет сравнить задержку, пропускную способность, энергопотребление и стоимость эксплуатации с альтернативными архитектурами.

Пока подтверждён именно архитектурный выбор. d-Matrix планирует Raptor в общей фабрике искусственного интеллекта вместе с системами NVIDIA, а NVLink Fusion, MGX и Spectrum-X должны снизить риск стоечного развёртывания. Сроки, коммерческие конфигурации и результаты независимых тестов в официальной публикации не названы.

Первоисточники

  1. NVIDIA Blog — d-Matrix Adopts NVIDIA NVLink Fusion for Rack-Scale XPU Deployment