ТЕХНОЛОГИИ
Память HBM становится скрытым слоем распределения капитала на рынке ИИ
Гонка за инфраструктуру ИИ обычно описывается как история о GPU. Но доступность памяти с высокой пропускной способностью всё чаще определяет, какие ускорители поступают в продажу, какие кластеры масштабируются и какие дорожные карты моделей остаются в графике.
Майкл Г ·
Память с высокой пропускной способностью становится скрытым уровнем распределения капитала на рынке ИИ. Публичная история по-прежнему доминируется GPUs, но практический вопрос для многих кластеров заключается в том, удастся ли быстро упаковать достаточно продвинутой памяти с ускорителями, чтобы удовлетворить спрос.
Это меняет то, как инвесторы должны думать об инфраструктуре ИИ. Вычисления — это не один единый ресурс. Это набор ускорителей, памяти, сетевых технологий, упаковки, питания, охлаждения и программного обеспечения. Недостаток на одном уровне может замедлить весь план развития.
Память определяет использование
Ускорители искусственного интеллекта полезны только в том случае, если данные могут достигать их достаточно быстро. Пропускная способность памяти формирует эффективность обучения, пропускная способность вывода, и экономика обслуживания больших моделей. Когда поставки памяти ограничены, разработчики чипов, облачные провайдеры и лаборатории все конкурируют за один и тот же узкий участок.
Вот почему чемпионы Южной Кореи по памяти и передовые цепочки поставок упаковки стали центральными в геополитике ИИ. Страна не просто экспортирует компоненты. Она поставляет ограничение, которое определяет, насколько быстро может развиваться остальная часть стека.
Узкое место перемещается
Бум ИИ постоянно смещает узкое место. В одном квартале это графические процессоры. В следующем — HBM. Затем это становится проблема с энергопотреблением, трансформаторами, сетевыми решениями или строительством дата-центров. Побеждают компании, которые могут видеть всю систему и резервировать мощности до того, как нехватка станет очевидной.
Есть также история маржи. Если памяти по-прежнему мало, большая часть прибыли от ИИ может перейти к поставщикам, которые контролируют самый узкий слой. Это не заменяет роль Nvidia, но это осложняет идею о том, что одна компания захватывает всю ценность инфраструктуры.
Темы: HBM, память, чипы для ИИ, полупроводники