Аналитика
Ставка OpenAI на чип Broadcom на самом деле связана с стоимостью каждого ответа
Партнерство по чипу Jalapeno с Broadcom является попыткой OpenAI контролировать повторяющуюся экономику обслуживания мощных моделей, а не просто очередным символическим шагом в сторону специализированного кремния.
Элвин С. ·
OpenAIПартнерство Jalapeno с Broadcom легко описать как историю о пользовательском кремнии. Более полезным способом восприятия этого является попытка контролировать стоимость каждого ответа, который генерирует мощная модель.
Обучение передовой модели сопровождается впечатляющими расходами, о которых говорят в заголовках. Вывод (инференс) — это более тихий, повторяющийся счет, который появляется каждый раз, когда пользователь задает вопрос, запускает агента, загружает документ или запрашивает длинную цепочку рассуждений. По мере роста использования ИИ, эти расходы на обслуживание становятся ключевыми для маржи продукта.
OpenAI утверждает, что новая платформа разработана на основе инференции языковой модели и предназначена для первоначального развертывания к концу 2026 года. Стратегическая привлекательность очевидна. Если компания сможет оптимизировать чип, плату, стойку и сеть вокруг своих собственных моделей, это может снизить энергопотребление и повысить предсказуемость плана мощности, который по-прежнему сильно зависит от внешних поставщиков.
Это не означает, что OpenAI собирается отказаться от аппаратной экосистемы, которая сделала возможным его масштабирование. Фронтирные компании нуждаются в гибкости, и зрелые программные пакеты для GPU остаются ценными для исследований, обучения и быстро развивающихся экспериментов. Пользовательская платформа с большей вероятностью возьмется за повторяющиеся рабочие нагрузки по обслуживанию, где можно планировать и измерять использование.
Для Broadcom это партнёрство является частью более широкой перестройки расходов на ИИ. Рынок смещается от покупки общей вычислительной мощности к разработке специализированных систем с учётом экономических условий конкретного клиента. Это делает такие отношения сложнее для копирования, но одновременно более стратегически важными, когда они начинают работать.
Финансовый тест заключается не в том, насколько хорошо Jalapeno показывает результаты в контролируемых условиях. Важно, улучшает ли он полную структуру затрат после учета памяти, сетевых ресурсов, подачи питания, операций и обслуживания программного обеспечения. Ускоритель, который дешевле в изоляции, все равно может разочаровать, если он создает трения во всех остальных областях.
Инвесторам также следует обратить внимание на то, что данный шаг говорит о ценообразовании. Поставщик модели, который снижает стоимость за сгенерированный токен, может позволить себе снизить цены, поддерживать более требовательные продукты или защищать маржу, пока конкуренты стремятся к тем же клиентам. Эффективность инференса становится коммерческим оружием.
Таким образом, Jalapeno касается не столько доказательства того, что OpenAI может производить оборудование, сколько того, чтобы показать, что он может превратить инфраструктуру из бесконечно растущего центра затрат в управляемое конкурентное преимущество.
Темы: OpenAI, Broadcom, Jalapeno, AI вывод