Исследования
Команда чипов Anthropic показывает, что Frontier Labs хотят больше контроля над выводами
Anthropic подтвердила планы по созданию команды по разработке индивидуальных микросхем, что связывает проектирование моделей с более сложной экономикой обслуживания Claude at scale.
Майкл Г ·
Anthropic подтвердила, что формирует команду для разработки специализированных чипов для задач искусственного интеллекта, сообщает TechCrunch. Компания заявляет, что хочет совместно разрабатывать аппаратное обеспечение и модели, чтобы Anthropic могла работать быстрее и эффективнее, что является сигналом того, что доступ к арендованным вычислительным мощностям больше не является достаточным для каждой передовой лаборатории.
Инженерная логика проста. Обучение привлекает внимание, потому что оно производит следующую модель, но вывод представляет собой постоянные затраты на ответы клиентам. Система, разработанная с учетом точности семейства моделей, шаблонов памяти и рабочего процесса обслуживания, может улучшить использование энергии и пропускную способность, если аппаратные и программные предположения будут согласованы.
Anthropic не отказывается от внешних поставщиков. Компания подписала сделки по вычислительной мощности с AWS, Google, Nvidia и AMD. Ее проект по разработке специализированных микросхем следует рассматривать как еще один путь снабжения, который может занять годы, превратившись из объявлений о вакансиях в квалифицированное производственное оборудование.
Google давно использует TPU, в то время как Meta разработала ускорители MTIA, а OpenAI работала над чипом для инференса вместе с Broadcom. Общей чертой является не отказ от универсальных GPU. Это убеждение в том, что обслуживание моделей с очень высокой нагрузкой требует более строгого контроля над стеком.
Сложная работа начинается после проектирования. Чип должен быть изготовлен, упакован, введен в системы и поддержан компиляторами и ядрами, прежде чем он изменит опыт пользователя. План найма Anthropic важен, потому что он запускает этот долгий инженерный цикл.
Темы: Anthropic, ИИ-чипы, вывод