МОДЕЛИ
Доступ к вычислениям SpaceX от Reflection AI превращает открытое программное обеспечение в гонку суперкомпьютеров
Сообщаемый доступ Reflection AI к вычислительным мощностям уровня SpaceX показывает, как конкуренция открытых моделей становится гонкой капитала и инфраструктуры. Вопрос теперь заключается не только в том, у кого лучшие исследователи, но и кто сможет обеспечить достаточные возможности для обучения, чтобы иметь значение.
Патрик Т ·
Рефлексия ИИсообщаемый доступ к SpaceX-масштабные вычисления напоминают о том, что конкуренция открытых моделей больше не является гаражным движением. Лаборатории, пытающиеся бросить вызов закрытым передовым системам, все чаще нуждаются в кластерах промышленного масштаба, надежной энергии, специализированных кадрах и достаточном капитале, чтобы компенсировать неудачные обучающие запуски.
Это меняет историю с открытым исходным кодом. В первой волне открытые модели приветствовались, потому что они снижали барьер для экспериментов. В следующей волне барьер перемещается вверх по цепочке. Весовые коэффициенты могут быть открытыми, но обучение самых мощных весов по-прежнему требует вычислительных ресурсов, доступ к которым есть только у немногих команд.
Вычисление — это новое распределение
Раньше под распределением модели подразумевалось то, что разработчики загружали веса или вызывали API. Теперь распределение начинается до того, как модель существует. Лаборатория с привилегированным доступом к крупной GPU Флот может проводить больше экспериментов, обучать более крупные системы и быстрее восстанавливаться, когда выполнение не удается. Это делает доступ к вычислительным мощностям стратегическим барьером даже для компаний, которые говорят о открытости.
Связь с SpaceX также размывает границу между лабораториями ИИ и промышленными компаниями. Если вычисления, чипы, робототехника, коммуникации и разработка моделей находятся внутри пересекающихся корпоративных экосистем, гонка ИИ становится меньше похожей на программное обеспечение и больше на аэрокосмическую или полупроводниковую отрасли.
Открытые веса, закрытая ёмкость
Парадокс заключается в том, что открытый искусственный интеллект может стать зависимым от закрытых инфраструктурных соглашений. Разработчики могут изучать и модифицировать выпущенную модель, но им трудно воспроизвести тренировочную среду, которая её создала. Это создаёт многоуровневую экосистему: открытое использование на периферии и концентрированное производство в ядре.
Темы: Reflection AI, открытый ИИ, SpaceX, обучение моделей