ТЕХНОЛОГИИ
То, что Microsoft обращается к AWS за мощностями для GitHub, показывает, что искусственный интеллект в программировании — это проблема инфраструктуры
Сообщается, что Microsoft обратилась к Amazon Web Services за поддержкой рабочих нагрузок ИИ на GitHub. Этот шаг подчеркивает более крупный сдвиг: инструменты для программирования с ИИ больше не являются легкими функциями для разработчиков; это инфраструктурные продукты, требующие больших вычислительных ресурсов.
Автор: Лео В ·
Microsoft обратился к Веб-сервисы Amazon чтобы помочь поддерживать рабочие нагрузки искусственного интеллекта GitHub, Бизнес Инсайдер отчеты. Если это соглашение сохранится, это будет поразительный сигнал от бума ИИ-программирования: даже один из крупнейших в мире облачных операторов может потребовать внешние мощности, когда инструменты для разработчиков становятся платформами для обслуживания моделей.
Старая ментальная модель инструментов для разработчиков была простой: создать редактор, разместить репозиторий, запустить задачу CI, продавать лицензии. AI-кодирование меняет это. Каждый запрос, ответ, код-ревью, рефакторинг, запрос на генерацию тестов и агентная задача потребляют вычислительные ресурсы для инференса. Редактор становится интерфейсом для бизнеса с живыми вычислениями.
Редактор становится клиентом облака
GitHub Copilot помог определить первый массовый рынок ИИ программирование категория. Но масштабирование продуктов, подобных Copilot, — это не только задача UX. Это задача задержки, доступности GPU, маршрутизации моделей, безопасности и распределения затрат. Чем больше разработчики просят ИИ-системы работать с целыми репозиториями, тем тяжелее становится нагрузка на инфраструктуру.
Угол обзора на нескольких облаках также является показательным. Корпоративные покупатели часто говорят о необходимости избегать привязки к конкретному поставщику, но стек инфраструктуры ИИ заставляет даже самых крупных поставщиков думать оппортунистически. Вместимость может быть важнее чистоты, когда популярному продукту внезапно требуется больше вычислительной мощности, чем может с комфортом обеспечить одна облачная зона или одно внутреннее распределение ресурсов.
Кодирующие агенты повышают нагрузку
Следующий этап будет дороже. Автозаполнение создаёт короткие всплески inferenceПрограммирующие агенты могут работать в течение минут или часов, читая файлы, создавая патчи, выполняя тесты и пересматривая планы. Это превращает требования разработчиков в непрерывную нагрузку, которая больше напоминает облачную автоматизацию, чем текстовое поле.
Коммерческое следствие заключается в том, что маржа на кодирование с использованием ИИ может быть жестче, чем обычная маржа SaaS. Поставщикам нужно достаточно использования, чтобы сделать продукт незаменимым, но слишком большое использование может разрушить экономику единицы, если модели не станут дешевле, маршрутизация не станет умнее или клиенты не примут ценообразование на основе потребления.
Инструменты разработчика становятся инфраструктурой
Темы: GitHub, AWS, Microsoft, программирование ИИ