AWS собрала Physical AI model factory на NVIDIA Cosmos 3 и SageMaker HyperPod

Physical AI требует цикла, а не одиночного training job

Робот или autonomous vehicle должен не только распознавать сцену, но и выбирать физическое действие, а затем проходить проверку в closed-loop simulation. AWS описывает это как непрерывный model factory: real-world data запускает новый цикл synthetic data generation, post-training perception и policy models, после чего модели оцениваются в симуляции. Результат следующего раунда должен быть лучше предыдущего, поэтому инфраструктура обязана поддерживать весь цикл, а не только пиковую фазу обучения.

В reference architecture используется NVIDIA Cosmos 3 на Amazon SageMaker HyperPod с Amazon EKS. Cosmos 3 представлен как open omnimodal world foundation model, который рассматривает video, image, action и sound как единый token stream. Один transformer trunk работает в режимах forward-dynamics world model для synthetic video, inverse-dynamics action labeler и deployable action policy. Это позволяет разместить generation, post-training и evaluation как разные workloads одной model family.

Один устойчивый кластер вместо capacity по стадиям

Традиционная схема может поднимать отдельные GPU pools для synthetic generation, обучения и evaluation, каждый раз ожидая capacity и перенося данные. На большом масштабе доступность GPU, lead time и расположение относительно данных становятся источником задержек. AWS предлагает закрепить capacity на весь loop: через flexible training plan для ограниченной кампании либо capacity reservation для длительной программы, а stages планировать на общем persistent HyperPod cluster.

За зарезервированные GPU приходится платить даже тогда, когда pipeline не делает полезную работу. Поэтому авторы предлагают смотреть не на максимальный throughput отдельного job, а на GPU goodput — полезный прогресс всего pipeline на зарезервированный GPU-hour. В эту величину попадают простои между стадиями, checkpoint recovery, data movement и ошибки orchestration. Быстрейший training stage не спасает экономику, если остальные части цикла оставляют ускорители без работы.

MoT связывает multimodal context, но разделяет обучение и запуск

AWS выделяет у Cosmos 3 Mixture-of-Transformers design с per-layer joint attention и сознательной асимметрией train-versus-inference. Совместное представление разных modalities нужно, чтобы world model, action labeling и policy не жили в изолированных pipelines. При этом инфраструктурные требования стадий различаются: generation создаёт synthetic trajectories, post-training обновляет веса, а evaluation многократно прогоняет policy в simulated environment.

Практический эффект общей architecture — возможность переиспользовать cluster, storage и scheduling primitives. Это не означает, что workload profiles становятся одинаковыми: каждой стадии всё ещё нужны собственные manifests, resource requests и failure policy. Смысл model factory в том, чтобы управлять переходами и данными как единой производственной линией, сохраняя специализированные jobs внутри неё.

Shared storage превращает стадии в связанный pipeline

Материалы AWS охватывают setup кластера и общего multi-terabyte storage layer, а accompanying repository содержит infrastructure templates, job manifests и configuration files. Shared layer нужен для datasets, checkpoints, generated video и evaluation artifacts: результат одной стадии должен стать входом следующей без ручного копирования и новой подготовки окружения. На EKS каждая работа остаётся отдельным schedulable workload, но общий data plane сокращает паузы между ними.

В walkthrough показаны три representative post-training workloads и end-to-end robot-policy stage на public DROID dataset. Важно правильно читать масштаб заявления: публикация демонстрирует воспроизводимую architecture и runnable artifacts, но не утверждает, что один рецепт автоматически покрывает все robot embodiments, sensor stacks или safety requirements. Перенос на production требует собственной подготовки данных, проверки simulation-to-reality gap и hardware-specific validation.

Resilience становится частью стоимости модели

Persistent GPU cluster выгоден только при высокой полезной загрузке и предсказуемом восстановлении. SageMaker HyperPod выбран как substrate для длительных distributed workloads, где node failure не должен обнулять прогресс всей линии. Kubernetes orchestration позволяет ставить стадии в очередь и задавать ресурсы, а shared checkpoints уменьшают стоимость повторного запуска. Так infrastructure reliability напрямую влияет на GPU goodput, а не остаётся отдельной эксплуатационной метрикой.

Команде следует измерять очередь, время ожидания данных, recovery duration и долю GPU-hours, закончившихся валидным artifact. Такой набор лучше отражает model factory, чем tokens per second или samples per second одной training phase. Official post даёт принцип GPU goodput, но не публикует универсальный целевой процент или total-cost comparison. Порог эффективности придётся выводить из конкретной reservation, региона, модели и расписания stages.

Что можно перенести в собственный robotics pipeline

Главный engineering pattern — проектировать Physical AI как замкнутую систему обновления. Generation, labeling, post-training и closed-loop evaluation должны иметь явные artifacts, versioning и критерии перехода. Cluster capacity и storage планируются под весь loop, а scheduler минимизирует пузырьки между стадиями. Если очередной model candidate не проходит simulation gates, pipeline должен сохранить доказательства и вернуться к данным или training configuration, а не автоматически продвигать его дальше.

Architecture особенно интересна командам, которые уже используют AWS и NVIDIA stack и готовы удерживать GPU capacity между стадиями. Но production robotics добавляет требования, которых один infrastructure tutorial не закрывает: safety cases, field monitoring, rollback, dataset governance и проверку поведения на реальном оборудовании. Публикация AWS даёт рабочий фундамент и manifests для эксперимента; решение о развёртывании должно опираться на measured GPU goodput и независимую оценку качества policy.