«Отказаться от GPU на борту»: Microsoft измерила, как вынос инференса ускоряет роботов и продлевает им батарею

Что именно измерили

23 сентября 2026 года Microsoft Research опубликовала разбор инференсной инфраструктуры physical AI: авторы называют работу первым систематическим исследованием нагрузок робототехники.

Измерения шли на мобильной роботизированной манипуляции — канонический пример в публикации звучит как «проверить, нет ли мусора на кухне, и выбросить его»: робот строит маршрут, воспринимает обстановку, находит мусор, берёт его и возвращается к контейнеру.

Модели проверяли по трём ключевым способностям — семантическое картирование и планирование, навигация и манипуляция — на бортовых, граничных и облачных конфигурациях GPU.

Методика вынесена в отдельный технический отчёт Offload or Overload: A Platform Measurement Study of Mobile Robotic Manipulation Workloads, он опубликован как MSR-TR-2026-14.

В аннотации отчёта вывод сформулирован без оговорок: полный стек нагрузки не удаётся запустить на небольших бортовых GPU, а крупные бортовые GPU разряжают батареи роботов на несколько часов быстрее.

Цифры по производительности

На GPU с достаточным объёмом памяти картирование и планирование замедлялись до 383% по сравнению с A100 — по мнению авторов, это напрямую ограничивает работу робота в динамичной обстановке.

Навигация на более лёгких GPU теряла 30% в своевременном обнаружении препятствий.

VLA-модели замедлялись не так драматично, но и этого хватило, чтобы их точность упала на 50%.

Часть небольших GPU вообще не вмещала стек мобильной манипуляции, то есть задача не запускалась целиком.

Логика авторов простая: чем больше и сложнее становятся physical AI-модели, тем заметнее преимущество выноса инференса за пределы робота.

Батарея, вес и стоимость

Описание проблемы начинается с того, что GPU потребляют много энергии, сокращают время работы от батареи, добавляют стоимость и вес, а также могут мешать запуску моделей последнего поколения на борту.

Отдельный замер посвящён питанию: авторы сравнили рост времени работы от батареи при замене бортового GPU на плату Raspberry Pi 5 с передачей всех данных на вынесенный GPU.

Крупные бортовые GPU, включая Jetson Thor, разряжали батареи роботов до 160% быстрее — это несколько часов работы; замер на графике относится к роботу Stretch-3.

Инструмент выноса и Physical AI Toolchain

Для автоматического выноса Microsoft собрала набор инструментов: контейнеризация robotics-нагрузок по декларативным спецификациям, распределение physical AI-контейнеров по политикам через Kubernetes и интеграция с симуляторами, LeRobot и ROS2.

Инструмент работает по указанию: системе достаточно сообщить, что именно нужно вынести, а она сама создаёт отдельный контейнер под GPU-инференс и переносит в него нагрузку.

Kubernetes выбран как естественная платформа единой абстракции между вычислителем робота, граничным GPU и облаком.

Возможность добавлена в Physical AI Toolchain — открытый, готовый к продакшену фреймворк, который связывает облачные сервисы Microsoft Azure с физическим AI-стеком NVIDIA.

В README фреймворка вынос инференса описан как штатная возможность: нагрузка уходит с робота на локальный GPU с минимальными накладными расходами через Kubernetes-операторы ради энергопотребления, времени работы от батареи и стоимости.

В релиз вошли примеры выноса для SO-101 и UR10e; в демонстрациях модель Microsoft Rho для двуруких роботов вынесена на Jetson Thor и управляет действиями Mobile Aloha.

Оговорки

Вынос инференса — компромисс: в публикации перечислены производительность, сетевая задержка и полоса, а также доступные GPU-ресурсы.

В аннотации отчёта сказано прямо: дополнительная сетевая задержка снижает точность задач, а требования к полосе делают наивный вынос в облако непрактичным; там же измерены возможности и подводные камни совместного использования вычислений парком роботов.

Общий вывод авторов звучит так: вынос GPU-инференса с робота критичен для работы в открытой среде с большими моделями и долгим временем автономной работы.

Данных о стоимости владения, сроках поставки и о том, в какие продукты возможность уже встроена, в публикации нет.