«Проектирование функциональной безопасности с самого начала отличает прототип от масштабируемого решения»: NVIDIA разложила стек Halos по слоям

49 миллионов автономных машин и 60 миллионов роботов

К 2035 году ABI Research прогнозирует парк в 49 млн автономных машин уровня автономности 3–5, а Omdia оценивает примерно в 60 млн число промышленных роботов, которые будут развёрнуты в 2026–2035 годах. Физический ИИ, по формулировке NVIDIA, движется от исследований к крупномасштабному развёртыванию, и по мере выхода таких машин на дороги, заводы и склады, где рядом работают люди, безопасность должна масштабироваться вместе с ними.

Задача не сводится к проверке перед выпуском: физический ИИ означает доказательство того, что машина ведёт себя безопасно, когда её решения превращаются в физическое действие, а значит безопасность нужна на уровне железа, ПО, моделей, среды эксплуатации и всего жизненного цикла. После нескольких лет тестов автономные машины продолжают коммерциализироваться, и разработчикам приходится показывать, как автоматика справляется с отказами аппаратуры и ПО, ограничениями заявленной функциональности и рисками, специфичными именно для ИИ. Робототехника подходит к такой же точке перегиба.

Четыре сдвига, меняющие стандарты

NVIDIA выделяет четыре сдвига, определяющих новые требования к безопасности. Первый — динамичная среда: дороги, цеха и склады нельзя закрыть статичными зонами и физическими барьерами, поэтому система обязана распознавать меняющиеся условия, адаптировать поведение и уходить в безопасное состояние при неожиданном событии.

Второй — поведение ИИ требует отдельного подтверждения: тестирование идёт параллельно с классической функциональной безопасностью и опирается на ограничители на этапах проектирования, исполнения и валидации, а появляющиеся стандарты вроде ISO/IEC TS 22440 начинают закрывать именно эти риски. Третий — развёртывание не заканчивается выпуском: машины и роботы меняются с обновлениями ПО и моделей, новыми задачами и условиями работы, и существенные изменения могут потребовать дополнительных проверок. Четвёртый — валидация в масштабе: число и сложность сценариев заставляют сочетать натурные испытания с симуляцией, генерацией синтетических данных и реконструкцией сценариев. Вместе эти сдвиги требуют сделать безопасность операционной практикой на всех этапах — от железа до поведения ИИ и среды эксплуатации.

Что уже собрано в Halos

NVIDIA называет Halos первым и единственным полным стеком безопасности для физического ИИ, который помогает проектировать безопасность на каждом слое — от разработки и валидации до развёртывания. Для автономных машин стек включает вычислитель DRIVE AGX Thor с инженерной проработкой по безопасности и платформу Hyperion как референсную архитектуру для уровня L4. Сверху — Halos OS как единая программная основа на сертифицированной по ASIL-D DriveOS, где Halos Core и Halos Middleware отвечают за изоляцию, мониторинг и детерминированную связь. Объяснимость на редких сценариях должен дать открытый набор моделей Alpamayo, а доказательную базу для кейсов безопасности — Halos Safety Evaluation Framework.

В AI Trust Center та же система описана как объединение архитектуры машины, моделей ИИ, чипов, ПО, инструментов и сервисов в один контур, где ограничители работают на этапах проектирования, развёртывания и валидации.

Для робототехники набор собран иначе: промышленный модуль IGX Thor с выделенным островом функциональной безопасности, программный слой Halos Core для отказоустойчивых операционных функций, мост датчиков Holoscan Sensor Bridge, который соединяет сенсорные данные с ИИ и обработкой, а также симуляция в Isaac Lab и Omniverse. Дополняет картину открытый Outside-In Safety Blueprint: внешние камеры и vision-агенты расширяют восприятие за пределы бортовых датчиков и поддерживают мониторинг на уровне объекта. Домены NVIDIA не смешивает: принципы общие, но платформы, стандарты и доказательства остаются своими для каждого.

Кто строит и кто проверяет

Готовые к уровню L4 машины на Hyperion с поддержкой Halos OS строят Geely, Isuzu, Nissan (на программном обеспечении Wayve) и Einride, а Uber, Grab и Lyft используют Hyperion для масштабирования robotaxi. В инспекционную лабораторию Halos AI Systems Inspection Lab входят AUMOVIO, Bosch, Gatik, Hesai, Lucid, MIRA, onsemi, PlusAI, Sony, Valeo и Wayve — от разработки автопилота и ADAS до сенсоров, кремния, системной интеграции и подтверждения безопасности. В робототехнике acontis и QNX дают встраиваемое ПО для предсказуемого исполнения функций безопасности, Advantech и NexCOBOT строят системы на IGX, Infineon, NXP, STMicroelectronics и Texas Instruments поставляют сенсоры и микроконтроллеры, KION Group разрабатывает агентов функциональной безопасности для автопогрузчиков, а Agility встраивает IGX Thor и Halos Core в систему безопасности своего человекоподобного Digit 5.

Независимые проверки уже идут: TÜV SÜD сертифицировала процесс разработки автомобильного ПО и DriveOS 6.0 по ISO 26262 ASIL D, а также инженерные процессы по ISO/SAE 21434, TÜV Rheinland провела независимую оценку DRIVE AV по требованиям UNECE, а для робототехники Rheinland проверяет IGX Thor, Halos OS и Holoscan Sensor Bridge на готовность к сертификации функциональной безопасности. ANAB аккредитовала инспекционную лабораторию Halos как орган по инспекции ISO/IEC 17020: там проверяют интеграции Halos и готовят компании к финальной сертификации у независимых органов. В AI Trust Center та же лаборатория названа первой в мире программой с аккредитацией ANAB по функциональной безопасности ИИ.

NVIDIA завершает текст тезисом, который объясняет, почему тема вынесена в отдельный разбор: масштаб получат не самые способные системы, а те, которые можно оценить, сертифицировать, развернуть и признать надёжными в реальном мире, — и проектирование функциональной безопасности с самого начала отличает прототип от масштабируемого решения.