Политика
Дженсен Хуанг предупреждает Вашингтон о страхе перед ИИ по мере расширения борьбы за политику открытых моделей
Генеральный директор Nvidia Дженсен Хуанг призвал американских законодателей не позволять спекулятивным страхам перед ИИ влиять на политику, бросая вызов призывам закрытых передовых лабораторий к ужесточению контроля над китайскими моделями с открытыми весами.
Майкл С ·
Nvidia главный исполнительный директор Дженсен Хуанг вынесло публичное предупреждение Вашингтону в тот момент, когда политика США в области ИИ становится более обеспокоенной китайскими моделями с открытым весом. Axios сообщило 23 июля, что Хуанг сказал законодателям не позволять страхам из научной фантастики определять правила искусственного интеллекта. Этот комментарий помещает самого важного поставщика ИИ-чипов в мире на другую риторическую траекторию по сравнению с OpenAI and Anthropic, которые оказывали давление на чиновников по поводу рисков мощных китайских моделей, таких как Kimi K3 от Moonshot AI.
Разногласие не просто философское. Nvidia получает выгоду, когда внедрение ИИ происходит широко, быстро и с высоким использованием вычислительных ресурсов. Передовые лаборатории получают выгоду, когда их собственные хостинговые системы остаются стандартом для работы с высокой ценностью. Разработчики открытых моделей выгода, когда клиенты могут загружать веса, адаптировать их и запускать их приватно. Каждая позиция содержит технические аргументы и коммерческие стимулы. Вмешательство Хуана важно, потому что он не просто комментирует регулирование. Он защищает рынок инфраструктуры, на котором большее конкуренция моделей обычно означает больший спрос на ускорители.
Бой с открытой моделью ускорился после Kimi K3 и другие китайские системы привлекли внимание благодаря высокой производительности и низким inference цены. Американские чиновники и закрытые лаборатории выразили обеспокоенность по поводу национальной безопасности, происхождения модели, киберзлоупотреблений и того, можно ли доверять китайским системам при развертывании в корпоративной среде. Сторонники открытого доступа отвечают, что веса, размещенные на собственных серверах, можно проверять, тестировать, адаптировать и изолировать от первоначального поставщика. Обе стороны спорят о рисках, но они также спорят о том, кто контролирует производственный стек ИИ.
Техническое различие важно. Модель, размещённая у поставщика, даёт ему реальную точку контроля. Он может отслеживать трафик, применять лимиты скорости, приостанавливать пользователей и изменять поведение модели централизованно. Модель с открытым весом передает эти возможности тому, кто её запускает. Это затрудняет оригинальному разработчику предотвращение злоупотреблений, но также даёт законным пользователям больше возможностей для аудита, тонкой настройки и развертывания без передачи конфиденциальных данных третьей стороне. Серьёзная политика должна учитывать обе стороны этой дилеммы.
Предупреждение Хуан также достигает внутри export-control дебаты. Министерство торговли Бюро промышленности и безопасности использовал управление чипами, чтобы ограничить доступ Китая к современному оборудованию для ИИ. Эта стратегия сосредоточена на входных данных для разработки моделей. Предлагаемые ограничения на открытые весы в Китае будут сосредоточены на выходных данных, которые уже могут циркулировать. Первая проблема трудная. Вторая труднее, потому что артефакт модели может перемещаться через хранилища, зеркала и приватные передачи после выпуска.
Существует риск в том, чтобы отвергать все вопросы безопасности как фантазию. Способные модели могут помочь в кибер-операциях, убеждении, наблюдении и биологических исследованиях. The Инцидент OpenAI-Hugging Face показало, что сами системы оценки могут стать рискованными, если модели получают меньшее количество киберотказов. Вопрос не в том, существует ли риск. Вопрос в том, основан ли ответ политики на наблюдаемых возможностях, реалистичных точках контроля и доказательствах, а не на общем страхе открытости.
Существует также риск позволить закрытым лабораториям определять решение. Если Вашингтон примет, что самой безопасной моделью всегда является размещенная модель от нескольких крупных американских компаний, регулирование может закрепить рынок вокруг действующих игроков. Это могло бы улучшить мониторинг на стороне поставщика, но ослабило бы доступ к исследованиям, независимую оценку и возможности компаний влиять на ценообразование. Соединенные Штаты могут в итоге защищать бизнес-модель, при этом утверждая, что защищают национальную безопасность.
Следует, таким образом, рассматривать аргумент Хуанга как требование к более широкой политической повестке. Производители чипов, компании с открытой моделью, исследователи в области безопасности, облачные провайдеры, передовые лаборатории и корпоративные покупатели видят разные части рисков. Если Вашингтон будет прислушиваться только к самым громким разработчикам закрытых моделей, он упустит операционный уровень, на котором фактически будут работать многие AI-системы.
Коммерческие интересы ясны. Nvidia продаёт оборудование, которое делает возможными как закрытые, так и открытые ИИ-системы. Политика, замедляющая широкое развёртывание, может защитить некоторые передовые лаборатории, но также может сократить число компаний, покупающих ускорители, сетевое оборудование и системы дата-центров. Предпочтение Хуана к внедрению поэтому неудивительно. Вопрос не в том, есть ли у Nvidia стимулы. Все участники дискуссии их имеют. Вопрос в том, совпадают ли эти стимулы с целью создания конкурентной и безопасной экосистемы ИИ.
Модели с открытыми весами создают особую проблему для стратегии США, поскольку они могут распространить возможности за пределы нескольких компаний, с которыми Вашингтон знает, как связаться. Именно поэтому официальные лица внимательно слушают закрытые лаборатории, когда те предупреждают о китайских релизах. Но та же открытость поддерживает университеты, стартапы, команды государственного сектора и компании, которые не могут или не хотят размещать чувствительные данные в хостинг-API. Ограничение доступа к весам может сократить некоторое неправильное использование, одновременно ослабив внутренние эксперименты.
Дискуссия вокруг Kimi обострилась, поскольку цена стала частью вопроса безопасности. Достаточно качественная и дешёвая модель может быстро распространиться среди разработчиков и компаний. Низкие цены на инференс упрощают внедрение как для добросовестных пользователей, так и для потенциальных злоумышленников. Это не означает, что низкая цена сама по себе является угрозой. Это означает, что при оценке возможностей необходимо учитывать стоимость, доступность, документацию и сложность развёртывания, а не только показатели тестов.
Существует также разница между риском, связанным с китайской собственностью, и риском открытой модели. Размещённый в Китае сервис может вызывать вопросы о раскрытии данных, юридическом принуждении и операционной зависимости. Загруженная модель с открытыми весами вызывает другие вопросы о происхождении, скрытом поведении, соблюдении лицензий и злоупотреблениях после выпуска. Рассматривать эти проблемы как одинаковые может привести к грубой политике. Компания может разумно избегать API, размещённого за границей, и при этом тестировать локальную модель с открытыми весами при строгом контроле.
Предупреждение Хуана против страха не отвечает на каждый вопрос о безопасности, но оно создаёт давление на законодателей, чтобы они конкретизировали вред, который пытаются предотвратить. Речь идёт о беспокойстве по поводу киберзлоупотреблений, биологической помощи, иностранного влияния, зависимости от китайской AI-инфраструктуры или потери лидерства США в области моделей? Каждое беспокойство указывает на различный инструмент. Контроль за экспортом, правила закупок, стандарты оценки, отчетность о происшествиях и ограничения доступа к моделям взаимозаменяемыми не являются.
Дебаты также выявляют напряжение в американской политике в области ИИ. Чиновники хотят, чтобы американские компании лидировали на мировом уровне, но при этом хотят контролировать опасные возможности. Они хотят, чтобы союзники и отечественные стартапы имели доступ к мощным инструментам, но не хотят, чтобы противники извлекали выгоду из открытых выпусков. Они хотят конкурировать с Китаем, но также хотят предотвратить гонку к упрощению стандартов безопасности. Эти цели могут сосуществовать только в том случае, если политика будет более точной, чем широкое предпочтение закрытых или открытых систем.
Для предприятий немедленным последствием является неопределённость в закупках. Покупатели, оценивающие модели с открытым весом, должны будут учитывать не только производительность и общую стоимость, но и возможность того, что модель может стать политически чувствительной, ограниченной в использовании государственными органами или подчинённой новым требованиям соответствия. Поставщики закрытых моделей будут использовать эту неопределённость в ходе коммерческих переговоров. Сторонники открытых моделей ответят аргументами о проверяемости и контроле. В результате возникает рынок, где политические нарративы становятся частью технического выбора.
Позиция Nvidia также может повлиять на другие инфраструктурные компании. Облачные провайдеры, разработчики чипов, системные интеграторы и операторы дата-центров все выигрывают от широкого рынка ИИ. Если они начнут более открыто сопротивляться предупреждениям закрытых лабораторий, Вашингтону придется примирять конкурирующие требования отрасли, вместо того чтобы рассматривать передовые лаборатории как основной источник экспертизы. Это сделало бы политику медленнее, но, вероятно, более обоснованной.
Аргумент в пользу открытой модели также связан с устойчивостью. Рынок, зависящий от небольшого числа размещённых систем, может потерпеть неудачу концентрированными способами. Перебои, изменения цен, изменения политики или отказы конкретных поставщиков могут распространиться на многие приложения. Открытые веса дают некоторым организациям возможность работать локально, поддерживать непрерывность и адаптировать системы под собственный уровень риска. Эта устойчивость имеет ценность, особенно для правительств, больниц, производителей и компаний с конфиденциальными данными.
В то же время открытые веса могут затруднять воспоминание. Как только способная модель выпускается, оригинальный разработчик не может легко её отозвать. Этот факт делает оценку безопасности до выпуска более важной. Это также означает, что политические дебаты должны сосредоточиться на порогах выпуска, документации, тестировании рисков и последующих обязанностях, а не на притворстве, что открытую модель можно централизованно контролировать, как размещённый API.
Комментарии Хуана появляются в тот момент, когда политика в области ИИ становится частью промышленной политики. Соединенные Штаты хотят, чтобы центры обработки данных, производство чипов, энергетическая инфраструктура, облачные сервисы и компании, занимающиеся моделированием, росли. Ограничения, которые кажутся разумными с точки зрения безопасности, могут повлиять на капитальные расходы и долю на мировом рынке. Напротив, неограниченная конкуренция может создать давление для выпуска систем до того, как будут поняты все риски. Правительство пытается одновременно управлять обоими результатами.
Фокус на китайской модели также создает дипломатические осложнения. Если американские чиновники будут рассматривать китайские открытые модели как по своей сути сомнительные, союзники могут задаться вопросом, связана ли озабоченность с техническим риском, национальным происхождением или конкуренцией. Это различие важно, потому что союзники могут захотеть иметь доступ к доступным открытым системам, одновременно разделяя озабоченность США по поводу использования в чувствительных сферах. Политика, которая может объяснить разницу между надежным локальным использованием и рискованной зависимостью, будет легче защищаема на международном уровне.
Наиболее достоверным путем, вероятно, является оценка на основе доказательств как в открытых, так и в закрытых системах. Регуляторы могут требовать отчетности о опасных возможностях, финансировать независимое тестирование, устанавливать стандарты закупок для высокорисковых применений и применять экспортный контроль там, где оборудование или услуги явно поддерживают возможности противника. Ни один из этих инструментов не требует объявления открытости самой по себе проблемой. Они требуют измерения того, что модель может делать и как она будет использоваться.
Таким образом, вмешательство Хуана ценное даже для тех, кто не согласен с его выводом. Оно заставляет дебаты признать, что политика в области ИИ формируется компаниями с разными бизнес-моделями. Закрытые лаборатории могут быть правы относительно некоторых рисков и при этом получать выгоду от правил, централизующих доступ. Сторонники открытых моделей могут быть правы относительно конкуренции и при этом недооценивать злоупотребления после выпуска. Инфраструктурные компании могут быть правы относительно внедрения и при этом предпочитать более свободные правила, поскольку большее количество развертываний продаёт больше оборудования. Серьёзный процесс разработки политики должен открыто взвешивать эти стимулы, а не претендовать на то, что какая-либо одна группа говорит только ради безопасности или только ради инноваций.
Такой уровень честности также помог бы общественности понять, почему одна и та же компания может звучать осторожно в одной ситуации и агрессивно в другой. Руководители в сфере ИИ общаются с инвесторами, регуляторами, клиентами, представителями национальной безопасности и разработчиками, часто имея разные приоритеты. Хуанг говорит с точки зрения инфраструктуры, где паузы, вызванные страхом, выглядят как потеря возможностей развертывания. Лаборатории Frontier говорят с точки зрения моделей, где опасные способности могут стать обременительными, если конкуренты слишком свободно их выпускают. Разногласия — это не отвлечение от политики. Это именно то, чем политика должна управлять, особенно по мере того, как доступ к моделям становится эквивалентом экономической власти.
Проблема политики заключается в том, чтобы отделить научную фантастику от правдоподобного вреда, не притворяясь, что это различие легко провести. Открытые модели могут быть полезными и рискованными. Закрытые модели могут быть контролируемыми и служить собственным интересам. Генеральный директор Nvidia утверждает, что страх не должен становиться основной структурой американской политики в области ИИ. Следующий вопрос заключается в том, смогут ли законодатели создать правила, достаточно точные, чтобы регулировать возможности, не запирая рынок в рамках одной модели доступа.
Темы: Nvidia, Дженсен Хуанг, открытые модели, политика в области ИИ