Аналитика
Аргумент Дженсена Хуанга в пользу открытых моделей ставит Nvidia по обе стороны гонки ИИ
Генеральный директор Nvidia Дженсен Хуанг утверждал, что ограничение открытых моделей ИИ может ослабить безопасность США, позиция, которая находится посередине более острой борьбы за конкуренцию с Китаем и доступ к передовым системам.
Элвин С. ·
Nvidia главный исполнительный директор Дженсен Хуанг утверждал, что ограничение открытых ИИ-моделей во имя национальной безопасности может сделать Соединенные Штаты более уязвимыми. Позиция, о которой сообщалось Axios, ставит крупнейшего в мире поставщика чипов для ИИ в центр дебатов, которые уже не являются теоретическими. Китайские разработчики открытых моделей привлекают мировое внимание, в то время как американские чиновники оценивают вопросы безопасности, коммерческую конкуренцию и сложность контроля программного обеспечения после широкого распространения весов.
Дело Хуанга является аргументом, а не окончательным заключением по безопасности. Его беспокойство заключается в том, что страна, которая отказывается от открытой разработки, может потерять видимость, таланты и защитные возможности, в то время как соперники продолжают развитие. Противоположная точка зрения так же прямолинейна: способные открытые модели могут снизить барьер для злоупотребления и затруднить применение контроля со стороны разработчика после того, как модель покидает своего первоначального создателя.
Анализ рынка начинается с стимулов. Nvidia продает вычислительную инфраструктуру, используемую передовыми лабораториями, облачными провайдерами, стартапами и разработчиками открытых моделей. Более широкое принятие ИИ расширяет рынок этой инфраструктуры. Это не делает аргумент Хуанга по поводу безопасности недействительным. Это означает, что его позиция исходит от компании с необычно широкой зависимостью от исхода дебатов о доступе.
Белый дом уже предпринял национальная политическая рамка для ИИ, это знак того, что федеральные чиновники рассматривают разрозненные правила как стратегическую проблему. Но национальная структура не решает более сложный вопрос о том, что должно контролироваться. Размещённая модель может находиться под наблюдением, иметь ограничение частоты запросов и быть отозванной. Загруженная модель может быть адаптирована и запущена в другом месте. Разница носит оперативный характер, а не риторический.
Конкурентное давление со стороны Китая делает выбор менее комфортным. Ограничение, которое в основном применяется к американским компаниям, может ограничить отечественных разработчиков, не предотвращая при этом международное обращение способных моделей. Тем не менее, рассматривать эту реальность как повод отказаться от мер предосторожности означало бы путать рыночную проблему с вопросом безопасности. Правительствам необходимо решить, какие возможности создают существенный риск и какие меры контроля могут по-прежнему работать после распространения моделей.
Для инвесторов и покупателей вероятный результат — это разделённый рынок. Системы с размещением на передовой будут уделять внимание контролю, аудиту и контрактным гарантиям. Открытые системы будут делать упор на гибкость, стоимость и локальный контроль. Компании, которые смогут работать в обоих мирах, могут получить преимущество, но покупатели будут нести большую ответственность за оценку и безопасность.
Вмешательство Хуанга имеет значение, потому что оно отвергает простую историю, в которой закрытый доступ равен безопасности, а открытый доступ — опасности. Ни одна из этих меток не отвечает на вопросы, кто может использовать модель, что они могут с ней делать и кто несет ответственность, когда она выходит из строя. Следующий этап гонки ИИ будет определяться меньше лозунгами о открытости, чем тем, смогут ли институты создать контрольные механизмы, соответствующие системам, которыми они пытаются управлять.
Темы: Nvidia, открытые модели, Китай, политика в области ИИ