Политика
OpenAI и Anthropic Давят на Вашингтон по поводу китайских открытых моделей
OpenAI и Anthropic в Вашингтоне настроены против того, что они называют рисками, связанными с мощными китайскими моделями открытого веса, что усиливает политическую борьбу за доступ, конкуренцию и происхождение моделей.
Майкл С ·
OpenAI and Anthropic обычно их описывают как соперников, но на этой неделе они объединены в Вашингтоне общей озабоченностью: мощные китайские модели открытой весовой категории развиваются быстрее, чем политика США. Axios сообщили 22 июля, что две компании оказывают давление на чиновников по поводу рисков, связанных с открытой модельной инициативой Китая, кампании, которая проводится в то время, когда Kimi K3 and от Moonshot AI и другие китайские системы привлекают внимание разработчиков и корпоративных покупателей. Непосредственная борьба ведется за доступ к моделям. Более широкая борьба касается того, сможет ли США защищать национальную безопасность, не используя регулирование как щит для устоявшихся закрытых лабораторий.
Время не случайно. AP сообщило ранее в этом месяце, что Moonshot Kimi K3 удивил части технологической отрасли США показателями, которые казались сопоставимыми с ведущими системами от OpenAI и Anthropic. Привлекательность открытые веса это просто. Разработчики могут инспектировать, адаптировать и запускать модели, ближе к своим данным. Компании могут снизить зависимость от одного поставщика API. Исследователи могут воспроизводить и расширять работу. Эти преимущества реальны. Также реальны проблемы с безопасностью, когда способную модель можно скопировать и изменить после релиза.
Институциональная проблема начинается с различия между хостинговыми и распределёнными системами. Хостинговые модели дают поставщикам точку контроля. Они могут отслеживать использование, отзывать доступ, применять лимиты скорости, и обеспечивать соблюдение условий. Модели с открытыми весами распределяют ответственность наружу. Как только веса становятся доступными, у первоначального разработчика появляется меньше возможности предотвратить злоупотребления, но пользователи и защитники также получают больше возможностей для тестирования, адаптации и защиты системы. Политики, которые считают одну модель доступа по своей сути безопасной, а другую по своей сути опасной, упустят из виду этот компромисс.
Правительство США также рассматривает происхождение модели. Бизнес Инсайдер сообщалось, что чиновник Белого дома по технологиям Майкл Кратсиос обвинил Moonshot в незаконной переработке модели Fable от Anthropic для разработки Kimi K3. Distillation сам по себе является законной техникой машинного обучения, но скрытое извлечение на больших масштабах из модели другой компании вызвало бы другие вопросы о интеллектуальной собственности, соблюдении контрактов и национальной безопасности. Сообщаемое обвинение остаётся спорным, если не будут опубликованы дополнительные доказательства.
Это различие важно, потому что инструменты политики различаются. Если проблема заключается в злоупотреблении после выпуска, ответ может включать пороговые значения возможностей, ограничения на закупки, проверку благонадежности клиентов и экспортный контроль. Если проблема заключается в краже модели, ответ склоняется в сторону аудитов, водяных знаков, контрактных ограничений, sanctions, и гражданские судебные разбирательства. Если проблема заключается в конкуренции с более дешевыми китайскими системами, честным ответом может быть промышленная политика, а не регулирование безопасности.
Сторонники открытых моделей будут утверждать, что ограничения могут ослабить конкурентоспособность США. Генеральный директор Nvidia Дженсен Хуанг создал версию этого случая, предупреждая, что запрет или отговорка от открытых систем может снизить видимость и оборонительные возможности. Контраргумент со стороны передовых лабораторий заключается в том, что самые мощные модели могут создавать кибер-, биологические, манипулятивные и наблюдательные риски, которые не должны свободно скачиваться. Оба аргумента могут быть искренними и корыстными одновременно.
Риск регуляторного захвата не является теоретическим. Если крупнейшие закрытые лаборатории убедят Вашингтон в том, что открытые весовые коэффициенты исключительно опасны, они могут добиться условий соблюдения правил, благоприятных для компаний с большими юридическими командами, связями с государственными органами и собственной инфраструктурой. Если политики проигнорируют реальные риски, они могут позволить могущественным системам циркулировать без тестирования и подотчетности. Правильный стандарт должен основываться на возможностях, доказательствах и быть достаточно открытым, чтобы меньшие разработчики могли его понять до начала принудительного применения.
Международное измерение делает проблему более сложной. Ограничение в США может связывать американские компании, в то время как иностранные модели продолжают циркулировать через репозитории, частные зеркала и зарубежные облачные провайдеры. Полный запрет на загружаемые веса трудно обеспечить после того, как модель распространилась. Это не делает политику бесполезной. Это означает, что политика должна сосредоточиться на реалистичных рычагах, таких как государственные закупки, правила проверенных поставщиков, меры контроля при развертывании с высоким риском и требования к раскрытию информации.
Вашингтону теперь нужно разделить три вопроса, которые часто объединяют в один. Способны ли открытые модели китайских разработчиков создавать ощутимые риски для безопасности? Были ли какие-либо из них обучены с использованием неправомерного извлечения данных из систем США? Поможет ли их ограничение Соединённым Штатам или это подтолкнёт разработчиков к более скрытым каналам? На эти вопросы нужны доказательства, а не только лоббирование.
OpenAI и Anthropic поддержали более строгий взгляд на риск. Их аргумент заслуживает внимательного рассмотрения, потому что технология мощная. Он также заслуживает внимательного рассмотрения, потому что компании, выдвигающие этот аргумент, могут извлечь выгоду, если рынок перейдет к хостинговому, регулируемому и одобренному в США доступу к моделям. Политическая задача заключается в том, чтобы управлять этой возможностью, не позволяя какой-либо одной бизнес-модели устанавливать правила.
Темы: OpenAI, Anthropic, открытые модели, Китай ИИ