Политика
Трамп и Си обсудят горячую линию по ИИ на пекинском саммите, вызванную мифосом Anthropic
Государственный визит президента Трампа в Пекин на этой неделе будет включать обсуждения создания аварийного канала связи между США и Китаем по вопросам искусственного интеллекта — шаг, вызванный совместной тревогой по поводу модели Mythos компании Anthropic, которую оба правительства рассматривают как беспрецедентное кибероружие.
Патрик Т ·
Когда президент Трамп прибывает в Пекин на этой неделе для государственного визита к китайскому президенту Си Цзиньпину, в повестке дня будет то, чего ни одна из администраций не ожидала обсуждать: безопасность искусственного интеллекта. В значительном развороте от ранней позиции администрации Трампа о невмешательстве в регулирование ИИ, перед саммитом прошли тихие обсуждения по возможности возобновления канала экстренной связи между Вашингтоном и Пекином по вопросам ИИ — дипломатическая инициатива, которая остановилась при Администрации Байдена и была полностью заброшена в первые годы правления Трампа.
Катализатором, по словам чиновников, ознакомленных с обсуждениями, является модель Mythos компании Anthropic. Выпущенная в прошлом месяце, модель Mythos была оценена аналитиками как правительства США, так и Китая как представляющая качественный скачок в возможностях ИИ — с прямыми последствиями для национальной безопасности. Способность модели самостоятельно выявлять и использовать уязвимости в цифровых коммуникационных системах, финансовой инфраструктуре и государственных базах данных вызвала тревогу у чиновников в обеих столицах.
От Вудсайда до Пекина
История дипломатии США и Китая в области ИИ коротка и в основном безуспешна. В 2023 году Байден и Си провели свои первые высокоуровневые переговоры о рисках ИИ в Вудсайде, Калифорния. В следующем году делегация США отправилась в Швейцарию для официальных переговоров, но обнаружила, что китайская сторона игнорирует американские опасения по поводу рисков передового ИИ. Пекин рассматривал обсуждение как предлог для контроля экспорта, а не как настоящее обсуждение вопросов безопасности.
Единственным конкретным результатом того периода стало ноябрьское соглашение 2024 года в Перу, где обе стороны согласились не допускать использование ИИ в управлении и контроле ядерного оружия. Джейк Салливан, советник по национальной безопасности Байдена, описал это как «разрыв печати» — доказательство того, что достижение соглашения возможно. Он призвал команду Трампа, готовящуюся к вступлению в должность, продолжить диалог. Они этого не сделали.
Все это изменилось за последние несколько недель. Администрация Трампа, когда-то стремившаяся к технологическому превосходству, теперь впервые сталкивается с той мощью, которую ИИ может высвободить, если его оставить без контроля.
Джейк Салливан, бывший советник по национальной безопасности США
Фактор мифа
То, что изменило саму суть расчетов, было Mythos. Возможности модели описывались инсайдерами отрасли и правительственными аналитиками как возможности беспрецедентного кибероружия — способного проникать в цифровые системы и эксплуатировать их с масштабом и скоростью, которые не под силу ни одной человеческой команде. Команда по исследованиям безопасности Mozilla в течение нескольких недель после выпуска выявила сотни новых векторов атак в Mythos. Сообщается, что модель способна генерировать рабочие эксплойты для ранее неизвестных уязвимостей быстрее, чем большинство организаций успевают устранять известные.
Для администрации Трампа, которая рассматривала превосходство в области ИИ как ключевую задачу национальной безопасности, Mythos представлял проблему: технология, которую она пыталась разработать, стала достаточно мощной, чтобы угрожать системам, которые она должна была защищать. Для Пекина, который давно утверждал, что развитие ИИ в США безрассудно, Mythos был доказательством того, что сама динамика гонки опасна.
Как бы выглядела горячая линия с ИИ
Предлагаемый аварийный канал смоделирован по образцу существующих механизмов связи между двумя державами — ядерной горячей линии, созданной после Карибского кризиса, и каналов связи между военными, используемых для предотвращения случайной эскалации в Тайваньском проливе. Старший представитель администрации сообщил журналистам в воскресенье, что Белый дом рассматривает возможность создания канала «подобного другим, которые существуют во многих областях с интенсивным взаимодействием с США и Китаем», добавив, что его официальная форма «еще не определена».
Эксперты осторожны в вопросе того, чего такой канал может достичь. Аалок Мехта из Центра Wadhwani AI при CSIS отметил, что существует «почти нулевая поддержка со стороны американских законодателей для участия в формальных обсуждениях по управлению ИИ с Китаем», учитывая преобладающее мнение о том, что гонка в области ИИ — это игра с выигрышем, забирающим всё. Любое соглашение столкнется с глубоким скепсисом в Конгрессе, где существует двухпартийный консенсус, что Китаю нельзя доверять в выполнении обязательств по технологиям.
Более насущный вопрос заключается в том, приведет ли саммит к какому-либо объявлению вообще. Переговоры описываются как исследовательские, и разрыв между стратегическими интересами двух сторон остается широким. США стремительно движутся к созданию AGI; Китай сосредоточен на внедрении ИИ в промышленность. США хотят установить ограничения на передовые модели; Китай хочет, чтобы США сняли ограничения на экспорт микросхем. Нахождение общей точки зрения в этом контексте является дипломатической задачей первоочередной важности — но сам факт того, что обе стороны вообще ведут переговоры, представляет собой изменение, которое мало кто предсказывал.