Политика
Федеральный судья постановил, что обозначение цепочки поставок Пентагона Anthropic как рискованной было незаконным
Федеральный судья постановил, что определение Пентагоном Anthropic как угрозы цепочке поставок являлось незаконной местью и лишало компанию, занимающуюся ИИ, надлежащей юридической процедуры. Это решение ограничивает способы использования полномочий в области национальной безопасности против поставщиков технологий, которые публично оспаривают политику правительства.
Майкл С ·
Федеральный судья постановил, что Пентагон действовал незаконно, когда обозначил Anthropic как риск для цепочки поставок и ввел широкие ограничения на работу компании с федеральным правительством. Это решение является значимой ранней проверкой использования полномочий национальной безопасности на развивающемся рынке военного искусственного интеллекта. Оно не требует от Министерства обороны покупки технологий Anthropic и не завершает все споры между двумя сторонами. Оно говорит о том, что несогласие с публичной позицией поставщика и ограничениями безопасности не может быть пересмотрено как вывод о безопасности без доказательств и законного процесса.
Судья федерального округа США Рита Лин вынесла 59-страничное решение в Калифорнии после рассмотрения материалов, включающих публичную критику Anthropic со стороны представителей администрации, указания, адресованные федеральным агентствам, и продолжающийся интерес правительства к технологиям компании. Сообщается, что Ассошиэйтед Пресс описал это решение как вывод о том, что меры были незаконными и необоснованными. Лин заключил, что это назначение было вызвано ответными действиями на критику Anthropic предпочитаемого правительством подхода к военному ИИ, а не изложенной причиной полагать, что компания будет саботировать продукцию, поставляемую Пентагону.
Спор начался с существенного расхождения во взглядах на политику. Anthropic сопротивлялась снятию ограничений, связанных с внутренним массовым наблюдением и полностью автономным оружием, в то время как Пентагон утверждал, что приобретённые им технологии должны быть доступны для любого законного военного использования. Это расхождение имеет значение. Поставщик модели может устанавливать коммерческие условия и отказываться от работы, которую считает небезопасной; правительство может выбрать другого поставщика. Конституционная проблема возникла, когда, как утверждается, чиновники вышли за рамки закупок и использовали широко распространённое обозначение риска, чтобы наказать компанию на федеральном рынке.
Спор по закупкам стал конституционным делом
Лин обнаружил, что поведение правительства вовлекало Первая поправка потому что санкции последовали за публичной критикой и отказом Anthropic принять позицию администрации. Ее анализ разделяет значительную свободу агентства в выборе подрядчика и его способность обременять компанию за защищенную речь. Эта граница особенно важна при закупках ИИ, где небольшое число поставщиков контролирует системы, обладающие возможностями, влияющими на разведку, кибербезопасность, наблюдение и оружие. Если каждый спор можно описать как риск для цепочки поставок, поставщики сталкиваются с давлением принять политику правительства как условие сохранения коммерческой жизнеспособности.
В решении также было установлено нарушение надлежащей процедуры по Пятая поправка. Маркировка в цепочке поставок может иметь последствия, выходящие далеко за рамки одного контракта, влияя на отношения с агентствами, субподрядчиками, инвесторами и клиентами, которые рассматривают правительственное обозначение как предупреждение. Компании, сталкивающейся с таким видом наказания, необходимо уведомление о фактической основе и реальная возможность ответить. Суд пришел к выводу, что Anthropic не получила такого процесса до того, как правительство ввело меры с общенациональными коммерческими последствиями.
Доказательства, на которые суд обратил внимание, сделали позицию правительства труднее для поддержания. Официальные лица продолжали обсуждать контракты с участием Anthropic, а правительство сотрудничало с моделью компании Mythos по вопросам кибербезопасности. Министр обороны Пит Хегсет также поднял вопрос о применении Закона о производстве для обороны, власти которого обычно связаны с ресурсами, считающимися важными для национальной безопасности. Лин отметил напряжение: компания не может быть легко представлена одновременно как ключевой источник возможностей и как поставщик, продукция которого по сути слишком опасна, чтобы ей доверять.
Технические связи Anthropic с правительством ещё больше усложнили обвинение. Как только модель передается в Министерство обороны, компания не сохраняет секретный канал, через который она могла бы изменять или отключать систему. Суд заявил, что материалы дела не подтверждают наличие такого скрытого контроля, который мог бы поддерживать обычные опасения по цепочке поставок. Это различие отводит дело от спекулятивных опасений по поводу сложности программного обеспечения и направляет его к доказательствам, необходимым до того, как агентство может наложить карательную квалификацию.
Национальная безопасность сильна, но не самоочевидна
Решение не отрицает того, что поставщики ИИ могут представлять угрозу национальной безопасности. Передовые модели могут раскрывать конфиденциальные данные, давать ненадежный анализ или использоваться в операциях с высокими последствиями. Сам Министерство обороны несет ответственность за тестирование систем, обеспечение безопасности развертывания и выбор поставщиков, соответствующих требованиям миссии. То, что решение отвергает, — это идея о том, что произнесение слов «национальная безопасность» завершает расследование. Определение риска по-прежнему требует фактической связи с действиями поставщика и процесса, соразмерного последствиям.
Этот стандарт может повлиять на будущие контракты, даже если правительство подаст апелляцию. Агентства создают рамки закупок в то время как возможности моделей и корпоративные политики быстро меняются. Им придётся различать технические требования к безопасности и требования, чтобы поставщик отказался от всех ограничений допустимого использования. Чёткие критерии тестирования, правила раскрытия информации, отчётность о инцидентах и договорные средства правовой защиты более долговечны, чем политические ярлыки, поскольку их можно применять ко всем поставщикам, а не направлять на компанию после публичного спора.
Решение также меняет условия ведения переговоров для Anthropic. Компания может ссылаться на судебные решения при общении с агентствами и корпоративными клиентами, обеспокоенными обозначением со стороны правительства. Но она не получила постоянного права на работу с федеральными заказами, и суд не одобрил каждое ограничение, которое компания накладывает на свои модели. Anthropic по-прежнему должен убедить покупателей из оборонного сектора, что его меры контроля совместимы с операционными потребностями, и что его системы могут безопасно развертываться в условиях, где внешняя поддержка может быть ограничена.
Спор не завершён
Отдельное и более узкое дело остается на рассмотрении в Вашингтоне, округ Колумбия, и связано с другим юридическим путем, который Пентагон использовал, пытаясь классифицировать Anthropic как риск для цепочки поставок. Также ожидается, что правительство оспорит решение Калифорнии. Эти процедуры могут изменить практический эффект приказа Лина или привести к другой интерпретации полномочий в области оборонных закупок. На данный момент решение Лина является самым четким судебным заявлением о том, что правительство не может превращать критику политики в национальное наказание для поставщика без доказательств.
Дело также выявляет проблему проектирования рынка. Федеральные покупатели все больше зависят от небольшой группы поставщиков моделей, в то время как эти поставщики сохраняют собственные политики безопасности и коммерческие стимулы. Обычный программный контракт предполагает, что государство может указать продукт, а поставщики могут конкурировать за его выполнение. В сфере передового ИИ ситуация менее устоявшаяся. Возможности изменяются после начала закупки, поведение модели может быть трудно охарактеризовать, и поставщик может знать о потенциально опасных случаях использования больше, чем покупатель. Эта асимметрия делает прозрачное тестирование и согласованные меры контроля более важными, а не менее.
Меньшие поставщики будут внимательно следить за исходом. У Anthropic были капитал и юридические ресурсы для того, чтобы оспорить действия правительства, но стартап с тем же назначением мог бы потерять клиентов до того, как суд смог бы рассмотреть дело. Процедура, которая требует уведомления, конкретных доказательств и возможности дать ответ, защищает конкуренцию так же, как и свободу слова. Без неё агентства могли бы непреднамеренно укрепить позиции крупнейшего игрока, сделав каждого другого поставщика уязвимым перед непрозрачным исключением, которое партнеры не могут оценить самостоятельно.
Военным пользователям также нужна ясность относительно того, что происходит, когда поставщик модели изменяет свои политики после развертывания. Контракты могут регулировать контроль версий, обязательства по поддержке, локальную эксплуатацию и условия, при которых принимаются обновления. Они могут определять процесс отчетности о происшествиях и процедуру урегулирования спорного использования без прерывания миссии. Эти положения более точные, чем требование предоставления неограниченного использования в принципе, и они позволяют командирам понимать, какие возможности фактически доступны в поле.
Конгрессу в конечном итоге, возможно, придется установить общую основу для закупок ИИ с высоким воздействием. В настоящее время агентства подходят к тестированию моделей, гражданским свободам и ограничениям поставщиков через разные полномочия. Законодательная база могла бы требовать документированных моделей угроз, независимой оценки, прав на обжалование и раскрытия существенных конфликтов интересов. Она также могла бы сохранять классифицированные исключения, когда доказательства нельзя сделать публичными. Задача состоит в том, чтобы разработать процесс, который уважает подлинную секретность, не превращая секретность в ответ, который нельзя проверить.
Корпоративные и государственные покупатели также могут пересмотреть свою зависимость от федеральных меток риска. Такие обозначения часто учитываются в обзорах поставщиков, даже если у другого покупателя другая модель угроз. Решение Лина показывает, почему команды по закупкам должны запрашивать доказательства и объем действия предупреждения, а не автоматически его принимать. Проблема, специфичная для обороны, может не применяться к гражданской эксплуатации, тогда как вывод, вызванный местью, не должен становиться постоянной записью в частных базах рисков.
Решение не должно побуждать поставщиков рассматривать политики безопасности как неподлежащие обсуждению. Пользователи из числа государственных органов могут обоснованно требовать ясности, непрерывности и мер возмещения, когда ограничение мешает выполнению миссии. Долговечная договоренность — это та, в которой обе стороны документируют эти конфликты до развертывания и определяют, кто может разрешать исключения. Конституционные ограничения на возмездие защищают такие переговоры, позволяя компании изложить свою позицию, не рассчитывая предварительно, разрушит ли критика остальную часть её федерального бизнеса.
Нерешённым вопросом остаётся, будут ли агентства реагировать, разрабатывая лучшие правила закупок ИИ, или пытаясь найти более узкий юридический механизм, который приведёт к той же исключительной ситуации. Первый путь вынудил бы правительство и поставщиков определять технический риск, допустимое использование и ответственность в контрактах, которые могут сохранять силу при смене руководства. Второй путь сохранял бы неопределённость и делал бы доступ к федеральному рынку зависимым от политической согласованности. 59-страничное постановление установила границу, но практика закупок определит, станет ли эта граница институтом или всего лишь следующей стадией судебного разбирательства.
Темы: Anthropic, Пентагон, политика в области ИИ, надлежащая процедура, военный ИИ