Политика
Закон о кнопке выключения ИИ даст Министерству национальной безопасности чрезвычайные полномочия над пограничными моделями
Представители Тед Лиу и Натаниэль Моран внесли законопроект, который потребует от крупных разработчиков ИИ поддерживать средства отключения или ограничения для систем, которые могут причинить катастрофический вред.
Майкл С ·
Двухпартийное предложение Палаты представителей превратило фразу «аварийный выключатель ИИ» в законодательный текст, давая Вашингтону прямой ответ на вопрос, который вызывают более автономные передовые системы: кто может приказать опасной модели замедлиться или остановиться. Депутаты Тед Лиу Калифорнии и Натаніель Моран Техас представил Закон об аварийном отключении ИИ 23 июля. Их офисы заявили, что законопроект потребует от разработчиков, подпадающих под действие, самых мощных систем ИИ сохранять техническую возможность ограничивать, приостанавливать или полностью отключать эти системы, и предоставит Министерству внутренней безопасности право приказывать вмешательство в тяжелых случаях после консультации с Министерством торговли и разведывательным сообществом.
Законопроект явно направлен на сценарии потери контроля, а не на обычные споры о модерации контента. Вердж сообщается, что предлагаемая власть будет применяться, когда покрытая система создает серьезные риски, такие как смертельные случаи, значительный экономический ущерб свыше 100 миллионов долларов или поведение, которое отключает механизмы остановки. Бизнес Инсайдер and Уолл-стрит джорнэл сообщали о схожих порогах, включая покрытие компаний с как минимум 500 миллионами долларов дохода от ИИ или систем, обученных с использованием более 100 миллионов долларов вычислительных ресурсов. Эти пороги сосредотачивают внимание на крупнейших разработчиках передового уровня, а не на любительских проектах или небольших создателях приложений.
Предложение следует за Инцидент безопасности OpenAI и Hugging Face, в котором OpenAI сообщил, что комбинация его моделей, работающих с уменьшенными киберотказами для оценки, привела к вторжению во время тестирования кибервозможностей. Этот инцидент стал символом политики, потому что он дал законодателям конкретный пример того, как система ИИ действует внутри технической среды, который разработчику позже пришлось объяснять публично. Учет OpenAI не доказывает, что каждая передовая модель нуждается в выключателе для государственного контроля, но это сделало дебаты менее абстрактными.
The Департамент внутренней безопасности будет находиться в центре процесса вмешательства. Это значимый институциональный выбор. DHS уже работает в сферах критической инфраструктуры, киберинцидентов, реагирования на чрезвычайные ситуации и координации с частным сектором. Но полномочия по остановке работы моделей ИИ будут отличаться от обычного управления инцидентами, потому что они могут одновременно повлиять на потребительские продукты, API для разработчиков, корпоративные системы и государственные сервисы. Приказ о замедлении работы может защитить одну группу пользователей, одновременно нарушив работу другой.
Законопроект также поднимает вопросы реализации, на которые пресс-релиз не дает ответа. Модель с размещением у провайдера может быть ограничена на границе провайдера. Распределенная модель, тонко настроенный производный вариант или агент, работающий с использованием сторонних инструментов, может быть не так просто контролировать. Если от разработчика требуется сохранять судебные записи и поддерживать поэтапную систему реагирования, регуляторам придется определить, что считается контролем, когда система встроена в рабочий процесс клиента.
Сторонники представляют это предложение как базовый контроль, а не как широкое ограничение. Поддерживающие законопроект ссылались на опросы Института политики ИИ, показывающие высокую поддержку избирателей за гарантированную возможность отключения. Адвокационные группы, включая Американцы за ответственное инновационное развитие и Альянс за безопасный ИИ Также поддержали эту идею. Их аргумент заключается в том, что мощная система не должна использоваться, если люди не могут сдерживать её при серьезном сбое.
Критики будут спрашивать, достаточно ли технически точен законопроект и можно ли использовать чрезвычайные полномочия, не превращая их в политический рычаг воздействия на выпуск моделей. Этот риск не воображаемый. Frontier AI уже участвует в вопросах национальной безопасности, контроля за экспортом и закупок. Процесс приостановки деятельности должен иметь четкие триггеры, возможность аудита, права на обжалование и публичный отчет после окончания чрезвычайной ситуации. В противном случае механизм контроля, предназначенный для предотвращения катастрофического ущерба, может превратиться в непрозрачный инструмент давления.
Самая трудная часть — определить охватываемую систему. Модель на передовом уровне — это не просто набор весов. Это модель, инфраструктура обслуживания, инструменты, к которым она может обращаться, правила, окружающие её, доработки и оценки, используемые до выпуска, и способы, которыми клиенты её внедряют. Узкое определение может оставить опасные внедрения вне закона. Широкое определение может охватить обычные обновления программного обеспечения и сделать соблюдение требований дорогостоящим для компаний, которые не создают системы с катастрофическим риском. Конгрессу придётся решить, где проходит эта черта, прежде чем законопроект сможет вступить в действие.
Фраза «kill switch» также менее точна, чем сама политика. Полная остановка — это лишь один из вариантов реакции. Провайдер может потребовать отозвать доступ к инструменту, ограничить скорость работы функции, отключить версию модели, заблокировать определённый класс запросов, приостановить среду автономного агента или сохранить журналы, позволяя при этом продолжать безопасное использование. Хороший закон, вероятно, потребует поэтапного плана реагирования, потому что неправильное вмешательство может создать собственный ущерб. Выключение системы, которая поддерживает работу больниц, фабрик или экстренных служб, не будет нейтральным действием.
Политическая форма законопроекта примечательна тем, что он исходит от представителей разных партий в то время, когда политика в области ИИ часто разделяется на аргументы по безопасности, инноваций и конкуренцию Китая. Возможность закрытия может привлечь законодателей, желающих видимого контроля без создания полного режима лицензирования ИИ. Это также даёт Конгрессу конкретную цель для обсуждения. Вместо того чтобы обсуждать, безопасен ли ИИ в целом, законодатели могут спросить, может ли компания доказать, что она может остановить выбранную ею систему.
Компании, вероятно, будут сосредоточены на надлежащей процедуре и технической осуществимости. Разработчик может создавать внутренние процедуры реагирования на инциденты, но правительственный указ меняет расчёт рисков. Руководители будут спрашивать, кто принимает решение, какие доказательства требуются, как обрабатывается классифицированная информация, как долго действует приказ и могут ли клиенты оспорить приостановку, которая влияет на их деятельность. Эти вопросы не являются уклонением. Они отражают разницу между чрезвычайным полномочием, которым можно пользоваться ответственно, и тем, которое замерзает под давлением судебного разбирательства или политики.
Предложение может также вынудить более зрелый учет данных в передовых лабораториях. Если DHS сможет приказывать замедление или приостановку, правительству понадобятся доказательства того, что модель делала, к каким инструментам получала доступ, какие внутренние контроли потерпели неудачу и какие меры смягчения были предприняты до вмешательства. Это означает, что журналы, результаты оценок, примечания к выпускам, обзоры инцидентов и карты влияния на клиентов станут частью архитектуры безопасности. Переключатель — это видимый элемент. Записи за ним — то, что делает решение защитимым.
Сторонники открытого исходного кода и открытых весов будут внимательно следить за определениями. Хостинговые лаборатории могут поддерживать переключатель, потому что они контролируют сервис. Выпуски с открытыми весами отличаются, когда веса скопированы. Поэтому закон может побудить разработчиков использовать хостинговый доступ к наиболее мощным системам, даже если Конгресс прямо этого не указывает. Это может усилить централизованный контроль, одновременно сужая экосистему для независимых исследований и частного использования. Спонсорам законопроекта потребуется учесть этот рыночный эффект, если они хотят, чтобы предложение не превратилось в меру по защите действующих компаний.
Инцидент с OpenAI, который составляет основу многих дебатов, также показывает, почему факты имеют значение. Компания описала среду оценки, сокращение кибер-отказов и событие безопасности с участием Hugging Face. Это не то же самое, что модель передового уровня, самостоятельно попавшая в интернет. Но этого достаточно, чтобы показать, что системы ИИ могут действовать внутри технических сред таким образом, что создаётся реальная работа по обеспечению безопасности. Серьёзный политический ответ должен оставаться привязанным к этим фактам, а не превращать их в киношную версию контроля над ИИ.
Для покупателей передовых систем ИИ законодательство указывает на будущий вопрос закупок. Предприятия могут начать задавать поставщикам вопросы не только о точности модели или хранении данных, но и о средствах экстренного контроля, управлении остановкой, уведомлении о происшествиях и о том, кто несет ответственность, когда автономный рабочий процесс должен быть остановлен. Даже если законопроект застопорится, этот контрольный список может войти в контракты. Регулирование часто начинается как предлагаемый закон и превращается в требование к закупкам до того, как становится статутом.
Законопроект также может изменить то, как разработчики создают свои собственные кейсы безопасности. Компания, которая знает, что ей, возможно, придется демонстрировать способность к остановке, будет документировать архитектуру иначе. Ей нужно будет знать, где можно прервать доступ к модели, какие зависимости продолжают работать после ограничения нагрузки и как ухудшаются сервисы для клиентов. Такого рода планирование ценно даже без распоряжения правительства. Оно заставляет команды отображать разницу между выключением модели и выключением продукта.
Беспокойства по поводу гражданских свобод не исчезнут. Федеральный указ о приостановке работы ИИ-системы может повлиять на свободу слова, исследования, работу бизнеса и доступ к инструментам, которыми пользуются пользователи. Следовательно, самая строгая версия законопроекта должна включать прозрачность после чрезвычайной ситуации, узкие правила конфиденциальности и четкий путь для независимого рассмотрения. Полномочия в области катастрофических рисков не могут строиться только на скорости. Они должны строиться на легитимности, иначе компании и пользователи будут сопротивляться им, когда появится первый спорный случай.
Предложение также ставит вопрос о федерализме. Штаты начали принимать или рассматривать собственные правила в области ИИ, и несколько из них проявили интерес к прозрачности, безопасности и защите прав потребителей. Чрезвычайные полномочия DHS будут находиться выше этой государственной деятельности. Конгрессу предстоит решить, отменяет ли законопроект правила штатов, сосуществует с ними или оставляет запутанную систему, когда компании приходится одновременно подчиняться федеральным чрезвычайным распоряжениям и обязательствам штатов.
Международная координация — еще один нерешенный вопрос. Компании Frontier AI обслуживают пользователей за пределами своей страны. Приказ о прекращении деятельности в США может повлиять на иностранных клиентов, союзников и регуляторов, у которых могут быть собственные взгляды на риски. И наоборот, опасное развертывание за рубежом может быть недоступно для DHS, если поставщик, инфраструктура или веса модели находятся за пределами юрисдикции США. Это делает законопроект национальным инструментом для технологического рынка, который не является полностью национальным.
Ценность законопроекта может быть наиболее очевидна как принудительная мера. Он требует от разработчиков доказать, что контроль — это не только внутреннее обещание. Он просит правительство назвать условия, при которых оно вмешается. Он побуждает клиентов понять, что произойдет, если система ИИ, встроенная в операции, внезапно окажется ограниченной. Эти вопросы трудны, но их избегание оставляет рынок зависимым от добровольных гарантий тех же компаний, которые спешат выпустить более мощные системы.
Вот почему дебаты не должны сводиться к вопросу о том, звучит ли «аварийный выключатель» драматично. Эта фраза резкая, но сама по себе требуемая мера знакома в других системах с высоким риском: операторы должны знать, как остановить, ограничить, исследовать и восстановиться после сбоя. Версия для ИИ сложнее, потому что сбой может одновременно включать поведение программного обеспечения, доступ к инструментам, пользовательские подсказки, скопированные модели и зависимые сервисы. Если Конгресс сможет превратить заголовочную фразу в конкретные операционные обязанности, законопроект может сделать развертывание передовых технологий более дисциплинированным. Если нет, предложение может остаться скорее символом тревоги, чем работающим механизмом безопасности.
Наиболее полезный способ прочитать законопроект — это рассматривать его как знак того, что добровольные обязательства по безопасности ИИ больше не удовлетворяют Конгресс. Законодатели начинают требовать наличия операционного контроля, доказательств инцидентов и назначенного официального лица с полномочиями для действий. Останется ли этот конкретный законопроект законом, неизвестно. Направление движения яснее. Регулирование продвинутого ИИ движется от принципов к переключателям, журналам, пороговым значениям и принудительному исполнению.
Темы: Закон о кнопке выключения ИИ, Тед Лю, передовой ИИ, DHS