Сандерс и Касар предложили запретить artificial superintelligence в США

Два разных ограничения в одном законопроекте

Сенатор Берни Сандерс и член Палаты представителей Грег Касар объявили о подготовке Ban Artificial Superintelligence Act. В официальном сообщении инициатива разделена на две части: постоянный запрет на разработку и внедрение superintelligent AI и временная пауза для advanced AI, которая должна действовать, пока федеральный регулятор не установит правила безопасности. Авторы также хотят поручить США добиваться международных соглашений, не допускающих создания superintelligence в других странах.

Это пока политическое объявление о forthcoming legislation, а не вступивший в силу закон. Публикация не сообщает номер внесённого билля, текст статей, комитетский маршрут или дату голосования. Поэтому точнее говорить о заявленной конструкции будущего проекта: наиболее мощный класс систем предлагается запретить постоянно, а более широкую категорию advanced AI — поставить на паузу до появления регуляторной рамки.

Авторы связывают инициативу с потерей контроля

Сандерс объясняет предложение риском создания систем, которые люди не смогут полностью контролировать. Он утверждает, что руководители крупных AI-компаний сами признают неполное понимание развиваемой технологии, и на этом основании считает дальнейшее наращивание возможностей без ограничений безответственным. В его формулировке решение о будущем технологии не должно оставаться у небольшой группы Big Tech-компаний.

Касар делает акцент на безопасности, свободе и жизни американцев и сравнивает слабость регулирования передового AI с требованиями к обычному бизнесу. Его аргумент строится не вокруг запрета всех алгоритмов, а вокруг систем, которые становятся слишком мощными для контроля. Однако опубликованный анонс не раскрывает юридический тест, по которому регулятор или суд должен будет определить, относится ли конкретная модель к superintelligent или advanced AI.

Главная неопределённость — определения и пороги

Для исполнения такого запрета решающими станут определения. Одной общей характеристики «машина, которую человек не контролирует» недостаточно для лицензирования, надзора и судебного применения: законодателю потребуются измеримые критерии, ответственные ведомства, процедуры проверки и правила для обновления уже развёрнутых моделей. В пресс-релизе этих деталей нет, поэтому нельзя заключить, какие training runs, модели, продукты или исследовательские работы реально попадут под ограничения.

Неясно и то, что именно завершит временную паузу. Анонс связывает её с созданием федеральным регулятором safety rules, но не перечисляет обязательные оценки, стандарты red teaming, требования к отчётности или механизм выдачи разрешений. Эта граница важна: пауза с заранее определёнными критериями возобновления отличается от запрета, срок которого фактически зависит от будущего политического решения.

Международная часть усложняет исполнение

Авторы отдельно включают внешнеполитическую цель: США должны стремиться к международным соглашениям, предотвращающим разработку superintelligence где-либо в мире. Такой пункт отражает трансграничный характер AI-разработки — ограничения только одной юрисдикции не останавливают обучение модели в другой стране. Но пресс-релиз не описывает формат соглашения, участников, контроль вычислительных ресурсов или проверку соблюдения.

На практике международный контур будет не дополнением, а одной из центральных частей проекта. Если американские организации остановят определённый класс разработки, а сопоставимые работы продолжатся в иных юрисдикциях, возникнут вопросы о перемещении специалистов, оборудования, капитала и model weights. Анонс фиксирует намерение добиваться общей нормы, но пока не даёт инструмента, который превратил бы её в проверяемое обязательство.

Что нужно увидеть в тексте проекта

После официального внесения законопроекта ключевыми будут четыре блока: определения superintelligent и advanced AI, полномочия федерального регулятора, условия завершения паузы и ответственность за нарушение. Без них невозможно оценить, ограничивает ли проект только frontier-разработчиков или затрагивает более широкий рынок, включая open-weight модели, университетские исследования и компании, адаптирующие чужие системы.

Не менее важны переходные правила. Уже работающие сервисы, незавершённые training runs, научные исключения и обновления моделей потребуют однозначного статуса. Пока же подтверждён только сам политический замысел, объявленный Сандерсом и Касаром 3 сентября: постоянный запрет на superintelligent AI, временная пауза для advanced AI и попытка распространить запрет через международные договорённости.