Политика
Правительство США теперь будет проверять модели Google, Microsoft и xAI на безопасность перед выпуском
Министерство торговли США заключило соглашения с Google DeepMind, Microsoft и xAI о проверке передовых моделей ИИ до их публичного выпуска — значительный отход от прежнего невмешательства администрации Трампа.
Майкл С ·
Администрация Трампа совершила значительный разворот в отношении надзора за ИИ. Министерство торговли США достигло соглашений с Google DeepMind, Microsoft и xAI о проверке ранних версий их новых моделей ИИ до того, как они будут выпущены для широкой публики — шаг, который сигнализирует о том, что администрация больше не считает приемлемым полностью пассивный подход к передовому ИИ.
Соглашения были подтверждены новым преемником Института безопасности ИИ Министерства торговли, CAISI, который будет проводить оценки. Новости появились вместе с отдельными сообщениями о том, что Белый дом изучает возможность издания исполнительного указа, который потребует от моделей ИИ прохождения проверки безопасности перед коммерческим выпуском.
Тихое изменение политики
Значение этого шага заключается в контексте. Когда администрация Трампа вступила в должность, она во многом демонтировала рамки безопасности ИИ эпохи Байдена, отменив указ от октября 2023 года и изначально сигнализируя, что регулирование ИИ будет минимальным. Новые соглашения предполагают, что эта позиция развилась — по словам источников, под влиянием проблем национальной безопасности, а не защиты потребителей.
Опасения конкретны: противники могут использовать уязвимости в передовых моделях ИИ — или модели могут быть использованы для помощи в разработке оружия массового поражения, кибератак на критическую инфраструктуру или масштабных кампаний по дезинформации. Рамки проверки разработаны для того, чтобы выявлять эти риски до того, как модели станут общедоступными.
Добровольно, пока что
Текущие соглашения носят добровольный характер. Google DeepMind, Microsoft и xAI согласились участвовать, но юридических обязательств делать это нет — и что особенно примечательно, OpenAI и Anthropic не включены в число первоначальных подписантов. Исполнительный указ Белого дома, который рассматривается, мог бы это изменить, потенциально сделав обязательным тестирование безопасности перед выпуском для всех передовых моделей.
Администрация Трампа, которая придерживалась невмешательства в области искусственного интеллекта, теперь обсуждает возможность введения надзора за моделями ИИ до их выпуска. The New York Times, 4 мая 2026 года
Что на самом деле охватывают тесты
CAISI не публиковала подробную методологию, но ожидается, что оценки будут сосредоточены на рисках биобезопасности (может ли модель обеспечить ощутимое преимущество кому-либо, пытающемуся создать биологическое оружие?), рисках кибербезопасности (может ли она помочь в разработке нового вредоносного ПО или в эксплуатации критической инфраструктуры?) и более широких свойствах безопасности, включая способности к обману и манипуляции.
Рамочная структура в общих чертах отражает подход, принятый Британским институтом безопасности ИИ, который проводил оценки передовых моделей нескольких крупных лабораторий. Разница заключается в том, что американская рамочная структура внедряется при администрации, которая публично настроена скептически к регулированию ИИ.
Реакция отрасли
Три компании, подписавшие соглашения, представили своё участие как ответственное руководство. Генеральный директор Google DeepMind Демис Хассабис ранее утверждал, что тестирование безопасности соответствует долгосрочным интересам отрасли. Позиция Microsoft более сложная — компания одновременно является крупным государственным подрядчиком в области ИИ и коммерческим поставщиком ИИ, что даёт ей сильные стимулы быть воспринятой как партнёр, сотрудничающий в вопросах безопасности.
Участие xAI является самым удивительным. Илон Маск публично критиковал регулирование ИИ и был ярым противником исполнительного указа администрации Байдена об ИИ. Соглашение его компании участвовать в предварительном тестировании предполагает либо прагматический расчет относительно отношений с правительством, либо подлинное изменение позиции.
Что будет дальше
Исполнительный указ, если он воплотится в жизнь, станет самым значительным действием США в области управления искусственным интеллектом за многие годы. Обратите внимание на две вещи: будет ли он применяться только к крупнейшим передовым моделям или к более широкому классу систем ИИ, и будут ли в него включены механизмы принуждения или он останется идеологическим документом. Разница между бессильной рамочной структурой и значимой будет заключаться в этих деталях.