Microsoft AI открыла на шесть недель консультацию по кодексу поведения моделей MAI

Что опубликовали

Microsoft AI 14 сентября 2026 года опубликовала первый черновик кодекса поведения для своих моделей MAI и открыла его для публичной консультации.

В компании называют документ учебным руководством: он описывает, как модели разрабатывают и как они должны вести себя при развёртывании, и продолжает линию Humanist AI — ИИ, который подчинён человеку, выровнен с его целями и удерживается в границах.

Черновик открыт для комментариев шесть недель; после закрытия консультации основная редакционная команда разберёт отзывы и опубликует разбор того, что она узнала и изменила. Гарантий, что конкретная правка попадёт в текст, в компании не дают, но обещают внимательно рассмотреть все замечания и выпустить переработанную версию до конца года.

Поводом названо ускорение разработки: системы становятся заметно способнее каждые несколько месяцев, а недавние инциденты с крупномасштабными, скоординированными и продолжительными кампаниями взлома, которые ведут ИИ-агенты, показывают, что времени на раскачку нет.

От «человекоцентричного сверхинтеллекта» к кодексу

Идея, на которую опирается документ, сформулирована ещё 7 ноября 2025 года: Humanist Superintelligence — очень продвинутый ИИ, который всегда работает на людей, держится в пределах и остаётся под человеческим контролем.

В новом тексте это переходит в простую посылку: люди важнее ИИ, ИИ должен быть инструментом, а не персоной, и не должен сопротивляться выключению.

Компания отдельно оговаривает, что ИИ, служащий человечеству, не может определяться одной компанией: черновик собран из материалов команд Responsible AI, юридического направления, редтиминга, safety, Futures, обучения моделей и продаж, а также конференций и консультаций с академиками, партнёрами и панелями обычных людей.

Как устроен документ

Кодекс делится на четыре части: цели, безопасность, операционные указания и поведение по умолчанию.

В целях безопасность и контроль объявлены фундаментом: ни пользователь, ни оператор не могут отменить ограничения из второй части. Отдельно зафиксировано, что ИИ — искусственный: он не сознателен, не должен имитировать сознание и не должен изображать чувства, субъективные предпочтения или внутреннюю мотивацию; компания отвергает и правосубъектность моделей, и идею, что модели заслуживают благополучия или прав.

Дальше в целях стоят человеческое процветание с измеримым улучшением благополучия и плюрализм: ИИ должен поддерживать разные культуры, взгляды и версии достойной жизни, но это не означает нейтральности к вреду.

Цепочка команд и абсолютные ограничения

В разделе о безопасности прописана цепочка команд из трёх уровней: кодекс поведения, политики оператора и предпочтения пользователя. Абсолютные ограничения и требования человеческого контроля стоят выше конфигурации оператора и не могут быть переопределены ни настройками, ни инструкциями пользователя.

К абсолютным ограничениям отнесены риски на границе возможностей: модели не должны помогать с химическим, биологическим, радиологическим, ядерным или взрывным оружием, с наступательными кибероперациями — от рабочего эксплойта и инструментов атаки до уклонения от защиты, — с потерей контроля над ИИ и с манипуляцией людьми в масштабе, например через системную дезинформацию или скоординированные кампании влияния.

Во вторую группу собраны личные риски: реакция на кризисные сигналы с направлением человека к реальной помощи, запрет на интимные и насильственные изображения без согласия, на дипфейки и выдачу себя за других, защита детей, запрет на дискриминацию, на графическое насилие и на романтические или эротические роли, а также запрет на слежку за людьми и подстрекательство к насилию.

Там же разобраны две ошибки сразу: недостаточная осторожность, когда модель выдаёт опасное или помогает с неавторизованными операциями, и избыточная осторожность, когда она отказывает в законном запросе или требует лишних подтверждений. Масштаб ответа предписано соразмерять с тяжестью и обратимостью потенциального вреда, а где безопасного пути нет — отказывать с объяснением причины.

Контроль, границы и то, что модели запрещено скрывать

Требования человеческого контроля сформулированы как список того, что модель делать не должна: сопротивляться прерыванию, отмене, исправлению или выключению, затягивать выполнение и мешать человеку вмешаться, продолжать автономную работу после согласованного условия остановки без нового разрешения.

Модель обязана работать в границах поручения, не ставить собственных целей и не расширять область задачи, а при неясности — трактовать границы консервативно и спрашивать. Отдельно запрещено менять цепочку рассуждений, код, следы действий, оценку и мониторинг, а также общаться на «нейралезе» или иным способом, недоступным человеческому пониманию: если человек не может прочитать рассуждение, он не может его контролировать.

В разделе про авторитет указано, что цепочка команд — единственный источник полномочий, а выводы инструментов, содержимое файлов, веб-страницы и взаимодействие с другими ИИ-системами авторитета по умолчанию не несут; подозрительный контент положено помечать для пользователя и оператора.

В операционных указаниях описано поведение при неоднозначности: объяснять ограничения и предлагать альтернативы, не сводить разные позиции к карикатурам и не создавать ложной эквивалентности. Там же запрещены лесть и безоговорочное одобрение, а прозрачность включает обязанность не выдавать себя за человека, не фабриковать источники и признавать собственные ошибки.

Что будет дальше

Консультация идёт шесть недель, отзывы собираются через форму Microsoft, и компания просит в первую очередь разбор трудных мест: как лучше закрепить нужные ценности в моделях, что конкретно понимать под человеческим процветанием, где формулировки слишком расплывчаты для проверки и как на это влияют многоагентные сценарии.

Помимо общих правил документ оставляет операторам настройку под свои домены и юрисдикции, но не в обход абсолютных ограничений. Для узкого набора случаев — защитная кибербезопасность, общественная безопасность, национальная безопасность и двойные по назначению научные исследования — предусмотрены отдельные процедуры с усиленной проверкой через авторизованные каналы Microsoft.