«У нас есть выбор»: Сэм Альтман выступил в Совете Безопасности ООН и назвал два сценария, которых нужно избежать

Что произошло

23 сентября 2026 года глава OpenAI Сэм Альтман выступил в Совете Безопасности ООН по вопросу искусственного интеллекта. По формулировке OpenAI, он говорил о потенциале ИИ расширять возможности людей, о важности удерживать мощные системы под контролем человека и о необходимости международной кооперации в области безопасности ИИ. Текст выступления опубликован OpenAI как «remarks as delivered» — то есть как произнесённая речь.

Что это было за заседание

Совет Безопасности проводил заседание высокого уровня в 15:00 по нью-йоркскому времени, чтобы обсудить искусственный интеллект в рамках пункта повестки о поддержании международного мира и безопасности. Заседание созвала Франция как председатель Совета в сентябре, а вёл его министр по делам Европы и иностранных дел Франции Жан-Ноэль Барро. Совет ожидал заслушать Юшуа Бенжио, сопредседателя Независимой международной научной группы ООН по ИИ, Сэма Альтмана из OpenAI, Дарио Амодея из Anthropic и Клемана Деланга из Hugging Face.

UN News описывает итог так: Совет Безопасности был проинформирован одними из ведущих руководителей в сфере ИИ о огромных выгодах и огромных рисках передовой технологии. По данным UN News, на фоне предупреждений о том, что мир может терять контроль над системами, созданными думать лучше нас, Юшуа Бенжио назвал опасность выхода ИИ из-под контроля человека беспрецедентной угрозой для стран — такой, которую «ни одна не может сдержать в одиночку» и которая «не уважает границы, которые мы защищаем».

Две дороги и два риска

Альтман начал с ощущения сдвига: об ИИ говорят годами, но в последние недели и месяцы всё иначе — быстрый прогресс моделей сжимает сроки, делает выгоды осязаемее, а ставки и риски — более непосредственными. По его словам, перед миром стоит выбор: ИИ может оказаться либо новым Ренессансом творчества и открытий, либо новой промышленной революцией с потрясениями и разладом.

Глава OpenAI заявил, что в основном согласен с профессором Бенжио, но назвал не три, а два способа, которыми прогресс ИИ может пойти очень плохо. Первый — потеря контроля над будущим: риск в том, что события пойдут так быстро, что люди больше не смогут следить за происходящим или вмешаться, когда это нужно. Второй — чрезмерная концентрация власти: ни один человек, компания или страна не должны получать возможность навязывать своё видение всем остальным с помощью самых мощных моделей.

Альтман добавил, что индустрия не должна принимать чрезмерный технологический риск только потому, что выгоды кажутся слишком большими, а соревновательный темп — не причина для поспешных решений. По его словам, OpenAI добровольно замедлялась в прошлом и будет делать это в будущем, а модели, для которых нельзя дать чрезвычайно сильное обоснование сохранения контроля человека, обучать не следует.

Три принципа

Альтман сформулировал три принципа своей позиции.

Первый: по мере роста возможностей ИИ люди должны оставаться в центре принятия решений, а согласование поведения систем — не абстрактный исследовательский вопрос, а работа по обеспечению того, чтобы системы надёжно оставались под контролем человека и отражали человеческие ценности.

Второй: блага научного прогресса и экономического роста должны создаваться людьми и служить людям — ИИ должен помогать исследователям, врачам, учителям, предпринимателям и сообществам.

Третий: технология должна усиливать человека индивидуально, а не превращать людей в винтики большой машины.

Отдельно он подчеркнул, что компания не является героем этой истории: по его словам, роль разработчиков — дать людям во всём мире возможность раскрыть свой потенциал.

Стандарты, отчётность и демократия

По мнению Альтмана, если ИИ должен быть демократическим, самые важные решения не могут приниматься одними лабораториями в Сан-Франциско — их должны формировать демократические процессы и правительства, подотчётные своим гражданам. На международном уровне, по его словам, это потребует кооперации, и сейчас наступил момент, когда конкурирующие страны должны объединиться ради общих интересов перед лицом мощной новой технологии.

Он перечислил, что, по его мнению, нужно создать: механизм взаимодополняющих национальных и международных стандартов для frontier-ИИ, включая измерение возможностей, оценку рисков, определение достаточности защитных мер и сохранение содержательного человеческого надзора по мере роста автономности систем. Также, по его словам, нужны точная и быстрая отчётность об инцидентах с протоколами классификации, чтобы мир учился на сбоях до того, как они станут катастрофами, и защищённые каналы между правительствами, операторами критической инфраструктуры и техническими экспертами для обмена сведениями об уязвимостях и новых угрозах. Альтман оговорил, что стандарты не должны закреплять положение действующих игроков или отдавать предпочтение одной бизнес-модели, и что каждое правительство само решает, как встраивать их в своё право.

В качестве иллюстрации прогресса он привёл математику: три лета назад модели были лишь приличны в школьной математике, два лета назад — хороши на школьных олимпиадах, прошлым летом вышли на золотой уровень самого престижного международного математического соревнования, а несколько недель назад одна из моделей решила одну из задач тысячелетия — уравнения Навье — Стокса.

Что говорили другие

Китай на этом же заседании отверг «поиск цифровой гегемонии»: постоянный представитель КНР Фу Цун заявил, что ИИ — общее достояние человечества, а не игра богатых стран и богатых людей, и призвал техногигантов подчиняться регулированию и общественному надзору. США, напротив, выступили против глобального управления ИИ: помощник президента и директор Управления научно-технической политики Белого дома Майкл Крациос заявил, что быстрый прогресс технологии не является причиной приостанавливать разработку или ограничивать её новыми глобальными структурами управления.

Что дальше

Альтман завершил выступление признанием, что у OpenAI нет всех ответов, и готовностью работать над решением вместе. По его словам, мир стоит на перекрёстке: один путь ведёт к концентрации власти и непрозрачным решениям, второй — к ИИ, который работает для людей, потому что люди через демократические институты помогают решать, как он должен развиваться.