«Наша человечность должна оставаться священной»: Карл III собрал лидеров ИИ в Шотландии

Кто собрался в Дамфрис-Хаусе

Официальное сообщение Букингемского дворца описывает встречу как попытку обсудить будущее развёртывание и развитие ИИ на уровне первых лиц: король собрал вместе руководителей ИИ-сектора, министров и представителей гражданского общества. Обсуждения фасилитировала The Ditchley Foundation, а среди участников были представители крупных технологических компаний, включая Nvidia, Google DeepMind, OpenAI и Anthropic.

Со стороны государства на встрече присутствовал министр по искусственному интеллекту Великобритании Канишка Нараян, также приехали представители The King's Trust, The King's Foundation и Sustainable Markets Initiative. Формат подчёркнут отдельно: по словам организаторов, соединение людей из разных сфер продолжает давнюю линию короля — решать крупные общественные задачи через сотрудничество и содержательный диалог.

Цель встречи сформулирована как поиск общего: делегаты обсуждали, можно ли выработать общий набор принципов, который будет направлять дальнейшее применение ИИ. Предполагаемая рамка должна показать технологию не только как драйвер возможностей и эффективности, но и как инструмент, который поддерживает человеческое достоинство и благополучие людей и планеты. Перед началом формальных дискуссий король присоединился к руководителям компаний, чтобы обозначить смысл встречи, и участвовал в официальной групповой фотографии.

Что король сказал в речи

В речи король начал с того, что развитие ИИ — и его суть, и его темпы — «в равной мере интригует и глубоко беспокоит». Он признал, что технология уже показывает огромную способность улучшать и спасать жизнь, например в науках о жизни и медицине, но тут же добавил, что создатели этих технологий всё чаще предупреждают о «более тёмных способностях» — вплоть до способности отнимать жизнь.

Отсюда прямое предупреждение: по мнению короля, существует срочность в том, чтобы адекватно рассмотреть экзистенциальные опасности попадания таких технологий в неправильные руки и их потенциально катастрофического применения, и он задал риторический вопрос — разве у нас нет достаточных средств контроля, пока не стало слишком поздно. Отдельно он сказал, что люди, для которых важны человечность и её моральная составляющая, «с тревогой ищут у вас заверений, что мы не потеряем контроль над своей судьбой или своими душами».

Дальше король сформулировал две задачи, продолжив своё послание саммиту по безопасности ИИ в Блетчли-парке 2023 года: как использовать выгоды ИИ так, чтобы безопасность была в центре, и как выстроить международное сотрудничество и консенсус, при котором «ни одна нация не останется позади, но человеческий род останется на месте». Он оговорил, что эти вопросы могут звучать гиперболично, но считает их «просвещённым реализмом», а ответы потребуют не только интеллектуального превосходства, но и того, что отличает человека от машины.

«Harmony» и рамка служения человеку

Место встречи король связал с собственной философией: Дамфрис-Хаус он назвал своего рода живой лабораторией для идеи Harmony из книги, написанной им в соавторстве около шестнадцати лет назад, — о балансе, порядке и связях между человеком и природным миром. В его изложении это означает будущее, в котором мы «часть природы, а не отдельно от неё».

Применительно к ИИ эта рамка звучит так: инновация должна рассматриваться внутри более широких систем, от которых все зависят. Король пожелал участникам, чтобы философия Harmony дала им перспективу, позволяющую согласовать долгосрочные потребности человечества с возможностями новых технологий, и завершил ключевой формулой речи — «наша человечность должна оставаться священной».

Итоговая задача, по его словам, не в том, чтобы просто продвигать технологию, а в том, чтобы она оставалась на службе человечества, сообщества и природного мира: «принимая новое, мы не должны потерять то, что вне времени». В официальном сообщении дворца из его речи приведена та же мысль в другой формулировке — о будущем, где человеческий потенциал остаётся безграничным, а технологическое развитие «тщательно курируется», чтобы усиливать успех людей.

Что известно о следующих шагах

Публикация дворца не сообщает о каких-либо принятых обязательствах или подписанных документах: речь идёт о дискуссии про возможные общие принципы и о намерении продвигать этические принципы, которые отрасль могла бы поддерживать совместно. Король, завершая речь, сказал, что ждёт возвращения, чтобы позже в тот же день услышать выводы обсуждений.

Организаторы при этом отметили простой фон: ИИ остаётся одной из самых быстро распространяемых технологий в истории, и его стремительная эволюция создаёт постоянные вызовы. Именно поэтому площадка описывается как попытка заранее договориться о принципах, а не как разовая встреча: в сообщении подчёркнута ставка на коллективные этические ориентиры для отрасли.