Этика
Magnifica Humanitas: 42 000-словное размышление Папы Льва XIV об искусственном интеллекте
В первой энциклике своего понтификата Папа Лев XIV опубликовал самый всеобъемлющий моральный анализ искусственного интеллекта, когда-либо созданный крупной религиозной организацией. Этот документ объемом 42 000 слов призывает «разоружить» ИИ от его конкурентной логики — и называет Anthropic по имени.
Патрик Т ·
30 мая 2026 года Папа Лев XIV опубликовал энциклику Magnifica Humanitas — по-латыни «великолепное человечество» — первую энциклику своего понтификата и самое подробное моральное исследование искусственного интеллекта, когда-либо созданное крупной религиозной организацией. На 42 000 слов документ превышает по объему большинство докторских диссертаций. Он также является, в контексте дискуссий о политике в области ИИ, действительно необычным: это последовательный философский аргумент, основанный на многовековой католической социальной доктрине, который воспринимает технологию серьезно настолько, чтобы взаимодействовать с ней на ее собственных условиях.
Энциклика выходит в момент, когда отношения Ватикана с индустрией ИИ стали неожиданно тесными. Anthropic, компания по безопасности ИИ, стоящая за Claude, в течение нескольких лет активно ведет диалог с офисом по этике Ватикана. В энциклике явно упоминается Anthropic — поразительный жест, который показывает, что документ является не общей предосторожностью от учреждения, незнакомого с технологией, а обдуманным ответом от того, кто наблюдал за этим изнутри.
«Разоружать не значит отвергать технологии, а предотвращать их господство над человечеством». — Папа Лев XIV, Magnifica Humanitas
Главный аргумент книги Magnifica Humanitas строится вокруг одной метафоры: ИИ был «вооружён» — сформирован логикой геополитической и коммерческой конкуренции — и должен быть разоружён. Папа не призывает к запрету. Он призывает к изменению условий, при которых разрабатывается и внедряется ИИ. «Технология никогда не нейтральна, — пишет он, — потому что она перенимает черты тех, кто её придумывает, финансирует, регулирует и использует». Разработчики ИИ, следовательно, «несут особую этическую и духовную ответственность, ибо каждый выбор в дизайне отражает представление о человечности».
Аргумент субсидиарности
Одним из наиболее существенных вкладов энциклики в дискуссию о управлении ИИ является её обращение к принципу субсидиарности — принципу католического социального учения, согласно которому решения должны приниматься на максимально местном уровне. Лев применяет это прямо к разработке ИИ, утверждая, что сообщества и организации гражданского общества не должны "сводиться к пассивным получателям решений, принятых в другом месте." Концентрация возможностей ИИ в руках небольшого числа крупных технологических компаний, как предполагается в документе, является не просто экономической проблемой. Это структурное нарушение условий, при которых может поддерживаться человеческое достоинство.
Энциклика также занимает ясную позицию по владению данными: «владение данными не может оставаться исключительно в частных руках, но должно быть соответствующим образом регулируемо». Это более прямое вмешательство в политику в области технологий, чем большинство папских документов, и оно сближает позицию Ватикана с рамками управления данными Европейского Союза более тесно, чем с американской моделью в значительной степени нерегулируемого сбора данных.
Критика трансгуманизма
Самая философски амбициозная часть энциклики обращается к трансгуманизму и постгуманизму — интеллектуальным течениям, которые рассматривают биологические ограничения человека как проблемы, которые можно решить с помощью технологий. Ответ Льва не является простым отрицанием. Это переосмысление: «человечество процветает не несмотря на ограничения, а часто благодаря им». Способность к состраданию, к щедрости, к духовному опыту — это не сбои в человеческой системе, которые нужно исправлять с помощью ИИ. Наоборот, по мнению Льва, именно эти качества делают человеческую жизнь достойной того, чтобы ее проживать.
«Если человека воспринимать как нечто, что нужно усовершенствовать или превзойти, — предупреждает энциклика, — становится легче согласиться с тем, что некоторые жизни менее полезны, менее желанны или менее достойны. Во имя прогресса могут начать оправдываться необходимые жертвы, перекладывая бремя на наиболее уязвимых в погоне за предполагаемой оптимизацией вида». Этот отрывок является прямым вызовом течениям эффективного альтруизма и долгосрочного мышления, которые сформировали подходы многих крупных лабораторий по ИИ.
Соединение Anthropic
Явное упоминание Anthropic в папской энциклике не имеет прецедентов в истории технологий. Это отражает отношения, которые развивались тихо как минимум с 2023 года, когда Дикастерия Святого Престола по культуре и образованию начала взаимодействовать с компаниями в области ИИ по вопросам этики и человеческого достоинства. Источник, причастный к технической деятельности Ватикана, говоря перед выпуском энциклики, охарактеризовал технологических лидеров как «заинтересованных в мудрости церкви» в вопросе «как лучше служить человечеству».
Ответ Anthropic на энциклику был сдержанным. Команда компании по интерпретируемости — которая занимается пониманием того, что происходит внутри моделей ИИ — была упомянута в документе как пример той работы по прозрачности, которую Ватикан считает необходимой. Это заметная поддержка: Папа не просто критикует компании, работающие с ИИ, но и различает тех, кто занимается вопросами безопасности, и тех, кто этого не делает.
Чего энциклика не делает
Magnifica Humanitas не предлагает конкретные регуляторные механизмы. Оно не призывает к мораторию на развитие ИИ. Оно не поддерживает какую-либо конкретную систему управления. Что оно делает, так это то, чего светская дискуссия о политике в области ИИ в значительной степени не смогла сделать: оно предоставляет последовательное объяснение того, что поставлено на карту для человека — не только как для работника, гражданина или потребителя, но и как для личности с внутренней жизнью, которую нельзя свести к данным.
Будет ли этот аргумент влиять на инженеров, инвесторов и законодателей, которые фактически формируют траекторию развития ИИ, — открытый вопрос. Энциклика формально адресована католикам. Но на практике её аудитория — это любой, кто посчитал утилитарные подсчёты в дебатах о безопасности ИИ недостаточными, кто подозревает, что вопрос о том, что ИИ делает с человеком, не полностью отражается в бенчмарках, показателях согласованности или оценках возможностей. Для этой аудитории "Magnifica Humanitas" является самым серьёзным документом, который породили эти дебаты.