В католическом мире и за его пределами обсуждают послание Папы Римского Льва XIV — его первую энциклику под названием «Magnifica Humanitas» («Величие человечности»): о защите человеческой личности во времена искусственного интеллекта». Это программный документ, в котором понтифики по традиции высказываются на важные общественно-политические и богословские темы. В центре внимания Льва XIV оказался ИИ, а на презентацию в Ватикан он пригласил соучредителя корпорации Anthropic, которая судится с президентом США Дональдом Трампом. О том, почему к энциклике американского Папы приковано такое внимание, и выдержки из нее — в материале и переводе RTVI.
Первая энциклика Льва XIV: почему это интересно
- Лев XIV подписал текст в 135-ю годовщину публикации энциклики «Rerum Novarum» (О новых вещах) своего тезки на Святом Престоле и духовного авторитета Льва XIII. На исходе XIX века понтифик рассуждал о правах трудящихся и капитализме в эпоху промышленной революции. Считается, что та энциклика заложила основы современной социальной доктрины Католической церкви. Послание Льва XIV вышло в разгар ИИ-революции, вызывающей этические споры и опасения, что искусственный интеллект заменит живых людей.
- В первой энциклике Льва XIV увидели продолжение заочного спора между первым американским Папой (Роберт Фрэнсис Прево — уроженец Чикаго) и президентом-республиканцем Дональдом Трампом.
«В своем тексте Папа Лев осудил «культуру власти», движимую гонкой искусственного интеллекта, особенно в разработке все более изощренных методов дистанционной войны. Он заявил, что недопустимо доверять системам ИИ необратимые, фатальные решения, что стало еще одним поводом для разногласий между американским Папой и администрацией Трампа, которая активно работала над дерегулированием развития ИИ», — отмечает Associated Press.
- Представители Ватикана отказались сообщить, кто участвовал в составлении энциклики. Однако, как пишет AP, Ватикан и церковные деятели Католической церкви уже десять лет ведут диалог с технологическими компаниями из Кремниевой долины.
- На презентации в Ватикане выступил специальный приглашенный гость Кристофер Олах — соучредитель американской компании Anthropic (создала языковые модели Claude). Сейчас Anthropic ведет судебную тяжбу с администрацией Трампа. Та потребовала от всех американских ведомств прекратить использование ИИ-технологии Anthropic из-за отказа компании разрешить к ней неограниченный доступ американских военных.
- По мнению наблюдателей, документ может стать отправной точкой в дискуссии об искусственном интеллекте и за пределами католического мира, послужить ориентиром для политиков, социологов и всех неравнодушных.
«Я убежден, что этот документ станет определяющим для нашей эпохи, глубоким и пророческим документом. Папа Лев высказывает ясную, всеобъемлющую и последовательную позицию, призывая нас взять на себя ответственность за построение мира, в котором технологии будут служить людям, а не унижать их», — поделился с AP профессор права в юридической школе Нотр-Дам и председатель наблюдательного совета Meta Паоло Кароцца.
Как полагает руководитель подразделения искусственного интеллекта Microsoft и директор Института ИИ Католического университета Америки Тейлор Блейк, документ сподвигнет тех, кто находится на передовой создания ИИ-машин, задаться вопросами в духе «Что значит быть человеком?»
- Папа Лев XIV коснулся и других тем, которые Белый дом может воспринять в том числе на свой счет. Среди них — власть корпораций, наращивание военных потенциалов, вовлеченность в региональные конфликты и даже издержки добычи редкоземельных металлов, которыми так озабочен Трамп.
- Американский Папа и американский президент-республиканец ранее вели заочную полемику. Понтифик критиковал миграционную политику властей США, не поддержал похищение президента Венесуэлы Николаса Мадуро и, наконец, открыто осудил войну в Иране, под которую в Белом доме пытались подвести богословское обоснование.
Папа Римский на это заявил, что Господь «отвергает молитвы тех, кто ведет войну», а первопричинами конфликта назвал одержимость «манией всемогущества». Тогда глава Белого дома позволил себе беспрецедентные выпады в адрес главы Римско-католической церкви. «Папа Лев слаб в вопросах преступности и ужасен во внешней политике», — объявил Трамп в соцсети Truth Social. А заодно опубликовал свой портрет в иконографии Христа и намекнул, что Роберт Прево не оказался бы в Ватикане, не окажись он, Трамп, в Белом доме.
О чем говорит Папа Лев XIV: фрагменты
Alessandra Tarantino / AP
О том, что Церковь не против ИИ как такового
Мы должны просить Бога о мудрости для толкования великих тенденций нашего времени, особенно технологических достижений. В последние годы становится всё более очевидным, как быстро и глубоко цифровизация, искусственный интеллект и робототехника преобразуют наш мир.
Технология сама по себе не должна рассматриваться как сила, враждебная человечеству. Напротив, она с самого начала являлась частью нашей истории как «глубоко человеческая реальность, связанная с автономией и свободой человека».
На протяжении веков технологическое развитие значительно улучшало условия жизни человечества. В то же время каждый этап прогресса выявлял неоднозначность инструментов, которые могут причинить вред, если они не ориентированы на благо.
Об отношении к ИИ через призму двух библейских метафор — строительства Вавилонской башни и восстановления стен Иерусалима
Чтобы понять, как ответственно прокладывать путь в эпоху ИИ, я хотел бы вспомнить две сцены из Библии: строительство Вавилонской башни (книга Бытия 11:1-9) и восстановление стен Иерусалима (книга Неемии 2-6).
История Вавилона появляется в Книге Бытия, у истоков человечества, сразу после родословных сыновей Ноя. Поселившись на равнине в земле Сенаар, люди решили построить город и башню «высотою до небес». Опасаясь рассеяния по земле, они стремились обеспечить себе стабильность и власть и, прежде всего, «сделать себе имя». Это был впечатляющий подвиг: единый язык, единая технология, единое направление.
Однако этот проект скрывал глубокую опасность. Это был проект, задуманный без обращения к Богу, подкреплённый единообразием, которое исключало разнообразие и ставило гомогенизацию выше общности.
Когда город строится на гордыне и стремлении к самодостаточности, нарушается коммуникация, происходит смешение языков, и люди перестают понимать друг друга. Результатом является не единство, а рассеяние. Таким образом, Вавилон показывает пределы любых усилий, которые, какими бы грандиозными они ни были, проистекают из самоутверждения, жертвуют человеческим достоинством ради эффективности и стремятся достичь небес без Божьего благословения.
Книга Неемии начинается в период крайней уязвимости в истории древнего Израиля. После вавилонского плена часть народа вернулась в Иерусалим, но город все еще лежал в руинах, стены рухнули, а ворота сгорели. Неемия, еврей, служивший персидскому царю Артаксерксу, получил известие о катастрофическом состоянии своего родового города. <…>
Он не навязывал решения сверху. Он собрал семьи, выделил каждой из них участок стены для восстановления, выслушал их опасения, скоординировал усилия и пресек любое сопротивление.
Повествование показывает, как город возрождается не по инициативе одного человека, а благодаря общей ответственности всех: мужчины, женщины, священники, ремесленники, главы семей и молодежь — у каждого есть своя роль. Это начинание, в центре которого находится Бог, которое сначала восстанавливает отношения, а затем — камни.
Святой Дух сегодня бросает нам вызов относительно наших отношений с технологией и продолжающейся цифровой революцией.
Научные открытия — это таланты, доверенные человечеству, чтобы они приносили плоды. Технология обладает силой исцелять, объединять, обучать и защищать наш общий дом; но она также может разделять, исключать и порождать новые формы несправедливости. В абстрактном смысле технология сама по себе не является решением проблем человечества, так же как она не является по своей сути злом. Однако на практике технология никогда не бывает нейтральной, потому что она принимает характеристики тех, кто ее разрабатывает, финансирует, регулирует и использует.
Поэтому основной выбор стоит не между «да» или «нет» технологии, а между строительством Вавилона и восстановлением Иерусалима; между силой, претендующей на господство над небесами, и народом, который работает сообща в присутствии Бога, чтобы восстановить стены братского сосуществования.
О сути ИИ
Alessandra Tarantino / AP
Невозможно дать единое, всеобъемлющее определение ИИ. Однако можно сказать, что мы должны избегать ошибочного представления о том, что этот тип «интеллекта» приравнивается к человеческому.
Эти системы лишь имитируют определенные функции человеческого интеллекта. При этом они часто превосходят человеческий интеллект по скорости и вычислительным возможностям, предлагая ощутимые преимущества во многих областях. Тем не менее, эта мощь остается полностью связанной с обработкой данных.
Так называемый искусственный интеллект не переживает опыт, не обладает телом, не чувствует радости или боли, не развивается через отношения и не знает изнутри, что означают любовь, работа, дружба или ответственность.
У них [машин] также нет моральной совести, поскольку они не судят о добре и зле, не постигают истинный смысл ситуаций и не несут ответственности за последствия. Они могут имитировать язык, поведение и аналитические навыки или даже моделировать эмпатию и понимание, но они не понимают, что производят, поскольку им не хватает межличностной и духовной перспективы, благодаря которой люди растут в мудрости.
О «разоружении» ИИ
Как любой крупный технологический сдвиг, ИИ фактически усиливает власть тех, кто уже обладает экономическими ресурсами, опытом и доступом к данным. <…>
По этой причине крайне важно, чтобы использование ИИ, особенно когда оно затрагивает общественные блага и основные права, регулировалось четкими критериями и эффективным надзором.
Я хотел бы использовать выражение «разоружить», которое мне очень близко. Разоружение ИИ означает освобождение его от менталитета «вооруженной» конкуренции. <…>
Разоружить означает отвергнуть предположение о том, что техническая мощь автоматически дает право на управление. Разоружить означает не отвергать технологии, но предотвращать их доминирование над человечеством.
В некотором смысле технологические инновации могут представлять собой участие человека в божественном акте творения. Поэтому разработчики несут особую этическую и духовную ответственность, поскольку каждый проектный выбор отражает видение человечества.
Об исторической вине Церкви в поддержке рабства
Мы не можем отрицать или преуменьшать задержку, с которой и общество, и Церковь стали осуждать бич рабства. В древности и в Средневековье многие люди и даже церковные учреждения имели рабов.
Уже в ранний период Нового времени Апостольский Престол Рима, откликаясь на просьбы монархов, несколько раз вмешивался [в политические события], чтобы регулировать и легитимизировать формы порабощения, а в некоторых случаях и порабощение «неверных». Только в XIX веке было четко сформулировано формальное, абсолютное и всеобщее осуждение рабства, в частности, при Папе Льве XIII. <…>
Это являет собой рану в христианской памяти, от которой мы не можем считать себя отстраненными. Невозможно не испытывать глубокой скорби, размышляя об огромных страданиях и унижениях, которые перенесли многие, в резком контрасте с их неизмеримым достоинством как людей, бесконечно любимых Господом. За это от имени Церкви я искренне прошу прощения.
О новом технологическом рабстве и редкоземах
Значительная часть функционирования цифровой экономики опирается на невидимый труд миллионов людей, занятых важной, но в значительной степени незаметной деятельностью, такой как маркировка данных, обучение моделей и модерация контента. <…>
Во многих случаях эти работники — молодые люди, преимущественно женщины, работающие в тяжелых условиях за минимальную заработную плату. К этому невидимому труду добавляется еще более тяжелая работа по добыче ресурсов, необходимых для производства устройств и микропроцессоров, от которых зависит ИИ.
В некоторых регионах мира дети и подростки работают в опасных условиях, измельчая материалы, из которых добываются редкоземельные элементы. Тела этих людей изуродованы, травмированы и изношены, чтобы вычислительный поток мог продолжаться бесперебойно.
Преступные сети используют онлайн-платформы, системы обмена сообщениями, анонимные способы оплаты и методы профилирования для вербовки, контроля и транспортировки жертв торговли людьми — очень часто несовершеннолетних, — превращая мужчин и женщин в «данные», которые нужно отслеживать. <…>
Если технологии обещают эмансипацию, но при этом порождают новые формы глобального подчинения, это противоречит основополагающему принципу человеческого достоинства.
О войнах в цифровую эпоху
Zuma / TASS
Цифровая революция меняет характер конфликтов. Наряду с традиционными методами ведения войны появляются гибридные формы, такие как кибератаки, манипулирование информацией, кампании влияния и автоматизация стратегических решений. <…>
То, что создано для обороны, может быть быстро перепрофилировано для нападения, и тонкая грань между защитой и агрессией размывается. Хотя ИИ может улучшить оборону и защиту гражданского населения, он также может снизить порог применения силы, оградить людей от ответственности и способствовать формированию культуры, в которой враг сводится к статистической единице, а жертва — к «сопутствующему ущербу».
Сегодня мы наблюдаем настоящий сдвиг парадигмы в общественном дискурсе и в решениях, касающихся перевооружения, с тревожным возрождением войны как инструмента международной политики. <…>
Региональные конфликты, которые затягиваются на длительное время, эскалация напряженности и взаимные угрозы становятся почти обыденным явлением, и вновь появляются формы конфликтов, движимые стремлением к территориальной экспансии, которые, как считалось, уже преодолены. <…>
Мы наблюдаем тревожную утрату исторической памяти, поскольку исчезают свидетельства очевидцев Холокоста и двух мировых войн. Это приводит к избирательному или искаженному переписыванию прошлого в контексте, где фейковые новости и манипулирование нарративами заслоняют извлеченные уроки. Без живой памяти об ужасах войны политические решения рискуют приниматься исключительно на основе власти, без учета долгосрочных последствий.
Коммуникационные сети, фрагментированная информационная среда и алгоритмы, поощряющие конфликты, могут усиливать поляризацию и недовольство, увеличивать пропаганду и затруднять формирование единого мнения. Таким образом, война не только ведется, но и культурно обуславливается упрощенными нарративами, менталитетом «друг или враг», дезинформацией и страхом.
Когда историческая память стирается, а этические принципы, защищающие гражданское население и наиболее уязвимых, ослабевают, становится легче оправдывать насилие как необходимое, неизбежное или даже «обеззараживающее». Именно в этом контексте человечество скатывается к насильственной культуре власти, где мир больше не представляется обязанностью, которую нужно брать на себя, а лишь хрупким промежутком между конфликтами. <…>
Культура власти проникает в общество, укрепляется за счет [идеи] нормализации войны и подпитывания ложного реализма, который настаивает на отсутствии альтернативы.
Сегодня, как никогда прежде, важно подтвердить, что теория «справедливой войны», которая слишком часто использовалась для оправдания любой войны, устарела. Человечество обладает гораздо более эффективными и действенными инструментами для защиты человеческой жизни и разрешения конфликтов, такими как диалог, дипломатия и прощение.
Рост военно-промышленного комплекса стал определяющей чертой современного политического ландшафта и ключевым сектором экономики различных стран. Тесная связь между экономическими интересами, военным аппаратом и политическими решениями порождает «вооруженное государство», в котором война предстает как естественное продолжение политики, а рынок вооружений становится автономной движущей силой военных решений.
Иногда говорят об «искусственных моральных агентах», как будто машины способны различать добро и зло с большей точностью, чем человек. Однако моральное суждение нельзя свести к расчету, поскольку оно включает в себя совесть, личную ответственность и признание другого человека как личности.
Недопустимо доверять искусственным системам принятие решений, ведущих к летальному исходу или иным необратимым последствиям. Никакой алгоритм не может сделать войну морально приемлемой.
ИИ не устраняет присущую конфликту бесчеловечность; напротив, он может лишь ускорить конфликт и сделать его более безличным, снижая порог для применения насилия, превращая оборону в прогнозирование угроз и, таким образом, сводя жертв к статистике.
Таким образом, он приучит нас к мысли, что насилие неизбежно и нуждается лишь в оптимизации. Когда решение о нанесении удара становится автоматизированным или непрозрачным, риск отказа от ответственности возрастает.
О ложном тезисе о неизбежности войн
Эскалация конфликтов приводит к асимметричным и «гибридным» войнам, которые ведутся не только на поле боя, но и на экономическом, финансовом и киберфронтах, где дезинформация и кампании, разжигающие страхи людей, используются для манипулирования общественным мнением. <…>
В основе этих проблем лежит ложный реализм, основанный не только на преобладающем менталитете силы, но и на культурном и антропологическом убеждении, что война является неизбежной частью человеческой природы. Говорят, что так было всегда, за исключением редких перерывов, и что так будет всегда!
В результате, забота сводится не к поиску мира, который утрачен как ориентир на международной арене, а к тому, как и когда предпринимать военные действия.
Этот же аргумент утверждает, что было бы безответственно не готовиться к конфликту. Однако я бы утверждал, что по-настоящему безответственной является реальная политика, форма политического «реализма», которая сеет в сознании и обществе смирение перед неизбежностью войны и отвергает мир и диалог как утопические или иррациональные позиции, игнорирующие риски.
О неприятии идеи войны и обращении к власть имущим
На самом деле мир — это не наивная надежда и не просто отсутствие войны; напротив, он всегда возможен как плод справедливости и милосердия. <…>
Мы можем также увидеть значительную часть человечества, которая стремится сохранить человечность и работает над строительством священного града сосуществования и мира. Слишком часто мы являемся невольными строителями и неуклюжими архитекторами этого града, способными на щедрые жесты, но лишенными общего видения.
Этот строительный проект развивается медленнее, он менее заметен и менее зрелищен и требует лучшего понимания и большей координации, чтобы стать осознанной и ясной ответственностью каждого сообщества, от семей до государств, и отношений между нациями. Именно эту перспективу приверженности, эту строительную площадку надежды мы называем «цивилизацией любви». <…>
Даже в самые темные ночи Господь воздвигает мужчин и женщин, которые отказываются сдаваться, которые упорствуют в совершении добра, которые защищают уязвимых и открывают пути к примирению. Память о святых, праведниках и часто забываемых миротворцах показывает нам, что благодать не устраняет конфликты волшебным образом, а, наоборот, вдохновляет на активное сопротивление злу и поразительную творческую силу в свершении добра.
Бывают моменты, когда, чтобы оставаться людьми, мы должны отбросить сомнения и занять твердую позицию. В некоторых конфликтах оставаться нейтральными несправедливо, и недостаточно просто заявлять о своей непричастности к ним. <…>
Тем, кто удостоен чести и ответственности управлять, я хотел бы повторить слова, которые произнес в начале своего понтификата: «Народы нашего мира желают мира, и к их лидерам я обращаюсь всем сердцем: давайте встретимся, давайте поговорим, давайте договоримся!
Война никогда не бывает неизбежной. Оружие можно и нужно заставить замолчать, ибо оно не решает проблем, а лишь усугубляет их. Миротворцами являются те, кто творит историю, а не те, кто сеет семена страданий. Наши соседи — в первую очередь не наши враги, а наши собратья; не преступники, которых следует ненавидеть, а другие мужчины и женщины, с которыми мы можем поговорить.
Давайте отвергнем манихейские представления, столь типичные для того образа мышления, основанного на насилии, который делит мир на добрых и злых».
О будущем
Maurizio Brambatti / EPA / TASS
Глядя в будущее, я хотел бы вспомнить образ Неемии, которого мы выбрали своим спутником и проводником в самом начале.
Неемия услышал крик разрушенного города, выразил эту боль в молитве, распознал её перед Богом, попросил о помощи, получил разрешение вернуться, организовал работу, столкнулся с внутренним и внешним сопротивлением и восстановил стены Иерусалима с помощью народа, кирпичик за кирпичиком.
В эту эпоху цифровой трансформации я вижу в нём поразительную притчу о нашем собственном призвании, которое состоит не в том, чтобы быть пассивными наблюдателями социальных и культурных потрясений, не в том, чтобы быть просто статистами разрушений, а в том, чтобы быть мужчинами и женщинами, готовыми войти на строительные площадки истории — в исследовательские лаборатории, технологические компании, школы, средства массовой информации, учреждения и местные сообщества, — чтобы восстановить то, что рухнуло, и защитить то, что находится под угрозой.