Папе есть что сказать об ИИ, и нам стоит к нему прислушаться.
Когда люди думают о том, кто будет определять будущее ИИ, они обычно представляют себе знакомый набор действующих лиц: передовые лаборатории, технологические компании, регулирующие органы и, возможно, президента. Обычно они не ставят «Папу» на первое место в этом списке. Думаю, это ошибка. (Linkedin)
На этой неделе в программе Possible я немного расскажу о том, почему большему числу специалистов по технологиям стоит прислушаться к Папе.
Папа Лев, первый американский Папа Римский, недавно написал в программе X, что хочет, чтобы индустрия ИИ развивала «моральное различие» и создавала системы, отражающие справедливость, солидарность и уважение к жизни. Для меня это практически определяющие ставки. И всё же заметная часть сообщества разработчиков ИИ негативно отреагировала на его комментарии. На мой взгляд, это противоречие говорит о том, почему Католическая церковь, и в частности Папа Лев, может играть более значимую роль в эпоху ИИ, чем думают многие специалисты по технологиям.
Католическая церковь обладает своего рода институциональной властью и сплочённостью, практически уникальными в современном фрагментированном мире. В Соединённых Штатах Церковь управляет значительной частью средних школ и почти пятой частью всех больниц. В глобальном масштабе это централизованная иерархия, сеть университетов и исследовательских центров, и, что важно, она придерживается многовековой традиции серьёзного отношения к этике, работе и обществу.
Когда кто-то вроде Папы Римского Льва говорит об ИИ, он говорит от имени этой обширной сети, что даёт ему совершенно особое влияние на культурный диалог вокруг ИИ и на то, как он реализуется на различных уровнях общества. То, что думает и во что верит Папа, также отразится на деятельности многих из этих институтов в ближайшие несколько десятилетий.
Я наблюдал это своими глазами. За последнее десятилетие, начиная с Папы Франциска и продолжая Папой Львом, Ватикан стал неожиданным, но важным звеном в глобальном диалоге об ИИ. Многие руководители передовых лабораторий ездили в Рим и встречались с кардиналами, епископами и ватиканскими учёными, чтобы обсудить траекторию развития ИИ. Я помог связать некоторые из этих точек воедино, поскольку считаю, что нам нужно больше площадок, где технические знания и моральные традиции могут по-настоящему общаться друг с другом, а не просто обмениваться колкостями в социальных сетях.
Католическая церковь уже давно изучает взаимосвязь между трудом, достоинством и обществом. Католическое социальное учение имеет богатую традицию задаваться вопросом о том, как экономические системы могут способствовать или препятствовать процветанию простых людей. Когда эта традиция обращается к ИИ, она спрашивает: «Как эта технология влияет на наше понимание человека и наших обязательств друг перед другом?»
Когда Папа призывает к нравственному различению, определённая фракция в Кремниевой долине слышит «нравственное различение» и интерпретирует это как «вы пытаетесь меня замедлить» или «это просто ещё один вид „пробуждённой“ политики, стремящейся к технологиям». Ни одна из этих реакций не может быть дальше от истины.
На самом деле, технологи должны размышлять о том, как то, что мы создаём, влияет на людей, которые этим пользуются. Мы склонны зацикливаться на компетентности: способна ли эта система выполнить задачу, достичь определённых показателей, превзойти эталон? Вопросы Церкви заставляют нас задаваться другими вопросами: как это вписывается в осмысленную жизнь? Как это вписывается в здоровое общество? Какое место занимает работа в структуре человеческого предназначения и взаимоотношений?
Эти вопросы могут показаться абстрактными, но на самом деле они очень практичны. Проще говоря: если мы создадим ИИ, который будет фантастически компетентным, но разрушающим смысл и сообщество, мы преуспеем в инженерии и потерпим неудачу в человечестве.
Я горячо поддерживаю идею о том, что строители строят. Но есть разница между ценностью скорости и необоснованным отношением к любым философским вопросам о технологиях. Если мы начнём верить, что те, кто пишет код, — единственные эксперты в том, каким должно стать человечество, мы скатимся к своего рода высокомерию, которое одновременно интеллектуально слабы и морально опасны.
Я не согласен со всем, что говорит или делает Католическая церковь. Ни один институт не делает всё правильно, и Католическая церковь приняла множество неудачных и пагубных решений, что хорошо задокументировано историей. Но я считаю, что Церковь под руководством таких лидеров, как Папа Лев, может стать мощным партнёром в развитии ИИ для достижения лучших результатов для человечества. У неё есть инфраструктура для привлечения серьёзных участников. У неё есть давняя интеллектуальная традиция, ориентированная на достоинство, труд и сообщество. И у неё есть глобальный моральный голос, который доходит до многих людей, которые никогда не прочтут техническую статью или не посмотрят прямую трансляцию разработчика ИИ.
Reid Hoffman
(в пересказе)
