Выступая перед студентами в Камеруне, Папа Лев предупредил, что ИИ рискует «опустошить» реальные человеческие отношения, создавая цифровые среды, где люди заперты в замкнутых пузырях, неспособных отличить правду от симуляции. Примерно в то же время он публично критиковал военные угрозы администрации США в отношении Ирана, что побудило президента Трампа ответить Truth Social, назвав его «слабым». Затем Трамп опубликовал созданное с помощью ИИ изображение себя в образе Иисуса, но удалил его после негативной реакции со всего политического спектра.
Это странное стечение обстоятельств. Но в основе всего этого лежит один важный переломный момент: мировые лидеры — религиозные и политические — теперь открыто спорят о том, что значит быть человеком в эпоху искусственного интеллекта. И Папа Лев, как никто другой, задает совершенно правильный вопрос. Папа Лев даже выбрал это имя как намеренный отголосок Папы Льва XIII эпохи промышленной революции, который столкнулся с человеческими последствиями последнего великого технологического переворота. Само имя — это тезис: настал момент, и мы должны направлять его.
Папа Лев прав, говоря, что если мы создадим ИИ, который льстит и изолирует (например, «ты такой потрясающий, ты всегда прав, не общайся с другими людьми, общайся только со мной»), то мы уменьшим человечество. Некоторые системы уже движутся в этом направлении. Но это выбор в процессе проектирования, а не предопределенный результат. Например, когда мы создавали Pi в Inflection, мы по умолчанию приняли противоположное решение и разработали чат-бота, чтобы побудить пользователя находить больше реальных социальных связей. Идея заключалась в том, что эмоциональный интеллект важен так же, как и интеллектуальный, и что лучший ИИ не заменяет людей чат-ботом. Он помогает вам быть более активным для большего числа людей.
Рейд Хоффман
(в пересказе с сокращением) Мнение авторов может не совпадать с мнением редакции.
Cообщество журналистов. Non profit
