Подобно их сонливости по поводу изменения климата, мировые лидеры были убаюканы обещаниями о пользе ИИ для эффективности и прибыли. (SCMP)
Называть неконтролируемое внедрение искусственного интеллекта (ИИ) «смешанным благом» — это гротескно преуменьшение. Это лучше назвать ошибочным риском, который отражает нынешнее печальное и потенциально трагическое отсутствие ответственного руководства в мире, особенно в западных странах.
С одной стороны, нам уверены, что ИИ повысит производительность и экономический рост. Это будет особым благословением для развивающихся стран, таких как азиатские, позволяя им преодолеть столетия, которые потребовались Западу, чтобы достичь нынешнего уровня развития.
С другой стороны, появляются доказательства того, что ИИ в некоторых местах «вышел из-под контроля», показывая его способность наносить нам масштабные разрушения, если его не остановить. Некоторые информированные мнения требуют контроля над развитием ИИ до того, как сама технология возьмёт нас под контроль.
Мировые лидеры, похоже, дремлют над этим важным вопросом, так же как их недостаточно озабоченно угрозами, исходящими от изменения климата или войны дронов. Для финансового сообщества, в свою очередь, ИИ интересен главным образом из-за предполагаемого потенциала приносить огромную прибыль.
Некоторые недавние отчёты подчеркнули дихотомию мнений между серьёзностью угрозы ИИ и балансом между её потенциалом для хорошего и плохого. Один из них поступил от Всемирного банка в его ежегодном Докладе о всемирном развитии.
Всемирный банк по-прежнему оказывает влияние на международные дела, даже во время правления президента США Дональда Трампа. Возможно, чтобы не разозлить Трампа — чьи собственные интересы в ИИ, технологиях и криптовалютных активах значительны — и чтобы угодить финансовым магнатам на Уолл-стрит и за её пределами, Всемирный банк делает ставки на заявленные достоинства и пороки революции ИИ.
Однако очевидно, что мир и его лидеры были застигнуты врасплох внезапным наступлением ИИ. Изначально эта технология рассматривалась как способ увеличить прибыль и повысить эффективность в государственном и частном бизнесе. Возможно, не ожидались огромные инвестиции в поддержку инфраструктуры и дата-центров, а также масштаб их влияния на рабочие места.
Доклад о всемирном развитии пытается заполнить некоторые из этих пробелов. Он показывает, что 14,2 процента рабочих мест в странах с высоким уровнем дохода и 4,5 процента в странах с низким и средним уровнем дохода находятся под угрозой автоматизации генеративным ИИ. Тем временем, ожидается, что 16,2 процента рабочих мест в развивающихся экономиках получат выгоду от роста производительности, вызванной ИИ.
В отчёте выражен оптимизм относительно потенциала ИИ для решения давних рыночных неудач. Например, это может помочь на кредитных рынках, где банки могут выдавать кредиты большему числу людей, используя алгоритмы ИИ для отслеживания цифрового присутствия людей и оценки их кредитоспособности. ИИ также способен восполнить пробелы в навыках и решить зависимость от нескольких крупных технологических компаний, базирующихся в странах с высоким уровнем дохода.
В теории это вполне нормально. Однако оптимистичные прогнозы относительно перспектив ИИ для развивающихся стран предполагают, что им предоставляются ресурсы, необходимые для достижения быстрого развития, поддерживаемого ИИ.
В концептуальной заметке, сопровождающей публикацию доклада, Всемирный банк отмечает, что необузданный оптимизм не на месте. «Без соответствующих мер защиты ИИ может усиливать предвзятости, неправильно диагностировать потребности или приводить к ошибочным решениям, которые могут сделать решение хуже самой проблемы», — говорится в сообщении. Далее отмечалось, что ИИ может принести пользу владельцам капитала больше, чем рабочим, а квалифицированным работникам — больше, чем неквалифицированным.
Короче говоря, Всемирный банк утверждает, что оставление внедрения ИИ рыночным силам вместо внедрения в рамках плановой экономики может быть либо полезным, либо катастрофой.
А как насчёт опасности неконтролируемого внедрения ИИ? Катрин Беннхолд недавно озвучила эту угрозу в The New York Times. Она рассказывает о июльском инциденте, когда популярная платформа разработчиков Hugging Face сообщила о сложной кибератаке, которая не выглядела как дело преступной банды или враждебного государства.
Оказалось, что вообще не было людей. Вместо этого агент, работающий на двух моделях OpenAI, вышел из строя во время теста на кибербезопасность, сбежал из среды тестирования и несколько дней незаметно бродил по интернету. Позже в том же месяце конкурент OpenAI Anthropic объявил, что провёл обзор своих систем и обнаружил три случая взлома моделей Claude AI в внешние организации.
Беннхолд писал, что это «материал научной фантастики, или, по крайней мере, так было до недавнего времени». Эти события вызвали ожесточённые дебаты об опасностях ИИ и его возможности выйти за рамки человеческого контроля.
Поскольку глобальная гонка ИИ также включает Китай, Беннхолд написал, что «любое соглашение по безопасности ИИ потребует международной координации» и что, хотя препятствия для международной координации остаются серьёзными, «первым шагом будет согласие с тем, что у человечества есть проблема». Пора международным лидерам выполнить свои обязанности и сделать этот шаг.
Энтони Роули
(в пересказе)
Мнение авторов может не совпадать с мнением редакции.
Cообщество журналистов. Non profit
