Автономная война сейчас в моде в Пентагоне, где компьютеры и искусственный интеллект обрабатывают разведывательные данные, выбирают цели, а затем передают приказы на уничтожение ожидающему роботу, барражирующей ракете или самолету.
Новый «Автономный центр специальных операций» упоминается в бюджетном запросе Министерства обороны США на сумму 1,5 триллиона долларов, направленном в Конгресс на этой неделе.
Под «силами специальных операций» подразумеваются подразделения коммандос, такие как «морские котики» ВМС, «зеленые береты» армии, «рейдеры» морской пехоты и другие, которые поддерживают «нетрадиционную» войну, а после 11 сентября — целенаправленные убийства. «Морские котики» (SEAL Team 6) и «Дельта-сила» армии — два самых известных из этих секретных подразделений, сыгравших центральную роль в операциях по захвату и обезглавливанию, подобных тем, что проводились в Венесуэле и Иране.
О стремительном и хаотичном внедрении искусственного интеллекта в американскую армию можно сказать многое. Но в данном контексте термин «автономная война» — это эвфемизм для автоматизированного убийства. (Автономность по своей сути означает независимое действие, внутреннее управление или работу без внешнего контроля.)
Необычайно откровенное описание роли ИИ в будущем дал бывший командующий Объединенным командованием специальных операций генерал Стэнли Маккристал (в отставке), который сравнил ИИ с «младенцем Гераклом», вспомнив роль греческого бога как убийцы даже в младенчестве.
Маккристал говорит:
«И подобно младенцу Гераклу, который задушил двух змей, посланных Герой, чтобы убить его в колыбели, искусственный интеллект вырастет и станет частью почти всего, что мы будем делать в будущем».
Маккристал не упоминает о том, что произошло, когда Геракл вырос. Он всю жизнь совершал убийства по приказу Эврисфея — слабого, трусливого царя, который прятался в кувшине и никогда ничего не понимал. Подавляющая сила Геракла заменила стратегию.
В самом известном из своих мифов Геракл сражался с Гидрой, чудовищем, которое отращивало две головы за каждую отрубленную. Он был достаточно силен, чтобы продолжать размахивать оружием, но одна лишь мощь лишь усугубляла проблему. Ему пришлось полностью изменить свой подход, чтобы победить. Это полезная притча для армии, которая потратила два десятилетия на совершенствование обезглавливающих ударов, но в итоге наблюдала, как угрозы множатся.
Добро пожаловать в эру CombatGPT. С 2022 года Пентагон использует ИИ в ежеквартальных учениях по «обнаружению целей», в которых участвуют военнослужащие всех шести родов войск. Компьютеры собирают огромный массив информации, поступающей ежедневно — каждую минуту — и, согласно программе ИИ, извлекают наиболее важные данные, агрегируя и определяя местоположение этих точек, чтобы выявить потенциальную цель.
Во время последней войны с Ираном командующий войсками на Ближнем Востоке адмирал Брэд Купер счел необходимым заверить, что использование ИИ по-прежнему предполагает участие человека в принятии решений. «Люди всегда будут принимать окончательные решения о том, во что стрелять, а во что нет, и когда стрелять», — сказал он. Это утверждение, конечно, противоречит самой идее «автономии».
Заверения Купера перекликаются с длинной чередой подобных обещаний. Военно-воздушные силы говорили то же самое о дронах еще до того, как цепочка поражения беспилотников сократилась до такой степени, что «решение» превратилось в формальное одобрение. Схема остается неизменной: внедряется новая возможность с механизмами защиты, предполагающими участие человека, скорость и масштаб операций делают эти механизмы узким местом, и этим узким местом становится кнопка «Согласен с условиями» на компьютере, которую большинство людей нажимают, не задумываясь.
(Следует отметить, что в бюджетном запросе на 2027 финансовый год также обнуляется финансирование работы Пентагона по «смягчению» последствий для гражданского населения, что исключает элемент, который мог бы также «автономно» предупреждать о прямых жертвах и ущербе для гражданского населения.)
В бюджетном документе не указано, каким будет первоначальный бюджет Центра автономной войны, но он не обязательно должен быть большим. Инфраструктура уже существует. Два десятилетия операций по обезглавливанию противника позволили создать архитектуру наведения, каналы сбора разведывательной информации и цепочки поражения. Искусственный интеллект устраняет последнее препятствие — время, затрачиваемое человеком на сопоставление данных для нанесения удара по цели.
Большая часть того, с чем будет работать Центр автономной войны специальных операций, уже существует. И в Украине, и в Иране военные видят свою задачу в борьбе с «роями» недорогого вражеского оружия, от односторонних ударных беспилотников до относительно примитивных баллистических ракет.
Южное командование, базирующееся в Майами и отвечающее за огневую часть войны с наркотиками, также создало собственное автономное командование для автоматизации отслеживания и уничтожения партий наркотиков, где в качестве недорогих целей используются скоростные катера и мини-подводные лодки.
До сих пор никто в Конгрессе не задавал вопросов о создании «автономных» командных пунктов для ведения боевых действий. Эта статья бюджета, скорее всего, будет принята без слушаний, затерявшись в бюджете специальных операций (и в основном засекреченном), который контролируется меньше, чем практически любая другая часть Пентагона. К тому времени, когда общественность узнает, чем на самом деле занимается Центр автономной войны, он будет делать это уже много лет.
Маккристал прав, утверждая, что ИИ будет «частью почти всего, что мы делаем в будущем». Однако он упустил то, чему на самом деле учит приведённый им миф: самое мощное оружие в мире настолько же эффективно, насколько эффективен разум, которым оно владеет. Геракл в конце концов это понял.
А Пентагон?
Кен Клиппенштейн
22 апреля
(в пересказе)
Мнение авторов может не совпадать с мнением редакции.
Cообщество журналистов. Non profit
