Ваши фальшивые друзья становятся намного умнее... и реальнее, пишут Джим ВандеХей и Майк Аллен в колонке «За кулисами». (иллюстрация Брендан Линч, Axios)
Почему это важно: Если вы думаете, что эти вымышленные люди на Facebook, в Instagram и X — боты — кажутся вам настоящими и вызывают беспокойство, просто подождите.
Вскоре, благодаря искусственному интеллекту, эти фальшивые друзья будут анализировать ваши ленты, эмоции и привычки, чтобы иметь возможность взаимодействовать с вами так же проницательно, как и настоящие люди.
Следующее поколение ботов создаст психологические профили вас — и, возможно, миллиардов других людей — и будет ставить лайки, комментировать и взаимодействовать так же, как обычные люди.
Это потребует еще большей бдительности при определении того, что — и кто — является реальным в цифровом мире.
Взгляд в будущее: Бретт Голдштейн и Бретт Бенсон — профессора Университета Вандербильта, специализирующиеся на национальной и международной безопасности, — в недавней статье в New York Times наглядно и подробно демонстрируют надвигающуюся опасность все более разумного фальшивого мира.
Они изучили горы документов, обнаруженных Институтом национальной безопасности Вандербильта, и выяснили, как китайская компания GoLaxy оптимизирует поддельных людей, чтобы обманывать и вводить в заблуждение.
«GoLaxy выделяется, — пишут профессора, — интеграцией генеративного ИИ с огромными массивами персональных данных. Его системы постоянно анализируют данные с платформ социальных сетей для создания динамических психологических профилей. Контент формируется с учётом ценностей, убеждений, эмоциональных тенденций и уязвимостей человека».
Они добавляют, что , согласно документам, ИИ-персонажи «могут вовлекать пользователей в то, что выглядит как диалог — контент, который кажется аутентичным, адаптируется в режиме реального времени и не поддаётся обнаружению. В результате получается высокоэффективный пропагандистский механизм, разработанный таким образом, чтобы быть практически неотличимым от законного онлайн-взаимодействия, и доставляемый мгновенно в беспрецедентных масштабах».
Между строк: на этом фоне российские ботофермы выглядят как конная повозка онлайн-манипуляций. Речь идёт об адаптации в режиме реального времени к вашему настроению, желаниям или убеждениям — тому самому, что делает большинство из нас лёгкой добычей.
Угроза со стороны более умных и реалистичных фальшивых друзей выходит за рамки злоумышленников, пытающихся исказить ваше восприятие политики — или реальности. Она затрагивает ваши самые сокровенные мысли и переживания.
Текущее состояние дел: ИИ совершенствуется и быстрее имитирует человеческие нюансы, эмпатию и связь.
Некоторые штаты, включая Юту и Иллинойс , стремятся ограничить ИИ-терапию. Но большинство — нет. Так что число наших фальшивых друзей скоро значительно возрастёт.
Исследование Harvard Business Review ($), проведенное ранее в этом году, показало, что наиболее распространенной сферой использования генеративного ИИ на основе чата является терапия («структурированная поддержка и руководство для решения психологических проблем») и общение («социальная и эмоциональная связь, иногда с романтическим оттенком»).
В статье отмечается, что терапия на основе искусственного интеллекта «доступна круглосуточно, она относительно недорога (в некоторых случаях ее можно использовать бесплатно) и не предполагает осуждения со стороны другого человека».
Это исследование согласуется с выводами крупнейших компаний в области ИИ: люди всё чаще обращаются к ИИ за помощью и советами. Это создаёт множество потенциальных проблем — от неконтролируемых роботов, дающих плохие советы, до нездоровой привязанности человека к искусственному объекту. Некоторые врачи уже неофициально называют это «психозом ИИ ».
Газета The Wall Street Journal , изучив стенограммы публичных чатов, обнаружила, что боты иногда подстрекают пользователей к ложным убеждениям. В дополнение к галлюцинациям, связанным с ИИ, врачи неформально называют это явление «психозом ИИ» или «бредом ИИ».
Есть и очевидный плюс: одиночество может быть смертельно опасным , и хорошая терапия может оказать огромную помощь тем, кто борется с этим. Meta, как сообщал Axios в мае, рассматривает чат-ботов как «более социальную» систему — потенциальное расширение вашей сети друзей и противоядие от «эпидемии одиночества».
Что вы можете сделать: будьте бдительны. Всё это происходит прямо сейчас. Можно с уверенностью предположить, что ИИ становится только лучше, а злоумышленники — умнее. Не стоит думать, что каждый человек в сети — настоящий, не говоря уже о настоящих друзьях.
(в пересказе)
