ИИ, который действует до того, как вы попросите

Современный искусственный интеллект создан для реагирования. Будущее принадлежит проактивным системам. Big Think

Г. Росс Перо, бывший кандидат в президенты и основатель многонациональной ИТ-компании Electronic Data Systems (EDS), однажды сказал: «Слова ничего не стоят. Словах много. Дела бесценны».

Он прав. Именно дела делают интеллект могущественным. Интеллект без действий — это философия. Интеллект с действиями — это цивилизация.

Большая часть того, что мы видели от крупнейших компаний, занимающихся искусственным интеллектом (ИИ), вращалась вокруг слов: вы заходите в их чат-бот, задаете ему вопрос, и он отвечает. За последние пару лет некоторые пошли еще дальше, создав ИИ-агентов — они действительно могут что-то делать , но только то, что вы им указали.

Следующий рубеж в области ИИ — это не улучшенный чат. И даже не улучшенные агенты. Следующий рубеж — это проактивный ИИ, который предпринимает действия, учится в реальном времени и, что особенно важно, обращается к вам еще до того, как вы к нему обратитесь. Это отличие — не улучшение функций, а цивилизационный поворот.

Асимметрия, определяющая нашу эпоху
Такова текущая архитектура взаимодействия человека и ИИ. Вы просыпаетесь. Вспоминаете, что вам нужно что-то сделать, например, спланировать поездку. Открываете ChatGPT или Claude. Вводите запрос. Модель отвечает. Вы уточняете. Она снова отвечает. Вы повторяете процесс, пока не получите что-то полезное. Затем закрываете вкладку и продолжаете жить своей жизнью до следующего раза, когда вспомните обратиться за помощью к ИИ.
Это реактивный интеллект.

Весь механизм создания ценности зависит от одной хрупкой переменной: от того, что вы помните, что нужно спросить. От того, что вы осознаете существование проблемы. От того, что вы правильно ее формулируете. От того, что вы знаете, что ИИ может помочь. Узким местом в этой архитектуре является не вычислительная мощность. Это не возможности модели. Это не длина контекстного окна или глубина рассуждений. Узким местом является пропускная способность человеческого когнитивного аппарата.

Вот в чём асимметрия: современные системы искусственного интеллекта способны обрабатывать миллионы токенов, выполнять сложные многоступенчатые цепочки рассуждений, синтезировать информацию из разных областей и генерировать результаты, на создание которых у экспертов-людей ушли бы недели — но только если запрос инициирован человеком. Самый мощный инструмент, когда-либо созданный человечеством, большую часть времени не оказывает никакого влияния на нашу жизнь.

Современная парадигма взаимодействия рассматривает ИИ как ресурс, к которому следует обращаться, а не как систему, участвующую в непрерывном потоке человеческой деятельности. Это, по сути, модель «притяжения». Вы получаете ценность от системы. Система не навязывает вам ценность. И именно в этой асимметрии кроется ограничение нынешнего влияния ИИ на производительность, креативность и процветание человека.

Аналогия из 10 000 года до нашей эры: от собирательства к земледелию
Чтобы понять масштабы перехода от реактивного к проактивному ИИ, нам необходима достаточно широкая система координат, способная его вместить. Возможно, наилучшая аналогия может быть связана с одним из важнейших переходных процессов в истории человечества: сельскохозяйственной революцией.

Примерно до 10 000 года до нашей эры люди были собирателями. Они кочевали. Они реагировали на окружающую среду. Когда они видели пищу, они ели её. Когда они видели опасность, они убегали. Их отношения с природой были по своей сути реактивными. Они реагировали на то, что мир им предлагал. Выживание зависело от внимательности к внешним раздражителям и скорости реакции.

Затем что-то изменилось. Люди начали сажать семена. Они одомашнили животных. Они перестали ждать, пока окружающая среда обеспечит их всем необходимым, и начали формировать её в соответствии со своими потребностями. Это был проактивный человеческий интеллект, применённый к обеспечению средств к существованию. Следствием этого стала сама цивилизация: постоянные поселения, избыточное производство, специализация труда, письменность, математика, государственное управление, искусство. Всё, что определяет достижения человечества за последние 12 тысячелетий, восходит к этому единственному сдвигу от реактивного к проактивному подходу.

В эпоху искусственного интеллекта мы все еще находимся в эре поиска. Мы перемещаемся по цифровым интерфейсам в поисках ценности. Мы реагируем на возникающие проблемы. Мы обращаемся к оракулу, когда вспоминаем об этом. Ценность, которую мы извлекаем, ограничена нашим вниманием, нашей памятью и нашим пониманием того, какие вопросы следует задавать.

Проактивный ИИ — это сельскохозяйственная революция в области машинного интеллекта. Это переход от реагирования на окружающую среду к активному её формированию. На этот раз формирование будет осуществляться системами ИИ, которые понимают контекст — особенно в физическом мире — предвидят потребности и предпринимают действия, не дожидаясь инструкций.

Почему современные агенты искусственного интеллекта терпят неудачу
В последние 18 месяцев концепция агентов искусственного интеллекта активно обсуждается на презентациях венчурных фондов, запусках продуктов и в качестве идейного лидера. Перспектива: автономные системы ИИ, способные выполнять многоэтапные задачи, использовать инструменты, работать с программным обеспечением и осуществлять рабочие процессы от начала до конца.

В реальности все гораздо сложнее.

Современные ИИ-агенты, почти во всех реализациях, представляют собой реактивные системы с оболочками автоматизации. Они не взаимодействуют с окружающим миром проактивно. При срабатывании они выполняют заранее определенные рабочие процессы. Им требуются явные инструкции. В большинстве случаев им не хватает постоянной памяти между сессиями. Они не наблюдают за окружающей средой непрерывно. Они не строят модели ваших предпочтений с течением времени. Они не инициируют действия.

Рассмотрим архитектуру большинства современных агентных систем:
Человек ставит цель или ставит задачу.
Агент разбивает задачу на подзадачи
Агент использует инструменты для выполнения подзадач.
Агент сообщает о результатах
Проверка человеком и, при необходимости, итерации.

Это по-прежнему подход, основанный на принципе «привлечения». Человек инициирует процесс, а агент реагирует. Агент не просыпается, не замечает, что ваш календарь перегружен на следующей неделе, и не переносит в приоритетном порядке встречи. Он не замечает, что вы три дня изучали какую-то тему, и не составляет автоматический аналитический документ. Он не обнаруживает, что рыночные условия изменились и вашу инвестиционную стратегию необходимо пересмотреть.

Причина носит технический и архитектурный характер. Современные агенты работают в эпизодических рамках. Каждая сессия дискретна. Контекст ограничен. Состояние не сохраняется. Отсутствует непрерывное восприятие окружающей среды. Агент не «включен» в каком-либо значимом смысле — он активируется при вызове.

MCP (Model Context Protocol) — открытый стандарт Anthropic для подключения моделей ИИ к внешним инструментам и источникам данных — представляет собой определенный прогресс в развитии инфраструктуры. Он позволяет моделям получать доступ к информации в реальном времени и выполнять действия через стандартизированные интерфейсы. Но MCP — это всего лишь инфраструктура, а не интеллект. Он обеспечивает связь, но не создает проактивности. Модель, подключенная к вашему календарю через MCP, может запрашивать ваше расписание по запросу. Однако, благодаря только этой связи, она не отслеживает ваше расписание и не вмешивается при возникновении конфликтов.

Разрыв между существующими агентами и истинным проактивным ИИ не является постепенным, а носит категорический характер.

Насколько мы близки к тому, чтобы сократить этот разрыв? Части архитектуры существуют, включая постоянную память в некоторых системах второго пилота и фреймворках использования инструментов, таких как MCP, но они остаются фрагментированными. Ни одна развернутая система еще не объединяет непрерывное восприятие, моделирование долгосрочных целей, ограниченную автономность и обучение в реальных условиях единым образом. Ограничивающими факторами являются проектирование системы, стоимость и управление, а не чистый интеллект модели.

Архитектура проактивного интеллекта
Что на самом деле потребуется для проактивного ИИ? Существуют некоторые не подлежащие обсуждению технические и концептуальные требования.

1. Непрерывное восприятие окружающей среды
Проактивный ИИ должен постоянно отслеживать соответствующие изменения состояния в окружении пользователя. Это означает непрерывный или почти непрерывный доступ к информационным потокам: электронная почта, календарь, документы, активность в браузере, модели общения, финансовые счета, данные о здоровье, новостные ленты, рыночные движения — любые области, за которыми ИИ имеет право наблюдать. Это не поиск информации по одному запросу. Это мониторинг окружающей среды.

Модель должна постоянно обновлять представление о том, что происходит в контекстах, в которых она работает. Это представление должно быть достаточно эффективным, чтобы не требовать постоянного вывода полной модели, но достаточно информативным, чтобы выявлять значимые изменения, требующие внимания или действий.

2. Моделирование целей и обучение предпочтениям
Проактивный ИИ должен обладать устойчивой моделью того, чего пользователь пытается достичь не только в текущей сессии, но и во времени. Каковы его долгосрочные цели? Какие задачи он выполняет регулярно? Какие закономерности характеризуют его процесс принятия решений? Что он ценит?

Для этого необходимы архитектуры долговременной памяти, которые накапливают и организуют информацию о предпочтениях, поведении и целях пользователя. Необходимы выводы о неявных целях. Необходима возможность обновления этих моделей по мере изменения обстоятельств и приоритетов пользователя.

Современные системы имеют ограниченный объем памяти. Они не моделируют пользователя. Они реагируют на то, что пользователь им говорит в данный момент. Переход к проактивному ИИ требует, чтобы система знала вас достаточно хорошо, чтобы предвидеть ваши потребности еще до того, как вы их сформулируете.

3. Разрешение на автономные действия
Это наиболее чувствительный и наименее решенный компонент. Для того чтобы ИИ действовал проактивно, он должен обладать полномочиями для совершения действий без явного одобрения каждого отдельного действия. Это поднимает серьезные вопросы доверия, проверки и обратимости.

Какие действия может предпринять ИИ без запроса? При каких условиях он должен запрашивать подтверждение? Как он обрабатывает ошибки? Как пользователь проверяет действия ИИ? Как разработчики предотвращают неконтролируемое поведение или несогласованные действия?

Современная парадигма агентных взаимодействий обходит эти вопросы стороной, требуя одобрения человека для каждого последующего действия. Проактивный ИИ не может функционировать таким образом — вся его ценность заключается в том, что ИИ действует от вашего имени, когда вы не обращаете на него внимания. Это требует новых рамок для ограниченной автономии: четких областей, где ИИ обладает полномочиями, четких триггеров эскалации, когда он должен подчиняться человеку, и надежной регистрации и обратимости всего, что находится между этими крайностями.

4. Обучение в режиме реального времени на основе результатов действий
По-настоящему проактивный интеллект должен учиться на последствиях своих действий. Когда он отправляет электронное письмо от вашего имени, получает ли получатель положительный ответ? Когда он переносит встречу, создает ли это конфликты в дальнейшем? Когда он указывает на возможность, действительно ли эта возможность ценна?

Для этого необходимы петли обратной связи, которых нет в существующих системах. Искусственный интеллект должен наблюдать за результатами, связывать их со своими действиями и соответствующим образом корректировать свое поведение. Это обучение с подкреплением в реальных условиях, имеющее реальные последствия. Без этой замкнутой петли проактивный ИИ превращается в проактивный шум — систему, которая действует часто, но неразумно.

Преобразование функции ценности
Экономика создания ценности с помощью ИИ претерпевает фундаментальную трансформацию в результате перехода от реактивного подхода к проактивному.

В рамках реактивной парадигмы:
Значение = f(качество запроса человека x возможности модели x частота обращений)
Ценность вы получаете, когда задаёте правильные вопросы, когда модель достаточно эффективна, чтобы на них ответить, и когда вы помните, что нужно задавать вопросы достаточно часто. Пропускная способность человека прямо пропорциональна получаемой ценности.

В рамках проактивной парадигмы:
Ценность = f(понимание ИИ ваших целей x точность мониторинга окружающей среды x способность к действиям x скорость обучения)
Человек выходит из узкого места. Ценность возрастает благодаря непрерывному мониторингу и накопленному обучению, независимо от того, активно ли вовлечен человек.

Понимание ИИ углубляется со временем. Его действия становятся более откалиброванными. Система лучше справляется с обслуживанием вас, пока вы спите.

Это не линейное улучшение. Это фазовый переход в функции производительности интеллекта.

Рассмотрим пример:
Сценарий А (реактивный): Специалист по интеллектуальному труду использует ChatGPT 4 часа в неделю. В течение этих 4 часов он извлекает существенную пользу, используя ИИ для составления электронных писем, анализа документов и поиска решений. Остальные 164 часа в неделю ИИ не используется. Общая ценность ограничена 4 часами активного взаимодействия.

Сценарий B (проактивный): У того же сотрудника есть проактивный ИИ-помощник, который постоянно отслеживает его электронную почту, календарь, инструменты управления проектами и новости отрасли. Он составляет стандартные сообщения без запроса. Он выявляет возникающие проблемы до того, как они перерастут в кризисы. Он предоставляет необходимую информацию в качестве контекста для предстоящих встреч. Он выявляет шаблоны рабочих процессов, которые указывают на неэффективность. Общая ценность генерируется за все 168 часов — единственным ограничением является доступ ИИ к восприятию информации и полномочия по выполнению действий.

Разница между этими сценариями заключается не в процентном улучшении, а в порядках величины.

Эпоха агентов стала ступенькой на пути к чему-то большему
История, вероятно, зафиксирует «эру агентов искусственного интеллекта», примерно с 2023 по 2025 год, как переходный период. Фреймворки для агентов, протоколы использования инструментов, уровни оркестровки — вся эта инфраструктура является необходимым каркасом. Но видение, лежащее в её основе, ещё не завершено.

Агентная парадигма расширяет возможности реактивного ИИ. Она позволяет ИИ выполнять больше задач по запросу. При этом она не отменяет необходимости задавать ИИ какие-либо вопросы.

Проактивная парадигма переворачивает эти отношения. Искусственный интеллект — это не инструмент, которым управляет пользователь. Это интеллект, который работает бок о бок с пользователем, независимо воспринимая, независимо рассуждая и независимо действуя в рамках разрешенных границ.

В этом разница между электроинструментом и коллегой. Электроинструмент усиливает ваши усилия, когда вы берете его в руки. Коллега замечает проблемы, предлагает решения и проявляет инициативу. И то, и другое ценно. Это не одна и та же категория вещей.

Эпоха агентов научила нас тому, что ИИ может использовать инструменты, следовать многоэтапным планам и взаимодействовать с внешними системами. Эпоха проактивного управления научит нас тому, что ИИ может быть участником нашей жизни, а не просто отвечать на наши запросы.

Ускорение XXI века
Если в течение следующего десятилетия будет достигнута хотя бы частичная реализация концепции проактивного ИИ, что это будет означать для темпов прогресса человечества?

Современный ИИ ускоряет прогресс, когда им руководят люди. Проактивный ИИ ускоряет прогресс непрерывно, накапливая вмешательства и улучшения во всех областях, где он работает. Эффект накопления становится трудно смоделировать.

Рассмотрим научные исследования. Сегодня ИИ помогает исследователям, когда они задают вопросы, часто в таких задачах, как обзор литературы, выдвижение гипотез и анализ данных. Проактивный ИИ будет непрерывно отслеживать передовые направления исследований, выявлять пробелы и возможности, предлагать эксперименты, координировать работу с сетевым лабораторным оборудованием, анализировать результаты по мере их поступления и выявлять новые идеи, не дожидаясь внимания исследователя. Исследовательский цикл ускоряется от темпа, заданного человеком, к темпу, заданному машиной.

Рассмотрим вопросы управления. Сегодня аналитики-люди выявляют проблемы, собирают данные, моделируют сценарии и разрабатывают рекомендации по политике — искусственный интеллект может помочь в решении некоторых из этих задач, если его об этом попросят. Проактивный ИИ будет постоянно отслеживать социально-экономические показатели, выявлять возникающие проблемы до того, как они появятся в заголовках новостей, моделировать варианты вмешательства и представлять готовый к принятию решений анализ чиновникам. Время реагирования сократится с месяцев до часов.

Рассмотрим личностное развитие. Сегодня вы совершенствуетесь посредством целенаправленной практики, запланированных размышлений и периодических консультаций с коучами или терапевтами. Проактивный ИИ будет отслеживать ваше поведение с помощью цифровых устройств и носимых гаджетов, выявлять закономерности, ограничивающие вашу эффективность, предлагать небольшие вмешательства в течение дня и помогать вам стать тем человеком, которым вы хотите быть, посредством постоянного мягкого руководства.

В каждой области трансформация одинакова: устранение человеческого внимания как ограничивающего фактора. Это не исключает человека из цикла. Это меняет сам цикл. Люди переходят от роли операторов к роли управляющих, устанавливая цели, определяя границы, анализируя результаты и принимая решения, требующие учета человеческих ценностей. Пропускная способность для выполнения становится фактически неограниченной.

Общества, которые успешно осуществят переход к проактивному искусственному интеллекту, будут функционировать в таком темпе, что сегодняшняя производительность будет казаться скоростью конной повозки в эпоху автомобилей.

Проактивный ИИ не лишен рисков. Системы, работающие непрерывно, расширяют область конфиденциальности и увеличивают потенциал уязвимостей в системе безопасности. Например, недавние сообщения о вирусном автономном ИИ-агенте OpenClaw показывают, что открытые шлюзы агентов могут позволить злоумышленникам читать личные файлы, сообщения и другие конфиденциальные данные, подчеркивая, насколько мощные агенты могут превратиться в кошмар для кибербезопасности, если ими не управлять должным образом.

Для смягчения этих последствий необходимы ограниченная автономия, обратимые действия, четкий человеческий контроль, прозрачные журналы аудита и надежная система безопасности. Вероятно, в ближайшие несколько лет мы увидим ограниченное внедрение проактивных мер в корпоративной среде, в то время как более широкое, междоменное внедрение проактивных мер займет больше времени.

Перо вновь в центре внимания
Вернемся к цитате Г. Росса Перо: «Слова ничего не стоят. Словах много. Дела бесценны».

ChatGPT может сгенерировать подробный план для любого начинания, которое вы можете сформулировать. Он может проанализировать риски. Он может предложить варианты действий на случай непредвиденных обстоятельств. Он даже может разыграть сценарий выполнения плана. Но когда вы закрываете вкладку, ничего не происходит. План остается планом. Слова остаются словами.

Перспектива ИИ заключается не в бесконечном общении. Она заключается в бесконечном влиянии. Влияние требует действий. Действия требуют не просто возможностей, но и инициативы, готовности начать без подсказки, взаимодействовать с миром, а не ждать, пока мир взаимодействует с вами.

Эра агентов положила начало выполнению искусственным интеллектом важных задач. Развитие ИИ в следующем десятилетии будет оцениваться не по результатам бенчмарков или длине контекстных окон, а по предпринятым действиям, решенным проблемам и созданной ценности системами, которые не ждали, пока их попросят.
Киара Ниргин и Нихара Ниргин