Когда речь заходит о скрытых механизмах искусственного интеллекта, китайские эксперты по кибербезопасности все больше сосредотачиваются на создании управляемого цифрового ядра. (SCMP)
Разработка отечественных моделей искусственного интеллекта, которые «воплощают национальный суверенитет, воплощают социалистические основные ценности и интегрируют профессиональную экспертизу в области безопасности», имеет важное значение для Китая, считает У Шичжун, академик Китайской инженерной академии, в статье, опубликованной в августе в журнале China Information Security.
«Создав внутренне глубоко контролируемое и внешне строго защищенное ядро когнитивной безопасности, мы добьемся системного скачка в возможностях национальной киберзащиты», — заявил эксперт по сетевым и информационным технологиям.
Итак, как этого можно достичь? Ву предложил несколько вариантов, например, создание механизма идентификации, аутентификации и аудита для агентов ИИ, с ведением журналов их поведения таким образом, чтобы агенты регистрировались и могли быть подвергнуты аудиту.
Ву также отметил, что сфера применения безопасности ИИ расширяется до «национальной безопасности, цифровой инфраструктуры и общественного доверия» — иными словами, выходит далеко за рамки предотвращения атак на модели.
Скорее, по его словам, это «распространяется на макроуровневые проблемы, такие как снижение барьеров для разработки биологического или химического оружия и потенциальный крах системного доверия в обществе».
Ву также затронул вопрос суверенитета ИИ, заявив, что суверенный ИИ является ключевым понятием в конкуренции великих держав.
«Другие крупные державы, активно реагируя на технологическую монополию США и тенденцию к квазимилитаризации технологий, отказались от прежних иллюзий о технологиях без границ».
«Вместо этого они теперь отдают приоритет полному контролю над собственными технологиями ИИ, укрепляя свое чувство технологического суверенитета, устанавливая «красные линии» для конфиденциальности ИИ и усиливая рамки кибербезопасности», — сказал он.
В то время как анализ Ву был сосредоточен на внутренней инфраструктуре и киберустойчивости, Пекин стремится к идеологическому согласованию на уровне фронтенда в приложениях искусственного интеллекта, ориентированных на широкую аудиторию.
В прошлом году президент Си Цзиньпин призвал к усилиям по развитию новых информационных технологий и их применению для улучшения контроля над киберпространством и продвижения социалистических ценностей.
Это часть более широких усилий Китая по использованию новых технологий, особенно искусственного интеллекта, для защиты от западного влияния и укрепления собственной идеологии.
В 2023 году китайское правительство обязало создавать контент с помощью ИИ, придерживаясь «социалистических основных ценностей». С этой целью были разработаны принципы общественной этики и личной морали, направленные на построение современного, гармоничного и процветающего общества под руководством партии.
Несмотря на строгий идеологический контроль, разработанные в Китае модели искусственного интеллекта с открытым исходным кодом набирают популярность в американских технологических центрах.
В ходе недавних бесед с основателями стартапов в сфере искусственного интеллекта в Нью-Йорке некоторые предприниматели рассказали мне о своем энтузиазме по поводу китайских моделей с открытыми весами из-за их производительности, эффективности и доступности.
В то же время, другие специалисты, работающие над регулированием ИИ, не столь оптимистичны. Они бьют тревогу, призывая к осторожности и недопустимости поспешной разработки без установленных ограничений.
По мере того как ИИ превращается из цифрового инструмента в структурную опору общества, вопрос о том, чьи ценности заложены в его основу, становится неизбежным.
Независимо от того, рассматриваем ли мы это с точки зрения суверенной цифровой обороны или глобального сотрудничества в области открытого программного обеспечения, одно можно сказать наверняка: правила эпохи ИИ пишутся прямо сейчас.
Холли Чик
(в пересказе)
Мнение авторов может не совпадать с мнением редакции.
Cообщество журналистов. Некоммерческая t.me/Fable_Teller
