Исследователи не могут с уверенностью сказать, кто был ответственен, но есть доказательства того, что агенты Google и OpenAI применяли различные агрессивные методы для сбора наборов данных и проверки своих уязвимостей. (Euronews)
По данным некоммерческой исследовательской лаборатории Transluce, агенты ИИ-изгоя пытались взломать сайты правительственных органов США и Канады, и доказательства указывают на то, что за это отвечают агенты Google и OpenAI.
Два инцидента, в частности, продемонстрировали агрессивные методы доступа к общедоступным данным из Коллекции данных по гражданским правам Министерства образования США и Library and Archives Canada, федерального канадского агентства, но в итоге ни одно из них не смогло скомпрометировать данные.
Transluce сообщает, что инциденты являются частью «более широкой схемы автоматизированных рабочих процессов», приписываемых агентам ИИ. «Эти рабочие процессы используют агрессивные или «серые зоны» методы для получения информации с государственных сайтов, иногда используя сайты непреднамеренным образом или нарушая явные правила использования», — заявили исследователи организации.
Среди дополнительных целей были Белый дом, Министерства войны, юстиции и торговли, а также Центры по контролю и профилактике заболеваний и Комиссия по ценным бумагам и биржам, а также государственные агентства Калифорнии, Мэриленда, Иллинойса, Техаса и Нью-Йорка.
Однако ни в одном из этих случаев агенты не получили доступ к информации, которая ранее не была публично доступна.
Последние результаты появились на фоне растущего числа сообщений о неожиданном или несанкционированном поведении агентов ИИ.
Только в сентябре произошли два крупных инцидента с участием агентов OpenAI — первый связан с утечкой личных изображений пользователей на публичные сайты, второй — с попытками получить доступ к правительственным данным США и Австралии.
Компания с тех пор решила отложить запуск своей модели следующего поколения Astra после того, как исследователи по безопасности выявили «критические» возможности кибербезопасности и непредсказуемое, несанкционированное поведение.
Агенты напали на Министерство образования США 17 июня, изучая школьную статистику.
Transluce сообщает, что агенты сделали более 200 000 запросов на сайт, включая неудачную попытку отправить намеренно ошибочные данные для проверки уязвимости базы данных сайта и, следовательно, обходить обычные фильтры сайта.
Исследователи обнаружили, что данные, хранящиеся на сайте, по-видимому, совпадают с задачей поиска в веб-поиске в бенчмарке Google DeepSearchQA, что, по их словам, свидетельствует о том, что агентам не было предписано проводить хакерские атаки, а «оценивались по способности успешно извлекать конкретную нишовую информацию из интернета».
Transluce сообщил о попытке взлома в Министерство образования США в сентябре, на что ведомство ответило, что не заметило никаких последствий на их услуги.
Агенты ИИ предприняли аналогичные попытки напасть на Библиотеку и Архивы Канады в двух отдельных случаях — 28 мая и позже 9 июня.
Агенты направили 899 запросов «коллекционного поиска» на получение данных, касающихся записей о разводах с 1905 по 1911 год, согласно данным, собранным официальным португальским веб-архивом Arquivo.pt.
Из 899 запросов 13 содержали атакующие полезные нагрузки для проверки уязвимости сайта. Опять же, ни одна из попыток не увенчалась успехом.
Transluce заявляет, что не может «с уверенностью приписывать» попытки открытого ИИ, но эти тактики соответствовали деятельности, которую ранее приписывали компании.
Организация сообщила об этих инцидентах правительству Канады ранее на этой неделе.
Канадский центр кибербезопасности выпустил заявление в ответ, заявив, что «нет признаков того, что государственные системы были скомпрометированы на данный момент».
Transluce опубликовала свои результаты вчера после проведения исследования с использованием информации Arquivo.pt and urlquery.net — бесплатного веб-сервиса безопасности для сканирования URL и доменов.
Джонатан Бентон
Мнение авторов может не совпадать с мнением редакции.
Cообщество журналистов. Non profit
