Этот пост добавлен читателем Naked Science в раздел «Сообщество». Узнайте как это сделать по ссылке.

24 сентября, 23:54

Рейтинг: +1651

Посты: 1272

116

ИИ-агенты весной начали атаковать сайты ради данных

Новость о том, что ИИ-агент OpenAI взломал правительственную систему Австралии в очередной раз всколыхнула общественность. Но, как выяснила команда исследователей Transluce, занимающаяся контролем ИИ, агенты компании совершили минимум еще три атаки на сайты государственных учреждений и университетов.

Сообщество

# OpenAI

# безопасность данных

# искусственный интеллект

# кибератаки

Австралийские власти рассказали, что ИИ-агент OpenAI получил несанкционированный доступ к закрытым данным на сайте со статистикой государственной системы всеобщего медицинского страхования Medicare. Инцидент произошел в июне, но компания обнаружила это лишь в августе. В сентябре они уведомили правительство по электронной почте.

При этом эксперты из Transluce утверждают, что они обнаружили еще минимум три попытки несанкционированного доступа. 25 и 26 мая ИИ пытался взломать цифровую библиотеку Университета Нью-Мексико. 28 мая агент атаковал Data USA — хранилище открытых данных о занятости и образовании в США. 20 и 21 июня система OpenAI вновь обратила внимание на учреждение в Австралии, на этот раз на сайт Австралийского института здравоохранения и социального обеспечения. Судя по всему, эти попытки атаки не были успешными.

Представители Transluce обращают внимание, что агенты прибегли к попыткам взлома, выполняя рутинные задачи по поиску данных. На способность к кибератакам их в тот момент не проверяли.

Например, на сайте библиотеки Университета Нью-Мексико агент искал фотографии исторического противотуберкулезного лечебного центра. Когда он не смог получить к ним доступ, ИИ начал искать уязвимости, которые позволили бы ему проникнуть в систему.

Transluce отмечает, что подозрительная активность со стороны агентов началась еще в марте. Как показали записи urlquery.net, 6 марта агент попытался получить статистику по борьбе с наркотиками в Таиланде. Потерпев неудачу, агент усиливал активность. Сначала он запрашивал данные напрямую, а потом попробовал использовать сервис, превращающий содержимое веб-страницы в текст. Вновь не добившись успеха, он попытался передать собственную программу веб-сервису через специально сформированный URL.

Схожий метод специалисты зафиксировали в тысячах запросов агентов, зарегистрированных urlquery.net. Происходит это примерно с середины апреля. При этом аналогичная активность наблюдалась вплоть до середины сентября.

Как полагают исследователи, ИИ-агенты использовали браузер urlquery.net не только для поиска информации. В июне они создавали почтовые ящики и пытались регистрироваться на сторонних сервисах. Позднее агенты пытались совершать операции на криптобирже, но когда у них не получилось, они попробовали внедрить HTML-код и несколько раз обращались к API.

Специалисты обнаружили возможные следы активности агентов еще в ноябре 2025 года. Но те записи отличаются от более поздних случаев, наблюдавшихся с марта. В ноябре предполагаемые агенты просто отправляли повторные запросы для получения данных, но уже в марте они стали прибегать к более сложным схемам.

Нашли опечатку? Выделите фрагмент и нажмите Ctrl (Cmd) + Enter.