Ключевые выводы
- Darktrace выявила поведенческие индикаторы, связанные с двумя кампаниями, которые имеют отношение к угрозам с использованием искусственного интеллекта, что подчеркивает возрастающую роль ИИ в современных кибератаках.
- Зафиксированная активность включала подозрительную передачу файлов по протоколу WebDAV, загрузку замаскированных исполняемых файлов, маячковые соединения с редкой инфраструктурой, необычное выполнение процессов и связь с инфраструктурой C2, связанной с активными кампаниями вторжений.
Введение
Подобно тому как организации внедряют ИИ в свою деятельность для извлечения преимуществ, злоумышленники делают то же самое, создавая новые проблемы для специалистов по защите.
Значительная часть дискуссий об рисках ИИ была сосредоточена на расширении поверхности атаки, создаваемой системами ИИ внутри организаций. Этим системам часто предоставляется привилегированный доступ и повышенные разрешения для выполнения своих задач, что порождает новые риски безопасности и непредвиденные последствия.
В то же время злоумышленники учатся использовать ИИ для обеспечения вредоносных действий, таких как обнаружение уязвимостей, создание эксплойтов и более быстрое прохождение цепочки кибератак (Cyber Kill Chain). За счет ускорения разработки, адаптации и масштабирования ИИ позволяет злоумышленникам действовать более эффективно, делая некоторые возможности более доступными для менее квалифицированных операторов.
Независимо от того, является ли ИИ целью или инструментом, возникающая в результате активность все равно проявляется в сетях, идентификаторах, конечных точках и облачных сервисах. Эти взаимодействия создают наблюдаемые сигналы, которые защитники могут исследовать, независимо от того, как была разработана атака.
ИИ как часть рабочего процесса злоумышленника
Darktrace ранее описывала, как злоумышленники все активнее внедряют ИИ в наступательные операции [1]. Два недавних расследования на основе данных разведки по открытым источникам (OSINT) иллюстрируют это. В обоих случаях исследователи определили роль ИИ во вредоносных операциях. Независимо от этого Darktrace обнаружила в клиентских средах активность, которая совпадала с инфраструктурой и методами, описанными в этих кампаниях. Эти перспективы позволяют увидеть как рабочий процесс злоумышленника, так и операционные последствия.
Хотя ИИ играл разные роли в каждой кампаниях, это не избавило злоумышленников от необходимости взаимодействовать со своими целями. Полезные нагрузки все равно нужно было доставлять, процессы — выполнять, а соединения с командными центрами (C2) — устанавливать, что создавало поведенческие аномалии, которые Darktrace смогла выявить.
Случай 1: Кампания по выдаче себя за правительство Мексики с использованием вредоносного ПО, разработанного с помощью LLM
Компания Rapid7 сообщила об операции по доставке вредоносного ПО, которая использовала генеративный ИИ для помощи в разработке, тестировании, документировании и доработке инфраструктуры злоумышленников. В период с мая по июнь 2026 года Darktrace аналогичным образом наблюдала две цепочки подозрительной активности в клиентских средах на территории Америки, которые демонстрировали явное сходство в поведении.
В обоих случаях Darktrace зафиксировала:
- Связь по протоколу WebDAV с onedrive[.]cv·138.124.123[.]87, извлечение файла по пути /Downloads/CURP/
- Передачу замаскированного исполняемого файла .scr
- Последующую связь с google.services[.]ug·77.110.127[.]205 через необычные высокие порты
- Дополнительные обнаружения Darktrace, коррелирующие необычное поведение, охватывающее доставку полезной нагрузки и связь с C2
- Возможность автономного реагирования Darktrace (Autonomous Response) выдавала предупреждения на нескольких этапах атаки
Инфраструктура и поведение, зафиксированные Darktrace, тесно совпадали с кампанией, о которой сообщила Rapid7 и в которой была обнаружена среда доставки вредоносного ПО через WebDAV. Компания Rapid7 пришла к выводу, что злоумышленники использовали генеративный ИИ для поддержки разработки, тестирования, документирования и доработки операции. Наблюдавшаяся активность также совпала с отчетами о кампании, в которой выдача себя за службу учета данных единого реестра населения правительства Мексики (CURP) привела к доставке PureRAT — инфостирателя и трояна удаленного доступа (RAT) на базе .NET [2]. Пересечение инфраструктуры и последовательная поведенческая последовательность обеспечивают тесное соответствие и дают представление о том, как пайплайн разработки с помощью ИИ в конечном итоге проявился внутри целевых сред.
Случай 2: Предполагаемая кампания вторжения, связанная с Китаем, с использованием автоматизации на базе ИИ
В июле 2026 года компания Hunt.io опубликовала результаты исследования предполагаемой операции вторжения из Китая, нацеленной на правительственные организации и финансовые учреждения [3]. Материалы, извлеченные Hunt.io из незащищенной инфраструктуры злоумышленников, показали, что Claude Code и DeepSeek-v4-pro использовались в качестве активных компонентов рабочего процесса злоумышленника. Согласно исследованию, модели поддерживали такие действия, как логика атак, генерация скриптов, выполнение, адаптация эксплойтов и разработка фишинговых страниц.
В ходе расследования в качестве инфраструктуры, связанной с предполагаемыми операциями TencShell и возможным вторым фреймворком C2, известным как Gshell, были идентифицированы адреса 192.229.115[.]229 и 192.229.115[.]230 [3].
Darktrace выявила потенциально связанную с этим активность в клиентской среде финансового сектора, связанную с недавно обнаруженным ноутбуком под управлением операционной системы Windows 11 Pro. В течение шести дней в июле устройство неоднократно устанавливало исходящие соединения с 192.229.115[.]229 через порт 8083.
Darktrace определила, что пункт назначения является крайне редким для данной среды, а подключение демонстрировало признаки маячковой активности. В тот же период времени Darktrace также выявила подозрительное поведение процессов, связанное с цепочками процессов, включающими svchost.exe и cmd.exe. Устройство неоднократно связывалось с инфраструктурой, выявленной в исследовании Hunt.io, демонстрируя при этом маячковую активность и подозрительную активность процессов, что подкрепляет предположение о том, что эта активность, вероятнее всего, была связана с той же операцией.
В отличие от многих предыдущих примеров киберпреступности с использованием ИИ, исследование Hunt.io предоставило редкую возможность увидеть, как большие языковые языковые модели внедряются непосредственно в операционные рабочие процессы, а не используются исключительно для генерации контента. Darktrace тем временем наблюдала, как активность, связанная с этой операцией, в конечном итоге проявилась внутри целевой среды, обеспечивая взаимодополняющий взгляд на ее операционное воздействие.
Операционные последствия атак с использованием ИИ
Эти расследования предоставляют две взаимодополняющие точки зрения на кибероперации с использованием ИИ. Исследования OSINT показали, как ИИ был интегрирован в рабочие процессы злоумышленников, в то время как Darktrace наблюдала результирующую активность внутри клиентских сред.
Хотя ИИ играл разные роли в каждой кампании, это не избавило злоумышленников от необходимости взаимодействовать с целями, доставлять полезные нагрузки, выполнять процессы и связываться с C2 — и все это генерировало наблюдаемые сигналы.
В этих случаях Darktrace выявила подозрительную доставку файлов, необычное поведение процессов, маячковую активность и связь с редкой внешней инфраструктурой, которые совпадали с кампаниями, позже связанными с операциями с использованием ИИ. Хотя ИИ может влиять на то, как атаки разрабатываются, адаптируются и масштабируются, он не делает их незаметными с операционной точки зрения.
Для защитников более широкий урок выходит за рамки этих конкретных кампаний. Поскольку ИИ все глубже внедряется как в операционную деятельность предприятий, так и в рабочие процессы злоумышленников, понимание того, что именно просили сделать модель, зачастую менее важно, чем понимание предпринятых ею в итоге действий и к каким последствиям они привели. Независимо от того, является ли злоумышленник человеком, действует ли он с помощью ИИ или становится все более автономным, активность по-прежнему проявляется через учетные записи, конечные точки, приложения, облачные сервисы и сетевую инфраструктуру.
Благодарность Анхелю Аррибасу Лопесу (старшему ведущему кибераналитику), Эмме Фулджер (руководителю глобальных операций по исследованию угроз), Натаниэлю Джонсу, старшему вице-президенту по глобальной аналитике угроз. Под редакцией Райана Трейлла (контент-менеджера)
Приложения
Обнаружения моделей Darktrace
Кейс 1
Аномальный файл / Передача замаскированного файла с новой внешней конечной точки
Аномальный файл / Скрипт из редкого внешнего местоположения
Аномальный файл / EXE-файл из редкого внешнего местоположения
Аномальный файл / Скрипт и EXE-файл из редкого внешнего источника
Аномальное соединение / Множественные неудачные соединения с редкой конечной точкой
Аномальное соединение / Редкий внешний SSL с самоподписанным сертификатом
Компрометация / Новое или повторяющееся соединение на необычный SSL-порт
Компрометация / Большое количество подозрительных неудачных соединений
Устройство / Активность начальной цепи атак
Antigena / Сеть / Внешняя угроза::Блокировка подозрительного файла Antigena
Antigena / Сеть / Значительная аномалия::Блокировка расширенного мониторинга клиента Antigena
Antigena / Сеть / Значительная аномалия::Управляемое и модельное оповещение Antigena
Antigena / Сеть / Внешняя угроза::Блокировка файла с последующим новым исходящим соединением Antigena
Antigena / Сеть / Значительная аномалия::Блокировка значительной аномалии клиента Antigena
Antigena / Сеть / Значительная аномалия::Блокировка оповещений Antigena с течением времени
Кейс 2
Аномальное соединение / Множественные неудачные соединения с редкой конечной точкой
Компрометация / Высокий объем соединений с оценкой маяка (Beacon Score)
Компрометация / Большое количество подозрительных неудачных соединений
Индикаторы компрометации (IoC)
Кейс 1
Кейс 2
