Ни для кого не секрет, что ИИ используют как защитники, так и злоумышленники, чтобы повысить уровень своей киберготовности. С одной стороны, защитники применяют системы обнаружения на базе ИИ для ускорения реагирования на инциденты, а с другой — злоумышленники масштабируют свои усилия благодаря новым возможностям автоматизации.
Победитель в этой гонке вооружений может определиться благодаря раннему предупреждению и превентивным мерам, которые невозможны без глубокого сбора разведданных обеими сторонами. Хорошая новость заключается в том, что у SOC-центров есть то, чего нет у злоумышленников: возможность сдерживания.
Основные тезисы статьи: игра в атрибуцию меняется, и старые сигналы могут быть уже не так надежны, как казалось раньше. ИИ не только создает шум в ландшафте угроз, но и может формировать новые закономерности, которые предстоит изучить защитникам. Для SOC-центров реальное преимущество может заключаться не в уверенности, а в скорости, контексте и корреляции. Сдерживание в эпоху ИИ может зависеть от того, насколько сложнее станет поддерживать атаки, даже если личности злоумышленников остаются неясными. Следующим испытанием для защитников может стать превращение ИИ из источника неопределенности в практический инструмент для более быстрого и точного реагирования.
Основные тезисы статьи:
- Игра в атрибуцию меняется, и старые сигналы могут быть уже не так надежны, как казалось раньше.
- ИИ не только создает шум в ландшафте угроз, но и может формировать новые закономерности, которые предстоит изучить защитникам.
- Для SOC-центров реальное преимущество может заключаться не в уверенности, а в скорости, контексте и корреляции.
- Сдерживание в эпоху ИИ может зависеть от того, насколько сложнее станет поддерживать атаки, даже если личности злоумышленников остаются неясными.
- Следующим испытанием для защитников может стать превращение ИИ из источника неопределенности в практический инструмент для более быстрого и точного реагирования.
Атрибуция: ключ к победе
Что составляет качественные разведданные? Директор ESET по исследованиям угроз Жан-Иан Бутен ответил бы, что это вся закулисная работа, «тяжелый труд по обработке, обогащению, корреляции, кластеризации и анализу образцов, появляющихся в телеметрии».
Но как это помогает командам SOC? И какое отношение это имеет к атрибуции?
По сути, именно эта фоновая работа по созданию разведданных помогает SOC-центрам с большей точностью атрибутировать атаки на защищаемые ими среды. В прошлой статье эксперта ESET по вопросам безопасности Джеймса Родевальда упоминалось, что именно доступ к различным формам разведданных позволил им точно определить злоумышленника, которым в их случае был оператор программы-вымогателя Mallox.
Таким образом, понимание того, сталкивается ли организация с финансово мотивированным киберпреступником (например, оператором вымогателя) или с атакующим, действующим в интересах государства, может определить приоритеты реагирования, стратегические инвестиции и будущие усилия по поиску угроз.
Проблема правильной атрибуции
Но все не так просто, как кажется. Атрибуция никогда не была легкой задачей. И исследователи, и аналитики могут столкнуться с трудностями, поскольку злоумышленники часто:
- Повторно используют и обмениваются инструментами (или покупают их у операторов MaaS)
- Прячутся за инфраструктурой (например, легитимными облачными сервисами или сетями ORB)
- Имитируют другие группы (два субъекта из России могут иметь схожие методы работы), либо непреднамеренно, либо, наоборот, для создания ложных следов
- Действуют через границы, обеспечивая определенную степень правдоподобного отрицания, особенно для групп, связанных с государством
В дополнение к этому существуют разные исследовательские подходы, при которых TTP могут пересекаться, но небольшие различия в идентификации могут привести к разной атрибуции. В этот момент задача ложится на охотников за угрозами, которым нужно соединить все точки, особенно когда у них есть доступ к нескольким различным каналам CTI одновременно (что обычно есть у SOC).
ИИ входит в картину атрибуции
Здесь ситуация становится еще более запутанной. ИИ уже влияет на некоторые сигналы, на которые полагаются аналитики при атрибуции.
Пример: PromptLock. Это открытие ESET особенно интересно, поскольку оно было впервые обнаружено на VirusTotal, что неудивительно. Но тот факт, что это вполне могло быть следом реальной атаки, а не результатом исследований, делает границы еще более размытыми.
Но это касается не только вредоносного ПО. В фишинге ИИ угрожает стереть еще одну привычную категорию признаков атрибуции: язык (грамматика, стиль, ссылки). Генеративный ИИ сокращает количество этих сигналов, создавая более убедительный контент в больших масштабах. То же самое верно и для фальшивых онлайн-персон, добавляя еще один слой маскировки в арсенал злоумышленников.
Где все становится серым
Почему это важно? Если ИИ уже может генерировать фишинговые приманки, создавать мошеннические схемы с использованием дипфейков и помогать с написанием кода, разумно ожидать, что он будет играть все более активную роль во всей цепочке атак. По мере того как системы становятся более автономными, исследователи могут обнаружить, что атрибутируют кампании, в которых все большая часть действий автоматизирована, а не выполняется непосредственно человеком-оператором. ESET уже выявила тысячи внешне безобидных навыков, которые при ближайшем рассмотрении демонстрировали вредоносные возможности.
Также был случай PromptSpy, где использовался генеративный ИИ для обеспечения устойчивости. Но что, если целая атака была организована ИИ? Недавние инциденты, о которых сообщили OpenAI и Anthropic, показывают, что их модели способны обходить ограничения «песочницы» для проникновения во внешние системы. Это еще больше повышает ставки в вопросе о том, кто на самом деле является атакующим. Это ИИ или тот, кто запустил атаку? И где это оставляет провайдера модели? Это фактически добавляет еще один слой отрицания между злоумышленниками и жертвами, что может значительно усложнить работу правоохранительных органов.
Но на этом история не заканчивается. Отрицание — это одно, но увеличение масштаба, несомненно, приведет к появлению большего количества точек данных для анализа. Другими словами, ИИ может размыть отпечатки пальцев, но он также оставляет больше пятен для изучения.
Таким образом, тот же объем данных, который затрудняет атрибуцию для аналитика-человека, может стать полезным, когда SOC-центры смогут сопоставлять эти точки данных с помощью... (барабанная дробь)... ИИ. И это не такая уж надуманная идея.
Преимущество ИИ для защитников
Прежде всего: ИИ не предназначен для замены аналитиков. Если он может позволить злоумышленникам действовать в больших масштабах, он также может поглощать эти избыточные потоки данных и возвращать их на панели мониторинга безопасности, сопоставляя сигналы, ускоряя сортировку, обнаруживая аномалии и, в конечном итоге, сокращая время расследования.
Что еще более важно, ИИ может помочь решить некоторые из проблем атрибуции, обсуждавшихся ранее. Рассмотрим фишинговую кампанию, в которой используются сотни слегка различающихся электронных писем, созданных ИИ. Для аналитика-человека каждое сообщение может казаться уникальным. Однако система на базе ИИ может выявить общие закономерности, совпадения в инфраструктуре или поведенческие сходства, которые указывают на общий источник.
То же самое относится и к анализу вредоносного ПО. Злоумышленники могут использовать ИИ для быстрой генерации вариантов, позволяющих обходить обнаружение на основе сигнатур, но защитники могут использовать ИИ, включая различные модели машинного обучения, для выявления фундаментальных сходств в ДНК кода, паттернах выполнения или поведении командных серверов. То, что кажется десятками несвязанных инцидентов, на самом деле может быть одной кампанией.
Аналогичным образом, ИИ должен быть способен сопоставлять слабые сигналы из нескольких источников телеметрии — необычный паттерн входа в систему, подозрительное событие на конечной точке и кажущаяся безобидной активность в облаке. По отдельности эти сигналы могут не вызывать тревоги. Однако вместе они могут выявить более масштабную попытку вторжения и помочь аналитикам определить, имеют ли они дело с оппортунистическим киберпреступником, участником программы-вымогателя или более изощренным злоумышленником.
Это близко к тому, как ESET PROTECT XDR сопоставляет обнаружения благодаря своему движку обнаружения на базе ИИ и ESET LiveCortex.
Это близко к тому, как ESET PROTECT XDR сопоставляет обнаружения благодаря своему движку обнаружения на базе ИИ и ESET LiveCortex.
Результатом является новая «серая зона» для киберзащиты. Но неопределенность не обязательно играет на руку злоумышленникам. Скорее, она повышает ценность разведданных, корреляции и контекста — именно тех возможностей, в которые сегодня инвестируют современные SOC.
Атрибуция и сдерживание в эпоху ИИ
Специалисты по кибербезопасности традиционно рассматривали атрибуцию как одну из конечных целей разведки. Но в среде, где используется ИИ, организациям, возможно, придется отдавать приоритет действиям, а не уверенности. Другими словами, SOC нужно меньше думать о том, «было ли это сделано группой А», и вместо этого сосредоточиться на следующем:
- Активна ли кампания до сих пор?
- Какая инфраструктура используется?
- На какие системы обычно нацелены атаки?
- Что следует немедленно заблокировать?
Заметьте, ИИ не проводит кампании самостоятельно; даже если независимые агентные действия не исключены полностью, кто-то все равно должен был их запустить. Но независимо от того, кто стоит за атакой, защитникам часто приходится принимать решения, не дожидаясь высокоточной атрибуции.
Другими словами, дело не столько в том, что лента разведданных говорит о профиле злоумышленника, сколько в том, что происходит сейчас, в сочетании с видимостью, которую обеспечивает XDR.
Рассмотрим вторжение с использованием программы-вымогателя. SOC может не сразу узнать, какая группа несет ответственность, но он все равно может идентифицировать инфраструктуру управления, обнаружить попытки горизонтального перемещения, изолировать скомпрометированные хосты и заблокировать вредоносные домены. Злоумышленник может оставаться анонимным, но операция становится медленнее, дороже и с большей вероятностью провалится.
Тот же принцип применим к фишингу с использованием ИИ. Предположим, злоумышленник генерирует тысячи персонализированных приманок с помощью генеративного ИИ. Защитнику не нужно знать, кто написал каждое электронное письмо. Выявляя общую инфраструктуру доставки, общие поведенческие индикаторы или повторяющиеся паттерны таргетинга, SOC может прервать кампанию до того, как она достигнет своих целей.
Сдерживание в «серой зоне»
И именно здесь на сцену выходит сдерживание. В отличие от злоумышленников, защитники контролируют среду, на которую совершается атака. Они могут укреплять системы, улучшать видимость и сокращать время пребывания злоумышленника в сети, тем самым увеличивая операционные издержки вторжения. Даже если атрибуция становится менее определенной, организации все равно могут сделать себя более сложными и менее прибыльными целями, потенциально отговаривая злоумышленников от продолжения их усилий.
В этом смысле атрибуция остается ценной, но не только для возложения вины. Ее практическая ценность заключается в том, чтобы помочь защитникам понять поведение противника, предвидеть будущую активность и развернуть контрмеры до того, как атака увенчается успехом.
Цель, в некотором смысле, состоит в том, чтобы создать достаточно трений, чтобы злоумышленники были вынуждены тратить больше времени, потреблять больше ресурсов и принимать на себя большие риски.
На чем SOC должны сосредоточиться сейчас
Сейчас ИИ делает атрибуцию менее определенной, поэтому SOC должны сосредоточиться на извлечении сигнала из шума и действиях, не дожидаясь уверенности. На практике это означает:
- Ставить своевременную разведку на первое место: Аналитика угроз в реальном времени может помочь SOC понять, какие методы набирают популярность, какая инфраструктура используется не по назначению и на какие секторы нацелены атаки в последние несколько минут. Даже когда защитники не могут уверенно идентифицировать конкретного злоумышленника, они все равно могут распознать паттерны, связанные с кампаниями или стилями работы.
- Инвестировать в более богатую телеметрию: Выбирайте ясность. Приобретайте ленты разведданных, соответствующие профилю угроз вашей организации, будь то лента PUA, отслеживающая использование вредоносных инструментов, или лента ботнетов, улучшающая обнаружение на ранних стадиях.
- Сосредоточиться на поведении, а не на индикаторах: IP-адреса меняются, а домены забрасываются. Злоумышленники всегда меняли технические индикаторы, но ИИ может значительно ускорить этот процесс. Вместо того чтобы полагаться исключительно на статические IoC, SOC должны инвестировать в обнаружение поведения: необычное повышение привилегий, аномальные паттерны аутентификации, подозрительное горизонтальное перемещение или неожиданный доступ к данным. Хотя злоумышленники могут генерировать бесконечные вариации инструментов и инфраструктуры, изменить операционное поведение часто гораздо сложнее.
- Использовать ИИ для помощи: Современные SOC уже сталкиваются с усталостью от оповещений. Если атаки с помощью ИИ увеличат объем событий, требующих расследования, аналитикам потребуется помощь в кластеризации связанных инцидентов, выявлении паттернов в телеметрии и выявлении активности, заслуживающей внимания человека. Это полезно даже для разведки APT, для быстрого получения информации об изощренных злоумышленниках.
Заключение
Будущее атрибуции может быть связано не столько с называнием имени злоумышленника, сколько с пониманием атаки настолько хорошо, чтобы остановить ее. ИИ размоет отпечатки пальцев, запутает старые сигналы и даст злоумышленникам больше пространства для правдоподобного отрицания.
Но защитники не остаются в неведении. Если SOC может обнаружить кампанию раньше, сдержать ее быстрее и заставить злоумышленника работать усерднее на каждом шагу, то разведданные превращаются в защитное преимущество. Возможно, не идеально, но достаточно хорошо, чтобы стать множителем силы для сдерживания.
Часто задаваемые вопросы: ИИ и атрибуция
Что такое кибератрибуция и почему она важна?
Кибератрибуция — это процесс определения того, кто стоит за кибератакой. Для SOC атрибуция важна, потому что она помогает формировать приоритеты реагирования, направлять поиск угроз и информировать о долгосрочных инвестициях в безопасность.
Как ИИ усложняет кибератрибуцию?
ИИ может усложнить атрибуцию, размывая сигналы, на которые традиционно полагались аналитики, такие как стиль письма в фишинговых письмах, вариации вредоносного ПО и поведение оператора. Поскольку злоумышленники используют генеративный ИИ и автоматизацию по всей цепочке атаки, кампании может стать труднее уверенно связать с конкретной группой или лицом.
Может ли ИИ также помочь защитникам улучшить атрибуцию?
Да. ИИ может помочь защитникам сопоставлять слабые сигналы в больших объемах телеметрии, классифицировать связанные инциденты, обнаруживать поведенческие сходства и выявлять закономерности, которые могут быть пропущены аналитиками-людьми. В этом смысле ИИ может как усложнить атрибуцию, так и усилить защиту на основе аналитики угроз.
Стоит ли SOC ждать точной атрибуции перед тем, как реагировать?
Нет. В эпоху ИИ центрам SOC часто приходится действовать до того, как уверенность в атрибуции станет высокой. Блокирование вредоносной инфраструктуры, изоляция зараженных хостов, обнаружение латерального движения и срыв активных кампаний могут снизить успех злоумышленников, даже если точный оператор остается неизвестным.
Что должны ставить в приоритет SOC по мере того, как ИИ меняет ландшафт угроз?
SOC должны отдавать приоритет своевременным данным об угрозах, более богатой телеметрии, обнаружению на основе поведения и расследованиям с помощью ИИ. Эти возможности помогают командам выделять полезный сигнал из шума, реагировать быстрее и повышать операционные издержки для злоумышленников, даже когда атрибуция становится менее определенной.












