Оповещения о безопасности редко приходят по одному. Одиночное оповещение может вызвать всплеск активности во всей среде, требуя от аналитика-человека решения о том, какие оповещения связаны между собой и что они означают. Когда их приходит сразу несколько, это может быстро перегрузить даже опытного аналитика по безопасности. Добро пожаловать в парадокс оповещений. Теперь наша встроенная система агентских операций по обеспечению безопасности на базе нескольких ИИ-агентов может выполнять большую часть этой работы в масштабах Cloudflare.
Наша система ИИ-агентов Cloudflare Managed Defense ускоряет процесс сбора данных, связывания и агрегирования обнаружений, а также учета отсутствующих источников, пока продолжают поступать новые оповещения. Для более глубокого анализа контекста мы используем OpenAI Daybreak Defense Network и наше партнерство с Anthropic. Cloudflare использует одобренные модели OpenAI Daybreak и Anthropic, включая GPT-5.6 Cyber и Mythos, для более глубокого анализа на основе моделей. Первичный анализ и оценка выполняются с помощью Clef, модели принятия решений с открытым исходным кодом от Cloudflare.
Сбор доказательств для понимания того, что означает каждое оповещение, требует много времени. Даже в высокотехнологичных системах управления информацией и событиями безопасности (SIEM) слишком многое остается на усмотрение человека. Аналитики-люди должны собирать данные, связывать и агрегировать обнаружения, а также учитывать отсутствующие источники, пока продолжают поступать новые оповещения.
Подумайте о каждом случае, когда аналитик-человек рассматривает оповещение: «Что нам следует отключить? Какое действие предпринять? Какое оповещение проигнорировать? Какие из них следует разрешить как ложноположительные? Какие — как истинно положительные? Какие должны активировать нашу группу реагирования на инциденты?» Мы решаем эту проблему с помощью нашей стратегии ИИ-агентов. Наш подход снимает все эти вопросы и предоставляет аналитикам Managed Defense быстрый и консолидированный обзор, напрямую обеспечивая понимание связанных оповещений, принятых доказательств, видимых пробелов и рекомендуемых дальнейших шагов. Результат: сокращение времени, необходимого для анализа, и создание гиперфокуса на фактическом разрешении оповещений безопасности и развертывании мер по смягчению последствий.
Почему один агент не справляется
Наш первый прототип показал ограничения одного агента общего назначения. Мы предоставили ИИ-агенту все материалы расследования. Он выдал полезный анализ, но также допустил галлюцинации, утверждая то, что не подтверждалось доказательствами. Телеметрия, описания детекторов, политики и данные об угрозах были сведены в один запрос, из-за чего их различные роли смешались.
Мы выявили три повторяющиеся проблемы в нашей первой системе с одним ИИ-агентом:
- Контекст стал авторитетом. Обнаружение — это гипотеза, а не доказательство того, что эксплойт удался или атака произошла. Широкопрофильный ИИ-агент может размыть это различие.
- Дрейф области действия. ИИ-агент может запросить не ту учетную запись, временной диапазон или источник. Нельзя полагаться на запрос к языковой модели как на границу.
- Исчезновение сбоев. Если время ожидания поиска истекает, результат может не различать «не проверено» и «проверено, но не найдено».
Чтобы решить эти проблемы, мы перенесли сбор доказательств и обеспечение соблюдения области действия в код приложения, до начала анализа моделью.
Сначала разведка, потом выводы
Возникает соблазн поставить ИИ-агента на каждом этапе. В первой части нашей системы их нет совсем.
Прежде чем мы даже вызываем логический вывод, детерминированный код запускает фиксированный набор рабочих процессов разведки с версионированными вызовами API. Он собирает идентификационные данные клиента, историю обнаружений, базовый уровень трафика, результат применения мер и наблюдения за сетью. Каждый фрагмент данных сохраняется с указанием источника, версии и метки времени.
Cloudflare видит как запрос, так и действие, примененное к нему. Это позволяет расследованию связать поведение, вызвавшее оповещение, как с сработавшим элементом управления, так и с его результатом.
Фиксированный снимок разведки также делает оценку воспроизводимой. Если ИИ-агенты сами извлекают свои данные, два запуска могут дать разные результаты, потому что их входные данные изменились. Здесь же один и тот же снимок можно воспроизвести, поэтому различия в выводах специализированных ИИ-агентов возникают из-за интерпретации, а не из-за поиска данных.
Ранняя фильтрация шума
Большинство оповещений не являются инцидентами. Одно и то же правило часто срабатывает повторно на известном шаблоне трафика, и вызов аналитиков Managed Defense каждый раз облегчает пропуск реального инцидента безопасности.
Нам нужна была облегченная модель сортировки, чтобы сравнивать каждое оповещение с данными разведки: было ли это событие обнаружено у клиента ранее? Что решили аналитики Managed Defense в прошлый раз? Выглядит ли трафик соответствующим нормальному человеческому поведению? Оповещения, оцененные как высоковероятные ложноположительные, пропускают анализ специализированными ИИ-агентами.
Clef, работающий на Workers AI, идеально подошел для этого типа быстрого агентского рассуждения.
Известный высокообъемный шум детерминированно классифицируется как пассивный при поступлении. Он остается доступным в качестве контекста, но не попадает в активную очередь.
Специализированные ИИ-агенты занимаются расследованием
Для оповещений, требующих более глубокого рассмотрения, координирующий ИИ-агент запускает четырех специализированных ИИ-агентов параллельно:
- Анализ трафика проверяет поведение запросов, исторические изменения и принудительное применение мер.
- Контекст клиента рассматривает более ранние оповещения, распоряжения и решения аналитиков Managed Defense.
- Глобальная телеметрия сравнивает активность с сигналами по всему Интернету, сохраняющими конфиденциальность.
- Аналитика угроз проверяет индикаторы, уже добавленные к оповещению или делу.
Синтезирующий ИИ-агент объединяет их типизированные выводы в одну рекомендацию; он не может извлекать новые доказательства или выбирать классификацию вне утвержденного словаря. Узкая специализация каждой задачи облегчает выявление необоснованных утверждений, а рекомендации — аудит.
Глобальный контекст без данных клиентов
Инструмент безопасности знает, что произошло внутри среды, в которой он развернут, но мало что знает о мире за ее пределами. Cloudflare сравнивает оповещение с шаблонами, наблюдаемыми по всей своей глобальной сети.
Например, IP-адрес может быть нацелен на один сайт, сканировать тысячи сайтов или появиться впервые. Эти шаблоны имеют разный вес. Чтобы сохранить конфиденциальность клиентов, специалист по глобальной телеметрии работает только с агрегированными данными; он никогда не получает индивидуальные записи или идентификационные данные другого клиента.
Этот обзор объединяет функции CDN, WAF, DDoS, Turnstile, ограничения скорости от Cloudflare и аналитики угроз Cloudforce One. Синтезирующий ИИ-агент взвешивает как глобальную репутацию, так и историю клиента. Это гарантирует, что глобально распространенный шаблон может быть использован на индивидуальной основе для каждого клиента, но не подразумевает автоматически широкомасштабную кампанию для всех клиентов.
История — это доказательство
Каждая оценка учитывает то, что было до нее: оповещение, шаблон и конкретного клиента. Досье разведки фиксирует историю самого оповещения, включая количество срабатываний этого сервисного оповещения, сколько из них были классифицированы как ложноположительные, и к каким выводам пришел аналитик Managed Defense. Шаблон атаки, который каждый раз оказывался безвредным, когда его видели ваши аналитики Managed Defense, — это совсем не то же самое, что первое обнаружение чего-то нового, и специализированные ИИ-агенты знают, с чем именно они имеют дело. Одобренный фоновый контекст извлекается из предыдущих оповещений и инцидентов, поэтому выводы вчерашнего дня переносятся в сегодняшнее решение, вместо того чтобы создаваться с нуля.
Наша система объединяет связанные оповещения в консолидированный инцидент. В каждом инциденте мы храним доказательства, результаты анализа и рекомендации. Наша система детерминированно объединяет и сопоставляет эти данные, но мы оставляем за аналитиком Managed Defense право подтвердить фактический масштаб. Со временем инцидент может связать воедино доказательства из сети, приложений и модели Zero Trust, отслеживая при этом источник доказательств для дополнительного контекста и справочных целей.
От доказательств к решению
Перед анализом система создает версионированный пакет доказательств, содержащий объект, масштаб, временную привязку, принятые доказательства, версии политик, источники и пробелы в покрытии. Специалисты должны ссылаться на элементы этого пакета. Программный код проверяет, что каждая ссылка существует, относится к расследованию и подтверждает приложенное утверждение. Некорректные результаты исправляются или фиксируются как ограничения.
Мы снова полагаемся на Clef для оценки наших доказательств. Достаточно ли собранных доказательств для принятия решения? Противоречат ли друг другу какие-либо из собранных нами доказательств? Основываясь на этих данных, Clef выбирает из детерминированно сокращенного списка классификаций атак и распоряжений.
Платформа для разработчиков Cloudflare запускает этот процесс. Программный код на Workers принимает доказательства и проверяет результаты; Workflows координирует каждый этап и сохраняет выполненную работу перед началом следующего, поэтому в случае сбоя на этапе повторно используются доказательства и результаты, которые уже прошли проверку, вместо того чтобы начинать все сначала. D1 хранит состояние расследования и консультаций, R2 содержит ограниченный контекст и артефакты доказательств. Состояние чата по инциденту сохраняется в Durable Objects, использует Flue и обогащается с помощью AI Search.
Наконец, агент на базе LLM подготавливает консультативный отчет, используя термины, с которыми уже работают аналитики Managed Defense: затронутая поверхность, результат применения мер, соответствующие средства контроля и дальнейшие шаги. Аналитики Managed Defense могут изучить доказательства, провести дополнительное расследование, пересмотреть рекомендацию или сгруппировать оповещения в инцидент. Программный код фиксирует масштаб клиента до того, как модель увидит результаты, и предоставляет каждому специалисту только те доказательства, которые ему необходимы. Модель никогда не получает полномочий пересекать границы арендаторов или действовать от имени аналитиков Managed Defense.
Обработка неполных доказательств
В масштабах сети источник иногда может дать сбой. Сравнение может завершиться по тайм-ауту, метаданные могут отсутствовать, или поиск по базе данных угроз может не дать совпадений. Система сохраняет уже собранные доказательства и фиксирует пробел.
Консультация различает три состояния:
- Не проверено
- Проверено, без совпадений
- Проверено, с доказательствами, подтверждающими отсутствие
Если глобальная телеметрия недоступна, система может описать, что является необычным для клиента, но не может сказать, является ли этот шаблон широко распространенным. Когда доказательств недостаточно, она не дает рекомендаций по классификации или распоряжению.
Устранение последствий
Полезная рекомендация должна приводить к решению, а не к созданию тикета. Консультация может предложить правило ограничения скорости для вредоносного пути, пользовательское правило WAF для сигнатуры или изменение настроек защиты от DDoS. Для клиентов с полностью управляемым сервисом аналитики Managed Defense могут применить предложенные правила; другие клиенты получат рекомендации на панели управления и через выбранный ими канал оповещений.
В конечном итоге аналитик Managed Defense несет ответственность за решение и любые меры по устранению последствий. Каждое оповещение и инцидент включают доказательства, лежащие в основе рекомендации ИИ-агента, что позволяет аналитику Managed Defense прийти к выводу, приняв или обновив совет ИИ-агента.
Что дальше
Аналитики Managed Defense остаются ответственными за принятие решений. Система ИИ-агентов берет на себя больше рутинной работы: сбор материалов расследования, связывание событий и демонстрацию доказательств, лежащих в основе каждой рекомендации. В ближайшие несколько кварталов мы планируем добавить уровень Custom Managed с большей гибкостью для каждой организации.
Мы также планируем изучить возможности непрерывных ИИ-агентов, которые отслеживают трафик Cloudflare и выявляют шаблоны, которые могут пропустить фиксированные правила и пороговые значения.
Ранняя бета-версия доступна в Cloudflare Managed Defense для соответствующих оповещений и инцидентов безопасности приложений. Если вы уже используете Cloudflare WAF, защиту от DDoS, Magic Transit или другой поддерживаемый продукт, обратитесь к своей команде по работе с корпоративными клиентами, чтобы добавить Managed Defense.
