Агентный ИИ в кибербезопасности: перспективы и риски

Тенденции отрасли | 16 октября 2026 г.

Основные выводы

• Внедрение агентного ИИ в систему безопасности имеет решающее значение для противодействия злоумышленникам, действующим на машинной скорости.
• В отличие от традиционных процессов безопасности, следующих фиксированному дереву решений, ИИ-агенты адаптируются к меняющимся условиям и нуждаются в защитных барьерах для обеспечения безопасного использования.
• Использование ИИ-агентов для обеспечения безопасности также создает новую поверхность атаки, открывая возможности для неправомерного использования инструментов, злоупотребления привилегиями, отравления памяти и других угроз.
• Для защиты ИИ-агентов организации должны рассматривать их как управляемые идентификационные сущности, предоставляя им ограниченные по области действия и времени жизни учетные данные, применяя защитные барьеры во время выполнения и обеспечивая одобрение человеком необратимых решений.

Организации внедряют ИИ-агентов в кибербезопасность для автоматизации рутинных операций центра управления безопасностью (SOC), поиска и обнаружения уязвимостей в архитектуре и шаблонах трафика, а также для тестирования сред на предмет прямых угроз. Эти ИИ-агенты могут значительно сократить время, затрачиваемое на управление, обнаружение и реагирование на угрозы, но их использование также создает значительные риски. ИИ-агенты привносят целый ряд угроз, включая отравление памяти, инъекции промптов, каскадные сбои агентов и дрейф идентификационных данных. Несмотря на риски, агентный ИИ является важной контрмерой против состязательных атак, управляемых ИИ.

Сложность управления кибербезопасностью в эпоху цифровых технологий и ИИ невозможно переоценить. Команды безопасности защищают гибридные мультиоблачные среды, распределенные архитектуры и сложные ИИ-системы, которые теперь взаимодействуют с приложениями, API и другими моделями по всей инфраструктуре. Тем временем злоумышленники используют ИИ для проведения более масштабных и сложных атак быстрее, чем когда-либо прежде.

Использование агентного ИИ для обеспечения безопасности может помочь в борьбе с угрозами машинной скорости, непрерывном тестировании сред и автономном снижении усталости от оповещений. ИИ-агенты могут сканировать систему на наличие необнаруженных уязвимостей, выявлять динамические аномалии сигнатур и выполнять автономную приоритизацию оповещений, позволяя командам сократить время, затрачиваемое на идентификацию и реагирование на угрозы, основанные на ИИ.

В то же время использование ИИ-агентов в кибербезопасности создает новые риски. Киберпреступники используют ИИ для содействия в распределенных атаках типа «отказ в обслуживании» (DDoS), подборе учетных данных (credential stuffing) и других традиционных тактиках, наряду с новыми атаками, такими как инъекция промптов, отравление данных, перехват целей агента и другие.

Согласно отчету F5 State of Application Strategy Report за 2026 год, 98% опрошенных организаций заявляют, что модифицируют свои приложения для доступа к агентному ИИ. Эти организации уже используют или активно оценивают в среднем семь моделей ИИ. По мере того как внедрение ИИ будет продолжать расти, поверхность атаки будет расширяться.

Как работает агентный ИИ в кибербезопасности?

Агентный ИИ описывает ИИ-системы, способные автономно выполнять несколько шагов для достижения конкретной цели. Агенту дается задача, доступ к инструментам, память, сохраняющаяся между шагами, и идентификатор с реальными правами доступа.

В поддержку мер кибербезопасности агентный ИИ выполняет две основные функции: 1) обеспечение контрмеры для борьбы с атаками, управляемыми ИИ, с помощью мониторинга трафика с поддержкой ИИ, отслеживания сигнатур и обнаружения уязвимостей, и 2) улучшение управления реагированием на инциденты с помощью приоритизации рисков и автоматизации.

В основе работы агент безопасности выполняет цикл. Каждый проход через этот цикл может приводить к получению новой информации, которую агент может использовать для оптимизации цикла.

В типичном цикле агент может выполнять следующие действия:

• Восприятие: Агент получает сигналы безопасности, такие как оповещения, журналы, телеметрия, события идентификации и внешние данные об угрозах.
• Рассуждение и планирование: Затем агент разбивает цель на шаги, чередуя этапы рассуждения с этапами действий и пересматривая план по мере поступления новой информации.
• Действие: Агент предпринимает действия, используя инструменты, необходимые для выполнения каждой задачи. Агент может отправить запрос в систему управления информацией и событиями безопасности (SIEM), проверить репутацию IP-адреса, извлечь дерево процессов конечной точки, изолировать хост или открыть/закрыть тикет.
• Наблюдение: Агент считывает выходные данные инструмента и сравнивает их с целью, после чего при необходимости возвращается к этапу рассуждения и планирования.
• Сохранение: Выходные данные и результаты записываются в память, чтобы последующие решения наследовали контекст предыдущих.
• Эскалация: На определенных контрольных точках агент останавливается и передает решение человеку.

Способность адаптироваться к новой информации — один из ключевых атрибутов, отличающих ИИ-агентов от существующих инструментов автоматизации. Именно это позволяет злоумышленникам действовать быстрее, и именно поэтому кибербезопасность на базе ИИ необходима для выявления уязвимостей и стресс-тестирования инфраструктуры.

Сравнение традиционных SecOps и агентного ИИ

Многие команды безопасности уже интегрировали автоматизированные SecOps в основные процессы. Например, решения SOAR (оркестрация, автоматизация и реагирование в сфере безопасности) — это детерминированные инструменты, выполняющие задачи на машинной скорости. Если существует условие А, инструмент выполняет действие Б. Эти решения быстры и поддаются аудиту, но они ломаются в тот момент, когда реальность отклоняется от существующей ветки решений.

ИИ-агенты недетерминированы. Они не следуют жестким правилам. Вместо этого они динамически корректируются и адаптируются к новым входным данным. В результате они лучше справляются с новыми угрозами. Кроме того, ИИ-агенты могут выполнять сложные задачи автономно, с ограниченным участием человека или без него, и они часто могут обеспечить более полное покрытие для достижения более быстрых результатов, чем решения SIEM и SOAR. Но поскольку они динамичны, они требуют более строгого управления и обеспечения наблюдаемости.

Обработка оповещений

Эти инструменты проводят корреляцию на основе правил, а затем помещают оповещения в очередь для человека.

Агенты проводят сортировку, обогащение и закрытие низкорисковых оповещений, передавая аналитикам только приоритизированный набор.

Среднее время реагирования

Скорость определяется доступностью аналитика. Часто на выполнение работы с низкой степенью серьезности уходят часы или дни.

Агенты могут сдерживать угрозы на машинной скорости. Время человека тратится на принятие решений, а не на поиск информации.

Адаптивность

Традиционные инструменты хорошо работают с известными шаблонами. Но новый путь атаки, для которого нет сценария, требует ручного расследования.

Агенты могут справляться с угрозами, для которых никто не написал сценарий. Они пересматривают свои планы по мере поступления новых доказательств.

Охват расследования

Глубина зависит от того, какие интеграции человек не забыл проверить.

Агенты могут получить доступ к полному набору инструментов для каждого случая.

Операционная отдача

Часы работы аналитиков поглощаются повторяющейся сортировкой и ложными срабатываниями.

Часы работы аналитиков перенаправляются на поиск угроз и укрепление защиты. Аналитики меньше устают, а организации сталкиваются с меньшей текучестью кадров.

Режим сбоя

Когда сценарий ломается, инструмент перестает работать, и этот сбой легко заметить.

Перехваченный или дрейфующий агент продолжает действовать и выглядит легитимным при этом. Команды могут даже не подозревать, что что-то идет не так.

Необходимое управление

Командам необходимо внедрить контроль изменений для сценариев и правил.

Управление должно включать управление идентификацией агентов, ограниченные учетные данные, защитные барьеры во время выполнения, неизменяемый аудит и одобрение человеком.

Противостояние более быстрым угрозам, управляемым агентами

Внедрение ИИ-агентов для обеспечения кибербезопасности перестало быть вопросом выбора. Агентная ИИ-безопасность стала обязательным требованием для борьбы с угрозами, исходящими от агентного ИИ.

В ноябре 2025 года компания Anthropic раскрыла информацию о первой публично задокументированной шпионской кампании, организованной с помощью ИИ. Агентная инфраструктура выполнила до 90% тактической работы против примерно 30 целевых организаций. Человеческое участие потребовалось лишь в нескольких ключевых точках принятия решений.

Для целевых организаций использование ИИ-агентов злоумышленниками значительно сокращает время, доступное для защиты от атак. Когда разведка, разработка эксплойтов и горизонтальное перемещение выполняются машинами, у организаций остаются считанные часы с момента публикации уязвимости до момента ее эксплуатации. Согласно M-Trends 2026, среднее время до эксплуатации уязвимостей сократилось до оценочных -7 дней, что означает, что эксплуатация может произойти еще до выпуска патча.

Очередь задач, обрабатываемая людьми, просто не способна закрыть этот разрыв достаточно быстро. Командам безопасности нужны ИИ-агенты, чтобы защищаться от ИИ-агентов.

Признание агентов в качестве целей

Ситуацию в кибербезопасности дополнительно осложняет то, что ИИ-агенты, внедряемые организациями для защиты, сами становятся целями для злоумышленников. В конце концов, эти агенты по сути являются привилегированными, доверенными и автоматизированными пользователями с доступом к стеку безопасности. Они представляют собой высокоценные цели.

У киберпреступников есть множество способов атаковать ИИ-агентов. Перехват цели агента — один из самых распространенных типов атак. В этом случае злоумышленник переписывает задачу агента, обычно с помощью непрямой инъекции промпта, скрытой на веб-странице, в документе или электронном письме, которые агент считывает в ходе своей работы. Альтернативно, злоумышленники могут изменить способ работы агента, манипулируя им так, чтобы он вызывал API, запускал код или записывал данные в системы вне рамок своей основной задачи.

Злоупотребление идентификацией и привилегиями — еще одна частая тактика. Например, злоумышленник может использовать инъекцию промпта, чтобы обманом заставить агента выполнить вредоносные действия, используя предоставленные ему права доступа.

Эти и другие виды тактик могут нанести самый разный ущерб. Нацеливаясь на ИИ-агентов, используемых в кибербезопасности, злоумышленники могут украсть конфиденциальные данные или подавить корпоративные системы защиты, что позволит им успешно проводить еще более масштабные и разрушительные атаки.

Защита ИИ-агентов

Как организациям защитить агентов, которых они используют для кибербезопасности и других функций? Несколько передовых практик могут стать прочным фундаментом для безопасности агентов.

• Предоставляйте минимальные полномочия, а не просто минимальные привилегии. Минимальные привилегии ограничивают доступ агента к ресурсам. Минимальные полномочия ограничивают то, как далеко он может зайти без подтверждения. Используйте JIT-права (just-in-time), привязанные к сессии, которые истекают по завершении конкретной задачи.
• Разбивайте рабочие процессы. Делите процессы на части так, чтобы ни один отдельный этап не содержал одновременно конфиденциальные данные, непроверенные входные данные и исходящий канал. Это ограничивает ущерб в случае единичного взлома.
• Внедрите песочницы для выполнения кода. Запускайте вызовы инструментов и сгенерированный код в эфемерных, изолированных контейнерах, чтобы компрометация имела ограниченный радиус поражения.
• Применяйте защитные барьеры (guardrails) во время выполнения, на каждом цикле. Одной проверки на входе недостаточно, когда агент сам решает, какой шаг будет следующим. Проверяйте промпты, вызовы инструментов, операции чтения/записи в память и выходные данные на каждом проходе цикла.
• Назначьте каждому ИИ-агенту собственную идентификацию. Избегайте использования общих сервисных учетных записей и жестко закодированных API-ключей. Когда у каждого агента есть своя личность, команды могут определить, какой именно агент совершил конкретное действие.
• Ведите журналы и сохраняйте человеческий контроль. Храните неизменяемые логи рассуждений агента, вызовов инструментов и полезных нагрузок, включая то, что инициировало каждый запуск. Требуйте внешнего одобрения человеком перед записью в рабочую среду, финансовыми операциями или любыми другими действиями, которые невозможно отменить.

Как F5 подходит к агентной ИИ-кибербезопасности

В F5 мы понимаем, что ИИ-агенты играют множество ролей в кибербезопасности. Они обеспечивают скорость, необходимую для того, чтобы не отставать от угроз, использующих ИИ, позволяя организациям обнаруживать атаки и реагировать на них гораздо быстрее, чем это могли бы сделать люди в одиночку. Кроме того, это инструменты, которые позволяют командам оптимизировать задачи, значительно снижая сложность управления. Наконец, ИИ-агенты часто становятся целями атак, и их необходимо защищать — как ни странно, с помощью других ИИ-агентов.

F5 может превращать внешние данные об угрозах и внутренние логи в аналитическую информацию в реальном времени с помощью платформы F5 Application Delivery and Security Platform (ADSP). Команды видят ранжированный список важных проблем вместо недифференцированной очереди оповещений.

В то же время платформа F5 AI Security Platform помогает защищать ИИ-агентов, которые усиливают кибербезопасность и помогают в выполнении других функций. Эта платформа предоставляет руководителям служб безопасности непрерывную видимость, управление и защиту для ИИ-приложений, моделей, агентов и API. Используя такие инструменты, как F5 Workforce AI Security, F5 AI Red Team, F5 AI Guardrails и F5 AI Gateway, команды могут обнаруживать, контролировать, тестировать, защищать и непрерывно наблюдать за ИИ-средами по мере эволюции угроз.

Чтобы узнать больше об угрозах, усиленных ИИ, и решениях на базе ИИ, ознакомьтесь с исследованиями угроз F5 Labs и решениями F5 по ИИ-безопасности.

Часто задаваемые вопросы

Команда безопасности ставит перед агентом цель. Затем агент выполняет многоэтапный процесс для ее достижения. Цикл обычно включает такие шаги, как восприятие угроз, создание плана, выполнение плана, наблюдение за результатами, фиксация выводов, внесение корректировок в шаги на основе результатов и проверка действий человеком на определенных этапах.

Решения SOAR (оркестрация, автоматизация и реагирование в сфере безопасности) следуют фиксированному сценарию «если/то». ИИ-агентам дается цель, и они сами определяют последовательность задач, пересматривая ее по мере поступления новых данных. Поскольку агенты могут адаптироваться к новой информации, они лучше справляются с новыми, неизвестными ранее угрозами. Однако они требуют больше защитных барьеров.

Несколько передовых практик могут помочь защитить ИИ-агентов от растущего спектра угроз. Например, ограничение действий агента без участия человека, разбиение рабочих процессов на отдельные задачи, выполнение задач в изолированных контейнерах и применение защитных барьеров во время выполнения могут повысить безопасность ИИ-агентов.

Изучите решения F5 по ИИ-безопасности.

Теги: Блог, Глобальный, Розничная торговля и электронная коммерция,

, Технологии,

Здравоохранение,

Производство,

Информационные технологии,

Финансовые услуги,

Розничная торговля,

Безопасность приложений,

Генеративный ИИ,

AI Gateway,

ИИ-безопасность,

Защита приложений,

AI Red Team,

AI Guardrails,

AI Gateway,

F5 Application Delivery and Security Platform (ADSP),

Тренды в области доставки и безопасности

Об авторе

Луиза Скалли, старший менеджер по маркетингу продуктов, ИИ-безопасность и аналитика угроз | F5

Луиза Скалли — старший менеджер по маркетингу продуктов в области ИИ-безопасности и аналитики угроз в F5. Ее карьера охватывает маркетинг продуктов, управление продуктами, стратегию выхода на рынок, коммуникации, интеллектуальное лидерство и развитие категорий в сфере ИИ-безопасности и корпоративных технологий. До прихода в F5 Луиза руководила маркетингом в компаниях CalypsoAI и Artomatix, помогая выводить ИИ-технологии и исследования на рынок.