Обеспечение безопасности взаимодействия между агентами: новый рубеж идентификации

По мере внедрения автономных ИИ-агентов в организациях команды безопасности сталкиваются с серьезными изменениями, поскольку нечеловеческие сущности начинают принимать решения, вызывать инструменты и делегировать задачи другим агентам без участия человека. Архитектуры безопасности, построенные вокруг пользователей-людей, статических API и отдельных конечных точек, перестают работать, когда ИИ-агенты динамически взаимодействуют в рамках среды.

По мере того как такие взаимодействия становятся все более распространенными, обеспечение безопасности общения между агентами без препятствий для их внедрения потребует от руководителей служб безопасности рассматривать автономных агентов как полноценные учетные записи с собственными правами доступа, моделями поведения и активностью, подлежащей мониторингу.

Операционная реальность: новая поверхность атаки

Рассмотрим стандартный корпоративный сценарий, в котором основной агент делегирует задачу второстепенному агенту, который затем запрашивает производственную базу данных через Model Context Protocol и пересылает сводку во внешнюю инфраструктуру. Традиционные средства контроля могут не справиться с отслеживанием полного цикла взаимодействия, оставляя команды безопасности без понимания намерений, цепочек делегирования и объема полномочий, что создает пять проблем безопасности, требующих особого внимания:

• Цепочки идентификации и делегирования требуют проверки личности агента при обеспечении того, чтобы его делегированные полномочия никогда не превышали прав пользователя, инициировавшего процесс.

Цепочки идентификации и делегирования требуют проверки личности агента при обеспечении того, чтобы его делегированные полномочия никогда не превышали прав пользователя, инициировавшего процесс.

• Поведенческий дрейф создает слепые зоны для обнаружения, поскольку, когда автономные агенты динамически адаптируют пути выполнения, становится крайне сложно отличить нормальные операционные отклонения от компрометации или инъекции промптов.

Поведенческий дрейф создает слепые зоны для обнаружения, поскольку, когда автономные агенты динамически адаптируют пути выполнения, становится крайне сложно отличить нормальные операционные отклонения от компрометации или инъекции промптов.

• Злоупотребление инструментами и протоколами позволяет агентам автономно вызывать API и инструменты, а это означает, что без строгих ограничений агент быстро становится непреднамеренным вектором для утечки данных или несанкционированного выполнения команд.

Злоупотребление инструментами и протоколами позволяет агентам автономно вызывать API и инструменты, а это означает, что без строгих ограничений агент быстро становится непреднамеренным вектором для утечки данных или несанкционированного выполнения команд.

• Каскадный доступ может создавать системный риск, когда скомпрометированный агент с высокими привилегиями влияет на второстепенных агентов и расширяет доступ к взаимосвязанным корпоративным системам.

Каскадный доступ может создавать системный риск, когда скомпрометированный агент с высокими привилегиями влияет на второстепенных агентов и расширяет доступ к взаимосвязанным корпоративным системам.

• Пробелы в наблюдаемости возникают, когда фрагментированные журналы API не позволяют восстановить пути принятия решений несколькими агентами или объяснить, почему произошло то или иное действие.

Пробелы в наблюдаемости возникают, когда фрагментированные журналы API не позволяют восстановить пути принятия решений несколькими агентами или объяснить, почему произошло то или иное действие.

Как активность агентов вписывается в существующие операции безопасности

Взаимодействие между агентами можно рассматривать как расширение телеметрии безопасности, которую команды уже собирают для пользователей, конечных точек, облачных рабочих нагрузок и приложений. Включение идентификаторов агентов, путей делегирования, вызовов инструментов и доступа к данным в единую модель расследования позволяет существующим методам проектирования обнаружения и поведенческой аналитики развиваться параллельно с агентскими рабочими нагрузками.

Например, когда пользователь инициирует действие через основного агента, который делегирует работу второстепенному, полученная цепочка идентификации и активность инструментов могут быть сопоставлены с событиями аутентификации, активностью конечных точек и сетевыми журналами. Это дает аналитикам более полную хронологию расследования — от инициировавшего пользователя до каждого задействованного агента и инструмента.

Контекст на основе сущностей расширяет модель безопасности за пределы пользователей и устройств, включая ИИ-агентов в качестве сущностей, что позволяет аналитикам отслеживать активность от инициировавшего пользователя через субагентов и инструменты.

Поведенческая аналитика может аналогичным образом расшириться от анализа поведения пользователей (UBA) к анализу поведения агентов. Установив базовые показатели нормального поведения агентов, механизмы обнаружения могут выявлять аномалии, такие как неожиданное взаимодействие между агентами, внезапное повышение привилегий или необычно большие объемы передаваемых данных.

Управляемое обнаружение и реагирование (MDR) может включать агентскую телеметрию наряду с уже отслеживаемыми пользователями, конечными точками и облачными рабочими нагрузками. Рабочие процессы расследования могут затем учитывать взаимосвязи агентов, делегированные действия и вызовы инструментов как часть общей картины безопасности.

Разделение обязанностей остается важным на уровне выполнения, где шлюзы авторизации могут обеспечивать соблюдение превентивных политик, в то время как службы безопасности поддерживают более широкую видимость и поведенческое обнаружение, необходимые в случаях, когда средства контроля настроены неправильно или обходятся.

Как команды безопасности могут подготовиться к взаимодействию между агентами

Команды безопасности могут начать подготовку к рабочим нагрузкам с автономными агентами, распространив привычные практики идентификации, телеметрии и минимальных привилегий на агентские среды:

• Проведите аудит пользовательских и сторонних ИИ-агентов, работающих в среде, включая их активные пути взаимодействия и уровни доступа к инструментам.

Проведите аудит пользовательских и сторонних ИИ-агентов, работающих в среде, включая их активные пути взаимодействия и уровни доступа к инструментам.

• Обеспечьте делегирование с минимальными привилегиями, используя временные учетные данные, ограниченные конкретной задачей и привязанные к определенным должностным инструкциям, а не постоянные административные права.

Обеспечьте делегирование с минимальными привилегиями, используя временные учетные данные, ограниченные конкретной задачей и привязанные к определенным должностным инструкциям, а не постоянные административные права.

• Стандартизируйте требования к телеметрии, чтобы команды собирали структурированные журналы для делегирования между агентами, вызовов инструментов и доступа к наборам данных.

Стандартизируйте требования к телеметрии, чтобы команды собирали структурированные журналы для делегирования между агентами, вызовов инструментов и доступа к наборам данных.

• Направляйте потоки событий агентов в платформу Rapid7 для поддержки поведенческого обнаружения аномалий идентификации, дрейфа авторизации и высокочастотного взаимодействия между ранее не связанными агентами.

Направляйте потоки событий агентов в платформу Rapid7 для поддержки поведенческого обнаружения аномалий идентификации, дрейфа авторизации и высокочастотного взаимодействия между ранее не связанными агентами.

Внедрите безопасность агентов в SOC до того, как автономность станет массовой

Безопасность взаимодействия между агентами все еще находится на стадии развития, но команды безопасности могут начать подготовку уже сейчас, распространяя принципы, которые они уже понимают, на области идентификации, доступа, видимости и обнаружения. Надежная идентификация, минимальные привилегии, поведенческая аналитика, непрерывный мониторинг, а также обнаружение и реагирование обеспечивают практическую основу для управления автономными агентами по мере их взаимодействия с системами и друг с другом.

По мере роста внедрения агентов организациям также потребуется сделать эти взаимодействия видимыми в рамках обычных операций по обеспечению безопасности. Для клиентов Rapid7 активность агентов может все чаще становиться еще одним источником телеметрии безопасности и поведенческого контекста, позволяя аналитикам отслеживать всю цепочку от инициирующей учетной записи до делегированных агентов, вызовов инструментов и перемещения данных.

Практическая цель состоит в том, чтобы обеспечить доверенное взаимодействие агентов, сохраняя при этом наблюдаемость, управляемость и подотчетность каждой учетной записи, делегирования, действия и перемещения данных. Организации, которые начнут выстраивать такую прозрачность сейчас, будут лучше подготовлены к внедрению автономных агентов, не позволяя их скорости и гибкости опережать средства контроля, предназначенные для защиты бизнеса.