За пределами идентификации: управление агентическим предприятием

• Ключевые выводы
• MCP расширяет поверхность атак агентских систем
• Переход к поведенческому управлению
• Управление утечкой данных
• Как директорам по информационной безопасности (CISO) управлять агентским предприятием
• Новые стратегии для новой эры агентских систем

Как мы уже отмечали во многих наших публикациях State of the Internet (SOTI) в этом году, сегодняшний ИИ не ограничивается ответами на запросы. ИИ-агенты все чаще используются для извлечения данных, вызова API, изменения рабочих процессов и автономных действий от имени людей.

С этим окончательным переходом в эру агентских систем возникла новая проблема безопасности: теперь недостаточно проверять, кто или что имеет доступ. Организациям также необходимо контролировать, что автономным системам разрешено делать после получения доступа.

Этот сдвиг коренным образом изменил задачи для CISO, потребовав перехода от традиционного управления доступом к поведенческому управлению в реальном времени. Руководители служб безопасности теперь должны учитывать, какие агенты могут получать доступ к корпоративным системам, а также какие действия этим агентам разрешено выполнять через API и рабочие процессы.

Ключевые выводы

В нашем новейшем отчете SOTI по безопасности «Скорость, масштаб и нечеловеческие идентификационные данные: ландшафт агентских угроз» мы рассматриваем то, как агентский ИИ меняет корпоративные риски. Последние ключевые выводы отчета включают:

• Протокол контекста модели (Model Context Protocol, MCP) предоставляет агентскому ИИ «руки» для выполнения действий через API, но он также стирает грань между данными и кодом, что может позволить вредоносным серверам перехватывать логику больших языковых моделей (LLM) с помощью внедрения промптов (prompt injection) или межсерверных атак.

Протокол контекста модели (Model Context Protocol, MCP) предоставляет агентскому ИИ «руки» для выполнения действий через API, но он также стирает грань между данными и кодом, что может позволить вредоносным серверам перехватывать логику больших языковых моделей (LLM) с помощью внедрения промптов (prompt injection) или межсерверных атак.

• Браузер превратился в критическую, неконтролируемую поверхность атак: более 40% корпоративных пользователей установили эти инструменты, а 25% установленных расширений изменили разрешения в течение 12 месяцев.

Браузер превратился в критическую, неконтролируемую поверхность атак: более 40% корпоративных пользователей установили эти инструменты, а 25% установленных расширений изменили разрешения в течение 12 месяцев.

• Более 6% разговоров с ИИ-чат-ботами на корпоративных устройствах содержат конфиденциальные данные.

Более 6% разговоров с ИИ-чат-ботами на корпоративных устройствах содержат конфиденциальные данные.

• Поскольку системы на базе ИИ берут на себя все большую ответственность за корпоративные рабочие процессы, организации должны уделять первоочередное внимание прозрачности взаимодействия между машинами и авторизации API, одновременно применяя архитектуру Zero Trust для защиты машинных идентификационных данных, прав агентов и автономных решений.

Поскольку системы на базе ИИ берут на себя все большую ответственность за корпоративные рабочие процессы, организации должны уделять первоочередное внимание прозрачности взаимодействия между машинами и авторизации API, одновременно применяя архитектуру Zero Trust для защиты машинных идентификационных данных, прав агентов и автономных решений.

MCP расширяет поверхность атак агентских систем

Хотя MCP предоставляет ИИ-агентам стандартный доступ к внешним инструментам и API, это же бесшовное подключение открывает новые возможности для доступа к конфиденциальным системам. Каждая служба MCP может внедрять разрешения, зависимости и инструкции, определяющие, к чему агент может получить доступ или что он может сделать.

Команды безопасности должны рассматривать подключения MCP как часть корпоративной поверхности атак и сохранять видимость служб MCP, подключенных инструментов, разрешений и поведения во время выполнения. Такая видимость помогает предотвратить влияние ненадежных или скомпрометированных служб на поведение агента, доступ к конфиденциальным данным или запуск несанкционированных действий.

Растущая автономность означает, что корпоративная безопасность должна выйти за рамки традиционных средств контроля доступа, чтобы управлять не только тем, к чему агенты могут получить доступ, но и тем, как они функционируют.

Переход к поведенческому управлению

Безопасность эволюционирует по мере того, как организации внедряют ИИ-системы, способные действовать с возрастающей автономией. Идентификация и доступ — это лишь часть уравнения; управление нечеловеческими системами через API теперь не менее важно.

Поскольку передовые возможности ИИ, включая Project Glasswing, сокращают время, необходимое для обнаружения уязвимостей в системе, с недель до часов, существующие циклы установки обновлений могут не успевать за ними. Организациям требуются адаптивные средства защиты среды выполнения на базе периферийного типа (edge native) и автономность на основе рисков, которые позволяют ИИ-системам предпринимать действия, которые легко проверить и отменить, сохраняя при этом надзор человека за высокоэффективным или аномальным поведением.

Не каждый риск, связанный с ИИ, требует одинаковой реакции. Наивысшими приоритетами являются угрозы, сочетающие в себе серьезное влияние на бизнес и необходимость быстрого вмешательства, такие как атаки агентского ИИ, обнаружение уязвимостей с помощью ИИ и внедрение промптов (рисунок 1).

Управление утечкой данных

С распространением неуправляемых расширений и инструментов ИИ видимость на уровне браузера также превратилась в критическую поверхность атак. Исследования показывают, что браузерные расширения для ИИ на 60% чаще имеют известные уязвимости по сравнению с другими инструментами, и почти половина всех корпоративных пользователей установили расширения для ИИ (рисунок 2).

Аналогичным образом, взаимодействие с ИИ-чат-ботами представляет собой значительный канал утечки конфиденциальных данных: более 6% разговоров содержат конфиденциальную информацию. Эти риски отражают уязвимости безопасности, возникающие из-за неконтролируемой активности в браузере и взаимодействия с чат-ботами.

Проблема безопасности вышла за рамки простой видимости и теперь заключается в защите частоты, контекста и идентификационных данных, посредством которых конфиденциальная информация попадает в ИИ-системы.

Как директорам по информационной безопасности (CISO) управлять агентским предприятием

Чтобы эффективно противодействовать угрозам на базе ИИ посредством управления поведением и контроля утечки данных, команды безопасности должны выйти за рамки статических правил и принять новый, адаптивный стандарт обеспечения соблюдения требований. Этот пересмотренный подход к безопасности является ответом на развивающийся ландшафт ИИ (рисунок 3).

Агентское предприятие зависит от API для быстрого развития, но те же самые соединения могут стать легким путем для злоупотреблений. Защита API в реальном времени на периферии помогает остановить атаки и автоматизированные злоупотребления до того, как они достигнут приложений и служб, на которые полагаются ИИ-агенты. Команды безопасности также должны:

• Установить четкие правила использования ИИ сотрудниками и элементы контроля браузера для снижения риска утечки конфиденциальных данных без ущерба для легитимной работы.

Установить четкие правила использования ИИ сотрудниками и элементы контроля браузера для снижения риска утечки конфиденциальных данных без ущерба для легитимной работы.

• Вести опись программного обеспечения ИИ (SBOM) и отслеживать службы MCP, когда интерфейсы на естественном языке могут получить доступ к проприетарным или критически важным для бизнеса данным.

Вести опись программного обеспечения ИИ (SBOM) и отслеживать службы MCP, когда интерфейсы на естественном языке могут получить доступ к проприетарным или критически важным для бизнеса данным.

• Обновлять средства контроля безопасности, исправления, нормативные акты и обучение, чтобы не отставать от стремительно развивающихся технологий ИИ и идентификационных данных.

Обновлять средства контроля безопасности, исправления, нормативные акты и обучение, чтобы не отставать от стремительно развивающихся технологий ИИ и идентификационных данных.

• Выйти за рамки изолированных индикаторов компрометации и использовать контекст, взаимосвязи и поведение для выявления развивающихся атак.

Откажитесь от изолированных индикаторов компрометации и используйте контекст, связи и поведение для выявления развивающихся атак.

Графовые нейронные сети (GNN) помогают обнаруживать скрытые связи, выявлять угрозы (например, латеральное перемещение) и быстрее фиксировать аномальные взаимосвязи. Анализ уязвимостей на базе ИИ, такой как PatchDiff-AI, также может значительно сократить время от выпуска патча до понимания первопричины. В обоих случаях скорость важна, но человеческий контроль остается необходимым для принятия критически важных решений.

Новые стратегии для новой эры агентов

Эпоха автономных агентов наступила, и для обеспечения их безопасности требуются новые стратегии. Хотя некоторые риски ИИ оцениваются и контролируются, многие возникающие угрозы все еще остаются без внимания. Организациям необходимо быстро оценивать и контролировать то, к чему имеют доступ агенты ИИ, службы MCP, расширения браузеров и подключенные приложения, а также то, что они могут делать в реальном времени.

Цель состоит не в том, чтобы ограничить внедрение ИИ, а в том, чтобы управлять им. Предприятия, которые объединяют инновации в области ИИ с поведенческим управлением, будут лучше подготовлены к противодействию современному и постоянно меняющемуся ландшафту угроз ИИ.

Другие выпуски отчета State of the Internet/Security