Основные выводы

Протокол MCP расширяет поверхность атак агентического ИИ

Переход к поведенческому управлению

Управление утечкой данных

Как директора по информационной безопасности могут управлять агентическим предприятием

Новые стратегии для новой агентической эры

Дополнительные материалы State of the Internet / Security

Как мы уже отмечали в большинстве наших публикаций State of the Internet (SOTI) в этом году, современный ИИ не ограничивается ответами на запросы. Все чаще ИИ-агенты используются для извлечения данных, вызова API, изменения рабочих процессов и автономных действий от имени людей.

С этим окончательным переходом в агентическую эру возникла новая проблема безопасности: больше недостаточно просто проверять, кто или что имеет доступ. Организациям также необходимо управлять тем, что разрешено делать автономным системам после того, как они получают доступ.

Это изменение коренным образом пересмотрело задачи для директоров по информационной безопасности, потребовав перехода от традиционного управления доступом к поведенческому управлению в реальном времени. Лидеры в области безопасности теперь должны учитывать, какие агенты могут получать доступ к корпоративным системам, а также какие действия этим агентам разрешено выполнять через API и рабочие процессы.

Основные выводы

В нашем новейшем отчете SOTI Security «Скорость, масштаб и нечеловеческие идентификационные данные: ландшафт угроз агентического ИИ» мы рассматриваем то, как агентический ИИ меняет корпоративные риски. Последние основные выводы отчета включают в себя:

Протокол Model Context Protocol (MCP) предоставляет «руки» для агентического ИИ, позволяющие выполнять действия через API, однако он также стирает грань между данными и кодом, что может позволить вредоносным серверам перехватывать логику больших языковых моделей (LLM) с помощью внедрения промтов (prompt injection) или кросс-серверных атак.

Протокол Model Context Protocol (MCP) предоставляет «руки» для агентического ИИ, позволяющие выполнять действия через API, однако он также стирает грань между данными и кодом, что может позволить вредоносным серверам перехватывать логику больших языковых моделей (LLM) с помощью внедрения промтов (prompt injection) или кросс-серверных атак.

Браузер стал критической, неконтролируемой поверхностью атак: более 40% корпоративных пользователей установили такие инструменты, а 25% установленных расширений изменили разрешения в течение 12 месяцев.

Браузер стал критической, неконтролируемой поверхностью атак: более 40% корпоративных пользователей установили такие инструменты, а 25% установленных расширений изменили разрешения в течение 12 месяцев.

Более 6% разговоров с ИИ-чат-ботами на корпоративных устройствах содержат конфиденциальные данные.

Более 6% разговоров с ИИ-чат-ботами на корпоративных устройствах содержат конфиденциальные данные.

Поскольку системы на базе ИИ берут на себя все большую ответственность за корпоративные рабочие процессы, организации должны уделять первостепенное внимание обеспечению видимости активности между машинами и авторизации API, одновременно применяя архитектуру Zero Trust для защиты машинных идентификаторов, разрешений агентов и автономных решений.

Поскольку системы на базе ИИ берут на себя все большую ответственность за корпоративные рабочие процессы, организации должны уделять первостепенное внимание обеспечению видимости активности между машинами и авторизации API, одновременно применяя архитектуру Zero Trust для защиты машинных идентификаторов, разрешений агентов и автономных решений.

Протокол MCP расширяет поверхность атак агентического ИИ

Хотя MCP предоставляет ИИ-агентам стандартный доступ к внешним инструментам и API, это же бесшовное подключение открывает новые возможности для доступа к конфиденциальным системам. Каждая служба MCP может вводить разрешения, зависимости и инструкции, которые определяют, к чему агент может получить доступ или что он может сделать.

Команды безопасности должны рассматривать соединения MCP как часть корпоративной поверхности атак и сохранять видимость служб MCP, подключенных инструментов, разрешений и поведения во время выполнения. Такая видимость помогает предотвратить влияние ненадежных или скомпрометированных служб на поведение агента, доступ к конфиденциальным данным или запуск несанкционированных действий.

Растущая автономность означает, что корпоративная безопасность должна выходить за рамки традиционных средств контроля доступа, чтобы управлять не только тем, к чему агенты могут получить доступ, но и тем, как они функционируют.

Переход к поведенческому управлению

Безопасность эволюционирует по мере того, как организации внедряют ИИ-системы, способные действовать с возрастающей автономией. Идентификация и доступ — это лишь часть уравнения; управление нечеловеческими системами через API теперь не менее важно.

Поскольку передовые возможности ИИ, включая Project Glasswing, сокращают время, необходимое для обнаружения уязвимостей в системе, с недель до часов, существующие циклы установки обновлений могут не успевать за ними. Организациям требуются адаптивные, встроенные на периферии средства защиты среды выполнения и основанная на рисках автономность, которые позволяют ИИ-системам совершать действия, которые легко проверить и отменить, сохраняя при этом контроль со стороны человека за поведением с высокой степенью воздействия или аномальным поведением.

Не каждый риск, связанный с ИИ, требует одинаковой реакции. Наивысшими приоритетами являются угрозы, которые сочетают в себе высокий бизнес-эффект и необходимость быстрого вмешательства, такие как атаки агентического ИИ, обнаружение уязвимостей с помощью ИИ и внедрение промтов (Рисунок 1).

Управление утечкой данных

С распространением неуправляемых ИИ-расширений и инструментов видимость на уровне браузера также стала критической поверхностью атак. Исследования показывают, что расширения браузера с поддержкой ИИ на 60% чаще имеют известные уязвимости по сравнению с другими инструментами, и почти половина всех корпоративных пользователей установили ИИ-расширения (Рисунок 2).

Аналогичным образом, взаимодействие с ИИ-чат-ботами представляет собой значительный канал утечки конфиденциальных данных: более 6% разговоров содержат конфиденциальную информацию. Эти риски отражают уязвимость безопасности, создаваемую неконтролируемой активностью в браузере и взаимодействием с чат-ботами.

Проблема безопасности вышла за рамки простой видимости и заключается в обеспечении безопасности частоты, контекста и идентификаторов, с помощью которых конфиденциальная информация поступает в ИИ-системы.

Как директора по информационной безопасности могут управлять агентическим предприятием

Чтобы эффективно противодействовать угрозам на базе ИИ путем управления поведением и контроля утечки данных, команды безопасности должны выйти за рамки статических правил и принять новый, адаптивный стандарт обеспечения соблюдения требований. Этот пересмотренный подход к безопасности является ответом на развивающийся ландшафт ИИ (Рисунок 3).

Агентическое предприятие зависит от API, чтобы двигаться быстро, но те же самые соединения могут стать легким путем для злоупотреблений. Защита API в режиме реального времени на периферии помогает остановить атаки и автоматизированное злоупотребление до того, как они достигнут приложений и сервисов, на которые полагаются ИИ-агенты. Команды безопасности также должны:

Установить четкие правила использования ИИ сотрудниками и элементы контроля браузера, чтобы снизить риск утечки конфиденциальных данных без ущерба для легитимной работы.

Установить четкие правила использования ИИ сотрудниками и элементы контроля браузера, чтобы снизить риск утечки конфиденциальных данных без ущерба для легитимной работы.

Вести опись программного обеспечения ИИ (SBOM) и отслеживать службы MCP, когда интерфейсы на естественном языке могут получать доступ к проприетарным или критически важным для бизнеса данным.

Вести опись программного обеспечения ИИ (SBOM) и отслеживать службы MCP, когда интерфейсы на естественном языке могут получать доступ к проприетарным или критически важным для бизнеса данным.

Обновлять средства контроля безопасности, исправления, нормативные акты и обучение, чтобы идти в ногу с быстро развивающимся ИИ и идентификационными данными.

Обновлять средства контроля безопасности, исправления, нормативные акты и обучение, чтобы идти в ногу с быстро развивающимся ИИ и идентификационными данными.

Выйти за рамки изолированных индикаторов компрометации и использовать контекст, связи и поведение для выявления развивающихся атак.

Выходите за рамки изолированных индикаторов компрометации и используйте контекст, связи и поведение для выявления развивающихся атак.

Графовые нейросети (GNN) могут выявлять скрытые связи, обнаруживать угрозы (такие как латеральное перемещение) и быстрее определять аномальные взаимосвязи. Анализ уязвимостей на базе ИИ, такой как PatchDiff-AI, может аналогичным образом значительно сократить время от выпуска патча до понимания первопричины. В обоих случаях скорость важна, но человеческий контроль остается необходимым для принятия критических решений.

Новые стратегии для новой эпохи агентов

Эпоха агентских предприятий наступила, и для их защиты требуются новые стратегии. Хотя некоторые риски ИИ оцениваются и контролируются, многие возникающие угрозы по-прежнему остаются без внимания. Организациям необходимо оперативно оценивать и контролировать то, к чему агенты ИИ, службы MCP, расширения браузеров и подключенные приложения могут получить доступ и что они могут делать в реальном времени.

Цель состоит не в том, чтобы ограничить внедрение ИИ, а в том, чтобы управлять им. Предприятия, объединяющие инновации в области ИИ с поведенческим управлением, будут лучше подготовлены к управлению современным меняющимся ландшафтом угроз ИИ.

Больше материалов из отчета State of the Internet/Security

Вы можете ознакомиться с прошлыми выпусками и следить за выходом будущих выпусков признанных отчетов Akamai State of the Internet/Security, чтобы быть в курсе последних аналитических данных об угрозах, отчетов по безопасности и исследований в области кибербезопасности.

Об авторе (авторах)

Кимберли Гомес (Kimberly Gomez)

Кимберли Гомес — директор по исследованиям безопасности в компании Akamai, где она руководит исследовательскими группами, создающими исчерпывающие аналитические материалы и отчеты, помогающие организациям опережать киберпреступников. Обладая более чем десятилетним опытом работы в сфере кибербезопасности и бэкграундом в печатной, телевизионной и интернет-журналистике, Кимберли увлечена доступным изложением тем безопасности — таким, которое поможет даже вашим бабушкам и дедушкам понять, что происходит в ландшафте угроз.

Когда она не занята отслеживанием новейших киберугроз, ее можно найти за чтением книги, планированием очередного путешествия или преследующей своего сына по паркам развлечений Орландо.