Первый взгляд: что скрывается «под капотом» ИИ-агентов
Получив ранний доступ к Sysdig AI Defense, одна компания по разработке программного обеспечения в течение месяца изучала использование ИИ-агентов на уровне всего предприятия. Ниже приведены результаты этого исследования.
Непрофессиональные разработчики создают код
В этой организации 50% сотрудников, использующих ИИ-агенты, работают за пределами инженерного отдела. Отделы маркетинга, кадров, продаж, юридический и финансовый отделы использовали ИИ-агенты ежедневно, причем они не просто общаются с ними в чате. Среди неинженеров, использующих агентов, в среднем у 42% агент запускал код, сборку, установку пакета или команду для облака или кластера.
Финансист, создающий инструменты, вероятнее всего, не обладает такими же знаниями в области безопасности, как инженер, и у него, скорее всего, нет таких же стандартных процедур проверки. Но это не должно мешать ему творить. Организациям следует отслеживать установки и вызовы CLI, а также предоставлять для разработки утвержденный изолированный путь.
Вызовы инструментов происходят без одобрения человека
Люди отключают запросы подтверждения, чтобы не тормозить работу, и хотя это обычно не признак халатности, это может подвергнуть организации более высоким рискам. Более 60% вызовов инструментов в этой организации выполнялись без одобрения человека: 52% были отфильтрованы классификатором автоматического режима Claude Code вместо человека, а 9% имели намеренно отключенные запросы разрешений (режим YOLO).
Но ответом на минимизацию этого риска является не блокирование всего подряд и не закрывание глаз. Организациям необходимо понимать свои профили рисков на разных уровнях и разрешать инструменты, агенты и расширения в зависимости от того, к чему они имеют доступ и что могут изменить.
Отчета самого агента о его действиях недостаточно
На каждый вызов инструмента, зарегистрированный агентами этой организации, ядро фиксировало семь процессов. Хотя лог агента может помочь пользователю выполнить отладку сеанса, он не предназначен для использования в качестве аудиторского доказательства, поскольку его пишет сам агент. Ядро видит то, что реально запустилось на уровне процессов, независимо от используемого инструмента или API. Тем не менее дополнительные данные показывают, что службе безопасности нужны оба источника для получения полной картины. Например, когда агент считывал файл учетных данных, в логе агента отсутствовала запись в 82% случаев. Однако ядро регистрировало каждое чтение.
Подключение неверифицированных расширений к агентам
Почти половина (47%) серверов MCP, используемых в этой организации, поступала из сторонних реестров или от сторонних вендоров. Каждый сервер представляет собой доверенное отношение, для подключения которого к агенту требуется всего одна строка конфигурации, и после подключения он получает доступ. Серверы также могут незаметно обновляться в фоновом режиме, поэтому сервер, которому вы доверяли на прошлой неделе, может отличаться от того, который работает сегодня.
Сопоставление моделей с задачами
Более 50% расходов организации на ИИ уходило на дублирующие процессы и возможности. Обладая информацией о том, какие модели используются, с детализацией по командам и пользователям, стоящим за каждым агентом, организации могут увязать выбор модели с задачей и сократить дублирование.
Что еще содержится в полном отчете
Это лишь малая доля того, что выявил месяц активности агентов. Углубитесь в материал, чтобы узнать:
- Как часто срабатывают обнаружения, имеющие значение для безопасности.
- Фреймворк уровней риска для разрешения агентов и расширений в зависимости от того, к чему они могут получить доступ.
- Реальные оповещения из среды развертывания, включая возможную утечку данных, неавторизованного провайдера моделей и изменения облачных разрешений.
- Какие уровни моделей сотрудники действительно используют в повседневной работе.
- Таблицу снижения рисков, которую можно передать вашей команде.
Скорее всего, ИИ-агенты уже работают в вашей организации. Вопрос в том, знаете ли вы, где они работают, и можете ли видеть, что они делают. Прочитайте полный отчет, чтобы узнать, что обнаружила эта организация и как вы можете начать устранять выявленные пробелы.
