ИИ-агенты написания кода стали повседневными коллегами. На компьютере разработчика интерактивный агент может читать репозиторий, писать код, запускать сборку и тесты, а также отправлять изменения, зачастую не останавливаясь для подтверждения. Эта функциональность и скорость — именно то, ради чего они используются. Но в этом заключается и риск: агент действует с полными правами доступа разработчика, который его заของ.
Эти права доступа могут раскрыть учетные данные, а также не связанные с задачей файлы, проекты и внутренние службы, если агент выполнит небезопасный вызов инструмента. Агент также может написать и запустить код, который выполняет запросы к файловой системе и сети за пределами видимых агенту взаимодействий с инструментами. Песочница обеспечивает принудительную границу выполнения, ограничивая агента и его код ресурсами, которые требуются для задачи.
Компания NVIDIA недавно представила эталонную архитектуру NVIDIA Openshell Reference Architecture, созданную на основе ключевого принципа: каждый агент должен работать в среде с нулевым доверием «из коробки». OpenShell также является частью более широкой платформы NVIDIA Open Agent Safety Platform. Cisco и NVIDIA сотрудничают в сфере создания доверия к агентам. DefenseClaw, уровень безопасности Cisco для ИИ-агентов, связывает элементы управления песочницей OpenShell с политикой, учитывающей идентификационные данные, средствами защиты AI Defense и возможностями наблюдения за агентами.
Что дает NVIDIA OpenShell
NVIDIA OpenShell — это безопасная среда выполнения, которая управляет тем, как выполняются агенты, к каким ресурсам и данным они могут обращаться и куда направляется вывод. Каждый агент работает в песочнице. Администраторы определяют, к каким файлам, сетевым и провайдерским конечным точкам, инструментам, процессам и учетным данным он может получить доступ. Политика исходящего сетевого трафика для каждого агента служит уровнем микросегментации, в то время как раздельные элементы управления файловой системой и процессами обеспечивают дополнительные границы песочницы. OpenShell проверяет эти ограничения перед запуском агента и обеспечивает их соблюдение в процессе его работы.
Рабочая нагрузка агента не имеет прямого доступа к сети: доверенный супервизор ретранслирует каждое соединение и отклоняет все, что не разрешено политикой. Учетные данные провайдера предоставляются только для авторизованных запросов; внутри песочницы агент видит подстановочные знаки.
OpenShell может работать на рабочих станциях разработчиков или развертываться в удаленных средах, включая облачные, гибридные, локальные, периферийные и изолированные (air-gapped) среды. В Linux песочницей является контейнер или микровиртуальная машина (MicroVM). На компьютерах Mac с процессором Apple Silicon это микровиртуальная машина с собственным ядром.
Среда выполнения и язык политик OpenShell открыты по своей конструкции, поэтому другие вендоры могут подключаться к ним. DefenseClaw создана именно для этого.
Что добавляет DefenseClaw
OpenShell предоставляет границу. DefenseClaw обеспечивает принятие решений, политику и учет вокруг нее.
- Средства защиты и наблюдаемость внутри песочницы. Каждая подсказка (промпт), вызов инструмента и результат работы инструмента проверяются и отслеживаются правилами DefenseClaw и Cisco AI Defense.
- Контроль над тем, куда может направиться агент. DefenseClaw определяет каждое веб-направление по имени хоста без расшифровки трафика. Сайты, которые организация всегда блокирует, остаются заблокированными для всех. Все остальное разрешается, запрашивается или отклоняется в зависимости от политики.
- Изменения, которые вы можете просмотреть. В конце сеанса разработчик видит, что изменил агент, и может сохранить эти изменения, отменить их или вернуть назад.
- Единый журнал аудита. Каждый блок, одобрение и решение записываются вместе с информацией об агенте, песочнице и лежащей в их основе политике и могут быть отправлены в Splunk или любую другую внутреннюю систему OpenTelemetry.
Cisco AI Defense — это конечная точка политики и инспекции: DefenseClaw отправляет ей промпты, вызовы инструментов и ответы, а взамен получает вердикт на основе правил, принадлежащих организации. Трафик агента никогда через нее не проходит.
Защита управляемых конечных точек
Корпоративные администраторы могут настраивать политики на основе пользователей или групп, чтобы определять, какие агенты написания кода могут работать на их управляемых конечных точках, а какие — только в песочнице. Профили политик определяют применяемые средства защиты, а также конфигурацию песочницы: к каким направлениям есть доступ, а какие учетные данные и MCP-серверы попадают внутрь песочницы.
DefenseClaw получает данные об учетной записи из операционной системы и использует их для реализации политик на основе пользователей и групп. Когда политика предписывает запуск агента только внутри песочницы, DefenseClaw отклоняет любого агента, вызванного напрямую на хосте, и показывает точную команду, необходимую для его запуска внутри песочницы. Когда что-то блокируется или запрещается политикой, выводится понятное сообщение, ссылающееся на правило политики и путь запроса доступа.
Песочницы, запущенные за пределами DefenseClaw, а также любые неавторизованные сетевые правила останавливаются или удаляются и регистрируются. Администраторы могут просматривать каждое примененное действие политики с привязкой к песочнице, агенту и пользователю.
AI Defense Endpoint — это корпоративное предложение Cisco, созданное на базе DefenseClaw. Оно распространяет возможности Cisco AI Defense на управляемые конечные точки, где разработчики запускают свои агенты написания кода.
Создание доверия к агентам совместными усилиями
Доверие к ИИ-агентам — это инженерная задача, и ни один вендор не решает ее в одиночку. NVIDIA OpenShell предоставляет каждому агенту безопасную границу выполнения. DefenseClaw делает эту границу частью уже устоявшихся процессов организации: ее идентификационных данных, политик и операций безопасности.
Попробуйте сегодня: Установите DefenseClaw, запустите своего агента написания кода в песочнице:
cd ~/code/myapp
defenseclaw sandbox run claude
Дополнительную информацию можно найти на GitHub: https://github.com/cisco-ai-defense/defenseclaw
