Как Check Point и NVIDIA сотрудничают в области управления агентами, контроля их работы и встроенной в кремний безопасности ИИ-инфраструктуры
Агенты могут сбиваться с пути и без злоумышленника
ИИ-агенты теперь планируют задачи, используют инструменты, работают с конфиденциальными данными и передают работу другим агентам. Их ценность заключается в выполнении действий, которые никто не прописывал пошагово. Это также создает новый вид риска: агент может следовать каждому правилу и все равно сделать что-то не так.
Злоумышленник не нужен. Агент может:
- Получить доступ к конфиденциальным данным, учетным данным или внутренним системам
- Воспринять ненадежный или вводящий в заблуждение контент как действительную инструкцию
- Действовать на основе этой инструкции с помощью инструментов, внешних коммуникаций или других агентов
Существующие сегодня средства контроля по-прежнему важны. Изоляция ограничивает область доступа агента. Сетевая безопасность ограничивает места его подключения. Мониторинг показывает, что он сделал. Но действие может быть разрешенным и при этом неверным. Возникает простой вопрос: служит ли этот следующий шаг той задаче, которая была поставлена перед агентом?
Что NVIDIA анонсировала на конференции GTC Berlin
Сегодня на конференции GTC Berlin компания NVIDIA представила эталонную архитектуру NVIDIA OpenShell Reference Architecture для безопасной работы ИИ-агентов — проект для безопасного запуска агентов в масштабе предприятия. Check Point гордится тем, что является частью этого проекта. Для безопасности агентов наиболее важны два компонента:
- NVIDIA OpenShell™ — это безопасная среда выполнения, в которой работают агенты. Она определяет, какие файлы, инструменты и сети может использовать каждый агент. Поскольку это решение с открытым исходным кодом, Check Point создает собственные разработки на его базе и вносит свой вклад в проект.
- NVIDIA Sentry, работающая на базе NVIDIA BlueField™-4, обеспечивает безопасность из аппаратно изолированного домена вне машины, на которой выполняется агент, куда агент не имеет доступа, и позволяет изолировать агента в течение миллисекунд.
Возврат агентов на правильный путь вместо простого блокирования
Check Point рассматривает каждое предлагаемое агентом действие в контексте: исходная задача, то, что агент уже видел, предпринятые им шаги и применимые правила. Это позволяет принимать более умные решения, чем простое «да» или «нет».
Пример. Агент по закупкам сравнивает предложения поставщиков. Сделав сорок шагов, он готовится отправить по электронной почте конфиденциальный файл с ценами на внешний адрес. Адрес доступен, и агенту разрешено отправлять электронную почту. Но отправка файла не соответствует тому, о чем просил пользователь.
Вместо того чтобы отключать агента, Check Point может заблокировать это конкретное письмо и объяснить агенту причину: «Не передавайте рабочий файл за пределы компании. Сделайте сводку сравнения, используя утвержденные данные, и продолжайте работу». Агент корректирует свои действия, и работа продолжается.
Это становится еще более важным, когда агенты работают в команде. Ошибка одного агента становится доверенным входным данными для другого агента, и ошибка распространяется. Раннее обнаружение проблемы до того, как каждый следующий шаг усугубит ее, предотвращает гораздо более крупный сбой.
Корректировка курса не всегда является правильным решением. В некоторых ситуациях требуется немедленная остановка:
- Кража учетных данных
- Попытка агента выйти за пределы своей изолированной среды (песочницы)
- Утечка данных из компании
- Повторяющееся намеренное нарушение правил
Цель состоит в том, чтобы реакция соответствовала уровню риска: направлять агента, когда он может безопасно восстановить работу, и изолировать его, когда ему больше нельзя доверять.
Как компоненты сочетаются друг с другом
Каждый уровень выполняет свою задачу:
- NVIDIA OpenShell: управление на основе политик для каждого агента. Контролируемая среда выполнения, которая определяет, какие файлы, инструменты и сети может использовать агент.
- Check Point на уровне агента: правильное ли это действие? Там, где OpenShell разрешает действие, Check Point проводит дополнительную проверку, выясняя, соответствует ли оно задаче агента, а затем корректирует его или блокирует, если оно не подходит.
- NVIDIA BlueField и NVIDIA Sentry добавляют независимый уровень принудительного контроля за пределами хоста, дополняя средства защиты среды выполнения OpenShell элементами управления, аппаратно изолированными на уровне кремния от среды агента.
- Check Point AI Factory Firewall: защита инфраструктуры. Предотвращение угроз и сегментация для ИИ-инфраструктуры. Используя NVIDIA Sentry на базе NVIDIA DOCA™ Argus, он отслеживает рабочие нагрузки извне и обнаруживает такие угрозы, как манипуляции с моделями, кража учетных данных, побег из контейнеров и несанкционированное использование графических процессоров. Он продолжает работать, даже если сама рабочая нагрузка скомпрометирована.
В совокупности эти уровни решают две разные задачи. Первая — удерживать агентов сосредоточенными на их задачах. Вторая — гарантировать, что инфраструктуре, на которой они запущены, можно доверять.
Check Point объединяет эти элементы в сферах использования ИИ сотрудниками, производственных ИИ-приложений и инфраструктуры, стоящей за ними. Это направление, в котором мы развиваемся, и компоненты постепенно встают на свои места.
Что происходит при выполнении агентом действий
- Агент получает задачу. Его идентификационные данные, сама задача и применимые правила передаются в Check Point.
- Агент предлагает действие. Перед вызовом важного инструмента OpenShell отправляет его в Check Point на проверку.
- Check Point реагирует в соответствии с уровнем риска. Нормальное действие выполняется дальше. Действие, не относящееся к задаче, блокируется с предложением более безопасной альтернативы. Четкая угроза вызывает более строгие меры изоляции.
- Остальные уровни продолжают работать. Правила OpenShell и безопасность инфраструктуры продолжают действовать самостоятельно, даже для тех действий, которые Check Point не видит.
- Команда безопасности видит все. Решения и сигналы инфраструктуры объединяются для проведения расследований и улучшения политик. [Подтвердить.]
Что это означает для клиентов
- Агенты продолжают работу, когда ошибку можно исправить, вместо того чтобы отключаться.
- Серьезные угрозы быстро пресекаются с помощью изоляции, до которой агент не может добраться.
- Каждая проверка выполняется там, где у нее есть необходимый контекст, без замедления работы агентов из-за дублирующих проверок.
- Безопасность от задачи агента до аппаратного обеспечения от двух партнеров, созданных для совместной работы.
Для компаний, создающих ИИ-фабрики и агентские системы, это путь к автономии с подотчетностью: агенты, которые продолжают работать, когда ошибку можно исправить, и средства контроля, которые быстро останавливают их, когда этого требует риск.
Узнайте больше о Check Point AI Agent Security и Check Point AI Factory Firewall.
