Varonis гордится тем, что была названа лидером (Pace Setter) в отчете Gartner® Emerging Market Quadrant для средств безопасности приложений ИИ (AI Application Security), что подтверждает наш подход к обеспечению безопасности приложений ИИ на протяжении всего жизненного цикла разработки и развертывания.
Мы считаем это признание особенно важным для организаций, которым необходима безопасность ИИ здесь и сейчас, а не функции, которые пока существуют только в дорожной карте. Лидеры (Pace Setters) — это вендоры с сильными существующими возможностями во всех обязательных функциях безопасности приложений ИИ, включая обнаружение и инвентаризацию, защиту среды выполнения (runtime defense) и тестирование безопасности ИИ. Это имеет решающее значение, поскольку предприятия, быстро внедряющие ИИ, нуждаются в средствах контроля безопасности, которые могут обеспечить быструю окупаемость, немедленное покрытие для корпоративного использования ИИ и надежную работу в производственных средах.
Поскольку организации стремятся как можно быстрее внедрять приложения на базе ИИ, поверхность атаки расширяется быстрее, чем большинство программ безопасности успевают за ней следовать. Конфиденциальные данные теперь циркулируют в конвейерах обучения, системных промптах, правах агентов и десятках инструментов, которые разработчики используют для создания и выпуска ИИ, зачастую практически без видимости или контроля. Мы считаем, что это признание отражает способность Varonis Atlas закрыть этот пробел и подтверждает растущий спрос на платформы безопасности, способные обнаруживать, контролировать и защищать данные на протяжении всего жизненного цикла ИИ.
Varonis Atlas создана специально для решения этой задачи, обеспечивая глубокую видимость данных, автоматизированное исправление и контекстную аналитику в средах ИИ — от первой строки обучающего кода до среды выполнения в продакшене.
Новая поверхность атаки ИИ: данные, промпты, модели и агенты
Приложения на базе ИИ создают риски, которые выходят за рамки инфраструктуры и идентификационных данных, затрагивая данные, промпты, модели и результаты работы. Сотни тысяч организаций сегодня создают приложения ИИ, и темпы разработки опережают темпы развития безопасности.
В отличие от традиционного программного обеспечения, данные для приложений ИИ — это не просто входные параметры; они определяют поведение таких приложений. Это меняет поверхность атаки. Учетные данные для аутентификации сервисов ИИ, системные промпты, определяющие поведение агентов, и обучающие данные, формирующие выходные данные модели, проходят через весь цикл разработки в продакшен, зачастую оставаясь вне досягаемости традиционных инструментов AppSec.
Риски безопасности проявляются в нескольких типичных формах:
- Обучающие данные и источники для извлечения информации (retrieval sources) подтягиваются из продакшена, поэтому одна утечка учетных данных может скомпрометировать все, на чем обучен агент ИИ или к чему он может делать запросы, а не только одну базу данных.
- Системные промпты и конфигурации моделей, хранящиеся в репозиториях и вики-системах, описывают внутренние политики и схемы данных, фактически предоставляя злоумышленникам руководство по эксплуатации с описанием того, что можно использовать в корыстных целях.
- Агенты ИИ по умолчанию наделены избыточными привилегиями. Широкие области доступа, предоставляемые на этапе разработки, часто остаются неизменными в продакшене, где они несут реальные угрозы. Это уже происходит на практике: недавно был зафиксирован случай, когда агент ИИ с чрезмерными разрешениями и отсутствием защитных экранов среды выполнения удалил почтовый ящик собственного оператора, несмотря на прямые инструкции предварительно спросить разрешение.
Традиционные подходы к безопасности не имеют видимости того, как конфиденциальные данные используются ИИ, не могут применять политики в динамических рабочих процессах ИИ и изначально не были рассчитаны на обнаружение злоупотреблений или чрезмерной открытости данных в средах на базе ИИ. Устаревшие инструменты AppSec отлично справляются с поиском секретов в коде и сканированием на наличие известных уязвимостей, но они абсолютно слепы к системным промптам, вставленным в Confluence, чрезмерным привилегиям агентов или проприетарным конфигурациям, скопированным в ChatGPT для отладки.
Обеспечение безопасности разработки ИИ означает защиту конфиденциальных данных и конфигураций везде, где реально работают разработчики: в репозиториях, вики-системах, трекерах задач, реестрах артефактов и ИИ-ассистентах, а не только в исходном коде.
Обеспечение безопасности ИИ с помощью архитектуры, ориентированной на данные, вместе с Varonis
Каждый из этих элементов — от утечки учетных данных в репозитории до агента с избыточными привилегиями в продакшене — поступает в те же функции управления состоянием безопасности данных (DSPM), на которые ваша команда уже полагается благодаря Varonis DSP. Риск ИИ не существует в отдельном изолированном сегменте; он возникает наряду с остальными рисками конфиденциальных данных благодаря тем же возможностям автоматизированного устранения и отчетности, доступным на всей платформе.
Varonis Atlas: создана для переворота в безопасности ИИ
Atlas представляет собой следующий этап эволюции безопасности данных от Varonis, разработанный для комплексного решения сложных задач в средах на базе ИИ. Система обеспечивает:
- Унифицированный обзор потоков данных ИИ — от этапа разработки до продакшена.
- Контекстно-зависимое обнаружение рисков, понимающее, как конфиденциальные данные, учетные данные и разрешения перемещаются по системам ИИ.
- Тестирование безопасности ИИ, включая тестирование на проникновение (AI pen testing), которое упреждающе проверяет системы на устойчивость к таким уязвимостям, как инъекции промптов (prompt injection) и побег из «тюрьмы» (jailbreaks).
- Защитные экраны среды выполнения в реальном времени с помощью шлюза ИИ (AI Gateway), который проверяет промпты, ответы и действия агентов до того, как они поступят к модели.
- Автоматизированное применение политик и интеграцию с более широкой платформой Varonis.
В целом Varonis предоставляет командам безопасности единое место для ответов на важнейшие вопросы: Какие конфиденциальные данные хранятся в репозиториях, где создавалась система ИИ? Какие учетные данные встроены в образы, запускающие агентов ИИ? Какими данными разработчики поделились с внешними ИИ-ассистентами? Кто имеет доступ к документации, описывающей области разрешений агента? Если на эти вопросы сегодня нельзя ответить, базовые системы ИИ, скорее всего, содержат встроенные уязвимости.
Искусственный интеллект меняет методы работы и создания продуктов организаций, и безопасность должна развиваться с той же скоростью. Varonis стремится возглавить эти изменения с помощью Atlas и продолжать внедрять инновации на стыке данных, ИИ и безопасности.
Gartner, Emerging Market Quadrant for AI Application Security — Established Vendors, Meghan Hollis, Dionisio Zumerle, Dennis Xu, Marissa Schmidt, 14 September 2026.
Gartner и Magic Quadrant являются товарными знаками компании Gartner, Inc. и/или ее филиалов.
Gartner не одобряет никакие компании, вендоров, продукты или услуги, упомянутые в ее публикациях, и не рекомендует пользователям технологий выбирать только тех вендоров, которые имеют самые высокие рейтинги или другие обозначения. Публикации Gartner отражают мнения исследовательской организации Gartner, занимающейся вопросами бизнеса и технологий, и не должны рассматриваться как констатация фактов. Gartner отказывается от всех гарантий, явных или подразумеваемых, в отношении данной публикации, включая любые гарантии товарной пригодности или пригодности для конкретной цели.
Роб Соберс (Rob Sobers) — инженер-программист, специализирующийся на веб-безопасности, и соавтор книги «Learn Ruby the Hard Way».
