Enkrypt AI от Anaconda интегрируется с OpenAI Compliance API. Наши защитные механизмы сканируют активность в вашем рабочем пространстве ChatGPT Enterprise по расписанию и предоставляют регулярно обновляемую информацию о состоянии соответствия требованиям.

Вот с какой проблемой мы постоянно сталкивались у клиентов.

ChatGPT Enterprise предоставляет администраторам надежные элементы управления и аудируемые журналы. Но аналитика рабочего пространства ориентирована на внедрение, а не на риски.

Откройте консоль администратора, и вы получите четкую картину использования: назначенные места, рост объема сообщений, созданные командами пользовательские GPT и те из них, которые прижились. Все эти метрики отвечают на один вопрос: используется ли это?

Службы безопасности на самом деле задают другой вопрос: используется ли это безопасно?

Использование в рабочем пространстве ChatGPT Enterprise теперь неоднородно. Кто-то вставляет список клиентов в чат для изменения формата. Кто-то загружает PDF-файл с контрактом и просит сделать краткую выжимку, не имея представления о том, какие инструкции скрыты в документе. Разработчик запускает сеанс Codex для работы с частным репозиторием. Агент рабочего пространства инициирует вызов коннектора в Drive или SharePoint.

Что-то из этого абсолютно нормально. Что-то нарушает вашу политику использования ИИ. А что-то — это проверка кем-то того, как далеко можно зайти в манипулировании моделью. В метриках внедрения все это выглядит одинаково: растет количество сообщений.

Compliance API действительно предоставляет исходные данные, причем охват широк: сообщения в чатах, активность Codex, запуски агентов, вызовы коннекторов. Но это сырой материал, а не готовый ответ. Вы получаете тысячи неизменяемых файлов событий в формате JSONL сжатых gzip, а Enkrypt AI автоматизирует их проверку на соответствие политикам клиента и помогает выявить находки для дальнейшего расследования.

У большинства команд безопасности нет времени на это. В результате потенциальные риски остаются в логах непроверенными. Они обычно всплывают в самый неподходящий момент: во время аудита, инцидента или когда регулятор запрашивает доказательства, которые никто не собирал.

Ретроспективный мониторинг по вашему расписанию

Enkrypt AI считывает активность вашего рабочего пространства через OpenAI Compliance API и пропускает ее через те же защитные механизмы, которые наши клиенты используют в продакшене. Система фиксирует потенциальные проблемы постфактум, ничего не блокируя, а ваши администраторы сохраняют контроль над устранением неполадок.

Мы сканируем поддерживаемую активность из включенных вами источников, включая промпты, ответы, вызовы инструментов и загруженные файлы с извлекаемым текстом, и объединяем результаты в единый обзор состояния вашего рабочего пространства.

Для начала работы вам потребуется авторизованная учетная запись Enkrypt AI, ключ Compliance API с соответствующими правами и идентификатор вашего рабочего пространства. Затем выберите временной диапазон, источники и защитные механизмы, после чего запустите проверку. Для ваших сотрудников ничего не меняется: никаких плагинов, браузерных расширений или изменений в привычных рабочих процессах. Мониторинг работает на стороне комплаенса, там, где ему и положено быть.

За чем мы следим

Промпт-инъекции. Попытки переопределить инструкции, обойти защиту модели или заставить ее совершить небезопасные действия, включая инъекции, скрытые внутри загруженных документов.

Нарушения политик. Ваших политик, а не наших. Определите правила использования ИИ вашей организации на платформе Enkrypt AI, и мы укажем на конкретное правило, которое могло быть нарушено, будь то утечка данных, запрещенные темы или любые другие интересующие вас аспекты.

Утечки конфиденциальных данных. Личная и конфиденциальная информация, проходящая через ваше рабочее пространство (независимо от того, вставил ли ее сотрудник в промпт или модель вернула ее в ответе), проверяется на соответствие вашим собственным политикам работы с данными.

Токсичность. Оскорбительная или нецензурная лексика в промптах и ответах.

Контент, не предназначенный для работы (NSFW). Откровенный или неуместный материал в любой части взаимодействия.

Охват, который следует за вашими командами

ChatGPT Enterprise давно вышел за рамки одного окна чата, поэтому для эффективного мониторинга необходимо следить за ходом работы. Мы сканируем беседы в ChatGPT Enterprise, сеансы Codex, агентов рабочего пространства, коннекторы и плагин для работы с электронными таблицами. Включите их все или ограничьте сканирование только самым важным.

Мы также идем глубже текста сообщений. Когда кто-то загружает файл во время беседы, мы извлекаем его содержимое из логов и также сканируем его. Во время одного из сканирований рабочего пространства клиента пользователь загрузил PDF-файл и попросил модель следовать инструкциям из него. Документ содержал промпт-инъекцию. Мы извлекли текст, пропустили его через наши защитные механизмы и зафиксировали нарушение. Риски, скрытые внутри файлов — это как раз то, для чего существует регулярный мониторинг.

Ваш ландшафт комплаенса на одном экране

Каждое сканирование формирует единое представление о состоянии вашего рабочего пространства. Сначала сводные показатели: попытки инъекций, нарушения политик, общее число срабатываний и общий показатель частоты срабатываний. Вокруг них — контекст использования, который придает этим цифрам смысл: объем бесед, активные пользователи, задействованные модели и сервисы, а также количество просканированных загруженных файлов.

Затем детали, которые превращают цифры в решения:

Детализация по детекторам, позволяющая сразу увидеть, сосредоточены ли ваши риски на попытках инъекций или на отклонениях от политик
Нарушения политик по правилам, чтобы видеть, какие именно правила вызывают больше всего срабатываний, вместо того чтобы гадать
Соответствие нормативным рамкам, связывающее находки с соответствующими статьями, элементами управления и категориями в Законе об искусственном интеллекте Европейского союза, International Organization for Standardization (ISO) and International Electrotechnical Commission (IEC) 42001, ISO/IEC 24028, базе данных угроз MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems), National Institute of Standards and Technology AI Risk Management Framework (NIST) AI RMF и проекте OWASP (Open Worldwide Application Security Project) Top 10 for Large Language Models (LLM) and Agentic Applications, благодаря чему ваши доказательства уже представлены на языке, который используют аудиторы
Обнаружение по сервисам, показывающее, кроется ли риск в чате, в Codex или в какой-то другой неосвещенной области
Входящие и исходящие данные, разделяющие то, что отправляют ваши сотрудники, и то, что модель возвращает обратно
Топ пользователей по числу срабатываний, благодаря чему паттерны повторяющегося поведения становятся заметны автоматически

Каждая находка сопровождается доказательствами

Откройте любую находку и прочитайте помеченное сообщение полностью, с ключевым окружающим контекстом и прикрепленным идентификатором беседы для ваших записей. В этом и заключается разница между метрикой и доказательством. Вы не просите команду просто поверить цифрам на слово. Вы показываете им, что именно произошло.

Действуйте быстро и знайте текущее положение дел

Управление рисками никогда не должно быть причиной замедления внедрения ИИ в компании. Оно должно стать причиной, по которой этот процесс можно ускорить.

Когда Enkrypt AI мониторит ваше рабочее пространство через OpenAI Compliance API, вы перестаете гадать о своем уровне соблюдения требований и начинаете формировать реальную историю этого процесса. Когда аудитор задает вопросы, у вас есть документация, на которую можно сослаться. И вместо того чтобы ждать аудита для выявления проблемы, плановые сканирования фиксируют потенциальные нарушения политик и попытки манипуляций в поддерживаемой активности, предоставляя контекст, необходимый вашей команде для расследования.

ChatGPT Enterprise предоставил вашей организации мощный новый инструмент для работы. Мы помогаем вам документировать эту активность и расследовать потенциальные нарушения политик.

Посмотрите в своем рабочем пространстве

Если ваша организация использует ChatGPT Enterprise, мы покажем вам, как просматривать поддерживаемую активность в вашем рабочем пространстве. Вам понадобятся авторизованная учетная запись Enkrypt AI, ограниченный ключ Compliance API и ID вашего рабочего пространства. Свяжитесь с командой Enkrypt AI для демонстрации с учетом ваших внутренних политик. Запросить демонстрацию.

Часто задаваемые вопросы

Что делает Enkrypt AI для ChatGPT Enterprise?

Enkrypt AI подключается к Compliance API OpenAI и сканирует активность вашего рабочего пространства ChatGPT Enterprise на предмет соответствия политикам использования ИИ вашей организации. Сервис выявляет потенциальные риски и предоставляет единое представление о состоянии соблюдения требований в вашем рабочем пространстве.

Блокирует или изменяет ли Enkrypt AI действия сотрудников в ChatGPT Enterprise?

Нет. Мониторинг носит ретроспективный характер и работает со стороны комплаенса. Он фиксирует потенциальные проблемы постфактум и ничего не блокирует. Сотрудникам не нужны плагины или расширения для браузера, а их рабочий процесс остается прежним.

Что нужно для начала работы?

Вам понадобятся авторизованная учетная запись Enkrypt AI, ключ Compliance API с соответствующими правами доступа и ID вашего рабочего пространства. После этого вы выбираете временной диапазон, источники для сканирования и применяемые защитные механизмы.

Как часто Enkrypt AI сканирует мое рабочее пространство?

Сканирование выполняется по расписанию, поэтому информация о состоянии соблюдения требований в вашем рабочем пространстве всегда остается актуальной.

Какие части ChatGPT Enterprise сканирует Enkrypt AI?

Он сканирует разговоры в ChatGPT Enterprise, сеансы Codex, агентов рабочего пространства, коннекторы и плагин электронных таблиц. В них проверяются промпты, ответы, вызовы инструментов и загруженные файлы с извлекаемым текстом. Вы можете сканировать всё целиком или только выбранные источники.

Какие типы рисков обнаруживает Enkrypt AI?

Он обнаруживает инъекции промптов (prompt injection), нарушения ваших собственных политик, утечки конфиденциальных данных, токсичность и контент NSFW.

Могу ли я использовать собственные политики использования ИИ?

Да. Вы определяете правила своей организации на платформе Enkrypt AI, а Enkrypt AI отмечает конкретное правило, которое могло быть нарушено.

Как это помогает при аудитах?

Результаты проверок сопоставляются с регламентом EU AI Act, стандартами ISO/IEC 42001 и 24028, фреймворками MITRE ATLAS и NIST AI RMF, а также OWASP Top 10 для LLM и агентских приложений. Каждый результат также включает отмеченное сообщение, окружающий контекст и ID разговора, благодаря чему у вас есть доказательства для аудиторов, а не просто цифры статистики.

Может ли Enkrypt AI обнаруживать риски, скрытые внутри загруженных файлов?

Да. Когда кто-то загружает файл с извлекаемым текстом, Enkrypt AI извлекает содержимое из логов и сканирует его. Это включает в себя инъекции промптов, скрытые внутри документов.