Что такое платформа управления ИИ?

Главная

Блог

Управление и безопасность ИИ

Брэд Гриффит

5 ноября 2026 г.

Платформа управления ИИ — это программное обеспечение, которое помогает организации определять правила для ИИ, отслеживать используемые ИИ-решения, оценивать риски и подтверждать соответствие требованиям. Платформы различаются по области своего действия. Некоторые работают с документами и реестрами: политиками, карточками моделей, оценками рисков и согласованиями. Другие обеспечивают соблюдение политик во время работы агентов, блокируя вызовы или маскируя поля в пути запроса. AI Control Plane от Workato использует второй подход, управляя трафиком моделей, инструментов, агентов и API через четыре шлюза в рамках единой политики, системы идентификации и аудиторского следа.

Тест, который разделяет эти два типа, прост: когда агент нарушает правило, останавливает ли его платформа или просто фиксирует факт существования правила?

Что делает платформа управления ИИ?

Платформа управления ИИ выполняет четыре задачи: инвентаризация, политика, оценка рисков и доказательства. Инвентаризация перечисляет используемые модели, агентов и инструменты, политика определяет, что разрешено, оценка рисков классифицирует каждое использование, а доказательства показывают аудиторам, что произошло.

Большинство платформ справляются с первой, второй и четвертой задачами с помощью рабочих процессов и записей. Настоящее различие между платформами заключается в том, как политика применяется к работающему ИИ.

В чем разница между управлением на этапе проектирования и на этапе выполнения?

Управление на этапе проектирования (design-time) проверяет и одобряет ИИ до его запуска, а управление на этапе выполнения (runtime) контролирует действия ИИ во время его работы. Вам нужны оба подхода. Проверка на этапе проектирования выявляет рискованный сценарий использования до запуска, а принудительное исполнение на этапе выполнения останавливает некорректный вызов после запуска, когда промпт, данные и выбор агента отличаются от того, что было проверено.

Агенты делают аргумент в пользу управления на этапе выполнения более весомым. Агент выбирает инструменты во время выполнения, поэтому его поведение невозможно полностью проверить заранее.

Как Workato управляет ИИ во время выполнения?

Workato управляет ИИ во время выполнения с помощью шлюзов, идентификации, защитных барьеров (guardrails), согласований и аудита. Шлюзы аутентифицируют каждый вызов и применяют политики, установленные администратором. Verified User Access выполняет действия агента под учетными данными конечного пользователя. Защитные барьеры Genie проверяют контент и обрабатывают конфиденциальные данные, этапы согласования приостанавливают работу агента для участия человека, а записи фиксируют каждый шаг.

Workato Genies предлагают проверку безопасности контента на низком, среднем или высоком уровне, 31 тип PII по умолчанию плюс пользовательские типы regex, а также действия по токенизации, редактированию или отказу. При токенизации агент никогда не видит реальное значение, а в истории и журналах отображаются токены, а не реальные данные.

Что включает в себя AI Control Plane от Workato?

AI Control Plane от Workato включает в себя AI Gateway, AI Registry and Catalog, а также AI Security and Governance. Шлюз обеспечивает соблюдение политики для трафика моделей, MCP, агентов и API. Реестр содержит одобренные модели, агентов, инструменты и серверы MCP с указанием владельцев. Уровень управления применяет единую политику и модель идентификации с консолидированным учетом затрат и потребления. Agent Evals от Workato предназначены для постоянной оценки развернутых агентов по критериям корректности, выбора инструментов, соблюдения политик, безопасности и качества результатов, поэтому управление продолжается и после развертывания.

Как управление соотносится с нормативными актами и фреймворками?

Программы управления обычно соотносят контроли с такими фреймворками, как EU AI Act, NIST AI Risk Management Framework и ISO/IEC 42001. Эти фреймворки требуют инвентаризации, оценки рисков, надзора, ведения журналов и подотчетности. Корпоративные ИИ-агенты должны работать в рамках нормативных баз, таких как GDPR, HIPAA, ISO 42001 и EU AI Act, со строгим контролем доступа, четкими журналами аудита, принудительными политиками хранения данных и участием человека там, где этого требует законодательство.

Платформа помогает, предоставляя доказательства: кто вызвал, что именно, в рамках какой политики, было ли это разрешено и сколько это стоило. Аудиторская запись Workato связывает активность плоскости управления с деталями выполнения и может передаваться в SIEM.

Workato получила сертификат ISO/IEC 42001, международный стандарт для систем управления ИИ. Сертификация охватывает собственные методы управления ИИ в Workato, включая то, как компания оценивает риски ИИ, управляет использованием моделей ИИ и поддерживает подотчетность во всех своих ИИ-операциях. Это независимая сторонняя проверка того, как Workato осуществляет свою деятельность в области ИИ, и она не сертифицирует собственные ИИ-программы клиентов. Более широкое соответствие требованиям Workato охватывает SOC 1 Type II, SOC 2 Type II, PCI-DSS 4.0.1, ISO 27001:2022, ISO 27701:2019, HIPAA, IRAP и ISO/IEC 42001. Также сюда входят SOC 3 и NIST 800-171A r2.

Что следует требовать от платформы управления ИИ?

Требуйте пять вещей и проверяйте каждую в ходе демонстрации. Попросите показать инвентаризацию, которая включает ИИ, созданный вне платформы. Попросите показать, как политика блокирует «живой» вызов. Попросите показать агента, действующего под правами конкретного пользователя, а затем запросите аудиторскую запись этого вызова. Наконец, спросите, можно ли включить человека в процесс перед совершением значимого действия.

Workato демонстрирует кейс с идентификацией через вход в Okta, затем действия в Salesforce и Slack под собственным подключением пользователя, а затем записанный вызов с указанием пользователя, клиента и длительности.

Кто отвечает за управление ИИ в компании?

Несколько команд разделяют ответственность за управление ИИ. Безопасность и комплаенс устанавливают политику и проверяют доказательства, ИТ-управление контролирует доступ к моделям, инструментам и агентам, а финансы следят за расходами. Платформенная инженерия эксплуатирует уровень, а владельцы бизнеса отвечают за результаты каждого агента.

Workato перечисляет роли: ИТ-управление устанавливает единую политику и отзывает доступ в одном месте, безопасность маскирует PII и проверяет на наличие инъекций промптов, а финансы видят расходы и распределяют их.

Как начать программу управления ИИ?

Начните с инвентаризации, затем обеспечьте соблюдение на уровне трафика. Перечислите каждую модель, агента и сервер MCP, находящиеся в использовании, и направляйте трафик моделей и инструментов через шлюзы, чтобы политика применялась к каждому вызову. Добавьте согласования для значимых действий и ежемесячно просматривайте аудиторские записи.

Не ждите идеальной политики, прежде чем начинать внедрение. Базовое правило, применяемое к каждому вызову, лучше, чем полное правило, применяемое лишь частично.

Платформа управления ИИ определяет, применяет и подтверждает правила для ИИ. Платформы различаются тем, только ли они документируют политику или обеспечивают ее соблюдение во время выполнения, и поскольку агенты выбирают действия во время выполнения, принудительное исполнение на этом этапе имеет решающее значение. Workato управляет через шлюзы, идентификацию, защитные барьеры, согласования и аудит. Чтобы протестировать любую платформу, попросите ее заблокировать «живой» вызов и показать запись.

Часто задаваемые вопросы

Что такое управление ИИ?

Набор правил, ролей и контролей, которые организация использует для управления тем, как ИИ создается и используется.

В чем разница между управлением ИИ и комплаенсом ИИ?

Управление — это программа. Комплаенс — это соответствие внешним требованиям, наличие которых помогает подтвердить управление.

Нужна ли мне платформа управления ИИ?

Как только несколько команд начинают создавать агентов — да. Инвентаризация, политика и аудит не масштабируются с помощью электронных таблиц.

Что такое управление на этапе выполнения?

Контроли, применяемые во время работы ИИ: проверки доступа, маскирование данных, согласования и ведение журналов.

Предлагает ли Workato платформу управления ИИ?

AI Control Plane от Workato обеспечивает управление через шлюзы, реестр, а также уровни безопасности и управления.

Об авторе

Больше информации об управлении ИИ и безопасности

Узнайте о последних обновлениях и функциях продукта

Советы CISO по запуску агентного ИИ в промышленную эксплуатацию

2 ноября 2026 г.

Встречайте XChange: создавайте один раз, развертывайте в масштабе

30 октября 2026 г.

Почему Relativity отказывается предоставлять ИИ неограниченный доступ к Salesforce

21 октября 2026 г.

Оглавление