Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Kak kompanii realizuyut upravlenie ii na praktike
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Как компании реализуют управление ИИ на практике?

Источник: Starburst•18 ноября 2026 г. в 16:22

Как компании реализуют управление ИИ на практике?

Управление ИИ легко прописать на бумаге, но трудно обеспечить, когда агенты начинают отправлять запросы...

Управление ИИ легко прописать на бумаге, но трудно обеспечить, когда агенты начинают отправлять запросы к реальным системам. Программы, которые успешно работают в промышленной эксплуатации, рассматривают управление как часть самого уровня доступа к данным. В них федеративный доступ, общий бизнес-контекст и проверяемые элементы контроля применяются непосредственно в момент выполнения запроса, а не как документ с политиками, который утверждается один раз, а затем должен «применять себя сам» по мере перехода агентов из пилотного режима в промышленный.

В этой статье вы узнаете о причинах, по которым управление часто нарушается в реальных условиях, о четырех методах, которые компании используют для внедрения управления на уровне доступа, и о том, как «ограждения» (guardrails) добавляют поведенческий уровень поверх управляемого доступа.

Основные выводы

  • Управление ИИ работает на практике, когда оно встроено в уровень доступа к данным, а не добавлено после того, как агент уже запущен.
  • Федеративный доступ позволяет компаниям управлять ИИ-агентами без предварительной реализации отдельного проекта по централизации данных.
  • Общий бизнес-контекст — это то, что отличает надежного агента от уверенного в себе, но ошибающегося. Одна и та же модель повышает точность примерно с 50% до более чем 90%, как только получает структурированный контекст.
  • Принудительное использование режима «только для чтения», RBAC/ABAC и журналы аудита являются базовыми элементами контроля для любого уровня доступа к ИИ, а не дополнительными опциями.
  • Суверенитет данных, их локализация и такие нормативные акты, как EU AI Act, все чаще определяют, где может выполняться обработка ИИ.

Почему планы по управлению ИИ рушатся после запуска агентов

Большинство программ управления ИИ пишутся до того, как первый агент касается производственных данных, и именно здесь они обычно начинают давать сбой. Документ с политиками может определить, кому что разрешено видеть, но он не может ничего обеспечить, когда агент извлекает данные из десятка систем, обобщает результаты и действует на основе найденного. По оценкам Gartner, 60% ИИ-проектов находятся под угрозой, поскольку базовые данные, подготовленные для ИИ, изначально не были рассчитаны на то, чтобы к ним обращались, управляли ими или доверяли им с той скоростью, с которой работают агенты.

Показатели внедрения демонстрируют тот же дефицит: 95% пилотных проектов генеративного ИИ не показывают измеримой окупаемости, даже несмотря на то, что, согласно отдельному опросу Bain, 74% компаний по-прежнему ставят ИИ в тройку главных приоритетов. У компаний есть амбиции и бюджет; чего им не хватает, так это уровня доступа, который предоставил бы агенту такой же управляемый и актуальный взгляд на бизнес, какой имеет доверенный сотрудник, автоматически применяя одни и те же правила каждый раз, на сайте starburst.io.

От управления как политики к управлению как инфраструктуре

Компании, добивающиеся реального прогресса, рассматривают управление как инфраструктуру. Вместо того чтобы писать политику и надеяться, что каждая команда и каждый агент будут ее соблюдать, они встраивают политику в связующий слой между обоснованным бизнес-контекстом и действиями агента — а именно в контрольную точку, где запрос проверяется на соответствие роли, цели и разрешениям до того, как будет выполнено какое-либо действие.

Агенты не читают памятки о политиках. Они отправляют запросы. Управление как инфраструктура пропускает каждый из этих запросов через те же элементы контроля доступа, отслеживания происхождения данных (lineage) и ведения журналов аудита, что и запрос аналитика-человека, независимо от того, какая команда создала агента или какой инструмент он использует. Именно эта последовательность позволяет командам безопасности и комплаенса одобрять развертывание агентов, не пересматривая каждый новый сценарий использования с нуля.

Четыре метода, которые компании используют для операционализации управления ИИ

В проектах, которые вышли за рамки пилотных, постоянно проявляются несколько методов. Как только технические руководители начинают работать со своими платформами данных, вопросы, которые они задают, быстро эволюционируют: от «может ли агент ответить на это» до «можем ли мы постфактум доказать, что именно он видел и почему».

Встраивайте управление в уровень доступа, а не после развертывания

Первый метод — это последовательность. Встраивайте управление в то, как агенты получают доступ к данным, а не поверх них после запуска. Подход с федеративным доступом позволяет управлять агентами в отношении данных там, где они уже находятся — в облачных платформах и локальных системах, — вместо того чтобы требовать отдельного проекта по централизации данных до начала любого управления. Это важно как для сроков, так и для того, как строятся системы. Команды, которые ждут полностью централизованной платформы данных, прежде чем начать управлять доступом к ИИ, как правило, буксуют еще до запуска агента. Напротив, применение политики в точке запроса позволяет агенту перейти от пилота к эксплуатации без предварительной перестройки платформы.

Предоставьте каждому агенту тот же общий бизнес-контекст, что и аналитику-человеку

Второй метод — предоставление агентам того же общего бизнес-контекста, который использовал бы квалифицированный аналитик, включая согласованные определения, метрики и продукты данных, а не доступ к «сырым» таблицам. AIDA демонстрирует этот подход на практике: предоставление управляемого контекстного слоя и общей модели доступа позволяет как пользователям-людям, так и ИИ-агентам запрашивать одни и те же определения через одни и те же элементы контроля политики, поэтому ответ агента и ответ аналитика основаны на одних и тех же фактах.

Точность одной и той же базовой модели при ответах на корпоративные вопросы меняется примерно с 50% до более чем 90%, как только она получает структурированный бизнес-контекст. Именно контекст, а не модель, объясняет разницу между этими двумя цифрами. Это разница между надежным агентом и уверенно ошибающимся, и именно контекст ее устраняет, а не более крупная модель.

Используйте по умолчанию доступ «только для чтения», RBAC/ABAC и журналы аудита

Третий метод делает три элемента контроля обязательными по умолчанию: принудительный режим «только для чтения», RBAC/ABAC и подробные журналы аудита. Режим «только для чтения» не дает агенту записывать данные обратно в системы учета. RBAC и ABAC позволяют правам доступа следовать тем же правилам для агентов, что и для людей. А журналы аудита должны быть достаточно подробными, чтобы восстановить точную запись запросов агента и время их выполнения. Ни один из этих элементов контроля не является чем-то новым сам по себе; новизна заключается в их применении к классу пользователей — автономным агентам, — которые могут отправлять тысячи запросов за то время, пока человек отправляет один. Данные должны быть доступны и управляемы для ИИ одновременно, с помощью таких подходов, как федеративное вычислительное управление и отслеживание происхождения данных, а не путем решения проблемы доступа сначала и «прикручивания» управления потом.

Базовые элементы контроля, которые были адекватны для нескольких аналитиков, должны применяться автоматически и последовательно, как только вопросы начинает задавать агент.

Рассматривайте суверенитет и локализацию данных как проектные решения, а не как юридические сноски

Четвертый метод определяет, где может выполняться обработка ИИ, исходя из того, где разрешено хранить данные, еще до начала разработки. Суверенитет, локализация, резидентность и конфиденциальность — это отдельные требования, каждое из которых имеет свои последствия для того, как и где ИИ-система может взаимодействовать с данными.

Регулирование ускоряет этот процесс. EU AI Act связывает обязательства с классификацией риска системы, поэтому одно и то же ИИ-приложение может сталкиваться с существенно разными требованиями к управлению в зависимости от сценария использования и того, на кого оно влияет. Компании, которые рассматривают суверенитет как юридическую проверку на позднем этапе, как правило, обнаруживают эти ограничения уже после того, как агент построен на неверных предположениях. Рассмотрение этого вопроса как проектного решения с самого начала, часто путем удержания обработки данных рядом с местом, где уже находятся регулируемые данные, полностью решает эту проблему.

Guardrails как поведенческий слой поверх управляемого доступа

Управляемый доступ контролирует то, что агент может видеть; guardrails контролируют то, что он делает, оказавшись внутри. Эти два понятия дополняют друг друга; их смешивание является распространенным источником ошибок. Четыре независимо переключаемых механизма контроля guardrails — защита агента, защита продуктов данных, ограничение промптов и фильтрация тем — накладываются поверх существующих средств безопасности на уровне строк и столбцов и контроля доступа, а не заменяют их.

В этой многослойности и заключается смысл: средства контроля доступа отвечают на вопрос «разрешено ли этому агенту видеть эти данные», в то время как guardrails отвечают на вопрос «ведет ли этот агент себя так, как мы ожидаем, даже если ему технически разрешено продолжать». Вам нужно и то, и другое: агент с идеальным контролем доступа все равно может отклониться от задачи, а агент с сильными guardrails, но слабым контролем доступа, остается риском несоблюдения нормативных требований, который рано или поздно проявится.

Создание системы управления ИИ (AI governance), которая масштабируется по мере внедрения

Ни одна из этих практик не работает эффективно в изоляции, и ни одна из них не требует от компании решения всех проблем до начала работы. Федеративный доступ устраняет необходимость в централизации, а общий бизнес-контекст решает проблему точности. Настройки «только для чтения» по умолчанию, RBAC/ABAC и журналы аудита обеспечивают базовый уровень безопасности, в то время как проектирование с учетом суверенитета данных предотвращает регуляторные сюрпризы. Guardrails берут на себя остальное: поведенческие отклонения, которые средства контроля доступа сами по себе не могут отследить.

В совокупности эти практики описывают систему управления, которая масштабируется так же, как и внедрение: по одному соединению, определению и аудируемому запросу за раз, вместо политики, которую приходится переписывать каждый раз при запуске нового агента.

Следующие шаги

Если вы хотите увидеть применение этих практик в реальном рабочем процессе, сессия Office Hours демонстрирует превращение разовых ИИ-промптов в повторяемые управляемые рабочие процессы с использованием AIDA Skills и Guardrails под тем же контролем доступа и поведения, который описан выше.

Часто задаваемые вопросы

Что означает управление ИИ (AI governance) на практике в сравнении с политикой управления на бумаге?

На практике управление ИИ означает, что средства контроля, описанные в политике, применяются автоматически при каждом запросе агента к данным, а не проверяются постфактум. Политика на бумаге определяет, кто и к чему должен иметь доступ; управление как инфраструктура встраивает это определение непосредственно в уровень доступа, поэтому запрос проверяется на соответствие роли, цели и полномочиям перед выполнением, независимо от того, какая команда создала агента.

Как компании управляют ИИ-агентами, не замедляя процесс их внедрения?

Компании, которые движутся быстро, применяют политику в момент выполнения запроса, а не требуют отдельного проекта по централизации данных перед началом управления. Подход с федеративным доступом позволяет командам управлять агентами применительно к данным там, где они уже находятся — в облачных платформах и локальных системах, — так что агент может перейти от пилотного проекта к промышленной эксплуатации без предварительной смены платформы.

В чем разница между управлением данными (data governance) и управлением ИИ (AI governance)?

Управление данными устанавливает правила того, кто может получать доступ к данным и изменять их. Управление ИИ распространяет эти же правила на новый класс пользователей — автономных агентов, которые могут отправлять тысячи запросов за то время, пока человек отправляет один, и добавляет поведенческий слой: guardrails, которые регулируют действия агента, когда он уже работает в рамках разрешенного доступа, а не то, что ему разрешено видеть.

Нужно ли компаниям централизовать свои данные, прежде чем они смогут эффективно управлять ИИ?

Нет. Федеративный доступ позволяет компании применять одни и те же средства контроля доступа, отслеживание происхождения данных (lineage) и аудит в распределенных системах без предварительного переноса данных на одну платформу. Централизация все еще может проводиться по другим причинам, но она не является обязательным условием для управления доступом агентов.

Какие средства контроля должны входить в уровень доступа ИИ-агента по умолчанию?

Три механизма контроля должны быть обязательными настройками по умолчанию: режим «только для чтения», чтобы агент не мог вносить изменения в системы учета; RBAC и ABAC, чтобы разрешения для агентов следовали тем же правилам, что и для людей; и журналы аудита, достаточно подробные для восстановления точной записи запросов агента и времени их выполнения. Ни один из этих механизмов не является новым; новшество заключается в их автоматическом применении к трафику агентов в масштабах их работы.

Как суверенитет данных влияет на программы управления ИИ?

Суверенитет, резидентность, локализация и конфиденциальность — это отдельные требования, которые определяют, где разрешено выполнять обработку ИИ, а не где хранятся данные. Такие нормативные акты, как Закон ЕС об ИИ (EU AI Act), связывают обязательства с классификацией рисков системы, поэтому одно и то же ИИ-приложение может сталкиваться с различными требованиями к управлению в зависимости от сценария использования. Компании, которые рассматривают это как проектное решение, сохраняя обработку рядом с местом нахождения регулируемых данных, избегают обнаружения этих ограничений уже после того, как агент был построен на неверных предположениях.

← Все статьи

О чём эта статья

Ещё в разделе «Данные и аналитика»

Все →
Почему важны «ограждения» (guardrails) для ИИ
Starburst

Почему важны «ограждения» (guardrails) для ИИ

Корпоративному ИИ нужно нечто большее, чем онтология. Ему нужен контекстный слой, предоставляемый во время выполнения запроса.
Starburst

Корпоративному ИИ нужно нечто большее, чем онтология. Ему нужен контекстный слой, предоставляемый во время выполнения запроса.

Корпоративному ИИ нужен доступ к данным и контексту. Ваша платформа может поручиться только за свой собственный.
Starburst

Корпоративному ИИ нужен доступ к данным и контексту. Ваша платформа может поручиться только за свой собственный.

Стоит ли использовать модель эмбеддингов, настроенную на код? papr-embed-code-1 в Qdrant
Qdrant

Стоит ли использовать модель эмбеддингов, настроенную на код? papr-embed-code-1 в Qdrant

Управляемый вывод моделей (Managed Model Inference) переносит ИИ в потоки данных реального времени
Confluent

Управляемый вывод моделей (Managed Model Inference) переносит ИИ в потоки данных реального времени

Как мы создали агентскую систему поиска уязвимостей в Datadog
Datadog

Как мы создали агентскую систему поиска уязвимостей в Datadog

Ещё от Starburst

Почему важны «ограждения» (guardrails) для ИИ
Starburst

Почему важны «ограждения» (guardrails) для ИИ

Корпоративному ИИ нужно нечто большее, чем онтология. Ему нужен контекстный слой, предоставляемый во время выполнения запроса.
Starburst

Корпоративному ИИ нужно нечто большее, чем онтология. Ему нужен контекстный слой, предоставляемый во время выполнения запроса.

Корпоративному ИИ нужен доступ к данным и контексту. Ваша платформа может поручиться только за свой собственный.
Starburst

Корпоративному ИИ нужен доступ к данным и контексту. Ваша платформа может поручиться только за свой собственный.

Что такое доступ к данным?
Starburst

Что такое доступ к данным?

Что такое агентная аналитика?
Starburst

Что такое агентная аналитика?

Архитектура Apache Iceberg: подробный разбор
Starburst

Архитектура Apache Iceberg: подробный разбор