ИИ-агенты порождают новую задачу в области контроля. Они не просто генерируют результаты: они могут получать доступ к корпоративным данным, использовать инструменты, взаимодействовать с системами и действовать автономно. При этом каждый агент может иметь свою цель, профиль риска, набор разрешений и среду функционирования. По мере того как организации переходят от нескольких экспериментальных агентов к сотням или тысячам в продакшене, определение средств контроля для каждого агента в отдельности перестанет масштабироваться. Предприятиям нужны четкие, многократно используемые правила взаимодействия, способные регулировать работу всего парка агентов. Именно эту проблему призваны решить Контракты агентов.
Что нового: Контракты агентов
Контракты агентов предоставляют масштабируемый способ определения того, что ИИ-агенты должны и могут делать. Они переводят требования управления в машиночитаемые элементы контроля, которые можно последовательно применять ко всему парку агентов.
Вместо создания и поддержания отдельного набора правил для каждого агента организации могут сформировать иерархию повторно используемых элементов контроля. Глобальные контракты определяют базовые правила, применимые ко всем агентам, в то время как специализированные контракты добавляют требования для групп агентов на основе таких факторов, как функция, специализация, классификация рисков или контекст работы.
Эта многоуровневая модель обеспечивает организациям надежную корпоративную основу, одновременно адаптируя средства контроля к различным ролям и рискам их агентов. По мере появления новых типов агентов система управления может беспрепятственно расширяться вместе с ними.
Созданные как открытый стандарт, Контракты агентов также спроектированы независимыми от конкретной среды выполнения, что обеспечивает единую структуру контроля для разнородного парка агентов.
Как Контракты агентов помогают
Корпоративные политики обычно существуют для интерпретации людьми — это касается политик управления, документов о соответствии, классификации данных и других источников. Однако агентам нужны явные правила, отражающие их действия, используемые ими инструменты и данные, а также создаваемые ими риски. Ручной перевод этих требований в индивидуальные средства контроля для каждого агента быстро становится невозможным. Контракты агентов преодолевают этот разрыв, превращая корпоративные требования и соответствующий контекст агента в многократно используемую структуру контроля. Глобальные контракты устанавливают общие границы, а специализированные контракты адаптируют эти требования к различным категориям агентов, помогая масштабировать управление без необходимости рассматривать каждого нового агента как отдельный проект по созданию политик.
Контракты агентов превращают ваш существующий контекст управления в машиночитаемые правила, которые могут считываться и применяться во время выполнения.
Проблемы, которые решают Контракты агентов
- Политики, которые не могут быть выполнены агентами: перевод удобочитаемых требований управления в машиночитаемые элементы контроля, применимые для агентов-защитников.
- Контракты, которые устаревают при изменении контекста управления: поддержание соответствия средств контроля агентов по мере эволюции базовых политик, классификаций данных и других требований управления.
- Отсутствие единого кодекса поведения для всего парка агентов: структурирование минимального набора правил, применимого ко всем агентам, с последующим его расширением с помощью специализированных контрактов на основе функций, рисков или контекста работы.
- Статические правила не отражают намерения: Контракты агентов объединяют явные средства контроля с информацией об уровне намерений, предоставляя агентам-защитникам контекст для оценки того, остается ли поведение агента в рамках предназначенных для него границ.
- Разрозненные данные и управление агентами: связывание средств контроля агентов с используемыми ими данными, чтобы такие изменения, как новая классификация PII, могли отражаться на управлении агентами, имеющими доступ к этим данным.
Как работают Контракты агентов
Контракты агентов переводят требования управления и соответствующий контекст агента в машиночитаемые инструкции, определяющие порядок работы агентов. Контракт может фиксировать структурированные правила (например, какие данные или инструменты агент может использовать) наряду с информацией об уровне намерений, описывающей цель агента и ожидаемые рабочие границы. Это создает единый источник достоверных данных, который люди могут проверять, а механизмы выполнения — считывать и применять.
В контрактах используется многоуровневая модель для масштабирования в рамках парка агентов. Глобальный контракт устанавливает минимальный набор правил (общий кодекс поведения), который применяется ко всем агентам. Специализированные контракты расширяют эту базу для групп агентов на основе их функций, специализации, профиля риска или контекста работы. Это позволяет организациям применять единые общекорпоративные элементы контроля без создания и поддержания отдельного контракта для каждого агента.
Контракты агентов могут использовать контекст вокруг агента в Collibra, включая его вариант использования, модели, инструменты, данные, метаданные, политики, права владения и другую информацию об управлении. Связывание этих элементов помогает гарантировать, что правила, управляющие агентом, отражают то, для чего агент создан, и используемые им корпоративные ресурсы, а не применяют средства контроля изолированно.
Машиночитаемый Контракт агента объединяет явные правила, намерения и соответствующий контекст агента, чтобы определить, как должен работать агент.
Контракты агентов разработаны как открытый стандарт, не зависящий от конкретной среды выполнения, поэтому организации могут создать единую структуру контроля даже тогда, когда агенты работают на базе различных технологий. Во время выполнения агенты-защитники используют применимые контракты для надзора за поведением агентов. Разделение здесь простое: Контракты агентов определяют правила и целевые границы; агенты-защитники следят за соблюдением этих правил и границ во время выполнения.
Почему это стоит внедрить
Руководитель отдела управления ИИ
- Установите общий кодекс поведения для всего парка агентов вместо независимого определения управления для каждого агента.
- Расширяйте глобальные средства контроля специализированными требованиями, подходящими для различных функций и рисков.
- Создайте четкий источник достоверных данных о том, как должны работать различные категории агентов.
- Свяжите средства контроля агентов с более широким контекстом ИИ, данных, политик и управления, который уже обрабатывается через Collibra.
Директор по искусственному интеллекту / ИТ-директор / Технический директор
- Масштабируйте контроль по мере роста парка агентов без пропорционального увеличения трудозатрат на ручное управление.
- Применяйте единые корпоративные границы, позволяя разным командам создавать агентов для различных целей.
- Избегайте привязки вашей структуры контроля агентов к конкретной среде выполнения, облаку или ИИ-технологии.
- Установите более четкие рабочие границы до того, как агенты перейдут в продакшен.
Руководитель отдела управления рисками и соответствия требованиям
- Переводите корпоративные требования в явные средства контроля, применимые к агентам.
- Применяйте дополнительные требования там, где функции агента, доступ к данным или профиль риска требуют более строгого контроля.
- Сделайте предполагаемые границы поведения агента видимыми и доступными для проверки.
- Свяжите политики и требования соответствия с агентами, которые должны им следовать.
ML-инженер / ИИ-продюсер
- Понимайте правила и предполагаемый рабочий масштаб агента. Повторно используйте установленные корпоративные и специализированные средства контроля вместо того, чтобы независимо интерпретировать требования управления для каждого проекта.
- Создавайте решения с учетом более четких ожиданий в отношении доступа к данным, инструментов, действий и эскалации.
- Поймите, почему конкретные элементы управления применяются в зависимости от контекста и назначения агента.
Варианты использования
- Определение границ за пределами статических правил: агент клинических исследований в фармацевтической компании работает с результатами испытаний, данными о нежелательных явлениях и демографической информацией. Явные правила могут определять, к каким данным агент имеет доступ, но они не могут предвидеть каждую возможную комбинацию данных или запросов. Контракт агента (Agent Contract) может отражать как эти явные элементы управления, так и стоящую за ними цель — например, защиту конфиденциальности пациентов и удержание агента в рамках его утвержденного исследовательского назначения. Это обеспечивает более полное определение того, как агент должен функционировать, по сравнению с одними лишь статическими правилами.
- Сохранение связи элементов управления агента с меняющимся управлением данными: специалист по данным переклассифицирует столбец как конфиденциальную медицинскую информацию с ограниченным доступом (Restricted-PHI). Контракт агента связывает правила, регулирующие работу агента, с соответствующими классификациями данных и контекстом управления, помогая гарантировать, что агенты, использующие эти данные, по-прежнему подчиняются соответствующим требованиям по мере изменения исходного контекста данных. Это сокращает разрыв между управлением корпоративными данными и управлением агентами, которые их используют.
- Превращение корпоративных политик в правила, понятные агентам: команда по управлению рисками устанавливает требования к тому, как системы ИИ должны обрабатывать конфиденциальную информацию. Вместо того чтобы заставлять каждую команду разработчиков ИИ интерпретировать эти требования и вручную переводить их в специфичные для агента правила, контракты агентов предоставляют машиночитаемый способ выражения применимых средств контроля. Глобальные требования могут применяться ко всему парку агентов, в то время как специализированные контракты добавляют правила для агентов, работающих в более рискованных функциях или контекстах.
Основные выводы об Agent Contracts
Agent Contracts предоставляют организациям масштабируемый способ определить, что разрешено делать их ИИ-агентам. Объединяя глобальные и специализированные машиночитаемые элементы управления с контекстом, окружающим агентов, организации могут установить единообразные правила взаимодействия без необходимости управлять каждым агентом с нуля. Контракты агентов обеспечивают ценность в качестве единого источника достоверных данных о поведении агентов, а также создают основу, которую возможности среды выполнения, такие как Guardian Agents, могут использовать для контроля за агентами в рабочей среде.
Три вещи, которые нужно запомнить
- Установите кодекс поведения для своего парка агентов. Глобальные контракты определяют общие корпоративные границы, в то время как специализированные контракты адаптируют их к различным функциям, рискам и операционным контекстам.
- Объедините правила и контекст. Контракты агентов могут сочетать структурированные элементы управления и информацию на уровне намерений с соответствующим контекстом агента, сценария использования, модели, инструмента, данных и управления.
- Определите средства контроля независимо от среды выполнения. Открытый машиночитаемый подход помогает организациям поддерживать согласованные правила по мере распространения агентов в различных средах ИИ.
Agent Contracts будут доступны клиентам Collibra через AI Command Center к концу октября 2026 года.
- Шикар Вайш (Shikhar Vaish), старший менеджер по продукту, Collibra
Шикар Вайш
Шикар Вайш
Старший менеджер по продукту
Collibra
- Дэвид Талага (David Talaga), директор по продуктовому маркетингу, Collibra
Дэвид Талага
Дэвид Талага
Директор по продуктовому маркетингу
Collibra
- Майкл Маес (Michael Maes), старший менеджер по разработке ПО, Collibra
Майкл Маес
Майкл Маес
Старший менеджер по разработке ПО
Collibra
