ИИ-агенты ставят перед нами новые задачи по управлению и контролю. Они не просто генерируют результаты: они могут получать доступ к корпоративным данным, использовать инструменты, взаимодействовать с системами и действовать автономно. При этом у каждого агента может быть своя цель, профиль риска, набор разрешений и рабочая среда. Поскольку организации переходят от единичных экспериментальных агентов к сотням и тысячам таких систем в продакшене, определение элементов контроля для каждого агента по отдельности перестанет быть эффективным. Предприятиям нужны четкие, применимые повторно правила взаимодействия, способные управлять целым парком агентов. Именно эту проблему призваны решить Контракты агентов.
Что нового: Контракты агентов
Контракты агентов предоставляют масштабируемый способ определения того, что от ИИ-агентов ожидается и что им разрешено делать. Они переводят требования управления в машинно-читаемые элементы контроля, которые можно последовательно применять ко всему парку агентов.
Вместо создания и поддержания отдельного набора правил для каждого агента организации могут создать иерархию элементов контроля многократного использования. Глобальные контракты определяют базовые правила, применимые ко всем агентам, в то время как специализированные контракты добавляют требования для групп агентов на основе таких факторов, как функция, специализация, классификация рисков или рабочий контекст.
Эта многоуровневая модель обеспечивает организациям надежную единую корпоративную основу, адаптируя при этом средства контроля под различные роли и риски агентов. По мере появления новых типов агентов система управления сможет беспрепятственно масштабироваться вместе с ними.
Созданные как открытый стандарт, Контракты агентов также спроектированы независимыми от конкретной среды выполнения, что обеспечивает единую структуру контроля для гетерогенного парка агентов.
Как помогают Контракты агентов
Корпоративные политики обычно существуют для интерпретации людьми — через положения по управлению, документы по соблюдению требований, классификации данных и другие источники. Однако агентам нужны явные правила, отражающие их действия, используемые инструменты и данные, а также создаваемые ими риски. Ручной перевод этих требований в индивидуальные элементы управления для каждого агента быстро становится невозможным. Контракты агентов устраняют этот разрыв, превращая корпоративные требования и соответствующий контекст агента в структуру контроля многократного использования. Глобальные контракты устанавливают общие границы, а специализированные контракты адаптируют эти требования для различных категорий агентов, помогая масштабировать систему управления без необходимости рассматривать каждого нового агента как отдельный проект политики.
Контракты агентов превращают имеющийся контекст управления в машиночитаемые правила, которые могут считываться и применяться во время выполнения.
Проблемы, которые решают Контракты агентов
- Политики, которые агенты не могут применять на практике: перевод человекочитаемых требований управления в машиночитаемые элементы контроля, которые агенты-хранители могут претворять в жизнь.
- Контракты, устаревающие при изменении контекста управления: поддержание соответствия средств контроля агентов по мере эволюции базовых политик, классификаций данных и других требований управления.
- Отсутствие единого кодекса поведения для всего парка агентов: структурирование минимального набора правил, применимых ко всем агентам, с последующим его расширением за счет специализированных контрактов в зависимости от функции, риска или рабочего контекста.
- Статические правила не отражают намерения: Контракты агентов объединяют явные средства контроля с информацией на уровне намерений, предоставляя Агентам-хранителям контекст для оценки того, остается ли поведение агента в рамках предназначенных для него границ.
- Разрозненные данные и управление агентами: объединение средств контроля агентов с используемыми ими данными, чтобы такие изменения, как новая классификация PII, могли учитываться в управлении агентами, имеющими доступ к этим данным.
Как работают Контракты агентов
Контракты агентов переводят требования управления и соответствующий контекст агента в машиночитаемые инструкции, определяющие порядок работы агентов. Контракт может содержать структурированные правила (например, к каким данным или инструментам агент может получить доступ) наряду с информацией на уровне намерений, описывающей цель агента и ожидаемые рабочие границы. Это создает единый источник достоверных данных, который могут просматривать люди, а средства контроля времени выполнения могут считывать и применять.
В контрактах используется многоуровневая модель для масштабирования в рамках парка агентов. Глобальный контракт устанавливает минимальный набор правил — общий кодекс поведения, — применимый ко всем агентам. Специализированные контракты расширяют эту базу для групп агентов в зависимости от их функций, специализации, профиля риска или рабочего контекста. Это позволяет организациям применять последовательные общекорпоративные элементы контроля без создания и поддержания отдельного контракта для каждого агента.
Контракты агентов могут опираться на контекст, связанный с агентом в Collibra, включая его вариант использования, модели, инструменты, данные, метаданные, политики, права владения и другую информацию об управлении. Соединение этих элементов помогает гарантировать, что правила, управляющие агентом, отражают его назначение и ресурсы предприятия, с которыми он взаимодействует, вместо применения средств контроля изолированно.
Машинно-читаемый Контракт агента объединяет явные правила, намерения и соответствующий контекст агента для определения принципов его работы.
Контракты агентов разработаны как открытый стандарт, не зависящий от конкретной среды выполнения, поэтому организации могут создать согласованную структуру контроля даже тогда, когда агенты работают на базе различных технологий. Во время выполнения Агенты-хранители используют применимые контракты для надзора за поведением агентов. Разделение здесь простое: Контракты агентов определяют правила и предполагаемые границы, а Агенты-хранители следят за соблюдением этих правил и границ во время выполнения.
Почему это заслуживает вашего внимания
Руководитель отдела управления ИИ
- Установите общий кодекс поведения для всего парка агентов вместо определения принципов управления отдельно для каждого агента.
- Расширяйте глобальные средства контроля с помощью специализированных требований, соответствующих различным функциям и рискам.
- Создайте явный источник достоверных данных о том, как должны функционировать различные категории агентов.
- Свяжите средства контроля агентов с более широким контекстом ИИ, данных, политик и управления, который уже поддерживается в Collibra.
CAIO / CIO / CTO
- Масштабируйте контроль по мере роста парка агентов без пропорционального увеличения трудозатрат на ручное управление.
- Применяйте единые корпоративные границы, позволяя разным командам создавать агентов для различных целей.
- Избегайте привязки вашей структуры контроля агентов к конкретной среде выполнения, облаку или технологии ИИ.
- Установите более четкие рабочие границы до того, как агенты будут переведены в продакшен.
Руководитель отдела рисков и соблюдения нормативных требований
- Переводите корпоративные требования в явные средства контроля, применимые к агентам.
- Применяйте дополнительные требования там, где функции агента, доступ к данным или профиль риска требуют более строгого контроля.
- Сделайте предполагаемые границы поведения агента видимыми и доступными для проверки.
- Свяжите политики и требования соответствия с агентами, которые должны их соблюдать.
Инженер по машинному обучению / Разработчик ИИ
- Понимайте правила и предполагаемую рабочую область агента. Используйте повторно уже существующие корпоративные и специализированные элементы контроля вместо самостоятельной интерпретации требований управления для каждого проекта.
- Создавайте решения с учетом более четких ожиданий в отношении доступа к данным, инструментов, действий и эскалации.
- Поймите, почему применяются конкретные меры контроля, исходя из контекста и назначения агента.
Сценарии использования
- Определение границ за рамками статических правил: Агент для клинических исследований в фармацевтической компании работает с результатами испытаний, данными о нежелательных явлениях и демографической информацией. Явные правила могут определять, к каким данным агент имеет доступ, но они не могут предвидеть каждую возможную комбинацию данных или запросов. Agent Contract может фиксировать как эти явные меры контроля, так и стоящие за ними намерения — например, защиту конфиденциальности пациентов и удержание агента в рамках утвержденных целей исследования. Это обеспечивает более полное определение того, как должен работать агент, по сравнению с одними лишь статическими правилами.
- Сохранение связи между контролем агентов и меняющимся управлением данными: Специалист по управлению данными (data steward) переклассифицирует столбец как Restricted-PHI. Agent Contract связывает правила, управляющие агентом, с соответствующими классификациями данных и контекстом управления (governance), помогая гарантировать, что агенты, использующие эти данные, подчиняются надлежащим требованиям по мере изменения контекста исходных данных. Это устраняет разрыв между управлением корпоративными данными и управлением агентами, которые их используют.
- Превращение корпоративных политик в правила, понятные агентам: Команда по управлению рисками устанавливает требования к тому, как системы ИИ должны обрабатывать конфиденциальную информацию. Вместо того чтобы требовать от каждой команды ИИ интерпретировать эти требования и вручную переводить их в правила для конкретных агентов, Agent Contracts предоставляют машиночитаемый способ выражения применимых мер контроля. Глобальные требования могут применяться ко всему парку агентов, в то время как специализированные контракты добавляют правила для агентов, работающих в функциях или контекстах с более высоким уровнем риска.
Ключевые выводы об Agent Contracts
Agent Contracts дают организациям масштабируемый способ определять, что разрешено делать их ИИ-агентам. Объединяя глобальные и специализированные машиночитаемые меры контроля с контекстом, окружающим агентов, организации могут устанавливать согласованные правила взаимодействия, не управляя каждым агентом с нуля. Agent Contracts представляют ценность как единый источник истины для поведения агентов, а также создают основу, которую функции среды выполнения, такие как Guardian Agents, могут использовать для надзора за агентами в рабочей среде.
Три вещи, о которых стоит помнить
- Установите кодекс поведения для вашего парка агентов. Глобальные контракты определяют общие границы предприятия, а специализированные контракты адаптируют их к различным функциям, рискам и операционным контекстам.
- Объединяйте правила и контекст. Agent Contracts могут сочетать структурированные меры контроля и информацию на уровне намерений с соответствующим контекстом агента, сценария использования, модели, инструмента, данных и управления.
- Определяйте меры контроля независимо от среды выполнения. Открытый машиночитаемый подход помогает организациям поддерживать согласованные правила по мере распространения агентов в различных средах ИИ.
Agent Contracts будут доступны клиентам Collibra через AI Command Center к концу октября 2026 года.
- Шикхар ВайшШикхар ВайшСтарший менеджер по продуктуCollibra
Шикхар Вайш
Шикхар Вайш
Старший менеджер по продукту
Collibra
- Дэвид ТалагаДэвид ТалагаДиректор по продуктовому маркетингуCollibra
Дэвид Талага
Дэвид Талага
Директор по продуктовому маркетингу
Collibra
- Майкл МаесМайкл МаесСтарший менеджер по разработке ПОCollibra
Майкл Маес
Майкл Маес
Старший менеджер по разработке ПО
Collibra
