Как управлять разрастанием агентов в корпоративной среде

Рост платформ корпоративных ИИ-агентов значительно упростил сотрудникам создание и развертывание агентов для поддержки своей работы.

Однако по мере того, как создание агентов становится все более децентрализованным, компании сталкиваются с новой проблемой управления: как отслеживать, какие агенты были созданы в организации. Без такой прозрачности командам бывает трудно находить и повторно использовать существующих агентов, а управление доступом к корпоративным данным и системам усложняется. Когда это распространение агентов становится слишком трудно контролировать, оно превращается в «разрастание агентов» (agent sprawl).

В этой статье мы объясним, почему распространение агентов не всегда является чем-то плохим, рассмотрим, как компании обычно справляются с их разрастанием, и предложим альтернативный подход, позволяющий конкурировать различным вариантам агентов.

Создавайте повторно используемых агентов и автоматизации и делитесь ими внутри компании с помощью North 2: нашей безопасной платформы агентного ИИ, которая работает там, где хранятся ваши данные.

Почему распространение агентов не обязательно является чем-то плохим

Те же инструменты, которые создают потенциал для разрастания агентов, также значительно упрощают экспериментирование. Сотрудникам больше не нужно полагаться исключительно на центральную команду ИИ или инженеров каждый раз, когда они находят задачу, для которой может быть полезен агент. Вместо этого они могут самостоятельно создавать и тестировать агентов, адаптированных к специфике работы, которую они пытаются оптимизировать.

Такой вид децентрализованного экспериментирования ценен. Во-первых, те, кто ближе всего к рабочему процессу, часто лучше понимают, как его можно оптимизировать с помощью агента. Во-вторых, когда полезными агентами можно делиться и использовать их повторно, решение, изначально разработанное для одной команды, может быть принято другими командами, сталкивающимися с аналогичной проблемой. Таким образом, на уровне организации распространение может быть признаком того, что сотрудники активно тестируют новые идеи и находят полезные способы применения агентов.

Это поднимает вопрос о том, всегда ли увеличение числа агентов создает дополнительные накладные расходы. В конце концов, большее количество агентов не обязательно означает более высокие затраты на инференс — агент, который не используется, не потребляет токены просто из-за своего существования. Напротив, бремя управления появляется тогда, когда процесс управления агентами не успевает за их растущим числом. Именно тогда распространение агентов лучше описывать как «разрастание агентов».

Распространение может быть признаком того, что сотрудники активно тестируют новые идеи и находят полезные способы применения агентов.

Как компании в настоящее время управляют разрастанием агентов

Сегодня компании обычно управляют растущим парком агентов одним из следующих способов:

• Централизованная доставка: центральная команда ИИ или инженеров создает и контролирует агентов для всей остальной организации. Это обеспечивает более жесткий контроль, но может ограничить темпы инноваций.
• Федеративная доставка: бизнес-подразделения или отдельные команды отвечают за разработку и эксплуатацию агентов, в то время как центральные службы предоставляют общую инфраструктуру, стандарты и модели управления.
• Гибридная доставка: центральные и бизнес-команды разделяют ответственность за создание и эксплуатацию агентов в рамках общих стандартов и моделей управления.

В рамках этих операционных моделей компании все чаще используют реестры агентов для поддержания общего представления о своем парке агентов. Реестр помогает организации отслеживать владение агентами, их использование и права доступа, а также помогает сотрудникам находить уже существующих агентов. Такая настройка подкрепляет общее стремление избегать дублирования. Команды должны по умолчанию стремиться к повторному использованию существующих решений, прежде чем создавать что-то новое.

Конечно, существуют веские причины для ограничения ненужного дублирования. Это очевидный способ уменьшить разрастание: у сотрудников меньше пересекающихся вариантов для выбора, а у компании меньше агентов для мониторинга и управления.

Но отношение к дублированию как к чему-то, чего следует избегать в любом случае, также может подавлять инновации. Если само существование работоспособного агента означает, что альтернативы не должны создаваться, организации упускают возможность найти решения, которые могут быть дешевле, надежнее или лучше подходить для конкретной задачи.

Отношение к дублированию как к чему-то, чего следует избегать в любом случае, может подавлять инновации.

Альтернативный подход: позволить вариантам агентов конкурировать

Как компании могут освободить место для полезного дублирования, не допуская его превращения в разрастание агентов?

Один из способов — рассматривать дублирование как временное, а не постоянное явление. Если у команды есть веская причина полагать, что она может улучшить «существующего» агента, ей следует разрешить создать «конкурирующий» вариант. Однако дальнейшее использование конкурента должно зависеть от того, демонстрирует ли он значимое преимущество перед существующим решением.

Эта конкурентная модель требует ограниченного по времени сравнения существующего агента и конкурента на основе фактических данных. Конкретные метрики будут зависеть от варианта использования, но могут включать такие показатели, как надежность, использование токенов, задержка (latency), а также эффективность выполнения задач.

Как только собрано достаточно доказательств для значимого сравнения, организация может решить, должен ли конкурент заменить существующего агента или быть выведен из эксплуатации. Если конкурент оказывается более подходящим для части рабочей нагрузки существующего агента, оба агента могут остаться в качестве отдельных альтернатив.

Например, рассмотрим отдел коммерческого кредитования банка, где центральная команда создала финансового агента, который составляет проекты кредитных меморандумов для менеджеров по работе с клиентами. Команда кредитования, занимающаяся рутинными ежегодными проверками, считает, что может сделать это лучше, поэтому создает конкурента, предназначенного для того же круга задач, используя меньшую, более дешевую модель и дополнительный шаг, который перепроверяет финансовые показатели по подтверждающим документам.

В течение 30 дней оба агента составляют проекты меморандумов для репрезентативного набора случаев, от рутинных ежегодных проверок до более сложных случаев финансирования. Банк сравнивает их по четырем показателям: сколько цифр правильно отслеживается до исходных документов, насколько сильно кредитные офицеры редактируют каждый проект, стоимость токенов на меморандум и время до получения первого проекта.

Если конкурент обеспечивает сопоставимое качество при выполнении различных типов работ со значительно меньшими затратами, он заменяет существующего агента. Если он не справляется с задачей, не предлагая никаких значимых преимуществ, он выводится из эксплуатации. А если он выигрывает в рутинных ежегодных проверках, но испытывает трудности со сложными новыми сделками, оба агента остаются — каждый закрепляется за той работой, с которой справляется лучше всего.

Таким образом, необходимо допускать некоторое дублирование, чтобы этот подход работал, но только в той мере, в какой это дублирование создает полезную конкуренцию. Как только тестирование показывает, что один конкурирующий агент не имеет преимуществ перед другим, нет причин для сохранения обоих.

Заключительные мысли

Избегание разрастания агентов не требует полного устранения дублирования.

Некоторое дублирование — или вариативность — необходимо, если компании хотят сравнивать конкурирующие подходы.

Ключ к успеху — сочетать вариативность с давлением отбора. Делая создание агентов простым, но ставя их дальнейшее существование в зависимость от результатов, компании могут сохранить преимущества непрерывного экспериментирования, не скатываясь к разрастанию.