Агентное управление — это грань между агентами в продакшене и агентами, застрявшими в вечном пилотном режиме. Но истинное препятствие для агентского корпоративного ИИ заключается вовсе не в технологиях, бюджетах или организационных директивах. Всё упирается в гораздо более простой и сложный вопрос: как всем этим управлять?
Любой крупный поставщик платформ заявит, что они уже решили эту проблему. Для ИТ-директора, решающего, стоит ли доверять кому-то из них, вопрос заключается не в том, работает ли управление поставщика, а в том, останется ли оно под вашим контролем тогда, когда это будет нужнее всего.
Шесть приведенных ниже вопросов основаны на том, что реально ломается, когда система управления поставщика ограничивается пределами его собственной платформы.
Они продают управление, а вы покупаете привязку
Каждый крупный поставщик платформ предложит управлять вашими агентами. Читайте предложение внимательно. Они будут управлять своими агентами в своем закрытом саду, используя политики, живущие в их консоли, и доказательства, которые остаются в их облаке.
Оказывается, предоставляемое поставщиком управление реально, но лишь до ограды этого сада. Сделайте шаг за ее пределы — к другой структуре, которую уже используют ваши команды, к другому облаку, доставшемуся вам после приобретения, к лучшей модели, которая выйдет в следующем квартале, — и управление исчезнет.
Управление, которое нельзя забрать с собой, — это привязка, маскирующаяся под соответствие требованиям, и она превращает ваш уровень контроля в стратегию удержания клиентов для поставщика.
Переносимое управление — это главная цель открытых стандартов
Открытые стандарты делают возможной свободу от огороженных садов. MCP для инструментов, OAuth для идентификации, A2A для трафика агентов, OpenTelemetry для аудита. Создание управления на базе открытых стандартов позволяет единому слою охватывать каждого вашего агента независимо от того, кто его создал, где он находится и какую модель, фреймворк или облако вы используете.
Переносимость также меняет подход к внедрению агентов.
Вам не обязательно идти ва-банк с первого дня. Уровень контроля управляет двумя агентами, которые у вас есть сейчас, и 20 000 агентов, которые появятся позже, причем каждый дополнительный агент наследует те же элементы управления. И это сохраняет самую важную свободу из всех: вы можете уйти. Если вы переходите на другое решение, ваши политики и данные аудита путешествуют вместе с вами.
Слой управления, от которого можно отказаться, — это единственный слой, которому можно доверять: доверие строится на структуре, а не на обещаниях. Это справедливо и в отношении поставщиков.
Шесть вопросов для любого поставщика, который заявляет «мы занимаемся управлением»
- Осуществляется ли управление агентами, созданными на других платформах, или только вашими?
- Должны ли мы выносить наши данные за пределы частных сетей для управления ими?
- Перемещаются ли политики между облаками и фреймворками или они привязаны к вашей экосистеме?
- Является ли обеспечение соблюдения политик независимым (out-of-band) или оно зависит от кооперации со стороны агента?
- Что произойдет с нашим управлением, если мы уйдем?
- Сможем ли мы забрать с собой собранные данные аудита?
Поставщик, которого раздражают эти вопросы, только что на них ответил.
Вопрос 4 — это то, с чем поставщики чаще всего лукавят. Вот как «зависимость от кооперации со стороны агента» выглядит на практике. Поставщики обычно пытаются использовать одно из трех решений, и все три имеют один и тот же недостаток: они находятся внутри собственного канала агента.
- Уровень идентификации звучит неплохо, но учетные данные описывают лишь то, к чему пользователь имеет доступ, а не то, что требуется для выполнения задачи. В день, когда агент запутается или будет скомпрометирован, всё, до чего он может дотянуться, окажется в зоне поражения.
- Правила, записанные в промпт, находятся в том же поле, что и каждый документ или электронное письмо, прочитанное агентом, включая те, которые написал злоумышленник. Политика, которую агент может прочитать, — это всего лишь рекомендация.
- Модель защитных барьеров (guardrails), проверяющая входящие и исходящие данные, по-прежнему остается всего лишь еще одной моделью: недетерминированной, подверженной инъекциям и представляющей собой еще одного агента, которого злоумышленник может обмануть.
Каждое решение дает сбой в одном и том же месте: идентификация, правила промптов и модели защитных барьеров зависят от того, что агент читает или о чем сообщает. Именно это проверяет независимый контроль (out-of-band).
На что обратить внимание в платформе агентного управления
Шесть приведенных выше вопросов подсказывают, о чем спросить поставщика. Шесть компонентов ниже показывают, что именно нужно проверить, когда они ответят.
- Каждый вызов инструментов и данных проходит через шлюз, который ограничивает область видимости, маскирует конфиденциальные данные и выполняет фильтрацию.
- Каждый вызов модели проходит через шлюз с привязкой идентификатора и бюджета для каждого конкретного агента.
- Политика и контроль существуют независимо (out-of-band), где ни один агент не может до них добраться.
- Действия, имеющие серьезные последствия, ожидают подтверждения человека.
- Каждое действие попадает в неизменяемую среду хранения доказательств.
- Единое представление о затратах, управлении, производительности и инцидентах для всего парка агентов.
Если платформа не выполняет все шесть условий, ей нельзя доверять данные для продакшна. Платформа, которая успешно проходит все шесть вопросов и включает все шесть компонентов, — это решение, на базе которого ваши агенты смогут масштабироваться. Платформа, которая этому не соответствует, — это то, из чего вы вырастете, и на собственном горьком опыте узнаете, во сколько обходится привязка к поставщику.
Если вам нужен удобный чек-лист, суммирующий всё вышесказанное, скачайте бесплатную памятку ниже.
{{featured-resource}}
Задайте вопросы, а затем проверьте компоненты
Поставщик может отлично ответить на все шесть вопросов во время звонка по продажам. Шесть компонентов — это способ убедиться, что ответы остаются актуальными после подписания контракта. Если платформа проходит вопросы, но в ней отсутствует хотя бы один компонент, протестируйте ее на прочность: брешь обычно кроется именно там, где незаметно возвращается «зависимость от кооперации со стороны агента».
Компании, которые делают всё правильно, получают агентов, которых действительно можно масштабировать, потому что управление путешествует с каждым новым агентом, каждой новой моделью и каждым новым добавляемым облаком. Те, кто этого не делает, на собственном горьком опыте узнают, во сколько обходится привязка к поставщику, обычно в самый неподходящий момент: в разгар миграции, аудита или инцидента.
Хотите получить полный разбор того, что должен делать уровень управления и за что отвечает каждый руководитель высшего звена при его создании? Загрузите руководство Redpanda по управлению агентским ИИ.
