Практическое руководство по вопросам идентификации, затрат, доступа и аудита, которые определяют, выйдут ли ваши агенты в продакшен.
Ваша демоверсия AI-агента работает. Теперь у вашей службы безопасности, финансового отдела и директора по информационным технологиям (CIO) возникают вопросы:
- Кому разрешено вызывать те или иные функции?
- Чью учетную запись использует агент?
- Кто за это платит?
- Что происходит при сбое системы контроля?
Именно эти вопросы, а не сама модель, часто решают, будет ли запущен проект агента. В этой статье описываются шесть областей, которые нужно взять под контроль до того, как ваши агенты масштабируются. В ней также приводится контрольный список для запуска, который вы можете использовать в текущем квартале.
Демоверсия — это самая легкая часть
Представьте агента, который ищет информацию о клиентах и полисах и помогает коллеге подготовиться к встрече. Он объединяет несколько вызовов инструментов и возвращает четкие ответы. Выглядит готовым.
Затем возникают три вопроса:
- К каким системам он обращается и кто ими владеет?
- С чьими правами он выполняется?
- Если что-то пойдет не так, кто сможет увидеть его действия и кто сможет его остановить?
На эти вопросы нельзя ответить на основе демоверсии. Сама модель — это лишь один из компонентов. Окружающая ее среда определяет, будет ли запущен ваш проект.
Эта проблема постоянно повторяется
Команды часто упираются в одну и ту же стену. Им нужен доступ к модели, а утвержденный маршрут еще не готов. Поэтому кто-то настраивает временное исключение и обращается к провайдеру напрямую. Учитывая приближающийся дедлайн, это разумный выбор. Затем это исключение остается навсегда.
Теперь этот обходной путь оказывается вне ваших отчетов о затратах и логов. Обычно он всплывает месяцы спустя, когда служба безопасности запрашивает аудиторский след, а предоставить его некому.
За этим следуют две связанные проблемы. Во-первых, учетные данные попадают прямо в код, потому что для них не нашлось лучшего места. Согласно отчету GitGuardian, в 2025 году в публичных коммитах на GitHub было обнаружено 28,65 миллиона новых жестко зашифрованных секретов, что на 34% больше, чем годом ранее.
Во-вторых, расходы на ИИ попадают в общий пул, который невозможно разделить по командам, пользователям или агентам.
Ваши команды не проявляют беспечности. Они просто движутся быстро, в то время как общие средства контроля отстают. Решение заключается в том, чтобы сделать управляемый путь самым простым путем.
Почему повторное использование лучше создания с нуля
Вы уже решали похожую проблему ранее в контексте управления API. Урок заключается в том, чтобы использовать то, что уже работает: тот же провайдер идентификации, те же политики там, где они подходят, и единую точку прохождения трафика.
Отдельный набор элементов управления, созданный только для агентов, лишь воссоздаст тот хаос, на устранение которого вы потратили годы. Не создавайте параллельный мир для агентов. Расширьте тот, которому вы уже доверяете.
Однако агенты добавляют одно новое требование. Агент самостоятельно принимает решение о следующем шаге, в то время как обычный API-клиент делает то, что написано в его коде. Это означает, что вам необходимо видеть точные действия агента. Вам также нужна возможность быстро его остановить.
Шесть аспектов, требующих управления
Схема шлюза MuleSoft Omni Gateway, применяющего шесть элементов управления к трафику агента: идентификация, модели, затраты, инструменты, безопасность и аудит
1. Идентичность и делегирование полномочий агента
Используйте уже имеющийся у вас провайдер идентификации. Когда агент действует от имени человека, он должен обладать правами этого человека.
Общие учетные данные сервиса затрудняют определение того, кто и что сделал впоследствии. Это также может предоставить агенту гораздо больше прав доступа, чем есть у любого отдельного сотрудника.
Быстрая проверка: выберите действие, которое агент выполнил на прошлой неделе. Можете ли вы назвать имя человека, от чьего имени он действовал? Если нет, у вас есть пробел в защите.
2. Доступ к моделям
Предоставьте вашим командам единый контролируемый путь к любой модели через AI-шлюз. При наличии единой управляемой точки входа новая модель или провайдер не требуют новых учетных данных или набора логов.
Настройте резервную маршрутизацию на вторую модель или к другому провайдеру и протестируйте ее до того, как она вам понадобится. Если часть трафика может обходить этот путь, ваша политика — всего лишь рекомендация.
Готовый управляемый маршрут также снижает барьеры. Когда он доступен до наступления дедлайна, никому не нужны временные исключения.
3. Контроль затрат на ИИ
Отслеживайте расходы по командам, пользователям и агентам. Устанавливайте лимиты, которые остановят вышедший из-под контроля цикл до выставления счета.
Агенты способны зацикливаться. Ошибка или неудачный промпт могут превратить небольшую задачу в гораздо большее количество вызовов, чем вы ожидали. Лимиты защищают ваш бюджет и системы.
Внедряйте контроль затрат на ранних этапах. Добавить его после запуска гораздо сложнее, и финансовый отдел обязательно об этом спросит.
4. Доступ к инструментам
Агенты полезны лишь настолько, насколько доступны окружающие их системы. Предоставьте уже имеющиеся у вас API в качестве управляемых инструментов. Сохраните их аутентификацию и права доступа, не пересоздавая их заново для агентов.
Перед масштабированием убедитесь, что необходимые вашим агентам API пригодны для повторного использования. Каждый из них должен быть документирован, иметь владельца и не зависеть от единственного человека, который знает, как он работает. У команд, чьи API задокументированы и имеют владельцев, остается меньше подготовительной работы до того, как агенты смогут их использовать. Цифры наглядно показывают возможности. Исследование MuleSoft показало, что в среднем 50% внутренних программных активов доступны для повторного использования.
5. Безопасность и изоляция
Конфиденциальные данные могут покинуть систему в составе промпта или вернуться в ответе. Установите средства защиты в обоих направлениях.
Убедитесь, что кто-то может остановить отдельный запрос, сеанс или целого агента. Заранее определите, у кого есть полномочия принимать такое решение.
Затем решите, что происходит при сбое самой системы контроля. Предположим, вы пропускаете каждый запрос через внешнюю проверку авторизации. Что должен сделать агент, если эта проверка недоступна? Заблокировать все или пропустить запросы?
Универсального ответа не существует. Платежная система может завершить работу с блокировкой при сбое, что означает отклонение запросов. Внутренний помощник может какое-то время работать без блокировки при сбое, пропуская их. Важно то, чтобы кто-то осознанно сделал этот выбор до запуска в продакшен, а не во время аварии.
6. Обнаружение и аудиторский след
Агенты будут появляться на платформах, которые вы не планировали. Вам нужен способ отслеживать то, что работает по всей компании.
Ваши логи также должны быть достаточно качественными для восстановления картины инцидента. Надежный аудиторский след отвечает на четыре вопроса:
- Какой агент совершил действие?
- В чьих интересах?
- В каких системах?
- С каким результатом?
Если ваши логи дают ответы на все четыре вопроса, проверки безопасности становятся значительно проще.
Ответ на возражение о затратах
Добавление управляемого уровня звучит как еще одна статья расходов и забот. Это опасение вполне обоснованно.
Теперь сравните альтернативы. Без общего слоя каждая команда может создавать собственную маршрутизацию, обработку ключей, логирование и учет затрат. Общие расходы в итоге могут оказаться выше. Поскольку они распределены между командами, никто не видит полной картины расходов.
Составьте контрольный список для запуска
Простой контрольный список для запуска — один из ваших самых полезных инструментов. Он определяет, что именно означает «готовность». Он также позволяет привлечь службу безопасности на раннем этапе, чтобы их требования формировали архитектуру. Это вызывает больше доверия, чем очередная схема архитектуры.
Начните с этой версии:
- Каждый вызов модели проходит через утвержденный путь
- Каждое действие агента соотносится с конкретным пользователем или владельцем
- Лимиты расходов установлены для каждой команды и каждого агента
- Назначенное лицо может остановить агента, и оно осведомлено об этом
- Ваша команда определила поведение элементов управления при сбоях
- Логи позволяют ответить на четыре указанных выше вопроса аудита
Также убедитесь, что вы можете добавлять собственные правила в точках прохождения трафика, такие как инспекция, маскирование данных или ограничение частоты запросов. Встроенные политики покрывают большинство потребностей. Обычно находится хотя бы одно требование, которое они не учитывают, и лучше обнаружить его до запуска.
Куда движется управление AI-агентами
Управление должно следовать по всей цепочке, а не только за запросом. Когда агенты вызывают других агентов, каждый переход должен содержать исходную идентификацию и права пользователя. Ваш след аудита должен связывать весь путь делегирования. Без этого вы видите каждый шаг, но не общую картину. Открытые стандарты, такие как Agent2Agent (A2A) protocol, уже описывают, как агенты делегируют задачи друг другу.
Наблюдаемость также должна выйти за рамки вопроса «работает ли это?» и отвечать на вопрос «что сделал агент и было ли это правильно?». Команды, которые сейчас ведут качественное логирование, окажутся в выигрыше, когда этот вопрос станет принципиальным.
С чего начать
Начните с основ. Если в этом квартале у вас есть время только на три пункта из контрольного списка, выберите следующие:
- Направьте каждый вызов модели через единый управляемый шлюз
- Свяжите каждое действие агента с конкретным человеком или владельцем
- Заранее определите, как ваши элементы контроля будут вести себя при сбое
Затем выберите одного агента, который уже работает в вашей компании. Попробуйте ответить на четыре вопроса аудита, касающиеся его. Обнаруженные пробелы укажут вам дальнейшее направление.
Посмотрите, как эти элементы контроля работают на практике в системе управления MuleSoft Omni Gateway, и попробуйте Agent Fabric в деле.












