Пусть каждый AI-кредит приносит пользу: отслеживайте, ограничивайте и сокращайте расходы на агентов

Источник: GitLab•

Пусть каждый AI-кредит приносит пользу: отслеживайте, ограничивайте и сокращайте расходы на агентов

Расходы на разработку с использованием агентов растут с каждой задачей. Выбирайте подходящую модель, сокращайте количество повторных попыток агентов с помощью GitLab Orbit и контролируйте затраты с помощью аналитики в реальном времени.

Расходы растут с каждой задачей, которую вы поручаете агенту. Каждая задача потребляет токены и кредиты, и по мере распространения агентов по вашим командам и автоматизациям потребление может расти быстрее, чем реальное использование. Если вы управляете платформой, вы несете ответственность за этот рост, включая то, какие команды и рабочие процессы его провоцируют и приносит ли это использование реальные результаты.

На GitLab Transcend мы представили концепцию управляемой фабрики программного обеспечения (governed software factory) — нашу архитектуру для агентной разработки ПО, а также новые возможности в GitLab Duo Agent Platform, которые позволяют взять этот рост под контроль. Управляемые GitLab модели с открытыми весами (open-weight models) в бенчмарках GitLab показали результаты выполнения задач на уровне передовых моделей при значительно меньших затратах, что позволяет вам подбирать модель под конкретную задачу для повышения экономической эффективности вашей команды. GitLab Orbit предоставляет агентам контекст жизненного цикла, чтобы они реже прибегали к повторным попыткам. Duo Agent Platform Impact Analytics и лимиты кредитов показывают, куда расходуются средства, и позволяют установить для них ограничения.

Контроль расходов в управляемой фабрике программного обеспечения

Общий показатель использования говорит вам о том, сколько было потреблено, но оставляет без ответа сложные вопросы: сколько рутинной работы выполнялось на дорогостоящей модели, сколько запусков агентов были бесполезными повторными попытками и какие пользователи и команды израсходовали кредиты. Когда на панели мониторинга отображаются только токены, руководители платформ и инженерных отделов в конечном итоге спорят о цифрах, которые ни одна из сторон не может обосновать. Если вы не можете атрибутировать использование, установить лимит и сократить потери, вы не сможете оптимизировать или обосновать свои расходы.

Разрыв этого шаблона начинается с архитектуры. Управляемая фабрика программного обеспечения построена по уровням, и расходы растут там, где эти уровни не связаны между собой. Два из этих уровней наиболее важны для затрат. Первый — это оркестрация агентов, где модели с открытыми весами позволяют переложить рутинную работу на менее дорогие модели. Второй — это данные и контекст, где Orbit, Duo Agent Platform Impact Analytics, а также средства контроля кредитов и использования дают людям и агентам контекст для получения высококачественных результатов с минимально возможными затратами.

Вы можете увидеть проблему в «теневой» фабрике программного обеспечения, где каждый этап имеет свой собственный инструмент без общей политики или контекста между ними. Агенты тратят токены на поиск контекста в системах, которые никогда не были созданы для интеграции. Управляемая фабрика программного обеспечения предоставляет агентам общий контекст, общую политику и единое место для измерения их стоимости. Когда каждый AI-кредит на счету, вы можете:

  • Тратить меньше кредитов на ту же работу: подбирайте модели под текущую задачу с помощью моделей с открытыми весами и обеспечивайте агентов контекстом жизненного цикла с помощью GitLab Orbit, чтобы они реже выполняли повторные попытки.
  • Отслеживать расходы до источника: просматривайте кредиты по пользователям, командам, задачам и моделям в Duo Agent Platform Impact Analytics и на панели мониторинга GitLab Credits, чтобы точно знать, что стало причиной роста.
  • Установить потолок до следующего скачка: ограничивайте использование на одного пользователя с помощью кредитных лимитов с возможностью переопределения при необходимости, чтобы циклы работы агентов оставались в рамках установленных вами ограничений.

Соответствие модели задаче

Стоимость агента начинается с цены каждого вызова модели. GitLab Duo Agent Platform позволяет закрепить модель по умолчанию для каждой функции и контролировать то, что могут использовать ваши команды: вашу собственную модель (самостоятельно размещенную или от вашего провайдера), передовые модели под управлением GitLab или модели с открытыми весами под управлением GitLab, появившиеся в GitLab 19.4.

В GitLab Duo Agent Platform теперь размещены три модели с открытыми весами: GLM 5.3, Kimi K3 и MiniMax M3. Согласно внутреннему бенчмарку GitLab с агентами Duo, модель GLM 5.3 выполнила задачи на уровне Claude Opus 5 при стоимости примерно в пять раз ниже, Kimi K3 соответствовала Claude Fable 5.1 при стоимости в три раза ниже, а MiniMax M3 соответствовала GPT-5.5 при стоимости в восемь раз ниже. Выбор модели — это настройка администратора. В настройках GitLab Duo вашей группы верхнего уровня откройте «Выбор модели» (Model Selection), выберите «Управление моделями» (Manage Models) и закрепите модель за каждой функцией. Например, закрепите Kimi K3 за Agentic Chat, а MiniMax M3 — за агентами и потоками, чтобы рутинная работа не выполнялась по умолчанию на передовой модели. Владельцы групп также выбирают, какие модели могут использовать их команды.

Сокращение повторных попыток с помощью правильного контекста

Выбор модели определяет цену каждого вызова, а повторные попытки увеличивают количество вызовов. Gartner Исследование показало, что команда из 40 разработчиков тратила на ИИ в 23 раза больше, потому что агенты постоянно повторяли попытки из-за отсутствия правильных правил и контекста. Агенты повторяют попытки, когда им не хватает контекста. В монорепозитории или нескольких репозиториях агент тратит первое время на сканирование файлов, чтобы понять связи между ними, и каждая повторная попытка приводит к повторной отправке полного контекстного окна.

GitLab Orbit отображает ваш код, рабочие элементы, запросы на слияние (merge requests), конвейеры, развертывания и результаты сканирования безопасности в единый граф, который остается актуальным по мере того, как ваши команды выпускают релизы. Агенты в GitLab Duo Agent Platform запрашивают его напрямую. Внешние агенты, такие как Claude Code и Codex, подключаются через протокол контекста модели (Model Context Protocol, MCP), а пользовательские инструменты подключаются через REST API. Каждый агент видит ровно то, что может видеть его пользователь в GitLab.

Имея такой контекст, агент обращается к графу и получает точный ответ быстрее и эффективнее. В ходе тестирования GitLab та же задача в Claude Code требовала до 45 раз меньше повторных попыток с использованием Orbit и, отдельно, использовала в 4,5 раза меньше токенов для получения правильного контекста с первого раза. Orbit сегодня находится в бесплатной бета-версии на GitLab.com и в следующем месяце станет общедоступным для всех вариантов развертывания.

Управляйте тем, что можете измерить

Модели и контекст снижают стоимость каждой задачи. Данные о влиянии показывают, сработало ли это. Duo Agent Platform Impact Analytics отвечает на два вопроса, которые задают руководители платформ: сколько мы тратим и где сосредоточены эти расходы? Она разбивает расходы по командам, задачам и моделям для выбранных вами команд и диапазона дат, а также показывает, как модель с открытыми весами соотносится с вашим текущим набором моделей, чтобы вы могли сравнивать данные, а не гадать. Панель мониторинга GitLab Credits добавляет детализацию ниже уровня команды, отслеживая использование до конкретного пользователя и сессии.

Панель мониторинга GitLab Credits

Видимость идет рука об руку с ограничениями. Без лимита единственный рычаг — просить всех использовать меньше. Средства контроля кредитов и использования устанавливают лимиты на уровне подписки, группы или пользователя с оповещениями при достижении 50%, 80% и 100% расходов и автоматической приостановкой после достижения лимита. Фиксированный лимит на пользователя, например 1000 кредитов в месяц, применяется к каждому члену команды, а индивидуальное переопределение, например дополнительные 500 кредитов, дает инженеру, который проводит эксперименты, возможность работать, не запрашивая больше. Лимиты на пользователя применяются после того, как пользователь израсходовал свои включенные кредиты, и только этот пользователь теряет доступ к функциям, потребляющим кредиты, до следующего расчетного периода или до тех пор, пока администратор не повысит лимит.

Duo Agent Platform Impact Analytics показывает потребление кредитов наряду с работой, которая доходит до продакшена, поэтому вы можете видеть, превращается ли использование в реальные результаты.

Посмотрите Duo Agent Platform Impact Analytics в действии в этой демонстрации с нашего глобального мероприятия Transcend:

Заставьте контроль расходов на агентов работать

Начните свой путь к контролю расходов на агентов с модели. Управляемые GitLab модели с открытыми весами уже общедоступны. В разделе Выбор модели (Model Selection) закрепите GLM 5.3, Kimi K3 или MiniMax M3 за рутинной рабочей нагрузкой, например за потоком, который запускается при каждом запросе на слияние.

Затем сократите количество повторных попыток. GitLab Orbit сегодня доступен в бесплатной бета-версии на GitLab.com. Включите его для группы, которая запускает больше всего сеансов агентов. Orbit станет общедоступным в следующем месяце для всех вариантов развертывания.

Затем выполните замеры и установите лимиты. Duo Agent Platform Impact Analytics находится на этапе раннего доступа, поэтому вы можете видеть расходы по командам, задачам и моделям. Элементы управления кредитами и использованием уже общедоступны. Установите лимит GitLab Credits на пользователя с возможностью переопределения для активных пользователей. Через несколько недель сравните использование по командам и моделям с предыдущим периодом.

Спроектируйте основу для своей фабрики программного обеспечения с помощью GitLab Duo Agent Platform. Если вы новичок в GitLab, начните бесплатную пробную версию GitLab Duo Agent Platform. Если у вас есть подписка Premium или Ultimate, включите GitLab Duo Agent Platform и используйте кредиты GitLab Credits, включенные в вашу подписку.

О чём эта статья

Ещё в разделе «Разработка ПО»

Все →

Ещё от GitLab