За скольких коллег-агентов вы несете ответственность? И сколько из них работают вне вашего контроля?
Согласно нашему последнему опросу 300 технологических лидеров для отчета «Управление агентским рабочим местом» (Governing the Agentic Workplace), 89% ИТ-руководителей заявляют, что в их компании есть как минимум один ИИ-агент в промышленной эксплуатации. Большинство этих агентов созданы собственными силами: только 4% руководителей, использующих агентов, полагаются в основном на сторонних поставщиков при их разработке.
Но что происходит после запуска, когда человек, создавший агента, увольняется, процесс меняется или агенту требуется иной круг задач? Раньше у работы, которую выполняет агент, был конкретный владелец. Как это меняется, когда за ту же задачу теперь отвечает агент (или целый парк агентов)? Когда никто не владеет этой работой, ИТ-отдел обычно остается той командой, которой приходится искать и исправлять проблемы.
В крайнем случае, одна компания, о которой недавно рассказал генеральный директор Retool Дэвид Сюй, создала около 500 000 агентов — больше, чем численность ее персонала, — не имея представления о том, куда уходят деньги. Эти агенты не несут ответственности за оплату счетов. ИТ-отдел — несет.
Большинство компаний не достигли таких масштабов, но легко представить бесконтрольное разрастание агентов. Агенты быстро становятся стандартным способом работы — Gartner прогнозирует (откроется в новой вкладке), что к концу 2026 года 40% корпоративных приложений будут интегрированы с узкоспециализированными ИИ-агентами. Среди руководителей, использующих агентов, 42% говорят, что команды владеют агентами в своей области при некотором централизованном надзоре, 27% говорят, что одна команда владеет всеми ими, 21% говорят, что команды управляют агентами независимо, а 10% не имеют формальной структуры. Половина всех руководителей назвали принятие решений агентами без четкого владельца одной из главных проблем. В июле 2025 года ИИ-агент для написания кода deleted SaaStr’s live production database (opens in a new tab) во время заморозки кода, несмотря на явные инструкции не вносить изменения. Заморозка была политикой, но ничто в правах доступа агента не обеспечивало ее соблюдение.
У каждого агента должен быть владелец и определенная сфера деятельности, а доступ должен быть привязан к обоим этим параметрам через защитные барьеры, установленные ИТ-отделом. Организации, управляющие наибольшим количеством агентов, уже переносят эти правила из индивидуальных проверок в общие средства контроля, потому что одна команда не может вручную одобрять сотни агентов. ИИ облегчил работу для некоторых, но для большинства ИТ-команд это означает тот же штат сотрудников при гораздо большем объеме задач для управления.
Онбординг и управление ИИ-агентами так же, как вы управляете человеческими ресурсами, решает две проблемы одновременно:
- Это максимизирует выгоду, делая агентов более простыми в управлении и оценке.
- Это минимизирует риски, гарантируя, что нужные агенты получают доступ только к нужным данным и ни к чему больше.
- Это контролирует расходы, предоставляя ИТ-отделу прозрачность в отношении того, сколько тратит каждый агент и какую отдачу он приносит.
Среди 268 руководителей, использующих агентов, 28% доверяют это центральному комитету по управлению ИИ, 26% — запрашивающему бизнес-подразделению, а 24% принимают решение в каждом конкретном случае. Только 3% позволяют любому создавать агента.
Централизация принятия решений о том, нужен ли бизнес-процессу агент вообще, — хорошее начало. Эксперты, подобные опрошенным нами ИТ-лидерам, могут помочь определить, действительно ли процессу требуется агент или его можно решить с помощью рабочего процесса (workflow). Централизованная проверка также выявляет дубликаты, поэтому команды могут использовать уже работающего агента вместо создания десяти, выполняющих одно и то же. Рабочий процесс следует фиксированным шагам и не требует такой же структуры подотчетности.
Агенты дороже рабочих процессов, и информированный выбор на начальном этапе может сэкономить бизнесу деньги в будущем. В приведенном выше примере примерно 95% из тех 500 000 агентов лучше подходили для рабочих процессов.
По мере того как агенты берут на себя все больше реальной работы, старые способы назначения и отслеживания этой работы должны будут измениться.
Организационная схема — это простое сравнение, к которому легко прибегнуть, поскольку она сразу показывает, кто в компании перед кем отчитывается. Но большинство оргсхем находятся в ведении HR, и они не отражают того, что нужно агенту для выполнения своей работы: контекста, инструкций и доступа к нужным системам.
McKinsey утверждает, что на смену оргсхемам придут «рабочие схемы» (откроется в новой вкладке), построенные вокруг задач и результатов, а не линий подчинения. Агенты могут работать только с данными, системами и инструментами, которые им предоставлены. Рабочая схема дает ИТ-отделу возможность назначать и контролировать агента, его задачу и системы, которые ему нужны. «Относитесь к ИИ как к новому сотруднику» — это уже избитый совет, но он по-прежнему актуален по мере того, как все больше компаний масштабируют свои парки агентов.
Компании, создающие агентов, описывают те же потребности, что и менеджер. OpenAI заявляет, что агенты на ее платформе Frontier (откроется в новой вкладке) нуждаются в общем контексте, онбординге, обратной связи и четких разрешениях. В системе мультиагентных исследований (откроется в новой вкладке) Anthropic каждому субагенту нужны цель, формат вывода, руководство по инструментам и источникам, а также четкие границы задач.
Обе компании также управляют агентами способами, напоминающими оргсхему. Руководство OpenAI по созданию агентов (откроется в новой вкладке) описывает паттерн менеджера, где центральный агент делегирует задачи специалистам, и децентрализованный паттерн, где коллеги передают работу друг другу.
Компании, продвинувшиеся дальше всех, дают агентам структуру, которая уже есть у людей: менеджера, идентификатор и сферу деятельности.
Компания
Что они сделали
Что получает каждый агент
Bank of New York Mellon (BNY)
Называет своих агентов «цифровыми сотрудниками». Сначала создали платформу Eliza, затем обучили людей, и в последнюю очередь запустили цифровых сотрудников. Управляют nearly 140 of them, при этом более одного из трех сотрудников BNY создали собственного агента на Eliza.
Свои логины, менеджеров-людей и работу в рамках узких команд, чтобы они не могли получить доступ к информации, выходящей за рамки их должностных обязанностей
Microsoft
Относится к агентам как к субъектам. В платформе Entra Agent ID находится в навигации администратора сразу под пользователями, группами и устройствами. Реестр Agent 365 записывает which agents exist, who owns them, and where they were created
Идентификатор, зарегистрированного владельца и размещение в структуре навигации администратора
OpenAI
Frontier дает каждому агенту свой идентификатор и явные разрешения, ставя онбординг на первое место, чтобы агенты узнавали, как работает бизнес, прежде чем действовать в нем
Свой идентификатор, явные разрешения и онбординг для изучения бизнес-операций
Moderna
Изменила свою человеческую оргсхему, объединив HR и технологии под руководством директора по персоналу и цифровым технологиям (Трейси Франклин), перейдя к системе людей и агентов
Единое управление под руководством одного лидера для комбинированной системы людей и агентов
В конечном итоге будет столько же уникальных решений по управлению ИИ-агентами, сколько и компаний. Но важно то, что ими управляют — у каждого есть владелец, четкая сфера деятельности и доступ, соответствующий этой сфере.
Управление агентами — это больше, чем просто организационная гигиена. Ошибки в управлении — или, что еще хуже, его отсутствие — обходятся дорого.
Согласно нашему отчету о затратах на ИИ, опубликованному ранее в этом году, 43% технических руководителей уже тратят на ИИ больше, чем заложено в бюджете, а агентские рабочие процессы используют в 5–30 раз больше токенов на задачу, чем базовый запрос к LLM, по данным Gartner (opens in a new tab). Эти расходы обычно ложатся на плечи технического руководства. В нашем отчете о состоянии управления ИИ (State of AI Governance) 32% технических директоров (CTO), ИТ-директоров (CIO) и руководителей информационной безопасности (CISO) заявили, что ответственность за инциденты, вызванные инструментами на базе ИИ, несет инженерное руководство или технический директор, что превышает любой другой отдельный вариант ответа.
Делегирование ответственности позволяет компании измерять, насколько эффективно агенты справляются со своими задачами, и именно здесь возлагается ответственность, когда агент совершает нечто непредвиденное.
Нельзя измерить то, чем никто не владеет
Окупаемость инвестиций (ROI) в агентов может быть непредсказуемой. В одном из ритейлеров, входящих в список Fortune 10, ценовой агент, который фотографировал полки конкурентов, почти не принес результатов, в то время как более простая автоматизация, отслеживающая телефонные конференции конкурентов по поводу доходов, принесла ориентировочно 50 миллионов долларов. Кому-то пришлось следить за обоими агентами и отключить тот, который не работал.
Из опрошенных нами ИТ-лидеров, у которых агенты запущены в продакшене, 70% измеряют успех сэкономленным временем, но только 43% отслеживают бизнес-результаты, такие как выручка или длительность цикла. Еще 18% отслеживают использование без метрик успеха, а 12% вообще не могут измерить успех. Сэкономленное время имеет значение только тогда, когда оно отражается на других аспектах бизнеса.
Бесхозные агенты также могут работать бесконтрольно. Один автоответчик для писем об отсутствии на рабочем месте на базе ИИ стоил 10 000 долларов в день, прежде чем кто-то это заметил, и лишь 5% ИТ-директоров, технических директоров и директоров по информационной безопасности в отчете Retool State of AI Governance заявили, что у них есть полный контроль над инструментами ИИ в продакшене.
Если ИИ-агенты не могут нести ответственность за свои действия, то кто несет?
13% руководителей, у которых агенты работают в продакшене, сообщили, что за последний год один из агентов совершил непредвиденное действие в рабочей системе, а 7% вообще не знают, были ли у них инциденты, связанные с ИИ. ИИ-агент не может нести юридическую ответственность за свои действия перед регулятором или судом, поэтому ответственность ложится на людей, которые его развернули, — ИТ-команды и других руководителей цифровой трансформации.
Мы можем ожидать появления новых правительственных нормативов в отношении ответственности ИИ-агентов по мере их распространения. Сингапурская структура для агентного ИИ (opens in a new tab), запущенная в январе, гласит, что личность каждого агента должна быть привязана к человеку, отделу или контролирующему агенту, при этом для важных или необратимых действий требуется одобрение человека. Национальный институт стандартов и технологий (NIST) выпустил концептуальный документ (opens in a new tab) в феврале 2026 года, который применяет стандарты идентификации и авторизации к агентам.
Тем не менее, сегодня рекомендаций больше, чем реальных законов. Но это показывает направление развития требований, и агент без владельца и четко определенных доступов не сможет им соответствовать без надлежащих структур управления и подотчетности.
Большинство опрошенных нами ИТ-лидеров еще не определились с тем, как агенты получают доступ к данным компании. 40% руководителей, использующих агентов в продакшене, настраивают учетные данные для доступа к данным для каждого агента по отдельности, а 20% передавали учетные данные небезопасным образом для того, чтобы агент заработал (чего вообще не должно происходить). Несколько практик упрощают управление агентами в любом масштабе:
- Решите, нужен ли агенту каждый конкретный процесс или фиксированный рабочий процесс справится с задачей дешевле.
- Назначьте каждому агенту ответственного владельца и определите рамки его полномочий до запуска, а также обновляйте их при изменении людей или процессов.
- Установите правила доступа единожды — на уровне данных. Напишите политики на уровне таблиц, столбцов и строк для источника данных и проверяйте по ним каждый запрос от каждого приложения, рабочего процесса и агента, вместо того чтобы управлять отдельными учетными данными для каждого агента.
- Оценивайте агентов по их результатам и используйте эту информацию для принятия решений о затратах.
Ничто из этого не требует замедления темпов. На саммите WSJ Tech Council Кейт Смадж (Kate Smaje) из McKinsey (opens in a new tab) высказалась за изменение кривой затрат, а не за отключение ИИ, чтобы использование росло, а стоимость единицы продукции снижалась. Правильное управление ИИ-агентами — это способ определить, какие агенты заслуживают своего места на этой кривой.
Предполагалось, что ИИ облегчит рабочую нагрузку ИТ-отдела, а не добавит сотни агентов, которых нужно проверять вручную. Организации, которые не отстают от прогресса, первыми внедрят стандарты управления ИИ-агентами. 55% руководителей, у которых агенты работают в продакшене, уже испытывают нехватку персонала для масштабного управления агентами, а 54% говорят, что бизнес-команды движутся быстрее, чем ИТ-отдел успевает проводить проверки.
Retool предоставляет ИТ-отделу единую управляемую платформу для приложений, рабочих процессов и агентов, создаваемых командами. Поскольку обеспечение безопасности данных (Data Access Enforcement) применяет политики ИТ на уровне источника данных, новый агент наследует эти правила в момент запуска без собственных учетных данных или отдельной проверки. Это высвобождает время ИТ-специалистов для принятия решений, которые по-прежнему требуют участия человека, например, какие процессы нуждаются в агенте и кто является владельцем каждого из них.
Узнайте, как 300 ИТ-специалистов, инженеров, специалистов по безопасности и ИИ создают, масштабируют и защищают агентов в материале «Управление агентным рабочим пространством» (Governing the Agentic Workplace). Мы также недавно открыли лист ожидания для нашего корпоративного инструментария для агентов (enterprise agent harness), который предоставляет агентам доступ, необходимый им для выполнения реальной работы в вашем бизнесе.
