Большинство руководителей служб безопасности помнят тот момент, когда впервые обнаружили теневые ИТ в своей организации. Бизнес-команда внедрила SaaS-приложение, подключила его к корпоративным данным и выстроила вокруг него рабочий процесс еще до того, как об этом узнал кто-либо из отдела безопасности. Инструмент оказался полезным, а команда — продуктивной. Разговор о контроле просто начался с опозданием на несколько месяцев.

«Агентная» корпоративная среда создает более серьезную версию этой проблемы. Сотрудники теперь могут создавать решения не только вне утвержденного технологического стека, но и вне утвержденной операционной модели. Они могут создавать агентов, подключать вторых пилотов (copilots) к корпоративным данным и собирать рабочие процессы, которые проходят аутентификацию, вызывают инструменты, перемещают данные и инициируют действия в других системах.

Что такое теневая автоматизация?

Теневая автоматизация — это растущий набор ИИ-агентов, автоматизированных рабочих процессов и машинных действий, которые функционируют вне рамок постоянного контроля безопасности, ответственности и поведенческого надзора.

Как теневые ИТ изменили корпоративную безопасность

SaaS и облачные сервисы децентрализовали процесс приобретения технологий. Бизнес-командам больше не требовался цикл закупок или проект по развитию инфраструктуры для внедрения нового инструмента. Они получили скорость, гибкость и независимость, и во многих случаях бизнес от этого выиграл.

Команды безопасности адаптировались, но часто уже постфактум. Они узнавали о приложении только тогда, когда оно уже содержало корпоративные данные или стало частью критически важного рабочего процесса. Последующие вопросы управления были относительно предсказуемыми. Какой инструмент используется? Какие данные он содержит? У кого есть к нему доступ?

На эти вопросы было сложно ответить в масштабах всей компании, но они описывали относительно статичную проблему. Теневое приложение хранило информацию и ждало, пока человек воспользуется им. ИИ-агенты меняют правила игры, потому что они не просто хранят информацию. Они выполняют работу.

Чем теневая автоматизация отличается от теневых ИТ

Теневая автоматизация включает в себя любую автоматизированную возможность, которая действует внутри предприятия без централизованного надзора со стороны службы безопасности. Она проявляется в нескольких формах:

Бизнес-подразделения самостоятельно создают или внедряют ИИ-агентов.
Команды подключают вторых пилотов к корпоративным данным и инструментам.
Low-code и no-code рабочие процессы вызывают другие системы по расписанию или триггеру.
Разработчики создают кастомных агентов для конкретной команды или проекта.
Многошаговая автоматизация и автоматизация «агент-агент» передают работу от одной системы к другой.
Существующие автоматизации со временем накапливают разрешения или берут на себя новые роли.

Разработка ИИ силами сотрудников (citizen AI development) объединяет все эти примеры. Больше команд могут создавать автоматизацию, развертывать агентов и создавать рабочие процессы, не дожидаясь централизованной команды. Эта доступность — одна из главных причин, почему внедрение ИИ происходит так быстро. Это также увеличивает вероятность появления теневых агентов, избыточных разрешений и неуправляемого поведения.

ИИ-агенты действуют как автономные участники корпоративных рабочих процессов. Они запрашивают доступ, перемещают данные, принимают решения и инициируют последующие действия на машинной скорости.

ИТ создают проблему инвентаризации. Теневая автоматизация создает проблему активности, владения и подотчетности.

Почему теневую автоматизацию сложно инвентаризировать

Теневую автоматизацию сложно инвентаризировать, потому что обнаружение агента — это только первый шаг. Инструменты обнаружения могут найти приложения, но более сложные вопросы возникают позже:

Кто создал агента?
Кто несет ответственность за его действия?
Какую учетную запись он использует?
Какие разрешения он унаследовал или накопил?
К каким инструментам, API, наборам данных и другим агентам он может получить доступ?
Как выглядит нормальное поведение для этого агента?
Кто может приостановить его работу, не нарушив критически важный рабочий процесс?

В основе этих вопросов инвентаризации лежит более простая структура. Для любого агента команды безопасности должны знать, что он должен делать, что он может делать, что он делает сейчас, является ли это поведение ожидаемым и как реагировать, если это не так. Многие организации могут ответить на первые два вопроса для некоторых своих агентов. Гораздо меньше организаций могут ответить на последние три для всех из них.

Достаточно ли управления ИИ для контроля теневой автоматизации?

Управление ИИ необходимо, но само по себе его недостаточно для контроля теневой автоматизации. Инвентаризация, проверка разрешений, стандарты разработки и управление моделями — все это определяет, что должно происходить.

Средства управления не всегда показывают, что происходит на самом деле. Авторизованный агент может начать вести себя вне своей ожидаемой роли, в то время как каждое отдельное действие будет использовать действительные учетные данные, одобренные инструменты и разрешенные рабочие процессы. Ничего не ломается, и ни одно правило не срабатывает. Риск остается скрытым внутри действий, которые выглядят легитимными.

Исследование Exabeam, опубликованное в отчете «The Agentic Insider: From Monitoring to Understanding», показало, что организации расширяют мониторинг ИИ-агентов, но поведенческий контекст и корреляция остаются серьезными ограничениями. Руководители служб безопасности сообщили о наименьшей видимости межсистемной активности и поведенческих последовательностей, что как раз и является областью работы автономных рабочих процессов.

Почему теневая автоматизация — это проблема бизнеса, а не только SOC

Теневая автоматизация — это проблема операционной модели бизнеса, потому что ее последствия выходят далеко за рамки SOC. Бизнес-команды могут развертывать автоматизированную работу быстрее, чем централизованное управление может ее оценить. Владение фрагментировано между разработчиком, бизнес-спонсором, командой по управлению идентификацией, владельцем приложения и службой безопасности. Рабочий процесс может продолжать работать после того, как человек, который его создал, сменил роль или покинул компанию. Результат работы одного агента может инициировать действия других агентов или систем, а приостановка одного агента может прервать процесс получения дохода, обслуживания клиентов, финансов или инженерных разработок.

Теневая автоматизация поднимает вопросы, которые должны обсуждаться как на уровне руководства, так и в рамках регламентов SOC:

Знает ли организация, какие автоматизированные решения являются критически важными для бизнеса?
Назначен ли ответственный владелец из числа людей для каждого автономного рабочего процесса?
Может ли служба безопасности восстановить последовательность действий агента в разных системах?
Может ли команда ограничить рискованную активность, не останавливая несвязанную работу?

Как организациям перейти от теневой автоматизации к подотчетной автоматизации

Организации могут сделать автоматизированную работу подотчетной, не замедляя внедрение ИИ. Пять принципов дают руководителям отправную точку.

Установите подотчетное владение. У каждого агента и автономного рабочего процесса должен быть назначенный бизнес-владелец и назначенный владелец со стороны безопасности.
Отобразите идентификацию и доступ. Поймите, какие учетные данные, разрешения, инструменты и системы может использовать каждый агент.
Определите ожидаемое поведение. Задокументируйте роль агента, ожидаемые рабочие процессы, нормальный доступ к данным и приемлемые результаты.
Наблюдайте за поведением в разных системах. Оценивайте последовательности действий в контексте, а не рассматривайте каждое действие как изолированное событие.
Подготовьтесь к целенаправленному вмешательству. Заранее решите, как ограничить, приостановить или расследовать одну автоматизацию, не останавливая более широкий бизнес-процесс.

Эти пять принципов лучше всего работают как непрерывный цикл, а не как разовая проверка. В техническом документе Exabeam «Securing the Agentic Enterprise» это описывается как жизненный цикл проверки, наблюдения, анализа и улучшения безопасности агентов по мере изменения самих агентов, инструментов и рабочих процессов.

Следующая теневая среда сможет действовать самостоятельно

Теневые ИТ усложнили управление технологической инфраструктурой. Теневая автоматизация усложняет понимание операционной среды. Организации не могут управлять теневой автоматизацией только с помощью инвентаризации. Более глубокая проблема кроется в другом. Большинство моделей безопасности были созданы для мира, в котором люди инициировали работу, а машины следовали предсказуемым инструкциям. В следующей статье этой серии из трех частей рассматривается, что меняется, когда предприятие больше не работает только на основе действий людей.

Часто задаваемые вопросы о теневой автоматизации

Что такое теневая автоматизация?

Теневая автоматизация — это совокупность ИИ-агентов, автоматизированных рабочих процессов и действий, выполняемых машинами, которые работают вне зоны постоянного контроля безопасности, ответственности и надзора за поведением. Она включает в себя агентов, созданных бизнес-командами, вторых пилотов (copilots), подключенных к корпоративным данным, и low-code рабочие процессы, которые могут проходить аутентификацию, перемещать данные и инициировать действия в других системах.

Является ли теневая автоматизация тем же самым, что и теневые ИТ?

Нет. Теневые ИТ предоставляли сотрудникам инструменты вне централизованного контроля, в то время как теневая автоматизация дает этим инструментам возможность действовать самостоятельно. Теневые ИТ в основном создают проблему инвентаризации, тогда как теневая автоматизация создает проблему активности, владения и подотчетности, поскольку агенты могут принимать решения и запускать последующие действия со скоростью машины.

Что вызывает теневую автоматизацию?

Теневая автоматизация растет из гражданской разработки ИИ. Теперь больше команд могут создавать агентов и автоматизированные рабочие процессы, не дожидаясь центральной ИТ-команды или команды безопасности, что увеличивает вероятность появления теневых агентов, избыточных разрешений и неуправляемого поведения.

Как организации могут снизить риск теневой автоматизации?

Организации могут снизить риск теневой автоматизации с помощью пяти принципов: назначение ответственных владельцев, картирование идентификационных данных и доступа, определение ожидаемого поведения, наблюдение за поведением в различных системах и подготовка к целенаправленному вмешательству. Эти шаги лучше всего работают как непрерывный жизненный цикл, а не как разовая проверка.

Ознакомьтесь с исследованием

Скачайте The Agentic Insider: From Monitoring to Understanding, чтобы узнать, как руководители служб безопасности переходят от мониторинга активности ИИ-агентов к ее пониманию.