Раньше теневой ИИ ограничивался несколькими простыми сценариями, такими как ИИ-чат-боты и ИИ-расширения для браузеров. Сегодня он охватывает широкий спектр сложных векторов, что затрудняет его обнаружение и контроль. В последнем материале нашей серии блогов к Месяцу осведомленности о кибербезопасности узнайте, как обучение сотрудников безопасности, управление использованием ИИ и контроль уязвимостей могут помочь вам успешно справиться с теневым ИИ.
Основные выводы
- Интеграция теневого ИИ в обучение по повышению осведомленности о безопасности помогает сотрудникам распознавать его риски и учиться безопасному использованию инструментов ИИ. ИТ-специалисты по безопасности должны развивать открытое общение с сотрудниками и стремиться понять, почему они используют несанкционированные продукты ИИ.
- Теперь теневой ИИ охватывает локальные модели, ИИ-помощников по кодированию, автономных агентов и множество других типов ресурсов в вашей среде, что делает его масштабной и сложной проблемой.
- Вы можете снизить количество случаев использования теневого ИИ, приняв политику допустимого использования ИИ, которая предоставляет четкие рекомендации и список одобренных инструментов ИИ, а также рассматривая теневой ИИ как часть вашей единой программы управления рисками.
Это обычный рабочий день на типичном среднем или крупном предприятии, и вот что происходит без ведома отделов ИТ и безопасности:
- Менеджер по маркетингу устанавливает непроверенный сервер с открытым исходным кодом Model Context Protocol (MCP), чтобы тайно связать свой настольный ИИ-помощник с внутренней клиентской базой данных компании.
- Руководитель отдела продаж загружает бесплатное ИИ-расширение для браузера, чтобы сделать краткую выжимку веб-страницы, невольно предоставляя третьей стороне доступ на чтение к своим конфиденциальным панелям мониторинга CRM.
- Супервайзер бухгалтерского учета создает пользовательские навыки ИИ-чат-бота для автоматизации своей отчетности, передавая нередактируемые финансовые прогнозы в публичный инструмент генеративного ИИ.
- Инженер обходит ограничения программного обеспечения, чтобы скачать и запустить непроверенную локально размещенную модель ИИ, создавая огромную «слепую зону» для безопасности конечных точек.
- Бизнес-аналитик передает свои широкие административные учетные данные агенту ИИ потребительского уровня, чтобы тот мог автономно сканировать частное хранилище данных компании.
- Разработчик вставляет проприетарный невыпущенный исходный код в бесплатный веб-помощник ИИ для быстрой отладки, непреднамеренно передавая корпоративную интеллектуальную собственность в обучающий набор общедоступной модели.
Да, мы прошли долгий путь с тех дней, когда случаи использования теневого ИИ в основном заключались в том, что сотрудники делились рабочей информацией со своими личными ИИ-чат-ботами. Поскольку ИИ теперь проникает в деятельность предприятий, теневой ИИ распространился и трансформировался по всей поверхности атаки. Он стал более рискованным и трудным для обнаружения, особенно по мере распространения автономных агентов ИИ.
Например, согласно отчету IBM «2026 Cost of a Data Breach Report», инциденты безопасности, связанные с ресурсами теневого ИИ организаций, выросли более чем в два раза и составили 43% по сравнению с 20% в прошлом году. Между тем, средняя стоимость утечки данных при инцидентах, связанных с теневым ИИ, достигла 5,39 миллиона долларов, что примерно на 400 000 долларов выше среднемирового показателя.
В отчете IBM было обнаружено прямое влияние на конфиденциальность данных, операции и соответствие требованиям:
- Почти половина инцидентов безопасности, связанных с теневым ИИ, привела к потере или компрометации данных
- 42% вызвали сбои в работе
- 21% повлекли за собой штрафы регулирующих органов
За 30-дневный период ранее в этом году платформа Tenable One Exposure Management Platform обнаружила 457 миллионов проблем безопасности в 7000 клиентских сред, используя 274 плагина обнаружения, созданных специально для ИИ. В среднем это составило около 62 000 уязвимостей, связанных с ИИ, на одного клиента.
«Корпоративный ландшафт ИИ 2026 года имеет мало общего с ландшафтом ИИ даже трехлетней давности», — написала Cloud Security Alliance (CSA) в своем апрельском отчете «The Invisible Enterprise: Shadow AI and the Ungoverned Frontier».
Поскольку внедрение ИИ «значительно опередило» управление ИИ в организациях, на многих предприятиях теперь имеется опасный «невидимый слой ИИ-инфраструктуры», который не был инвентаризирован и, следовательно, не подлежит соблюдению политик, контролю доступа или аудиту, говорится в отчете CSA.
В этой третьей части еженедельной серии блогов Tenable, посвященной Месяцу осведомленности о кибербезопасности, мы рассмотрим передовые практики, которые организации могут внедрить для борьбы с теневым ИИ в его многочисленных формах — помощниках по коду ИИ, моделях, приложениях, API, встроенных функциях, агентах, серверах MCP, обучающих данных, расширениях браузера и т. д. — и снижения связанных с ним рисков, таких как нарушение нормативных требований, взлом систем и утечка данных.
3 шага, которые помогут снизить риски теневого ИИ
1. Повышение осведомленности и образования сотрудников и руководства
Логичным началом вашей кампании против теневого ИИ является обучение сотрудников и руководителей тому, как распознавать эту проблему и предотвращать ее.
Сотрудники
Буквально в прошлом месяце правительство Великобритании подчеркнуло, насколько важно для организаций учитывать человеческий фактор в теневом ИИ, а именно несоответствие между быстрым внедрением ИИ сотрудниками и задержкой организаций в одобрении инструментов ИИ и установлении политик использования ИИ.
Например, 34% сотрудников, опрошенных в отчете Thomson Reuters «Future of Professionals 2026», признались, что сознательно и намеренно используют программное обеспечение ИИ, которое их организация не одобрила.
Почему? «Они разочарованы качеством разрешенных инструментов или отсутствием четкой стратегии в отношении ИИ», — говорится в статье Thomson Reuters об отчете, опубликованной в июне.
U.K. National Cyber Security Centre (NCSC) рекомендует сосредоточиться на трех ключевых элементах:
- Понять, почему сотрудники используют неодобренные инструменты ИИ.
- Установить «позитивную культуру кибербезопасности», характеризующуюся открытым общением между сотрудниками и командой безопасности.
- Безопасно интегрировать системы ИИ на рабочее место.
«Повышая осведомленность о рисках использования теневого ИИ в вашей организации и понимая потребности сотрудников, вы можете помочь им получить преимущества от новых технологий и одновременно использовать их безопасно», — написал облачный исследователь NCSC в блоге «Скрытые риски теневого ИИ».
Другими словами, сосредоточьтесь на просвещении сотрудников, а не на наказании, и включите теневой ИИ в обучение по программе повышения осведомленности о безопасности.
Руководители бизнес-подразделений
Проявляйте инициативу и обращайтесь к руководителям бизнес-подразделений, чтобы узнать об используемых ими инструментах ИИ, причинах их использования и получаемых преимуществах. Участие в этом упражнении по оценке потребностей может помочь вам решить, какие инструменты ИИ разрешить, а какие запретить.
2. Установите четкую политику управления ИИ
Избегайте роли противника внедрения ИИ. Крайне ограничительные подходы, такие как политика «блокировать по умолчанию», имеют тенденцию приводить к обратным результатам, поскольку они подталкивают сотрудников и команды к тому, чтобы еще сильнее уводить использование ИИ в тень, особенно если эти инструменты повышают их производительность.
Вместо этого вам следует принять политику допустимого использования ИИ, которая определяет четкие правила относительно того, кто может использовать ИИ, какие инструменты они могут использовать и какие данные они могут вводить, таким образом, чтобы это не ставило под угрозу безопасность и соответствие требованиям.
Ваша политика в отношении ИИ также должна прояснять уровни ответственности, определяя обязанности сотрудников, менеджеров и группы управления ИИ. Например, в ней должно подчеркиваться, что сотрудники должны проверять точность контента, созданного ИИ, поскольку каждый отдельный человек несет полную ответственность за качество своей работы.
В комплексной политике должны быть четко обозначены правила использования ИТ-инструментов с искусственным интеллектом, такие как правила обработки данных, детально описаны официальный процесс и критерии, которые команды по безопасности и ИТ будут использовать для утверждения и внедрения инструментов ИИ, а также предоставлен утвержденный список разрешенных инструментов.
Кроме того, она должна помочь вам оценить, следует ли полностью заблокировать обнаруженный теневой ИИ или его можно разрешить при наличии соответствующих средств контроля.
Несколько вопросов, которые стоит задать:
- Заявляет ли разработчик ИИ права на то, что ваши пользователи вводят в его инструмент?
- Шифрует ли инструмент данные при передаче и хранении?
- Каковы процессы разработчика по раскрытию информации об уязвимостях и инцидентах?
- Соответствует ли продукт нормативным требованиям, имеющим отношение к вашей организации, таким как HIPAA?
- Использует ли разработчик ваши данные для обучения публичных моделей ИИ?
- В каком географическом регионе разработчик хранит ваши данные?
- Каким типам отраслевых стандартов соответствия следует разработчик ИИ?
Наконец, политика использования ИИ должна представлять собой постоянно обновляемый документ, который ваша организация регулярно пересматривает по мере развития технологий искусственного интеллекта и изменения характера его использования в организации.
«Лидеры должны сосредоточиться на создании системы управления, которая балансирует между инновациями и управлением рисками, гарантируя, что сотрудники чувствуют себя уверенно при ответственном использовании генеративного ИИ», — говорится в исследовании Deloitte «GenAI Workforce Survey», опубликованном в сентябре. В отчете отмечается, что 31% сотрудников в Великобритании используют ИИ-инструменты без разрешения своих организаций.
3. Устраняйте риски теневого ИИ в рамках вашей более широкой программы управления подверженности угрозам
Поскольку ИИ сегодня распространен практически во всех компаниях, теневой ИИ присутствует во всей вашей ИТ-среде в самых разных проявлениях. Это именно тот тип сложной и многомерной проблемы безопасности, которую помогает распутать единая платформа управления подверженностью угрозам.
В Tenable мы считаем, что попытки обнаружить и контролировать теневой ИИ как изолированную проблему с помощью разрозненных специализированных инструментов — это неверный подход.
Для успешного снижения рисков безопасности ИИ, включая теневой ИИ, вам необходимо собирать контекстно-богатые данные о безопасности ИИ, чтобы сопоставлять и анализировать их вместе с другими данными об уязвимости. Таким образом вы сможете увидеть, как проблемы безопасности объединяются в пути атак, ведущие к вашим наиболее критически важным системам и данным.
Вот несколько ключевых способов, с помощью которых платформа управления подверженностью угрозам может помочь вам решить проблему рисков теневого ИИ.
- Получите исчерпывающую видимость вашей ИИ-среды с помощью непрерывно обновляемого инвентарного учета ваших ИИ-активов — что они собой представляют, кто и что имеет к ним доступ, а также к каким данным они имеют доступ — в любой точке вашей среды, включая: ЦОД (дата-центры) Конечные точки Веб-приложения Облачные рабочие нагрузки Сетевой трафик Конвейеры разработки приложений Корпоративные платформы ИИ Системы операционные технологии (OT) Инфраструктура IoT
- ЦОД (дата-центры)
- Конечные точки
- Веб-приложения
- Облачные рабочие нагрузки
- Сетевой трафик
- Конвейеры разработки приложений
- Корпоративные платформы ИИ
- Системы операционные технологии (OT)
- Инфраструктура IoT
- Обнаруживайте недостатки безопасности активов теневого ИИ, включая уязвимости, ошибки конфигурации, избыточные разрешения, небезопасную обработку вывода и незащищенные обучающие данные.
- Контекстно сопоставляйте и расставляйте приоритеты для проблем безопасности, требующих немедленного внимания по всей поверхности атаки, основываясь на таких факторах, как критичность ИИ-активов и влияние на бизнес.
- Принимайте меры и автоматизируйте устранение уязвимостей, в том числе используя возможности агентного ИИ, для выполнения исправлений, необходимых для закрытия рисков теневого ИИ.
- Снижайте риск ненадлежащего обмена данными через ИИ-запросы и загрузки с помощью: Обнаружения и классификации конфиденциальных данных Аудита разрешений ИИ-активов и внедрения политик наименьших привилегий Мониторинга потоков данных в реальном времени Обнаружения и блокирования конфиденциальной интеллектуальной собственности, проприетарного исходного кода и персональных данных (PII) клиентов до их раскрытия или компрометации
- Обнаружения и классификации конфиденциальных данных
- Аудита разрешений ИИ-активов и внедрения политик наименьших привилегий
- Мониторинга потоков данных в реальном времени
- Обнаружения и блокирования конфиденциальной интеллектуальной собственности, проприетарного исходного кода и персональных данных (PII) клиентов до их раскрытия или компрометации
Заглядывайте к нам на следующей неделе, когда мы завершим нашу серию публикаций в рамках Месячника кибербезопасности статьей о проблемах кибербезопасности правительств штатов и местных органов власти. Прочитайте первые две статьи из этой серии:
- Как снизить риски от созданных ИИ приложений, разработанных вашими сотрудниками — «непрофессиональными разработчиками»
- Организации критической инфраструктуры сталкиваются с повышенным киберриском со стороны групп, поддерживаемых государствами, и угроз ИИ
Чтобы узнать больше о теневом ИИ и о том, как Tenable может помочь вам решить эту проблему, ознакомьтесь со следующими ресурсами:
- Что такое теневой ИИ? (руководство)
- Представляем Tenable One AI Exposure: Новый стандарт обеспечения безопасности использования ИИ в масштабе предприятия (блог)
- Безопасность для ИИ: Стратегическая структура для устранения пробелов в защите ИИ (блог)
- Освоение рисков безопасности ИИ с помощью единого управления подверженностью угрозам (вебинар по запросу)
- Tenable Hexa AI: Автоматизация устранения уязвимостей с помощью автономных рутинных процедур (блог)
- Что такое управление состоянием безопасности ИИ (AI-SPM)? (руководство)
- Что такое политика допустимого использования ИИ (AUP)? (руководство)
