Теневой ИИ: риск заключается не в инструменте, а в данных

Прямо сейчас где-то в вашей организации кто-то вставляет клиентское письмо в ИИ-ассистент, чтобы быстрее составить ответ. Кто-то другой загружает электронную таблицу, чтобы получить краткую сводку перед встречей. Ни один из них не пытается создать риски. Они пытаются выполнять свою работу, и ИИ помогает им в этом.

Такова реальность неофициального использования ИИ. Именно поэтому самая распространенная реакция — поиск и блокировка каждого несанкционированного инструмента ИИ — редко решает проблему, для которой она предназначена. Инструмент — это лишь канал. Риск — это данные, которые через него проходят.

Что такое теневой ИИ?

Теневой ИИ — это использование инструментов, моделей или функций ИИ внутри организации без ведома, одобрения или контроля со стороны ИТ-отделов и служб безопасности. Сюда относятся чат-боты с генеративным ИИ, доступ к которым осуществляется через личные учетные записи, функции ИИ, активированные внутри SaaS-приложений, расширения для браузера со встроенными ИИ-ассистентами, а также службы ИИ, к которым разработчики подключаются через API в обход стандартной процедуры проверки.

Подобно теневым ИТ ранее, теневой ИИ разрастается, когда спрос на новые возможности опережает способность организации предоставлять санкционированные варианты. В отличие от теневых ИТ, он не просто хранит данные. Он может обрабатывать, сохранять и генерировать новый контент из всего, что ему предоставлено.

Почему борьба с несанкционированными инструментами ИИ неэффективна

Блокировка несанкционированных инструментов ИИ — вполне разумный первый инстинкт. Однако в качестве самостоятельной стратегии она имеет ограничения:

• Список никогда не заканчивается. Новые инструменты и функции ИИ появляются постоянно, и многие из них приходят в виде обновлений для ПО, которое вы уже одобрили.
• Блокировка может перенаправить использование вместо того, чтобы остановить его. Когда инструмент заблокирован в корпоративной сети, некоторые пользователи могут переключиться на личные устройства, где у вас еще меньше видимости.
• Она одинаково относится к любому взаимодействию с ИИ. Просьба к ассистенту отшлифовать публичную запись в блоге и просьба проанализировать клиентскую базу данных несут в себе совершенно разные риски, но блокировка на уровне инструмента не позволяет их различить.

Средства контроля инструментов по-прежнему имеют право на существование. Но они отвечают на вопрос «Какими приложениями пользуются люди?», в то время как вопрос, определяющий вашу степень риска, звучит так: «Какие данные они в них вводят?»

Риски теневого ИИ начинаются с данных

Если взглянуть на теневой ИИ через призму данных, в фокус попадают реальные риски:

• Конфиденциальные данные выходят из-под вашего контроля. Личная информация клиентов, исходный код, контракты, финансовые прогнозы или учетные данные, введенные в несанкционированный инструмент, могут быть сохранены, занесены в журналы или, в зависимости от условий провайдера, использованы для улучшения модели.
• Требования комплаенса следуют за данными. Такие правила, как GDPR и HIPAA, применяются к личным и медицинским данным независимо от того, какое приложение их обрабатывает. Если регулируемые данные попадают в не прошедшую проверку службу ИИ, ваши обязательства по-прежнему действуют.
• На вопросы становится сложнее отвечать постфактум. Без четкого понимания того, какие конфиденциальные данные у вас есть и где они хранятся, сложно оценить, чем могли поделиться, с каким сервисом и что это значит для вашей организации.
• Санционированный ИИ также может выводить данные наружу. ИИ-ассистенты, встроенные в одобренные платформы, могут использовать любой контент, к которому у пользователя есть доступ. Если права доступа шире, чем должны быть, конфиденциальные файлы могут появиться в сгенерированных ИИ ответах для людей, которые никогда не должны были их видеть.

Общая закономерность: каждый из этих рисков уменьшается, когда вы знаете, где находятся ваши конфиденциальные данные, насколько хорошо они защищены и у кого есть к ним доступ.

Подход к управлению теневым ИИ, в основе которого лежат данные

Эффективное управление теневым ИИ смещает фокус с инструмента на данные. Вместо того чтобы пытаться предусмотреть каждую службу ИИ, которую могут использовать ваши сотрудники, вы делаете так, чтобы данные за ними были видны, управляемы и защищены, что делает их более безопасными везде, где бы они ни оказались.

Вот как это выглядит на практике:

• Узнайте, какие конфиденциальные данные у вас есть и где они хранятся. Автоматизированное обнаружение и классификация в облачных, локальных и SaaS-репозиториях создают основу для любого другого решения. Такие решения, как OpenText™ Voltage™ Data Security Platform, помогают находить и классифицировать конфиденциальные данные в гибридных средах, позволяя оценить возможные последствия до того, как они попадут в инструмент ИИ.
• Расставьте приоритеты по степени риска. Не все риски утечки одинаковы. Оценка данных по степени конфиденциальности, местоположению и доступу помогает сосредоточиться на том, что нанесет наибольший ущерб в случае утечки, и присвоить этому риску денежный эквивалент, чтобы обосновать необходимость действий.
• Оптимизируйте доступ. Проверка того, кто может получить доступ к конфиденциальным данным, ограничивает то, что любой ИИ-ассистент, санкционированный или нет, может предоставить от чьего-либо имени.
• Предоставьте людям безопасный путь вперед. Одобренные инструменты ИИ с четкими рекомендациями относительно того, какие категории данных можно использовать, делают санкционированный вариант самым простым. Люди обращаются к теневому ИИ ради продуктивности. Удовлетворение этой потребности снижает тягу к обходным путям.
• Защитите сами данные. Средства контроля, которые перемещаются вместе с данными, такие как деидентификация, маскирование и токенизация, означают, что даже если конфиденциальная информация попадет туда, куда не следует, она будет гораздо менее полезной для тех, у кого ее быть не должно.

От теневого ИИ к внедрению доверенного ИИ

Теневой ИИ никуда не денется. Новые инструменты будут продолжать появляться у ваших сотрудников быстрее, чем любой процесс утверждения сможет их оценить. Это не провал вашей программы безопасности. Это сигнал о том, что ИИ приносит пользу, которую хочет ваша организация.

Те организации, которые успешно справятся с теневым ИИ, перестанут воспринимать его как проблему инструментов. Когда вы знаете свои данные, контролируете доступ к ним и защищаете их везде, где бы они ни находились, вы можете с большей уверенностью сказать ИИ «да» и тратить меньше времени на то, чтобы догонять очередное несанкционированное приложение.

Узнайте, как портфель решений OpenText по безопасности данных помогает обнаруживать, контролировать и защищать конфиденциальные данные в вашей среде, чтобы внедрение ИИ происходило без риска утечки данных.

Далее в этой серии: забытые файлы, скрывающиеся в ваших репозиториях, и почему теневой ИИ может вернуть их к жизни.

Мутахарра Миан

Мутахарра Миан — менеджер по продуктовому маркетингу в OpenText, специализирующаяся на безопасности данных, конфиденциальности и анализе рисков. В настоящее время она руководит продуктовым маркетингом решения OpenText Voltage DSP, помогая организациям обнаруживать конфиденциальные данные, оценивать риски и укреплять инициативы по обеспечению соответствия требованиям. Учитывая растущую важность управления данными и их защиты, Мутахарра стремится помочь клиентам получить видимость и аналитическую информацию, необходимую для принятия обоснованных решений по безопасности и снижения рисков организации.