Самый рискованный элемент в вашей инфраструктуре в этом квартале — это, вероятно, не модель. Это папка с названием «Финансы — Общие», которую половина компании может открывать с 2019 года, плюс новый ИИ-ассистент, который может прочитать её, обобщить и процитировать по запросу.
ИИ не создал новую уязвимость. Он просто нанял самого дотошного читателя, который когда-либо был в вашей организации, и предоставил ему те же права доступа, которые уже есть у всех остальных.
Безопасность за счет неясности больше не работает
Данные с избыточными правами доступа всегда были известной, но тихой проблемой. Файлы были технически доступны, но практически не обнаруживаемы, потому что никто не просматривает 40 терабайт общих дисков в надежде найти соглашение о расторжении трудового договора. Риск существовал годами, оставаясь неиспользованным и находясь где-то ниже черты в каждом обзоре прав доступа.
ИИ-ассистенты приходят как инструменты поиска данных. Ассистент читает всё, до чего может дотянуться, и отвечает простым языком на основе найденного. Человек вряд ли случайно наткнулся бы на ту папку и, возможно, дважды подумал бы, прежде чем открывать её. Ассистент не делает ни того, ни другого. Права доступа не изменились, но безопасность за счет неясности терпит крах в эпоху ИИ.
Большая часть уязвимостей не в обучающей выборке
Существует распространенное мнение, что защита данных при использовании ИИ касается в основном обучающих данных. Для организаций, создающих свои собственные модели, это так. Для всех остальных речь идет о защите конфиденциальных данных, которые у вас уже есть, прежде чем до них доберется ИИ-инструмент. Генерация с дополнением поиска (RAG) составила 51 percent of production AI deployments. На долю дообучения (fine-tuning) пришлось всего 9% в том же опросе Menlo Ventures за 2024 год, и в его 2025 edition сообщается, что дообучение по-прежнему остается нишевым инструментом, используемым в основном передовыми командами.
Использование данных для RAG фундаментально отличается от использования данных для дообучения или создания модели. Обучающие данные требуют подмножества данных, которое отбирается и, будем надеяться, контролируется внутренней командой, добавляющей человеческое суждение в процесс. С другой стороны, процессы RAG часто направляют ИИ-ассистента на репозиторий и говорят ему: «это истина». Вопрос о том, к каким репозиториям может получить доступ этот инструмент, что в них на самом деле находится и кто изначально должен был иметь к ним доступ, является обязательным шагом для защиты организации.
Для команд по безопасности данных обеспечение безопасности данных для поиска — это часть работы, которая является постоянной, неблагодарной и полностью находится под вашим контролем.
У вашей модели доступа появился новый класс пользователей
ИИ-инструменты, агенты и стоящие за ними сервисные учетные записи читают данные весь день. Они проходят аутентификацию, наследуют права доступа и часто обладают более широкими полномочиями, чем любой отдельный сотрудник, потому что кто-то щедро предоставил их во время пилотного проекта, а потом никто к этому не возвращался.
Среди организаций, сообщивших об инциденте безопасности, связанном с ИИ, 97 процентов заявили, что им не хватало надлежащего контроля доступа для ИИ, согласно IBM’s Cost of a Data Breach 2025. Эта проблема связана не столько с «агентами-изгоями», сколько с правами доступа, которые никто не проверял.
Что устраняет пробел
Здесь есть немало того, что можно сделать. Начните с четырех шагов.
- Выясните, что на самом деле содержат репозитории. Классификация перед подключением. «Это просто диск маркетингового отдела» — это гипотеза, а не инвентаризация.
- Сначала пересмотрите права доступа к этим репозиториям. Ограничьте проверку доступа тем, что уже подключено или стоит в очереди на подключение, вместо того чтобы пытаться охватить всё сразу.
- Сократите объем данных. Избыточные и устаревшие данные нельзя извлечь, если они были обоснованно удалены в прошлом квартале.
- Защитите оставшиеся конфиденциальные значения. Маскирование, сохраняющее формат шифрование и токенизация позволяют использовать данные для бизнеса, в то время как сами значения остаются защищенными при передаче, хранении и в ответах.
Обнаружение уязвимости — это первый шаг, а не решение. Отчет со списком 4000 файлов с избыточными правами доступа полезен один раз. То, что меняет ваше положение, — это последующее исправление, которое означает корректировку доступа, минимизацию данных и защиту оставшихся значений.
Включите это в свой следующий обзор ИИ
ИИ-ассистенты вашей организации будут читать всё, что вы им позволите, и они не будут останавливаться, чтобы подумать, стоит ли это делать. Это решение было принято месяцы назад, при изменении прав доступа, которое никто не задокументировал. Хорошая новость заключается в том, что это всё еще можно исправить.
Ник Эрнест
Ник Эрнест — менеджер по продуктовому маркетингу в OpenText, специализирующийся на продвижении ИИ, машинного обучения и поведенческой аналитики в кибербезопасности. В настоящее время он руководит продуктовым маркетингом для OpenText ArcSight Intelligence и Cybersecurity Aviator. Благодаря захватывающим достижениям в области ИИ, Ник стремится предоставить клиентам инструменты, необходимые для защиты от сложных атак и внутренних угроз, обеспечивая безопасность и целостность их организаций.
