Самая рискованная вещь в вашей инфраструктуре в этом квартале, вероятно, вовсе не модель. Это папка с названием «Финансы — Общие», к которой половина компании имела доступ с 2019 года, а также новый ИИ-ассистент, который может прочитать её, обобщить и процитировать по запросу.
ИИ не создал новую уязвимость. Он просто нанял самого тщательного читателя за всю историю вашей организации и выдал ему те разрешения, которые уже есть у всех остальных.
Безопасность через неясность больше не работает
Избыточные права доступа всегда были известной и тихой проблемой. Файлы были технически доступны и практически необнаружимы, потому что никто не просматривает 40 терабайт общих дисков в надежде найти соглашение о расторжении контракта. Риск существовал годами, не будучи никем реализован, где-то ниже черты в любом аудите доступа.
ИИ-ассистенты появляются как инструменты извлечения данных. Ассистент читает всё, до чего может дотянуться, и отвечает простым языком на основе найденного. Человек вряд ли случайно наткнулся бы на эту папку и, возможно, трижды подумал бы, прежде чем открыть её. Ассистент не делает ни того, ни другого. Ничего в правах доступа не изменилось, но безопасность через неясность потерпела сокрушительный крах в эпоху ИИ.
Большая часть уязвимостей кроется не в обучающем наборе
Существует распространенное мнение, что защита данных ИИ в основном касается обучающих данных. Для организаций, создающих собственные модели, это так. Для всех остальных речь идет о защите конфиденциальных данных, которые у вас уже есть, до того, как до них доберется инструмент ИИ. Генерация с дополненным извлечением (RAG) составила 51 процент развертываний ИИ в рабочей среде. Тонкая настройка (fine-tuning) составила всего 9% в том же исследовании Menlo Ventures за 2024 год, а в выпуске за 2025 год сообщается, что тонкая настройка по-прежнему остается нишевым решением, используемым в основном передовыми командами.
Использование данных для RAG принципиально отличается от использования данных для тонкой настройки или создания модели. Обучающие данные требуют подмножества данных, которые отбираются и, желательно, контролируются внутренней группой, добавляющей человеческое суждение в процесс. С другой стороны, процессы RAG часто направляют ИИ-ассистента на репозиторий и говорят ему «это истина». Выяснение того, к каким репозиториям этот инструмент может получить доступ, что на самом деле находится в них и кто должен был иметь к ним доступ в первую очередь, является обязательным шагом для защиты организации.
Для команд по безопасности данных защита данных для извлечения — это непрерывная, неброская и полностью находящаяся под вашим контролем задача.
В вашей модели доступа появился новый класс пользователей
ИИ-инструменты, агенты и стоящие за ними сервисные аккаунты читают данные весь день. Они проходят аутентификацию, наследуют разрешения и часто обладают более широкими правами доступа, чем любой отдельный сотрудник, потому что кто-то щедро выделил их во время пилотного проекта, а затем никто к этому не возвращался.
Согласно отчету IBM «Стоимость утечки данных 2025» (Cost of a Data Breach 2025), среди организаций, сообщивших об инциденте безопасности, связанном с ИИ, 97 процентов заявили об отсутствии надлежащего контроля доступа для ИИ. Эта проблема связана не столько со взломанными агентами, сколько с правами доступа, которые никто не проверял.
Что устраняет этот разрыв
Здесь есть масса возможностей для действий. Начните с четырех шагов.
- Выясните, что на самом деле хранят репозитории. Классификация перед подключением. «Это просто маркетинговый диск» — это гипотеза, а не инвентаризация.
- Сначала просмотрите права доступа к этим репозиториям. Ограничьте проверку доступа тем, что уже подключено или находится в очереди на подключение, вместо того чтобы пытаться охватить всю инфраструктуру сразу.
- Сократите объем имеющихся данных. Избыточные и устаревшие данные не могут быть извлечены, если они были обоснованно удалены в прошлом квартале.
- Защитите оставшиеся конфиденциальные данные. Маскирование, сохраняющее формат шифрование и токенизация позволяют использовать данные для бизнеса, в то время как сами значения остаются защищенными при передаче, в состоянии покоя и в ответах.
Обнаружение уязвимости — это первый шаг, а не исправление. Отчет со списком 4000 файлов с избыточными правами полезен ровно один раз. То, что меняет вашу позицию, — это последующее устранение уязвимостей, что означает исправление доступа, минимизацию данных и защиту оставшихся ценностей.
Обсудите это на вашем следующем совещании по ИИ
ИИ-ассистенты вашей организации будут читать всё, что вы им позволите, и они не станут размышлять, стоит ли это делать. Это решение было принято несколько месяцев назад при изменении прав доступа, которое никто не задокументировал. Хорошая новость заключается в том, что это все еще можно исправить.
- Обеспечение доверия к данным для безопасного внедрения ИИ
- Снижение рисков с помощью управления доступом на основе идентификационных данных к неструктурированным данным
- 3 шага к расшифровке рисков данных
Ник Эрнест
Ник Эрнест — менеджер по продуктовому маркетингу в OpenText, специализирующийся на продвижении ИИ, машиннного обучения и поведенческой аналитики в сфере кибербезопасности. В настоящее время он управляет продуктовым маркетингом для решений OpenText ArcSight Intelligence и Cybersecurity Aviator. Благодаря захватывающим достижениям в области ИИ, Ник стремится предоставить клиентам инструменты, необходимые для защиты от продвинутых атак и внутренних угроз, обеспечивая безопасность и целостность их организаций.
