Популярность ИИ-чат-ботов растет, а их доступность быстро увеличивается. Они повсюду: на вашем ПК, телефоне, планшете и даже в умных колонках IoT. И это хорошо, ведь они могут быть очень полезны, например, для составления резюме рабочих документов, решения математических задач, создания сложных графиков и многого другого.

Это было бы невозможно, если бы ИИ не знал множества вещей… даже о самом пользователе. Но постойте, должен ли он на самом деле это знать?

Дело в том, что многие пользователи относятся к чат-ботам как к своим «друзьям», доверенным лицам, дающим полезные советы, но на самом деле это совсем не так. По правде говоря, вы не знаете, где могут оказаться ваши данные, поэтому, прежде чем просить совета по вопросам терапии, здоровья, права или других личных тем, подумайте о последствиях, прежде чем нажать кнопку «отправить» для своего запроса.

Месяц осведомленности о кибербезопасности (каждый октябрь) — это своевременное напоминание о том, что обеспечение безопасности включает в себя не только предотвращение вредоносного ПО; защита информации также играет важную роль. В эпоху ИИ-чат-ботов знание того, чем не стоит делиться, стало важной цифровой привычкой.

Основные тезисы этой статьи: ИИ-чат-боты могут запоминать и повторно использовать больше ваших разговоров, чем вы можете себе представить. Некоторые детали никогда не должны попадать в запрос, независимо от того, насколько полезным может быть ответ. Короткая пауза перед отправкой запроса может предотвратить попадание конфиденциальной информации туда, где ей не место. Анонимизация может сделать запросы более безопасными, но контекст все равно может раскрыть больше, чем планировалось. Более безопасное использование ИИ начинается с одобренных инструментов, осторожных запросов и допущения, что ничем из того, чем вы делитесь, нельзя считать по-настоящему конфиденциальным.

Основные тезисы этой статьи:

ИИ-чат-боты могут запоминать и повторно использовать больше ваших разговоров, чем вы можете себе представить.
Некоторые детали никогда не должны попадать в запрос, независимо от того, насколько полезным может быть ответ.
Короткая пауза перед отправкой запроса может предотвратить попадание конфиденциальной информации туда, где ей не место.
Анонимизация может сделать запросы более безопасными, но контекст все равно может раскрыть больше, чем планировалось.
Более безопасное использование ИИ начинается с одобренных инструментов, осторожных запросов и допущения, что ничем из того, чем вы делитесь, нельзя считать по-настоящему конфиденциальным.

ИИ-чат-боты запоминают больше, чем вы думаете

В зависимости от выбранной вами платформы, ИИ-чат-боты, такие как ChatGPT, Claude или Copilot, обычно сохраняют введенные данные, чтобы они могли быть:

найдены пользователем в будущем
сохранены как часть более широкого контекста о человеке (память) или его работе
проверены владельцем платформы на предмет нарушений Условий обслуживания (ToS) и для повышения безопасности
использованы для улучшения сервисов (будущие разработки) и многое другое

Большая часть этого делается для того, чтобы сделать использование ИИ более удобным. Однако в основе лежит улучшение моделей — будь то обучение, тестирование или тонкая настройка, при этом запросы пользователей предоставляют разнообразные человеческие данные. Это, а также статистика использования, помогают провайдерам понять, где нужны более специфические модели или возможности. Тем не менее, это не означает, что каждый запрос автоматически используется для обучения, так как методы различаются в зависимости от платформы и настроек учетной записи.

Кроме того, информация может быть раскрыта из-за инцидентов безопасности на стороне провайдера, общих ссылок на чаты или интеграций, которые передают запросы другим сервисам.

Кроме того, информация может быть раскрыта из-за инцидентов безопасности на стороне провайдера, общих ссылок на чаты или интеграций, которые передают запросы другим сервисам.

Небольшая оговорка: не все ИИ-платформы одинаковы. Некоторые из них действительно предлагают нулевое хранение данных (ZDR) и обещают не использовать пользовательские данные для обучения. Тем не менее, прежде чем приступать к работе с какой-либо конкретной моделью, ознакомьтесь с правилами обработки данных компании и проверьте настройки конфиденциальности, чтобы знать, чего ожидать.

Пять вещей, которыми никогда не стоит делиться

Несмотря на то, что существуют варианты платформ, заботящиеся о конфиденциальности и суверенитете данных, пользователям все равно следует проявлять осторожность. Политики, условия использования и приоритеты компаний меняются, поэтому однажды ваши данные также могут начать скармливаться ИИ-монстру для обучения. Вот несколько советов о том, что лучше держать в секрете:

Пароли и учетные данные: имена пользователей, пароли к учетным записям, коды восстановления MFA, секретные вопросы для восстановления доступа к учетной записи

Память чат-бота может показаться удобной, но хранение или просмотр ваших учетных данных может легко раскрыть их, например, во время случайных процессов проверки запросов.

Память чат-бота может показаться удобной, но хранение или просмотр ваших учетных данных может легко раскрыть их, например, во время случайных процессов проверки запросов.

Чувствительная персональная информация (SPII): данные удостоверений личности и паспортов, домашние адреса, финансовые данные.

Технически, часть этой информации может передаваться ИИ-провайдеру при оплате подписки, но эта информация обычно строго защищена по причинам соблюдения нормативных требований. Однако это не относится к случаям, когда она попадает в чат-бот, и если к ней получит доступ кто-то посторонний, это может способствовать краже личных данных.

Технически, часть этой информации может передаваться ИИ-провайдеру при оплате подписки, но эта информация обычно строго защищена по причинам соблюдения нормативных требований. Однако это не относится к случаям, когда она попадает в чат-бот, и если к ней получит доступ кто-то посторонний, это может способствовать краже личных данных.

Конфиденциальная рабочая информация: внутренние отчеты, данные клиентов, планы продуктов, исходный код, непубличная деловая информация

Может показаться продуктивным поручить ИИ составить резюме конфиденциального документа. Однако, если инструмент не одобрен для такого типа информации и не покрывается соглашением вашего работодателя с провайдером, его загрузка может нарушить политику компании, договорные обязательства или требования по защите данных — и может быть расценена как инцидент безопасности. Например, в 2023 году сотрудники Samsung, как сообщается, вставили проприетарный исходный код, информацию о тестировании полупроводников и заметки с внутреннего совещания в ChatGPT, используя его для помощи в повседневных рабочих задачах. Этот инцидент показал, как легко инструмент для повышения продуктивности может вывести конфиденциальную информацию из-под контроля организации.

Может показаться продуктивным поручить ИИ составить резюме конфиденциального документа. Однако, если инструмент не одобрен для такого типа информации и не покрывается соглашением вашего работодателя с провайдером, его загрузка может нарушить политику компании, договорные обязательства или требования по защите данных — и может быть расценена как инцидент безопасности.

Например, в 2023 году сотрудники Samsung, как сообщается, вставили проприетарный исходный код, информацию о тестировании полупроводников и заметки с внутреннего совещания в ChatGPT, используя его для помощи в повседневных рабочих задачах. Этот инцидент показал, как легко инструмент для повышения продуктивности может вывести конфиденциальную информацию из-под контроля организации.

Медицинские и особо чувствительные персональные данные: медицинские карты, результаты анализов, детали лечения и многое другое.

Конечно, люди делятся чувствительной информацией, когда ищут совета в сложных жизненных ситуациях. Но ИИ — это не медицинский работник, и он не сможет лечить вашу проблему так, как это сделал бы настоящий врач, связанный этикой и законом, обязывающими хранить ваши данные в безопасности.

Конечно, люди делятся конфиденциальной информацией, когда ищут совета в сложных жизненных ситуациях. Но ИИ — это не медицинский работник, и он не сможет подойти к вашей проблеме так, как это сделал бы настоящий врач, связанный этическими нормами и законом о защите ваших данных.

Информация о других людях: данные коллег, записи о клиентах, частные разговоры, контактная информация и многое другое.

Защита конфиденциальности означает также и защиту данных других людей. Во-первых, любая утечка опасна, и, делая это без ведома человека, вы не только нарушаете несколько этических и моральных правил, но и потенциально подвергаете этих людей риску серьезных неприятностей в будущем, если эти данные окажутся там, где не должны были. Например, в 2025 году тысячи диалогов в ChatGPT, которыми поделились через публичные ссылки, попали в результаты поиска, причем некоторые из них содержали личные или профессиональные подробности. Чаты не были украдены из частных аккаунтов, но этот инцидент показал, как простая функция обмена данными может сделать разговор гораздо более публичным, чем ожидали пользователи.

Защита конфиденциальности означает также и защиту данных других людей. Во-первых, любая утечка опасна, и, делая это без ведома человека, вы не только нарушаете несколько этических и моральных правил, но и потенциально подвергаете этих людей риску серьезных неприятностей в будущем, если эти данные окажутся там, где не должны были.

Например, в 2025 году тысячи диалогов в ChatGPT, которыми поделились через публичные ссылки, попали в результаты поиска, причем некоторые из них содержали личные или профессиональные подробности. Чаты не были украдены из частных аккаунтов, но этот инцидент показал, как простая функция обмена данными может сделать разговор гораздо более публичным, чем ожидали пользователи.

Более того, помните, что промпт — это не только текст, который вы вводите. Загруженные документы, скриншоты, изображения, голосовые записи и информация, полученная через подключенные приложения, могут содержать те же конфиденциальные данные — иногда скрытые в метаданных, комментариях или фоновом контенте... все это умный ИИ может увидеть и использовать, поэтому не удивляйтесь, когда ваш ИИ подтянет для контекста исправленный комментарий из Word.

Думайте, прежде чем писать промпт

Прежде чем чем-то поделиться, всегда спрашивайте себя:

Является ли эта информация публичной?
Поделился бы я этим на публичном форуме?
Есть ли у меня разрешение делиться этим?
Будет ли мне комфортно, если это всплывет в результате утечки данных?

Если ответ «нет», то никогда не вставляйте это в чат-бот.

Частные чаты не обязательно являются приватными. Приватные, инкогнито или временные режимы чата могут снизить риск утечки, скрывая разговор из вашей видимой истории или исключая его из процесса обучения модели. Но слово «приватный» может вводить в заблуждение: провайдер все равно может хранить разговор в течение ограниченного периода времени для обнаружения злоупотреблений, расследования проблем безопасности или выполнения юридических обязательств. Эти режимы также не защищают информацию, отправляемую через плагины, подключенные приложения, общие ссылки или другие сторонние сервисы.

Частные чаты не обязательно являются приватными

Приватные, инкогнито или временные режимы чата могут снизить риск утечки, скрывая разговор из вашей видимой истории или исключая его из процесса обучения модели. Но слово «приватный» может вводить в заблуждение: провайдер все равно может хранить разговор в течение ограниченного периода времени для обнаружения злоупотреблений, расследования проблем безопасности или выполнения юридических обязательств. Эти режимы также не защищают информацию, отправляемую через плагины, подключенные приложения, общие ссылки или другие сторонние сервисы.

Используйте ИИ безопасно

Если вы все же хотите поделиться чем-то с чат-ботом, есть способ сделать ваш промпт «безопаснее»:

Удаление имен и идентификаторов
Использование вымышленных или анонимизированных примеров вместо реальных проблем
Самостоятельное обобщение конфиденциальных документов перед тем, как просить ИИ о помощи
Использование одобренных корпоративных ИИ-инструментов с защитой данных, если они доступны на работе

Обратите внимание: одобрение — это не карт-бланш. Проверьте, какие классификации данных разрешено обрабатывать инструменту, включена ли история чатов или память, и могут ли внешние плагины, коннекторы или функции веб-поиска отправлять информацию за пределы контролируемой организацией среды, чтобы обеспечить дополнительную безопасность.

Обратите внимание: одобрение — это не карт-бланш. Проверьте, какие классификации данных разрешено обрабатывать инструменту, включена ли история чатов или память, и могут ли внешние плагины, коннекторы или функции веб-поиска отправлять информацию за пределы контролируемой организацией среды, чтобы обеспечить дополнительную безопасность.

Имейте в виду, что умный чат-бот вполне может вычислить индивидуально значимые детали на основе истории ваших промптов, даже если вы анонимизируете данные. Такова природа машинного обучения, и хотя вам может казаться, что удаление разговора стирает его следы, это не обязательно так. Удаление разговора может снизить риск утечки, но это не должно рассматриваться как доказательство того, что все копии исчезли (вспомните о хранении данных и о том, как обучается ИИ).

Поэтому, если вы поняли, что поделились чем-то конфиденциальным, действуйте в зависимости от того, что было раскрыто. Немедленно замените учетные данные, удалите чат и очистите всю сохраненную память, где это возможно, а также сообщите о рабочих, клиентских или сторонних данных через соответствующий канал безопасности или конфиденциальности.

Пользователи могут закрепить эти привычки с помощью средств контроля безопасности, разработанных специально для использования ИИ. Функции ESET AI Security анализируют промпты и ответы в режиме реального времени, помогая предотвратить загрузку конфиденциальной информации в публичные чат-боты, а также обнаруживая вредоносные ссылки, скрипты и другой рискованный контент.

Пользователи могут закрепить эти привычки с помощью средств контроля безопасности, разработанных специально для использования ИИ. Функции ESET AI Security анализируют промпты и ответы в режиме реального времени, помогая предотвратить загрузку конфиденциальной информации в публичные чат-боты, а также обнаруживая вредоносные ссылки, скрипты и другой рискованный контент.

Заключение: относитесь к ИИ как к публичному форуму

Конечно, ИИ может повысить продуктивность и креативность, но пользователям следует проявлять ту же осторожность, что и при обмене информацией со знакомыми: это хорошо для поверхностных разговоров, но если вы не хотите поставить себя в неловкое положение, держите большинство деталей при себе.

FAQ: использование ИИ-чат-ботов

Являются ли разговоры с ИИ-чат-ботами приватными?

Не обязательно. То, как разговоры хранятся, проверяются или используются, зависит от провайдера, продукта, типа учетной записи и настроек конфиденциальности. Относитесь к потребительскому чат-боту как к стороннему сервису, а не как к доверенному лицу, и ознакомьтесь с его текущими условиями обработки данных, прежде чем делиться чем-то конфиденциальным.

Удаляет ли удаление чата данные полностью?

Удаление разговора обычно убирает его из вашей видимой истории, но это может не привести к немедленному стиранию всех сохраненных копий или операционных журналов. Сроки хранения и исключения различаются в зависимости от сервиса, поэтому ознакомьтесь с информацией провайдера о конфиденциальности и хранении данных.

Достаточно ли анонимизации информации, чтобы сделать промпт безопасным?

Это снижает риск, но не дает полной гарантии. Сочетание деталей, контекста или предыдущих запросов все равно может позволить идентифицировать вовлеченное лицо или организацию. Удаляйте ненужные подробности, по возможности используйте вымышленные примеры и не отправляйте информацию, на распространение которой у вас нет разрешения.

Являются ли корпоративные ИИ-инструменты более безопасными для рабочей информации?

Одобренные корпоративные инструменты могут обеспечивать более надежную договорную защиту, административный контроль и ограничения на использование данных клиентов для обучения моделей. Тем не менее, сотрудники должны соблюдать политики своей организации в отношении конфиденциальности и использования данных, а также делиться только той информацией, которую разрешено обрабатывать с помощью данного инструмента.

Что делать, если я поделился конфиденциальной информацией?

По возможности удалите переписку, очистите сохраненную память и, если применимо, отзовите доступ для подключенных приложений. Кроме того, немедленно замените все скомпрометированные пароли, коды восстановления или другие учетные данные. Если были затронуты данные компании, клиентов или третьих лиц, сообщите об инциденте своему работодателю или службе безопасности, вместо того чтобы пытаться справиться с этим самостоятельно.