Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Ii nikogda ne zabyvaet vy uvereny chto eto funktsiya
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

ИИ никогда не забывает… вы уверены, что это функция?

Источник: Capgemini•17 ноября 2026 г. в 05:55

ИИ никогда не забывает… вы уверены, что это функция?

Мы годами учили системы тому, когда нужно забывать. Удалять старые записи. Минимизировать персональные данные. Определять сроки хранения. Выполнять запросы на удаление. Теперь мы создаем ИИ-агенты специально для того, чтобы они помнили. Звучит полезно… и это так.

Мы годами учили системы тому, когда нужно забывать.

Удалять старые записи. Минимизировать персональные данные. Определять сроки хранения. Выполнять запросы на удаление.

Теперь мы создаем ИИ-агенты специально для того, чтобы они помнили.

Звучит полезно… и это так.

Агент, который помнит ваши предпочтения, предыдущие решения, контекст клиента, текущие задачи или уроки прошлых взаимодействий, может предоставлять гораздо более качественный сервис, чем тот, который всегда начинает с нуля.

Но постоянная память порождает новый вопрос:

Что ИИ-агенту должно быть дозволено помнить и когда ему следует забывать?

ИИ помнит далеко не всё. Разные системы используют память совершенно по-разному. Но агентные системы все чаще способны сохранять постоянную информацию между сеансами: пользовательский контекст, историю разговоров, цели, предпочтения и многое другое, что помогает обеспечивать согласованность.

Проект Open Worldwide Application Security Project (OWASP) теперь рассматривает память агентов как отдельную поверхность безопасности и особо предупреждает об отравлении памяти. Это означает, что вредоносная или неверная информация сохраняется в постоянной памяти и влияет на последующее поведение. В его руководстве рекомендуется изоляция памяти, лимиты срока действия и проверка конфиденциальной информации перед ее сохранением.

Таким образом, память — это не просто функция, это нечто, требующее жизненного цикла.

Что именно запомнил агент?

Представьте себе ИИ-агента, помогающего сотруднику службы поддержки.

В ходе беседы он узнает, что конкретный клиент считается лицом с высоким уровнем риска. Позже эта информация влияет на то, как агент обрабатывает другой запрос.

Но тут же возникает целый ряд вопросов:

  • Откуда взялась эта информация?
  • Была ли она проверена?
  • Остается ли она точной?
  • Должна ли она вообще была стать частью постоянной памяти?
  • Кто может ее исправить?

Именно здесь память начинает сильно отличаться от традиционного поля базы данных. Сотрудники могут даже не знать, какие именно сведения агент сохранил или какие из них влияют на его будущие решения.

Следовательно, ошибка может пережить взаимодействие, в котором она была совершена.

Хуже того, вредоносная информация тоже может сохраниться. OWASP описывает атаки, при которых манипулированный контент сохранялся в памяти агента, что затем отражалось на последующих сеансах.

Удаление источника тоже может не решить проблему.

Теперь рассмотрим другой сценарий.

Клиент просит удалить его персональные данные. Итак, вы удаляете их из CRM.

Но была ли часть этой информации скопирована в постоянную память агента, хранилище контекста или другой компонент, используемый для персонализации будущих взаимодействий?

Если да, то удаление исходной записи может автоматически не удалить каждую копию, созданную в другом месте архитектуры ИИ.

Это важно, потому что правила защиты данных никуда не исчезли с появлением ИИ. GDPR включает такие принципы, как минимизация данных и ограничение срока их хранения, а также право на удаление при определенных обстоятельствах. Управление комиссара по информации Великобритании аналогичным образом подчеркивает, что системы ИИ не должны хранить персональные данные дольше, чем это необходимо, просто потому, что они могут пригодиться в будущем.

Недостаточно просто спросить, способен ли агент все это запомнить, вопрос также заключается в том, должен ли он что-то помнить, с какой целью и как долго.

У памяти должен быть владелец

Прежде чем активировать постоянную память для ИИ-агента, организации должны быть способны ответить на следующие вопросы:

  • Какую информацию агент может сохранять?
  • Какая информация ни в коем случае не должна становиться постоянной памятью?
  • Как долго хранится память?
  • Кто может просматривать, исправлять или удалять ее?
  • Что происходит, когда исходные данные меняются или удаляются?
  • Можем ли мы определить, какие именно воспоминания повлияли на важное действие или решение?

Это не просто вопрос технической настройки.

Он относится к сфере конфиденциальности, безопасности, управления записями, рисков, комплаенса и бизнес-владения.

Потому что агент, который помнит, со временем может стать более полезным. Тем не менее он также может накапливать устаревшие предположения, конфиденциальную информацию и ошибки.

Годами организации беспокоились о том, достаточно ли знает ИИ. С постоянными ИИ-агентами нам, возможно, скоро придется беспокоиться о противоположном: знает ли ваш ИИ, когда пора забыть?

← Все статьи

О чём эта статья

Ещё в разделе «Системная интеграция и IT-услуги»

Все →
Амбиции в сфере ИИ опережают готовность данных в налоговых и финансовых подразделениях, показало исследование EY
EY

Амбиции в сфере ИИ опережают готовность данных в налоговых и финансовых подразделениях, показало исследование EY

Думаете об автоматизации рабочего процесса? 5 вопросов, которые стоит задать в первую очередь
Nordcloud

Думаете об автоматизации рабочего процесса? 5 вопросов, которые стоит задать в первую очередь

MuleSoft Terraform расширяет покрытие: управление доступом, Transit Gateway, Exchange и MCP Bridge
MuleSoft

MuleSoft Terraform расширяет покрытие: управление доступом, Transit Gateway, Exchange и MCP Bridge

Почему корпоративная кибербезопасность должна развиваться вместе с ИИ
Endava

Почему корпоративная кибербезопасность должна развиваться вместе с ИИ

Fern теперь является платформой Postman для порталов разработчиков API
Postman

Fern теперь является платформой Postman для порталов разработчиков API

SC26: IBM демонстрирует прогресс в объединении квантовых и высокопроизводительных вычислений
IBM

SC26: IBM демонстрирует прогресс в объединении квантовых и высокопроизводительных вычислений

Ещё от Capgemini

От амбиций в области ИИ к реальному влиянию на CX: почему во главе трансформации должен оставаться человек
Capgemini

От амбиций в области ИИ к реальному влиянию на CX: почему во главе трансформации должен оставаться человек

Для качественного банкинга нужны люди и ИИ
Capgemini

Для качественного банкинга нужны люди и ИИ

Для создания надежного ИИ нужна не просто лучшая модель. Нужна лучшая система.
Capgemini

Для создания надежного ИИ нужна не просто лучшая модель. Нужна лучшая система.

Realities Remixed — серия подкастов
Capgemini

Realities Remixed — серия подкастов

Muse and Dots: человеко-искусственный интеллект вступает в коммерцию
Capgemini

Muse and Dots: человеко-искусственный интеллект вступает в коммерцию

От управления доступом к управлению намерениями
Capgemini

От управления доступом к управлению намерениями