SR 26-2, замена SR 11-7 в 2026 году, выводит генеративный ИИ и ИИ-агенты из-под действия руководства США по рискам банковских моделей. Обязательства в отношении этих систем по-прежнему действуют, поэтому кто-то должен их тестировать. Вот как, по моему мнению, банкам, а также страховым компаниям и управляющим активами, сталкивающимся с теми же вопросами, следует закрыть этот пробел.
В апреле Федеральная резервная система, Управление контролера денежного обращения (OCC) и Федеральная корпорация по страхованию вкладов (FDIC) переписали руководство по управлению рисками моделей, которое определяет, как банки управляют рисками своих моделей. Старая версия, известная как , действовала с 2011 года, и команды по управлению рисками моделей по всей стране строили свои программы вокруг нее. Новая версия, , сохраняет большую часть прежней структуры. Одна сноска заставила меня задуматься: генеративный ИИ и ИИ-агенты вынесены за рамки области применения.
Подумайте о том, что это значит изнутри банка. Чат-боты, отвечающие на вопросы клиентов, вторые пилоты, составляющие проекты рекомендаций, агенты с доступом к основным системам: технологии, развивающиеся внутри финансовых учреждений быстрее всего, больше не подпадают под рамки, созданные для их проверки. Ведомства заявляют, что эти системы слишком новы и меняются слишком быстро, чтобы их можно было охватить прямо сейчас, и они планируют запросить мнение отрасли.
Я понимаю эту логику. Но я также знаю, как это работает на практике. Когда система оказывается вне процесса, никто четко не отвечает за ее тестирование. Между тем, правила, которые наиболее важны для клиентов никуда не делись. Справедливое кредитование по-прежнему применяется. То же самое касается защиты прав потребителей, рисков третьих сторон, кибербезопасности и ведения учета. Банк, внедряющий ИИ-помощника, несет ответственность за то, что этот помощник говорит.
Поэтому вот вопрос, который я бы задал руководителям подразделений рисков и комплаенс прямо сейчас: какие из ваших систем ИИ сегодня находятся вне вашего реестра моделей и кто их проверяет?
Когда мы тестируем эти системы, сбои редко похожи на хакерские атаки из фильмов. Они выглядят как обычные бизнес-проблемы. Клиентский помощник называет комиссию, которой нет в раскрытии информации. Внутренний второй пилот показывает данные счета одного клиента коллеге, у которого нет допуска к их просмотру. Помощник по урегулированию убытков говорит страхователю, что что-то покрывается страховкой, хотя это не так, или обрабатывает два практически одинаковых убытка по-разному. Инструмент для советника рекомендует продукт, который не подходит клиенту, или передает информацию, которая должна была оставаться закрытой. Это иллюстрации, а не выводы из нашего грядущего отчета, но они покажутся знакомыми людям, работавшим в банке, страховой компании или управляющей компании.
Ни одному из них не нужен злоумышленник. Они происходят, когда система делает именно то, для чего она была создана, в ситуации, которую никто не додумался протестировать. Наш Реестр инцидентов с агентами демонстрирует эту закономерность: по состоянию на 21 сентября 2026 года 109 из 529 задокументированных им инцидентов с агентами вообще не были связаны с противником. Это примерно каждый пятый случай.
Реестр инцидентов с агентами
Вот почему я считаю, что красный тиминг (red teaming) должен находиться в центре того, как финансовые учреждения осуществляют управление ИИ. Красный тиминг означает тестирование системы так, как это будет происходить в реальном мире, до того, как это сделают клиенты или проверяющие. В Enkrypt AI мы построили наш подход на нескольких убеждениях. Тестируйте весь пользовательский опыт клиента, включая инструменты, которые ИИ может использовать, и данные, к которым он может получить доступ, потому что никто не сталкивается с моделью изолированно. Начинайте с собственных обязательств организации, поскольку помощник по убыткам и инвестиционный второй пилот терпят неудачу по-разному. Оказывайте давление так, как это делают реальные люди, перефразируя, возражая и переключая языки. И оставляйте доказательства, которые команда по рискам может задокументировать, сопоставить с такими фреймворками, как National Institute of Standards and Technology (NIST) AI Risk Management Framework и Закон ЕС об искусственном интеллекте, и передать аудитору.
В октябре этого года мы публикуем исследование «Too Big to Fail Safe: Искусственный интеллект и риски в сфере финансовых услуг», посвященное тому, как ИИ проявляет себя в банковском деле, страховании и управлении активами. Это сектор, который быстро внедряет ИИ и не имеет права на ошибку. Я призываю вас прочитать его, помня о том же вопросе.
Вам не нужно ждать отчета, чтобы начать отвечать на него. Наш подход обеспечивает безопасность ИИ и защитные механизмы на платформе Anaconda: тестирование перед выпуском, адаптивные агенты красного тиминга, которые выходят за рамки фиксированного списка атак, и те же доказательства, переносимые в защитные механизмы после запуска системы в работу. Он работает внутри вашей собственной среды, поэтому ваши промпты и данные остаются в пределах вашего периметра безопасности. Если вы хотите посмотреть, как он будет тестировать одну из ваших систем, запросите демоверсию.
Часто задаваемые вопросы
Что такое SR 26-2?
SR 26-2 — это пересмотренное руководство по управлению рисками моделей Федеральной резервной системы, OCC и FDIC . Оно заменяет от 2011 года и наиболее актуально для банковских организаций с общими активами более 30 миллиардов долларов.
Охватывает ли SR 26-2 генеративный ИИ или ИИ-агенты?
Нет. Сноска в руководстве выводит модели генеративного ИИ и агентного ИИ за рамки своей сферы применения, поскольку они новы и быстро меняются. Вместо этого банкам рекомендуется опираться на более широкие практики управления рисками и руководства для таких систем.
Является ли генеративный ИИ в банковской сфере нерегулируемым в настоящее время?
Нет. Исключение применяется только к руководству по управлению рисками моделей. Обязательства в области справедливого кредитования, защиты прав потребителей, управления рисками третьих сторон, кибербезопасности и ведения учета по-прежнему применяются к любой системе ИИ, развертываемой банком.
Как банки могут тестировать генеративный ИИ, который выходит за рамки SR 26-2?
С помощью независимого красного тиминга: состязательного тестирования полного рабочего процесса, используемого клиентом или сотрудником, построенного на основе собственных обязательств организации. Результаты документируются и сопоставляются с такими фреймворками, как Фреймворк управления рисками ИИ NIST и Закон ЕС об искусственном интеллекте, чтобы их можно было внести в реестр рисков или аудиторский файл.
Сколько инцидентов с ИИ-агентами не связано со злоумышленниками?
Примерно каждый пятый. По состоянию на 21 сентября 2026 года 109 из 529 инцидентов с агентами в Реестре инцидентов с агентами Enkrypt AI не были связаны со злоумышленниками. Эти сбои происходят, когда система ведет себя так, как была запрограммирована, в ситуации, которую никто не тестировал.
Когда правила Закона ЕС об искусственном интеллекте в отношении высокого риска применяются к кредитному скорингу и расчету страховых тарифов?
Со 2 декабря 2027 года. Digital Omnibus, Regulation (EU) 2026/1744 вступил в силу 27 июля 2026 года и перенес крайний срок для автономных систем ИИ высокого риска в рамках Закона ЕС об искусственном интеллекте со 2 августа 2026 года. К таким системам относятся ИИ, используемый для оценки кредитоспособности физических лиц, и ИИ, используемый для оценки рисков и ценообразования в страховании жизни и здоровья.
