Искусственный интеллект (ИИ) прошел долгий путь в деле упрощения и повышения эффективности нашей жизни. Стремительный рост ИИ также эффективно формирует будущее гибридных и мультиоблачных сред, задействуя их масштабируемость, экономичность и гибкость, но при этом часто оставляя критически важный уровень безопасности далеко позади.
Многие организации внедряют коммерческие системы ИИ без должного внимания к безопасности и тому, как они могут быть использованы со злонамеренными целями, что фактически может подорвать общие преимущества самого ИИ. Когда данные распределены по различным средам, таким как публичные облака, частные облака и локальная инфраструктура, это создает чрезвычайно сложную поверхность атаки.
Давайте закроем пробел в обеспечении безопасности ИИ в гибридных и мультиоблачных средах
Согласно IBM’s 2025 Cost of Data Breach report, утечки, затрагивающие несколько сред, в настоящее время являются наиболее дорогостоящими и обходятся организациям в среднем в 5,05 млн долларов США. Из-за своей сложности они также требуют больше всего времени на устранение: в среднем уходит 276 дней (примерно 9 месяцев!), чтобы их обнаружить и локализовать.
Внутри этих распределенных сред цепочка поставок ИИ стала главной мишенью для атак. Компрометация в цепочке поставок, такая как приложения, API и плагины, является наиболее частой причиной инцидентов, связанных с безопасностью ИИ. Отчет IBM также подчеркивает, что более 15% утечек происходят из-за компрометации цепочки поставок. Теневой ИИ можно назвать еще одной отраслевой проблемой, которая часто приводит к утечке конфиденциальных данных клиентов. Удивительно, но 63% данных, скомпрометированных из-за использования теневого ИИ, на самом деле являются персональными данными (PII).
Несмотря на произошедшие в секторе нарушения безопасности и инциденты, то же исследование показало, что 97% организаций сообщают об отсутствии надлежащего контроля доступа к ИИ для обеспечения своей безопасности. Организации, столкнувшиеся с инцидентом безопасности теневого ИИ, сообщили, что скомпрометированные данные чаще всего были распределены по нескольким средам, включая платформы публичных облаков (62%).
Эффективная безопасность требует проактивного управления облаком, поскольку фрагментированные инструменты ИИ и слабый контроль доступа могут ограничить видимость и замедлить реагирование на угрозы. Надежные механизмы управления и руководства поэтому необходимы для обеспечения надлежащего контроля и управляемого использования систем ИИ и машинного обучения внутри организации.
Давайте посмотрим, как мы можем закрыть этот пробел.
Этап 1: Установите строгие правила управления ИИ и соблюдения нормативных требований для безопасного и ответственного использования ИИ
Эффективная безопасность ИИ не является исключением из общего подхода, когда процессы, меры и инструменты безопасности начинаются с установления правильного руководства. Без надлежащей стратегии и оценки сложно задать правильное направление для организации. Разрешено ли нам использовать ИИ в организации?
Если да, то какие варианты использования разрешены, а какие нет?
Существуют ли какие-либо официальные корпоративные инструменты?
Только когда вы знаете, что именно нужно защищать, вы можете определить, как это защитить.
Чтобы восстановить контроль над распределенными рабочими нагрузками ИИ, организации должны немедленно заняться решением проблемы дефицита политик. Отчет IBM за 2025 год показывает, что 63% организаций, столкнувшихся с утечками, не имели политик управления ИИ, способных управлять рисками или выявлять развертывания теневого ИИ. Без четкой подотчетности и механизмов утверждения рабочие нагрузки ИИ часто развертываются несогласованно в разных облачных средах, создавая «слепые зоны», которые могут использовать злоумышленники.
Чтобы устранить этот пробел в управлении, организации должны внедрить обязательные процессы утверждения на основе рисков для всех развертываний ИИ, включая модели собственной разработки, сторонние службы ИИ и встроенные компоненты ИИ в программных продуктах. Для организаций с высоким уровнем зрелости в сфере безопасности ИИ официальные рабочие процессы утверждения являются наиболее широко применяемыми и эффективными мерами управления. Они служат базовым инструментом контроля для обеспечения видимости и оценки рисков.
Платформы управления также должны соответствовать новым нормативным требованиям, в частности European Union Artificial Intelligence Act (EU AI Act) (opens in a new tab). Закон ЕС об искусственном интеллекте (EU AI Act) вводит подход к приложениям ИИ, основанный на оценке рисков, таких как те, которые затрагивают критическую инфраструктуру, занятость, здравоохранение и биометрическую идентификацию. Это накладывает строгие обязательства по соблюдению требований, включая документацию, управление рисками и надзор со стороны человека. Для организаций, работающих в нескольких юрисдикциях, раннее соответствие этим требованиям снижает регуляторные риски и повышает готовность организации.
Помимо разработки политик, управление должно быть операционализировано. Это включает в себя проведение регулярных аудитов для выявления несанкционированных инструментов ИИ, объединение команд по безопасности и комплаенсу для совместного обнаружения теневого ИИ, а также инвестиции в обучение грамотности в области ИИ в масштабах всей компании. Повышение осведомленности сотрудников имеет решающее значение, поскольку многие инциденты с теневым ИИ происходят из-за экспериментов с благими намерениями, а не из-за злого умысла. Внедряя управление в повседневную деятельность, организации могут восстановить видимость, контроль и соответствие требованиям, не замедляя ответственные инновации.
Этап 2: Внедрение системы управления рисками ИИ NIST на практике
После того как надлежащее управление было установлено, следующим шагом является оценка рисков и управление ими.
Обеспечение безопасности сложных рабочих нагрузок ИИ в мультиоблачных средах требует структурированного, повторяемого подхода. Система управления рисками искусственного интеллекта Национального института стандартов и технологий (NIST AI RMF 1.0) предоставляет такую основу, предлагая гибкую, но систематическую методологию для выявления, оценки и минимизации рисков, специфичных для ИИ, на протяжении всего жизненного цикла системы.
Стратегии управления должны быть построены вокруг четырех основных непрерывных функций AI RMF, упомянутых ниже.
- Управление (Govern): Эта основополагающая функция формирует культуру управления рисками сверху вниз, объединяя технические аспекты с организационными политиками для расширения возможностей и обучения команд.
- Картирование (Map): Фокус делается на контексте, понимании того, чем должна была стать система ИИ, ее среды, требований к данным и других заинтересованных сторон. Картирование особенно полезно для выявления рисков, связанных с мультиоблачными системами, которые могут создавать угрозы, связанные с размещением данных, их международной передачей и использованием внешних систем ИИ. Полное понимание этих аспектов позволит организации лучше прогнозировать будущие последствия.
- Измерение (Measure): В рамках этой функции внедряются новые показатели для оценки надежности ИИ с точки зрения безопасности, устойчивости, конфиденциальности и предвзятости. Измерение носит непрерывный характер и важно, поскольку сама система ИИ, а также ее среда со временем будут меняться.
- Контроль/Управление рисками (Manage): Заключительный шаг включает в себя управление рисками посредством их приоритезации и устранения.
Чтобы эти функции были эффективны на протяжении всего жизненного цикла ИИ, организации должны внедрить обязательные задачи тестирования, оценки, верификации и валидации (TEVV). NIST настоятельно рекомендует встраивать TEVV на всех этапах — от сбора данных и обучения моделей до развертывания и постпродакшн-мониторинга — для выявления возникающих уязвимостей, снижения производительности и непреднамеренных предвзятостей. В динамичных облачных средах непрерывный процесс TEVV имеет важнейшее значение для поддержания доверия к ИИ-системам с течением времени.
Фаза 3: Укрепление облачной цепочки поставок ИИ
Безопасность ИИ-нагрузок неотделима от безопасности поддерживающей их цепочки поставок программного обеспечения. В конце концов, цепь сильна настолько, насколько силен ее самый слабый звено.
Защита базовой инфраструктуры цепочки поставок ИИ, которая часто отличается сложностью и базируется на нескольких облаках, требует облачных средств контроля безопасности.
Применение подхода DevSecOps к разработке программного обеспечения является одним из наиболее эффективных факторов снижения общих затрат на утечку данных и может сэкономить организациям в среднем 227 192 долларов США на инцидент, согласно исследованию IBM 2025 года.
Интегрируя средства контроля безопасности непосредственно в конвейеры разработки и развертывания, организации теперь могут выявлять и устранять уязвимости на более ранних этапах, когда их устранение требует меньше затрат и менее разрушительно.
Для облачных сред ценным ориентиром служат рекомендации Технической консультативной группы (opens in a new tab) по безопасности Cloud Native Computing Foundation (CNCF TAG Security). Такие ресурсы, как NIST Cloud-Native Control Implementation guidance and Software Supply Chain Best Practices (opens in a new tab), предлагают стандартизированные средства контроля и конфигурации с безопасностью по умолчанию, адаптированные для распределенных контейнеризированных нагрузок.
Эти облачные стратегии должны быть специально адаптированы для снижения уникальных рисков, описанных в OWASP Top 10 for LLMs (opens in a new tab). Например, проактивная защита должна противодействовать отравлению обучающих данных (LLM03), когда злоумышленники манипулируют данными, чтобы ухудшить поведение модели и ее безопасность. Аналогичным образом, команды должны тщательно проверять свою зависимость от сторонних интеграций, чтобы предотвратить уязвимости в цепочке поставок (LLM05) и небезопасный дизайн плагинов (LLM07), которые могут обрабатывать ненадежные входные данные и приводить к серьезным эксплойтам, таким как удаленное выполнение кода и утечки данных.
Фаза 4: Усиление контроля идентификации и защитных механизмов на базе ИИ
Проблемы с управлением доступом и идентификацией остаются главной первопричиной инцидентов безопасности, связанных с ИИ. Организации должны строго управлять как человеческими, так и нечеловеческими идентификаторами (NHI), такими как ИИ-агенты и API, работающими в их облачных средах. Это требует обеспечения надлежащего управления жизненным циклом, использования защищенных учетных данных и непрерывного поведенческого мониторинга, чтобы гарантировать, что ИИ-агенты работают исключительно в пределах заданных параметров. Кроме того, первостепенное значение имеет внедрение принципов нулевого доверия (Zero Trust) для обеспечения надлежащей безопасности доступа к среде, и ИИ-идентификаторы здесь не исключение. Интересно, что большинство организаций, внедривших нулевое доверие, сосредоточились на человеческих идентификаторах, оставив NHI без надлежащего мониторинга и контроля доступа.
Помимо обеспечения надлежащего управления идентификацией, команды безопасности должны повысить свою эффективность, используя ИИ для обработки масштаба и сложности атак на многооблачный ИИ.
Правило простое: чтобы защитить ИИ, организации должны действовать со скоростью ИИ.
Согласно отчету IBM 2025 года «Стоимость утечки данных», использование ИИ и автоматизации в операциях безопасности может значительно ускорить время реагирования и сократить жизненный цикл утечки в среднем на 80 дней. С финансовой точки зрения эта операционная скорость конвертируется в колоссальную экономию, снижая средние затраты на утечку на 1,9 миллиона долларов США по сравнению с организациями, которые не используют ИИ для обеспечения безопасности.
Безопасность в сфере ИИ — непрерывный процесс
Обеспечение безопасности ИИ-нагрузок в гибридной и многооблачной цепочке поставок ИИ — это не разовая техническая задача, а непрерывный процесс управления.
По мере ускорения внедрения ИИ организации должны находить баланс между инновациями и строгостью, внедряя управление, стандартизированные фреймворки рисков, облачные средства контроля цепочки поставок и автоматизированную защиту на каждом этапе жизненного цикла ИИ.
Этот комплексный и проактивный подход — лучший способ помочь предприятиям снизить риски, соблюдать нормативные требования и поддерживать доверие к системам на базе ИИ в условиях все более сложного ландшафта угроз.
Выявление пробелов в безопасности — важный шаг, который поможет вашему бизнесу расширить присутствие ИИ. Начните с оценки управления ИИ, анализа устойчивости цепочки поставок и оценки средств контроля доступа уже сегодня. Свяжитесь с нами для получения беспристрастной оценки и рекомендаций, которые помогут вам обеспечить безопасность ваших ИИ-нагрузок.
