Годами модернизация государственного сектора во многом сводилась к возможностям подключения: объединению большего числа систем, обеспечению доступности большего объема данных и предоставлению командам более быстрого доступа к нужной информации.
Но требования ИИ к данным порождают еще одну новую проблему: данные, наиболее ценные для эффективного обучения ИИ и достижения поставленных задач, зачастую являются теми самыми данными, которые ведомства имеют все основания держать в изоляции.
Секретную разведывательную информацию нельзя просто передать внешним службам ИИ, равно как и конфиденциальная информация не должна свободно циркулировать по ИТ-инфраструктуре. Ведомствам необходима базовая архитектура данных, которая удерживает конфиденциальную информацию в пределах установленных границ безопасности, но при этом обеспечивает контролируемый доступ к ней для аналитики и систем ИИ. Это означает необходимость внедрения ИИ непосредственно к данным, которые нельзя перемещать или подвергать рискам, что делает архитектуру данных с воздушным зазором критически важной основой для ИИ в государственном секторе.
Внутри изолированной среды (Airgapped Environment)
Изолированная среда (airgapped environment) — это защищенная сеть или система хранения данных, которая намеренно отделена от внешних или ненадежных сетей. Такое разделение дает государственным организациям больше контроля над конфиденциальными данными и рабочими нагрузками за счет снижения их подверженности внешним системам.
Однако эта изоляция создает очевидную проблему для использования ИИ.
Рассмотрим команду, работающую в сложной обстановке с доступом к локальным потокам данных с датчиков и оперативной информации. Модель ИИ могла бы помочь сопоставить эти данные и выявить возникающую угрозу, но исходные данные не могут покидать защищенную среду, а связь с внешними службами может быть ограничена или полностью отсутствовать. Если для использования этой модели требуется отправка данных во внешнюю службу, то данная технология несовместима с требованиями безопасности миссии и реалиями работы в изолированной среде.
Возможность ИИ должна функционировать внутри изолированной среды, где находятся сами данные. Это позволяет командам анализировать конфиденциальную информацию и действовать на основе полученных выводов, сохраняя при этом границы безопасности вокруг самих данных. В изолированной среде изоляция становится частью того, как ИИ развертывается, регулируется и в конечном итоге используется.
Для организаций государственного сектора такая гибкость может определить, сможет ли ИИ вообще применяться в критически важных для выполнения задач условиях.
Внедрение ИИ к данным без ущерба для контроля
Чтобы понять, как ИИ может работать в изолированных средах, важно разграничивать архитектуру с воздушным зазором (airgapped architecture) и частный ИИ (private AI). Архитектура с воздушным зазором и частный ИИ решают взаимосвязанные, но разные задачи.
Архитектура с воздушным зазором изолирует системы и данные от внешних сетей, создавая четкие границы безопасности.
Частный ИИ фокусируется на сохранении контроля над самим ИИ, включая данные, к которым он может получить доступ, используемые им модели, места выполнения выводов (inference), а также способы развертывания этих возможностей и доступа к ним.
Частный ИИ может работать в подключенных средах, но при развертывании в рамках изолированной среды эти возможности ИИ функционируют в тех же границах безопасности, что и используемые ими конфиденциальные данные. Вместе они позволяют ведомствам развертывать ИИ в высокобезопасных, изолированных средах, сохраняя при этом контроль над конфиденциальными данными, моделями и операциями ИИ в рамках этих границ безопасности.
В сфере обороны эта проблема особенно заметна в JADC2 — концепции Министерства обороны США по объединению данных и возможностей между различными видами войск и доменами. JADC2 подчеркивает, почему так важно приблизить ИИ к данным. Успех этой концепции зависит от превращения данных со всей территории выполнения задач в информацию, которую лица, принимающие решения, могут использовать, даже если часть данных должна оставаться в защищенных или секретных средах.
Более того, инициатива CJADC2 требует обмена данными между международными партнерами по коалиции, что увеличивает масштаб и сложность ИТ-инфраструктуры, а также предъявляет различные требования к суверенитету данных в странах или регионах, где они хранятся или обрабатываются. Архитектуры с воздушным зазором могут помочь ведомствам сохранить контроль над своими данными, управляя не только тем, где хранится информация, но и тем, где данные обрабатываются, где запускаются модели ИИ и какие системы имеют к ним доступ.
Что делает изолированную среду готовой к работе с ИИ?
Хранение конфиденциальных данных в изолированной среде снижает уязвимость перед внешними угрозами, но поднимает другой важный вопрос: могут ли команды доверять работающему в ней ИИ?
Изолированная система ИИ все равно может выдавать ненадежные результаты, если она опирается на устаревшие, неполные, плохо управляемые или неверно понятые данные. Поскольку ведомства внедряют ИИ в изолированные среды, архитектура должна делать больше, чем просто изолировать конфиденциальную информацию. Она должна поддерживать управление (governance), жизненный цикл данных и операционные возможности, необходимые для того, чтобы сделать эту информацию пригодной для критически важных задач ИИ.
Прежде чем масштабировать ИИ в изолированных средах, ведомствам следует тщательно проверить себя по нескольким ключевым вопросам:
- Могут ли команды проследить происхождение данных, лежащих в основе сгенерированного ИИ вывода, вплоть до их источника и понять, как они изменились?
Могут ли команды проследить происхождение данных, лежащих в основе сгенерированного ИИ вывода, вплоть до их источника и понять, как они изменились?
- Можно ли подготавливать, обрабатывать и использовать данные для ИИ, не покидая защищенную среду?
Можно ли подготавливать, обрабатывать и использовать данные для ИИ, не покидая защищенную среду?
- Могут ли несколько аналитических и ИИ-нагрузок безопасно использовать одни и те же управляемые данные без создания лишних копий?
Могут ли несколько аналитических и ИИ-нагрузок безопасно использовать одни и те же управляемые данные без создания лишних копий?
- Можно ли развертывать и обновлять модели и возможности ИИ без раскрытия конфиденциальных данных?
Можно ли развертывать и обновлять модели и возможности ИИ без раскрытия конфиденциальных данных?
- Могут ли подготовка данных, аналитика, обслуживание моделей, управление и мониторинг продолжать работу без доступа к внешним службам?
Могут ли подготовка данных, аналитика, обслуживание моделей, управление и мониторинг продолжать работу без доступа к внешним службам?
- Можно ли поддерживать те же политики безопасности, доступа и управления по мере изменения данных и рабочих нагрузок?
Можно ли поддерживать те же политики безопасности, доступа и управления по мере изменения данных и рабочих нагрузок?
Ответы на эти вопросы определяют, сможет ли изолированная среда поддерживать ИИ с тем уровнем доверия, которого требуют подобные сценарии использования. Архитектура данных с воздушным зазором должна обеспечивать безопасность, надежность и пригодность данных на протяжении всего жизненного цикла ИИ.
От изоляции безопасности к операционной устойчивости
Изолированные среды всегда определялись через их оторванность от внешнего мира. ИИ расширяет их роль. Ведомствам все больше требуются такие среды для поддержки обработки данных, аналитики и ИИ при сохранении тех защитных мер, которые изначально и сделали изоляцию необходимой.
Базовая архитектура должна обеспечивать безопасность конфиденциальных данных и одновременно делать их пригодными для использования в системах искусственного интеллекта. Это означает предоставление контролируемого доступа к данным, поддержку ИИ и аналитики по месту хранения данных, а также поддержание согласованности мер безопасности и управления по мере использования этих данных. Следующий этап развития государственного ИИ будет зависеть от того, смогут ли ведомства превращать данные в надежные аналитические сведения везде, где этого требуют задачи, в том числе в изолированных средах (airgapped environments), где конфиденциальные данные должны оставаться в безопасности.
Узнайте, как Cloudera помогает организациям государственного сектора внедрять безопасный и контролируемый ИИ в свои данные, сохраняя при этом контроль над тем, где и как используется конфиденциальная информация. По вопросам внедрения ИИ в защищенные или изолированные среды обращайтесь к команде Cloudera Government по адресу government@cloudera.com.
