Телекоммуникационные сети долгое время функционировали за кулисами как невидимая, но критически важная инфраструктура. Сегодня эти сети не только обеспечивают межличностное общение, но и поддерживают заводские производственные линии, системы здравоохранения, транспортные системы и другие критически важные для общества функции. Отделения интенсивной терапии, роботы на производственных линиях и городские системы светофоров — все они зависят от одной и той же коммуникационной инфраструктуры.
По мере того как мобильные сети становятся все более распределенными, динамичными, виртуализированными и ориентированными на услуги, автономность теперь необходима для удовлетворения требований к масштабируемости, мобильности и обеспечению услуг. Тем не менее, тот же рост и автономность расширяют поверхность атаки и ускоряют распространение сбоев и угроз между доменами. Поскольку угрозы эволюционируют быстрее, становятся более вариативными и менее предсказуемыми, чем когда-либо прежде, безопасность нельзя оставлять на потом. Напротив, безопасность должна развиваться вместе с сетевой автономностью и адаптироваться к тем же операционным характеристикам с точки зрения скорости, масштаба и динамичности, которые определяют автономные сети.
В этой статье блога обсуждается концепция автономных сетей и рассматриваются ее последствия для безопасности как с точки зрения защиты операций автономных сетей, так и с точки зрения обеспечения безопасности за счет автономности.
Концепция: Автономные сети
Огромный масштаб и динамичность современной телекоммуникационной инфраструктуры, включая мобильность пользователей, колеблющуюся нагрузку на трафик и спонтанные события, такие как чрезвычайные ситуации, делают традиционное ручное управление сетью все менее осуществимым.
Конечная цель состоит в том, чтобы воплотить концепцию автономной сети — по сути, самоуправляемой сети, которая развертывается, настраивается, обслуживается и выводится из эксплуатации самостоятельно, при этом люди переходят от роли непосредственных операторов к роли супервайзеров, определяющих высокоуровневые цели и требования.
Автономные сети приносят сетевым операторам три ключевых преимущества, как упоминалось в предыдущей статье блога How zero can we touch?. Во-первых, можно снизить операционные расходы сети за счет исключения утомительных ручных задач. Во-вторых, может быть предложено обеспечение качества услуг, что означает, что сетевые операторы могут получать дополнительный доход от уже существующих услуг. В-третьих, могут быть предложены новые услуги, адаптированные к требованиям клиента, с быстрой скоростью выхода на рынок, что открывает новые потоки доходов. Такие технологии, как управление на основе намерений и цифровые двойники сетей, являются ключевыми факторами реализации этой концепции.
Переход к полностью автономной сети происходит не за ночь. Управление сетью проходит через различные степени автономности, и сетевые операторы находятся на разных уровнях зрелости на этом пути. Общеотраслевой консенсус заключается в оценке уровня автономного поведения операторской сети с использованием уровней автономных сетей: автономность сети определяется по шкале от 0 (ручное управление) до 5 (полностью автономные сети). Многие операторы стремятся к 2030 году достичь 4-го уровня автономности в отдельных процессах — состояния высокоавтономной сети, характеризующегося когнитивной самоадаптацией, принятием решений на основе прогнозного анализа, управлением по замкнутому циклу, моделированием на основе ИИ и непрерывным обучением.
В то время как эволюция в сторону автономных сетей приносит операционные и бизнес-преимущества, она также коренным образом меняет требования и ожидания в отношении сетевой безопасности.
Два ключевых аспекта безопасности
Безопасность следует рассматривать с двух взаимодополняющих, но отчетливых перспектив, каждая из которых затрагивает отдельный аспект того, как автономность изменяет управление безопасностью и требования к автономным мобильным сетям.
Первый аспект — это безопасность автономных сетей, которая включает в себя защиту механизмов, обеспечивающих автономность, а также базовую защиту сети как актива. Эта перспектива заключается в защите автономных контуров управления, данных, моделей и оркестровки, а именно «мозга системы», чтобы гарантировать, что автономность не может быть подвержена манипуляциям, подрыву или ухудшению.
Второй аспект, автономная безопасность, фокусируется на том, как сами решения и операции по безопасности становятся автономными внутри сети. Это сдвиг в принятии решений и исполнении в сфере безопасности, при котором сеть берет на себя все большую ответственность за восприятие условий, имеющих отношение к безопасности, оценку рисков и применение защитных мер в рамках предопределенных целей и ограничений, при необходимости под контролем человека.
Обе перспективы необходимы для достижения устойчивых и отказоустойчивых автономных сетей и рассматриваются отдельно в следующих разделах.
Безопасность автономных сетей
По мере роста автономности сети все больше зависят от логики принятия решений на базе ИИ, управления по замкнутому циклу и управления на основе намерений. Эти механизмы принятия автономных решений являются наиболее критическими компонентами сети. Если они будут направлены в ложное русло, подвергнуты манипуляциям или скомпрометированы, сеть может принимать ошибочные или вредные решения с машинной скоростью, потенциально обратив свои собственные автономные возможности против тех услуг, которые она призвана защищать. В то же время сама сеть остается критически важным активом, который должен продолжать защищаться с использованием устоявшихся принципов безопасности.
Таким образом, безопасность автономных сетей охватывает как базовую защиту сети, так и защиту механизмов, обеспечивающих автономное функционирование.
Линейный график под названием «Трансформация рисков по уровням автономности». Риск человеческой ошибки снижается от ручного управления (L0) до полной автономности (L5), в то время как риск, вызванный ИИ/моделью, и скорость реакции защиты возрастают. Яркая точка пересечения около уровня L2 показывает, что скорость защиты превышает риск, что указывает на начало затененной зоны безопасной автономности. Общая подверженность риску следует U-образной кривой, сначала снижаясь, а затем возрастая по направлению к полной автономности.
Рисунок 1: Концептуальная модель, иллюстрирующая взаимосвязь между эффективностью автоматизации безопасности и рисками, возникающими в результате принятия решений на основе ИИ в автономных сетях.
Защита принятия автономных решений
В автономных сетях механизмы на базе ИИ отвечают за анализ, принятие решений и управление по замкнутому циклу, что делает их критически важными компонентами. Защита и обеспечение надежности принятия автономных решений имеют основополагающее значение. Защита должна охватывать весь жизненный цикл и затрагивать три основные темы.
Доверие до развертывания: целостность ИИ необходимо защищать до развертывания путем обеспечения безопасности конвейера разработки данных и машинного обучения (МО), обеспечения происхождения модели, проверенной записи о происхождении модели, обучающих данных и преобразованиях. Цель состоит в том, чтобы предотвратить попадание скомпрометированных, отравленных или измененных моделей на уровень управления автономной сети.
Защита во время выполнения и устойчивость. После развертывания модели ИИ и механизмы принятия решений должны работать в доверенных средах, защищенных от несанкционированного доступа. Конфиденциальные вычисления могут обеспечить аппаратную изоляцию, которая защищает данные и код во время обработки. Удаленная аттестация может предоставить криптографическое доказательство того, что программное обеспечение работает должным образом. Средства управления по принципу «нулевого доверия» реализуют архитектуру, в которой ни одному компоненту нельзя безоговорочно доверять и каждое действие проверяется. В совокупности эти меры помогают проверять целостность и повышают уверенность в том, что модели не подвергались несанкционированным изменениям.
Не менее важным является защита систем ИИ от состязательных атак, таких как уклонение, бэкдоры и извлечение моделей, с помощью надежных методов обучения, валидации входных данных и обнаружения аномалий. Сами процессы управления по замкнутому циклу также должны быть защищены, политики должны проходить валидацию, а их влияние — оцениваться до применения, при этом должна быть доступна возможность вмешательства человека для предотвращения лавинообразных сбоев. Эти меры необходимы для предотвращения каскадных сбоев и обеспечения того, чтобы решения, принимаемые автономными системами, контролировались и поддавались аудиту.
Подотчетность и прозрачность. Автономные сети должны вести неизменяемые журналы аудита, обеспечивать объяснимость решений ИИ, поддерживать проверку соответствия требованиям и обеспечивать разделение обязанностей. Эти механизмы могут гарантировать, что каждое автоматизированное действие будет отслеживаемым и проверяемым.
Формирование доверия к когнитивному ядру требует объяснимости, валидации и управления. Доверие к автономным сетям в конечном итоге зависит от возможности понимать, проверять и регулировать слой автономного принятия решений, включая когнитивное ядро, обработку намерений, модели и контуры управления. Методы объяснимого ИИ играют ключевую роль в обеспечении понимания процесса автономного принятия решений, позволяя операторам сети оценивать, соответствуют ли решения политикам, намерениям и эксплуатационным ожиданиям.
Кроме того, механизмы валидации, такие как цифровые двойники сети, могут оценивать потенциальное влияние запланированных действий до их развертывания. Это особенно важно для безопасности, когда запланированное устранение уязвимостей может нарушить доступность услуг. Цифровые двойники позволяют операторам проверять, эффективно ли предлагаемые меры управления снижают угрозы, а также оценивать влияние на ресурсы до их реализации. Более того, цифровые двойники могут непрерывно выявлять предпосылки атак или повышенную уязвимость, вызванную изменениями состояния, будь то изменения конфигурации, структуры трафика или состояния безопасности.
Автономная безопасность: Защита сетей
Почему традиционное управление безопасностью больше не масштабируется
Быстрое расширение услуг мобильной связи создает сложный ландшафт угроз. Каждая новая услуга или технология сопровождается собственным набором угроз, которые можно использовать для реализации многоэтапных атак с целью обеспечения скрытности и высокой эффективности. Угрозы касаются не только инфраструктуры, но и стека телекоммуникаций (например, радиотехнических протоколов и неземных сетей), моделей и конвейеров ИИ/МО, а также взаимосвязей с устаревшими системами.
В такой среде поведение сети и угрозы могут развиваться со скоростью работы машин, в то время как принятие решений по безопасности часто по-прежнему зависит от рабочих процессов со скоростью человека.
Центру операций безопасности могут потребоваться минуты или часы, чтобы обнаружить угрозу, проанализировать ее и отреагировать. Этот разрыв между скоростью возникновения угроз и скоростью реагирования требует безопасности, которая работает как за счет архитектуры (by design), так и непрерывно во время выполнения. Мобильные сети должны уметь идентифицировать угрозы, защищаться от них, обнаруживать их, реагировать на них и восстанавливаться после них, одновременно поддерживая доступность услуг и устойчивость. Однако пересечение технологий и возможностей безопасности, необходимых для их защиты, создает запутанный ландшафт управления, что затрудняет эффективное планирование, настройку и масштабирование безопасности.
Три цветные линии связи (фиолетовая, бирюзовая и оранжевая) проходят горизонтально через сетевые домены. На левом краю схемы показаны значки, представляющие подключенные устройства, транспортные средства и общественные службы. Красные значки злоумышленников расположены вокруг схемы, а стрелки указывают на подключенные устройства, сетевые блоки и линии связи. Два значка сотрудников оперативного центра безопасности на правой стороне контролируют сеть.
Рисунок 2: Запутанная взаимосвязь между сетевыми технологиями и средствами контроля безопасности иллюстрирует, почему ручное управление безопасностью не успевает за операциями в автономных сетях.
От реактивной обороны к когнитивным циклам безопасности
Безопасность в автономных сетях не должна быть пассивной внешней защитой, а должна быть неотъемлемой частью процесса принятия решений самой сети.
Это представляет собой фундаментальный сдвиг от реактивной безопасности, управляемой событиями, к непрерывному когнитивному управлению безопасностью. Традиционные методы срабатывают после обнаружения инцидента и полагаются на интерпретацию и реакцию человека. Напротив, автономная безопасность опирается на процессы с замкнутым контуром, которые непрерывно отслеживают среду, оценивают риски и адаптируют поведение системы безопасности практически в реальном времени.
Замкнутый цикл автоматизации следует эталонной архитектуре «Мониторинг–Анализ–Планирование–Исполнение–Знания» (MAPE‑K), обеспечивая непрерывное отслеживание, осмысление, планирование и реализацию решений по безопасности. Каждая фаза цикла может обрабатываться специализированными агентами для мониторинга, анализа, формирования предложений и реализации, причем на каждом этапе предусмотрен контроль со стороны человека. Предполагается, что агенты смогут объяснять свои решения, обеспечивая прозрачность цикла и возможность вмешательства оператора в случае необходимости. На рисунке 3 показано, как этот когнитивный цикл применяется для операций безопасности путем сопоставления фаз MAPE-K с конкретными функциями безопасности.
В центре показан круговой поток из четырех фиолетовых стрелок. Вокруг цикла расположены пять подписанных значков, представляющих этапы процесса: Измерение вверху. Обеспечение надежности справа. Предложение внизу справа. Оценка внизу слева. Исполнение слева.
Рисунок 3: Принятие когнитивных циклов для обеспечения безопасности
- Измерение: сбор телеметрии и сигналов безопасности.
- Обеспечение надежности: оценка состояния и обнаружение отклонений от намерений.
- Предложение: рекомендации возможных средств контроля и решений.
- Оценка: проверка влияния, риска и соблюдения политик перед выполнением.
- Исполнение: применение выбранного действия и обновление состояния безопасности.
Автономные решения с учетом рисков и затрат
Средства контроля безопасности в автономных сетях неизбежно влекут за собой издержки: как в бизнес-терминах, таких как операционные расходы и нагрузка по соблюдению требований, так и в технических терминах, таких как задержка и потребление ресурсов. Рассматривать безопасность как статичную область «все или ничего» бесперспективно. Вместо этого крайне важно понимать влияние средств контроля безопасности на затраты.
Прогнозирование последствий позволяет принимать четкие решения на основе оценки рисков, когда допустимый риск и допустимые затраты сходятся в подходящей точке пересечения, обеспечивая применение оптимального решения безопасности с учетом имеющихся ресурсов, как показано на Рисунке 4. Различные корпоративные сервисы, передаваемые по мобильным сетям, обладают разными характеристиками трафика и требованиями. Универсального решения безопасности не существует: средства безопасности и их конфигурации должны адаптироваться к каждому набору ограничений.
На графике по вертикальной оси отложена эффективность безопасности (Security performance), а по горизонтальной — затраты (Cost). Темно-синяя кривая резко идет вверх, а затем выравнивается по мере роста затрат. Вертикальная пунктирная синяя линия с подписью «Acceptable cost» (Допустимые затраты) пересекает горизонтальную пунктирную фиолетовую линию с подписью «Acceptable risk» (Допустимый риск). Точка пересечения выделена кругом. Стрелка из этой области указывает на более высокую точку на кривой с подписью «Optimal security performance» (Оптимальная эффективность безопасности). Значки денег отображаются возле левого нижнего и правого нижнего углов графика, иллюстрируя рост затрат вдоль горизонтальной оси.
Рисунок 4: Автономная безопасность позволяет принимать решения на основе рисков, сопоставляя стоимость средств контроля безопасности с риском потенциальных угроз и находя оптимальную рабочую точку для каждого сценария.
Факторы реализации автономной безопасности: наблюдаемость и управление на основе намерений
Ключевой предпосылкой для автономной безопасности является способность непрерывно наблюдать и количественно оценивать состояние безопасности сети.
Дополнение традиционного ведения журналов и мониторинга количественной наблюдаемостью безопасности (security observability) позволяет сети определять, выполняются ли цели безопасности или происходят ли отклонения в любой заданный момент времени. Способность объективно и автоматически рассчитывать различные метрики безопасности дает постоянно обновляемые аналитические данные о состоянии безопасности системы, а также возможность отслеживать любое ухудшение показателей защищенности и выявлять потенциальные уязвимости.
Количественная наблюдаемость безопасности обеспечивает управление безопасностью на основе целей, когда задачи безопасности могут быть выражены в виде намерений (intents), а не статических конфигураций. При использовании управления на основе намерений (intent-based management) средства контроля безопасности можно планировать, настраивать и динамически адаптировать для непрерывного достижения высокоуровневых целей безопасности как на этапе интеграции, так и во время выполнения. Это снижает сложность эксплуатации и позволяет поведению системы безопасности меняться в ответ на изменение условий в сети.
Как и более широкая концепция автономных сетей, автономная безопасность, как ожидается, будет развиваться поэтапно. Ранние этапы сосредоточены на наблюдаемости, автоматизации и поддержке принятия решений, в то время как более продвинутые этапы вводят автономное логическое мышление, замкнутый цикл устранения проблем и адаптацию на основе политик. Однако, в отличие от автономных сетей, в настоящее время в отрасли нет общепринятой модели, определяющей уровни зрелости автономной безопасности.
Наша цель и перспективы на будущее
Телекоммуникационная отрасль сейчас находится на этапе перехода от статической автоматизации на основе правил к динамической, адаптивной автономии на базе ИИ, что также коренным образом трансформирует подход к безопасности. Хотя полностью автономная безопасность остается долгосрочной перспективой, в ближне- и среднесрочной перспективе основное внимание уделяется контролируемой автономии: функциям безопасности, способным воспринимать информацию, рассуждать, давать рекомендации и в отдельных случаях действовать в рамках предварительно заданных политик, пороговых значений риска и моделей человеческого контроля.
На практике цель отрасли заключается не в полном исключении человека из процесса, а в объединении машинного принятия решений с управлением человеком, освобождая человеческий интеллект от операционной рутины, чтобы сосредоточиться на стратегическом надзоре. Мерилом успеха этого перехода будет не только скорость операций, но и устойчивость состояния безопасности сети и ее надежность как критически важной инфраструктуры.
Концепция zero-touch предполагает проактивную позицию безопасности, такую как обнаружение аномалии, даже если она представляет собой неопределенную угрозу, и ее изоляцию без ожидания одобрения со стороны человека. Однако текущие усилия отрасли сосредоточены на контролируемой автономии, где автономные средства безопасности действуют в заранее определенных рамках и под контролем человека. По мере того как операции по обеспечению безопасности становятся все более автономными, защита механизмов, обеспечивающих эту автономию, приобретает столь же важное значение. В случае компрометации уровня автономного принятия решений автономные возможности могут усилить воздействие атаки, а не локализовать ее. По этим причинам целостность и безопасность компонентов, обеспечивающих работу автономных сетей, также должны учитываться при оценке рисков, связанных с внедрением концепции zero-touch.
Успех будет определяться верифицируемым доверием, аудируемостью, устойчивостью и контролируемой автономией. В автономных сетях доверие не должно быть безусловным; оно должно непрерывно подтверждаться через объяснимость, валидацию, аудируемость и человеческий надзор. Формирование такого доверия требует параллельного развития автономии и безопасности, а не работы над ними по отдельности.
Благодарность: авторы хотели бы поблагодарить Leyli Karaçay и András Zahemszky за вклад в эту публикацию блога, а также Eva Fogelström за ценную рецензию и отзывы.
- Узнайте больше о саморегулируемых сетях по умолчанию (self-managing networks by design)
- Узнайте об эволюции управления безопасностью в RAN
- Узнайте об автоматизированном поиске угроз в телекоммуникационных сетях
- Прочитайте статью в блоге о соответствии требованиям безопасности NFV и надежности 5G
