Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Ii uskoryaet izmeneniya v sistemah kotorye my ne mozhem pozvolit sebe slomat
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

ИИ ускоряет изменения в системах, которые мы не можем позволить себе сломать

Источник: Veracode•18 ноября 2026 г. в 18:34

ИИ ускоряет изменения в системах, которые мы не можем позволить себе сломать

Безопасность приложений в эпоху ИИ | Veracode

ИИ изменил то, как быстро мы можем писать, пересматривать и подготавливать программное обеспечение к выпуску. Агенты кодирования могут создавать код, обновлять зависимости и предлагать изменения в репозиториях за считанные минуты. Однако системы, принимающие эти изменения, построены из уровней сервисов, устаревшей инфраструктуры и зависимостей, которые трудно увидеть в полном объеме. Этот разрыв между скоростью изменений и способностью понимать их последствия стал центральным операционным риском.

Четыре сбоя, одна общая нить

Четыре инфраструктурных сбоя за одну неделю показывают, как технические изменения могут распространяться по сложным системам. В четверг, 12 ноября, сбой вывел из строя Outlook, Teams, Copilot и другие сервисы более чем на 24 часа, затронув организации в более чем 70 странах. Microsoft связала инцидент с проблемой, возникшей во время предыдущего обновления пропускной способности сети, и прямо исключила кибератаку или участие ИИ.

На следующий день FAA приостановило вылеты по всей стране примерно на четыре-пять часов после того, как проблемы со связью затронули 17 из 22 региональных центров управления воздушным движением. FAA проследило проблему до данных, переполнивших сеть во время работ на удаленном объекте, где подрядчик заменял медные линии на оптоволоконные и развертывал маршрутизатор.

Затем, в понедельник, 16 ноября, сбой в Chase затронул онлайн-банкинг, личные транзакции и платежи Zelle для тысяч клиентов. Министерство юстиции подтвердило, что нет никаких доказательств какой-либо атаки, а ФБР не обнаружило признаков вредоносной или внешней кибердеятельности. Клиенты Bank of America, Wells Fargo и U.S. Bank столкнулись с задержками в основном при проведении транзакций с участием Chase.

В тот же день United Airlines устранила масштабный системный сбой, который на короткое время затронул вылетающие рейсы примерно на час, включая систему, которую пилоты используют для расчета веса самолета перед взлетом. United заявила, что нет никаких признаков того, что сбой был кибератакой, а FAA подтвердило, что это не было проблемой оборудования FAA.

Ни один из этих инцидентов не был кибератакой. Ни один не был вызван ИИ. Все четыре были сбоями из-за изменений инфраструктуры: обновление пропускной способности сети в Microsoft, замена меди на оптоволокно в FAA, выпуск программного обеспечения в Chase, сбой веб-системы в United. Каждый из них каскадом прошел через сложные, взаимозависимые системы. Общая нить: ускоряющийся темп изменений, проходящих через системы, которые сочетают новые и устаревшие компоненты, и разрыв в верификации, который возникает, когда изменения опережают нашу способность понимать их влияние.

Но называть их «не кибератаками» — значит преуменьшать произошедшее. Это были системные сбои. Причина отличалась от взлома, но последующее воздействие было неотличимым: платежи не проходили, рейсы задерживались, связь пропадала, а организации теряли часы или дни, которые они не могли вернуть. Различие между злонамеренной атакой и незлонамеренным сбоем важно для атрибуции и реагирования, но оно не имеет значения для клиента, у которого не работает сервис. Поскольку ИИ ускоряет объем и скорость изменений, проходящих через эти системы, такие сбои будут происходить чаще и в некотором смысле их будет труднее предотвратить, потому что они возникают из-за рутинных изменений, а не преднамеренных атак.

Почему модернизация делает каждое изменение более рискованным

Новые технологии редко заменяют старые сразу. Они приходят слоями: новые сервисы, подключенные к существующим приложениям, современные интерфейсы, построенные поверх устаревшей инфраструктуры, автоматизированные рабочие процессы, охватывающие системы, разработанные с разницей в десятилетия. Большинству предприятий приходится модернизироваться, продолжая работать. Самая сложная задача — понять, что происходит там, где эти слои встречаются.

Запрет на вылеты FAA выявил эту проблему. Изменение в одной части сложной системы может иметь последствия далеко за ее пределами. Предприятия сталкиваются с этой проблемой всякий раз, когда модернизируют системы, поддерживающие критически важные приложения. У немногих есть возможность начать все сначала.

Сбой Microsoft иллюстрирует ту же модель в масштабах облака. Проблема, возникшая во время предыдущего обновления пропускной способности сети, проявилась после последующего изменения сети, из-за чего внешние серверы не прошли автоматические проверки работоспособности. По мере удаления серверов и повторного подключения клиентов каждое повторное подключение запускало ту же операцию, которая уже была перегружена, — самоподдерживающийся каскад, который Microsoft назвала метастабильным сбоем. Триггер был удален, но сбой сохранялся, потому что механизмы восстановления самой системы продолжали увеличивать нагрузку.

Инциденты с Chase и United подтверждают тот же урок. Выпуск программного обеспечения в Chase распространил задержки по финансовой системе через взаимосвязанную платежную сеть Zelle. Веб-сбой в United привел к задержке вылетов, потому что цифровые системы, поддерживающие безопасные операции, были временно недоступны. В обоих случаях источником сбоя было само изменение, а не кибератака.

ИИ увеличивает разрыв в верификации

ИИ ускоряет работу, поступающую в эти среды. Он не ускоряет автоматически наше понимание этих сред. ИИ может генерировать код быстрее, чем когда-либо. Полученный код все равно попадает в среды, сформированные годами зависимостей, архитектурных решений и операционных ограничений.

Злоумышленники теперь используют ИИ для создания вредоносного ПО и автоматизированных кампаний, что увеличивает давление на компании, сокращая сроки развертывания исправлений безопасности с недель до нескольких дней. Это увеличивает объем изменений, проходящих через их системы, и, как показали все четыре инцидента, именно само изменение, а не только его цель безопасности, может сломать сложную систему.

Поскольку код становится легче создавать, стало намного труднее решать, что готово к выпуску. Команды должны определить, сохраняет ли изменение ожидаемое поведение, вносит ли оно уязвимость безопасности или влияет ли оно на сервис в другой части бизнеса. Функциональные тесты отвечают на некоторые из этих вопросов. Другие требуют анализа безопасности, знания среды и инженерного суждения. Способность верифицировать изменения должна расти вместе со способностью их генерировать.

Контекст — это то, что делает верификацию заслуживающей доверия

Одно и то же изменение может нести разные риски в зависимости от системы, в которую оно попадает, данных, которых оно касается, привилегий, которые оно наследует, и сервисов, которые от него зависят. Оценка кода в изоляции не может дать полной картины. Верификация должна учитывать эти взаимосвязи, включая ограничения устаревших компонентов и потенциальное влияние на критически важные приложения.

Как Veracode закрывает этот разрыв

Именно здесь на помощь приходит платформа Veracode. Задача состоит в том, чтобы понять, что изменение может сделать в контексте системы, в которую оно вносится, а это требует большего, чем просто сканирование кода в изоляции.

Гибридный подход Hybrid SAST AI сочетает в себе детерминированный статический анализ, готовый к требованиям комплаенса, с контекстным обнаружением рисков на базе больших языковых моделей (LLM). Решение Veracode SAST располагает данными сканирования за два десятилетия по миллионам приложений и поддерживает более 100 языков и фреймворков. Это преимущество в данных означает меньшее количество ложных срабатываний, более точную расстановку приоритетов рисков и рекомендации по устранению, отражающие реальные условия продакшена. Уровень ИИ выявляет недостатки бизнес-логики, такие как проблемы с авторизацией и нарушенная аутентификация, которые пропускают традиционные сканеры на основе шаблонов, в то время как детерминированный SAST обеспечивает повторяемую и проверяемую основу, требуемую в регулируемых средах.

Veracode Fix превращает обнаружение в действие. Устранение на базе ИИ генерирует созданные экспертами предложения по исправлению непосредственно в среде разработки (IDE), интерфейсе командной строки (CLI) или CI/CD-пайплайне разработчика, охватывая более 70% обнаруженных уязвимостей на 10 поддерживаемых языках. Ничто не работает без присмотра; ничто не объединяется без проверки человеком.

Анализ состава программного обеспечения (SCA) распространяет ту же дисциплину на зависимости с открытым исходным кодом, на которые полагаются современные системы. Анализ метода уязвимостей (Vulnerability Method Analysis) точно определяет, где код фактически взаимодействует с рисками в библиотеках, поэтому команды исправляют то, что действительно важно, вместо того чтобы гоняться за каждой отмеченной зависимостью. Автоматические пул-реквесты применяют наилучшее исправление с учетом контекста критических изменений, а графы зависимостей показывают, какие транзитивные компоненты находятся на пути выполнения.

Динамический анализ (DAST) проверяет работающие приложения и API посредством симулированных атак, выявляя уязвимости времени выполнения, которые статический анализ не видит. В сочетании с SAST и SCA он дает командам единое представление о рисках в коде, зависимостях и развернутом поведении — от кода до облака.

Суть не в том, чтобы проводить больше сканирований. Суть в верификации, которая понимает систему и предоставляет доказательства того, что изменения безопасно выпускать в релиз.

Обеспечение безопасности агентной разработки

Агентная разработка добавляет еще один уровень. Агенты становятся участниками устоявшихся рабочих процессов, используя инструменты разработки, получая доступ к репозиториям и предлагая изменения в существующие приложения. Обеспечение безопасности их работы требует понимания как того, что они производят, так и того, на выполнение чего они уполномочены. Организациям необходимы четкие границы для их действий, проверки безопасности, основанные на изменяемых системах, и ответственный владелец для принятия решений о выпуске. Подробнее о том, как агентная разработка меняет ландшафт безопасности, смотрите в этой дискуссии об обеспечении безопасности агентной разработки.

Стандарт: верификация, успевающая за изменениями

Все сбои на этой неделе были вызваны изменениями инфраструктуры, а не кибератаками. Поскольку ИИ ускоряет темпы изменения кода, проходящего через эти системы, разрыв в верификации увеличивается. Организациям необходимо контролировать то, что создается, направлять процесс создания, проверять безопасность развертывания и доказывать это.

Для этого требуются инвестиции во весь путь от предложения до продакшена: надежные тесты, проверка безопасности, контекст зависимостей и архитектуры, контролируемое развертывание, мониторинг и восстановление. Это также требует мер, оценивающих не только объем вывода. Команды должны знать, безопасны ли изменения, приводят ли они к переделке или инцидентам и может ли организация быстро восстановиться, если предположения окажутся неверными.

Для Veracode это главная задача модернизации: помочь организациям безопасно внедрять новые технологии в системы, от которых они зависят сегодня. Устоявшиеся практики разработки и агентские рабочие процессы будут сосуществовать, и безопасность должна связывать их через общее понимание риска и среды, в которой будут работать изменения. Поскольку ИИ расширяет темпы и масштабы этих изменений, стандарт должен оставаться ясным: верификация, успевающая за изменениями, и ответственность, успевающая за автономией.

ИИ может помочь разработчикам и агентам создавать программное обеспечение с темпом, который было трудно поддерживать вручную. Долгосрочные успехи будут зависеть от того, смогут ли использующие его организации оценивать эти изменения и управлять ими с равной дисциплиной. Скорость разработки имеет значение; уверенность в том, что выпускается, имеет не меньшее значение.

Более подробно о том, как код, созданный с помощью ИИ, работает на практике, читайте в нашем обновлении по безопасности кода GenAI за осень 2026 года.

← Все статьи

О чём эта статья

Ещё в разделе «Кибербезопасность»

Все →
Сторонний код — это риск для вашей компании: как атака на Optimizely затронула 178 доверенных веб-сайтов
Veracode

Сторонний код — это риск для вашей компании: как атака на Optimizely затронула 178 доверенных веб-сайтов

Анонс сервера Sysdig MCP для мониторинга
Sysdig

Анонс сервера Sysdig MCP для мониторинга

Почему AI-ROC — это будущее управления подверженностью угрозам
Qualys

Почему AI-ROC — это будущее управления подверженностью угрозам

CVE-2026-123007: критическая ошибка целочисленного переполнения HTTP/2 NGINX приводит к RCE (исправлено)
Rapid7

CVE-2026-123007: критическая ошибка целочисленного переполнения HTTP/2 NGINX приводит к RCE (исправлено)

Почему вашему программному обеспечению нужен CBOM
SonarSource

Почему вашему программному обеспечению нужен CBOM

Модернизация NVD: приоритизация уязвимостей в эпоху ИИ
HackerOne

Модернизация NVD: приоритизация уязвимостей в эпоху ИИ

Ещё от Veracode

Сторонний код — это риск для вашей компании: как атака на Optimizely затронула 178 доверенных веб-сайтов
Veracode

Сторонний код — это риск для вашей компании: как атака на Optimizely затронула 178 доверенных веб-сайтов

Безопасность приложений для соответствия требованиям HIPAA: полное руководство
Veracode

Безопасность приложений для соответствия требованиям HIPAA: полное руководство

За пределами чек-листов и штрафов: чего Закон ЕС об искусственном интеллекте требует от технических команд
Veracode

За пределами чек-листов и штрафов: чего Закон ЕС об искусственном интеллекте требует от технических команд

Что нужно знать о безопасности приложений для соответствия требованиям CCPA
Veracode

Что нужно знать о безопасности приложений для соответствия требованиям CCPA

Безопасность кода с GenAI осенью 2026 года: планка смещается, но только для самых доступных задач
Veracode

Безопасность кода с GenAI осенью 2026 года: планка смещается, но только для самых доступных задач

Безопасность приложений для соблюдения GDPR: Полное руководство
Veracode

Безопасность приложений для соблюдения GDPR: Полное руководство