На прошлой неделе технический директор Snyk Манодж Наир встретился с Алоном Крифчером, руководителем отдела прикладного ИИ в Anthropic, для живой дискуссии о грядущей волне автономных атак. Манодж постоянно возвращался к одной мысли: «ураган ИИ» уже наступил, и теперь остается лишь решить, работает ли ваша защита с той же скоростью, что и угроза.
Атаки стали агентными, как и код, который их создает. В тысячах реальных корпоративных сред Snyk наблюдает, что количество новых проблем безопасности растет более чем в два раза каждый квартал, и на каждые шесть новых проблем команды закрывают только одну. В последнем отчете CrowdStrike об угрозах было зафиксировано рекордное время прорыва — 27 секунд. Средний показатель теперь измеряется минутами, а не месяцами. Раньше на разработку уязвимостей нулевого дня уходило много времени, а на их эксплуатацию — еще больше, что давало защитникам фору. Время — это именно то, чего лишили нас автономные злоумышленники.
Однако Манодж не считает, что все пропало. Он полагает, что ответ проще, чем ожидают люди, и он уже работает в крупнейших компаниях, с которыми он общается. Если автономные атаки требуют защиты со скоростью машины, утверждает он, вам нужно четыре процесса, работающих параллельно, а не последовательно: Обнаружение → Устранение → Проверка → Предотвращение. Вы можете начать с любого этапа этого цикла. Большинство компаний начинают с бэклога, который у них уже есть, потому что он есть у всех.
Именно здесь меняется математика рисков. Старая модель: вероятность, умноженная на воздействие. Воздействие не сильно изменилось, а вот вероятность — да. Злоумышленник теперь может дешево и агентно объединить три уязвимости, каждая из которых классифицируется как низкая или средняя, в нечто, что вовсе не является низким или средним. Повторная приоритизация всего — не выход, объясняет Манодж. Начинать с ваших наиболее важных приложений и тестировать их так, как это сделал бы автономный злоумышленник — вот решение, и именно поэтому Snyk создал Evo Continuous Offensive Security. Один из первых клиентов запустил его для приложения, которое на той же неделе успешно прошло тест на проникновение. Snyk нашел все то же, что и пентестер, плюс две или три проблемы, которые им пришлось устранить в тот же день. Это не концепция, говорит Манодж. Это работает в реальности.
Что касается самого бэклога, некоторые клиенты Snyk, включая Labelbox и Relay Networks, публично рассказывали о достижении нулевого бэклога с помощью комбинации Skills и агентов устранения, построенных на базе Claude. Еще один клиент из списка Fortune 10 сказал то же самое. Если это правда в таких масштабах, говорит он, то фраза «мы разберемся с бэклогом позже» перестала быть надежным планом.
Предотвращение — это то, чем Манодж гордится больше всего, потому что именно с этого Snyk и начинал. Компания была построена на идее, что безопасность нужно обеспечивать в момент создания кода, а не постфактум. Точка создания сместилась. Для большинства компаний, с которыми он сейчас общается, это агент. Поэтому Snyk создал Snyk Studio, чтобы дать этому агенту тот же контекст безопасности, который был бы у хорошего разработчика, в тот самый момент, когда он пишет код, причем достаточно быстро, чтобы агент не просто обходил его. Почти 1500 клиентов используют это в производстве сегодня. Манодж недавно продемонстрировал это, попросив агента создать сканер QR-кодов. Он честно оценил два пакета-кандидата: один был заброшен десять лет назад, другой был актуальным и чистым. Он выбрал правильный без необходимости вмешательства человека.
Ничего из этого не сработает, утверждает Манодж, если рассматривать это только как задачу Snyk, и он хочет прямо обозначить, где проходит граница с таким партнером, как Anthropic. Они выполняют тяжелую работу по защите своих моделей от использования в качестве оружия на уровне интеллекта. У этой работы есть граница, и эта граница — область, до которой не дотягиваются их защитные механизмы: открытые учетные данные, неправильно настроенные компоненты, агент, команда, созданная без понимания того, какие пакеты или Skills она подтянула в процессе. Snyk наблюдает соотношение моделей к агентным компонентам примерно три к одному среди почти 3000 клиентов, использующих его спецификацию ИИ-компонентов сегодня. Каждый из этих компонентов — это место, где может скрываться риск, если никто за ним не следит. Snyk использовал этот же подход, чтобы помочь защитить одно из крупнейших в мире облачных развертываний кода этим летом: 50 000 разработчиков, внедренных с непрерывным сканированием Skills с первого дня.
Если вы хотите вынести что-то одно из всего этого, говорит Манодж, измеряйте один показатель: новые находки против закрытых находок для ваших главных приложений. Все остальное на панели мониторинга безопасности, например, открытые тикеты, проведенные сканирования, добавленный персонал, меняется только потому, что вы что-то сделали. Это соотношение меняется только тогда, когда меняется сама программа. Если у вас соотношение шесть к одному и ситуация ухудшается, вы накапливаете долг, а не безопасность. Отслеживайте второй показатель, если можете: какая доля предложенных исправлений объединяется без переписывания человеком? Это реальное ограничение пропускной способности, и оно показывает, насколько агентным является ваше устранение на самом деле по сравнению с тем, насколько агентным вы хотели бы его видеть.
Рынок меняется неделями, говорит Манодж. Приведенный выше план — это отправная точка, а не финишная черта, и он ожидает, что он будет развиваться так же, как развивалась вся эта сфера за год с момента выпуска Snyk Studio. Что не изменилось и не изменится, так это убежденность, которую разделяют Манодж и Алон: злоумышленникам достаточно победить один раз, и единственная реальная защита — это многоуровневая система, в которой для них не остается ни единого шанса.
Хотите услышать полную версию беседы? Посмотрите сессию по запросу с Маноджем Наиром и Алоном Крифчером.
Вебинар по запросу
Snyk и Anthropic: подготовка к грядущей волне автономных атак
Джеймс Хейс из The Register беседует с Маноджем Наиром, директором по инновациям Snyk, и Алоном Крифчером, руководителем отдела прикладного ИИ в Anthropic, о том, что на самом деле меняется и как выглядит надежный ответ в действии.
