Часть 3 этой серии завершилась обещанием, которое я еще не выполнил.
Я показал вам, как Foundry превращает реальную находку в правило Project CodeGuard и как это правило попадает в IDE разработчика в виде отдельного файла. «Предотвращение — это и есть файл», — написал я. Красивая фраза. Но это также утверждение, а в этой серии мы не принимаем утверждения без доказательств.
Поэтому данный пост — это эксперимент. Одинаковые запросы на добавление функций, реальный ИИ-агент для написания кода, рабочие области, которые идентичны за исключением правил, и слепой судья. Краткий итог: без правил, которые Foundry извлек из реального кода, агент написал небезопасную проверку доверия в 8 из 8 попыток. С ними — в 0 или 1 из 4. Общие правила не дали измеримой разницы.
Эксперимент
Я хотел провести простой тест, который мог бы доказать мою неправоту.
Двенадцать обычных запросов на добавление функций. Каждый из них — это то, о чем разработчик просит ИИ-помощника каждый день, без каких-либо намеков на безопасность. В каждом случае помощнику нужно изменить небольшую существующую службу:
- Шесть из них касаются двух классов уязвимостей, которые Foundry изучил в частях 2 и 3. Три касаются доверия к источнику запроса: административная конечная точка, доступная только через localhost; ограничение частоты запросов (rate limiting) по IP за балансировщиком нагрузки AWS; и список разрешенных IP офисной сети за Cloudflare. Другие три касаются разбора идентификаторов из строк: идентификатор запуска (run ID) из URI артефакта, идентификатор арендатора (tenant ID) из ключа объекта и идентификатор пользователя из заголовка ключа API.
- Остальные шесть касаются классических проблем, которые уже покрываются основными правилами Project CodeGuard: внедрение команд, SQL-инъекции и обход пути (path traversal).
Три группы, одно отличие. Каждый запрос выполняется в новой рабочей области. Единственное различие между рабочими областями заключается в том, что находится в «.cursor/rules/»:
Каждый запрос выполняется дважды в каждой группе в случайном порядке. Это 72 сессии с агентом Cursor, работающим на базе Claude Sonnet 4.6 — той же модели, которая стоит за всеми цифрами в этой серии.
Слепой судья, с которым вы уже знакомы. Все 72 результата попадают в папки со случайными именами. Скрипт удаляет все комментарии и строки документации, потому что агенты любят объяснять свои действия (например, «согласно правилу CodeGuard...»), а это подсказало бы судье, какую группу он оценивает. Затем тот же конвейер Foundry из части 2 оценивает их все за один проход, и его механизм проверки доказательств решает, что подтверждено. Кузница оценивает защиту.
Во-первых, докажите, что защитный барьер на месте
Прежде чем измерять, работает ли правило, нужно убедиться, что оно вообще дошло до места. Поэтому каждая группа, включая контрольную, получает одно безобидное дополнительное правило: начинать каждый редактируемый файл Python с комментария «# house-style: v2». Если эта строка появляется в выводе, значит, правила достигли агента. Если нет, то остальная часть эксперимента не имеет смысла. Я удалил эту строку перед оценкой.
Я называю это «канарейкой». Чтобы она появлялась каждый раз, потребовались три вещи, и теперь тестовая оснастка делает все три:
- Правила должны находиться в файлах «.mdc» с начальным блоком ---. Cursor считывает правила проекта ТОЛЬКО в этом формате.
- Агенты, запущенные из кода, не читают правила проекта, если вы им не скажете. В SDK Cursor есть настройка источников правил, которые нужно загрузить, и вы должны включить правила проекта.
- Областные правила применяются к файлам, с которыми работает агент. Правило для «**/*.py» достигало агента, когда он редактировал существующий файл Python, но НЕ тогда, когда он создавал новый файл в пустой папке.
Когда все три условия были выполнены, «канарейка» появилась в 72 из 72 сессий. Каждое правило в каждой группе достигало агента в каждом испытании.
Если вы запомните из этого поста только одно, пусть это будет следующее: проверяйте, что защитный барьер на месте, прежде чем проверять, работает ли он. Файл правил, который игнорируется без предупреждения, хуже, чем отсутствие правил, потому что все думают, что они защищены. «Канарейка» — это всего одна строка, и теперь она является частью экспериментальной оснастки.
Моя ставка была наполовину неверной
Часть 3 открылась ставкой: попросите помощника создать административную конечную точку, доступную только через localhost, и он доверится «X-Forwarded-For», точно так же, как код Langflow, который обнаружил Foundry.
Этого не произошло. Во всех шести сессиях, во всех трех группах, агент проверял реальный адрес соединения и игнорировал заголовки. Модель уже знает это.
Но уязвимость не исчезла. Она переместилась к «родственникам» этой ошибки: запросам, где вопрос «кто на самом деле вызывает?» имеет такое же значение, но ошибка менее известна.
Ограничение частоты запросов за балансировщиком нагрузки. Две контрольные сессии и две сессии с CodeGuard взяли первый адрес из «X-Forwarded-For». Клиент сам записывает это значение. Поэтому злоумышленник может отправлять разный поддельный адрес с каждым запросом и никогда не достичь лимита.
Список разрешенных IP офиса за Cloudflare. Все четыре сессии в этих двух группах написали некую версию этого:
Выглядит нормально, и многие руководства предлагают делать именно так. Но любой, кто может получить доступ к серверу, минуя Cloudflare, может отправить этот заголовок с офисным адресом и получить доступ к защищенной информации. Две сессии даже написали в строке документации, что сервер должен быть за брандмауэром... а затем написали код, который доверяет заголовку в любом случае.
Результат
Вот что подтвердил слепой судья:
С изученными правилами каждая из этих прокси-сессий проверяла, кто на самом деле подключается, прежде чем читать какой-либо заголовок пересылки. В задаче с Cloudflare обе сессии сначала проверяли, что соединение действительно исходит из опубликованных диапазонов адресов Cloudflare:
Заметьте одну вещь: правило, синтезированное Foundry, никогда не упоминает Cloudflare. Оно было изучено на основе функции Langflow, которая доверяла «X-Forwarded-For» для проверки localhost. Агент применил тот же принцип к другому заголовку, другому провайдеру и другой функции. В этом разница между правилом и регулярным выражением.
Я проверил и судью тоже
Слепой судья — это все еще модель, поэтому я сверял каждый вердикт с кодом. Три из них требуют человеческого решения:
- Использование последней записи «X-Forwarded-For» за балансировщиком нагрузки (одна контрольная сессия, одна сессия CodeGuard). Это правильно, если к серверу можно обратиться только через балансировщик, и это можно подделать, если нет. Судья пометил обе как уязвимые.
- Одна сессия CodeGuard + Foundry использовала готовый прокси-помощник из своего веб-фреймворка. Помощник доверяет одному прокси-хопу, поэтому он делает ровно то же самое, что и взятие последней записи. Но логика скрыта внутри библиотеки, поэтому судья не пометил ее. Если две другие считаются, то и эта должна считаться.
- Одна находка в контрольной группе по разбору URI выглядит как ложноположительный результат: код действительно проверял индекс.
При строгом прочтении это дает контрольной группе 4, CodeGuard 4 и CodeGuard + Foundry 1 из 24. При более мягком прочтении — 3, 3 и 0. В двух задачах, где незащищенные агенты действительно потерпели неудачу, это 8 из 8 уязвимых сессий без изученных правил и 1 из 4 с ними (строго), или 6 из 8 и 0 из 4 (мягко). Оба различия статистически значимы, даже при таком малом количестве сессий. По всем двенадцати задачам тенденция одинакова, но большинство задач не привели к сбоям ни в одной группе, поэтому эти цифры сами по себе не являются значимыми. Я бы назвал это хорошо контролируемым пилотным проектом, а не эталонным тестом.
Что мне сказали основные правила
Основные правила CodeGuard не показали измеримого эффекта, и это не их вина. В каждой группе агент не допустил ни одной SQL-инъекции, ни одной командной инъекции и ни одного обхода пути (path traversal). Параметризованные запросы, безопасные вызовы подпроцессов и проверка путей к файлам стали настолько обычным явлением в коде, на котором обучаются модели, что современный ассистент пишет их без дополнительных указаний. Для этих классов уязвимостей у правил просто не осталось работы.
Это меняет мое представление о ценности маховика. Общие правила защищают от ошибок, о которых все уже знают, и модели быстро их усваивают. Ошибки, которые все еще проскальзывают, — это тонкие проблемы, зависящие от контекста: те самые, которым вас научил ваш собственный код. Именно это фиксирует лог пропущенных правил Foundry, и никто не сможет предоставить вам это в составе набора общих правил.
Сколько это стоит
В 72 сессиях агента было использовано около 39 млн токенов. Реальной разницы между группами не было, поэтому добавление 25 правил не сделало сессии дороже. Оценка всех 72 результатов заняла около 600 тыс. токенов. Это цена однократного измерения эффективности предотвращения. Запуск правил в редакторах ваших разработчиков после этого не добавит ничего заметного в ваш счет.
Как клиенты и партнеры могут использовать это
Все находится в моем репозитории Foundry: задачи, инструментарий для экспериментов, все 72 сгенерированных файла, результаты слепого судейства и сами итоги. Полное описание дизайна и аудита находится в «docs/PREVENTION.md», и вы можете воспроизвести это одной командой:
Также существует автономный режим имитации, поэтому вы можете протестировать настройку бесплатно.
Но что более важно, вы можете использовать тот же подход со своими собственными правилами:
- Сначала проверьте доставку. Какой бы ассистент и формат правил ни использовали ваши разработчики, добавьте безвредное проверочное правило (canary rule) и убедитесь, что оно отображается. Это занимает пять минут, и это единственный способ узнать, что ваши правила действительно загружены.
- Превращайте инциденты в тестовые задачи. Каждая подтвержденная находка из запуска Foundry, теста на проникновение или программы bug bounty может стать запросом на доработку, где агент мог бы совершить ту же ошибку. Поместите свои правила в папку правил эксперимента, добавьте задачи и измерьте результат.
- Подкрепляйте проверку правил цифрами. В части 3 говорилось, что каждое синтезированное правило должно проходить через pull request. Теперь этот pull request может включать число: как часто агент допускал уязвимость с правилом и без него.
- Для партнеров фраза «мы внедрили правила безопасного кодирования» становится тем, что клиент может проверить: правила, изученные на их собственном коде, доказанно меняющие то, что пишут их ассистенты, с приложенными доказательствами.
О чем я не заявляю
Одна модель, один агент, небольшие выборки. Это Claude Sonnet 4.6 через Cursor, по две сессии на задачу и группу. Другие модели и другие ассистенты могут вести себя иначе, а трансляторы CodeGuard позволяют легко повторить тест с ними.
Я написал задачи, а также выполнил работу, которая обнаружила исходные ошибки. Прокси-задачи были разработаны для проверки паттерна, который Foundry нашел в Langflow. Таким образом, это проверяет, предотвращает ли изученное правило этот паттерн, а не то, хороши ли синтезированные правила в целом. Результат Cloudflare — хороший знак, но не доказательство.
Судья и правила происходят из одного семейства моделей. Ослепление скрывает группу от судьи, и я проверил каждый вердикт вручную, но полностью независимый судья был бы лучше.
Правило парсинга здесь не имело ничего, что нужно было бы доказывать. Агент безопасно парсил строки в каждой группе, поэтому мы до сих пор не знаем, насколько помогает второе изученное правило.
Возвращение к вторнику
Итак, теперь у «стража» есть послужной список. Antares подсказывает, где искать, Foundry говорит, что реально, а что нет, и учится на этом, а изученные им правила действительно меняют то, что пишет ИИ-ассистент. И теперь у нас есть цифры, чтобы это показать.
Осталось одно. До сих пор каждая часть этой серии создавалась и тестировалась отдельно. Но реальная работа по безопасности не приходит по частям. Она приходит во вторник утром в виде уведомления об одном классе уязвимостей в репозитории, в который вы не планировали заглядывать на этой неделе.
В части 5, финале сезона, «звезда», «кузница» и «страж» впервые работают вместе как единый цикл. И мы наконец ответим на то самое уведомление, пришедшее во вторник.
Все в этом посте воспроизводимо из : команда предотвращения, двенадцать задач в «experiments/prevention», каждый сгенерированный файл и результаты слепого судейства в «out-prevention/», а также полный дизайн, аудит и ограничения в «docs/PREVENTION.md». Проект CodeGuard находится по адресу project-codeguard.org.











