В компании Block, стоящей за Square, Cash App и Afterpay, команда по безопасности использует OpenAI Defense Factory: систему, где ИИ занимается обнаружением уязвимостей, их выявлением и реагированием на них в масштабах, с которыми не справилась бы ни одна команда людей. Благодаря системам ИИ, включая OpenAI Daybreak, Block тратит всего несколько часов на работу, которая раньше занимала недели.
«ИИ сокращает время от намерения человека до действия. Долгое время считалось, что у злоумышленников есть преимущество, поскольку они быстрее и гибче. Но благодаря таким инструментам, как Daybreak, и достижениям в инструментарии OpenAI, защитники могут отвечать тем же и не отставать от стремительных темпов внедрения ИИ».
— Джеймс Неттесхайм, директор по информационной безопасности, Block
Команда безопасности Block сосредоточена на ответственном внедрении ИИ в рабочие процессы, будь то генерация кода или операции по обеспечению безопасности. «По сути, это сводится к появлению нового члена команды, с которым можно масштабироваться, — говорит Джеймс Неттесхайм, директор по информационной безопасности. — Это не похоже на традиционную автоматизацию, где нужно было действовать шаг за шагом. Вы можете дать ИИ довольно специфическую, неоднозначную задачу и работать над ней вместе».
Проекты, такие как проверка программной ошибки или анализ логов, раньше занимали дни или недели. Теперь команда может выполнять их за долю этого времени, при этом человек по-прежнему проверяет каждый результат.
Например, для настройки обнаружения каждое расследование сохраняет исходные данные запроса, поэтому теперь команда может повторно прогнать предложенное изменение правил обнаружения через семь месяцев телеметрии из рабочей среды менее чем за час. Раньше это означало вручную перепроверять сотни старых случаев, и на практике это случалось редко, так как требовало слишком много времени.
Команда также стала более избирательно подходить к выбору модели для каждой конкретной задачи. «Раньше мы использовали самую последнюю модель, но теперь в этом нет необходимости, — говорит он. — Это был полезный опыт — выбирать разные модели для разных задач». Система обеспечения безопасности Block построена на базе Daybreak, что помогает направлять задачи нужной модели и включает механизмы для вмешательства человека или взаимной проверки работы агентами. Команда постоянно оценивает эти системы по внутренним критериям и реальной производительности, корректируя подход при необходимости, включая передачу задач на проверку человеку, когда это является ответственным решением.
Система автоматизированной сортировки привела к ускорению работы (и увеличению ее объема). Команда безопасности Block добилась 50% роста пропускной способности при сортировке, 50% увеличения объема сбора разведданных и расследований, а также получила совершенно новую возможность автономного поиска угроз. Неттесхайм говорит: «Это эквивалентно примерно 1100 часам работы аналитика в квартал, потому что каждое оповещение теперь проходит полное, глубокое расследование по всем элементам, которые оно затрагивает. Наша система обрабатывает каждое оповещение так, будто это единственное оповещение за день».
OpenAI Defense Factory в действии
Традиционные инструменты сканирования выявляют одну уязвимость изолированно, но команда безопасности Block может пойти гораздо дальше с помощью Daybreak. Модель помогает выдвигать гипотезы о паттернах атак и объединять серию атак в полный путь компрометации, выявляя уязвимости, которые могли существовать годами.
В одном случае оповещение об одном ноутбуке само по себе выглядело как незначительная проблема с политикой безопасности. Но во время экспертной проверки модель отследила индикатор, который лишь случайно появился в доказательствах, сопоставила его с логами идентификации Block и выявила гораздо более широкий набор проблем. «Одно рутинное оповещение о конечной точке превратилось в пресечение целой кампании. Ни один отдельный инструмент не делает такой связи. Сигнал существует только в логах двух продуктов», — говорит Джеймс.
Другой пример, когда Daybreak помог, произошел во время недавних учений «красной команды». Модели дали несколько подсказок о внутренней системе, и она выстроила полный путь атаки — SQL-инъекцию, повышение привилегий, закрепление, перечисление учетных данных и переход к другим системам — примерно за два часа. Обычно у человека из «красной команды» на это ушло бы несколько дней. В недавних учениях время от подачи высокоуровневой уязвимости до автоматического предложения патча составило 18 минут.
Нахождение уязвимостей полезно лишь настолько, насколько эффективно их можно исправить. Неттесхайм описывает процесс, который его команда использует для каждой находки: определить, где проблема находится в коде, и выяснить, кто за нее отвечает, а затем перейти к исправлению. «Вы предлагаете патч, подтверждаете возможность эксплуатации, а затем проверяете, что исправили ее, при этом человек контролирует процесс и развертывает изменения кода».
Хотя агенты технически способны, они не обладают контекстом организации или логикой предыдущих решений. Человек обеспечивает этот контекст и стратегию, и именно здесь его команда берет на себя роль человеческого уровня проверки. Поскольку суждения ИИ подтверждаются на практике, Неттесхайм говорит: «Мы будем постепенно повышать уровень риска, чтобы использовать его для более чувствительных систем».
Результаты вкратце
- Менее одного часа на повторный прогон предложенного изменения обнаружения через семь месяцев телеметрии.
Менее одного часа на повторный прогон предложенного изменения обнаружения через семь месяцев телеметрии.
- Около 600 часов работы аналитиков в квартал сэкономлено на сортировке ложных срабатываний.
Около 600 часов работы аналитиков в квартал сэкономлено на сортировке ложных срабатываний.
- Примерно 1100 часов расследований выполнено в квартал.
Примерно 1100 часов расследований выполнено в квартал.
- 50% рост пропускной способности сортировки.
50% рост пропускной способности сортировки.
- 50% увеличение объема сбора разведданных и расследований.
50% увеличение объема сбора разведданных и расследований.
Что дальше
Только работа по обнаружению и реагированию высвободила около 600 часов работы аналитиков в квартал, которые раньше уходили на сортировку ложных срабатываний. Получив это время, команда теперь тратит больше усилий на глубокие расследования и ответственное создание новых средств автоматизации.
По мере того как темпы атак растут, а модели ИИ продолжают совершенствоваться, Неттесхайм видит возможность сократить количество уязвимостей, возникающих изначально. Это позволит командам безопасности тратить меньше времени на исправление ошибок и больше — на превентивную, стратегическую работу.
«OpenAI дает преимущество защитникам, предоставляя эти передовые возможности в руки каждого, — говорит он. — Раньше это было доступно только высокотехнологичным компаниям и правительственным структурам. Но теперь каждый, включая критическую инфраструктуру, школы и малый бизнес, может начать использовать эту технологию для защиты своих сетей».
