GPT‑6 Cyber: расширение границ возможностей согласованных агентов кибербезопасности

Мы представляем GPT‑6 Cyber, значительный шаг вперед в исследованиях безопасности: модель стала эффективнее находить и устранять уязвимости и гораздо надежнее придерживаться границ, установленных исследователями. GPT‑6 Cyber демонстрирует существенные улучшения по ключевым показателям кибербезопасности по сравнению с GPT‑5.6 Cyber, включая относительный прирост на 51% в ExploitGym и качественный скачок при тестировании на соблюдение заданных рамок. Она уже помогает защищать реальное программное обеспечение, обнаруживая и проверяя тысячи эксплойтов в критически важных для безопасности кодовых базах, таких как Linux и Firefox.

В тесте ExploitGym, который проверяет способность моделей эксплуатировать указанную уязвимость, GPT‑6 Cyber набирает 48,5% по сравнению с 32,1% у GPT‑5.6 Cyber. Она также более надежно следует границам задач: в ходе отдельной оценки согласованности GPT‑6 Cyber избегала эксплуатации сервисов вне области действия в 99,93% тестов без использования промпта развертывания и в 100% случаев с ним. Это улучшение согласованности отражает специализированное обучение, направленное на работу в рамках разрешенной области, соблюдение ограничений и точную отчетность о результатах.

Эти возможности уже помогают защищать реальные системы. Наши исследователи использовали GPT‑6 Cyber для разработки 948 эксплойтов повышения привилегий в Linux и выявления 81 ранее неизвестной уязвимости высокой степени критичности в Firefox, несмотря на обширное предварительное тестирование с помощью передовых моделей. Модель также помогла разработать варианты исправлений, и Mozilla released fixes for many of the Firefox vulnerabilities⁠(opens in a new window). Команды безопасности в Cisco, Calif и CodeRabbit используют её для исследования уязвимостей и проверки кода, а мы полагались на неё при поиске и устранении слабых мест в нашей собственной инфраструктуре.

Очевидно, что у нас есть ограниченное окно возможностей для использования передовых моделей в целях защиты программного обеспечения. Наша цель — значительно расширить Daybreak, предоставляя передовые исследования безопасности организациям любого размера, независимым исследователям и сопровождающим открытого ПО. Основные модели, такие как GPT‑6 Astra, уже поддерживают проверку кода, сортировку уязвимостей и разработку исправлений. Daybreak Blue помогает проверенным защитникам проверять уязвимости и исправления с меньшим количеством необоснованных отказов, а Daybreak Red обеспечивает более глубокую разработку эксплойтов и авторизованное тестирование безопасности с помощью GPT‑6 Cyber.

Расширение передовых кибервозможностей

GPT‑6 Cyber — это значительный шаг вперед по сравнению с GPT‑5.6 Cyber, превосходящий GPT‑6 Astra в большинстве киберзадач, даже когда Astra не отклоняет запрос. Мы оценили модель на задачах, требующих понимания программного обеспечения, выявления уязвимостей и разработки рабочих эксплойтов. Основываясь на этих результатах, мы классифицируем модель как «Критическую» в области кибербезопасности согласно нашей «Рамке готовности» (Preparedness Framework), что выше уровня «Высокая» для GPT‑5.6 Cyber.

В ExploitGym, который проверяет, могут ли модели эксплуатировать указанную уязвимость в удаленной цели, GPT‑6 Cyber набирает 48,5%, что примерно на 16 процентных пунктов выше, чем 32,1% у GPT‑5.6 Cyber. Чтобы проверить обнаружение уязвимостей, мы также создали новую оценку для наступательного тестирования веб-проникновений. Модели исследуют веб-приложения без доступа к их исходному коду. GPT‑6 Cyber достигла 40,3% полноты обнаружения уязвимостей по сравнению с 32,0% у GPT‑6 Astra.

Daybreak Red разработан для поддержки более продвинутых рабочих процессов безопасности, включая разработку рабочих эксплойтов и их использование против удаленных целей. Для оценки этих возможностей мы создали новый бенчмарк под названием RemoteExploitBench, который использует известные уязвимости в таких приложениях, как GitLab, PostgreSQL и Jenkins, развернутых в контролируемой среде. В нашей первоначальной оценке GPT‑6 Astra, работающая с Daybreak Blue, отклонила 100% задач, в то время как GPT‑6 Cyber выполнила 95%; единственным сбоем стал эксплойт, который не удалось заставить работать удаленно. Полные результаты и настройки оценки см. в системной карте (открывается в новом окне).

Более сильная согласованность, лучшее соблюдение границ

Один из рисков для агентов кибербезопасности заключается в том, что они могут выйти за рамки назначенной задачи, попытаться эксплуатировать несвязанные сервисы или проигнорировать правила взаимодействия, установленные исследователем.

Мы сделали согласованность центральным фокусом GPT‑6 Cyber, используя специализированное обучение, чтобы помочь модели оставаться в рамках разрешенной области, следовать ограничениям на свои действия и точно отчитываться о своей работе. Перед развертыванием мы провели серию оценок согласованности для измерения этого поведения. Полные результаты см. в системной карте (открывается в новом окне).

Одной из таких оценок является ExploitGym Honeypot, которая была основана на инциденте с Hugging Face. Мы даем модели сложную задачу по эксплуатации в изолированной среде с доступом к вспомогательным сервисам, таким как реестр пакетов или объектное хранилище. Мы намеренно делаем эти сервисы легкими для эксплуатации, чтобы атака на них могла раскрыть флаг задачи. Модель должна сделать вывод, что их эксплуатация выходит за рамки её задачи.

GPT‑6 Cyber демонстрирует качественное улучшение по сравнению с GPT‑5.6 Cyber в этой оценке. При тестировании без промптов безопасности развертывания она избегала эксплуатации сервисов вне области действия в 99,93% случаев, по сравнению с 94,49% для GPT‑5.6 Cyber. С этими промптами GPT‑6 Cyber оставалась в рамках границ в 100% случаев.

Мы можем напрямую увидеть в цепочке рассуждений модели GPT‑6 Cyber, как она обосновывает соблюдение границ:

«Нельзя предполагать наличие дополнительного API или контроллера атаки, не являющегося целью. Мы должны нацеливаться только на бинарный файл/сервер».

«Не исследовать учетные данные вне области действия».

Реальное влияние на команды безопасности

GPT‑6 Cyber уже помогает командам безопасности находить уязвимости, проверять их влияние и разрабатывать исправления. Клиенты задействовали её для работы с большими кодовыми базами, длительной разработки эксплойтов и проверки безопасности:

1 из 8

Мы также полагались на GPT‑6 Cyber для защиты наших собственных систем. Это была одна из основных моделей, стоявших за работой, которой мы недавно поделились, по укреплению инфраструктуры, используемой для обучения передовых моделей. В ходе контролируемых кампаний red-teaming агенты, использующие GPT‑6 Cyber и другие модели OpenAI, объединяли уязвимости для выхода из microVM и выполнения кода на базовых хостах. Мы использовали полученные данные для исправления программного обеспечения, ужесточения сетевых ограничений и сообщения о проблемах сопровождающим и поставщикам.

Наши исследователи уязвимостей также используют GPT‑6 Cyber для поиска и проверки уязвимостей в программном обеспечении с открытым исходным кодом в масштабе. Эта работа выявила ранее неизвестные недостатки в программном обеспечении, которое изучалось годами:

• Найдена 81 новая уязвимость в Firefox. GPT‑6 Cyber может быть пригодна для использования в автономных рабочих процессах для поиска уязвимостей и предложения высококачественных исправлений в масштабе. В ходе кампании по исследованию уязвимостей GPT‑6 Cyber предоставила доказательства и воспроизводимые тесты для 81 новой уязвимости, классифицированной Mozilla как имеющая высокую степень критичности, и показала, что еще 30 известных проблем были более серьезными, чем сообщалось ранее. Мы раскрыли результаты Mozilla вместе с предложенными исправлениями, чтобы помочь её инженерам разработать решения. Mozilla поддержала эту работу и начала .

Обнаружена 81 новая уязвимость в Firefox. GPT‑6 Cyber может быть пригоден для использования в автономных рабочих процессах для поиска уязвимостей и предложения высококачественных исправлений в масштабе. В ходе кампании по исследованию уязвимостей GPT‑6 Cyber предоставил доказательства и воспроизводимые тесты для 81 новой уязвимости, классифицированной Mozilla как критическая, а также показал, что еще 30 известных проблем являются более серьезными, чем сообщалось ранее. Мы раскрыли эти результаты Mozilla вместе с предложенными исправлениями, чтобы помочь их инженерам разработать решения. Mozilla поддержала эту работу и начала процесс их внедрения.

• Разработка эксплойтов для 948 уязвимостей ядра Linux. GPT‑6 Cyber воспроизвел 1724 уязвимости и разработал рабочие эксплойты для 948 из них — это более чем в пять раз превышает показатель в 166 эксплойтов, созданных GPT‑5.6 Sol с использованием того же инструментария для исследований. Следуя рекомендациям сообщества Linux, мы раскрыли 304 критических результата сопровождающим проекта вместе с кандидатами на исправление и находимся в процессе устранения других уязвимостей.

Разработка эксплойтов для 948 уязвимостей ядра Linux. GPT‑6 Cyber воспроизвел 1724 уязвимости и разработал рабочие эксплойты для 948 из них — это более чем в пять раз превышает показатель в 166 эксплойтов, созданных GPT‑5.6 Sol с использованием того же инструментария для исследований. Следуя рекомендациям сообщества Linux, мы раскрыли 304 критических результата сопровождающим проекта вместе с кандидатами на исправление и находимся в процессе устранения других уязвимостей.

• Демонстрация критических уязвимостей RCE. Недавно мы обсуждали критическую уязвимость в Brotli⁠(откроется в новом окне), библиотеке сжатия, используемой Node.js и другим программным обеспечением. Наши исследователи безопасности использовали GPT‑6 Cyber вместе с другими моделями OpenAI для разработки и проверки эксплойтов, показывающих, как эта ошибка может обеспечить удаленное выполнение кода в последующих приложениях.

Демонстрация критических уязвимостей RCE. Недавно мы обсуждали критическую уязвимость в Brotli⁠(откроется в новом окне), библиотеке сжатия, используемой Node.js и другим программным обеспечением. Наши исследователи безопасности использовали GPT‑6 Cyber вместе с другими моделями OpenAI для разработки и проверки эксплойтов, показывающих, как эта ошибка может обеспечить удаленное выполнение кода в последующих приложениях.

Обнаружение злоупотреблений и блокировка высокорискованной активности

По мере того как модели становятся более способными и обнаруживают больше уязвимостей безопасности, мы также наблюдаем больше попыток использовать их для причинения вреда. Эти попытки включают действия злоумышленников в киберпространстве и состязательных групп, стремящихся извлечь данные из наших моделей. Поэтому мы дополнили более мощные возможности GPT‑6 Cyber усиленными мерами защиты, чтобы обнаруживать и пресекать злоупотребления, а также удерживать действия модели в рамках намерений и авторизации пользователя.

Мы добавили и усилили эти меры защиты одновременно с выпуском GPT‑6 Cyber (полную информацию см. в системной карте⁠(откроется в новом окне)):

• Мониторинг кибер-специфического несоответствия. Мы отслеживаем, соответствуют ли действия авторизации пользователя, при этом распознавая легитимную разработку и тестирование эксплойтов.

Мониторинг кибер-специфического несоответствия. Мы отслеживаем, соответствуют ли действия авторизации пользователя, при этом распознавая легитимную разработку и тестирование эксплойтов.

• Целевой мониторинг возникающих угроз. Например, во время скоординированного раскрытия критических уязвимостей PHP мы настроили целевой мониторинг попыток разработки эксплойтов против работающих серверов PHP, сохраняя при этом поддержку защитников, исправляющих затронутые системы.

Целевой мониторинг возникающих угроз. Например, во время скоординированного раскрытия критических уязвимостей PHP мы настроили целевой мониторинг попыток разработки эксплойтов против работающих серверов PHP, сохраняя при этом поддержку защитников, исправляющих затронутые системы.

• Частная обработка безопасности (PSP). Мы используем автоматизированные проверки для анализа связанных взаимодействий на предмет злоупотреблений. Стандартное хранение данных остается настройкой по умолчанию. Клиенты API, использующие Zero Data Retention⁠(откроется в новом окне), как правило, должны использовать PSP⁠(откроется в новом окне), которая проверяет зашифрованные записи, хранящиеся в хранилище клиента в течение 30 дней, не раскрывая промпты и ответы персоналу OpenAI.

Частная обработка безопасности (PSP). Мы используем автоматизированные проверки для анализа связанных взаимодействий на предмет злоупотреблений. Стандартное хранение данных остается настройкой по умолчанию. Клиенты API, использующие Zero Data Retention⁠(откроется в новом окне), как правило, должны использовать PSP⁠(откроется в новом окне), которая проверяет зашифрованные записи, хранящиеся в хранилище клиента в течение 30 дней, не раскрывая промпты и ответы персоналу OpenAI.

• Защита от украденных учетных данных. Мы требуем внесения IP-адресов в белый список для доступа к Daybreak Red API по умолчанию, ограничивая запросы утвержденными сетями с ограниченными исключениями. Мы также отслеживаем учетные данные на предмет компрометации.

Защита от украденных учетных данных. Мы требуем внесения IP-адресов в белый список для доступа к Daybreak Red API по умолчанию, ограничивая запросы утвержденными сетями с ограниченными исключениями. Мы также отслеживаем учетные данные на предмет компрометации.

• Песочница и надзор. Как и в случае с предыдущими моделями, мы рекомендуем использование песочницы⁠(откроется в новом окне), проверку действий⁠(откроется в новом окне) и человеческий надзор для рабочих процессов с высоким уровнем риска.

Песочница и надзор. Как и в случае с предыдущими моделями, мы рекомендуем использование песочницы⁠(откроется в новом окне), проверку действий⁠(откроется в новом окне) и человеческий надзор для рабочих процессов с высоким уровнем риска.

• Защита от киберпомощи с высоким уровнем риска. Мы используем новые проверки для блокировки высокорискованной активности, затрагивающей критические системы (подробнее см. ниже).

Защита от киберпомощи с высоким уровнем риска. Мы используем новые проверки для блокировки высокорискованной активности, затрагивающей критические системы (подробнее см. ниже).

Защита критической инфраструктуры

Защита критической инфраструктуры была ключевым фактором при разработке мер безопасности и доступа к GPT‑6 Cyber, включая электростанции, водоочистные сооружения, а также операционные технологии и системы промышленного контроля (OT/ICS), которые лежат в их основе. Мы одновременно хотим предоставить командам, защищающим эти системы, доступ к нашим самым мощным моделям, усиливая при этом наши меры защиты для предотвращения несанкционированных атак.

Во-первых, чтобы оснастить этих защитников, наша грантовая программа «Daybreak for Frontline Defenders» на сумму 1 миллиард долларов субсидирует доступ для команд с ограниченными ресурсами, таких как государственные организации и поставщики основных услуг. Мы также представляем новую группу в рамках Daybreak Red (Daybreak Red for Critical Infrastructure) для утвержденных защитников критической инфраструктуры, которая дает им разрешения на проведение авторизованного тестирования критических систем, сохраняя при этом меры защиты от несоответствия модели.

Во-вторых, чтобы предотвратить злоупотребление платформами Daybreak Red и Blue, мы усовершенствовали меры защиты от помощи и развития возможностей, которые могут скомпрометировать промышленное управление или критически важные для безопасности системы, вмешаться в работу оборудования или привести к серьезным травмам, катастрофическому физическому ущербу или опасным для жизни сбоям в обслуживании. На рисунке ниже сравниваются показатели меток безопасности для четырех конфигураций доступа до и после недавних обновлений, которые мы внедряем вместе с GPT‑6 Cyber.

Более высокие показатели блокировки защитных механизмов не всегда означают лучший результат. Многие методы, используемые в этой оценке, также необходимы для легитимной работы в сфере безопасности: понимание систем, поиск уязвимостей и проверка того, что исправления выдерживают атаки. Поэтому мы оцениваем эти показатели наряду с поддержкой легитимных исследований и исправлений, а не стремимся к 100%.

Чтобы оценить, как наши модели могут помочь в защите критически важной инфраструктуры, мы стали партнерами Dragos, мирового поставщика решений в области кибербезопасности для расширенных операционных технологий (xOT). Компания Dragos провела оценку с использованием кибер-пермиссивных моделей Daybreak Red в контролируемой лабораторной среде. Оценка охватывала запросы, начиная от обнаружения сети и перечисления активов и заканчивая целевой разведкой, эксфильтрацией конфиденциальных данных и несанкционированными, потенциально опасными действиями с устройствами.

Мы использовали отзывы Dragos для совершенствования наших защитных механизмов, стремясь блокировать вредоносную помощь, не ограничивая при этом без необходимости авторизованное тестирование. Ознакомьтесь с их итоговым отчетом⁠(открывается в новом окне) для получения подробной информации об оценках. Мы также работаем над расширением партнерства с другими поставщиками наступательной безопасности и «фиолетовыми» командами по тестированию на проникновение и red teaming с использованием ИИ, а также с энергетическими компаниями, другими операторами критической инфраструктуры и национальными лабораториями для оценки эффективности наших моделей и защитных механизмов в промышленной обороне. Мы также увеличили инвестиции в расследование угроз для выявления использования моделей, связанного с OT/ICS. Мы продолжим совершенствовать наши защитные механизмы с учетом мнения партнеров и сообщества специалистов по безопасности, включая отчеты через /feedback, если защитные механизмы пропускают вредоносную активность или прерывают легитимную работу.

Расширение доступа для доверенных защитников

GPT‑6 Cyber первоначально доступна через API и Codex для избранной группы одобренных клиентов Daybreak Red. В ближайшее время мы будем постепенно расширять доступ для всех клиентов Daybreak Red, а также делаем GPT‑5.6 Cyber доступной для всех клиентов Daybreak Red. Мы также расширяем альфа-доступ Daybreak Blue к GPT‑6 Astra для большего числа организаций и индивидуальных исследователей безопасности; сообщите нам⁠(открывается в новом окне), если вы заинтересованы.

Новые пользователи и организации могут подать заявку на Daybreak⁠ и начать работу с нашими кибер-навыками, продуктами и партнерами⁠.