Авторы: Николь Гринстед (Nicole Grinstead), директор по информационной безопасности, и Бехнам Резаи (Behnam Rezaei), вице-президент по инженерным разработкам
- ИИ дает нам преимущество. Он не заменяет нас. Инженеры Roblox используют агентные системы и предложения по пул-реквестам на базе языковых моделей (LLM) для масштабного укрепления систем, чтобы уделять больше времени архитектуре, принятию решений и самым сложным задачам дорожной карты.
- Масштаб определяет ставки. В Roblox насчитывается 138 миллионов ежедневно активных пользователей (по состоянию на 3-й квартал 2026 года), выполняется код от миллионов разработчиков, а через единую внутреннюю платформу проходит более 18 триллионов сообщений в день. Безопасность — это основа нашей экономики.
- Мы внедряем новшества осознанно и действуем быстро. Прежде чем дать внутреннее «зеленый свет» инструментам программирования на базе ИИ, мы создали изолированную среду (песочницу) для их тестирования. Модель Roblox: протестировать, создать элементы контроля, а затем довериться и отслеживать результат.
- Окончательное решение всегда за человеком. ИИ берет на себя рутину. Наши команды в Roblox привносят сочувствие, контекст и здравый смысл, которых заслуживает наше сообщество.
В ходе внутреннего тестирования скрытая инструкция в задаче на GitHub убедила ИИ-агента по программированию попытаться выгрузить наши учетные данные в публичный репозиторий. Традиционные инструменты безопасности не заметили ничего необычного. Это произошло в изолированной тестовой среде, которую мы создали именно для таких целей, и позже наша команда безопасности поделилась полной версией этой истории на конференции Black Hat 2026.
Инженеры Roblox используют ИИ практически во всех аспектах своей работы, и перед внедрением каждого нового инструмента мы проверяем его на предмет возможных злоупотреблений. Мы хотим, чтобы ИИ брал на себя повторяющиеся задачи, позволяя нашим командам уделять больше времени проектированию и принятию решений.
Наша платформа обслуживает сотни миллионов игроков, миллионы создателей контента, развивающих свои игры и бизнес, и миллиарды долларов по всей экосистеме. Только в США создатели контента на Roblox в 2025 году обеспечили прирост ВВП примерно на 752 миллиона долларов, что на 69% больше, чем в 2024 году. Многие создатели строят бизнес и зарабатывают реальные деньги на Roblox, поэтому безопасность должна идти в ногу со всем, что мы выпускаем.
В видео выше вы услышите об этом из первых уст от людей, которые выполняют эту работу. Ниже представлен более подробный обзор трех идей, к которым они постоянно возвращаются.
Перемены могут вызывать тревогу — они одновременно пугают и восхищают. Как рассказывает в видео ведущий инженер по безопасности инфраструктуры Чарльз Заффери (Charles Zaffery): «Я думаю, был период времени, когда мне было действительно страшно... вот эта штука идет, она заменит всю нашу работу. А теперь я этого совсем не чувствую».
То, как мы внедряем эти инструменты, имеет решающее значение для того, доверяют ли им наши создатели (люди, которые работают здесь, в Roblox). Мы рассматриваем внедрение ИИ как инженерную задачу и задачу безопасности, которую необходимо решить. Мы тестируем каждый инструмент, создаем вокруг него элементы контроля, а затем доверяем ему, продолжая мониторинг. Та же команда безопасности, которая изолировала наших агентов по программированию в песочнице, создала мультиагентные конвейеры, которые исследуют угрозы, находят пробелы в наших системах обнаружения, а также пишут, проверяют и валидируют новые правила обнаружения, не говоря уже об автономной системе поиска угроз, работающей на основе актуальных данных безопасности.
Если говорить о повседневных инженерных задачах, то предложения по пул-реквестам на базе LLM и агентные системы помогают нам находить и исправлять проблемы в нашей кодовой базе. Мы также создали помощника по программированию на базе ИИ, обученного на нашем собственном коде, что почти вдвое увеличило частоту принятия инженерами его рекомендаций. Это освобождает инженеров для работы над важными проектными решениями вместо рутинного поиска багов. И поскольку лучшие идеи редко рождаются из дорожной карты, мы даем эти инструменты в руки каждому. Самый быстрый способ стимулировать инновации — сделать ИИ широко доступным и посмотреть, к чему это приведет.
В Roblox масштаб означает 138 million daily active users, очередь сообщений, которая обрабатывает более 18 триллионов сообщений в день с доступностью 99,995%, и инфраструктуру, охватывающую собственные дата-центры и облачные инстанции, которые запускаются и исчезают за считанные секунды. Это также означает живую экономику из миллионов виртуальных предметов.
Не говоря уже о том, что наш бизнес работает на коде, который написали не мы. Каждый день Roblox выполняет скрипты от миллионов внешних создателей. Некоторые из них новички, некоторые — опытные специалисты, а иногда кто-то пытается обойти наши средства защиты. Поэтому песочницы, изоляция и мониторинг во время выполнения встроены в саму основу платформы.
Как объясняет в видео старший директор по инженерным разработкам Дэн Ли (Dan Li), наша задача — создать инфраструктуру, которая позволяет людям уверенно писать код, с надежными защитными механизмами до того, как возникнут сюрпризы. ИИ помогает нам делать это быстрее. Гюнгор Полаткин (Gungor Polatkan), старший директор по инженерным разработкам направления Discovery, отмечает, что внутренние инструменты на базе ИИ позволяют инженерам задавать вопросы и понимать существующие продукты гораздо, гораздо быстрее. Для старшего инженера-программиста Шона Скарнеккья (Sean Scarnecchia) такая скорость меняет то, на что команды готовы решиться: ИИ позволяет им браться за «более масштабные рискованные задачи [и] за самые сложные части нашей дорожной карты с меньшими колебаниями».
Рассмотрим секреты — учетные данные и ключи, которые обеспечивают безопасную связь между нашими системами: для тысяч микросервисов мы создали единую центральную систему, которая управляет ими и автоматически их ротирует, поэтому ни одному инженеру не нужно вспоминать о необходимости обновить учетные данные. Наши команды безопасности относятся к инженерам как к своим клиентам и делают все возможное, чтобы безопасный вариант был самым простым в выборе.
Защита платформы такого масштаба начинается с уважения к людям, которые на ней находятся, а это начинается с этического выбора: мы не потребляем лишние данные и не подвергаем их избыточному раскрытию.
Мы должны двигаться быстро, не срезая углы. Каждая интеграция ИИ оценивается на соответствие нашим обязательствам по обеспечению доверия и надежности, а человеческое суждение превосходит рекомендации любой модели.
Некоторые предполагают, что большая автоматизация означает меньшее количество человеческого общения. Мы обнаружили, что передача механической работы на аутсорс ИИ дает людям больше времени для более значимой работы и друг для друга. Для Авни Ягник (Avni Yagnik), руководителя отдела обнаружения и реагирования (Detection and Response), сострадание лежит в основе нашей работы. Когда ИИ берет на себя тяжелую работу, у людей остается больше возможностей для тонких этических решений, которые алгоритмы принять не могут.
Полаткин подводит лучший итог: «Не думаю, что я когда-либо работал в месте, где это богатство ИИ присутствует буквально во всех аспектах... Это то, что я искал».
Если вы хотите использовать ИИ для решения некоторых из самых сложных инженерных задач, обладая автономией для расширения границ и командой, которая поддержит вас, когда вы беретесь за масштабный проект, мы будем рады с вами познакомиться.












