Открытие исходного кода SPACE, платформы «песочницы», лежащей в основе Computer

С момента запуска Computer в феврале компания Perplexity стала одним из первопроходцев в области персональных агентов. Мы стремимся решать сложные задачи управления агентами, обнаружения небезопасного поведения и предотвращения несанкционированной активности агентов. В июле мы заменили нашего коммерческого провайдера «песочниц» на более надежное и устойчивое собственное решение, которое мы назвали SPACE.

SPACE обеспечивает высокий уровень безопасности для продвинутых агентных систем. Более того, недавняя серия тестов на безопасность доказала устойчивость SPACE к методам обхода сети, подобным тем, что использовались в инциденте с OpenAI/Hugging Face.

Сегодня мы открываем исходный код SPACE, чтобы дать разработчикам основу для создания более безопасных агентных систем и внести вклад в усиление защиты во всей отрасли. Разработчики могут получить доступ к репозиторию здесь.

Управление агентами — это инженерная задача, и открытый исходный код имеет решающее значение для ее решения. Когда у разработчиков есть системы, которые они могут изучать, адаптировать и развивать, они находят больше уязвимостей и создают лучшие инструменты. Открытие исходного кода SPACE предоставляет разработчикам проверенную в эксплуатации основу для сред выполнения агентов со встроенными функциями изоляции, восстановления состояния, а также контроля учетных данных и сети.

Создание фундамента для других разработчиков

«Песочницы» обеспечивают безопасность агентов, позволяя им получать доступ к инструментам и файлам, необходимым для выполнения задач, при этом защищая конфиденциальную информацию.

Открытие исходного кода SPACE дает разработчикам отправную точку для создания сред, в которых их агенты выполняют код и работают с файлами. Команды могут увидеть, как работает платформа «песочницы» SPACE, и строить свои решения на ее основе. Они также могут адаптировать ее под свои нужды, вместо того чтобы воссоздавать базовую инфраструктуру.

В Computer платформа SPACE поддерживает изолированное выполнение кода, приостановку и возобновление работы, восстановление и ветвление сессий. Эти возможности обеспечивают основу для помощников, которые могут:

• Анализировать данные: очищать электронные таблицы, выполнять вычисления и создавать графики в отдельном рабочем пространстве.
• Возобновлять работу: приостанавливать выполнение, чтобы кто-то мог проверить черновик или предоставить недостающую информацию, а затем продолжать работу с сохраненными файлами и текущим состоянием.
• Изучать альтернативы: тестировать два способа очистки набора данных в отдельных копиях рабочего пространства или восстанавливать предыдущую версию файла после ошибки.

Эти примеры иллюстрируют, как разработчики могут использовать документированную изоляцию и элементы управления сессиями SPACE. Инженеры по платформе и безопасности также могут изучить модель изоляции и примеры безопасности перед интеграцией SPACE в свои собственные системы.

Повышение безопасности для автономной работы

Когда мы даем агентам больше свободы в решении задач, нам нужны четкие ограничения того, как они это делают. Мы знаем, что агенты, выполняющие законные задачи, все равно могут нарушать границы безопасности, когда пытаются обойти проблему отсутствующих файлов, неудачных запросов или отказа в доступе.

Мы можем внедрить механизмы защиты модели, чтобы снизить вероятность небезопасного поведения. Добавление независимых элементов управления в окружающую систему помогает ограничить ущерб, если эти механизмы защиты не сработают. Они ограничивают то, к чему агент может получить доступ, независимо от того, что он решит сделать.

SPACE размещает эти элементы управления вокруг отдельного рабочего пространства для кода и файлов, созданных агентом. Мы разработали ее так, чтобы сочетать изоляцию, восстановление и эффективное выполнение. Это позволяет агентам выполнять полезную работу в течение длительных сессий, не полагаясь только на модель в вопросах соблюдения границ безопасности.

Работа внутри собственной операционной системы

Каждая «песочница» SPACE работает внутри небольшой виртуальной машины со своей собственной операционной системой, создавая границу изоляции между работой агента и хост-системой. Центральная плоскость управления координирует создание, приостановку, возобновление или удаление этих рабочих пространств.

SPACE рассматривает «песочницу» как ненадежную среду и управляет доступом к сети и учетными данными, хранящимися на платформе, вне «песочницы». Агенты могут подключаться к авторизованным сервисам без хранения этих учетных данных в своей рабочей среде.

Частые снимки файлов и контрольные точки всей работающей среды сохраняют прогресс при прерываниях. Чтобы эти операции оставались эффективными, SPACE сохраняет изменения, а не копирует всю среду целиком. Это сокращает объем работы, необходимой для создания, восстановления или ветвления «песочницы».

Улучшение производительности в промышленной эксплуатации

С июля SPACE обеспечивает работу всех сессий Computer и обрабатывает миллионы созданий «песочниц» в день. При сравнении на том же производственном трафике создание «песочницы» происходило в три-пять раз быстрее, чем у нашего предыдущего провайдера.

Мы также тестировали SPACE на агентах, которые намеренно пытались нарушить ее границы. Наша опубликованная оценка безопасности не выявила ни одного случая выхода из виртуальной машины на хост за 108 попыток, однако некоторые агенты нашли способы обойти сетевые ограничения. Мы устранили эти уязвимости, и ни один из выявленных методов атаки не увенчался успехом при повторном тестировании.

Мы также раскрыли связанные с этим уязвимости, обнаруженные в других платформах «песочниц», их поставщикам, расширив эту работу за пределы нашей собственной инфраструктуры.

Вклад в создание более безопасного агентного ИИ

SPACE является частью более широких усилий по укреплению систем, на которые полагаются люди по мере того, как ИИ берет на себя все больше работы. Через Secure Intelligence Institute мы проводим исследования в области безопасности и сотрудничаем с широким сообществом, превращая полученные результаты в практические средства защиты.

Мы считаем, что открытие исходного кода инструментов безопасности дает разработчикам больше способов тестировать защиту, находить уязвимости и создавать более безопасные системы ИИ. Мы поделились инструментами, которые решают разные части этой задачи:

• BrowseSafe — модель и эталонный тест для обнаружения вредоносных инструкций, скрытых на веб-страницах.
• Numbat — набор инструментов безопасности с открытым исходным кодом, выпущенный в июле, который помогает обнаруживать, расследовать и предотвращать опасное поведение агентов на компьютерах.
• Bumblebee — сканер с открытым исходным кодом, выпущенный в мае, который проверяет компьютеры разработчиков на наличие рискованных программных пакетов, расширений и конфигураций инструментов ИИ.

Предоставление доступа к этим инструментам позволяет другим командам изучать нашу работу, адаптировать ее под свои нужды и вносить улучшения. С помощью SPACE мы распространяем этот подход на среды, в которых агенты выполняют код и работают с файлами.

Развертывание для агентных систем

Лидеры облачной индустрии, включая CoreWeave и Akamai, успешно протестировали и запустили SPACE на своих облачных платформах и работают с Perplexity над тем, чтобы сделать SPACE доступной для своих клиентов. Crusoe также сотрудничает с Perplexity, чтобы внедрить SPACE в портфель управляемых ИИ-сервисов на своей облачной платформе.

Разработчики могут начать с инструкций по настройке и руководства по безопасности SPACE, чтобы развернуть ее для своих собственных агентных систем. В и документации определены поддерживаемые конфигурации и включенные компоненты.