Для организаций, внедряющих ИИ, создание пилотного проекта — это лишь часть работы. Запуск в промышленную эксплуатацию требует принятия решений об инфраструктуре, корпоративных данных, контроле доступа и способах оценки производительности с течением времени. Эти решения зачастую требуют больше усилий, чем создание первоначального прототипа.
Сегодня на саммите Google Cloud в Дохе компании Scale и Google Cloud публикуют совместную эталонную архитектуру для запуска портфеля Scale GenAI Portfolio (SGP) в Google Cloud с интеграцией Gemini Enterprise. Она предоставляет техническим командам документированный шаблон развертывания, который можно использовать в качестве отправной точки, с рекомендациями по взаимодействию компонентов.
Как работают платформы вместе
Архитектура объединяет инфраструктуру и сервисы Google Cloud с инструментами Scale для создания, оценки и эксплуатации ИИ-агентов.
Google Cloud предоставляет доступ к моделям Google и сторонних разработчиков, сервисам идентификации и управления, а также к инфраструктуре, включая Google Kubernetes Engine (GKE), графические процессоры (GPU) и тензорные процессоры (TPU). Gemini Enterprise предоставляет сотрудникам единое пространство для поиска и использования агентов в рамках их привычной рабочей среды.
Scale предоставляет SGP для разработки, оркестрации и развертывания агентов, а также для их оценки, отслеживания и проверки человеком. Вклад Scale также включает экспертные знания в предметной области, поддержку различных языков, включая арабский, и команды сопровождения, которые продолжают работу после развертывания.
Эталонная архитектура определяет, как эти возможности работают вместе, чтобы команды могли планировать полное развертывание, а не решать проблемы интеграции по мере их возникновения.
От разработки агента до использования сотрудниками
Агент создается и оценивается в SGP, а затем развертывается в проекте Google Cloud клиента с использованием его VPC и ключей шифрования. Тот же агент затем может стать доступным через специализированное бизнес-приложение и через Gemini Enterprise.
Архитектура использует A2A и MCP для обеспечения интероперабельности, а также реестр агентов (Agent Registry) для их обнаружения. Такой подход позволяет командам сделать существующего агента доступным через другой интерфейс без переработки его базовой логики.
Вспомогательные сервисы Google Cloud охватывают различные аспекты развертывания: от доступа через шлюз до контроля безопасности промптов и защиты сети, а также обеспечения операционной прозрачности и ведения записей для аудита и проверки.
В совокупности эти компоненты дают командам общую основу для эксплуатации агентов в различных приложениях.
Что это означает для команд разработчиков
Команды могут создать агента для конкретного рабочего процесса и одновременно сделать его доступным через Gemini Enterprise. Сотрудники могут находить его там в соответствии с правами доступа организации, в то время как команда продолжает поддерживать одного и того же базового агента.
Стандартные интерфейсы также упрощают подключение агентов к корпоративным данным и друг к другу. Команды могут применять средства идентификации, предотвращения потери данных, аудита и контроля расходов через общую систему управления Google Cloud, а затем решать любые дополнительные требования конкретного сценария использования.
Это позволяет клиентам использовать возможности оценки и экспертные знания Scale в своей среде Google Cloud. Это также дает командам, отвечающим за разработку, безопасность и эксплуатацию, общую схему развертывания для анализа.
С чего начать
В ходе развертываний с клиентами на Ближнем Востоке и по всему миру мы обнаружили, что успех начинается с определения одного сценария использования, у которого есть четкий владелец и измеримый результат. Затем используйте эталонную архитектуру для сопоставления источников данных, требований к доступу, критериев оценки и потребностей в развертывании. Установите, что считается приемлемой производительностью до запуска, и как команда будет отслеживать ее после.
Эта работа создает фундамент для последующих развертываний. Команды могут повторно использовать подходящую инфраструктуру и средства контроля, оценивая при этом требования каждого нового агента.
Для сценариев использования, связанных со специализированными областями, требованиями к арабскому языку или нормативными ограничениями, Scale и Google Cloud могут работать напрямую с клиентами, при этом опубликованная архитектура станет конкретной отправной точкой для таких обсуждений.
Читайте далее, чтобы узнать больше о портфеле Scale GenAI или партнерстве Scale с Google Cloud.
Чтобы узнать больше о начале работы с совместной эталонной архитектурой, напишите Хишаму Мохамеду, доктору наук, директору по инжинирингу, по адресу hisham.mohamed@scale.com.
