Для организаций, внедряющих ИИ, запуск пилотного проекта — это лишь часть дела. Его эксплуатация в рабочей среде требует принятия решений об инфраструктуре, корпоративных данных, средствах контроля доступа и методах оценки производительности с течением времени. Эти решения часто требуют больше усилий, чем создание первоначального прототипа.
Сегодня на саммите Google Cloud Doha компании Scale и Google Cloud публикуют совместную эталонную архитектуру для запуска портфолио Scale GenAI (SGP) в Google Cloud с интеграцией Gemini Enterprise. Она предоставляет техническим командам документированный паттерн развертывания, который можно использовать в качестве отправной точки, а также рекомендации по взаимодействию компонентов.
Как работают платформы
Архитектура объединяет инфраструктуру и сервисы Google Cloud с инструментами Scale для создания, оценки и эксплуатации ИИ-агентов.
Google Cloud предоставляет доступ к моделям от Google и сторонних производителей, службам идентификации и управления, а также к инфраструктуре, включая Google Kubernetes Engine (GKE), графические (GPU) и тензорные (TPU) процессоры. Gemini Enterprise дает сотрудникам возможность находить агентов и работать с ними в рамках привычной рабочей среды.
Scale предоставляет SGP для разработки, оркестрации и развертывания агентов, а также инструменты для оценки, отслеживания и проверки с участием человека. Вклад Scale также включает экспертные знания в предметной области, поддержку языков, включая арабский, и группы внедрения, которые продолжают оказывать поддержку после развертывания.
Эталонная архитектура описывает совместную работу этих возможностей, позволяя командам спланировать развертывание целиком, а не решать проблемы с интеграцией по ходу дела.
От разработки агента до использования сотрудниками
Агент создается и оценивается в SGP и развертывается в рамках проекта клиента в Google Cloud с использованием его VPC и ключей шифрования. Затем этот же агент может стать доступным через выделенное бизнес-приложение и через Gemini Enterprise.
Архитектура использует A2A и MCP для обеспечения совместимости, а также Реестр агентов (Agent Registry) для обнаружения. Такой подход позволяет командам делать существующий агент доступным через другой интерфейс без перестройки его базовой логики.
Вспомогательные сервисы Google Cloud обслуживают различные этапы развертывания: от доступа через шлюз до средств контроля безопасности промптов, защиты сети, а также обеспечения операционной видимости и ведения журналов для аудита и проверок.
В совокупности эти компоненты предоставляют командам единую основу для работы с агентами в различных приложениях.
Что это означает для команд разработки
Команды могут создать агента для конкретного рабочего процесса и одновременно сделать его доступным через Gemini Enterprise. Сотрудники смогут найти его там с учетом прав доступа организации, в то время как команда продолжит поддерживать того же базового агента.
Стандартные интерфейсы также упрощают подключение агентов к корпоративным данным и друг к другу. Команды могут применять политики идентификации, предотвращения утечки данных (DLP), аудита и контроля расходов с помощью общей системы управления Google Cloud, а затем решать любые дополнительные требования конкретного сценария использования.
Это позволяет клиентам использовать возможности оценки и предметную экспертизу Scale в своей среде Google Cloud. Кроме того, это предоставляет командам, отвечающим за разработку, безопасность и эксплуатацию, общую схему развертывания для совместного рассмотрения.
С чего начать
В ходе работы с клиентами на Ближнем Востоке и в Северной Африке (MENA), а также по всему миру, мы убедились, что успех начинается с определения одного сценария использования с четким владельцем и измеримым результатом. Затем с помощью эталонной архитектуры необходимо сопоставить источники данных, требования к доступу, критерии оценки и потребности в развертывании. Перед запускoм следует определить приемлемый уровень производительности и то, как команда будет отслеживать его в дальнейшем.
Эта работа создает основу для последующих развертываний. Команды могут повторно использовать подходящую инфраструктуру и элементы управления, оценивая при этом требования каждого нового агента.
Для сценариев использования, связанных со специализированными областями, требованиями к арабскому языку или регуляторными ограничениями, Scale и Google Cloud могут работать с клиентами напрямую, причем опубликованная архитектура станет конкретной отправной точкой для таких обсуждений.
Читайте далее, чтобы узнать больше о портфолио GenAI от Scale или о партнерстве Scale с Google Cloud.
Чтобы узнать больше о начале работы с совместной эталонной архитектурой, отправьте электронное письмо Хишаму Мохамеду (Hisham Mohamed, PhD, директор по инжинирингу) по адресу hisham.mohamed@scale.com.
