Более 8 млн аннотаций ускоряют готовность ИИ в масштабе предприятия

HCLTech создала фабрику данных ИИ для мирового лидера в области ИИ-вычислений. Эта инициатива позволила достичь показателя качества в 95% и повысить эффективность на 47%, ускорив обучение LLM

• Обзор
• Задача
• Цель
• Решение
• Результаты

Обзор

Мировой лидер в области ИИ-вычислений и платформ ускоренных вычислений начал сотрудничество с HCLTech для создания и эксплуатации промышленной фабрики данных ИИ. Проект объединил операции с мультимодальными данными, обучение LLM, данные физического ИИ и робототехники, выравнивание моделей и валидацию безопасности. Вместе эти возможности позволили преобразовать сырые данные и сигналы из реального мира в высококачественные обучающие данные.

Задача

Растущий масштаб ИИ обусловил потребность в операциях с обучающими данными корпоративного уровня

По мере того как ИИ выходит за рамки текста и изображений в сферу робототехники, автономных систем и других приложений физического ИИ, обучающие данные должны обеспечивать не просто объем. Они должны быть точными, контекстуально насыщенными, проверенными человеком и безопасными.

Для клиента быстро растущие рабочие нагрузки ИИ создали необходимость индустриализации операций с данными для множества типов моделей и реальных сценариев использования. Потребовалась операция с данными корпоративного уровня, способная непрерывно преобразовывать разнообразные данные в надежные, готовые к производству обучающие сигналы.

Операция должна была объединить:

• Масштабируемый сбор и структурирование мультимодальных данных
• Человеческое рассуждение, предпочтения и экспертные знания в предметной области
• Наборы данных реального мира для физического ИИ и моделей VLA
• Непрерывное измерение и повышение качества
• Оценку моделей, ред-теаминг и валидацию безопасности

Цель

Масштабирование операций с надежными данными ИИ посредством индустриализированной доставки, встроенного контроля качества и надежного управления

Работа была сосредоточена на шести приоритетах:

• Фабрика данных ИИ промышленного уровня: создание и эксплуатация сквозного жизненного цикла данных — от получения сырых данных до готовых к обучению наборов данных моделей в масштабе предприятия.
• Совершенство обучающих данных LLM: предоставление высококачественных текстовых, мультимодальных и специфичных для предметной области обучающих данных, оцененных с точки зрения безопасности контента, фактической точности, когерентности и полезности.
• Готовность физического ИИ и моделей VLA: поддержка моделей «зрение-язык-действие» (Vision-Language-Action) нового поколения и робототехнических систем с помощью проверенных человеком реальных эгоцентрических наборов данных и наборов данных телеопераций.
• Выравнивание моделей с участием человека: интеграция человеческого мышления, предпочтений и опыта в процесс обучения моделей с помощью RLHF, оценки предпочтений и рабочих процессов настройки инструкций.
• Встроенное управление качеством: проведение непрерывного аудита качества с использованием пятизвездочной методологии и отслеживания показателей прохождения контроля качества для стимулирования обучающих воздействий и повышения стандартов аннотирования.
• Безопасность, управление и доверие: создание структурированных платформ для ред-теаминга, состязательного тестирования и проверки защитных барьеров для поддержки масштабного развертывания ответственного ИИ.

Решение

Возможность работы с данными ИИ корпоративного уровня на базе управляемой фабрики данных ИИ

• Развертывание и масштабирование: HCLTech задействовала более 500 специалистов по рабочим процессам LLM, мультимодального ИИ, физического ИИ, робототехники и генеративного ИИ, управляя масштабируемой фабрикой данных ИИ из центров компетенций на Филиппинах и в Индии.
• Обучение LLM и операции с контентом: рецензенты оценивают результаты работы моделей по критериям безопасности контента, фактической точности, когерентности и полезности, в то время как специалисты создают структурированные промпты и подписи на английском, корейском, японском и вьетнамском языках.
• Физический ИИ, робототехника и модели VLA: создание эгоцентрических видеоданных от первого лица, наборов данных телеопераций, сред симуляции и трасс принятия решений автономных транспортных средств для поддержки моделей VLA и робототехнических систем.
• Сбор и структурирование мультимодальных данных: создание структурированных конвейеров извлечения данных для сложных документов с использованием распознавания ограничивающих рамок, интеллектуальной фильтрации шума и плотной транскрипции видео.
• Выравнивание и оценка моделей: применение многоосевой оценки предпочтений к ответам моделей и оценка синтетических запросов RAG, извлеченных документов и сгенерированных ответов на предмет релевантности, полноты и фактической обоснованности, что помогло сократить количество галлюцинаций.
• Безопасность, управление и ред-теаминг: развертывание рабочих процессов состязательного тестирования для выявления обхода защитных механизмов, нарушений политик и небезопасных результатов до выпуска в производство.
• Система управления качеством: применение модели контроля качества на основе калибровки, включающей методологию пятизвездочного аудита, еженедельные циклы проверки и непрерывное отслеживание коэффициента прохождения контроля качества.
• Модель подбора талантов и экспертов по предметной области: привлечение профессионалов со специализированными знаниями в области игр, художественной литературы, компьютерных наук, финансов и медицинских наук для привнесения предметных знаний и человеческого мышления в обучающие данные.

Результаты

Масштабируемая возможность работы с данными, которая переводит ИИ от этапа обучения к готовности к работе

Фабрика данных ИИ обеспечила измеримый прирост качества и эффективности при одновременном достижении масштаба, необходимого для поддержки расширяющихся усилий клиента по разработке ИИ.

• Достигнут показатель качества 95% в рабочих процессах аннотирования и разметки данных благодаря пятизвездочной системе аудита.
• Повышение эффективности процессов на 47% за счет непрерывной калибровки, еженедельных циклов контроля качества и целенаправленных обучающих вмешательств.
• Ежегодно создается более 8 млн аннотаций для рабочих потоков LLM, физического ИИ, мультимодальных и специализированных по предметной области задач.
• Более 500 специалистов работают в центрах компетенций на Филиппинах и в Индии.
• Ускоренная готовность ИИ: более чистые и структурированные наборы данных, созданные с использованием принципа пирамиды и экспертных знаний, ускорили путь от сырых данных до готовых к производству моделей ИИ.
• Повышенная безопасность ИИ: структурированная проверка методом ред-теаминга, а также оценка RAG и RLHF укрепили безопасность и управление во всех рабочих процессах ИИ, помогая выявлять потенциальные риски до развертывания в производство.

Этот проект продемонстрировал, как фабрика данных ИИ корпоративного уровня может превратить операции с данными в стратегический инструмент для развития заслуживающего доверия ИИ.

BPO Операции бизнес-процессов Вариант практического применения Более 8 млн аннотаций ускоряют готовность ИИ в масштабе предприятия