По мере того как предприятия осваивают генеративный ИИ (GenAI), они неизбежно приходят к выводу, что успех их инициатив в области GenAI зависит от качества данных. Низкое качество данных негативно сказывается на всех этапах конвейеров машинного обучения (ML), что приводит к ошибочным бизнес-решениям и упущенным возможностям. Чтобы обеспечить доверие к системам ИИ, предприятиям необходимо находить новые подходы к постоянному повышению качества данных.
Два столпа GenAI: основные и контекстные данные
В основе GenAI лежат два типа данных: основные и контекстные. Основные данные подпитывают обучение больших языковых моделей (LLM), позволяя им расшифровывать сложные закономерности и структуры. Эти фундаментальные знания критически важны для получения результатов, которые являются не только логичными, но и глубоко релевантными для конкретной задачи. Напротив, контекстные данные обогащают этот процесс, предоставляя детализированную информацию о конкретных ситуациях или средах, что ведет к созданию более адаптированных и эффективных результатов GenAI.
Чтобы обеспечить высокое качество основных данных, предприятиям следует уделить первостепенное внимание следующему:
1. Контекстуализация: Контекстуализация необходима для эффективности GenAI, особенно при создании персонализированного контента. Ярким примером является медицинская технологическая организация, которая улучшила взаимодействие с медицинскими работниками (HCP) за счет персонализированного маркетинга, достигнутого путем агрегирования и тщательной проверки данных из различных источников. Этот комплексный подход к объединению данных и контролю качества позволил создать продукты данных, которые значительно повысили вовлеченность HCP, продемонстрировав возможности персонализации GenAI.
2. Полнота: Крайне важно, чтобы данные охватывали все соответствующие группы и сценарии. Например, модели, которые будут использоваться по всему миру, должны обучаться на данных из всех целевых стран.
3. Смягчение предвзятости: Итеративные проверки наборов данных и приложения для обнаружения предвзятости играют важную роль в минимизации предвзятости моделей. Помимо управления данными, проектирование промптов во время обучения модели играет жизненно важную роль в создании объективных и инклюзивных результатов.
4. Соблюдение нормативных требований: Соблюдение правовых стандартов, особенно в отношении персональных данных (PII) и конфиденциальной информации, является обязательным. Такие данные должны быть соответствующим образом замаскированы или исключены, чтобы соответствовать нормативным требованиям, обеспечивая конфиденциальность и комплаенс.
Контекстные данные для составления промптов
Искусство составления промптов для моделей GenAI опирается на три основных понятия: ясность, конкретность и осознание предвзятости. Четкие и недвусмысленные промпты повышают точность результатов, а конкретность гарантирует, что ИИ эффективно понимает контекст и работает с ним. Более того, глубокое понимание потенциальных языковых искажений помогает разрабатывать более справедливые и сбалансированные ответы ИИ. Это создает среду, в которой GenAI может развиваться ответственно и этично.
Основные элементы качества данных
Основные данные часто страдают от таких проблем, как пропущенные значения, несоответствия и неточности. Эти проблемы подрывают надежность и доверие к данным, в конечном итоге препятствуя обучению и производительности моделей GenAI. Общие проблемы качества данных, влияющие на масштабируемость GenAI, включают:
1. Неразмеченные или плохо размеченные данные: Отсутствие контекста в наборах данных может привести к тому, что большие языковые модели (LLM) будут генерировать неверные результаты. Эта проблема усугубляется различными потребностями в данных в бизнес-секторе и ИТ-секторе, что подчеркивает необходимость централизованного инвентаря хорошо размеченных наборов данных, богатых метаданными. Без такой организации поиск данных становится трудоемким, а сомнения в качестве и происхождении данных возрастают. Обеспечение проверки качества, курирования и легкого доступа к наборам данных повышает доверие к данным, упрощает доступ, поощряет сотрудничество и гарантирует согласованные метрики для всех пользователей. Это оптимизирует эффективность использования данных для GenAI и других проектов, основанных на данных.
2. Неполные данные и пропущенные значения: Неполные данные препятствуют производительности модели, предлагая неполный аналитический обзор. Решения по обеспечению качества данных решают эту проблему путем создания подробных отчетов об исключениях в данных, таких как пропущенные значения, что критически важно для ответственных за данные лиц (data stewards) для их выявления и исправления. Корректирующие действия могут включать обновление значений в источнике или установку значений по умолчанию в конвейере данных. Это обеспечивает чистоту данных для последующего использования.
Внедрение решений по обеспечению качества данных систематически повышает качество данных, что отслеживается с помощью ключевых показателей эффективности (KPI), установленных для организационных команд. KPI отслеживают улучшения в точности, полноте и своевременности данных.
3. Точность данных: Решение по обеспечению качества данных необходимо для обеспечения целостности и надежности данных, используемых в приложениях GenAI. Оно создает подробные отчеты о проблемах с данными, включая пропущенные значения. Это помогает ответственным за данные лицам вносить необходимые исправления, такие как обновление значений в источнике или установка значений по умолчанию в конвейере для получения более чистых данных.
Внедрение решений по обеспечению качества данных приводит к значительному повышению качества данных, которое отслеживается по точности, полноте и своевременности с помощью KPI.
Проактивное управление качеством данных гарантирует, что модели GenAI обучаются на высококачественных данных, повышая точность и надежность генерации ценных результатов.
4. Свежесть данных: Устаревшие данные могут ввести модели в заблуждение, влияя на их актуальность по отношению к текущим тенденциям. Решение по наблюдаемости данных (data observability) повышает свежесть данных за счет раннего обнаружения аномалий, предоставляя информацию о давности загрузок данных и выявляя устаревшие данные. Например, розничная компания, использующая старые данные о транзакциях, может получить неверные рекомендации по продуктам. Благодаря наблюдаемости данных обеспечивается актуальность данных, что делает рекомендации модели GenAI более своевременными и релевантными для эффективного взаимодействия с клиентами.
5. Дубликаты: Дублирующиеся записи данных могут привести к избыточности и предвзятому анализу. Решение по обеспечению качества данных выявляет дубликаты с использованием правил сопоставления, таких как сравнение наборов данных клиентов по имени, электронной почте и номеру телефона. Оно присваивает оценки соответствия для оценки уверенности в дубликатах, автоматизируя объединение записей для совпадений с высокой степенью уверенности и помечая остальные для проверки. Этот метод обеспечивает точность данных для обучения и анализа, предотвращая искажение производительности модели из-за чрезмерно представленных данных.
6. Согласованность данных: Несогласованные данные препятствуют способности модели применять полученные знания в разных контекстах. Например, если медицинский работник активен в CRM, но неактивен в маркетинговом приложении, устранение этого несоответствия жизненно важно для точной сегментации данных. Выявление и согласование таких несоответствий требует выбора основного источника данных (источника истины) и соответствующей корректировки конвейеров данных. Это гарантирует, что модели могут эффективно обобщать информацию, повышая надежность и производительность приложений GenAI.
Масштабирование GenAI для более широких корпоративных приложений
Успех корпоративных программ GenAI тесно связан с готовностью к обеспечению качества данных. Чтобы эффективно масштабировать программы GenAI с использованием высококачественных данных, организации могут выполнить следующие шесть стратегических шагов:
1. Стратегия качества данных и поддержка руководства: Сформируйте комплексное видение, основанное на движущих силах и приоритетах управления качеством данных. Согласование с бизнес-приоритетами и обеспечение поддержки со стороны руководства имеют решающее значение для успеха инициатив по обеспечению качества данных и вовлечения различных бизнес-стейкхолдеров.
2. Начните с малого: Четко определите бизнес-цели и текущие проблемы с качеством данных. Выявите и приоритизируйте варианты использования для внедрения, например, качество данных для домена клиентов или конкретный вариант использования/приложение GenAI. Оцените ожидаемые результаты от приложения/варианта использования GenAI, а также базовые данные и соответствующие стандарты/KPI качества данных.
3. Создайте структуру управления качеством данных: Определите процессы и процедуры обеспечения качества данных, такие как идентификация критически важных элементов данных (CDE) или управление проблемами. Опишите целевую операционную модель, в которой детализированы модель взаимодействия, организационная структура и роли и обязанности (RACI). Убедитесь, что владельцы данных и стюарды определены, а их роли согласованы с приоритизированными вариантами использования.
4. Пилотное решение и масштабирование: Разработайте масштабируемое решение, способное адаптироваться к будущим потребностям, включая возможность интеграции новых источников данных, наборов данных или правил. Создайте центральный репозиторий для повторно используемых правил, интуитивно понятные панели мониторинга для отчетов о качестве данных и механизм отслеживания проблем с данными. Вовлекайте бизнес на протяжении всего процесса внедрения для сбора обратной связи и проведения обучения, адаптированного для различных персон и ролей, например, по рабочим процессам управления проблемами или созданию новых критически важных элементов данных. Определите «чемпионов данных» в рабочих группах, чтобы помочь распространять результаты и постепенно подключать другие варианты использования/бизнес-функции.
5. Исправление качества данных: Внедрите надежный процесс исправления, при котором исправления выполняются максимально близко к источнику, чтобы предотвратить распространение проблем с данными по цепочке. Создайте технологически поддерживаемый рабочий процесс управления проблемами для отслеживания исключений и принятия корректирующих мер. Проводите регулярные встречи по управлению данными со стейкхолдерами для обеспечения оперативного решения проблем.
6. Непрерывный мониторинг и улучшение качества данных: Рассматривайте управление качеством данных как непрерывный процесс, который включает регулярный мониторинг по заданным метрикам и KPI, обнаружение аномалий в потоках данных, оповещение стюардов данных и отслеживание проблем с качеством данных до их полного разрешения.
Сделайте качество данных задачей №1
Высококачественные, надежные данные — это основа любой успешной инициативы GenAI. Организации должны уделять первостепенное внимание готовности данных при определении своих вариантов использования и целей GenAI. Откладывание внимания к качеству данных может привести к снижению амбиций в области ИИ и упущенным возможностям для инноваций и роста.
