Телекоммуникационные операторы все чаще строят свои стратегии в области ИИ на базе открытых моделей — и причины этого выходят далеко за рамки простой экономии средств.
Открытые модели дают телекоммуникационным компаниям возможность доверять ИИ, контролировать его и настраивать для своих наиболее критически важных рабочих нагрузок — от автономных сетей до обслуживания клиентов.
Последний отчет NVIDIA о состоянии ИИ в телекоммуникационной отрасли отражает этот сдвиг: 89% респондентов сообщили, что модели и программное обеспечение с открытым исходным кодом важны для стратегии ИИ их компании.
Для операторов стратегическая ценность открытых моделей заключается в пяти аспектах:
- Они расширяют доступ к интеллекту передового уровня при меньших затратах, позволяя операторам резервировать закрытые модели для тех рабочих нагрузок, где они приносят наибольшую пользу. Независимые тесты, такие как Artificial Analysis Intelligence Index v4.3.2, показывают, что ведущие открытые модели становятся все более конкурентоспособными в сложных задачах, связанных с рассуждениями, программированием, научными вычислениями и агентными рабочими нагрузками.
- Они поддерживают настройку под нужды телекоммуникационной отрасли благодаря открытым весам и рецептам обучения, которые операторы могут донастраивать для своих собственных операций, используя данные о сети, клиентах и отрасли.
- Они обеспечивают создание надежного ИИ, предоставляя телекоммуникационным компаниям большую прозрачность и контроль над артефактами и поведением моделей, что позволяет оценивать, адаптировать и регулировать их в соответствии с нормативными требованиями и бизнес-политиками.
- Они обеспечивают гибкое и безопасное развертывание: команды могут масштабировать и оптимизировать открытые модели для работы в публичных облаках, частной инфраструктуре и периферийных средах.
- Они открывают для телекоммуникационных компаний возможность предоставлять локально адаптированные ИИ-сервисы корпоративным и государственным клиентам путем хостинга и донастройки открытых моделей.
Открытые основы, настроенные для телекоммуникационных операций
Семейство открытых моделей NVIDIA Nemotron обеспечивает производительность рассуждений уровня frontier, оптимизированную для агентных рабочих процессов, а также возможности распознавания речи для голосовых приложений, предоставляя открытые веса, обучающие данные и рецепты.
SoftBank Corp. демонстрирует, как оператор может использовать открытые модели в качестве основы для разработки и постоянного совершенствования своих специфических ИИ-возможностей в телекоммуникационной сфере.
«Открытые модели позволяют SoftBank Corp. опираться на быстрый прогресс глобальных базовых моделей, применяя при этом сетевые знания и операционный опыт, накопленные нами за многие годы», — сказал Раджив Кудли, главный научный сотрудник SoftBank Corp. и старший вице-президент SB Telecom America. «Мы активно используем открытые основы, включая модели NVIDIA Nemotron и другие, при разработке нашей большой телекоммуникационной модели SoftBank, постоянно совершенствуя ее для специфических задач, таких как эксплуатация сетей, проектирование и общее управление».
Кроме того, NVIDIA сотрудничает с партнерами, помогая превратить открытые модели в практические строительные блоки для телекоммуникационного ИИ.
NVIDIA анонсировала модель Nemotron 3 Large Telco Model (LTM) с 30 миллиардами параметров, fine-tuned от AdaptKey на основе телекоммуникационных наборов данных с открытым исходным кодом, чтобы обеспечить повышение точности для специфических задач отрасли. Это дает операторам открытую базу, которая может понимать терминологию телекоммуникационной индустрии и эффективно рассуждать в рамках рабочих процессов, таких как конфигурация сети и сортировка инцидентов клиентов.
Чтобы помочь операторам настроить Nemotron 3 LTM и другие открытые модели с использованием собственных операционных данных, NVIDIA выпустила полный рецепт, который описывает сквозной конвейер донастройки для адаптации открытых моделей к сетям, клиентам и процедурам конкретного оператора с использованием открытых библиотек NVIDIA NeMo.
Масштабирование открытых моделей в производственные рабочие процессы
Открытые модели являются критически важным строительным блоком, но для безопасного внедрения автономных телекоммуникационных операций в производство требуется нечто большее, чем просто модели.
Для AT&T ценность выбора модели заключается в том, чтобы сделать эту гибкость операционной в соответствии с приоритетами бизнеса.
«В AT&T мы считаем, что будущее ИИ заключается не в выборе одной модели, а в интеллектуальном подборе каждой рабочей нагрузки к правильному сочетанию производительности, стоимости и контроля», — сказал Энди Маркус, директор по данным и ИИ в AT&T. «Открытые модели имеют важное значение для этого подхода, и вместе с NVIDIA мы можем внедрить эту стратегию выбора моделей в производство с масштабируемостью, надежностью и управлением, которые требуются нашему бизнесу».
Операторам нужны конвейеры, которые подготавливают и защищают их данные для донастройки моделей путем анонимизации конфиденциальных записей и создания синтетических наборов данных, сохраняющих конфиденциальность. Им также нужна платформа, способная превратить открытые модели в управляемые автономные агентные рабочие процессы.
NVIDIA предоставляет такую сквозную платформу, работающую на базе программного обеспечения NVIDIA AI Enterprise и NVIDIA Agent Toolkit, охватывающую конвейеры данных, открытые модели, оркестрацию агентов, безопасные среды выполнения и симуляцию.
Вместе с сильной экосистемой партнеров, формирующейся на каждом уровне этой платформы, телекоммуникационные операторы получают четкий путь к преобразованию преимуществ открытых моделей в готовые к производству ИИ-рабочие процессы.
Создание платформы для локальных инноваций в области ИИ
Поскольку телекоммуникационные операторы строят ИИ-инфраструктуру в соответствии с национальными стратегиями в области ИИ, открытые модели дают им основу для предоставления ИИ-услуг, адаптированных к местным языкам, отраслям, нормативным актам и требованиям к управлению данными.
Операторы в разных странах могут донастраивать открытые модели для нужд местного языка и конкретных отраслей, а также размещать открытые модели на своих доверенных платформах, которые клиенты могут использовать напрямую или дополнять своими собственными данными и приложениями.
Для Indosat Ooredoo Hutchison, одного из крупнейших телекоммуникационных операторов Индонезии, это означает создание ИИ, который отражает язык и культуру страны, через семейство открытых моделей Sahabat-AI.
«Для таких стран, как Индонезия, ценность открытых моделей выходит за рамки доступа к мощному ИИ. Речь идет об адаптации этого интеллекта к нашему собственному языку, культуре, данным и реальным потребностям», — сказал Чираг Сухадия, директор по данным и ИИ в Indosat Ooredoo Hutchison. «Sahabat-AI воплощает это на практике, используя открытые модели в качестве фундамента для создания ИИ, который понимает Индонезию и может быть развит для локальных приложений. Это позволяет нам не только внедрять ИИ, но и наращивать возможности вокруг него, давая большему числу индонезийцев возможность создавать решения с помощью ИИ на своих условиях».
Узнайте больше о технологиях NVIDIA для телекоммуникаций.
