Введение
Внутри самых быстрорастущих AI-ориентированных компаний прямо сейчас происходит тихая революция.
Не так давно такие компании, как Cursor, Harvey, Decagon и Cal AI, списывали со счетов как «GPT-обертки» — продукты, которые настолько сильно зависели от моделей передовых лабораторий, таких как OpenAI, что многие считали, будто они никогда не станут жизнеспособным бизнесом. В некоторой степени это логично: если модели предоставляют возможности, без которых эти продукты не могли бы существовать, разве не очевидно, что большая часть создаваемой ценности будет так или иначе перетекать к передовым лабораториям?
Такой подход недооценивал то, как быстро эти компании осознают, что реальным активом является не модель, а данные, которые генерируют их пользователи. Сегодня все вышеперечисленные компании избавились от зависимости от передовых лабораторий, обучили свои собственные языковые модели и используют их для обеспечения основной функциональности своих продуктов. Они инвестируют во внутренние команды и системы, чтобы улучшать возможности моделей в долгосрочной перспективе.
Это будущее, которое мы видим в Inference.net. В 2026 году и далее все больше компаний поймут, что небольшие, кастомизированные LLM могут соответствовать качеству передовых моделей за малую часть стоимости. Дни аренды возможностей сочтены. Компании, которые хотят обеспечить долгосрочную конкурентоспособность, будут владеть своими моделями и маховиками данных, которые их питают.
Big Token
Такие модели, как Opus 4.5, GPT-5.2 и Gemini 3, предлагают невероятные возможности, охватывающие широкий спектр задач. Эти гиганты могут писать код, решать математические задачи десятилетней давности и поэтично рассуждать о природе человеческого сознания. Они, несомненно, меняют мир новыми и интересными способами, и рычаги воздействия, которые предоставляют эти модели, кажутся почти безграничными, за исключением одного небольшого ограничения: доступ к ним закрыт платными стенами и политиками «Big Token» — Anthropic, OpenAI и Google.
Вы можете использовать их за плату, пока что. Пока вы ведете себя так, как того хотят их создатели, они с радостью будут предоставлять вам доступ к этим замечательным возможностям по счетчику.
Быть клиентом этих компаний — опасное положение. Если вы строите продукт на их API, вы находитесь во власти одних из самых агрессивных и жаждущих роста организаций в мире. Их амбиции безграничны, невозможно предугадать, когда производительность модели ухудшится без предупреждения, и бежать некуда, кроме как в объятия их конкурентов.
Ловушка состоит из трех частей:
- Производительность. Модели меняются незаметно. Вы отлаживаете код днями, прежде чем поймете, что проблема не в нем. Невозможно сказать, когда производительность модели ухудшится без предупреждения.
Производительность. Модели меняются незаметно. Вы отлаживаете код днями, прежде чем поймете, что проблема не в нем. Невозможно сказать, когда производительность модели ухудшится без предупреждения.
- Цена. Ваша юнит-экономика находится в заложниках у их ценовых решений. Значительный процент вашей выручки будет уходить из вашего дома каждую неделю.
Цена. Ваша юнит-экономика находится в заложниках у их ценовых решений. Значительный процент вашей выручки будет уходить из вашего дома каждую неделю.
- Политика. Условия обслуживания меняются без предупреждения. Локальные развертывания (on-prem) стоят десятки миллионов и доступны только крупнейшим компаниям в мире.
Политика. Условия обслуживания меняются без предупреждения. Локальные развертывания (on-prem) стоят десятки миллионов и доступны только крупнейшим компаниям в мире.
Вы питаете их маховик. Каждый запрос, который вы отправляете через OpenAI или Anthropic, — это ценные данные, которые вы отдаете бесплатно. Они используют их для улучшения своих моделей. Ваши конкуренты, также использующие эти API, получают от этого выгоду.
Эти данные не просто позволяют им развивать свою модель. Они позволяют им специализироваться в вашей области. Они видят, какие вертикали приносят наибольшую ценность, какие варианты использования наиболее востребованы и на какие рынки стоит выходить.
Это мир, в котором Big Token хочет, чтобы вы жили: арендуйте доступ к их моделям вечно, платите за токен и молитесь, чтобы они не заинтересовались вашим рынком.
Ересь, которой был DeepSeek
Все изменилось в декабре 2024 года.
LLM с открытым исходным кодом, такие как DeepSeek V3 и более поздний DeepSeek R1, оказали огромное давление на цены, которые Big Token мог обоснованно взимать со своих клиентов. Предложив первую жизнеспособную альтернативу закрытым передовым моделям, DeepSeek дал амбициозным компаниям реалистичный путь к детальному контролю над моделями, работающими в их продуктах.
Стартапы могли переключить использование OpenAI на модели с открытым исходным кодом, изменив всего две строки кода. Более крупные компании начали арендовать собственные GPU напрямую и развертывать эти модели на vLLM или SGLang, расширяя контроль над своей инфраструктурой ИИ.
DeepSeek дал разработчикам почувствовать вкус свободы.
Но это породило новые проблемы. К весне 2025 года Big Token выпустил модели, которые были заметно более способными. DeepSeek был доступнее, но все еще оставался дорогим при масштабировании. А провайдеры серверных вычислений начали активно навязывать командам годовые контракты, чтобы просто получить доступ к лимитам запросов, необходимым для запуска промышленного приложения.
Выбирайте: платить больше за самые лучшие модели или использовать более дешевую модель, смириться с потерей качества и надеяться, что ваши клиенты не уйдут к конкуренту, который выбрал первый вариант. Платите по счетам или смиритесь с тем, что ваш продукт будет считаться второсортным.
Или поймите, что качество заключается не в базовой модели, а в базовых данных. Ваших данных.
Создание вашего «рва» из моделей
2026 год станет годом небольших, специализированных LLM с передовым качеством. Вы построите их так же, как десятилетиями создавалось программное обеспечение: наблюдая за пользователями и неустанно итерируя.
Это то, что мы называем маховиком. Основной цикл работает так:
- Вы начинаете с универсальной модели, работающей в вашем продукте.
Вы начинаете с универсальной модели, работающей в вашем продукте.
- Пользователи взаимодействуют с ней.
Пользователи взаимодействуют с ней.
- Эти взаимодействия генерируют данные.
Эти взаимодействия генерируют данные.
- Вы используете эти данные для обучения специализированной модели.
Вы используете эти данные для обучения специализированной модели.
- Специализированная модель работает лучше.
Специализированная модель работает лучше.
- Более высокая производительность привлекает и удерживает пользователей.
Более высокая производительность привлекает и удерживает пользователей.
- Больше пользователей — больше данных. Цикл ускоряется.
Больше пользователей — больше данных. Цикл ускоряется.
Это и есть «ров». Не ров, созданный узнаваемостью бренда, сетевыми эффектами или регуляторными барьерами. Ров, созданный данными, которые буквально невозможно воссоздать без вашего приложения и ваших пользователей.
Конкурент может завтра начать с той же базовой модели. Они могут привлечь больше денег, чем вы. Но они не смогут наколдовать набор данных, который вы создали за месяцы производственного трафика и отзывов пользователей. И если вы совершенствуетесь быстрее, чем они могут вас догнать, разрыв только увеличивается.
Вот что упускают большинство команд: если у вас есть пользователи, вы уже генерируете эти данные. Это легкая часть. Более сложная часть — использовать эти данные для создания эффективного маховика, который со временем приумножает ценность вашей компании.
Маховик как философия продукта
Создание маховика — это больше, чем просто техническое решение, это целая философия продукта. Каждое решение должно опираться на два вопроса:
- Как проектировать функции, которые генерируют высококачественные данные как естественный побочный продукт использования?
Как проектировать функции, которые генерируют высококачественные данные как естественный побочный продукт использования?
- Как стимулировать наиболее ценных пользователей предоставлять качественную обратную связь?
Как стимулировать наиболее ценных пользователей предоставлять качественную обратную связь?
Каждое взаимодействие становится возможностью для обучения:
Любое принятое или отклоненное предложение по коду. Любой тикет в службу поддержки, который был решен или эскалирован. Любая скорректированная оценка калорий. Все это — сигналы. Для вас.
Не вся обратная связь от пользователей одинаково ценна. Исправление оценки калорий дипломированным диетологом стоит дороже, чем догадка обычного пользователя. Правки кода от опытного инженера несут больше полезной информации, чем действия новичка.
Часть вашей работы заключается в том, чтобы определить, кто является вашими наиболее ценными пользователями, и разработать механизмы обратной связи, которые собирают их данные, не вызывая раздражения. Процесс исправления калорий должен ощущаться как функция, а не как опрос. Сигнал о принятии кода должен быть неявным, а не всплывающим окном с вопросом «было ли это полезно?»
Ваш продукт — это маховик. Каждое проектное решение либо генерирует ценные данные, либо нет. Следующий вопрос: что вы делаете с этими данными, когда они у вас есть.
Пост-обучение — это все, что вам нужно
В течение многих лет передовые лаборатории продвигали идею о том, что обучение моделей — невероятно сложная задача. Вам нужна команда докторов наук, месяцы или годы итераций и миллионы долларов на GPU.
Удобная история. Но все менее правдивая.
Что на самом деле означает «пост-обучение»
Термин «пост-обучение» относится к набору методов улучшения возможностей существующей модели. Вы берете готовую базовую модель с открытым исходным кодом, такую как DeepSeek, Nemotron или Gemma, и обучаете ее новым трюкам. Две самые популярные техники — это обучение с учителем (SFT), где вы показываете модели примеры того, что хотите получить, и обучение с подкреплением (RLFT), где вы вознаграждаете ее за хорошие результаты. Часто используется и то, и другое.
Самый распространенный шаблон: начать с дистилляции знаний из передовой универсальной модели, такой как GPT-5, в небольшую модель, например Nemotron 9B, используя SFT. GPT-5 довольно хорошо справляется с вашей задачей. Вы генерируете тысячи примеров с помощью GPT-5, а затем обучаете Nemotron имитировать эти результаты. Модель с 9 млрд параметров, обученная методом SFT на высококачественных дистиллированных данных, может соответствовать качеству GPT-5 в конкретной задаче.
Результат — специализированная модель. Не универсальный помощник, который может писать стихи, отлаживать код и планировать ваш отпуск. А просто модель, которая делает одну вещь очень хорошо. Возможно, она извлекает структурированные данные из счетов. Возможно, создает описания для медицинских изображений. Возможно, оценивает лидов на основе переписки по электронной почте.
Затем вы можете использовать RLFT — это наиболее жизнеспособный путь обучения модели, превосходящей возможности передовых моделей. При SFT вы фундаментально ограничены качеством ваших примеров обучения. Ученик не может быть лучше учителя. Но с RLFT вы вознаграждаете результаты, а не имитируете демонстрации. Модель учится оптимизировать непосредственно то, что вам действительно важно, а не просто звучать как нечто, что оптимизирует то, что вам важно.
Экономика
Вы можете обучить специализированную модель примерно за час и за несколько сотен долларов. Это включает стоимость генерации данных, вычислений и оценки. Это все, что вам нужно, чтобы владеть основными возможностями, которые питают ваш продукт.
Владеть — значит:
- Веса находятся на вашей инфраструктуре
Веса находятся на вашей инфраструктуре
- Вы можете изменять их как угодно
Вы можете изменять их как угодно
- Вы не подчиняетесь ничьим условиям обслуживания
Вы не подчиняетесь ничьим условиям обслуживания
- Модель — это ваш актив, принадлежащий вам.
Модель — это ваш актив, принадлежащий вам.
Почему сейчас?
Это было возможно в течение нескольких лет, но только недавно барьер для входа стал достаточно низким, чтобы большинство команд могли это внедрить. Чего-то не хватало.
Оценка. Оценка LLM — это действительно сложно. Как узнать, хороша ли ваша кастомная модель? Десятилетиями это была проблема, волнующая только исследователей. Потребовалось время, чтобы инструменты и лучшие практики догнали потребности. Сегодня большинство команд используют комбинацию LLM-как-судья, где передовая модель оценивает результаты вашей модели, и «золотых наборов данных» — тщательно отобранных вручную примеров, в правильности которых вы уверены. Первый подход масштабируется. Второй обеспечивает истину. Вам нужны оба.
Генерация данных. Большая часть обучения специализированной модели — это создание обучающих данных с помощью передовых моделей. Запуск сотен тысяч вызовов логического вывода означал настройку GPU, управление пакетами вывода, создание или интеграцию с API вывода и форматирование данных для обучения. И даже после всей этой работы, как узнать, что ваши синтетические данные действительно представляют задачу, для которой вы обучаете? Недавние улучшения GPT-5, Claude, Kimi K2 и других моделей дали нам надежный метод генерации обучающих данных для широкого спектра задач. Учителя стали лучше, значит, и ученики тоже могут.
Ментальная модель. Команды относились к моделям как к статичным активам. Обучил один раз, развернул, забыл. Но продукты развиваются. Пользователи меняются. Добавляются функции. Распределение запросов, которые видит ваша модель на шестой месяц, совсем не похоже на первый. Модель постепенно деградирует, и никто этого не замечает, пока клиенты не начинают жаловаться.
Новая ментальная модель — это непрерывное улучшение. Вы отслеживаете производственный трафик. Вы сравниваете то, что видит ваша модель, с тем, на чем она обучалась. Когда распределение смещается, вы генерируете новые данные и переобучаете. Модель становится живой частью вашей системы, а не застывшим артефактом.
Создание вашего маховика моделей
Вы хотите захватить свой маховик данных, а не отдавать его «Большим Токенам». Как это сделать на самом деле?
Основное требование заключается в том, что ваш конвейер обучения должен иметь доступ к производственным данным. Логический вывод и обучение не обязательно должны находиться в одной системе, но это помогает. Когда производственные логи поступают непосредственно в инфраструктуру обучения, вы устраняете трение, связанное с перемещением данных, их переформатированием и поддержанием синхронизации. Чем теснее цикл, тем быстрее вы итерируете.
Вам нужны подсистемы, которые автоматически отслеживают и анализируют производственный трафик:
- Смещение распределения, когда запросы, которые видит ваша модель, начинают отличаться от тех, на которых она обучалась
Смещение распределения, когда запросы, которые видит ваша модель, начинают отличаться от тех, на которых она обучалась
- Выбросы, заслуживающие изучения
Выбросы, заслуживающие изучения
- Ценные исправления от пользователей
Ценные исправления от пользователей
Эти системы должны помечать проблемы и выявлять возможности, не требуя от кого-либо вручную проверять каждую точку данных. Некоторый человеческий контроль допустим. Но если цикл требует постоянной няньки, он не выдержит столкновения с реальностью.
Частота переобучения зависит от вашего приложения и объема данных. Это может быть ежедневно, еженедельно или ежемесячно. Суть в том, что это процесс, а не разовое событие. Вы не просто обучаете модель. Вы управляете ею.
Готовы ли вы к собственной модели?
Если вы создаете продукт на базе ИИ и не задумываетесь о владении моделью, вы упускаете выгоду.
Лучшие команды, создающие самые быстрорастущие компании, уже обучают специализированные модели для поддержки своих основных рабочих процессов. Это не означает полный отказ от передовых моделей. Большинство компаний будут использовать специализированные модели наряду с универсальными. Специализированные модели справляются с ограниченными высоконагруженными задачами, где успех можно четко определить. Универсальные модели отвечают за оркестрацию, нестандартные ситуации и все, что требует широких знаний об окружающем мире.
Путь к запуску прост. Начните с универсальных моделей. Проверьте свою идею продукта. Сгенерируйте начальные данные для обучения. Как только вы начнете тратить 1000 долларов в месяц на вызовы API, у вас будет достаточно объема, чтобы задуматься о своей первой специализированной модели.
Не нужно пытаться объять необъятное. Выберите свою самую высоконагруженную и наиболее ограниченную задачу и начните с нее. Именно здесь вы создаете свое конкурентное преимущество.
Что мы узнали
Мы пришли к этим убеждениям не абстрактно. Мы провели последний год, обучая специализированные модели для таких компаний, как Profound и Cal AI, изучая, что работает, а что нет. Описанные выше закономерности выведены на основе работы реальных производственных систем, обрабатывающих триллионы токенов в месяц.
Мы видели, как приложение для отслеживания калорий сократило расходы на инференс на 80%, улучшив при этом точность на 15%, поскольку исправления пользователей напрямую использовались для улучшения модели. Мы наблюдали, как помощник по программированию прошел путь от «иногда полезного» до «принимаемого в 70% случаев» после трех циклов переобучения. Маховик работает. Экономика реальна.
Мы использовали эти знания и создали Inference — платформу для обучения, инференса и мониторинга, разработанную для того, чтобы сделать работу маховиков возможной в любом масштабе. Платформа станет общедоступной в середине февраля.
Если что-то из этого находит у вас отклик, свяжитесь с нами. Мы будем рады узнать, что вы создаете.
