Введение
Прямо сейчас внутри самых быстрорастущих AI-native компаний происходит тихая революция.
Не так давно такие компании, как Cursor, Harvey, Decagon и Cal AI, списывали со счетов как «GPT-обертки» — продукты, которые настолько сильно зависели от моделей передовых лабораторий, таких как OpenAI, что многие считали, будто они никогда не станут жизнеспособным бизнесом. В некоторой степени это логично: если модели предоставляют возможности, без которых эти продукты не могли бы существовать, разве не очевидно, что большая часть создаваемой ценности так или иначе будет перетекать к передовым лабораториям?
Такой образ мышления недооценивал то, как быстро эти компании поймут, что настоящим активом является не модель, а данные, которые генерируют их пользователи. Сегодня все вышеперечисленные компании избавились от зависимости от передовых лабораторий, обучили свои собственные языковые модели и используют их для обеспечения основной функциональности своих продуктов. Они инвестируют во внутренние команды и системы, чтобы улучшать возможности моделей в долгосрочной перспективе.
Это будущее, которое мы видим в Inference.net. В 2026 году и далее все больше компаний поймут, что небольшие, кастомизированные LLM могут соответствовать качеству передовых моделей за малую часть стоимости. Дни аренды возможностей сочтены. Компании, которые хотят обеспечить долгосрочную конкурентоспособность, будут владеть своими моделями и маховиками данных, которые их питают.
«Большой токен»
Такие модели, как Opus 4.5, GPT-5.2 и Gemini 3, предлагают невероятные возможности, охватывающие широкий спектр задач. Эти гиганты могут писать код, решать математические задачи десятилетней давности и поэтично рассуждать о природе человеческого сознания. Они, несомненно, меняют мир новыми и интересными способами, и рычаги влияния, которые предоставляют эти модели, кажутся почти безграничными, за исключением одного небольшого ограничения: доступ к ним ограничен платными стенами и политиками «Большого токена» — Anthropic, OpenAI и Google.
Вы можете использовать их за плату, пока что. Пока вы ведете себя так, как того хотят их создатели, они с радостью будут предоставлять вам доступ к этим замечательным возможностям по счетчику.
Быть клиентом этих компаний — опасное положение. Если вы строите продукт на их API, вы находитесь во власти одних из самых агрессивных и жаждущих роста организаций в мире. У их стремлений нет предела, невозможно предугадать, когда производительность модели ухудшится без предупреждения, и бежать некуда, кроме как в объятия их конкурентов.
Ловушка состоит из трех частей:
- Производительность. Модели меняются незаметно. Вы часами отлаживаете код, прежде чем поймете, что проблема не в нем. Невозможно предугадать, когда производительность модели ухудшится без предупреждения.
Производительность. Модели меняются незаметно. Вы часами отлаживаете код, прежде чем поймете, что проблема не в нем. Невозможно предугадать, когда производительность модели ухудшится без предупреждения.
- Цена. Ваша юнит-экономика находится в заложниках у их ценовых решений. Значительный процент вашей выручки будет уходить из вашего дома каждую неделю.
Цена. Ваша юнит-экономика находится в заложниках у их ценовых решений. Значительный процент вашей выручки будет уходить из вашего дома каждую неделю.
- Политика. Условия обслуживания меняются без предупреждения. Локальные развертывания (on-prem) стоят десятки миллионов и доступны только крупнейшим компаниям в мире.
Политика. Условия обслуживания меняются без предупреждения. Локальные развертывания (on-prem) стоят десятки миллионов и доступны только крупнейшим компаниям в мире.
Вы подпитываете их маховик. Каждый запрос, который вы отправляете через OpenAI или Anthropic, — это ценные данные, которые вы отдаете бесплатно. Они будут использовать их для улучшения своих моделей. Ваши конкуренты, также использующие эти API, получают от этого выгоду.
Эти данные не просто позволяют им развивать свою модель. Они позволяют им специализироваться в вашей области. Они видят, какие вертикали приносят наибольшую ценность, какие сценарии использования наиболее востребованы и на какие рынки стоит выходить.
Это мир, в котором «Большой токен» хочет, чтобы вы жили: арендуйте доступ к их моделям вечно, платите за токен и молитесь, чтобы они не заинтересовались вашим рынком.
Ересь, которой был DeepSeek
Все изменилось в декабре 2024 года.
LLM с открытым исходным кодом, такие как DeepSeek V3 и более поздний DeepSeek R1, оказали огромное давление на цены, которые «Большой токен» мог обоснованно взимать со своих клиентов. Предложив первую жизнеспособную альтернативу закрытым передовым моделям, DeepSeek дал амбициозным компаниям реалистичный путь к детальному контролю над моделями, работающими в их продуктах.
Стартапы могли заменить использование OpenAI на модели с открытым исходным кодом, изменив всего две строки кода. Более крупные компании начали арендовать собственные GPU напрямую и развертывать эти модели на vLLM или SGLang, расширяя контроль над своей инфраструктурой ИИ.
DeepSeek дал разработчикам почувствовать вкус свободы.
Но это породило новые проблемы. К весне 2025 года «Большой токен» выпустил модели, которые были заметно способнее. DeepSeek был доступнее, но все еще дорог в масштабе. А провайдеры серверных вычислений начали активно принуждать команды к заключению годовых контрактов, чтобы получить доступ к лимитам, необходимым для запуска промышленного приложения.
Выбирайте: платить больше за лучшие модели или использовать более дешевую модель, смириться с потерей качества и надеяться, что ваши клиенты не уйдут к конкуренту, который выбрал первый вариант. Платите по счетам или смиритесь с тем, что ваш продукт будет считаться второсортным.
Или поймите, что качество кроется не в базовой модели, а в базовых данных. Ваших данных.
Создание вашего «рва» из моделей
2026 год станет годом небольших, специализированных LLM передового качества. Вы построите их так же, как программное обеспечение создавалось десятилетиями: наблюдая за пользователями и неустанно итерируя.
Это то, что мы называем маховиком. Основной цикл работает так:
- Вы начинаете с универсальной модели, работающей в вашем продукте.
Вы начинаете с универсальной модели, работающей в вашем продукте.
- Пользователи взаимодействуют с ней.
Пользователи взаимодействуют с ней.
- Эти взаимодействия генерируют данные.
Эти взаимодействия генерируют данные.
- Вы используете эти данные для обучения специализированной модели.
Вы используете эти данные для обучения специализированной модели.
- Специализированная модель работает лучше.
Специализированная модель работает лучше.
- Более высокая производительность привлекает и удерживает пользователей.
Более высокая производительность привлекает и удерживает пользователей.
- Больше пользователей — больше данных. Цикл ускоряется.
Больше пользователей — больше данных. Цикл ускоряется.
Это и есть «ров». Не ров, созданный узнаваемостью бренда, сетевыми эффектами или регуляторными барьерами. Ров, созданный данными, которые буквально невозможно воссоздать без вашего приложения и ваших пользователей.
Конкурент может завтра начать с той же базовой модели. Они могут привлечь больше денег, чем вы. Но они не смогут наколдовать набор данных, который вы создали за месяцы производственного трафика и отзывов пользователей. И если вы совершенствуетесь быстрее, чем они могут вас догнать, разрыв только увеличивается.
Вот что упускают большинство команд: если у вас есть пользователи, вы уже генерируете эти данные. Это легкая часть. Более сложная часть — использовать эти данные для создания эффективного маховика, который со временем приумножает ценность вашей компании.
Маховик как философия продукта
Создание маховика — это не просто техническое решение, а целая философия продукта. Каждое решение должно опираться на два вопроса:
- Как проектировать функции, которые генерируют высококачественные данные как естественный побочный продукт использования?
Как проектировать функции, которые генерируют высококачественные данные как естественный побочный продукт использования?
- Как стимулировать наиболее ценных пользователей предоставлять качественную обратную связь?
Как стимулировать наиболее ценных пользователей предоставлять качественную обратную связь?
Каждое взаимодействие становится возможностью для обучения:
Любое принятое или отклоненное предложение по коду. Любой закрытый или эскалированный тикет в поддержку. Любая скорректированная оценка калорий. Все это — сигналы. Для вас.
Не вся обратная связь от пользователей одинаково ценна. Исправление оценки калорий дипломированным диетологом стоит больше, чем догадка обычного пользователя. Правки кода от старшего инженера несут больше полезной информации, чем действия новичка.
Часть вашей работы заключается в том, чтобы определить, кто является вашими наиболее ценными пользователями, и разработать механизмы сбора обратной связи, которые не будут раздражать. Процесс корректировки калорий должен ощущаться как функция, а не как опрос. Сигнал о принятии кода должен быть неявным, а не всплывающим окном с вопросом «было ли это полезно?»
Ваш продукт — это маховик. Каждое проектное решение либо генерирует ценные данные, либо нет. Следующий вопрос: что вы делаете с этими данными, когда они у вас есть.
Пост-обучение — это все, что вам нужно
Годами передовые лаборатории продвигали идею о том, что обучение моделей — невероятно сложная задача. Вам нужна команда докторов наук, месяцы или годы итераций и миллионы долларов на GPU.
Удобная история. Но все менее правдивая.
Что на самом деле означает «пост-обучение»
Термин «пост-обучение» относится к набору методов улучшения возможностей существующей модели. Вы берете готовую базовую модель с открытым исходным кодом, такую как DeepSeek, Nemotron или Gemma, и обучаете ее новым трюкам. Две самые популярные техники — это контролируемое дообучение (SFT), где вы показываете модели примеры того, что хотите получить, и обучение с подкреплением (RLFT), где вы вознаграждаете ее за хорошие результаты. Часто используются оба метода.
Самый распространенный шаблон: начать с дистилляции знаний из передовой универсальной модели, такой как GPT-5, в небольшую модель, например Nemotron 9B, используя SFT. GPT-5 довольно хорошо справляется с вашей задачей. Вы генерируете тысячи примеров с помощью GPT-5, а затем обучаете Nemotron имитировать эти результаты. Модель с 9 миллиардами параметров, обученная методом SFT на высококачественных дистиллированных данных, может соответствовать качеству GPT-5 в конкретной задаче.
Результат — специализированная модель. Не универсальный помощник, который умеет писать стихи, отлаживать код и планировать отпуск. А просто модель, которая делает одну вещь очень хорошо. Возможно, она извлекает структурированные данные из счетов. Возможно, она описывает медицинские изображения. Возможно, она оценивает лиды на основе переписки по электронной почте.
Далее можно использовать RLFT — это наиболее жизнеспособный путь обучения модели, превосходящей возможности передовых моделей. При SFT вы фундаментально ограничены качеством ваших примеров обучения. Ученик не может быть лучше учителя. Но с RLFT вы вознаграждаете результаты, а не имитируете демонстрации. Модель учится оптимизировать то, что вам действительно нужно, а не просто звучать как нечто, оптимизирующее то, что вам нужно.
Экономика
Вы можете обучить специализированную модель примерно за час и за несколько сотен долларов. Это включает стоимость генерации данных, вычислений и оценки. Это все, что нужно, чтобы владеть ключевыми возможностями, на которых работает ваш продукт.
Владеть — значит:
- Веса находятся на вашей инфраструктуре
Веса находятся на вашей инфраструктуре
- Вы можете изменять их как угодно
Вы можете изменять их как угодно
- Вы не зависите от чьих-либо условий использования
Вы не зависите от чьих-либо условий использования
- Модель — это ваш актив, принадлежащий вам.
Модель — это ваш актив, принадлежащий вам.
Почему сейчас?
Это было возможно уже несколько лет, но только недавно порог входа стал достаточно низким для большинства команд. Чего-то не хватало.
Оценка. Оценка LLM — это действительно сложно. Как понять, что ваша кастомная модель действительно хороша? Десятилетиями это была проблема, волнующая только исследователей. Потребовалось время, чтобы инструментарий и лучшие практики догнали потребности. Сегодня большинство команд используют комбинацию LLM-как-судья, где передовая модель оценивает результаты вашей, и «золотых наборов данных» — вручную отобранных примеров, правильность которых вам известна. Первый подход масштабируется. Второй обеспечивает истину. Вам нужны оба.
Генерация данных. Большая часть обучения специализированной модели — это создание обучающих данных с помощью передовых моделей. Запуск сотен тысяч вызовов вывода означал настройку GPU, управление пакетами вывода, создание или интеграцию с API вывода и форматирование данных для обучения. И даже после всей этой работы, как узнать, что ваши синтетические данные действительно представляют задачу, для которой вы обучаетесь? Недавние улучшения GPT-5, Claude, Kimi K2 и других моделей дали нам надежный метод генерации обучающих данных для широкого спектра задач. Учителя стали лучше, значит, и ученики тоже.
Ментальная модель. Команды относились к моделям как к статичным активам. Обучил один раз, развернул, забыл. Но продукты развиваются. Пользователи меняются. Добавляются функции. Распределение запросов, которые видит ваша модель на шестой месяц, совсем не похоже на первый. Модель постепенно деградирует, и никто этого не замечает, пока клиенты не начинают жаловаться.
Новая ментальная модель — это постоянное улучшение. Вы отслеживаете производственный трафик. Вы сравниваете то, что видит ваша модель, с тем, на чем она обучалась. Когда распределение смещается, вы генерируете новые данные и переобучаете. Модель становится живой частью вашей системы, а не застывшим артефактом.
Создание вашего маховика моделей
Вы хотите захватить свой маховик данных, а не отдавать его Big Token. Как это сделать на практике?
Основное требование заключается в том, что ваш конвейер обучения должен иметь доступ к производственным данным. Вывод и обучение не обязательно должны находиться в одной системе, но это помогает. Когда производственные логи поступают напрямую в инфраструктуру обучения, вы устраняете трение, связанное с перемещением данных, их переформатированием и поддержанием синхронизации. Чем теснее цикл, тем быстрее вы итерируете.
Вам нужны подсистемы, которые автоматически отслеживают и анализируют производственный трафик:
- Смещение распределения, когда запросы, которые видит ваша модель, начинают отличаться от тех, на которых она обучалась
Смещение распределения, когда запросы, которые видит ваша модель, начинают отличаться от тех, на которых она обучалась
- Выбросы, заслуживающие внимания
Выбросы, заслуживающие внимания
- Ценные исправления от пользователей
Ценные исправления от пользователей
Эти системы должны помечать проблемы и выявлять возможности, не требуя от кого-либо вручную проверять каждую точку данных. Некоторый человеческий контроль допустим. Но если цикл требует постоянной няньки, он не выдержит столкновения с реальностью.
Периодичность переобучения зависит от вашего приложения и объема данных. Это может быть ежедневно, еженедельно или ежемесячно. Суть в том, что это процесс, а не разовое событие. Вы не просто обучаете модель. Вы управляете ею.
Готовы ли вы к собственной модели?
Если вы создаете продукт на базе ИИ и не задумываетесь о владении моделью, вы упускаете выгоду.
Лучшие команды, создающие самые быстрорастущие компании, уже обучают специализированные модели для обеспечения своих основных рабочих процессов. Это не означает полный отказ от передовых моделей. Большинство компаний будут использовать специализированные модели наряду с универсальными. Специализированные модели справляются с ограниченными задачами с большим объемом данных, где успех можно четко определить. Универсальные модели отвечают за оркестрацию, нестандартные ситуации и все, что требует широких знаний о мире.
Путь начальной загрузки прост. Начните с универсальных моделей. Проверьте свою идею продукта. Сгенерируйте начальные данные для обучения. Как только вы начнете тратить 1000 долларов в месяц на вызовы API, у вас будет достаточно объема, чтобы задуматься о своей первой специализированной модели.
Не нужно пытаться объять необъятное. Выберите свою самую объемную и наиболее ограниченную задачу и начните с нее. Именно здесь вы создаете свое собственное конкурентное преимущество.
Что мы узнали
Мы пришли к этим убеждениям не абстрактно. Мы провели последний год, обучая специализированные модели для таких компаний, как Profound и Cal AI, изучая, что работает, а что нет. Описанные выше закономерности получены в результате эксплуатации реальных производственных систем, обрабатывающих триллионы токенов в месяц.
Мы видели, как приложение для отслеживания калорий сократило расходы на инференс на 80%, улучшив при этом точность на 15%, поскольку исправления пользователей напрямую использовались для улучшения модели. Мы наблюдали, как помощник по программированию прошел путь от «иногда полезного» до «принимаемого в 70% случаев» после трех циклов переобучения. Маховик работает. Экономика реальна.
Мы использовали эти знания и создали Inference — платформу для обучения, инференса и мониторинга, разработанную для того, чтобы сделать маховики возможными в любом масштабе. Платформа станет общедоступной в середине февраля.
Если что-то из этого находит у вас отклик, свяжитесь с нами. Мы будем рады узнать, что вы создаете.
