Всего пять месяцев назад, когда мы объявляли о раунде Серии C, я писал, что спрос ускоряется. С тех пор использование выросло в три раза, а год к году мы выросли более чем в 15 раз. Недавно мы преодолели отметку в $1 млрд годового регулярного дохода, и темпы не снижаются.
Программное обеспечение способно на то, что казалось невозможным еще несколько лет назад
Совершенно очевидно, что ИИ открыл совершенно новый набор возможностей для программного обеспечения. Сейчас существует множество невероятных приложений, которые невозможно было создать раньше. Старый стек им не совсем подходит. Им нужны другие строительные блоки и новый взгляд на инфраструктуру.
Мы обеспечиваем работу множества таких приложений. Среди них — Jev от TypeSafe AI, один из самых быстро растущих продуктов в истории. Он обработал 1 триллион токенов на Modal за первые три дня, при этом команда TypeSafe была сосредоточена на релизах, а не на управлении инфраструктурой.
И это происходит в самых разных вертикалях
Команда платформы ИИ в DoorDash использует Modal для вывода приложений компании из стадии эксперимента в продакшн. Cognition, Ramp, Linear и Hebbia создают фоновых агентов, которые являются экспертами в своих областях. Runway генерирует реалистичное видео во всех регионах мира. Physical Intelligence, Generalist AI и 1X обучают роботов. Chai Discovery и Achira запускают исследования лекарств на Modal, как и ученые, работающие с Claude Science.
Каждое изменение требует новой инфраструктуры
Каждое изменение в программном обеспечении меняет как то, что люди могут создавать, так и инфраструктуру, необходимую для этого. Я пишу код с начала девяностых, и это далеко не первый качественный сдвиг: у нас были веб, облако, большие данные, мобильные устройства и несколько других изменений.
Когда зарождалось облако, внезапно пришлось столкнуться с распределенными системами, шардингом и управлением конфигурациями. Ни один из наших изначальных инструментов не был создан для этого, поэтому разработчики создали новые: Docker, Kubernetes, Terraform и т. д.
Трудности с ИИ сейчас вполне очевидны. Графических процессоров не хватает, а модели весьма велики и медленно загружаются. Теперь LLMs пишут код! И он должен где-то запускаться, изоляция от всего остального обязательна. Конечно, можно учитывать все эти факторы на старом стеке, и многие так и делали, но в итоге вы попадаете в ад файлов YAML и в чистилище закупок GPU.
Поэтому мы подошли к вопросу фундаментально. Мы отбросили большую часть существующего стека и создали собственную файловую систему, среду выполнения контейнеров, планировщик и сетевую подсистему с нуля на пуле емкости, который теперь охватывает более 20 облаков.
Разработчикам нужны лучшие строительные блоки
Прелесть программного обеспечения заключается в композиционности. Если у вас есть правильные строительные блоки — универсальные, проверенные в боевых условиях и масштабируемые — существует бесконечное множество комбинаций того, что вы можете создать.
Функции стали нашим первым строительным блоком: вы пишете код, а Modal запускает его. Это оказалось невероятно полезным, особенно для генеративного ИИ: генерация изображений с помощью диффузионных моделей, музыка в Suno, инференс LLM с помощью vLLM и SGLang, а также обучение моделей.
Мы запустили «Песочницы» (Sandboxes) в 2023 году, когда заметили, что люди используют LLM для генерации кода. Песочницы стремительно выросли, и три года спустя это продукт с годовым регулярным доходом в $300 млн сам по себе. Варианты использования варьируются от фоновых агентов до обучения с подкреплением, платформ для вайбкодинга и многого другого. Мы запустили около 3 миллиардов песочниц, и они масштабируются до миллиона одновременных запусков.
Мы запускаем гораздо больше
Новый мир возможностей программного обеспечения требует нового набора строительных блоков, и мы только начинаем.
Недавно мы запустили многоузловое обучение: один декоратор дает вам полностью подключенный по RDMA кластер без обязательств по выделению емкости. Мы поднимаемся выше по стеку и также запускаем ряд продуктов в области обучения с подкреплением и посттренинга.
Что касается инференса, мы начали запускать серверы Modal, которые представляют собой лучшее решение для HTTP-серверов, а также несколько очень крутых функций для обслуживания LLM, таких как Endpoint Candidates.
Благодаря Песочницам виртуальные машины теперь общедоступны.
И это лишь малая часть тех разработок, которые еще появятся.
Мы привлекли дополнительный капитал
Когда мы запускали Modal пять лет назад, я не мог представить себе большинство приложений, работающих на ней сегодня. Точно так же трудно представить, какое ПО люди будут создавать через два года, но я точно знаю, что для этого потребуется совершенно новый набор строительных блоков. Мы хотим, чтобы большая часть этого работала на Modal.
Чтобы продолжать создавать то, что будет дальше, мы привлекли раунд Серии D на сумму $750 млн при оценке после привлечения инвестиций в $15,75 млрд. Раунд возглавила компания Accel. К ней присоединилась Kleiner Perkins, и в нем приняли участие все наши существующие инвесторы, включая Menlo Ventures, General Catalyst, Redpoint, Lux Capital и Bain Capital Ventures.
Я, конечно, предвзят, но мне трудно представить себе лучшее время для создания программного обеспечения.
Если вы хотите присоединиться к нашей команде, насчитывающей более 200 человек в Нью-Йорке, Сан-Франциско и Стокгольме, ознакомьтесь с нашими открытыми вакансиями.
