## От облачных технологий к агентному ИИ
Десять лет назад мы поставили цель соединить мир с помощью API, которые мы рассматривали как фундаментальные строительные блоки программного обеспечения. До Kong мы основали Mashape как первый маркетплейс API, чтобы предоставить конвейер для разработчиков, создающих приложения, а затем сделали с открытым исходным кодом его основной API-рантайм — Kong, самый быстрый облачный API-шлюз.
Компания Kong Inc. официально родилась летом 2017 года. Началась новая эра микросервисов и облачных приложений. Этот момент превратил нас из небольшого шлюза с открытым исходным кодом в репозиторий API №1 на GitHub и ведущую платформу управления облачными API, которую используют тысячи организаций по всему миру, и которую Gartner, Forbes и многие другие признали лидером и одной из самых дальновидных компаний в области облачной инфраструктуры.
Сегодня мир находится в очередной поворотной точке: агентный ИИ. Связность — это константа. Разработчикам по-прежнему нужно создавать облачные приложения, которые соединяют сервисы с людьми. Но в лице агентов появляется новая потребительская сущность — первая настоящая «продуктовизация» ИИ.
Впервые интернет — это не только графический интерфейс, но и программные интерфейсы (скоро и голосовые). API — это пользовательский интерфейс для агентного мира, созданного для взаимодействия *машина-машина*, а не для людей. Агенты будут поглощать эти интерфейсы в масштабах, которые мы сейчас даже не можем осознать. Они обнаруживают, обучаются и совершают транзакции быстрее людей. Появляются новые стеки. Бэкенды изменятся. Например, в облачных приложениях вы в основном используете SQL-базы данных; в агентном мире мы будем использовать базы данных с разделением хранения и вычислений, векторные базы данных, lakehouse и LLM в качестве источников гравитации данных.
Клики мышью, наведение курсора и прокрутка станут менее актуальными. Они будут использоваться только тогда, когда что-то идет не так. Агентный рабочий процесс — с голосовым наложением для ввода данных человеком — станет основным методом потребления интернет-ресурсов. Даже если инновации в области агентов замедлятся, будут развернуты более специализированные агенты, что увеличит сложность оркестрации и потребности в Kong по мере роста проблем с трафиком и связностью.
Следующей большой задачей станет переход от соединения облачных сервисов к соединению интеллекта.
Добро пожаловать в эру ИИ-связности.
## Вызовы API + токены
Соединительной тканью эры облаков были вызовы API в чистом стиле REST. Но в эпоху ИИ мы находимся в очередной поворотной точке: токены. Они находятся на пересечении API-трафика и ИИ-трафика.
API вызывают. Теперь они *думают*.
API-трафик дополняется уровнем интеллекта. Прежде чем запрос покинет конечную точку или будет установлено соединение MCP, он обладает контекстом, памятью и способностью к рассуждению. Скоро сам трафик станет интеллектуальным.
Следующий уровень интернета будет состоять не только из вызовов API, обеспечивающих работу приложений; он будет состоять из моделей, ИИ-агентов, голосовых помощников и ко-пилотов, которые обмениваются интеллектом с помощью токенов. Каждый раз, когда система отправляет промпт модели, каждое окно контекста, каждый диалог между агентами создает новый тип токенного трафика. Но почему это важно?
*Горный перевал.*
Я считаю, что управление ИИ будет выиграно именно здесь. Чтобы ИИ мог функционировать и совершать транзакции, он должен быть надежно защищен. Хотя первоначальное позиционирование на рынке ставит эту задачу рядом с платформой данных из-за естественной гравитации, ни у одной компании нет единой платформы данных. Таким образом, лучшее место для управления гетерогенным ландшафтом различных облаков, данных и моделей — это нейтральный уровень трафика. Это произошло во время революции микросервисов, которую мы возглавили, и это произойдет в сфере ИИ.
Мы давно придерживаемся мнения, что самый стратегический способ построения API-платформы — это владение «горным перевалом» уровня трафика. В облачном мире API-шлюзы были брокерской технологией. Но в агентном мире ИИ-шлюзы — это следующие брокеры связности, оркестрирующие трафик между API и моделями — ИИ-трафик будет в 1000 раз больше. Это машинный масштаб.
Таким образом, *горный перевал смещается*.
Сначала медленно. А потом внезапно. По мере быстрого появления нового ИИ-трафика возникают новые протоколы (как REST в облаке). MCP — это первая массовая форма, но появятся и другие ИИ-протоколы, позволяющие ИИ соединяться и общаться новыми способами. Наши принципы всегда будут поддерживать то, что ждет нас в будущем, для самых требовательных компаний.
Мы были рождены для этого момента. Та же «*логика связности*», используемая для управления API — или, что еще лучше, потребность в безопасности, управлении, ускорении и наблюдаемости — еще более критична для ИИ-трафика.
Эффективная и безопасная доставка этих токенов — это новая задача, которую мы решаем.
API предназначены для разработчиков. MCP — для LLM. Подобно тому, как Kong стал плоскостью управления для API, теперь он станет плоскостью управления для ИИ-трафика. Новой единицей проксируемой ценности являются *токены*. Каждый токен несет в себе чувствительный контекст и должен быть под контролем. Пропускная способность токенов определяет эффективность, а контроль затрат — это разница между положительной и отрицательной маржой.
## Гиперобъемы
По мере размножения фабрик токенов возникает новый закон масштабирования ИИ. ИИ выводит нас на порядок величин и объемы, которых мы никогда раньше не видели. Миллиард вызовов API раньше был значимой вехой для бизнеса. Kong Gateway обрабатывает триллионы запросов в день на сверхвысоких скоростях, не допуская ни одной ошибки. Это огромное число, но оно даже близко не стоит к тому, что нас ждет в эру агентного ИИ.
Гонка масштабов ИИ — это вопрос того, кто победит в *гиперобъемах*.
Теперь мы должны подготовить нашу инфраструктуру к квадриллионам, а вскоре и к квинтиллионам запросов API и ИИ-трафика. Объем — это не только вызовы и токены, но и данные в реальном времени, события, потоковые сессии MCP и промпты LLM. Это *мультимодальность*. Сложность растет в геометрической прогрессии. У нас не только огромные объемы трафика, но и гетерогенные. Большая часть аппаратной и программной инфраструктуры, которую мы построили до сегодняшнего дня, потребует перепроектирования с нуля для работы с гиперобъемами. Но только не Kong. Kong был создан для мультимодальных гиперобъемов.
Например, в мае 2025 года генеральный директор Google Сундар Пичаи представил график, показывающий, что ежемесячная обработка токенов Gemini выросла почти в 50 раз с мая 2024 года до 480 миллиардов токенов. К октябрю компания объявила о достижении 1,3 КВАДРИЛЛИОНА токенов в месяц по всем продуктам Google AI.
Триллионы были единицей масштаба, которую мы считали труднодостижимой. Теперь мы должны поверить в квадриллионы, а вскоре и в квинтиллионы, поскольку ИИ устанавливает новый закон масштабирования. Гиперобъемы.
## Скорость — это все, что нужно
Токены по-прежнему крайне неэффективны. Сжатие промптов, оптимизация нотаций, семантическое кэширование и интеллектуальная маршрутизация потребуются в больших масштабах, чтобы сократить потери и обеспечить широкое распределение интеллекта. Все это — проблемы ИИ-связности, которые помогает решать Kong.
В мире, который уже движется с ошеломляющей скоростью и где центры обработки данных становятся фабриками по генерации токенов, доход будет привязан к мощности. И есть только две вещи, которые имеют значение:
- - Токены x Ватт
- - Токены x Секунда
Первое важно, потому что оно напрямую коррелирует с выручкой и маржой. Второе необходимо, потому что речь идет о росте выручки. Чем больше токенов бизнес может пропустить через себя, тем больше выручки он может получить. Задержка в полсекунды при масштабах квадриллионов токенов — это существенная разница в выручке.
*Токены = Выручка.*
Мы всегда стремились к быстрым приложениям и низкозадержковым бэкендам с надежными вызовами API. Сегодня дело не только в более быстром цифровом опыте — в том, что кто-то ждет на несколько секунд дольше, чтобы забронировать билет на самолет. Речь идет об экономической выживаемости в гонке ИИ. Бизнесу придется трансформироваться и приобрести самый быстрый и эффективный стек ИИ, от оборудования до программного обеспечения. Например, в мире CPU отставание на 10% не имело большого значения, но в мире GPU все зависит от производительности. Nvidia поняла это десять лет назад и захватила большую часть рынка GPU, создавая более быстрые продукты, чем кто-либо другой.
Скорость — это все, что вам нужно.
Как упоминалось ранее, показатели токенов в секунду, которые мы видим сегодня, по-прежнему в основном обусловлены человеческим фактором. Когда агенты станут массовыми и будут потреблять токены напрямую от других агентов для выполнения работы, нагрузка на пропускную способность вырастет еще больше.
Но есть подвох! Чтобы работать быстро и передавать токены с высокой скоростью, предприятиям придется выстроить новые защитные барьеры, чтобы иметь возможность передавать интеллект с обеспечением безопасности, надежности и ограниченной зоной поражения в случае сбоев. И снова наша возможность заключается в том, чтобы действовать как диспетчерская вышка на уровне трафика.
Токены — это то, как будет перемещаться интеллект. Скорость — это то, как быстро он будет менять мир.
Kong — это скорость.
## Новый уровень связности
Этот беспрецедентный спрос на скорость требует новых цифровых железных дорог. Уровня связности для гипер-объемов. Для скорости света. С управлением. Для агентов, вызовов API, моделей и токенов. Все это окружено защитными барьерами.
*Уровень связности для ИИ.*
У нас есть возможность построить цифровые железные дороги, чтобы позволить каждому бизнесу процветать, а не оставаться позади, ускоряться и безопасно высвобождать интеллект.
Появляется новый стек ИИ.
У нас есть новые ИИ-облака, «нео-облака», такие как CoreWeave, фундаментальные модели, LLMOps и платформы для инференса, и это лишь некоторые из них. «Клиентами» этой новой волны являются не только веб-сайты, сервисы и приложения, но и ИИ-агенты, а в конечном итоге — робототехника. В сумме — машины.
Где же уровень связности — тот клей, который удерживает все это вместе, и почему именно сейчас?
Главная ставка заключается в том, что та же архитектурная модель, которая возникла в облачных микросервисах, появится и в агентном ИИ. Около десяти лет назад в инфраструктуру предприятий и технологических компаний хлынул большой трафик; контейнеры, Kubernetes, serverless, YAML-файлы, CI/CD и многое другое были созданы для разделения монолитов на микросервисы с целью построения новых масштабируемых систем.
Был запрос на эластичное масштабирование бэкенда до самодостаточных, небольших фрагментов программного обеспечения. Так родилась эра облачных технологий.
Это привело к взрывному росту API для обеспечения взаимодействия, а HTTP RESTful трафик рос по мере того, как в нашу жизнь входило все больше новых приложений и устройств. Изначально разработчики встраивали логику связности бизнеса — ограничение скорости (rate-limiting), логирование, аутентификацию — непосредственно в свои микросервисы, используя библиотеки предпочитаемых языков программирования. Затем, когда количество микросервисов исчислялось сотнями, изобретение велосипеда снова и снова стало ресурсоемким процессом для R&D, и так появился API-шлюз.
Логика связности внезапно сместилась на уровень прокси — абстрагированная, независимая от языка и способная распределять правильные элементы управления (например, лимиты скорости) для каждого сервиса. Инженерная работа вернулась к созданию основных IP, а не к управлению трафиком. Рынок управления API резко вырос, и вокруг API-шлюзов был добавлен полный жизненный цикл API, чтобы помочь с *созданием, запуском, обнаружением и управлением* API.
Это повторяется с ИИ. Сначала в организации было всего несколько LLM, и появились такие фреймворки, как LangChain. По мере того как компании развивают свои ИИ-ориентированные усилия, в их инфраструктуру будет проникать все больше больших/средних/малых языковых моделей и агентов, что приведет к росту ИИ-трафика через вызовы, потоки событий и токены. Как и прежде, потребуется создать новую логику связности. Защитные барьеры больше не будут строиться в бэкендах/LLMOps снова и снова, а будут абстрагированы (опять же) в новую модель: ИИ-шлюз.
ИИ-шлюзы не будут единственным видом «ИИ-промежуточного ПО». Появятся и другие типы брокеров трафика, от границы инференса до внутренних взаимодействий агентов.
Начальный уровень связности ИИ, который сейчас развивается, похож на API-шлюзы, но более сложен и семантичен по своей природе. Мы будем поддерживать входящий/исходящий трафик для LLM и MCP-серверов, применяя защитные барьеры от вызовов API до токенов в едином интерфейсе. Например, ограничение скорости запросов будет переплетаться с бюджетами токенов.
Подход тот же; логика связности продолжит существовать на уровне трафика, как диспетчерская вышка в аэропорту. Точно так же, как диспетчерская вышка управляет безопасностью, маршрутизацией и темпом, ИИ-шлюз управляет токенами, а также доступом и разрешениями агентов. Команды API и ИИ-трафика будут направляться нужным людям, машинам, сервисам и агентам в нужный момент. Интеллектуально и плавно.
Будущий путь для каждого бизнеса — это ИИ.
Kong создал *единственную унифицированную платформу API и ИИ* — обеспечивающую безопасность, управление, ускорение, регулирование и монетизацию потока интеллекта через любые данные, модели и API — в любом облаке.
По квадриллиону токенов за раз. Мы развертываем современные железные дороги. Уровень связности ИИ для безопасного высвобождения интеллекта.
Эпоха ИИ-связности только началась.
