Ollama Cloud теперь работает внутри полноценных Linux-компьютеров, предназначенных для агентов с использованием Fly.io Sprites.

Sprite — это песочница от Fly.io. Каждая из них представляет собой полноценную виртуальную машину Linux с собственным диском, который сохраняется между сеансами. Claude Code, Codex и Gemini CLI поддерживаются «из коробки» и позволяют агентам работать в песочнице для безопасного выполнения команд.

С новым коннектором Ollama ваши Sprites могут использовать облачные модели Ollama, такие как kimi-k3, glm-5.3 и deepseek-v4.1-flash.

Как это работает

Вы добавляете свой ключ API Ollama в свою организацию Fly.io, а Fly.io шифрует его и никогда не возвращает через API.

Когда код внутри Sprite вызывает Ollama, запрос проходит через шлюз Fly.io. Шлюз проверяет, какой Sprite выполняет вызов, и добавляет ваш ключ к запросу. Сам Sprite знает только URL шлюза и идентификатор подключения.

Это означает следующее:

Агент внутри Sprite не может скомпрометировать ваш ключ.
Новые коннекторы по умолчанию блокируют все Sprites. Вы сами выбираете, кому предоставлять доступ: по метке, по префиксу имени или всем сразу.
Вызовы работают только изнутри Sprite.

Начало работы

Вам понадобятся ключ API Ollama и как минимум один Sprite.

В Fly.io dashboard откройте Sprites, затем Connectors и добавьте коннектор Ollama, указав свой ключ API.
В разделе Access Configuration выберите, какие Sprites могут его использовать, и сохраните изменения.
Нажмите Test reachability рядом со Sprite, чтобы убедиться, что он может связаться с Ollama.

Затем изнутри Sprite:

На странице коннектора отображается эта команда с подставленным идентификатором подключения. Заголовок Authorization отсутствует, поскольку ключ добавляет шлюз.

Python

Подходит любой SDK OpenAI. Установите base_url для шлюза и используйте любое значение для api_key:

Родные маршруты /api/* от Ollama также работают через шлюз.

Агенты для программирования

Fly.io Sprites поставляются с навыком, который сообщает Claude Code, Cursor, Codex и Gemini CLI об Ollama. Если у Sprite есть доступ, агент может использовать модели Ollama без какой-либо настройки.

Пример: фаззинг

У Fly.io есть руководство, в котором используется несколько моделей одновременно. Небольшая модель, такая как nemotron-3-nano:30b, создает некорректные входные данные, Sprite проверяет их на вашей программе, а более крупная модель, такая как kimi-k3, анализирует сбои. Чтобы переключить модель, измените поле model. См. краткое руководство по коннектору Ollama.

Спасибо команде Fly.io за совместную работу над этим проектом.