Dev48
ЯЗЫК
  • О нас
  • Услуги
  • Индустрии
  • Технологии
  • Статьи
  • Контакты
Забронировать звонок
    Главная/Статьи/Bolshe nagruzki vyshe skorost nastroyka replik chteniya v postgres
Dev48
info@dev48.org+375 29 320-40-96WhatsApp@isky_by

© 2026 · Все права защищены.

Больше нагрузки — выше скорость: настройка реплик чтения в Postgres

Источник: ClickHouse•18 ноября 2026 г. в 10:09

Больше нагрузки — выше скорость: настройка реплик чтения в Postgres

Тестирование реплик чтения в Postgres показывает, почему больший объем записываемого трафика может снизить задержку, как настройки WAL влияют на латентность и к каким компромиссам приводит агрессивная тюнинговка.

  • Задержка репликации «из коробки» оказывается ниже, чем принято считать, если у вас есть трафик, и ее довольно легко снизить до нескольких секунд с помощью базовой настройки.
  • Вы можете добиться впечатляюще малой задержки репликации, если готовы пойти на крайние меры или смириться с компромиссами.
  • Если вас сильно беспокоит задержка реплики чтения и вам нужна относительно безопасная отправная точка для тюнинга, попробуйте установить archive_timeout=5s и wal_retrieve_retry_interval=500ms.
  • Некоторые из этих параметров могут привести к большим счетам за сеть при использовании синхронного HA.

Иногда простые проблемы — это именно то, что по-настоящему удивляет. Недавно пользователь ClickHouse Managed Postgres сообщил о проблеме с неожиданно высокой задержкой реплики чтения, и я воспользовался возможностью изучить этот вопрос. Я быстро понял, что в Postgres есть множество параметров конфигурации, которые я не тестировал в течение нескольких мажорных версий, и что кое-что из того, что я считал общеизвестным, немного устарело. Надеюсь, некоторые вещи удивят и вас.

Реплики чтения — один из классических столпов любой традиционной реляционной базы данных. Если вы когда-нибудь хотели отделить чтение от записи или просто масштабировать чтение, вы, вероятно, задумывались об их настройке, и я готов поспорить, что у большинства читателей этого блога одна из них работает в продакшене. Принцип их работы довольно прост: у вас есть основная база данных, которая принимает обычный трафик, и все ее обновления зеркалируются на одну или несколько реплик чтения, которые обслуживают запросы, не изменяющие данные.

Существует несколько способов настройки. Классическая конфигурация — потоковая репликация, при которой изменения передаются (более или менее) в реальном времени на реплики, но у нее есть некоторые недостатки, которые нам не нравятся и которые я описал в конце этого блога. Другой популярный метод, выбранный нами в качестве стандартного в ClickHouse Managed Postgres, заключается в том, чтобы использовать тот факт, что мы уже собираем WAL для резервного копирования, и задействовать его для синхронизации реплики. Это несколько медленнее, и поскольку мы не можем использовать hot_standby_feedback без потокового соединения, выполняющиеся долго запросы на реплике блокируют применение изменений до их завершения или срабатывания тайм-аутов, но это компромисс, который нас устраивает.

К сожалению, Postgres любит эффективно подходить к переключению сегментов WAL, что может приводить к неожиданному поведению. При настройках по умолчанию, которые мы поставляем, Postgres переключает сегменты каждые 16 МБ изменений или каждые 60 секунд (в зависимости от того, что наступит раньше). На практике мы убедились, что это хорошее значение по умолчанию, так как в продакшен-системе при умеренной нагрузке вы обычно наблюдаете лишь пару секунд задержки репликации. Это происходит потому, что изменения в системе с умеренной нагрузкой достигают отметки в 16 МБ довольно быстро, и вам не приходится ждать большую часть времени, при этом большинство сред с репликой чтения имеют значительный уровень базовой нагрузки.

Проблема возникает при сценариях с низкой пропускной способностью. Если объем входящего трафика записи невелик, Postgres не будет отправлять изменения, и ваша реплика не увидит обновления в течение 60 секунд. По моему опыту, это обычно обнаруживается на ранних этапах тестирования платформы, и это не первая компания, где я слышу жалобы на такое медленное поведение реплики. Всегда неловко объяснять, что система работает медленно, потому что вы не создали на нее достаточную нагрузку, а мне нравится знать, насколько сильно можно нагрузить программное обеспечение перед тем, как оно сломается, поэтому, когда этот вопрос возник, я решил протестировать все сам.

Я задействовал несколько тестовых инстансов ClickHouse Managed Postgres, настроил pgbench для симуляции нагрузки и приступил к работе. Чтобы измерить задержку репликации, я добавил инструмент «сердцебиения» (heartbeat), который записывал строку в основную БД каждые 200 мс и непрерывно опрашивал ту же таблицу на реплике. Я использовал довольно слабое «железо», чтобы упростить задачу создания реальной нагрузки на системы. Были задействованы первичная база и одна реплика чтения, каждая на инстансах i8g.large с 16 ГБ оперативной памяти, 2 vCPU и 468 ГБ локального хранилища NVMe SSD под управлением PG 18.6. В середине тестирования я добавил два кворумных синхронных HA-сервера для лучшего соответствия продакшен-нагрузкам, что снизило пропускную способность примерно на 10% и не оказало измеримого влияния на задержку репликации. Генерация WAL достигала 120 МБ/с (105 МБ/с с HA) в этих тестах, так что, несмотря на малое количество ядер, это должно обеспечивать для механизма репликации пропускную способность, сравнимую с таковой в интенсивно используемой продакшен-среде. Обратите внимание, что «простой» (idle) на графиках ниже включает тривиальный трафик таблицы сердцебиения (1 запись примерно каждые 200 мс), но нулевую нагрузку от pgbench.

Первое наблюдение подтвердило причину неожиданного поведения: сообщения о задержке репликации действительно были вызваны недостаточной нагрузкой на систему. Задержка репликации при настройках по умолчанию образует U-образную кривую в зависимости от пропускной способности, причем как экстремально низкая, так и экстремально высокая пропускная способность вызывают большие пики задержки. «Золотая середина» находится посередине, где данные поступают достаточно быстро для немедленной отправки сегментов WAL, но не настолько быстро, чтобы перегрузить систему, а правая часть буквы U возникает из-за того, что выгрузка архива начинает отставать.

Это было довольно неплохо с самого начала, так как умеренная нагрузка в 12 МБ/с приводила к задержке репликации примерно в 3 секунды, а этого достаточно для большинства сценариев использования. Подтверждение того, что в продакшене это не станет проблемой, было хорошим началом, но мы могли сделать лучше, и у меня была тестовая среда, отчаянно нуждающаяся в хорошей тренировке.

Настроек, непосредственно влияющих на задержку репликации, не так много, но на ум пришло несколько вариантов. Размер сегмента WAL в 16 МБ можно настроить только при создании новой базы данных с помощью initdb --wal-segsize или используя pg_resetwal --wal-segsize в период технического обслуживания, что généralement бесполезно для тюнинга уже существующей среды. Следующим подходящим кандидатом был 60-секундный интервал, который контролируется параметром archive_timeout. Он просто определяет, как долго Postgres будет ждать перед отправкой сегмента в любом случае, так что это максимально релевантный параметр.

С этим связан еще один параметр — wal_retrieve_retry_interval, который также оказался важным. Он определяет, сколько времени Postgres будет ждать между попытками повтора, если ему не удастся найти запрошенный сегмент WAL с первой попытки, и в практических целях его лучше рассматривать как интервал опроса.

Я попробовал множество различных значений при нескольких уровнях смоделированной нагрузки. Я объединил wal_retrieve_retry_interval и archive_timeout здесь, так как на практике для целей задержки репликации они выполняли одну и ту же работу.

Интересно, что улучшения прекращались, когда значение становилось слишком низким. Ограничение заключалось в том, что каждый опрос в итоге занимал около 0.8 с последовательных вызовов WAL-G, так что не было особого смысла опускаться ниже примерно одной секунды. Вот смоделированный пример с разбивкой того, куда обычно уходило время:

Повторная выборка происходит потому, что Postgres не сохраняет локальную копию сегментов, восстановленных из архива. Если следующий сегмент еще не заархивирован на момент запроса или Postgres по какой-то причине не может его получить, он заново выполнит выборку и чтение сегмента, содержащего последнюю действительную запись, прежде чем снова попытаться перейти к следующему сегменту. Я полагаю, что проверку истории можно было бы опустить, если бы параметр recovery_target_timeline был зафиксирован вместо использования значения по умолчанию latest, но тогда реплика не смогла бы выжить при HA-переключении и, вероятно, это не стоило бы затрат.

К сожалению, это влечет за собой определенные немаловажные издержки. Использование archive_timeout приведет к увеличению сетевой нагрузки при синхронном HA, что может стать дорогостоящим в конфигурациях с HA между зонами доступности (cross-AZ). Пересылка 16 МБ на каждый standby-сервер при каждом срабатывании archive_timeout со временем накапливается: при archive_timeout в 2 секунды трафик составит 17 МБ/с и превысит 1 ТБ в день при наличии 2 standby-серверов. Реплика для чтения также столкнется с некоторыми побочными эффектами, поскольку при каждом пропущенном опросе предыдущий сегмент будет заново скачиваться и распаковываться из объектного хранилища.

Нагрузка на CPU реплики также подскочила сильнее, чем я ожидал. У реплики было всего 2 vCPU, поэтому тесты показали нереалистично высокий относительный эффект. Насколько я могу судить, нагрузка на CPU почти полностью определяется частотой опросов, так как каждый опрос вызывает повторную выборку и распаковку и по сути представляет собой фиксированную стоимость независимо от размера инстанса или объема данных. На более реалистичной продакшн-системе с 8 и более ядрами эти накладные расходы на производительность более или менее растворятся на общем фоне. К сожалению, у меня не хватило времени протестировать это в рамках данного проекта.

Когда я стал искать другие возможности для улучшения, то обнаружил, что archive_timeout, к сожалению, принимает только целочисленные параметры, поэтому опускаться ниже 1 секунды было нецелесообразно. В конце концов я понял, что в Postgres есть отличный небольшой механизм для принудительного переключения на новый WAL-файл — pg_switch_wal(). Я начал вызывать его в цикле с различными короткими интервалами и получил более интересные результаты. Для сравнения я включил предыдущие значения:

На самом деле это не улучшило ситуацию настолько, чтобы оправдать затраты. Каждый сегмент вносил собственные накладные расходы WAL-G на выборку, поэтому по мере уменьшения интервалов эти накладные расходы съедали все больше и больше времени. Это также объясняет, почему перцентиль p99 оказался намного хуже p50, когда переключения WAL происходили слишком агрессивно: любая задержка или сбой вызывают каскад накопленных сегментов.

Цикл переключения также оказал заметное влияние на накладные расходы. Primary-сервер отправляет 16 МБ сегмент каждому HA standby при каждом принудительном переключении WAL, что довольно быстро накапливается, если приходится иметь дело с межзонным или межоблачным трафиком. Пропускная способность primary упала примерно на 15% при запущенном цикле переключения, что является довольно существенным компромиссом.

Следующим, все менее разумным шагом было проявить креативность и разобраться с накладными расходами WAL-G. Много времени уходило на ожидание того, как WAL-G запускает новый процесс для каждого отдельного запроса выборки, хотя на самом деле мне не нужно было этого делать. На этих машинах уже работает демон WAL-G, поэтому я мог воспользоваться этим фактом с помощью простой строки конфигурации:

Это сократило время каждого запроса примерно на 55 мс при попадании в кэш и на 85 мс при промахе, и, как вы можете видеть ниже, для цикла переключения в 250 мс это дало ощутимый результат. Это оказалось полезным, но менее заметным при 1 с и совершенно бессмысленным для всего остального. Увеличение числа внешних зависимостей в пути восстановления данных — безусловно, не лучшая идея для продакшн-окружения, но интересно посмотреть, как далеко можно зайти в подобных экспериментах:

В общем, неплохой день работы! И последнее, что стоит проверить: как вообще соотносятся все настройки архивации с простым использованием потоковой реплики?

Увы, превзойти ее не удалось. С другой стороны, нам это и не нужно. Задержки репликации в одну-две секунды более чем достаточно для большинства сценариев использования, а у потоковой реплики есть несколько хорошо известных недостатков, которые мешают сделать ее выбором по умолчанию.

  • Параметр hot_standby_feedback может помешать процессу VACUUM удалять недавно устаревшие строки на primary-сервере, если они нужны реплике.
  • Застрявшая или отстающая слот-репликация может забить диск и привести к сбою на primary, если не задан параметр max_slot_wal_keep_size.
  • Накладные расходы на репликацию могут увеличивать нагрузку на primary. Поскольку большинство пользователей реплик для чтения используют их именно для предотвращения нехватки ресурсов, это бьет по тем, кто больше всего нуждается в репликах.
  • HA-переключения могут быть сложными, и довольно легко получить конфигурацию, которая нарушит работу реплики при сбое.

Мы действительно используем потоковые реплики для HA standby-серверов, где отсутствие активности чтения и гарантированное соответствие аппаратного обеспечения продакшну эффективно нивелируют эти недостатки, а задержка менее секунды имеет критическое значение для минимизации времени простоя.

← Все статьи

О чём эта статья

Ещё в разделе «Данные и аналитика»

Все →
Google Analytics не хватает многих функций, чтобы стать полноценной заменой Plausible
Plausible

Google Analytics не хватает многих функций, чтобы стать полноценной заменой Plausible

Становится ли ваш конвейер наблюдаемости узким местом?
Confluent

Становится ли ваш конвейер наблюдаемости узким местом?

День, когда небо опустело: визуализация сбоя FAA с помощью ClickHouse FORMAT PNG
ClickHouse

День, когда небо опустело: визуализация сбоя FAA с помощью ClickHouse FORMAT PNG

Победители программы Google Cloud Partner All-stars 2026 года
Looker

Победители программы Google Cloud Partner All-stars 2026 года

Как оценивать ИИ-агентов перед предоставлением им прав на запись
Redpanda

Как оценивать ИИ-агентов перед предоставлением им прав на запись

Слой знаний для корпоративного ИИ: предметная онтология
Neo4j

Слой знаний для корпоративного ИИ: предметная онтология

Ещё от ClickHouse

День, когда небо опустело: визуализация сбоя FAA с помощью ClickHouse FORMAT PNG
ClickHouse

День, когда небо опустело: визуализация сбоя FAA с помощью ClickHouse FORMAT PNG

Интеграция вашей организации на платформе Claude с ClickHouse Cloud с помощью связанного биллинга
ClickHouse

Интеграция вашей организации на платформе Claude с ClickHouse Cloud с помощью связанного биллинга

Прогнозирование и обнаружение аномалий в ClickHouse с помощью фундаментальных моделей временных рядов
ClickHouse

Прогнозирование и обнаружение аномалий в ClickHouse с помощью фундаментальных моделей временных рядов

JSONBench возвращается, и ClickHouse всё ещё лидирует
ClickHouse

JSONBench возвращается, и ClickHouse всё ещё лидирует

Представляем Loom: память для агентов, которая не отстает от вашего кода
ClickHouse

Представляем Loom: память для агентов, которая не отстает от вашего кода

SET allow_preview_features = 1: предварительный просмотр функций своими силами в ClickHouse Cloud
ClickHouse

SET allow_preview_features = 1: предварительный просмотр функций своими силами в ClickHouse Cloud