DevOps и инфраструктура 14 мин чтения 2026-11-10

Единый центр сбора логов, метрик и трейсов OpenObserve на VDS: развертывание легковесной альтернативы Datadog и Elasticsearch в Docker Compose с хранением в Parquet и SQL-запросами

Практическое руководство по развертыванию быстрой системы сбора логов, метрик и трейсов OpenObserve на VDS в Docker Compose: интеграция с Vector, хранение в Parquet, SQL-аналитика и защита данных.

Инженерная редакция SysKit Проверено инженерами SysKit.ru

Централизованный сбор и анализ журналов событий (Logs), системных метрик (Metrics) и распределенных трейсов (Traces) — фундаментальная часть эксплуатации любого боевого сервиса, интернет-магазина или API. Долгое время стандартом де-факто оставался стек ELK (Elasticsearch, Logstash, Kibana), однако его аппетиты к ресурсам чрезмерны для небольших и средних проектов: JVM требует от 4 до 8 ГБ оперативной памяти только для базового старта, а неоптимизированные инвертированные индексы Lucene мгновенно съедают дисковое пространство. Облачные SaaS-платформы вроде Datadog или New Relic заблокировали оплату из РФ и обходятся в сотни долларов ежемесячно.

OpenObserve — это открытая (Open Source) облачная платформа наблюдаемости нового поколения, целиком написанная на Rust. Она заменяет тяжеловесный стек Elasticsearch и Kibana единым легковесным контейнером, объединяющим все три столпа мониторинга: логи, метрики и трейсы. Вместо прожорливых индексов OpenObserve сжимает поступающие данные в высокоэффективный колоночный формат Apache Parquet, уменьшая занимаемый дисковый объем до 140 раз по сравнению с сырыми логами. Поверх этих данных можно выполнять стандартные SQL-запросы прямо из удобного веб-интерфейса. В этом практическом руководстве мы разберем развертывание OpenObserve в Docker Compose в связке с легковесным агентом сбора логов Vector, настройку обратного прокси Nginx с SSL, построение дашбордов и резервное копирование.

1. Архитектура OpenObserve: почему Rust и Parquet побеждают стек ELK

Архитектурный прорыв OpenObserve обусловлен симбиозом колоночного формата Apache Parquet с векторным движком DataFusion и ультрабыстрым полнотекстовым поисковым движком Tantivy (также написанным на Rust). Вместо прожорливых структур Lucene и виртуальной машины JVM, Tantivy строит компактные индексы непосредственно над сжатыми данными, обеспечивая мгновенный полнотекстовый поиск при минимальном потреблении оперативной памяти.

Критерий Стек ELK (Elasticsearch) Grafana Loki OpenObserve (Rust)
Потребление памяти (RAM) От 2.5–4 ГБ (Java Heap 1–2 ГБ + ОС) От 1–2 ГБ (Go runtime) 250–500 МБ RAM (Rust бинарник)
Формат хранения данных Инвертированные индексы Lucene (большой оверхед) Индексация только лейблов, сырой текст в чанках Колоночный Apache Parquet + Arrow сжатие (до 140x)
Язык запросов Lucene Query Syntax / DSL LogQL (требует отдельного изучения) Стандартный SQL (ANSI SQL с функциями агрегации)
Единый стек данных Нужны разные инструменты (APM, Beats, Kibana) Только логи (для метрик нужен Prometheus, для трейсов Tempo) Все в одном: логи, метрики хоста и трейсы в одном UI
Хранилище объектов (S3) Сложная настройка snapshot repository Поддерживается Нативная прямая поддержка S3/MinIO из коробки

Ключевые архитектурные преимущества OpenObserve:

  • Монолитный эффективный бинарник: веб-интерфейс, парсер запросов, движок сжатия данных и подсистема алертинга собраны в единый скомпилированный процесс на Rust без сборщика мусора (GC) и виртуальных машин.
  • Колоночное хранение в Parquet: запросы вроде SELECT count(*) FROM logs WHERE status = 500 читают с диска только колонку со статусом, не тратя миллисекунды на вычитку мегабайтов текстовых сообщений.
  • Прямая совместимость с популярными агентами: OpenObserve умеет принимать данные по протоколам Vector, Fluent Bit, Logstash, Fluentd, OpenTelemetry (OTLP) и Prometheus remote_write.

💡 Совет инженера

При использовании OpenObserve на недорогих серверах с небольшим NVMe-накопителем можно подключить дешевое S3-хранилище (например, Timeweb Cloud S3 или Selectel). Свежие данные текущего дня будут обрабатываться в локальной памяти, а исторические паркет-файлы автоматически сбрасываться в холодный S3-бакет с нулевыми затратами локального диска.

2. Системные требования и подготовка инфраструктуры на VDS

Благодаря энергоэффективности Rust OpenObserve стартует и обрабатывает тестовые потоки даже на бюджетном сервере с 1 vCPU и 1–2 ГБ RAM. Однако в боевом окружении, где агент Vector непрерывно считывает и парсит JSON-логи контейнеров, а администратор строит тяжелые аналитические SQL-дашборды, рекомендуется выбирать виртуальный сервер от 2 vCPU и 2–4 ГБ RAM во избежание очередей ввода-вывода и ухода процессов в Swap.

Ресурс Минимальные требования Рекомендуемая конфигурация
Процессор (vCPU) 1 vCPU (от 2.4 ГГц) 2 vCPU (от 3.3 ГГц)
Оперативная память (RAM) 1 ГБ RAM (+ 1 ГБ Swap) 2–4 ГБ RAM
Дисковое пространство 15 ГБ NVMe 30–50 ГБ NVMe (под глубокий архив логов)
Операционная система Ubuntu 22.04 LTS / Debian 12 Ubuntu 24.04 LTS x86_64

Обновим пакеты операционной системы, настроим надежный фаервол UFW и установим Docker Engine с плагином Compose:

# Обновление пакетов операционной системы
sudo apt update && sudo apt upgrade -y

# Установка базовых утилит и клиента S3
sudo apt install -y curl wget git ufw ca-certificates gnupg awscli

# Базовая настройка фаервола UFW: блокируем все входящие, разрешаем SSH, HTTP и HTTPS
sudo ufw default deny incoming
sudo ufw default allow outgoing
sudo ufw allow 22/tcp comment 'SSH'
sudo ufw allow 80/tcp comment 'HTTP Certbot'
sudo ufw allow 443/tcp comment 'HTTPS Nginx'
sudo ufw --force enable
sudo ufw status

# Установка Docker через официальный скрипт
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh

# Добавление пользователя в группу docker
# Внимание: добавление в группу docker предоставляет права, эквивалентные root
sudo usermod -aG docker $USER

# Создание рабочего каталога для данных OpenObserve, дискового буфера Vector и бэкапов
sudo mkdir -p /opt/openobserve/{data,vector,vector-data,backup,logs}
sudo chown -R $USER:$USER /opt/openobserve
cd /opt/openobserve

# Ограничение прав на служебные каталоги
chmod 750 /opt/openobserve/backup

Направьте DNS A-запись вашего поддомена (например, logs.example.com) на публичный IP-адрес вашего VDS. Проверить корректность распространения DNS-записей можно с помощью инструмента DNS Lookup на SysKit.

3. Манифест Docker Compose: запуск OpenObserve и сборщика Vector

Для запуска платформы мы используем стабильный релиз public.ecr.aws/zinclabs/openobserve:v1.1.2 в связке с легковесным сборщиком логов timberio/vector:0.61.0-alpine (написанным на Rust и потребляющим всего около 15–30 МБ памяти).

Сгенерируем надежный пароль для администратора и вынесем чувствительные переменные в файл .env. Для генерации криптостойкого пароля воспользуйтесь онлайн-утилитой генератора надежных паролей или командой в консоли:

# Генерация надежного пароля суперадминистратора
ADMIN_SECRET=$(openssl rand -hex 16)

# Создание конфигурационного файла переменных окружения
cat <<EOF > /opt/openobserve/.env
# Учетная запись администратора OpenObserve
ZO_ROOT_USER_EMAIL=admin@example.com
ZO_ROOT_USER_PASSWORD=${ADMIN_SECRET}

# Пути к данным и отключение телеметрии
ZO_DATA_DIR=/data
ZO_TELEMETRY=false

# Автоматическая очистка старых логов (политика хранения: 30 дней)
ZO_COMPACT_DATA_RETENTION_DAYS=30

# Тюнинг фоновой компакции Parquet для бережного расхода RAM на небольших VDS
ZO_COMPACT_INTERVAL=3600
ZO_COMPACT_FAST_MODE=false
EOF

# Ограничение прав на файл переменных окружения
chmod 600 /opt/openobserve/.env

Теперь создадим файл /opt/openobserve/docker-compose.yml. Обратите особое внимание на сетевую изоляцию: порт веб-интерфейса и API опубликован строго на локальный адрес петли 127.0.0.1:5080:5080. Это гарантирует, что панель управления и API-эндпоинты не будут доступны напрямую из интернета в обход фаервола UFW:

services:
  openobserve:
    image: public.ecr.aws/zinclabs/openobserve:v1.1.2
    container_name: openobserve
    restart: unless-stopped
    mem_limit: 1024m
    cpus: 1.5
    ports:
      # Публикация строго на 127.0.0.1: защита от прямого внешнего доступа
      - "127.0.0.1:5080:5080"
    environment:
      - ZO_ROOT_USER_EMAIL=${ZO_ROOT_USER_EMAIL}
      - ZO_ROOT_USER_PASSWORD=${ZO_ROOT_USER_PASSWORD}
      - ZO_DATA_DIR=${ZO_DATA_DIR}
      - ZO_TELEMETRY=${ZO_TELEMETRY}
      - ZO_COMPACT_DATA_RETENTION_DAYS=${ZO_COMPACT_DATA_RETENTION_DAYS:-30}
      - ZO_COMPACT_INTERVAL=${ZO_COMPACT_INTERVAL:-3600}
      - ZO_COMPACT_FAST_MODE=${ZO_COMPACT_FAST_MODE:-false}
    volumes:
      - ./data:/data
    networks:
      - o2_net

  vector:
    image: timberio/vector:0.61.0-alpine
    container_name: vector
    restart: unless-stopped
    mem_limit: 256m
    cpus: 0.5
    environment:
      - ZO_ROOT_USER_EMAIL=${ZO_ROOT_USER_EMAIL}
      - ZO_ROOT_USER_PASSWORD=${ZO_ROOT_USER_PASSWORD}
    volumes:
      # Монтирование сокета Docker только для чтения для сбора логов контейнеров
      - /var/run/docker.sock:/var/run/docker.sock:ro
      - ./vector/vector.toml:/etc/vector/vector.toml:ro
      # Персистентный дисковый буфер Vector на случай перезагрузок и долгих пауз
      - ./vector-data:/var/lib/vector
    depends_on:
      - openobserve
    networks:
      - o2_net

networks:
  o2_net:
    driver: bridge

💡 Совет инженера

Политика ретенции и безопасность: Директива ZO_COMPACT_DATA_RETENTION_DAYS=30 включает автоматическое удаление Parquet-файлов старше одного месяца, предотвращая переполнение диска NVMe. Для начального запуска Vector использует учетные данные администратора, однако для продакшена рекомендуется перейти в раздел Management → Users и сгенерировать отдельный сервисный токен (Ingestion Token) с правами исключительно на запись. Образ OpenObserve является минимальным distroless-бинарником без встроенного шелла и утилит (curl/wget), поэтому в Docker Compose используется надежная стандартная декларация depends_on: [openobserve], а сетевую доступность контролирует сам агент Vector при отправке батчей.

4. Настройка обратного прокси Nginx, WebSocket и выпуск SSL Let's Encrypt

Интерфейс OpenObserve использует WebSocket-соединения для отображения живого потока поступающих событий в реальном времени (режим Live Tail). Настроим хостовый Nginx с корректной передачей заголовков апгрейда протокола.

Создадим конфигурационный файл виртуального хоста Nginx (замените logs.example.com на ваш реальный поддомен):

# /etc/nginx/sites-available/logs.example.com.conf
server {
    listen 80;
    listen [::]:80;
    server_name logs.example.com;

    # Максимальный размер пакетов поступающих логов
    client_max_body_size 50M;

    location / {
        proxy_pass http://127.0.0.1:5080;
        proxy_http_version 1.1;

        # Поддержка постоянных WebSocket-соединений (Live Tail)
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";

        # Клиентские заголовки
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        # Таймауты для выполнения тяжелых агрегационных SQL-запросов
        proxy_connect_timeout 60s;
        proxy_send_timeout 180s;
        proxy_read_timeout 180s;
    }
}

Активируем сайт, проверим синтаксис Nginx и применим настройки:

# Активация виртуального хоста
sudo ln -sf /etc/nginx/sites-available/logs.example.com.conf /etc/nginx/sites-enabled/

# Проверка синтаксиса Nginx
sudo nginx -t

# Перезапуск службы
sudo systemctl reload nginx

Выпустим доверенный SSL-сертификат Let's Encrypt с автоматическим перенаправлением с HTTP на HTTPS, обязательно указав флаг --redirect:

# Установка Certbot и модуля для Nginx
sudo apt install -y certbot python3-certbot-nginx

# Выпуск сертификата с автоматическим 301-редиректом
sudo certbot --nginx --redirect -d logs.example.com

# Проверка таймера автопродления сертификатов
sudo systemctl status certbot.timer

После завершения выпуска сертификата проверьте корректность цепочки шифрования TLS через утилиту SSL Checker и удостоверьтесь в доступности портов 80 и 443 с помощью Port Checker на SysKit.

5. Выбор надежного VDS под хранилище логов и аналитику

Сервер мониторинга и централизованного логирования работает в режиме круглосуточного приема телеметрии со всех сервисов и контейнеров инфраструктуры. Если на диске закончится место или виртуальный сервер начнет троттлить по памяти, администраторы ослепнут в самый неподходящий момент аварии. При выборе VDS под стек OpenObserve важно учитывать три ключевых параметра:

  • Быстрые NVMe-накопители с высокой скоростью произвольной записи: Сжатие логов в файлы Parquet и сброс чанков на диск требуют стабильно низких задержек ввода-вывода. NVMe-диски исключают очереди дисковых операций (I/O Wait) даже в моменты резких всплесков трафика.
  • Сетевой канал без ограничений по трафику: Потоковая передача сотен мегабайт логов и метрик между вашими боевыми серверами и узлом OpenObserve создает постоянный входящий трафик. Выбирайте провайдеров с честным безлимитным каналом от 200 Мбит/с до 1 Гбит/с.
  • Соответствие требованиям 152-ФЗ и российская юрисдикция: Журналы веб-серверов содержат IP-адреса, User-Agent и параметры запросов пользователей, которые квалифицируются регуляторами как персональные данные. Размещение инфраструктуры в отечественных дата-центрах уровня Tier III обеспечивает соблюдение требований локализации первичных баз данных граждан РФ (ч. 5 ст. 18 152-ФЗ).

💡 Совет инженера

Для мониторинга небольшого проекта до 10–15 контейнеров отлично подойдет базовый VDS с 1–2 vCPU и 1–2 ГБ RAM. Если вы собираете системные логи с десятков серверов и храните исторические данные за полгода, рекомендуем конфигурацию с 2–4 vCPU, 4 ГБ RAM и подключением недорогого S3-бакета для долгосрочного архива.

Рекомендуемые VDS-провайдеры

Отказоустойчивые сервера с быстрыми NVMe и каналом до 1 Гбит/с

Выбор редакции
⚡

Timeweb Cloud — Быстрые NVMe VDS

Сверхбыстрые накопители NVMe и безлимитный трафик для непрерывной записи потоков логов и быстрой выборки файлов Parquet.

Конфигурация
1 vCPU 3.3 ГГц • 2 ГБ RAM • 25 ГБ NVMe • Трафик без лимита
Премиум Tier III
🔷

Selectel — Корпоративные облачные серверы

Аттестованная инфраструктура по 152-ФЗ для безопасного хранения логов доступа, аудита безопасности и коммерческой тайны.

Конфигурация
2 vCPU • 2 ГБ RAM • 30 ГБ NVMe • Выделенный IP
Простота и надежность
🟠

Beget — Удобные VDS для бизнеса

Быстрый запуск Docker-стека, понятная панель администрирования и автоматические ежедневные бэкапы серверных образов.

Конфигурация
1 vCPU • 2 ГБ RAM • 25 ГБ NVMe • Безлимитный канал

6. Настройка конвейера Vector: сбор логов контейнеров Docker и Nginx

Для надежной доставки журналов контейнеров в OpenObserve мы используем Vector. Он монтирует сокет Docker в режиме «только чтение» (:ro), считывает потоки stdout и stderr, обогащает записи метаданными контейнера (имя, образ, метки) и батчами отправляет их в OpenObserve по протоколу HTTP с автоматическим сжатием gzip.

Чтобы SQL-запросы в OpenObserve могли мгновенно фильтровать события по статус-кодам, времени ответа и URL без тяжелого регулярного парсинга, веб-сервер Nginx рекомендуется настроить на вывод структурированного JSON прямо в /dev/stdout:

# Пример конфигурации JSON-логирования в nginx.conf
log_format json_analytics escape=json '{'
    '"time_local":"$time_local",'
    '"remote_addr":"$remote_addr",'
    '"request_method":"$request_method",'
    '"request_uri":"$request_uri",'
    '"status":"$status",'
    '"request_time":"$request_time",'
    '"body_bytes_sent":"$body_bytes_sent"'
'}';

access_log /dev/stdout json_analytics;

Теперь создадим конфигурационный файл конвейера /opt/openobserve/vector/vector.toml:

# /opt/openobserve/vector/vector.toml
# Источник: сбор логов со всех контейнеров Docker
[sources.docker_logs]
type = "docker"

# Исключаем служебные логи самого сборщика Vector и OpenObserve
exclude_containers = ["vector", "openobserve"]

# Парсинг JSON-сообщений из вывода контейнеров
[transforms.parse_json]
type = "remap"
inputs = ["docker_logs"]
source = '''
.parsed, err = parse_json(.message)
if err == null {
    ., err = merge(., .parsed)
}
'''

# Приемник: потоковая отправка в OpenObserve
[sinks.openobserve]
type = "http"
inputs = ["parse_json"]
uri = "http://openobserve:5080/api/default/docker_logs/_json"
method = "post"

# Базовая аутентификация через учетные данные администратора
auth.strategy = "basic"
auth.user = "${ZO_ROOT_USER_EMAIL}"
auth.password = "${ZO_ROOT_USER_PASSWORD}"

# Оптимизация передачи данных
compression = "gzip"
encoding.codec = "json"
encoding.timestamp_format = "rfc3339"

# Контроль доступности сервера приема
healthcheck.enabled = true

[sinks.openobserve.batch]
max_events = 1000
timeout_secs = 2

# Энергонезависимый дисковый буфер: сохраняет логи на NVMe при перезагрузках или паузах
[sinks.openobserve.buffer]
type = "disk"
max_size = 268435456 # 256 МБ дискового буфера
when_full = "block"

Запустим весь стек служб через Docker Compose:

# Запуск OpenObserve и сборщика Vector
docker compose up -d

# Проверка статуса контейнеров
docker compose ps

# Просмотр логов агента Vector
docker compose logs -f vector

После старта контейнеров перейдите в веб-интерфейс OpenObserve по вашему домену https://logs.example.com, авторизуйтесь под администратором и откройте вкладку Logs. В выпадающем списке потоков выберите docker_logs: вы увидите поток структурированных событий от всех контейнеров вашего сервера в режиме реального времени.

7. Анализ логов через SQL-запросы, дашборды и Telegram-алерты

В отличие от проприетарных языков запросов вроде Lucene DSL или LogQL, OpenObserve поддерживает полноценный ANSI SQL с богатым набором математических функций, агрегаций и строковых фильтров.

Примеры полезных запросов для мониторинга боевого сервера:

-- 1. Подсчет количества ошибок по каждому контейнеру за последний час
SELECT 
    container_name, 
    count(*) as error_count 
FROM "docker_logs" 
WHERE stream = 'stderr' OR message LIKE '%error%' OR status = '500' OR status = 500
GROUP BY container_name 
ORDER BY error_count DESC 
LIMIT 10;

-- 2. Анализ 20 самых медленных эндпоинтов Nginx (благодаря JSON-парсингу)
SELECT 
    request_uri, 
    avg(cast(request_time as float)) as avg_duration,
    max(cast(request_time as float)) as max_duration,
    count(*) as total_requests
FROM "docker_logs"
WHERE container_name LIKE '%nginx%' AND (status = '200' OR status = 200)
GROUP BY request_uri
HAVING count(*) > 50
ORDER BY avg_duration DESC
LIMIT 20;

Помимо логов, OpenObserve из коробки объединяет все три столпа наблюдаемости в единый дашборд. Вам не нужно разворачивать отдельные стеки Prometheus или Grafana Tempo — OpenObserve нативно принимает метрики и трейсы по стандартным открытым протоколам:

1. Отправка системных метрик хоста через Prometheus remote_write:

# Фрагмент /etc/prometheus/prometheus.yml на отслеживаемом сервере
global:
  scrape_interval: 15s

scrape_configs:
  - job_name: 'node_exporter'
    static_configs:
      - targets: ['127.0.0.1:9100']

# Потоковый экспорт собранных метрик в OpenObserve (официальный эндпоинт API v1)
remote_write:
  - url: https://logs.example.com/api/default/prometheus/api/v1/write
    basic_auth:
      username: admin@example.com
      password: YOUR_INGEST_TOKEN_OR_PASSWORD

2. Прямой экспорт распределенных трейсов через OpenTelemetry (OTLP):

Для отправки спанов и трейсов из ваших микросервисов на Python, Node.js, Go или PHP не требуется даже отдельный OTel Collector — официальные SDK OpenTelemetry умеют слать данные напрямую в OpenObserve через стандартные переменные окружения:

# Переменные окружения контейнера вашего бэкенд-приложения
OTEL_SERVICE_NAME=my-ecommerce-api
OTEL_EXPORTER_OTLP_ENDPOINT=https://logs.example.com/api/default
OTEL_EXPORTER_OTLP_HEADERS="Authorization=Basic YWRtaW5AZXhhbXBsZS5jb206WU9VUl9TRUNSRVQ="
OTEL_EXPORTER_OTLP_PROTOCOL=http/protobuf

Все полученные трейсы с полным деревом спанов, таймингами запросов к базам данных и внешним API автоматически отображаются во вкладке Traces.

💡 Настройка прямой отправки алертов в Telegram Bot

Telegram Bot API принимает уведомления методом POST в формате JSON с обязательными полями chat_id и text. Чтобы подключить Telegram без сторонних сервисов-прокси, настройте встроенный механизм шаблонов OpenObserve:

  • В меню Management → Templates создайте шаблон telegram_alert с типом Webhook и телом:
    {
      "chat_id": "ВАШ_CHAT_ID",
      "text": "🚨 *Оповещение OpenObserve: {alert_name}*\n• Уровень: {alert_level}\n• Поток: {stream_name}\n• Значение: {alert_agg_value}\n\nПодробности:\n{rows}"
    }
  • В меню Management → Alert Destinations добавьте получателя: выберите тип Webhook, укажите URL https://api.telegram.org/bot<ВАШ_ТОКЕН>/sendMessage, заголовок Content-Type: application/json и привяжите созданный шаблон telegram_alert.
  • В разделе Alerts → Add Alert выберите поток, задайте пороговый SQL-запрос и привяжите получателя Telegram. При срабатывании алерта бот мгновенно доставит уведомление с деталями сработавших логов.

8. Автоматическое резервное копирование данных Parquet и выгрузка в S3

Все метаданные, дашборды, учетные записи и сжатые файлы Parquet хранятся внутри примонтированного каталога /opt/openobserve/data. Поскольку OpenObserve использует локальные базы SQLite/Sled и активные журналы WAL, простое копирование файлов «на живую» может привести к нарушению целостности архива.

Для создания гарантированно консистентного снапшота скрипт кратковременно приостанавливает контейнер через docker pause, архивирует каталог и немедленно возобновляет работу службы через docker unpause. Пока OpenObserve находится на паузе (обычно это занимает всего 3–5 секунд), сборщик Vector автоматически накапливает входящие журналы в персистентном дисковом буфере на NVMe, а после снятия паузы сбрасывает их в хранилище без потери единого события. Обработка аварийных прерываний через trap исключает риск зависания контейнера в состоянии паузы при сбое.

💡 Совет инженера

При использовании объектного S3-хранилища (ZO_LOCAL_MODE_STORAGE=s3) в каталоге /data сохраняются только локальные метаданные SQLite, учетные записи и дашборды (обычно менее 50–100 МБ), поэтому архивация отрабатывает практически мгновенно, а терабайты Parquet-файлов версионируются и бэкапятся средствами самого S3-провайдера.

Создадим надежный Bash-скрипт /opt/openobserve/backup/backup.sh:

#!/usr/bin/env bash
set -Eeuo pipefail

# Загрузка переменных окружения
if [[ -f /opt/openobserve/.env ]]; then
    set -a
    source /opt/openobserve/.env
    set +a
fi

BACKUP_DIR="/opt/openobserve/backup"
DATA_DIR="/opt/openobserve/data"
TIMESTAMP=$(date +"%Y%m%d_%H%M%S")
BACKUP_FILE="${BACKUP_DIR}/openobserve_data_${TIMESTAMP}.tar.gz"

# Параметры Telegram (опционально)
TELEGRAM_BOT_TOKEN="${TELEGRAM_BOT_TOKEN:-}"
TELEGRAM_CHAT_ID="${TELEGRAM_CHAT_ID:-}"

# Параметры S3
S3_ENDPOINT="${S3_ENDPOINT:-https://s3.timeweb.cloud}"
S3_BUCKET="${S3_BUCKET:-my-company-backups}"

# Гарантированное возобновление работы контейнера при любом сбое
trap "docker unpause openobserve 2>/dev/null || true" EXIT

send_telegram() {
    local message="$1"
    if [[ -n "${TELEGRAM_BOT_TOKEN}" && -n "${TELEGRAM_CHAT_ID}" ]]; then
        curl -s -X POST "https://api.telegram.org/bot${TELEGRAM_BOT_TOKEN}/sendMessage" \
            --data-urlencode "chat_id=${TELEGRAM_CHAT_ID}" \
            --data-urlencode "text=${message}" > /dev/null || true
    fi
}

echo "=== Запуск консистентного резервного копирования OpenObserve: ${TIMESTAMP} ==="

# 1. Кратковременная заморозка дисковых операций для консистентности SQLite/WAL
echo "Приостановка контейнера для создания атомарного снимка..."
docker pause openobserve

# 2. Создание архива данных Parquet и баз метаданных
tar -czf "${BACKUP_FILE}" -C "${DATA_DIR}" .

# 3. Немедленное возобновление работы службы
docker unpause openobserve
echo "Контейнер успешно возобновлен."

chmod 600 "${BACKUP_FILE}"
BACKUP_SIZE=$(du -sh "${BACKUP_FILE}" | cut -f1)

# 4. Выгрузка в объектное S3-хранилище (при наличии aws-cli)
if command -v aws &> /dev/null && [[ -n "${S3_BUCKET}" ]]; then
    echo "Выгрузка в S3: ${S3_BUCKET}..."
    aws --endpoint-url="${S3_ENDPOINT}" s3 cp "${BACKUP_FILE}" "s3://${S3_BUCKET}/openobserve/$(basename "${BACKUP_FILE}")"
fi

# 5. Ротация локальных копий (хранение за последние 7 дней)
find "${BACKUP_DIR}" -type f -name "openobserve_data_*.tar.gz" -mtime +7 -delete

echo "Бэкап успешно завершен: ${BACKUP_FILE} (Размер: ${BACKUP_SIZE})"

# 6. Отправка отчета в Telegram с естественными переносами строк
MESSAGE="✅ OpenObserve Backup в S3 Успешно
Сервер: logs.example.com
Файл: $(basename "${BACKUP_FILE}")
Размер: ${BACKUP_SIZE}
Хранилище: S3 (${S3_BUCKET})
Дата: $(date '+%Y-%m-%d %H:%M:%S')"

send_telegram "${MESSAGE}"

Сделаем скрипт исполняемым и настроим его регулярный запуск по ночам через cron:

# Назначение безопасных прав доступа
chmod 750 /opt/openobserve/backup/backup.sh

# Добавление задачи в crontab администратора (запуск каждую ночь в 03:15)
(crontab -l 2>/dev/null; echo "15 3 * * * /opt/openobserve/backup/backup.sh >> /opt/openobserve/logs/backup.log 2>&1") | crontab -

Для создания персонального расписания воспользуйтесь утилитой генератора выражений Crontab на SysKit, а также ознакомьтесь с шаблоном резервного копирования томов Docker.

9. Инженерный чек-лист проверки и ввод системы мониторинга в эксплуатацию

Перед переводом сбора телеметрии всей инфраструктуры на OpenObserve убедитесь в готовности критических узлов по нашему чек-листу:

📋 Чек-лист готовности к production

  • Сетевая изоляция: Порт 5080 слушает строго 127.0.0.1, прямой доступ из интернета в обход UFW заблокирован.
  • Поддержка WebSocket: Проверьте отсутствие обрывов соединения в консоли разработчика браузера (вкладка WS со статусом 101 Switching Protocols в режиме Live Tail).
  • Поток данных в Vector: Проверьте статус службы Vector и убедитесь в отсутствии ошибок отправки в логах (код ответа OpenObserve HTTP 200 OK).
  • Валидность сертификата: Проверьте цепочку TLS и срок действия сертификата через утилиту SSL Checker.
  • Тестовый SQL-запрос: Выполните пробный запрос в панели OpenObserve и убедитесь, что записи выводятся со всеми полями контейнеров.
  • Проверка выгрузки бэкапа: Запустите backup.sh вручную и удостоверьтесь в создании архива, успешной выгрузке в S3 и доставке алерта в Telegram.

Разверните легковесный центр мониторинга на надежном VDS

Собирайте миллионы строк логов, отслеживайте метрики и находите узкие места ваших сервисов с мгновенным SQL-поиском на проверенных виртуальных серверах с быстрыми накопителями NVMe и сетевым каналом до 1 Гбит/с в дата-центрах РФ.

Вопросы и ответы (FAQ)

Популярные вопросы вебмастеров и сисадминов по данной теме

Сколько оперативной памяти и диска экономит OpenObserve по сравнению с Elasticsearch?
По тестам и бенчмаркам сообщества OpenObserve экономит до 80–90% оперативной памяти (потребляя всего 250–500 МБ RAM против 4–8 ГБ у Elasticsearch) и сжимает входящие данные до 140 раз благодаря колоночному формату Apache Parquet. Это позволяет полноценно хранить и анализировать терабайты логов даже на бюджетном сервере с 1–2 ГБ RAM.
Как подключить холодное объектное хранилище S3, чтобы не забивать локальный NVMe-диск логами?
Для переключения хранилища данных в S3 в режиме local mode в файле .env задаются переменные: ZO_LOCAL_MODE_STORAGE=s3, ZO_S3_BUCKET_NAME=my-bucket, ZO_S3_SERVER_URL=https://s3.timeweb.cloud (эндпоинт совместимого S3-хранилища Timeweb Cloud или Selectel), AWS_ACCESS_KEY_ID, AWS_SECRET_ACCESS_KEY и ZO_S3_REGION_NAME=ru-1. При такой конфигурации все файлы Parquet сохраняются в S3, а локальный каталог /data используется только для кэша и метаданных SQLite.
Как настроить Telegram-алерты в OpenObserve при обнаружении критических ошибок (HTTP 500, Panic)?
Telegram Bot API требует полезную нагрузку JSON с обязательными полями chat_id и text. Для прямой отправки в меню Management → Templates создайте шаблон Webhook с телом {"chat_id":"ВАШ_ID","text":"Alert: {alert_name}\n{rows}"}, затем в Alert Destinations укажите URL https://api.telegram.org/botТОКЕН/sendMessage и привяжите созданный шаблон. В разделе Alerts задайте SQL-правило (WHERE status = 500) и привяжите получателя Telegram.

Читайте также в блоге SysKit

Смежные руководства и полезные технические статьи