Централизованный сбор и анализ журналов событий (Logs), системных метрик (Metrics) и распределенных трейсов (Traces) — фундаментальная часть эксплуатации любого боевого сервиса, интернет-магазина или API. Долгое время стандартом де-факто оставался стек ELK (Elasticsearch, Logstash, Kibana), однако его аппетиты к ресурсам чрезмерны для небольших и средних проектов: JVM требует от 4 до 8 ГБ оперативной памяти только для базового старта, а неоптимизированные инвертированные индексы Lucene мгновенно съедают дисковое пространство. Облачные SaaS-платформы вроде Datadog или New Relic заблокировали оплату из РФ и обходятся в сотни долларов ежемесячно.
OpenObserve — это открытая (Open Source) облачная платформа наблюдаемости нового поколения, целиком написанная на Rust. Она заменяет тяжеловесный стек Elasticsearch и Kibana единым легковесным контейнером, объединяющим все три столпа мониторинга: логи, метрики и трейсы. Вместо прожорливых индексов OpenObserve сжимает поступающие данные в высокоэффективный колоночный формат Apache Parquet, уменьшая занимаемый дисковый объем до 140 раз по сравнению с сырыми логами. Поверх этих данных можно выполнять стандартные SQL-запросы прямо из удобного веб-интерфейса. В этом практическом руководстве мы разберем развертывание OpenObserve в Docker Compose в связке с легковесным агентом сбора логов Vector, настройку обратного прокси Nginx с SSL, построение дашбордов и резервное копирование.
1. Архитектура OpenObserve: почему Rust и Parquet побеждают стек ELK
Архитектурный прорыв OpenObserve обусловлен симбиозом колоночного формата Apache Parquet с векторным движком DataFusion и ультрабыстрым полнотекстовым поисковым движком Tantivy (также написанным на Rust). Вместо прожорливых структур Lucene и виртуальной машины JVM, Tantivy строит компактные индексы непосредственно над сжатыми данными, обеспечивая мгновенный полнотекстовый поиск при минимальном потреблении оперативной памяти.
| Критерий | Стек ELK (Elasticsearch) | Grafana Loki | OpenObserve (Rust) |
|---|---|---|---|
| Потребление памяти (RAM) | От 2.5–4 ГБ (Java Heap 1–2 ГБ + ОС) | От 1–2 ГБ (Go runtime) | 250–500 МБ RAM (Rust бинарник) |
| Формат хранения данных | Инвертированные индексы Lucene (большой оверхед) | Индексация только лейблов, сырой текст в чанках | Колоночный Apache Parquet + Arrow сжатие (до 140x) |
| Язык запросов | Lucene Query Syntax / DSL | LogQL (требует отдельного изучения) | Стандартный SQL (ANSI SQL с функциями агрегации) |
| Единый стек данных | Нужны разные инструменты (APM, Beats, Kibana) | Только логи (для метрик нужен Prometheus, для трейсов Tempo) | Все в одном: логи, метрики хоста и трейсы в одном UI |
| Хранилище объектов (S3) | Сложная настройка snapshot repository | Поддерживается | Нативная прямая поддержка S3/MinIO из коробки |
Ключевые архитектурные преимущества OpenObserve:
- Монолитный эффективный бинарник: веб-интерфейс, парсер запросов, движок сжатия данных и подсистема алертинга собраны в единый скомпилированный процесс на Rust без сборщика мусора (GC) и виртуальных машин.
- Колоночное хранение в Parquet: запросы вроде
SELECT count(*) FROM logs WHERE status = 500читают с диска только колонку со статусом, не тратя миллисекунды на вычитку мегабайтов текстовых сообщений. - Прямая совместимость с популярными агентами: OpenObserve умеет принимать данные по протоколам Vector, Fluent Bit, Logstash, Fluentd, OpenTelemetry (OTLP) и Prometheus
remote_write.
💡 Совет инженера
При использовании OpenObserve на недорогих серверах с небольшим NVMe-накопителем можно подключить дешевое S3-хранилище (например, Timeweb Cloud S3 или Selectel). Свежие данные текущего дня будут обрабатываться в локальной памяти, а исторические паркет-файлы автоматически сбрасываться в холодный S3-бакет с нулевыми затратами локального диска.
2. Системные требования и подготовка инфраструктуры на VDS
Благодаря энергоэффективности Rust OpenObserve стартует и обрабатывает тестовые потоки даже на бюджетном сервере с 1 vCPU и 1–2 ГБ RAM. Однако в боевом окружении, где агент Vector непрерывно считывает и парсит JSON-логи контейнеров, а администратор строит тяжелые аналитические SQL-дашборды, рекомендуется выбирать виртуальный сервер от 2 vCPU и 2–4 ГБ RAM во избежание очередей ввода-вывода и ухода процессов в Swap.
| Ресурс | Минимальные требования | Рекомендуемая конфигурация |
|---|---|---|
| Процессор (vCPU) | 1 vCPU (от 2.4 ГГц) |
2 vCPU (от 3.3 ГГц) |
| Оперативная память (RAM) | 1 ГБ RAM (+ 1 ГБ Swap) |
2–4 ГБ RAM |
| Дисковое пространство | 15 ГБ NVMe |
30–50 ГБ NVMe (под глубокий архив логов) |
| Операционная система | Ubuntu 22.04 LTS / Debian 12 | Ubuntu 24.04 LTS x86_64 |
Обновим пакеты операционной системы, настроим надежный фаервол UFW и установим Docker Engine с плагином Compose:
# Обновление пакетов операционной системы
sudo apt update && sudo apt upgrade -y
# Установка базовых утилит и клиента S3
sudo apt install -y curl wget git ufw ca-certificates gnupg awscli
# Базовая настройка фаервола UFW: блокируем все входящие, разрешаем SSH, HTTP и HTTPS
sudo ufw default deny incoming
sudo ufw default allow outgoing
sudo ufw allow 22/tcp comment 'SSH'
sudo ufw allow 80/tcp comment 'HTTP Certbot'
sudo ufw allow 443/tcp comment 'HTTPS Nginx'
sudo ufw --force enable
sudo ufw status
# Установка Docker через официальный скрипт
curl -fsSL https://get.docker.com -o get-docker.sh
sudo sh get-docker.sh
# Добавление пользователя в группу docker
# Внимание: добавление в группу docker предоставляет права, эквивалентные root
sudo usermod -aG docker $USER
# Создание рабочего каталога для данных OpenObserve, дискового буфера Vector и бэкапов
sudo mkdir -p /opt/openobserve/{data,vector,vector-data,backup,logs}
sudo chown -R $USER:$USER /opt/openobserve
cd /opt/openobserve
# Ограничение прав на служебные каталоги
chmod 750 /opt/openobserve/backup
Направьте DNS A-запись вашего поддомена (например, logs.example.com) на публичный IP-адрес вашего VDS. Проверить корректность распространения DNS-записей можно с помощью инструмента DNS Lookup на SysKit.
3. Манифест Docker Compose: запуск OpenObserve и сборщика Vector
Для запуска платформы мы используем стабильный релиз public.ecr.aws/zinclabs/openobserve:v1.1.2 в связке с легковесным сборщиком логов timberio/vector:0.61.0-alpine (написанным на Rust и потребляющим всего около 15–30 МБ памяти).
Сгенерируем надежный пароль для администратора и вынесем чувствительные переменные в файл .env. Для генерации криптостойкого пароля воспользуйтесь онлайн-утилитой генератора надежных паролей или командой в консоли:
# Генерация надежного пароля суперадминистратора
ADMIN_SECRET=$(openssl rand -hex 16)
# Создание конфигурационного файла переменных окружения
cat <<EOF > /opt/openobserve/.env
# Учетная запись администратора OpenObserve
ZO_ROOT_USER_EMAIL=admin@example.com
ZO_ROOT_USER_PASSWORD=${ADMIN_SECRET}
# Пути к данным и отключение телеметрии
ZO_DATA_DIR=/data
ZO_TELEMETRY=false
# Автоматическая очистка старых логов (политика хранения: 30 дней)
ZO_COMPACT_DATA_RETENTION_DAYS=30
# Тюнинг фоновой компакции Parquet для бережного расхода RAM на небольших VDS
ZO_COMPACT_INTERVAL=3600
ZO_COMPACT_FAST_MODE=false
EOF
# Ограничение прав на файл переменных окружения
chmod 600 /opt/openobserve/.env
Теперь создадим файл /opt/openobserve/docker-compose.yml. Обратите особое внимание на сетевую изоляцию: порт веб-интерфейса и API опубликован строго на локальный адрес петли 127.0.0.1:5080:5080. Это гарантирует, что панель управления и API-эндпоинты не будут доступны напрямую из интернета в обход фаервола UFW:
services:
openobserve:
image: public.ecr.aws/zinclabs/openobserve:v1.1.2
container_name: openobserve
restart: unless-stopped
mem_limit: 1024m
cpus: 1.5
ports:
# Публикация строго на 127.0.0.1: защита от прямого внешнего доступа
- "127.0.0.1:5080:5080"
environment:
- ZO_ROOT_USER_EMAIL=${ZO_ROOT_USER_EMAIL}
- ZO_ROOT_USER_PASSWORD=${ZO_ROOT_USER_PASSWORD}
- ZO_DATA_DIR=${ZO_DATA_DIR}
- ZO_TELEMETRY=${ZO_TELEMETRY}
- ZO_COMPACT_DATA_RETENTION_DAYS=${ZO_COMPACT_DATA_RETENTION_DAYS:-30}
- ZO_COMPACT_INTERVAL=${ZO_COMPACT_INTERVAL:-3600}
- ZO_COMPACT_FAST_MODE=${ZO_COMPACT_FAST_MODE:-false}
volumes:
- ./data:/data
networks:
- o2_net
vector:
image: timberio/vector:0.61.0-alpine
container_name: vector
restart: unless-stopped
mem_limit: 256m
cpus: 0.5
environment:
- ZO_ROOT_USER_EMAIL=${ZO_ROOT_USER_EMAIL}
- ZO_ROOT_USER_PASSWORD=${ZO_ROOT_USER_PASSWORD}
volumes:
# Монтирование сокета Docker только для чтения для сбора логов контейнеров
- /var/run/docker.sock:/var/run/docker.sock:ro
- ./vector/vector.toml:/etc/vector/vector.toml:ro
# Персистентный дисковый буфер Vector на случай перезагрузок и долгих пауз
- ./vector-data:/var/lib/vector
depends_on:
- openobserve
networks:
- o2_net
networks:
o2_net:
driver: bridge
💡 Совет инженера
Политика ретенции и безопасность: Директива ZO_COMPACT_DATA_RETENTION_DAYS=30 включает автоматическое удаление Parquet-файлов старше одного месяца, предотвращая переполнение диска NVMe. Для начального запуска Vector использует учетные данные администратора, однако для продакшена рекомендуется перейти в раздел Management → Users и сгенерировать отдельный сервисный токен (Ingestion Token) с правами исключительно на запись. Образ OpenObserve является минимальным distroless-бинарником без встроенного шелла и утилит (curl/wget), поэтому в Docker Compose используется надежная стандартная декларация depends_on: [openobserve], а сетевую доступность контролирует сам агент Vector при отправке батчей.
4. Настройка обратного прокси Nginx, WebSocket и выпуск SSL Let's Encrypt
Интерфейс OpenObserve использует WebSocket-соединения для отображения живого потока поступающих событий в реальном времени (режим Live Tail). Настроим хостовый Nginx с корректной передачей заголовков апгрейда протокола.
Создадим конфигурационный файл виртуального хоста Nginx (замените logs.example.com на ваш реальный поддомен):
# /etc/nginx/sites-available/logs.example.com.conf
server {
listen 80;
listen [::]:80;
server_name logs.example.com;
# Максимальный размер пакетов поступающих логов
client_max_body_size 50M;
location / {
proxy_pass http://127.0.0.1:5080;
proxy_http_version 1.1;
# Поддержка постоянных WebSocket-соединений (Live Tail)
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
# Клиентские заголовки
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
# Таймауты для выполнения тяжелых агрегационных SQL-запросов
proxy_connect_timeout 60s;
proxy_send_timeout 180s;
proxy_read_timeout 180s;
}
}
Активируем сайт, проверим синтаксис Nginx и применим настройки:
# Активация виртуального хоста
sudo ln -sf /etc/nginx/sites-available/logs.example.com.conf /etc/nginx/sites-enabled/
# Проверка синтаксиса Nginx
sudo nginx -t
# Перезапуск службы
sudo systemctl reload nginx
Выпустим доверенный SSL-сертификат Let's Encrypt с автоматическим перенаправлением с HTTP на HTTPS, обязательно указав флаг --redirect:
# Установка Certbot и модуля для Nginx
sudo apt install -y certbot python3-certbot-nginx
# Выпуск сертификата с автоматическим 301-редиректом
sudo certbot --nginx --redirect -d logs.example.com
# Проверка таймера автопродления сертификатов
sudo systemctl status certbot.timer
После завершения выпуска сертификата проверьте корректность цепочки шифрования TLS через утилиту SSL Checker и удостоверьтесь в доступности портов 80 и 443 с помощью Port Checker на SysKit.
5. Выбор надежного VDS под хранилище логов и аналитику
Сервер мониторинга и централизованного логирования работает в режиме круглосуточного приема телеметрии со всех сервисов и контейнеров инфраструктуры. Если на диске закончится место или виртуальный сервер начнет троттлить по памяти, администраторы ослепнут в самый неподходящий момент аварии. При выборе VDS под стек OpenObserve важно учитывать три ключевых параметра:
- Быстрые NVMe-накопители с высокой скоростью произвольной записи: Сжатие логов в файлы Parquet и сброс чанков на диск требуют стабильно низких задержек ввода-вывода. NVMe-диски исключают очереди дисковых операций (I/O Wait) даже в моменты резких всплесков трафика.
- Сетевой канал без ограничений по трафику: Потоковая передача сотен мегабайт логов и метрик между вашими боевыми серверами и узлом OpenObserve создает постоянный входящий трафик. Выбирайте провайдеров с честным безлимитным каналом от 200 Мбит/с до 1 Гбит/с.
- Соответствие требованиям 152-ФЗ и российская юрисдикция: Журналы веб-серверов содержат IP-адреса, User-Agent и параметры запросов пользователей, которые квалифицируются регуляторами как персональные данные. Размещение инфраструктуры в отечественных дата-центрах уровня Tier III обеспечивает соблюдение требований локализации первичных баз данных граждан РФ (ч. 5 ст. 18 152-ФЗ).
💡 Совет инженера
Для мониторинга небольшого проекта до 10–15 контейнеров отлично подойдет базовый VDS с 1–2 vCPU и 1–2 ГБ RAM. Если вы собираете системные логи с десятков серверов и храните исторические данные за полгода, рекомендуем конфигурацию с 2–4 vCPU, 4 ГБ RAM и подключением недорогого S3-бакета для долгосрочного архива.
Рекомендуемые VDS-провайдеры
Отказоустойчивые сервера с быстрыми NVMe и каналом до 1 Гбит/с
Timeweb Cloud — Быстрые NVMe VDS
Сверхбыстрые накопители NVMe и безлимитный трафик для непрерывной записи потоков логов и быстрой выборки файлов Parquet.
Selectel — Корпоративные облачные серверы
Аттестованная инфраструктура по 152-ФЗ для безопасного хранения логов доступа, аудита безопасности и коммерческой тайны.
Beget — Удобные VDS для бизнеса
Быстрый запуск Docker-стека, понятная панель администрирования и автоматические ежедневные бэкапы серверных образов.
6. Настройка конвейера Vector: сбор логов контейнеров Docker и Nginx
Для надежной доставки журналов контейнеров в OpenObserve мы используем Vector. Он монтирует сокет Docker в режиме «только чтение» (:ro), считывает потоки stdout и stderr, обогащает записи метаданными контейнера (имя, образ, метки) и батчами отправляет их в OpenObserve по протоколу HTTP с автоматическим сжатием gzip.
Чтобы SQL-запросы в OpenObserve могли мгновенно фильтровать события по статус-кодам, времени ответа и URL без тяжелого регулярного парсинга, веб-сервер Nginx рекомендуется настроить на вывод структурированного JSON прямо в /dev/stdout:
# Пример конфигурации JSON-логирования в nginx.conf
log_format json_analytics escape=json '{'
'"time_local":"$time_local",'
'"remote_addr":"$remote_addr",'
'"request_method":"$request_method",'
'"request_uri":"$request_uri",'
'"status":"$status",'
'"request_time":"$request_time",'
'"body_bytes_sent":"$body_bytes_sent"'
'}';
access_log /dev/stdout json_analytics;
Теперь создадим конфигурационный файл конвейера /opt/openobserve/vector/vector.toml:
# /opt/openobserve/vector/vector.toml
# Источник: сбор логов со всех контейнеров Docker
[sources.docker_logs]
type = "docker"
# Исключаем служебные логи самого сборщика Vector и OpenObserve
exclude_containers = ["vector", "openobserve"]
# Парсинг JSON-сообщений из вывода контейнеров
[transforms.parse_json]
type = "remap"
inputs = ["docker_logs"]
source = '''
.parsed, err = parse_json(.message)
if err == null {
., err = merge(., .parsed)
}
'''
# Приемник: потоковая отправка в OpenObserve
[sinks.openobserve]
type = "http"
inputs = ["parse_json"]
uri = "http://openobserve:5080/api/default/docker_logs/_json"
method = "post"
# Базовая аутентификация через учетные данные администратора
auth.strategy = "basic"
auth.user = "${ZO_ROOT_USER_EMAIL}"
auth.password = "${ZO_ROOT_USER_PASSWORD}"
# Оптимизация передачи данных
compression = "gzip"
encoding.codec = "json"
encoding.timestamp_format = "rfc3339"
# Контроль доступности сервера приема
healthcheck.enabled = true
[sinks.openobserve.batch]
max_events = 1000
timeout_secs = 2
# Энергонезависимый дисковый буфер: сохраняет логи на NVMe при перезагрузках или паузах
[sinks.openobserve.buffer]
type = "disk"
max_size = 268435456 # 256 МБ дискового буфера
when_full = "block"
Запустим весь стек служб через Docker Compose:
# Запуск OpenObserve и сборщика Vector
docker compose up -d
# Проверка статуса контейнеров
docker compose ps
# Просмотр логов агента Vector
docker compose logs -f vector
После старта контейнеров перейдите в веб-интерфейс OpenObserve по вашему домену https://logs.example.com, авторизуйтесь под администратором и откройте вкладку Logs. В выпадающем списке потоков выберите docker_logs: вы увидите поток структурированных событий от всех контейнеров вашего сервера в режиме реального времени.
7. Анализ логов через SQL-запросы, дашборды и Telegram-алерты
В отличие от проприетарных языков запросов вроде Lucene DSL или LogQL, OpenObserve поддерживает полноценный ANSI SQL с богатым набором математических функций, агрегаций и строковых фильтров.
Примеры полезных запросов для мониторинга боевого сервера:
-- 1. Подсчет количества ошибок по каждому контейнеру за последний час
SELECT
container_name,
count(*) as error_count
FROM "docker_logs"
WHERE stream = 'stderr' OR message LIKE '%error%' OR status = '500' OR status = 500
GROUP BY container_name
ORDER BY error_count DESC
LIMIT 10;
-- 2. Анализ 20 самых медленных эндпоинтов Nginx (благодаря JSON-парсингу)
SELECT
request_uri,
avg(cast(request_time as float)) as avg_duration,
max(cast(request_time as float)) as max_duration,
count(*) as total_requests
FROM "docker_logs"
WHERE container_name LIKE '%nginx%' AND (status = '200' OR status = 200)
GROUP BY request_uri
HAVING count(*) > 50
ORDER BY avg_duration DESC
LIMIT 20;
Помимо логов, OpenObserve из коробки объединяет все три столпа наблюдаемости в единый дашборд. Вам не нужно разворачивать отдельные стеки Prometheus или Grafana Tempo — OpenObserve нативно принимает метрики и трейсы по стандартным открытым протоколам:
1. Отправка системных метрик хоста через Prometheus remote_write:
# Фрагмент /etc/prometheus/prometheus.yml на отслеживаемом сервере
global:
scrape_interval: 15s
scrape_configs:
- job_name: 'node_exporter'
static_configs:
- targets: ['127.0.0.1:9100']
# Потоковый экспорт собранных метрик в OpenObserve (официальный эндпоинт API v1)
remote_write:
- url: https://logs.example.com/api/default/prometheus/api/v1/write
basic_auth:
username: admin@example.com
password: YOUR_INGEST_TOKEN_OR_PASSWORD
2. Прямой экспорт распределенных трейсов через OpenTelemetry (OTLP):
Для отправки спанов и трейсов из ваших микросервисов на Python, Node.js, Go или PHP не требуется даже отдельный OTel Collector — официальные SDK OpenTelemetry умеют слать данные напрямую в OpenObserve через стандартные переменные окружения:
# Переменные окружения контейнера вашего бэкенд-приложения
OTEL_SERVICE_NAME=my-ecommerce-api
OTEL_EXPORTER_OTLP_ENDPOINT=https://logs.example.com/api/default
OTEL_EXPORTER_OTLP_HEADERS="Authorization=Basic YWRtaW5AZXhhbXBsZS5jb206WU9VUl9TRUNSRVQ="
OTEL_EXPORTER_OTLP_PROTOCOL=http/protobuf
Все полученные трейсы с полным деревом спанов, таймингами запросов к базам данных и внешним API автоматически отображаются во вкладке Traces.
💡 Настройка прямой отправки алертов в Telegram Bot
Telegram Bot API принимает уведомления методом POST в формате JSON с обязательными полями chat_id и text. Чтобы подключить Telegram без сторонних сервисов-прокси, настройте встроенный механизм шаблонов OpenObserve:
- В меню Management → Templates создайте шаблон
telegram_alertс типом Webhook и телом:{ "chat_id": "ВАШ_CHAT_ID", "text": "🚨 *Оповещение OpenObserve: {alert_name}*\n• Уровень: {alert_level}\n• Поток: {stream_name}\n• Значение: {alert_agg_value}\n\nПодробности:\n{rows}" } - В меню Management → Alert Destinations добавьте получателя: выберите тип Webhook, укажите URL
https://api.telegram.org/bot<ВАШ_ТОКЕН>/sendMessage, заголовокContent-Type: application/jsonи привяжите созданный шаблонtelegram_alert. - В разделе Alerts → Add Alert выберите поток, задайте пороговый SQL-запрос и привяжите получателя Telegram. При срабатывании алерта бот мгновенно доставит уведомление с деталями сработавших логов.
8. Автоматическое резервное копирование данных Parquet и выгрузка в S3
Все метаданные, дашборды, учетные записи и сжатые файлы Parquet хранятся внутри примонтированного каталога /opt/openobserve/data. Поскольку OpenObserve использует локальные базы SQLite/Sled и активные журналы WAL, простое копирование файлов «на живую» может привести к нарушению целостности архива.
Для создания гарантированно консистентного снапшота скрипт кратковременно приостанавливает контейнер через docker pause, архивирует каталог и немедленно возобновляет работу службы через docker unpause. Пока OpenObserve находится на паузе (обычно это занимает всего 3–5 секунд), сборщик Vector автоматически накапливает входящие журналы в персистентном дисковом буфере на NVMe, а после снятия паузы сбрасывает их в хранилище без потери единого события. Обработка аварийных прерываний через trap исключает риск зависания контейнера в состоянии паузы при сбое.
💡 Совет инженера
При использовании объектного S3-хранилища (ZO_LOCAL_MODE_STORAGE=s3) в каталоге /data сохраняются только локальные метаданные SQLite, учетные записи и дашборды (обычно менее 50–100 МБ), поэтому архивация отрабатывает практически мгновенно, а терабайты Parquet-файлов версионируются и бэкапятся средствами самого S3-провайдера.
Создадим надежный Bash-скрипт /opt/openobserve/backup/backup.sh:
#!/usr/bin/env bash
set -Eeuo pipefail
# Загрузка переменных окружения
if [[ -f /opt/openobserve/.env ]]; then
set -a
source /opt/openobserve/.env
set +a
fi
BACKUP_DIR="/opt/openobserve/backup"
DATA_DIR="/opt/openobserve/data"
TIMESTAMP=$(date +"%Y%m%d_%H%M%S")
BACKUP_FILE="${BACKUP_DIR}/openobserve_data_${TIMESTAMP}.tar.gz"
# Параметры Telegram (опционально)
TELEGRAM_BOT_TOKEN="${TELEGRAM_BOT_TOKEN:-}"
TELEGRAM_CHAT_ID="${TELEGRAM_CHAT_ID:-}"
# Параметры S3
S3_ENDPOINT="${S3_ENDPOINT:-https://s3.timeweb.cloud}"
S3_BUCKET="${S3_BUCKET:-my-company-backups}"
# Гарантированное возобновление работы контейнера при любом сбое
trap "docker unpause openobserve 2>/dev/null || true" EXIT
send_telegram() {
local message="$1"
if [[ -n "${TELEGRAM_BOT_TOKEN}" && -n "${TELEGRAM_CHAT_ID}" ]]; then
curl -s -X POST "https://api.telegram.org/bot${TELEGRAM_BOT_TOKEN}/sendMessage" \
--data-urlencode "chat_id=${TELEGRAM_CHAT_ID}" \
--data-urlencode "text=${message}" > /dev/null || true
fi
}
echo "=== Запуск консистентного резервного копирования OpenObserve: ${TIMESTAMP} ==="
# 1. Кратковременная заморозка дисковых операций для консистентности SQLite/WAL
echo "Приостановка контейнера для создания атомарного снимка..."
docker pause openobserve
# 2. Создание архива данных Parquet и баз метаданных
tar -czf "${BACKUP_FILE}" -C "${DATA_DIR}" .
# 3. Немедленное возобновление работы службы
docker unpause openobserve
echo "Контейнер успешно возобновлен."
chmod 600 "${BACKUP_FILE}"
BACKUP_SIZE=$(du -sh "${BACKUP_FILE}" | cut -f1)
# 4. Выгрузка в объектное S3-хранилище (при наличии aws-cli)
if command -v aws &> /dev/null && [[ -n "${S3_BUCKET}" ]]; then
echo "Выгрузка в S3: ${S3_BUCKET}..."
aws --endpoint-url="${S3_ENDPOINT}" s3 cp "${BACKUP_FILE}" "s3://${S3_BUCKET}/openobserve/$(basename "${BACKUP_FILE}")"
fi
# 5. Ротация локальных копий (хранение за последние 7 дней)
find "${BACKUP_DIR}" -type f -name "openobserve_data_*.tar.gz" -mtime +7 -delete
echo "Бэкап успешно завершен: ${BACKUP_FILE} (Размер: ${BACKUP_SIZE})"
# 6. Отправка отчета в Telegram с естественными переносами строк
MESSAGE="✅ OpenObserve Backup в S3 Успешно
Сервер: logs.example.com
Файл: $(basename "${BACKUP_FILE}")
Размер: ${BACKUP_SIZE}
Хранилище: S3 (${S3_BUCKET})
Дата: $(date '+%Y-%m-%d %H:%M:%S')"
send_telegram "${MESSAGE}"
Сделаем скрипт исполняемым и настроим его регулярный запуск по ночам через cron:
# Назначение безопасных прав доступа
chmod 750 /opt/openobserve/backup/backup.sh
# Добавление задачи в crontab администратора (запуск каждую ночь в 03:15)
(crontab -l 2>/dev/null; echo "15 3 * * * /opt/openobserve/backup/backup.sh >> /opt/openobserve/logs/backup.log 2>&1") | crontab -
Для создания персонального расписания воспользуйтесь утилитой генератора выражений Crontab на SysKit, а также ознакомьтесь с шаблоном резервного копирования томов Docker.
9. Инженерный чек-лист проверки и ввод системы мониторинга в эксплуатацию
Перед переводом сбора телеметрии всей инфраструктуры на OpenObserve убедитесь в готовности критических узлов по нашему чек-листу:
📋 Чек-лист готовности к production
- Сетевая изоляция: Порт
5080слушает строго127.0.0.1, прямой доступ из интернета в обход UFW заблокирован. - Поддержка WebSocket: Проверьте отсутствие обрывов соединения в консоли разработчика браузера (вкладка WS со статусом
101 Switching Protocolsв режиме Live Tail). - Поток данных в Vector: Проверьте статус службы Vector и убедитесь в отсутствии ошибок отправки в логах (код ответа OpenObserve
HTTP 200 OK). - Валидность сертификата: Проверьте цепочку TLS и срок действия сертификата через утилиту SSL Checker.
- Тестовый SQL-запрос: Выполните пробный запрос в панели OpenObserve и убедитесь, что записи выводятся со всеми полями контейнеров.
- Проверка выгрузки бэкапа: Запустите
backup.shвручную и удостоверьтесь в создании архива, успешной выгрузке в S3 и доставке алерта в Telegram.
Разверните легковесный центр мониторинга на надежном VDS
Собирайте миллионы строк логов, отслеживайте метрики и находите узкие места ваших сервисов с мгновенным SQL-поиском на проверенных виртуальных серверах с быстрыми накопителями NVMe и сетевым каналом до 1 Гбит/с в дата-центрах РФ.