ansible_victoriametrics_cluster_role

Ansible Роль: Установка VictoriaMetrics в кластерном режиме

Ansible роль для установки или обновления кластера VictoriaMetrics, основанная на отдельной версии: https://github.com/dreamteam-gg/ansible-victoriametrics-role. Спасибо @dreamteam-gg.

Проверено на CentOS 7 и CentOS 8, но должно работать и на других дистрибутивах с небольшими изменениями :-)

Требования

Нет.

Инвентаризация Ansible

Чтобы использовать эту роль, создайте файл инвентаря с этими 3 группами:

vmstorage (для узлов хранения)
vmselect (для узлов выборки)
vminsert (для узлов вставки)

Больше информации здесь: https://github.com/VictoriaMetrics/VictoriaMetrics/tree/cluster#architecture-overview

[vmstorage]
vmstorage01.example.com
vmstorage02.example.com
vmstorage03.example.com
vmstorage04.example.com

[vminsert]
vminsert01.example.com
vminsert02.example.com

[vmselect]
vmselect01.example.com
vmselect02.example.com

Переменные роли

Переменные по умолчанию для роли. Вы можете переопределить их на уровне роли или игрового плана.

---
## настройки по умолчанию для всех узлов VictoriaMetrics
victoriametrics_repo_url: "https://github.com/VictoriaMetrics/VictoriaMetrics"
victoriametrics_download_url: "{{ victoriametrics_repo_url }}/releases/download/{{ victoriametrics_version }}/victoria-metrics-{{ victoriametrics_version }}-cluster.tar.gz"
victoriametrics_version: "v1.34.6"
victoriametrics_system_user: "victoria"
victoriametrics_system_group: "victoria"

## переменные для узлов vmstorage
victoriametrics_vmstorage_data_dir: "/usr/local/bin/victoria-storage"
victoriametrics_vmstorage_retention_period: "24"
victoriametrics_vmstorage_memory_allowed_percent: "60" # 60 - значение по умолчанию 
victoriametrics_vmstorage_service_args: "" # Здесь добавьте дополнительные переменные. Больше опций можно найти с помощью vmstorage-prod --help

## переменные для узлов vmselect
victoriametrics_vmselect_cache_dir: "/usr/local/bin/victoria-cache"
victoriametrics_vmselect_memory_allowed_percent: "60"
victoriametrics_vmselect_service_args: "" # Здесь добавьте дополнительные переменные. Больше опций можно найти с помощью vmselect-prod --help

## переменные для узлов vminsert
victoriametrics_vminsert_service_args: "" # Здесь добавьте дополнительные переменные. Больше опций можно найти с помощью vminsert-prod --help
victoriametrics_vminsert_memory_allowed_percent: "60"

# переменные для адреса прослушивания сервиса
victoriametrics_vmstorage_listen_address: "{{ ansible_default_ipv4.address }}"
victoriametrics_vmselect_listen_address: "{{ ansible_default_ipv4.address }}"
victoriametrics_vminsert_listen_address: "{{ ansible_default_ipv4.address }}"

Пример игрового плана для первоначальной установки

---
- hosts: vmstorage,vminsert,vmselect
  become: yes

  roles:
   - ansible-vicotriametrics-cluster-role

Пример игрового плана для обновления вашего кластера

Перед обновлением кластера всегда проверяйте релизы: https://github.com/VictoriaMetrics/VictoriaMetrics/releases
Для обновления кластера без проблем как минимум один узел каждого типа должен быть работающим. Подробнее: https://github.com/VictoriaMetrics/VictoriaMetrics/tree/cluster#cluster-availability
Чтобы обновить VictoriaMetrics, просто обновите переменную victoriametrics_version.
Нужно использовать функцию Ansible serial, чтобы обновлять по одному узлу за раз. Больше информации: https://docs.ansible.com/ansible/latest/user_guide/playbooks_delegation.html#rolling-update-batch-size
Также мы используем простую задачу перед выполнением настоящего обновления, чтобы собрать факты с узлов, смотрите ниже.

---
- hosts: vminsert,vmselect,vmstorage
  become: true
  gather_facts: true

  tasks:
    - name: Собрать факты для узлов victoria
      setup:

- hosts: vminsert,vmselect,vmstorage
  gather_facts: false
  become: true
  serial: 1

  vars:
    - victoriametrics_version: "v1.40.0"

Дополнительно

Чтобы использовать VictoriaMetrics, вам нужен HTTP балансировщик нагрузки :-)

В моем случае я использовал Haproxy. Вот простая конфигурация для ваших узлов vminsert и vmselect. Если вы добавите больше узлов vmselect или vminsert, не забудьте обновить конфигурацию Haproxy соответственно.

#---------------------------------------------------------------------
# Глобальные настройки
#---------------------------------------------------------------------
global
    log          127.0.0.1 local2
    log-send-hostname
    chroot      /var/lib/haproxy
    pidfile     /var/run/haproxy.pid
    maxconn     40000
    user        haproxy
    group       haproxy
    daemon

    stats socket /run/haproxy.sock mode 666 level admin
    ssl-default-bind-ciphers PROFILE=SYSTEM
    ssl-default-server-ciphers PROFILE=SYSTEM

#---------------------------------------------------------------------
# Общие настройки по умолчанию, которые будут использовать все секции 'listen' и 'backend'
#---------------------------------------------------------------------
defaults
    mode                    http
    log                     global
    option                  httplog
    option                  dontlognull
    option http-server-close
    option forwardfor       except 127.0.0.0/8
    option                  redispatch
    retries                 3
    timeout http-request    10s
    timeout queue           1m
    timeout connect         10s
    timeout client          1m
    timeout server          1m
    timeout http-keep-alive 10s
    timeout check           10s
    maxconn                 30000
    balance

#---------------------------------------------------------------------
# Основной фронтенд vminsert и vmselect
#---------------------------------------------------------------------

frontend vminsert
bind 0.0.0.0:8480
  mode http
  log global
  default_backend vminsert_nodes

frontend vmselect
bind 0.0.0.0:8481
  mode http
  log global
  default_backend vmselect_nodes

frontend stats
bind 0.0.0.0:10010
    mode http
    stats enable
    stats uri /stats
    stats realm HAProxy\ Statistics
    stats auth admin:admin
    stats admin if TRUE

#---------------------------------------------------------------------
# Балансировка нагрузки между vminsert и vmselect
#---------------------------------------------------------------------

backend vminsert_nodes
    mode http
    balance roundrobin
    option httpchk GET /health
    http-check expect string OK
    default-server inter 5s fall 3 rise 2
    server vminsert01 10.10.10.100:8480 check
    server vminsert02 10.10.10.101:8480 check

backend vmselect_nodes
    mode http
    balance roundrobin
    option httpchk GET /health
    http-check expect string OK
    default-server inter 5s fall 3 rise 2
    server vmselect01 10.10.10.102:8481 check
    server vmselect02 10.10.10.103:8481 check