nifi

Используйте эту роль для настройки Apache NiFi. Роль протестирована с версиями NiFi 1.3.x, 1.4.x, 1.5.x, 1.6.x, 1.7.x и 1.8.x.

Требования

Перед выполнением этой роли дистрибутив NiFi должен быть доступен на целевой системе по адресу {{ nifi_base_dir }}/nifi-{{ nifi_version }}/

• если RPM, RPM должен быть установлен
• если tar.gz, его необходимо распаковать

Переменные роли

Обязательные переменные

nifi_version

Переменные, которые определяют место установки nifi, и их значения по умолчанию:

nifi_base_dir: /opt/nifi
nifi_etc_dir: /etc/nifi
nifi_log_dir: /var/log/nifi
nifi_pid_dir: /var/run/nifi
nifi_home_dir: /home/nifi

Другие значения по умолчанию перечислены ниже:

# Создавать ли домашнюю директорию для учетной записи службы NiFi. По умолчанию true, чтобы сохранить предыдущую функциональность, но должно быть установлено в false для новых инстансов.
nifi_create_home_dir: true 

# Устанавливает оболочку по умолчанию для учетной записи службы NiFi. Действует только, если nifi_create_home_dir установлено в true.
nifi_default_shell: /bin/bash

# укажите -Djava.io.tmpdir в bootstrap.conf, по умолчанию не задано
#nifi_tmp_dir: /tmp

# Установите это в true, чтобы включить удаленную отладку
nifi_enable_remote_debugging: False
nifi_remote_debugging_port: 8000

# перезапускать ли nifi после внесения изменений; по умолчанию True, для кластера вы можете отключить
nifi_perform_restart: True

# перезапускать ли принудительно, полезно, если другая роль внесла изменения (например, обновление пользовательского nar); по умолчанию False
nifi_force_restart: False

# Полный список IP-адресов для каждого узла в кластере nifi
nifi_authorized_nodes_list: []

# nifi_extra_args — это список пар "ключ/значение", которые предоставляются в NiFi, например:
nifi_extra_args:
  - file.encoding: "UTF-8"
  - environment: "{{ env }}"

# Список директорий, в которых nifi будет искать дополнительные nars.
nifi_custom_nars: []
    
nifi_node_jvm_memory: '1024m'
nifi_java_command: 'java'

# файлы / директории для nifi по умолчанию
nifi_database_repository: "{{ nifi_home }}/database_repository"
nifi_flowfile_repository: "{{ nifi_home }}/flowfile_repository"
nifi_content_repositories: [ "{{ nifi_home }}/content_repository" ]
nifi_provenance_repositories: [ "{{ nifi_home }}/provenance_repository" ]

# Настройки кластера NiFi
nifi_single_node: True
nifi_input_socket_host:
nifi_input_socket_port:
nifi_cluster_node_protocol_port:
nifi_web_http_port: 8080

# Настройки очереди обмена
nifi_queue_swap_threshold: 20000
nifi_swap_in_threads: 1
nifi_swap_out_threads: 4

# Настройки репозитория контента
nifi_content_claim_max_flow_files: 100
nifi_content_claim_max_appendable_size: '10 MB'
nifi_content_archive_max_retention_period: '12 hours'
nifi_content_archive_max_usage_percentage: '50%'
nifi_content_archive_enabled: 'false'
nifi_content_always_sync: 'false'
 
# Настройки происхождения: PersistentProvenanceRepository или VolatileProvenanceRepository
nifi_provenance_implementation: PersistentProvenanceRepository
nifi_provenance_max_storage_time: '24 hours'
nifi_provenance_max_storage_size: '1 GB'
nifi_provenance_rollover_time: '30 secs'
nifi_provenance_rollover_size: '100 MB'
nifi_provenance_query_threads: 2
nifi_provenance_index_threads: 2
nifi_provenance_repository_buffer_size: 100000
nifi_provenance_indexed_fields: EventType, FlowFileUUID, Filename, ProcessorID, Relationship

# Настройки репозитория статуса
nifi_components_status_repository_buffer_size: 1440
nifi_components_status_snapshot_frequency: '1 min'

# Настройки Zookeeper для NiFi
nifi_zookeeper_servers: []
nifi_zookeeper_dir: /data/zookeeper
nifi_state_management_embedded_zookeeper_start: False
nifi_zookeeper_root_node: '/nifi'
nifi_zookeeper_session_timeout: '10 seconds'
nifi_zookeeper_autopurge_purgeInterval: 24
nifi_zookeeper_autopurge_snapRetainCount: 30

# Настройки безопасности
nifi_initial_admin:
nifi_is_secure: False
nifi_web_https_port: 8443
nifi_security_keystore: "{{ nifi_conf_dir }}/keystore.jks"
nifi_security_keystoreType: jks
nifi_security_keystorePasswd: ''
nifi_security_keyPasswd: "{{ nifi_security_keystorePasswd }}"
nifi_security_truststore: "{{ nifi_conf_dir }}/truststore.jks"
nifi_security_truststoreType: jks
nifi_security_truststorePasswd: ''

# Уровни и параметры логирования Logback
nifi_log_app_file_retention: 10
nifi_log_user_file_retention: 10
nifi_log_boot_file_retention: 10
nifi_log_level_root: INFO
nifi_log_level_org_apache_nifi: INFO
nifi_log_level_org_apache_nifi_processors: WARN
nifi_log_level_org_apache_nifi_processors_standard_LogAttribute: INFO
nifi_log_level_org_apache_nifi_controller_repository: WARN
nifi_log_level_org_apache_nifi_controller_repository_StandardProcessSession: WARN
nifi_log_level_org_apache_nifi_cluster: INFO
nifi_log_level_org_apache_nifi_server_JettyServer: INFO
nifi_log_level_org_eclipse_jetty: INFO
nifi_log_level_org_apache_nifi_web_security: INFO
nifi_log_level_org_apache_nifi_web_api_config: INFO
nifi_log_level_org_apache_nifi_authorization: INFO
nifi_log_level_org_apache_nifi_cluster_authorization: INFO
nifi_log_level_org_apache_nifi_bootstrap: INFO
nifi_log_level_org_apache_nifi_bootstrap_Command: INFO
nifi_log_level_org_apache_nifi_web_filter_RequestLogger: INFO
nifi_log_level_org_wali: WARN
nifi_custom_log_levels: []

Зависимости

NiFi требует Java

Пример плейбука

Установить и настроить NiFi

- name: Установить NiFi
  hosts: servers
  vars: 
      nifi_log_level_root: WARN
      nifi_node_jvm_memory: '10240M'
      nifi_custom_nars: [ '/opt/extra-nars' ]
      nifi_single_node: False
      nifi_authorized_nodes_list: ['nifi-node-1', 'nifi-node-2']      
  pre_tasks:
    - name: Загрузить дистрибутив NiFi (tar.gz) с localhost
      copy:
        src: nifi-1.8.0-bin.tar.gz
        dest: /opt/nifi
    - name: Распаковать дистрибутив NiFi
      unarchive:
        src: /opt/nifi/nifi-1.8.0-bin.tar.gz
        dest: /opt/nifi
        copy: no
  roles:
    - role: nifi
      nifi_version: 1.8.0

Лицензия

MIT