使用thanos管理Prometheus持久化数据

关于thanos的介绍可以参考这篇官方博客的翻译文档,本文不作部署操作介绍。下图是thanos的官方架构图,主要有5个组件:

  • Query:可以近似看作是Prometheus的实现,用于采集其他组件的数据,如sidecar和store gateway。Query的UI与Prometheus基本相同。
  • Store  Gateway:用于获取来自对象存储的历史数据,它使得Query可以获取历史数据,并通过Grafana展示。
  • Compact:用于历史数据的压缩和降准采样,提高在Grafana上执行Zoom-in/Zoom-out时的效率。
  • Ruler:配置告警相关的内容,Ruler的UI与Alertmanager原生的UI基本相同。
  • Sidecar:与Prometheus部署,一来为Query提供未持久化到对象存储的数据;二来将超期的数据持久化到对象存储。

使用thanos管理Prometheus持久化数据_第1张图片

通常thanos管理多集群时,除Sidecar组件需要在每个集群内部署,其余组件仅部署一份,用于处理多个集群的数据。需要注意的是,thanos的StoreAPI采用的是gRPC协议,只能走四层通信,像在openshift 3.11版本下无法通过router(ingress)暴露给集群外部的Query等组件。规避办法为采用nodePort方式暴露,但通常nodePort并不是一个很好的方式,因为它占用了主机的端口。

从使用上看,thanos使用上最主要的作用就是实现了数据的持久化以及历史数据的提取,其实现的StoreAPI也可以作为可移植的功能。

TIPS:

  •  目前thanos还不能支持阿里OSS,但很快会支持,代码合入进展可以参考该PR,如果有需要,可以从dockerhub上下载我自己打包的镜像。oss配置文件如下:
type: ALIYUNOSS
config:
  endpoint: ""
  bucket: ""
  access_key_id: ""
  access_key_secret: ""
  • 可以在源码中使用make build编译源码
  • 可以使用下述校验对象存储状态,如thanos bucket ls --objstore.config-file=/etc/thanos/oss.yml 列出所有的bucket信息
  bucket verify []
    Verify all blocks in the bucket against specified issues

  bucket ls []
    List all blocks in the bucket

  bucket inspect []
    Inspect all blocks in the bucket in detailed, table-like way
  • Query,Ruler,Store_Gateway和Compact的docker-compose启动方式可以参考如下yaml文件
version: '3.1'

volumes:
    grafana_data: {}
    minio_data: {}
    store_data: {}
    compactor_data: {}

services:
  thanos-querier:
    image: ${thanos-image}
    extra_hosts:
- "{$bucket_name}.${oss_backend}:${oss_backend_ip}}" #ali-yun需要添加这一行解析
- "${oss_backend}:${oss_backend_ip}}" command: - 'query' - '--grpc-address=0.0.0.0:10901' # Query storeAPI - '--http-address=0.0.0.0:10902' # Query UI - '--query.replica-label=replica' - '--store=${prometheus_sidecar_lb}:${prometheus_sidecar_lb_port}' - '--store=thanos-store-gateway:10901' privileged: true ports: - 10902:10902 restart: always thanos-store-gateway: image: ${thanos-image} extra_hosts:
- "{$bucket_name}.${oss_backend}:${oss_backend_ip}}"
- "${oss_backend}:${oss_backend_ip}}" volumes: - ./thanos/:/etc/thanos/ - store_data:/data command: - 'store' - '--grpc-address=0.0.0.0:10901' - '--http-address=0.0.0.0:10902' - '--data-dir=/data' - '--objstore.config-file=/etc/thanos/bucket_config.yaml' # Object store config file privileged: true restart: always thanos-compactor: image: ${thanos-image} extra_hosts:
- "{$bucket_name}.${oss_backend}:${oss_backend_ip}}"
- "${oss_backend}:${oss_backend_ip}}" volumes: - ./thanos/:/etc/thanos/ - compactor_data:/data command: - 'compact' - '--log.level=debug' - '--data-dir=/data' - '--objstore.config-file=/etc/thanos/bucket_config.yaml' - '--http-address=0.0.0.0:10902' - '--wait' privileged: true restart: always grafana: image: ${grafana-image} user: "104" ports: - 3000:3000 volumes: - grafana_data:/var/lib/grafana restart: always thanos-ruler: image: ${thanos-image} volumes: - ./thanos/:/etc/thanos/ command: - 'rule' - '--grpc-address=0.0.0.0:10901' # Ruler Store API - '--http-address=0.0.0.0:10902' # Ruler UI - '--log.level=debug' - '--data-dir=/data' - '--eval-interval=15s' - '--query=thanos-querier:10902' - '--alertmanagers.url=http://alertmanager:9093' - '--rule-file=/etc/thanos/*.rules.yaml' - '--objstore.config-file=/etc/thanos/bucket_config.yaml' - "--label=monitor_cluster=\"poc-ocp01\"" - "--label=replica=\"r1\"" ports: - 10903:10902 privileged: true depends_on: - thanos-querier restart: always alertmanager: image: ${alertmanager-image} ports: - 10904:9093 volumes: - ./thanos/:/etc/alertmanager/ restart: always privileged: true command: - '--data.retention=120h' - '--web.listen-address=0.0.0.0:9093' - '--config.file=/etc/alertmanager/alertmanager.yaml' - '--storage.path=/alertmanager'

 

你可能感兴趣的:(使用thanos管理Prometheus持久化数据)