ClickHouse监控系统Prometheus+Grafana

目录

  • 1 Prometheus+Grafana概述
  • 2 安装Prometheus + Grafana
  • 3 配置ClickHouse
  • 4 配置Grafana


1 Prometheus+Grafana概述

ClickHouse监控系统Prometheus+Grafana_第1张图片

ClickHouse 运行时会将一些个自身的运行状态记录到众多系统表中( system.*)。所以我们对于 CH 自身的一些运行指标的监控数据,也主要来自这些系统表。
但是直接查询这些系统表会有一些不足之处:

  • 这种方式太过底层,不够直观,我们还需要在此之上实现可视化展示;
  • 系统表只记录了 CH 自己的运行指标,有些时候我们需要外部系统的指标进行关联分析,例如 ZooKeeper、服务器 CPU、IO 等等。

现在 Prometheus + Grafana 的组合比较流行,安装简单易上手,可以集成很多框架,包括服务器的负载, 其中 Prometheus 负责收集各类系统的运行指标; Grafana 负责可视化的部分。
ClickHouse 从 v20.1.2.4 开始,内置了对接 Prometheus 的功能,配置的方式也很简单,可以将其作为 Prometheus 的 Endpoint 服务,从而自动的将 metrics 、 events 和asynchronous_metrics 三张系统的表的数据发送给 Prometheus。

2 安装Prometheus + Grafana

下载地址
Prometheus 下载地址:https://prometheus.io/download/
Grafana 下载地址:https://grafana.com/grafana/download

安装Prometheus
Prometheus 是基于 Golang 语言编写,编译后的软件包,不依赖于任何的第三方依赖。只需要 下载对应平台的二进制包,解压并且添加基本的配置即可正常启动 Prometheus Server。

将已下载好的prometheus-2.30.3.linux-amd64.tar.gz上传到/opt/software/,然后解压更名:

# 解压
tar -zxvf prometheus-2.30.3.linux-amd64.tar.gz

# 改名
mv prometheus-2.30.3.linux-amd64 prometheus

修改配置文件:

# 切换路径
cd prometheus
# 编辑配置文件
vim prometheus.yml

# 控制 Prometheus 服务器的全局配置
global:
  scrape_interval: 15s # 将抓取间隔设置为每 15 秒一次。 默认为每 1 分钟一次。
  evaluation_interval: 15s # 每 15 秒评估一次规则。 默认为每 1 分钟一次
  # scrape_timeout 设置为全局默认值(10 秒)。

# 警报配置
alerting:
  alertmanagers:
    - static_configs:
        - targets:
          # - alertmanager:9093

# 规则配置文件
# 加载规则并根据全局 "evaluation_interval" 定期评估
rule_files:
  # - "first_rules.yml"
  # - "second_rules.yml"

# 配置采集目标相关, prometheus 监视的目标。
# Prometheus 自身的运行信息可以通过 HTTP 访问,所以 Prometheus 可以监控自己的运行数据。
scrape_configs:
  # 监控作业的名称 
  - job_name: 'prometheus'

    # metrics_path defaults to '/metrics'
    # 表示静态目标配置,就是固定从某个 target 拉取数据
    # 默认方案为 HTTP
    static_configs:
      - targets: ['localhost:9090']

  # 添加如下 clickhouse 监控
  - job_name: 'clickhouse-1'
    static_configs:
    - targets: ['node2:9363'] 
# 默认端口号为 9396,要跟 clickhouse 的配置相同

因为是yml文件,所以缩进特别严格,每个缩进代表不同层级,需要注意。

启动:

# 前台启动
./prometheus --config.file=prometheus.yml

# 后台启动
nohup ./prometheus --config.file=prometheus.yml > ./prometheus.log 2>&1 &

访问 webUI 页面:

http://node2:9090

安装Grafana
Grafana是一款用Go语言开发的开源数据可视化工具,可以做数据监控和数据统计,带有告警功能。目前使用grafana的公司有很多,如paypal、ebay、intel等。

将grafana-enterprise-8.2.1.linux-amd64.tar.gz上传到/opt/software/,然后解压、更名:

tar zxvf grafana-enterprise-8.2.1.linux-amd64.tar.gz

启动 Grafana:

# 转到 grafana 文件夹
cd grafana-8.2.1/

# 前台启动
bin/grafana-server web

# 后台启动
 nohup ./bin/grafana-server web > ./grafana.log 2>&1 &

打开 web UI:

http://node2:3000

账号名与密码默认 admin

3 配置ClickHouse

修改配置文件

vim /etc/clickhouse-server/config.xml

将下面内容的注释打开

<prometheus>
   <endpoint>/metricsendpoint>
   <port>9363port>

   <metrics>truemetrics>
   <events>trueevents>
   <asynchronous_metrics>trueasynchronous_metrics>
   <status_info>truestatus_info>
 prometheus>

如果有多个节点,需要在每个节点都进行配置。
因为改了配置文件,配置完成之后需要重启 clickhouse生效。

网页访问hadoop1:9363/metrics,能看到相关信息就说明好了。当然显示的数据不方便看,这也是使用Prometheus+Grafana的意义所在。

4 配置Grafana

添加Prometheus数据源
点击左侧齿轮logo,选择Data sources,点击Add data source

ClickHouse监控系统Prometheus+Grafana_第2张图片

img

之后在搜索框中搜索Prometheus,然后点击select

ClickHouse监控系统Prometheus+Grafana_第3张图片

然后参考下图进行配置修改:

ClickHouse监控系统Prometheus+Grafana_第4张图片

提示Data source is working则说明正常。

接下来创建可视化页面,可以自己创建 Dashboard 添加需要监控的指标:
左侧点击加号,选择Dashboard

ClickHouse监控系统Prometheus+Grafana_第5张图片

添加一个新的仪表板:

ClickHouse监控系统Prometheus+Grafana_第6张图片

添加监控指标:

ClickHouse监控系统Prometheus+Grafana_第7张图片

但手动添加指标太慢,需要很久才能将所需的指标都添加完成,并且需要一定的经验,否则会遗漏一些重要指标,这里推荐使用clickhouse监控模板,可以到 https://grafana.com/dashboards 网站,找到大量可直接使用的 Dashboard 模板。

Grafana 中所有的 Dashboard 通过 JSON 进行共享,下载并且导入这些 JSON 文件,就可 以直接使用这些已经定义好的 Dashboard。

ClickHouse监控系统Prometheus+Grafana_第8张图片

下载模板:
注意不一定下载量越多越好,还要注意一下更新日期

img

ClickHouse监控系统Prometheus+Grafana_第9张图片

导入模板:

ClickHouse监控系统Prometheus+Grafana_第10张图片

ClickHouse监控系统Prometheus+Grafana_第11张图片

设置数据源:

ClickHouse监控系统Prometheus+Grafana_第12张图片

可以看到模板中的监控指标:

ClickHouse监控系统Prometheus+Grafana_第13张图片

你可能感兴趣的:(clickhouse,clickhouse,prometheus,grafana)