Prometheus原理及详解
目录
一、Prometheus简介
1）特性
2）核心组件
3）Zabbix和Prometheus区别
二、运维监控平台设计思路
三、Prometheus监控体系
1）系统层监控（需要监控的数据）
2）中间件及基础设施类监控
2.1） redis监控内容
3）应用层监控
4）业务层监控
四、prometheus时间序列数据
1、什么是序列数据
2、时间序列数据特点
3、数据来源
4、收集数据
5、prometheus获取方式
五、Prometheus的生态组件
1）Prometheus server
2）pushgateway
3）exporters
4）Service Discovery
5）Alertmanager
6）client Library
7）grafana
总结
1、prometheus如何收集k8s/服务的–三种方式收集
2 、如何防止告警信息轰炸
3、prometheus监控什么
一、Prometheus简介
Prometheus 最开始是由 SoundCloud 开发的开源监控告警系统，是 Google BorgMon 监控系统的开源版本。在 2016 年，Prometheus 加入 CNCF，成为继 Kubernetes 之后第二个被 CNCF 托管的项目。随着 Kubernetes 在容器编排领头羊地位的确立，Prometheus 也成为 Kubernetes 容器监控的标配。本文接下来将会对 Prometheus 做一个介绍。
- 每个被监控的主机都可以通过专用的exporter 程序提供输出监控数据的接口，它会在目标初手机监控数据，并暴露出一个HTTP接口供prometheus server查询，promethues通过基于HTTP的pull的方式来周期性的采集数据。
- 任何被监控的目标都需要事先纳入到监控系统中才能运行时序性数据采集。存储，告警和展示，监控目标可以通过配置信息以静态形式指定，也可以让promethues通过服务发现的机制进行动态管理。
- Prometheus能够直接把API server作为服务发现系统使用，进而动态发现和监控集群中的所以可被监控的对象。
Prometheus 官网地址：https://prometheus.io
Prometheus github 地址：https://github.com/prometheus1）特性
通过指标名称和标签(key/value对）区分的多维度、时间序列数据模型
灵活的查询语法 PromQL
不需要依赖额外的存储，一个服务节点就可以工作
利用http协议，通过pull模式来收集时间序列数据
需要push模式的应用可以通过中间件gateway来实现
监控目标支持服务发现和静态配置
支持各种各样的图表和监控面板组件
2）核心组件
整个Prometheus生态包含多个组件，除了Prometheus server组件其余都是可选的
- Prometheus Server：主要的核心组件，用来收集和存储时间序列数据。
- Client Library:：客户端库，为需要监控的服务生成相应的 metrics 并暴露给 Prometheus server。当 Prometheus server 来 pull 时，直接返回实时状态的 metrics。
- push gateway：主要用于短期的 jobs。由于这类 jobs 存在时间较短，可能在 Prometheus 来 pull 之前就消失了。为此，这次 jobs 可以直接向 Prometheus server 端推送它们的 metrics。这种方式主要用于服务层面的 metrics，对于机器层面的 metrices，需要使用 node exporter。
- Exporters: 用于暴露已有的第三方服务的 metrics 给 Prometheus。
- Alertmanager: 从 Prometheus server 端接收到 alerts 后，会进行去除重复数据，分组，并路由到对收的接受方式，发出报警。常见的接收方式有：电子邮件，pagerduty，OpsGenie, webhook 等各种支持工具。
3）Zabbix和Prometheus区别
和Zabbix类似，Prometheus也是一个近年比较火的开源监控框架，和Zabbix不同之处在于Prometheus相对更灵活点，模块间比较解耦，比如告警模块、代理模块等等都可以选择性配置。服务端和客户端都是开箱即用，不需要进行安装。zabbix则是一套安装把所有东西都弄好，很庞大也很繁杂。
zabbix的客户端agent可以比较方便的通过脚本来读取机器内数据库、日志等文件来做上报。而Prometheus的上报客户端则分为不同语言的SDK和不同用途的exporter两种，比如如果你要监控机器状态、mysql性能等，有大量已经成熟的exporter来直接开箱使用，通过http通信来对服务端提供信息上报（server去pull信息）；而如果你想要监控自己的业务状态，那么针对各种语言都有官方或其他人写好的sdk供你使用，都比较方便，不需要先把数据存入数据库或日志再供zabbix-agent采集。
zabbix的客户端更多是只做上报的事情，push模式。而Prometheus则是客户端本地也会存储监控数据，服务端定时来拉取想要的数据。
界面来说zabbix比较陈旧，而prometheus比较新且非常简洁，简洁到只能算一个测试和配置平台。要想获得良好的监控体验，搭配Grafana还是二者的必走之路
二、运维监控平台设计思路
1.数据收集模块
2.数据提取模块(prometheus-TSDB,查询语言是promQL)
3.监控告警模块（布尔值表达式判断是否需要告警，不成立是健康状态）
可细分为六层
第六层:用户展示管理层 同一用户管理、集中监控、集中维护
第五层:告警事件生成层 实时记录告警事件、形成分析图表（趋势分析、可视化)
第四层:告警规则配置层 告警规则设置、告警伐值设置（定义布尔值表达式，筛选异常状态）
第三层:数据提取层 定时采集数据到监控模块
第二层:数据展示层 数据生成曲线图展示（对时序数据的动态展示)
第一层:数据收集层 多渠道监控数据（网络，硬件，应用，数据，物理环境）三、Prometheus监控体系
1）系统层监控（需要监控的数据）
CPU、load、memory、swap、disk、i/o、process等
网络监控：网络设备，工作负载，网络延迟，丢包率等
2）中间件及基础设施类监控
消息中间件：kafka、RockerMQ，等消息代理（redis中间件）
WEB服务器：tomcat、weblogic、apache、php、sring系列
数据库/缓存数据库：mysql、postgresql、mongoDB、es、redis
2.1） redis监控内容
① redis的服务状态
② redis所在服务器的系统层监控
③ RDB和AOF日志监控
3）应用层监控
用于衡量应用程序代码状态和性能
监控的分类：
白盒监控：自省指标，等待被下载（cadvisor）
黑盒监控：基于探针（snmp）的监控方式，不会主动干预、影响数据
4）业务层监控
用于衡量应用程序的价值。如电商业务的销售量，ops、dau日活、转化等
业务接口：登入数量，注册数、订单量、搜索量和支付量
四、prometheus时间序列数据
1、什么是序列数据
时间序列数据（TimeSeries Data）:按照时间顺序记录系统、设备状态变化的数据被称为时序数据。
应用场景很多，如：
① 无人驾驶车辆运行中要记录的经度，纬度，速度，方向，旁边物体的距离等等。每时每刻都要将数据记录下来做分析。
② 某一个地区的各车辆的行驶轨迹数据
③ 传统证券行业实时交易数据
④ 实时运维监控数据等
2、时间序列数据特点
① 性能好：关系型数据库对于大规模数据的处理性能糟糕。NOSQL 可以比较好的处理大规模数据，依然比不上时间序列数据库。
② 存储成本低：高效的压缩算法，节省存储空间，有效降低 IO。Prometheus 有着非常高效的时间序列数据存储方法，每个采样数据仅仅占用 3.5byte 左右空间，上百万条时间序列，30 秒间隔，保留 60 天，大概花了 200 多 G（来自官方数据）
3、数据来源
Prometheus基于HTTP call (http/https请求)，从配置文件中指定的网络端点（endpoint/IP:端口）上周期性获取指标数据。很多环境、被监控对象，本身是没有直接响应/处理http请求的功能，prometheus-exporter则可以在被监控端收集所需的数据，收集过来之后，还会做标准化，把这些数据转化为prometheus可识别，可使用的数据（兼容格式）。
4、收集数据
监控概念：白盒监控、黑盒监控
白盒监控：自省方式，被监控端内部，可以生成指标，只要等待监控系统来采集时提供出去即可。
黑盒监控：对于被监控系统没有侵入性，对其没有直接‘影响"，这种类似于基于探针机制进行监控（snmp协议）
prometheus支持通过三种类型的途径从目标上抓取/采集（scrape）指标数据（基于白盒监控）
① exporters--->工作在被监控端，周期性的抓取数据并 转换为 prometheus来收集，自己并不推送
② Instrumentation--->指被监控对象内部自身有数据收集、监控的功能，只需要prometheus直接去获取
③ Pushgateway--->短周期5s-10s的数据收集
5、prometheus获取方式
Prometheus 同其他TSDB相比有一个非常典型的特性：主动从各Target上拉取（pull）数据，非等待被监控端的推送（push）
两个获取方式各有优劣，其中，Pull模型的优势在于：
① 集中控制:有利于将配置集在Prometheus server上完成，包括指标及采取速率等;
② Prometheus的根本目标在于收集在target上预先完成聚合的聚合型数据，而非一款由事件驱动的存储系统通过targets(标识的是具体的被监控端)
③ 比如配置文件中的targets : [ ‘localhost:9090’]
五、Prometheus的生态组件
Prometheus 负责时序型指标数据的采集及存储，但数据的分析、聚合及直观展示以及告警等功能并非由Prometheus Server所负责。
1）Prometheus server
Prometheus server：服务核心组件，采用pull方式收集监控数据，通过http协议传输。并存储时间序列数据。Prometheus server 由三个部分组成：Retrival，Storage，PromQL
Retrieval：负责在活跃的target 主机上抓取监控指标数据。
Storage：存储，主要是把采集到的数据存储到磁盘中。默认为15天（可修改）。
PromQL：是Prometheus提供的查询语言模块。
2）pushgateway
Pushgateway：类似一个中转站，Prometheus的server端只会使用pull方式拉取数据，但是某些节点因为某些原因只能使用push方式推送数据，那么它就是用来接收push而来的数据并暴露给Prometheus的server拉取的中转站。可以理解成目标主机可以上报短期任务的数据到Pushgateway，然后Prometheus server 统一从Pushgateway拉取数据。
3）exporters
Exporters：指标暴露器，负责收集不支持内建Instrumentation 的应用程序或服务的性能指标数据，并通过HTTP接口供Prometheus Server获取。换句话说，Exporter 负责从目标应用程序上采集和聚合原始格式的数据，并转换或聚合为Prometheus格式的指标向外暴露。
常用的Exporters：
① Node-Exporter：用于收集服务器节点（例如k8s）的物理指标状态数据，如平均负载、CPU、内存、磁盘、网络等资源信息的指标数据，需要部署到所有运算节点。指标详细介绍：https://github.com/prometheus/node_exporter
② mysqld-exporter/nginx-exporter
③ Kube-state-Metrics：为prometheus 采集k8s资源数据的exporter，通过监听APIServer 收集kubernetes集群内资源对象的状态指标数据，例如pod、deployment、service 等等。同时它也提供自己的数据，主要是资源采集个数和采集发生的异常次数统计。
① 需要注意的是kube-state-metrics 只是简单的提供一个metrics 数据，并不会存储这些指标数据，
② 所以可以使用prometheus来抓取这些数据然后存储，主要关注的是业务相关的一些元数据，
③ 比如Deployment、Pod、副本状态等；调度了多少个replicas？现在可用的有几个？
④ 多少个Pod是running/stopped/terminated 状态？Pod 重启了多少次？有多少job在运行中。
- cAdvisor：用来监控容器内部使用资源的信息，比如CPU、内存、网络I/0、磁盘I/0。
- blackbox-exporter：监控业务容器存活性。
4）Service Discovery
Service Discovery：服务发现，用于动态发现待监控的Target，Prometheus支持多种服务发现机制：文件、DNS、Consul、Kubernetes等等。
服务发现可通过第三方提供的接口，Prometheus查询到需要监控的Target列表，然后轮询这些Target 获取监控数据。该组件目前由Prometheus Server内建支持
5）Alertmanager
Alertmanager：是一个独立的告警模块，从Prometheus server端接收到“告警通知”后，会进行去重、分组，并路由到相应的接收方，发出报警，常见的接收方式有：电子邮件、钉钉、企业微信等。
① Prometheus Server 仅负责生成告警指示，具体的告警行为由另一个独立的应用程序AlertManager负责；
② 告警指示由 Prometheus Server基于用户提供的告警规则周期性计算生成，Alertmanager 接收到Prometheus Server发来的告警指示后，基于用户定义的告警路由向告警接收人发送告警信息。
6）client Library
client Library：客户端库，目的在于为那些期望原生提供 Instrumentation 功能的应用程序提供便捷的开发途径，用于基于应用程序内建的测量系统。
7）grafana
Grafana：是一个跨平台的开源的度量分析和可视化工具，可以将采集的数据可视化的展示，并及时通知给告警接收方。其官方库中具有丰富的仪表盘插件。
Prometheus 数据流向
① Prometheus server 定期从配置好的 jobs 或者 exporters 中拉取 metrics，或者接收来自 Pushgateway 发送过来的metrics，或者从其它的Prometheus server中拉取 metrics。
② Prometheus server在本地存储收集到的 metrics，并运行定义好的 alerts.rules，记录新 的时间序列或者向Alert manager推送警报。
③ Alertmanager 根据配置文件，对接收到的警报进行处理，发出告警。
④ 在图形界面中，可视化采集数据。
总结
1、prometheus如何收集k8s/服务的–三种方式收集
Exporters（指标暴露器）：收集节点的信息、将数据格式化或转化为 promtheus 可识别的http这种转化方式/镜像拉取方式
Instrumentation （应用内置的指标暴露器）： 收集有内置指标暴露器的信息
Pushgateway ： 收集短周期的数据
2 、如何防止告警信息轰炸
alertmanagr: prometheus可以生成告警信息，但是不能直接提供告警，需要使用一个外置的组件alertmanager来进行告警，emailetctif优势在于，收敛、支持静默、去重、可以防止告警信息的轰炸
把这条告警规则中的支持静默开启，让它必须，配置文件里直接改alertmanager改一个单词
3、prometheus监控什么
| 级别 | 监控什么 | exporter |
| 网络 | 网络协议：http、dns、tcp、icmp; 网路硬件：路由器、交换机等 |
BlockBox Exporter;SNMP Exporter |
| 主机 | 资源用量 | node exporter |
| 容器 | 资源用量 | cadvisor |
| 应用（包括Library） | 延迟、错误，QPS,内部状态 | 代码集中集成Prometheus Client |
| 中间件状态 | 资源用量，以及服务状态 | 代码集中集成Prometheus Client |
| 编排工具 | 集群资源用量，调度等 | Kubernetes Components |