目录
一、ELK 简介
1、ELK日志分析系统组成
2、Elasticsearch(es)
3、Logstash
3、Kibana
2、日志处理步骤
二、Elasticsearch介绍
1、Elasticsearch核心概念
接近实时(NRT)
cluster集群,ES是一个分布式的系统
Node节点,就是集群中的一台服务器
index索引
类型(type)
分片和副本(shards & replicas)
2、开启分片副本的主要原因
三、Logstash
1、Logstash的主要组件
四、Kibana介绍
1、Kibana概述
2、Kibana主要功能
五、ELK优点
六、ELK集群部署
1、环境准备
2、Elasticsearch 集群部署(Node1上操作)
2.1、安装Elasticsearch 软件
2.2、配置Elasticsearch主配置文件
2.3、创建数据存放路径并授权
2.4、查看node1节点信息
3、Elasticsearch 集群部署(在Node2上操作)
3.1、前面步骤与node1节点一致
3.2、在node1节点上把配置文件上传到node2节点
3.3、修改配置文件
3.4、创建数据存放路径并授权
3.5、查看node2节点信息
4、安装 Elasticsearch-head 插件
4.1、编译安装 node(node1)
4.2、安装 phantomjs(node1)
4.3、安装 Elasticsearch-head 数据可视化工具
4.4、修改 Elasticsearch 主配置文件
4.5、修改Gruntfile.js配置文件和app.js配置文件
4.6、启动 elasticsearch-head 服务
4.7、通过 Elasticsearch-head查看Elasticsearch 信息
4.8、插入索引,进行测试
5、Logstash 部署(在client 节点上操作:192.168.58.20)
5.1、安装Logstash
5.2、测试 Logstash
Logstash 命令常用选项
定义输入输出流
使用 rubydebug 输出详细格式显示,codec 为一种编解码器
使用 Logstash 将信息写入 Elasticsearch 中
6、定义logstash配置文件
7、浏览器验证,查看索引信息
8、Kibana部署(Node1节点)
8.1、安装 Kibana
8.2、设置kibana的主配置文件
8.3、启动kibana服务
8.4、验证Kibana
8.5、将 Apache 服务器的日志(访问的、错误的)添加到 Elasticsearch 并通过 Kibana 显示(192.168.58.20上操作)
七、总结
ELK是三个软件的统称,即Elasticsearch、Logstash和Kibana三个开源软件的缩写。这三款软件都是开源软件,通常配合使用,并且都先后归于Elastic.co企业名下,故被简称为ELK协议栈。ELK主要用于部署在企业架构中,收集多台设备上多个服务的日志信息,并将其统一整合后提供给用户。它可以从任何来源、任何格式进行日志搜索、分析与可视化展示。
在ELK架构中,Elasticsearch、Logstash和Kibana三款软件作用如下:
elasticsearch (es) :通过搭建群集;存储日志数据,索引日志数据
logstash :收集日志,收集到了后给es存储
kibana :视图形式展现日志信息,更加人性化
Elasticsearch是一个高度可扩展的全文搜索和分析引擎,基于Apache Lucence(事实上,Lucence也是百度所采用的搜索引擎)构建,能够对大容量的数据进行接近实时的存储、搜索和分析操作。
Logstash是一个数据收集引擎,它可以动态的从各种数据源搜集数据,并对数据进行过滤、分析和统一格式等操作,并将输出结果存储到指定位置上。Logstash支持普通的日志文件和自定义Json格式的日志解析。
Kibana是一个数据分析和可视化平台,通常与Elasticsearch配合使用,用于对其中的数据进行搜索、分析,并且以统计图标的形式展示。
elasticsearch是一个接近实时的搜索平台,这意味着,从索引一个文档直到这个文档能够被搜索到有一个轻微的延迟(通常是1秒)
一个索引就是一个拥有几分相似特征的文档的集合。比如说,你可以有一个客户数据的索引、一个产品目录的索引、还有一个订单数据的索引。一个索引用一个名字来标识(必须全部是小写字母组合),并且当我们要对相应的索引中的文档进行索引、收缩、更新和删除的时候,都要用到这个名字。在一个集群中,可以定义多个索引。(索引相对于关系型数据库的库)
类型相对于关系型数据库的表 ——》索引(库)-》类型(表)-》文档(记录)
类型(type)在一个索引中,你可以定义一种或多种类型。一个类型是你的索引的一个逻辑上的分类分区,其寓意完全由你来定义。通常,会为具有一组共同字段的文档定义一个类型。比如:我们假设运营一个博客平台并且将所有的数据存储到一个索引中,在这个索引中,你可以为用户数据定义一个类型,为博客数据定义一个类型,也可以为评论数据定义另一个类型。(类型相对于关系型数据库的表)
在实际情况下,索引存储的数据可能超过单个节点的硬件限制。如一个10亿文档需1TB空间可能不适合存储在单个节点的磁盘上或者从单个节点搜索请求太慢了。为了解决这个问题,elasticsearch提供将索引分成多个分片的功能。当在创建索引时,可以定义想要分片的数量。每一个分片就是一个全功能的独立的索引,可以位于集群中任何节点上。
Elasticsearch采用分片式,可以进行水平分割横向扩展,增大存储量;分布式并行跨分片操作,提高性能和吞吐量。
1.—款强大的数据处理工具
2.可实现数据传输、格式处理、格式化输出
3.数据输入(从业务输入)、数据加工(如过滤、改写等)以及数据输出(输出到Elasticsearch群集)
4.由LRuby语言编写,基于消息(message-based)的简单架构,并运行在Java虚拟机(JVM)上;
5.不同于分离的代理端(agent)或主机端(server),Logstash可配置单一的代理端(agent)与其他开源软件结合,以实现不同的功能。
Elasticsearch无缝之集成。Kibana架构为Elasticsearch定制,可以将任何结构化和非结构化数据加入Elasticsearch索引。Kibana还充分利用了Elasticsearch强大的搜索和分析功能。
整合数据:Kibana能够更好地处理海量数据,并据此创建柱形图、折线图、散点图、直方图、饼图和地图。
整合数据:Kibana能够更好地处理海量数据,并据此创建柱形图、折线图、散点图、直方图、饼图和地图。
让更多团队成员受益:强大的数据库可视化接口让各业务岗位都能够从数据集合受益。
接口灵活,分享更容易:使用Kibana可以更加方便地创建、保存、分享数据,并将可视化数据快速交流。
配置简单:Kibana的配置和启用非常简单,用户体验非常友好。Kibana自带Web服务器,可以快速启动运行。
可视化多数据源:Kibana可以非常方便地把来自Logstash、ES-Hadoop、Beats或第三方技术的数据整合到Elasticsearch,支持的第三方技术包括Apache Flume、Fluentd等。
简单数据导出:Kibana可以方便地导出感兴趣的数据,与其它数据集合并融合后快速建模分析,发现新结果。
服务器类型 | IP地址 | 安装的组件 | 硬件 |
Node1节点 | 192.168.58.30 | Elasticsearch 、 Kibana | 4核(c)4G |
Node2节点 | 192.168.58.19 | Elasticsearch | 4核(c)4G |
Client节点 | 192.168.58.20 | Logstash Apache(测试用) | 2核(c)2G |
在Node1、Node2节点上操作
#关闭防火墙
systemctl stop firewalld.service
setenforce 0
#更改主机名
Node1节点:hostnamectl set-hostname node1
Node2节点:hostnamectl set-hostname node2
#配置域名解析
echo "192.168.58.30" node1 >>/etc/hosts
echo "192.168.58.19" node2 >>/etc/hosts
#查看Java环境,如果没有安装,yum -y install java
java -version
上传elasticsearch-5.5.0.rpm到/opt目录下
cd /opt
rpm -ivh elasticsearch-5.5.0.rpm
加载系统服务
systemctl daemon-reload
systemctl enable elasticsearch.service
cd /etc/elasticsearch/
cp elasticsearch.yml elasticsearch.yml.bak
上传并安装ES服务
修改elasticsearch主配置文件
vim /etc/elasticsearch/elasticsearch.yml
--17--取消注释,指定集群名字
cluster.name: liy
--23--取消注释,指定节点名字:Node1节点为node1,Node2节点为node2
node.name: node1
--33--取消注释,指定数据存放路径
path.data: /data/elk_data
--37--取消注释,指定日志存放路径
path.logs: /var/log/elasticsearch/
--43--取消注释,改为在启动的时候不锁定内存
bootstrap.memory_lock: false
--55--取消注释,设置监听地址,0.0.0.0代表所有地址
network.host: 0.0.0.0
--59--取消注释,ES 服务的默认监听端口为9200
http.port: 9200
--68--取消注释,集群发现通过单播实现,指定要发现的节点 node1、node2
discovery.zen.ping.unicast.hosts: ["node1", "node2"]
#查看主配置文件
grep -v "^#" /etc/elasticsearch/elasticsearch.yml
#创建数据存放路径并授权
mkdir -p /data/elk_data
chown elasticsearch:elasticsearch /data/elk_data/
#启动elasticsearch是否成功开启
systemctl start elasticsearch.service
systemctl enable --now elasticsearch.service
netstat -antp | grep 9200
#查看节点信息
浏览器访问 ,查看节点 Node1 的信息
http://192.168.58.30:9200
green
http://192.168.58.30:9200/_cluster/health?pretty
####### 使用以上方式查看状态并不友好,可以通过 elasticsearch-head插件来直接管理 #####
scp /etc/elasticsearch/elasticsearch.yml [email protected]:/etc/elasticsearch/
vim /etc/elasticsearch/elasticsearch.yml
grep -v "^#" /etc/elasticsearch/elasticsearch.yml
mkdir -p /data/elk_data
chown elasticsearch:elasticsearch /data/elk_data/
systemctl daemon-reload
systemctl enable --now elasticsearch.service
systemctl start elasticsearch
netstat -antp | grep 9200
由于es服务启动之后,访问界面比较丑陋,为了更好的查看索引库当中的信息,我们可以通过安装elasticsearch-head这个插件来实现,这个插件可以更方便快捷的看到es的管理界面。
Elasticsearch 在 5.0 版本后,Elasticsearch-head 插件需要作为独立服务进行安装,需要使用npm工具(NodeJS的包管理工具)安装。
安装 Elasticsearch-head 需要提前安装好依赖软件 node 和 phantomjs。
node:是一个基于 Chrome V8 引擎的 JavaScript 运行环境。
phantomjs:是一个基于 webkit 的JavaScriptAPI,
可以理解为一个隐形的浏览器,任何基于 webkit 浏览器做的事情,它都可以做到。
上传软件包 node-v8.2.1.tar.gz 到/opt
yum install gcc gcc-c++ make -y
cd /opt
tar zxvf node-v8.2.1.tar.gz
cd node-v8.2.1/
./configure
make -j4 && make install #时间比较久,请耐心等待
#上传软件包 phantomjs-2.1.1-linux-x86_64.tar.bz2 到
cd /opt
tar jxvf phantomjs-2.1.1-linux-x86_64.tar.bz2 -C /usr/local/src/
cd /usr/local/src/phantomjs-2.1.1-linux-x86_64/bin
cp phantomjs /usr/local/bin
#安装 Elasticsearch-head 数据可视化工具
#上传软件包 elasticsearch-head.tar.gz 到/opt
cd /opt
tar zxvf elasticsearch-head.tar.gz -C /usr/local/src/
cd /usr/local/src/elasticsearch-head/
npm install
#修改 Elasticsearch 主配置文件
vim /etc/elasticsearch/elasticsearch.yml
......
--末尾添加以下内容--
http.cors.enabled: true #开启跨域访问支持,默认为 false
http.cors.allow-origin: "*" #指定跨域访问允许的域名地址为所有
#必须在解压后的 elasticsearch-head 目录下启动服务,进程会读取该目录下的 gruntfile.js 文件,否则可能启动失败。
cd /usr/local/src/elasticsearch-head/node_modules/grunt/bin
./grunt server
netstat -anput |grep 9100
浏览器访问 http://192.168.58.30:9100/ 地址并连接群集。如果看到群集健康值为 green 绿色,代表群集很健康。
)#通过 Elasticsearch-head 查看 Elasticsearch 信息通过浏览器访问 http://192.168.58.30:9100/ 地址并连接群集。如果看到群集健康值为 green 绿色,代表群集很健康。访问有问题 可以将localhost 改成ip地址
(7)#插入索引
##登录192.168.58.30 node1主机##### 索引为index-demo,类型为test,可以看到成功创建
curl -X PUT 'localhost:9200/index-demo/test/1?pretty&pretty' -H 'content-Type: application/json' -d '{"user":"hello","mesg":"haha oooo"}'
插入索引
浏览器访问 http://192.168.58.30:9100/ 查看索引信息,可以看见索引默认被分片5个,并且有一个副本。
点击“数据浏览”,会发现在node1上创建的索引为 index-demo,类型为 test 的相关信息。
Logstash 一般部署在需要监控其日志的服务器。在本案例中,Logstash 部署在 Apache 服务器上,用于收集 Apache 服务器的日志信息并发送到 Elasticsearch。
#修改主机名
hostnamectl set-hostname client
bash
#安装httpd并启动
yum -y install httpd
systemctl start httpd
#查看java环境
java -version
#安装logstash
cd /opt
rpm -ivh logstash-5.5.1.rpm
systemctl start logstash.service
systemctl enable logstash.service
#创建软连接
ln -s /usr/share/logstash/bin/logstash /usr/local/bin/
Logstash这个命令测试
-f:通过这个选项可以指定 Logstash 的配置文件,根据配置文件配置 Logstash 的输入和输出流。
-e:从命令行中获取,输入、输出后面跟着字符串,
该字符串可以被当作 Logstash 的配置(如果是空,则默认使用 stdin 作为输入,stdout 作为输出)。
-t:测试配置文件是否正确,然后退出。
logstash -f 配置文件名字 去连接elasticsearch
输入采用标准输入,输出采用标准输出(类似管道)
指定数据输入端口,默认为9600~9700
#输入采用标准输入 输出采用标准输出---登录192.168.58.20在client服务器上
logstash -e 'input { stdin{} } output { stdout{} }'
www.baidu.com #需要手动输入
2022-07-07T15:39:41.971Z client www.baidu.com
www.sina.com
2022-07-07T15:40:12.207Z client www.sina.com
#使用 rubydebug 输出详细格式显示,codec 为一种编解码器
logstash -e 'input { stdin{} } output { stdout{ codec=>rubydebug } }'
使用 Logstash 将信息写入 Elasticsearch 中
logstash -e 'input { stdin{} } output { elasticsearch { hosts=>["192.168.58.30:9200"] } }'
结果不在标准输出显示,而是发送至 Elasticsearch 中,可浏览器访问http://192.168.58.30:9100/ 查看索引信息和数据浏览。
Logstash 配置文件基本由三部分组成(根据需要选择使用)
修改 Logstash 配置文件,让其收集系统日志/var/log/messages,并将其输出到 elasticsearch 中
ll /var/log/messages
-rw-------. 1 root root 393019 7月 8 00:03 /var/log/messages
#给日志目录可读权限
chmod +r /var/log/messages #让 Logstash 可以读取日志
-rw-r--r--. 1 root root 394827 7月 8 00:03 /var/log/messages
配置logstash文件
#修改 Logstash 配置文件,让其收集系统日志/var/log/messages,并将其输出到 elasticsearch 中。
#文件必须以.conf格式结尾
cd /etc/logstash/
cd conf.d/
ls
vim syslog.conf
input {
file{
path =>"/var/log/messages" #指定要收集的日志的位置
type =>"system" #自定义日志类型标识
start_position =>"beginning" #表示从开始处收集
}
}
output {
elasticsearch { #输出到 elasticsearch
hosts => ["192.168.58.30:9200"] #指定 elasticsearch 服务器的地址和端口
index =>"system-%{+YYYY.MM.dd}" #指定输出到 elasticsearch 的索引格式
}
}
#重启服务
systemctl restart logstash
#打开浏览器 输入http://192.168.58.30:9100/ 查看
可以看到有很多的信息,但不好过滤信息,所以我们接下来安装kiabana
此服务只需在ES集群中的一台服务器上部署即可
#安装 Kiabana
#上传软件包 kibana-5.5.1-x86_64.rpm 到/opt目录
cd /opt/
rz
rpm -ivh kibana-5.5.1-x86_64.rpm
#设置 Kibana 的主配置文件
vim /etc/kibana/kibana.yml
--2--取消注释,Kiabana 服务的默认监听端口为5601
server.port: 5601
--7--取消注释,设置 Kiabana 的监听地址,0.0.0.0代表所有地址
server.host: "0.0.0.0"
--21--取消注释,设置和 Elasticsearch 建立连接的地址和端口
elasticsearch.url: "http://192.168.58.30:9200"
--30--取消注释,设置在 elasticsearch 中添加.kibana索引
kibana.index: ".kibana"
systemctl daemon-reload
systemctl start kibana.service
systemctl enable kibana.service
netstat -antp | grep 5601
浏览器访问http://192.168.58.30:5601
第一次登录需要添加一个 Elasticsearch 索引:
Index name or pattern
//输入:system-* #在索引名中输入之前配置的 Output 前缀“system”
单击 “create” 按钮创建,单击 “Discover” 按钮可查看图表信息及日志信息。
数据展示可以分类显示,在“Available Fields”中的“host”,
然后单击 “add”按钮,可以看到按照“host”筛选后的结果
[root@client ~]# vim /etc/logstash/conf.d/apache_log.conf
vim /etc/logstash/conf.d/apache_log.conf
input {
file{
path => "/etc/httpd/logs/access_log" #apache服务的访问日志路径
type => "access" #访问日志
start_position => "beginning" #从头开始
}
file{
path => "/etc/httpd/logs/error_log" #apache服务的错误日志路径
type => "error" #错误日志
start_position => "beginning" #开始位置从头开始
}
}
output {
if [type] == "access" { #判断类型为访问日志
elasticsearch { #指定与es建立连接的ip
hosts => ["192.168.58.30:9200"]
index => "apache_access-%{+YYYY.MM.dd}" #索引为apache的_access的日期
}
}
if [type] == "error" { # 判断类型为错误日志
elasticsearch {
hosts => ["192.168.58.30:9200"]
index => "apache_error-%{+YYYY.MM.dd}"
}
}
}
cd /etc/logstash/conf.d/
#加载配置文件
/usr/share/logstash/bin/logstash -f /etc/logstash/conf.d/apache_log.conf
#浏览器访问http://192.168.58.20/测试刷新日志文件,否则可能没有日志同步到ES
#浏览器访问http://192.168.58.30:5601
点击左下角有个management选项---index patterns---create index pattern
----分别创建apache_error-* 和 apache_access-* 的索引
访问(192.168.58.20)访问apache页面
浏览器访问 http://192.168.58.30:9100 查看索引是否创建
浏览器访问 http://192.168.58.30:5601
可以在宿主机上刷新访问,会刷新日志,可以在kibana查看时间
ELK是由Elasticsearch、Logstash、Kibana三个开源软件的组合,ELK平台是一套完整的日志集中处理解决方案,将 ElasticSearch、Logstash 和 Kiabana 三个开源工具配合使用, 完成更强大的用户对日志的查询、排序、统计需求。