Elasticsearch最新版本7.6.0使用docker安装集群

今天使用docker安装elasticsearch最新版本7.6.0的集群环境.遇到了好多坑,最终完成搭建先整理安装步骤

1.先从docker hub下pull最新的es镜像

2.创建数据挂在目录,配置ElasticSearch集群配置文件，调高JVM线程数限制数量

下面以一台节点为例,其他的节点一样的步骤修改配置即可

调高JVM线程数限制数量

vim /etc/sysctl.conf

添加vm.max_map_count=262144

执行sysctl -p 使之生效

不然会报错

bootstrap checks failed max virtual memory areas vm.max_map_count [65530] likely too low, increase to at least [262144]

创建挂载目录

mkdir -p /home/es/config

mkdir -p /home/es/data

配置集群配置文件

进入config目录下 创建es.yml文件,具体内容如下(各字段含义后面会讲解)

cluster.name : elasticsearch-cluster
node.name : es-node0
network.bind_host : 0.0.0.0
network.publish_host : 192.168.3.82
http.port : 9200
transport.tcp.port : 9300
http.cors.enabled : true
http.cors.allow-origin : "*"
node.master : true
node.data : true
discovery.zen.ping.unicast.hosts : ["192.168.3.81:9300","192.168.3.82:9300","192.168.3.83:9300"]
discovery.zen.minimum_master_nodes : 1
cluster.initial_master_nodes : es-node0

这里要强调  cluster.initial_master_nodes : es-node0 一定要指定,不然最后集群配好了 会报找不到master的错误

配置好了以后需要授权

这里也很重要不然会一直报错 java.nio.file.AccessDeniedException

chmod 777 -R /home/es/

关于docker挂载

我在这里卡了很久,虽然上面已经给目录授权了,但是依然data目录挂载时会报java.nio.file.AccessDeniedException 无法挂载data目录 

后来试验了好多次才发现和docker挂载文件有关

具体原因是挂载宿主机已存在目录后，在容器内对其进行操作，报“Permission denied”。

方法1:关闭SELinux 这种临时关闭每次启动容器都需要设置,永久关闭又会存在安全漏洞虽然可以挂载成功,但是不推荐

setenforce 0

方法2:以特权方式启动容器 指定--privileged参数

例如: docker run -it --privileged=true -v /test:/soft centos /bin/bash

这里我最终选择第二种

3.启动容器

docker run --privileged=true -e ES_JAVA_OPTS="-Xms256m -Xmx256m" -d -p 9200:9200 -p 9300:9300 -v /home/es/config/es.yml:/usr/share/elasticsearch/config/elasticsearch.yml -v /home/es/data:/usr/share/elasticsearch/data --name es elasticsearch:7.6.0

4.验证

浏览器访问http://192.168.3.82:9200/_cat/nodes?pretty

如果出现这种情况,没有发现另外两个节点就检查cluster_uuid,如果有不一致的就删除挂载目录data下的内容即可

5.配置文件

1.查看容器内存

docker stats $(docker ps --format={{.Names}})

2.查看容器日志

docker logs 容器名/容器ID

3.ElasticSearch配置文件说明

cluster.name：用于唯一标识一个集群，不同的集群，其 cluster.name 不同，集群名字相同的所有节点自动组成一个集群。如果不配置改属性，默认值是：elasticsearch。

node.name：节点名，默认随机指定一个name列表中名字。集群中node名字不能重复

index.number_of_shards: 默认的配置是把索引分为5个分片

index.number_of_replicas:设置每个index的默认的冗余备份的分片数，默认是1

通过 index.number_of_shards，index.number_of_replicas默认设置索引将分为5个分片，每个分片1个副本，共10个结点。
禁用索引的分布式特性，使索引只创建在本地主机上：
index.number_of_shards: 1
index.number_of_replicas: 0
但随着版本的升级 将不在配置文件中配置而是启动ES后，再进行配置

bootstrap.memory_lock: true 当JVM做分页切换（swapping）时，ElasticSearch执行的效率会降低，推荐把ES_MIN_MEM和ES_MAX_MEM两个环境变量设置成同一个值，并且保证机器有足够的物理内存分配给ES，同时允许ElasticSearch进程锁住内存

network.bind_host: 设置可以访问的ip,可以是ipv4或ipv6的，默认为0.0.0.0，这里全部设置通过

network.publish_host:设置其它结点和该结点交互的ip地址，如果不设置它会自动判断，值必须是个真实的ip地址

同时设置bind_host和publish_host两个参数可以替换成network.host
network.bind_host: 192.168.9.219
network.publish_host: 192.168.9.219
=>network.host: 192.168.9.219

http.port:设置对外服务的http端口，默认为9200

transport.tcp.port: 设置节点之间交互的tcp端口，默认是9300

http.cors.enabled: 是否允许跨域REST请求

http.cors.allow-origin: 允许 REST 请求来自何处

node.master: true 配置该结点有资格被选举为主结点（候选主结点），用于处理请求和管理集群。如果结点没有资格成为主结点，那么该结点永远不可能成为主结点；如果结点有资格成为主结点，只有在被其他候选主结点认可和被选举为主结点之后，才真正成为主结点。

node.data: true 配置该结点是数据结点，用于保存数据，执行数据相关的操作（CRUD，Aggregation）；

discovery.zen.minimum_master_nodes: //自动发现master节点的最小数，如果这个集群中配置进来的master节点少于这个数目，es的日志会一直报master节点数目不足。（默认为1）为了避免脑裂，个数请遵从该公式 => (totalnumber of master-eligible nodes / 2 + 1)。 * 脑裂是指在主备切换时，由于切换不彻底或其他原因，导致客户端和Slave误以为出现两个active master，最终使得整个集群处于混乱状态*

discovery.zen.ping.unicast.hosts： 集群个节点IP地址，也可以使用es-node等名称，需要各节点能够解析