ES中集群

15. ES中集群

15.1 相关概念

集群(cluster)

1.单节点压力问题 并发压力 物理资源上限压力

2.数据冗余备份能力

一个集群就是由一个或多个节点组织在一起，它们共同持有你整个的数据，并一起提供索引和搜索功能。一个集群 由一个唯一的名字标识，这个名字默认就是elasticsearch。这个名字是重要的，因为一个节点只能通过指定某个集群的名字，来加入这个集群。在产品环境中显式地设定这个名字是一个好习惯，但是使用默认值来进行测试/开发也是不错的。

节点(node)

一个节点是你集群中的一个服务器，作为集群的一部分，它存储你的数据，参与集群的索引和搜索功能。和集群类似，一个节点也是由一个名字来标识的，默认情况下，这个名字是一个随机的漫威漫画角色的名字，这个名字会在启动的时候赋予节点。这个名字对于管理工作来说挺重要的，因为在这个管理过程中，你会去确定网络中的哪些服务器对应于Elasticsearch集群中的哪些节点。

一个节点可以通过配置集群名称的方式来加入一个指定的集群。默认情况下，每个节点都会被安排加入到一个叫 做“elasticsearch”的集群中，这意味着，如果你在你的网络中启动了若干个节点，并假定它们能够相互发现彼此，它们将会自动地形成并加入到一个叫做“elasticsearch”的集群中。

在一个集群里，只要你想，可以拥有任意多个节点。而且，如果当前你的网络中没有运行任何Elasticsearch节点， 这时启动一个节点，会默认创建并加入一个叫做“elasticsearch”的集群。

分片和复制(shards & replicas)

一个索引可以存储超出单个结点硬件限制的大量数据。比如，一个具有10亿文档的索引占据1TB的磁盘空间，而任一节点都没有这样大的磁盘空间;或者单个节点处理搜索请求，响应太慢。为了解决这个问题，Elasticsearch提供了将索引划分成多份的能力，这些份就叫做分片。当你创建一个索引的时候，你可以指定你想要的分片的数量。每个分片本身也是一个功能完善并且独立的“索引”，这个“索引”可以被放置 到集群中的任何节点上。 分片之所以重要，主要有两方面的原因:

允许你水平分割/扩展你的内容容量允许你在分片(潜在地，位于多个节点上)之上进行分布式的、并行的操作，进而提高性能/吞吐量 至于一个分片怎样分布，它的文档怎样聚合回搜索请求，是完全由Elasticsearch管理的，对于作为用户的你来说，这些都是透明的。

在一个网络/云的环境里，失败随时都可能发生，在某个分片/节点不知怎么的就处于离线状态，或者由于任何原因 消失了。这种情况下，有一个故障转移机制是非常有用并且是强烈推荐的。为此目的，Elasticsearch允许你创建分 片的一份或多份拷贝，这些拷贝叫做复制分片，或者直接叫复制。复制之所以重要，主要有两方面的原因:

在分片/节点失败的情况下，提供了高可用性。因为这个原因，注意到复制分片从不与原/主要 (original/primary)分片置于同一节点上是非常重要的。 扩展你的搜索量/吞吐量，因为搜索可以在所有的复制上并行运行

总之，每个索引可以被分成多个分片。一个索引也可以被复制0次(意思是没有复制)或多次。一旦复制了，每个 索引就有了主分片(作为复制源的原来的分片)和复制分片(主分片的拷贝)之别。分片和复制的数量可以在索引创建的时候指定。在索引创建之后，你可以在任何时候动态地改变复制数量，但是不能改变分片的数量。

默认情况下，Elasticsearch中的每个索引被分片5个主分片和1个复制，这意味着，如果你的集群中至少有两个节点，你的索引将会有5个主分片和另外5个复制分片(1个完全拷贝)，这样的话每个索引总共就有10个分片。一个 索引的多个分片可以存放在集群中的一台主机上，也可以存放在多台主机上，这取决于你的集群机器数量。主分片和复制分片的具体位置是由ES内在的策略所决定的。

集群架构图

image-20200706130616482.png

15.2 快速搭建集群

1. 将原有ES安装包复制三份
    cp -r elasticsearch-6.2.4/ node1/
    cp -r elasticsearch-6.2.4/ node2/
    cp -r elasticsearch-6.2.4/ node3/
    
2. 删除复制目录中data目录 
    #注意:由于复制目录之前使用过因此需要在创建集群时将原来数据删除
    rm -rf node1/data
    rm -rf node2/data
    rm -rf node3/data
    
3. 编辑没有文件夹中config目录中jvm.options文件跳转启动内存(因为es很占jvm内存所以一个服务器启动三个es占用jvm要改小一点）
    vim node1/config/jvm.options  
    vim node2/config/jvm.options
    vim node3/config/jvm.options
    #分别加入: -Xms512m -Xmx512m(我的是 -Xms300m -Xmx300m)
    
4. 分别修改三个文件夹中config目录中elasticsearch.yml文件
    vim node1/config/elasticsearch.yml
    vim node2/config/elasticsearch.yml
    vim node3/config/elasticsearch.yml
    #分别修改如下配置:
        cluster.name: my-es                       #集群名称(集群名称必须一致)
        node.name: node-1                          #节点名称(节点名称不能一致)
        network.host: 0.0.0.0                     #监听地址(必须开启远程权限,并关闭防火墙)
        http.port: 9201                           #监听端口(在一台机器时服务端口不能一致,后续的端口依次+1)
        discovery.zen.ping.unicast.hosts: ["192.168.159.5:9302", "192.168.159.5:9303"] #另外两个节点的ip
        gateway.recover_after_nodes: 3            #集群可做master的最小节点数
        transport.tcp.port: 9301                                #集群TCP端口(在一台机器搭建必须修改)  9301 9302 9303
5.  启动多个es
    ./node1/bin/elasticsearch
    ./node2/bin/elasticsearch
    ./node3/bin/elasticsearch
    
6. 查看节点状态
      http://192.168.159.5:9201
      http://192.168.159.5:9202
      http://192.168.159.5:9203

7. 查看集群健康
    http://192.168.159.5:9201/_cat/health?v

image.png

image.png

修改vi kibana.yml连接es的端口

image.png

15.3 安装head插件

1. 访问github网站
    搜索: elasticsearch-head 插件
    
2. 安装git
    yum install git
    
3. 将elasticsearch-head下载到本地
    git clone git://github.com/mobz/elasticsearch-head.git

4. 安装nodejs
    #注意: 没有wget的请先安装yum install -y wget
    wget http://cdn.npm.taobao.org/dist/node/latest-v8.x/node-v8.1.2-linux-x64.tar.xz

(我们这里本地上传）

5. 解压缩nodejs
    xz -d node-v10.15.3-linux-arm64.tar.xz
    tar -xvf node-v10.15.3-linux-arm64.tar

6. 配置环境变量
    mv node-v10.15.3-linux-arm64 nodejs
    mv nodejs /usr/nodejs
    vim /etc/profile
        export NODE_HOME=/usr/nodejs
        export PATH=$PATH:$JAVA_HOME/bin:$NODE_HOME/bin
    source /etc/profile
7.  进入elasticsearch-head的目录
解压  unzip elasticsearch-head-master.zip
没有unzip命令的话要先：yum install -y unzip
设置淘宝镜像  npm config set registry https://registry.npm.taobao.org
    npm install
    npm run start

8.  control c停掉之前的三个es服务，然后编写elastsearch.yml配置文件开启head插件的访问(引文head和es不是同一个公司，访问涉及到跨域问题）
 vi node1/config/elasticsearch.yml
    http.cors.enabled: true
    http.cors.allow-origin: "*"

9.  启动访问head插件 默认端口9100
    http://ip:9100  查看集群状态

image.png

image.png

最后java中springboot要连接es集群

@Configuration
public class ElasticSearchRestClientConfig extends AbstractElasticsearchConfiguration {

    //这个client 用来替换 transportClient(9300)对象
    @Override
    @Bean
    public RestHighLevelClient elasticsearchClient() {
        //定义客户端配置对象 RestClient  9200
        ClientConfiguration clientConfiguration = ClientConfiguration.builder()
                .connectedTo("192.168.159.5:9201","192.168.159.5:9202","192.168.159.5:9202")
                .build();
       //通过RestClients对象创建
        return RestClients.create(clientConfiguration).rest();
    }
}