ElasticSearch（十一）------ElasticSearch6.3.2 集群做节点冷(warm) 热(hot) 分离

拿一个小规模的5节点ES集群做冷热分离尝试，它上面已经有60多个索引，有些索引按月、每月生成一个索引，随着数据的不断写入，历史数据(只需保留三个月数据，三个月之前的数据视为历史数据)越来越占磁盘空间和内存资源，影响搜索响应时间。因此想把集群中节点分成2种类型，一种是hot节点，配置大内存和SSD，用来扛平常的用户请求；一种是warm节点，机械硬盘小内存，用来存储历史不常用的数据，和偶尔的后台任务查询。

把现有的5台节点全做hot节点，另外新增2台节点做warm节点。参考官方bloghot-warm-architecture-in-elasticsearch-5-x架构实现。需要注意的地方主要是：不要让已有的索引分片被ES自动Rebalance到warm节点上去了，并且新创建的索引，只应该分配在hot节点上。下面来看具体的实现步骤：

第一步：禁用 rebalance
主要是为了防止集群中已有的索引 rebalance 到 新添加的2台warm节点上去，我们只想手动把那些历史索引 迁移到warm节点上。

PUT _cluster/settings
{
  "transient": {
    "cluster.routing.allocation.cluster_concurrent_rebalance":0
  }
}

第二步：给节点加标识：node.attr.box_type

关于 node.attr.box_type 属性介绍，可参考：enabling-awareness

修改hot节点的elasticsearch.yml配置文件，添加一行：

node.attr.box_type: hot

修改warm节点的elasticsearch.yml配置文件，添加一行：

node.attr.box_type: warm

第三步：定义通用的索引模板保证新创建索引的分片不会分配到warm节点上
当每月生成一个索引时，新建的索引，肯定是热索引，热索引的分片需要分配到hot节点上，不能分配到warm节点上。比如，loginmac-201908是新建的索引，其分配应该在hot节点上，假设只保留三个月的数据，那么 loginmac-201905就属于历史数据了，需要迁移到warm节点上去。

PUT /_template/hot_template
{
  "template": "*",
  "order": 0,
  "version": 0,
  "settings": {
    "index": {
      "routing": {
        "allocation": {
          "require": {
            "box_type": "hot"
          },
          "exclude":{
            "box_type": "warm"
          }
        }
      },
      "number_of_shards": 3,
      "number_of_replicas": 1,
      "refresh_interval": "50s"
    },
    "index.unassigned.node_left.delayed_timeout": "3d"
  }
}

关于index.routing.allocation.require和index.routing.allocation.exclude可参考：shard-allocation-filtering

第四步 把系统上已有索引的配置全部修改成hot配置

PUT _all/_settings
{
  "index": {
    "routing": {
      "allocation": {
        "require": {
          "box_type": "hot"
        }
      }
    }
  }
}

这是为了，保证当warm节点加入集群时，不要让热索引迁移到到warm节点上。

第五步 重启所有的修改了elasticsearch.yml 配置为 hot 的节点。等待所有的索引初始化完毕

第六步 启动将 elasticsearch.yml 配置为 warm 的节点，并把历史索引数据配置信息修改成 warm

比如 将loginmac-201905索引的配置 改成 box_type 属性改成 warm（将原来的 hot 属性置为null）。（box_type就是用来标识节点属性的）

比如 将loginmac-201905索引的配置 改成 box_type 属性改成 warm（将原来的 hot 属性置为null）。（box_type就是用来标识节点属性的）

PUT  loginmac-201905/_settings
{
  "index": {
    "routing": {
      "allocation": {
        "require": {
          "box_type": "warm"
        },
        "exclude":{
          "box_type": null
        }
      }
    }
  }
}

第七步 执行reroute命令，将 box_type为warm的索引迁移到 warm节点上。

loginmac-201905 索引box_type设置成warm后，应该会自动 relocating 到 node.attr.box_type为 warm 的标点上。如果没有自动 relocating，那么执行下面的 reroute 命令即可。另外，为了提高 执行 reroute 的效率，可以暂时将 refresh_interval 设置成 -1
其中，node-248是hot节点，node-12是warm节点。

POST /_cluster/reroute
{
  "commands": [
    {
      "move": {
        "index": "loginmac-201905",
        "shard": 2,
        "from_node": "node-248",
        "to_node": "node-12"
      }
    }
  ]
}

最后，来一张集群冷热节点的示意图：

调整后碰到的一些问题：

在修改 node-02 节点的ES 配置文件时：node.attr.box_type: hot重启后节点并未生效，导致这台节点上的分片全部被迁移到其他节点上去了。因此，修改了配置参数后，可用下面命令先检查一下配置是否生效：

GET /_nodes/node-02

再查看节点信息，可看到节点带有 box_type 为 hot 的属性了。

 "attributes": {
        "box_type": "hot",
        "xpack.installed": "true"
      }

所以，在修改了elasticsearch.yml配置文件并重启节点后，最好先GET /_nodes/node-02看一下配置是否生效，否则可能造成大量分片reroute，浪费资源。
另外：还碰到一个重启node-02节点时总是失败的问题：Ubuntu16.04 使用命令：sudo -u user_00 ./bin/elasticsearch -d 一直提示memory not lock 错误（已按官网修改了文件描述符、内存限制等参数）。后来发现使用此种方式 user_00没有足够权限，先用 su user_00 切换到user_00用户，然后再执行 ./bin/elasticsearch -d 启动ES进程。

做完冷热分离后，还可以再做一些其他的优化：

1、段合并

查看索引loginmac-201905各个段的情况，并force merge

GET /_cat/segments/loginmac-201905?v&h=shard,segment,size,size.memory

POST /loginmac-201905/_forcemerge?max_num_segments=10&flush=true

2、关闭索引

POST /loginmac-201905/_close