Elasticsearch2.0搭建集群及配置

Elasticsearch2.0集群配置
1.环境说明：
      三个节点：
          Windows上配置：一个主节点，一个从节点，设定不同的端口后，启动两个Elasticsearch进程
          Linux上配置  ：一个从节点，设置默认端口，启动一个Elasticsearch进程

              Windows:
                       192.168.1.120
                                     node1          --- 主节点
                                                :9200       节点间的通信端口(默认：9200)
                                                :9300       Http数据传输接口(默认：9300)
                                     node3          --- 从节点
                                                :9201
                                                :9301
               Linux：
                       192.168.1.246
                                     linux_node2    --- 从节点
                                                :9200
                                                :9300
2.Windows上node1的config/elasticsearch.yml配置
        node1主节点：
                   #自定义创建集群配置信息
                   # elasticsearch-node1主节点的配置 192.168.1.120
                   network.host: 192.168.1.120
                   # 配置集群名称
                   cluster.name: mycluster
                   # 配置节点名称
                   node.name: "node1"
                   node.master: true
                   node.data: true
                   #设置传播发现选项
                   discovery.zen.ping.multicast.enabled: false
                   discovery.zen.ping.unicast.hosts: ["192.168.1.120:9300"]
                   # 为节点之间的通信设置一个自定义端口(默认为9300)
                   transport.tcp.port: 9300
                   # 设置监听HTTP传输的自定义端(默认为9200)
                   http.port: 9200
        node3从节点:
                   #自定义创建集群配置信息
                   # elasticsearch-node1主节点的配置 192.168.1.120
                   network.host: 192.168.1.120
                   # 配置集群名称
                   cluster.name: mycluster
                   # 配置节点名称
                   node.name: "node3"
                   node.master: false
                   node.data: true
                   discovery.zen.ping.multicast.enabled: false
                   discovery.zen.ping.unicast.hosts: ["192.168.1.120:9300"]
                   # 为节点之间的通信设置一个自定义端口(默认为9300)
                   transport.tcp.port: 9301
                   # 设置监听HTTP传输的自定义端(默认为9200)
                   http.port: 9201

3.Linux上linux_node2的config/elasticsearch.yml配置
        linux_node2从节点:
                   # elasticsearch-node2配置  192.168.1.246
                   network.host: 192.168.1.246
                   # 配置集群名称
                   cluster.name: mycluster
                   # 配置节点名称
                   node.name: "linux_node2"
                   node.master: false
                   node.data: true
                   # 为节点之间的通信设置一个自定义端口(默认为9300)
                   transport.tcp.port: 9300
                   # 设置监听HTTP传输的自定义端(默认为9200)
                   http.port: 9200
                   #设置发现选项地址
                   discovery.zen.ping.multicast.enabled: false
                   discovery.zen.ping.unicast.hosts: ["192.168.1.120:9300"]

4.通过Elasticsearch-head插件访问
        1.安装head插件
               Windows下安装：
                  elasticsearch-2.0.0\bin>plugin install mobz/elasticsearch-head

               Linux下安装head插件
                  elasticsearch/bin/./plugin install mobz/elasticsearch-head

               访问Elasticsearch：
                  http://IP:port/_plugin/head/

        2.通过head访问Elasticsearch
               http://192.168.1.120:9200/_plugin/head/
           特别注意：
               这里的IP:port要与elasticsearch.yml中配置的network.host和http.port一致，否则无法访问

5.特别说明：
        #设置发现选项地址
        hosts的地址：最好是主节点的  ["network.host:http:port:]

6.Java连接Elasticsearch集群

package com.jay.elasticsearch.demo2;

import org.elasticsearch.client.transport.TransportClient;
//import org.elasticsearch.common.settings.ImmutableSettings;
import org.elasticsearch.common.settings.Settings;
import org.elasticsearch.common.transport.InetSocketTransportAddress;

import java.lang.reflect.Constructor;
import java.net.InetAddress;
import java.net.UnknownHostException;

/**
 * 通过反射机制和单例模式，初始化更加高效的Client
 * 对ES2.0有效
 * Created by Jay He on 2015/11/9.
 */
public class MoreEffectiveClientTest {
//    private static final String CLUSTER_NAME = "cluster_name";
    public static final String CLUSTER_NAME = "elasticsearch";
//    private static final String IP = "127.0.0.1";
    private static final String IP = "192.168.1.120";
    private static final int PORT = 9300;
    //1.设置集群名称：默认是elasticsearch，并设置client.transport.sniff为true，使客户端嗅探整个集群状态，把集群中的其他机器IP加入到客户端中
    /*
    //对ES1.6有效
    private static Settings settings = ImmutableSettings
            .settingsBuilder()
            .put("cluster.name",CLUSTER_NAME)
            .put("client.transport.sniff", true)
            .build();
    */
    //对ES2.0有效
    private static Settings settings = Settings
            .settingsBuilder()
            .put("cluster.name",CLUSTER_NAME)
            .put("client.transport.sniff", true)
            .build();
    //创建私有对象
    private static TransportClient client;

    //反射机制创建单例的TransportClient对象  ES1.6版本
//    static {
//        try {
//            Class<?> clazz = Class.forName(TransportClient.class.getName());
//            Constructor<?> constructor = clazz.getDeclaredConstructor(Settings.class);
//            constructor.setAccessible(true);
//            client = (TransportClient) constructor.newInstance(settings);
//            client.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName(IP), PORT));
//        } catch (Exception e) {
//            e.printStackTrace();
//        }
//    }

    //ES2.0版本
    static {
        try {
            client = TransportClient.builder().settings(settings).build()
                    .addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName(IP), PORT));
        } catch (UnknownHostException e) {
            e.printStackTrace();
        }
    }

    //取得实例
    public static synchronized TransportClient getTransportClient(){
        return client;
    }

    //为集群添加新的节点
    public static synchronized void addNode(String name){
        try {
            client.addTransportAddress(new InetSocketTransportAddress(InetAddress.getByName(name),9300));
        } catch (UnknownHostException e) {
            e.printStackTrace();
        }
    }

    //删除集群中的某个节点
    public static synchronized void removeNode(String name){
        try {
            client.removeTransportAddress(new InetSocketTransportAddress(InetAddress.getByName(name),9300));
        } catch (UnknownHostException e) {
            e.printStackTrace();
        }
    }

    public static void main(String args[]){
        getTransportClient();
    }

}

附：一个ES配置文件参考与参数详解

cluster.name: data-cluster
node.name: "data-es-05"
#node.data: false
 
# Indexing & Cache config
index.number_of_shards: 5
index.number_of_replicas: 1
index.cache.field.type: soft
index.cache.field.expire: 10m
index.cache.query.enable: true
indices.cache.query.size: 2%
indices.fielddata.cache.size: 35%
indices.fielddata.cache.expire: 10m
index.search.slowlog.level: INFO
#indices.recovery.max_size_per_sec: 1gb
index.merge.scheduler.max_thread_count: 2    # Only for spinning media. 
 
# Refresh config
index.refresh_interval: 300s
 
# Translog config
index.translog.flush_threshold_ops:  100000
 
# Paths config
path.data: /data/esData
path.plugins: /usr/share/elasticsearch/plugins
 
# Network And HTTP
network.bind_host: 10.0.126.203
network.publish_host: 10.0.126.203
transport.tcp.port: 9300
transport.tcp.compress: true
http.port: 9200
 
# Discovery
discovery.zen.minimum_master_nodes: 1
discovery.zen.ping.timeout: 10s
discovery.zen.ping.multicast.enabled: false
discovery.zen.ping.unicast.hosts: ["10.0.32.3:9300", "10.0.4.37:9300", "10.0.40.159:9300", "10.0.107.116:9300" , "10.0.126.203:9300"]

配置文件位于%ES_HOME%/config/elasticsearch.yml文件中，用Editplus打开它，你便可以进行配置。
        所有的配置都可以使用环境变量，例如：
node.rack: ${RACK_ENV_VAR}
        表示环境变量中有一个RACK_ENV_VAR变量。
        下面列举一下elasticsearch的可配置项：
         1. 集群名称，默认为elasticsearch：
cluster.name: elasticsearch
         2. 节点名称，es启动时会自动创建节点名称，但你也可进行配置：
node.name: "Franz Kafka"
         3. 是否作为主节点，每个节点都可以被配置成为主节点，默认值为true：
node.master: true
         4. 是否存储数据，即存储索引片段，默认值为true：
node.data: true
         master和data同时配置会产生一些奇异的效果：
         1) 当master为false，而data为true时，会对该节点产生严重负荷；
         2) 当master为true，而data为false时，该节点作为一个协调者；
         3) 当master为false，data也为false时，该节点就变成了一个负载均衡器。
         你可以通过连接http://localhost:9200/_cluster/health或者http://localhost:9200/_cluster/nodes，或者使用插件http://github.com/lukas-vlcek/bigdesk或http://mobz.github.com/elasticsearch-head来查看集群状态。
         5. 每个节点都可以定义一些与之关联的通用属性，用于后期集群进行碎片分配时的过滤：
node.rack: rack314
         6. 默认情况下，多个节点可以在同一个安装路径启动，如果你想让你的es只启动一个节点，可以进行如下设置：
node.max_local_storage_nodes: 1
         7. 设置一个索引的碎片数量，默认值为5：
index.number_of_shards: 5
         8. 设置一个索引可被复制的数量，默认值为1：
index.number_of_replicas: 1
         当你想要禁用公布式时，你可以进行如下设置：
index.number_of_shards: 1
index.number_of_replicas: 0
         这两个属性的设置直接影响集群中索引和搜索操作的执行。假设你有足够的机器来持有碎片和复制品，那么可以按如下规则设置这两个值：
         1) 拥有更多的碎片可以提升索引执行能力，并允许通过机器分发一个大型的索引；
         2) 拥有更多的复制器能够提升搜索执行能力以及集群能力。
         对于一个索引来说，number_of_shards只能设置一次，而number_of_replicas可以使用索引更新设置API在任何时候被增加或者减少。
         ElasticSearch关注加载均衡、迁移、从节点聚集结果等等。可以尝试多种设计来完成这些功能。
         可以连接http://localhost:9200/A/_status来检测索引的状态。
         9. 配置文件所在的位置，即elasticsearch.yml和logging.yml所在的位置：
path.conf: /path/to/conf
         10. 分配给当前节点的索引数据所在的位置：
path.data: /path/to/data
         可以可选择的包含一个以上的位置，使得数据在文件级别跨越位置，这样在创建时就有更多的自由路径，如：
path.data: /path/to/data1,/path/to/data2
         11. 临时文件位置：
path.work: /path/to/work
         12. 日志文件所在位置：
path.logs: /path/to/logs
         13. 插件安装位置：
path.plugins: /path/to/plugins
         14. 插件托管位置，若列表中的某一个插件未安装，则节点无法启动：
plugin.mandatory: mapper-attachments,lang-groovy
         15. JVM开始交换时，ElasticSearch表现并不好：你需要保障JVM不进行交换，可以将bootstrap.mlockall设置为true禁止交换：
bootstrap.mlockall: true
         请确保ES_MIN_MEM和ES_MAX_MEM的值是一样的，并且能够为ElasticSearch分配足够的内在，并为系统操作保留足够的内存。
         16. 默认情况下，ElasticSearch使用0.0.0.0地址，并为http传输开启9200-9300端口，为节点到节点的通信开启9300-9400端口，也可以自行设置IP地址：
network.bind_host: 192.168.0.1
         17. publish_host设置其他节点连接此节点的地址，如果不设置的话，则自动获取，publish_host的地址必须为真实地址：
network.publish_host: 192.168.0.1
         18. bind_host和publish_host可以一起设置：
network.host: 192.168.0.1
         19. 可以定制该节点与其他节点交互的端口：
transport.tcp.port: 9300
         20. 节点间交互时，可以设置是否压缩，转为为不压缩：
transport.tcp.compress: true
         21. 可以为Http传输监听定制端口：
http.port: 9200
         22. 设置内容的最大长度：
http.max_content_length: 100mb
         2 3 . 禁止HTTP
http.enabled: false
         2 4 . 网关允许在所有集群重启后持有集群状态，集群状态的变更都会被保存下来，当第一次启用集群时，可以从网关中读取到状态，默认网关类型（也是推荐的）是local：
gateway.type: local
         2 5 . 允许在N个节点启动后恢复过程：
gateway.recover_after_nodes: 1
         2 6 . 设置初始化恢复过程的超时时间：
gateway.recover_after_time: 5m
         2 7 . 设置该集群中可存在的节点上限：
gateway.expected_nodes: 2
         2 8 . 设置一个节点的并发数量，有两种情况，一种是在初始复苏过程中：
cluster.routing.allocation.node_initial_primaries_recoveries: 4
         另一种是在添加、删除节点及调整时：
cluster.routing.allocation.node_concurrent_recoveries: 2
         2 9 . 设置复苏时的吞吐量，默认情况下是无限的：
indices.recovery.max_size_per_sec: 0
        30 . 设置从对等节点恢复片段时打开的流的数量上限：
indices.recovery.concurrent_streams: 5
         3 1 . 设置一个集群中主节点的数量，当多于三个节点时，该值可在2-4之间：
discovery.zen.minimum_master_nodes: 1
         3 2 . 设置ping其他节点时的超时时间，网络比较慢时可将该值设大：
discovery.zen.ping.timeout: 3s
http://elasticsearch.org/guide/reference/modules/discovery/zen.html上有更多关于discovery的设置。
         3 3 . 禁止当前节点发现多个集群节点，默认值为true：
discovery.zen.ping.multicast.enabled: false
         3 4 . 设置新节点被启动时能够发现的主节点列表（主要用于不同网段机器连接）：

discovery.zen.ping.unicast.hosts: ["host1", "host2:port", "host3[portX-portY]"]

       35.设置是否可以通过正则或者_all删除或者关闭索引

action.destructive_requires_name 默认false 允许 可设置true不允许 

Elasticsearch集群中处理大型日志流的几个常用概念

之前对于CDN的日志处理模型是从
logstash agent==>>redis==>>logstash index==>>elasticsearch==>>kibana3，对于elasticsearch集群搭建，可以把索引进行分片存储，一个索引可以分成若干个片，分别存储到集群里面，而对于集群里面的负载均衡，副本分配，索引动态均衡（根据节点的增加或者减少）都是elasticsearch自己内部完成的，一有情况就会重新进行分配。
下面先是介绍几个关于elasticsearch的几个名词

cluster
     代表一个集群，集群中有多个节点，其中有一个为主节点，这个主节点是可以通过选举产生的，主从节点是对于集群内部来说的。es的一个概念就是去中心化，字面上理解就是无中心节点，这是对于集群外部来说的，因为从外部来看es集群，在逻辑上是个整体，你与任何一个节点的通信和与整个es集群通信是等价的。

shards
     代表索引分片，es可以把一个完整的索引分成多个分片，这样的好处是可以把一个大的索引拆分成多个，分布到不同的节点上。构成分布式搜索。分片的数量只能在索引创建前指定，并且索引创建后不能更改。

replicas
     代表索引副本，es可以设置多个索引的副本，副本的作用一是提高系统的容错性，当个某个节点某个分片损坏或丢失时可以从副本中恢复。二是提高es的查询效率，es会自动对搜索请求进行负载均衡。

recovery
     代表数据恢复或叫数据重新分布，es在有节点加入或退出时会根据机器的负载对索引分片进行重新分配，挂掉的节点重新启动时也会进行数据恢复。

river
     代表es的一个数据源，也是其它存储方式（如：数据库）同步数据到es的一个方法。它是以插件方式存在的一个es服务，通过读取river中的数据并把它索引到es中，官方的river有couchDB的，RabbitMQ的，Twitter的，Wikipedia的，river这个功能将会在后面的文件中重点说到。

gateway
     代表es索引的持久化存储方式，es默认是先把索引存放到内存中，当内存满了时再持久化到硬盘。当这个es集群关闭再重新启动时就会从gateway中读取索引数据。es支持多种类型的gateway，有本地文件系统（默认），分布式文件系统，Hadoop的HDFS和amazon的s3云存储服务。

discovery.zen
     代表es的自动发现节点机制，es是一个基于p2p的系统，它先通过广播寻找存在的节点，再通过多播协议来进行节点之间的通信，同时也支持点对点的交互。

Transport
     代表es内部节点或集群与客户端的交互方式，默认内部是使用tcp协议进行交互，同时它支持http协议（json格式）、thrift、servlet、memcached、zeroMQ等的传输协议（通过插件方式集成）。