分布式消息中间件之Kafka（含一键启动，关闭Kafka集群）

在了解kafka前，我们首先要了解一个问题：
什么叫做消息中间件？
消息中间件利用高效可靠的消息传递机制进行平台无关的数据交流，并基于数据通信来进行分布式系统的集成。通过提供消息传递和消息排队模型，它可以在分布式环境下扩展进程间的通信。
了解了什么叫做消息中间件之后，我们再来看下Kafka：
一 Kafka概述
1.1 Kafka是什么
在流式计算中，Kafka一般用来缓存数据，Storm或者Spark通过消费Kafka的数据进行计算。
1）Apache Kafka是一个开源消息系统，由Scala写成。是由Apache软件基金会开发的一个开源消息系统项目。
2）Kafka最初是由LinkedIn公司开发，并于 2011年初开源。2012年10月从Apache Incubator毕业。该项目的目标是为处理实时数据提供一个统一、高通量、低等待的平台。
3）Kafka是一个分布式消息队列。Kafka对消息保存时根据Topic进行归类，发送消息者称为Producer，消息接受者称为Consumer，此外kafka集群有多个kafka实例组成，每个实例(server)成为broker。
4）无论是kafka集群，还是producer和consumer都依赖于zookeeper集群保存一些meta信息，来保证系统可用性。
1.2 消息队列内部实现原理

（1）点对点模式（一对一，消费者主动拉取数据，消息收到后消息清除）
点对点模型通常是一个基于拉取或者轮询的消息传送模型，这种模型从队列中请求信息，而不是将消息推送到客户端。这个模型的特点是发送到队列的消息被一个且只有一个接收者接收处理，即使有多个消息监听者也是如此。
（2）发布/订阅模式（一对多，数据生产后，推送给所有订阅者）
发布订阅模型则是一个基于推送的消息传送模型。发布订阅模型可以有多种不同的订阅者，临时订阅者只在主动监听主题时才接收消息，而持久订阅者则监听主题的所有消息，即使当前订阅者不可用，处于离线状态。
1.3 为什么需要消息队列
1）解耦：
　　允许你独立的扩展或修改两边的处理过程，只要确保它们遵守同样的接口约束。
2）冗余：
消息队列把数据进行持久化直到它们已经被完全处理，通过这一方式规避了数据丢失风险。许多消息队列所采用的"插入-获取-删除"范式中，在把一个消息从队列中删除之前，需要你的处理系统明确的指出该消息已经被处理完毕，从而确保你的数据被安全的保存直到你使用完毕。
3）扩展性：
因为消息队列解耦了你的处理过程，所以增大消息入队和处理的频率是很容易的，只要另外增加处理过程即可。
4）灵活性 & 峰值处理能力：
在访问量剧增的情况下，应用仍然需要继续发挥作用，但是这样的突发流量并不常见。如果为以能处理这类峰值访问为标准来投入资源随时待命无疑是巨大的浪费。使用消息队列能够使关键组件顶住突发的访问压力，而不会因为突发的超负荷的请求而完全崩溃。
5）可恢复性：
系统的一部分组件失效时，不会影响到整个系统。消息队列降低了进程间的耦合度，所以即使一个处理消息的进程挂掉，加入队列中的消息仍然可以在系统恢复后被处理。
6）顺序保证：
在大多使用场景下，数据处理的顺序都很重要。大部分消息队列本来就是排序的，并且能保证数据会按照特定的顺序来处理。（Kafka保证一个Partition内的消息的有序性）
7）缓冲：
有助于控制和优化数据流经过系统的速度，解决生产消息和消费消息的处理速度不一致的情况。
8）异步通信：
很多时候，用户不想也不需要立即处理消息。消息队列提供了异步处理机制，允许用户把一个消息放入队列，但并不立即处理它。想向队列中放入多少消息就放多少，然后在需要的时候再去处理它们。
1.4 Kafka架构

1）Producer ：消息生产者，就是向kafka broker发消息的客户端。
2）Consumer ：消息消费者，向kafka broker取消息的客户端
3）Topic ：可以理解为一个队列。
4） Consumer Group （CG）：这是kafka用来实现一个topic消息的广播（发给所有的consumer）和单播（发给任意一个consumer）的手段。一个topic可以有多个CG。topic的消息会复制-给consumer。如果需要实现广播，只要每个consumer有一个独立的CG就可以了。要实现单播只要所有的consumer在同一个CG。用CG还可以将consumer进行自由的分组而不需要多次发送消息到不同的topic。
5）Broker ：一台kafka服务器就是一个broker。一个集群由多个broker组成。一个broker可以容纳多个topic。
6）Partition：为了实现扩展性，一个非常大的topic可以分布到多个broker（即服务器）上，一个topic可以分为多个partition，每个partition是一个有序的队列。partition中的每条消息都会被分配一个有序的id（offset）。kafka只保证按一个partition中的顺序将消息发给consumer，不保证一个topic的整体（多个partition间）的顺序。
7）Offset：kafka的存储文件都是按照offset.kafka来命名，用offset做名字的好处是方便查找。例如你想找位于2049的位置，只要找到2048.kafka的文件即可。当然the first offset就是00000000000.kafka
二、 Kafka集群部署
2.1 环境准备
集群中每台服务器都需要安装JDK、Zookeeper（Zookeeper用Kafka自带的也行，这里介绍自己安装的）
2.2 环境搭建
2.2.1 下载Kafka安装包并解压到指定目录
2.2.2 在安装目录下创建logs文件夹
2.2.3 进入安装目录下的conf目录，修改server.properties配置文件如下：

#broker的全局唯一编号，不能重复
broker.id=0
#是否允许删除topic
delete.topic.enable=true
#处理网络请求的线程数量
num.network.threads=3
#用来处理磁盘IO的线程数量
num.io.threads=8
#发送套接字的缓冲区大小
socket.send.buffer.bytes=102400
#接收套接字的缓冲区大小
socket.receive.buffer.bytes=102400
#请求套接字的最大缓冲区大小
socket.request.max.bytes=104857600
#kafka运行日志存放的路径
log.dirs=/opt/module/kafka/logs
#topic在当前broker上的分区个数
num.partitions=1
#用来恢复和清理data下数据的线程数量
num.recovery.threads.per.data.dir=1
#segment文件保留的最长时间，超时将被删除
log.retention.hours=168
#配置连接Zookeeper集群地址
zookeeper.connect=hadoop102:2181,hadoop103:2181,hadoop104:2181

2.2.4 分发到其他服务器
修改conf目录下 server.properties 中的broker.id (注意：broker.id 不得重复)
2.2.5 分别在各个服务器上bin目录下执行以下命令启动kafka
下面将为大家提供两个脚本用来一键启动和关闭Kafka集群

./kafka-server-start.sh -daemon ../config/server.properties

2.2.6 关闭kafka
当你执行 kafka-server-stop.sh 的时候，你会发现kafka并没有真正关闭，在这里我们稍微修改一下这个文件。

上面的是与我们没有修改前的配置信息，我们将最后一行注释掉，当然删除也是可以的，将下面的命令加到刚才的配置文件中即可使用：

ps ax | grep -i 'kafka\.Kafka' | awk '{print $1}' | xargs kill -SIGTERM

三、关闭kafka中Topic的常用命令（注：所有命令均在bin目录下执行，当然你也可以通过配置全局变量在任何地方执行）
1）查看当前服务器中的所有topic

./kafka-topics.sh --zookeeper hadoop102:2181 --list

2）创建topic

./kafka-topics.sh --zookeeper hadoop102:2181 --create --replication-factor 3 --partitions 1 --topic first

3）删除topic

./kafka-topics.sh --zookeeper hadoop102:2181 --delete --topic first

4）消费消息

./kafka-console-consumer.sh --zookeeper hadoop102:2181 --from-beginning --topic first

5）查看Topic的详细信息

./kafka-topics.sh --zookeeper hadoop102:2181 --describe --topic first

四、关于Kafka一键启动和关闭脚本（记得配置全部变量）
这里我就简单了配置了三台，大家可以根据自己的情况简单修改。
一、启动

#! /bin/bash
echo -e "\e[1;35m Start kafka ....  \e[0m"
i=1
for (( i= 1 ; i <= 3 ; i = $i + 1 )) ;
do
   echo -e "\e[1;33m-------min0$i--kafka-------\e[0m"
echo "                        "
echo -e "\e[1;34m Kafka is Start ... \e[0m"
 ssh min0$i "source /etc/profile;/usr/local/kafka_2.11-0.8.2.2/bin/kafka-server-start.sh -daemon /usr/local/kafka_2.11-0.8.2.2/config/server.properties"
echo "                         "
echo -e "\e[1;35m Complete!  \e[0m"
echo "                         "
done

二、关闭（记得先修改 kafka-server-stop.sh 的配置，上面有）

#! /bin/bash
echo -e "\e[1;35m Stop kafka ....  \e[0m"
i=1
for (( i= 1 ; i <= 3 ; i = $i + 1 )) ;
do
echo -e "\e[1;33m-------min0$i--kafka-------\e[0m"
echo "                        "
echo -e "\e[1;34m Kafka is Stop ...   \e[0m"
  ssh min0$i "source /etc/profile;/usr/local/kafka_2.11-0.8.2.2/bin/kafka-server-stop.sh"
echo "                         "
echo -e "\e[1;35m Complete! \e[0m"
echo "                         "
done

好了，以上就算Kafka的简单介绍了，希望能对大家有所帮助！