用Docker-Compose搭建consul集群环境
目录
- 1.Compose consul的概述
-
- 1.1mpose是什么？
- 1.2Docker Compose容器编排
- 1.3Docker Compose配置常用字段
- 1.4Docker Compose常用命令
- 2.Consul的概述
-
- 2.1consul是什么
- 2.2Consul容器服务更新与发现4
- 3.部署Compose
-
- 3.1、2个节点安装docker、设置镜像加速
- 3.2、compose部署
- 4.Consul部署
-
- 4.1consul服务器
- 4.2通过httpd api 获取集群信息
- 4.3容器服务自动加入consul集群
-
- 4.3.1 安装 Gliderlabs/Registrator **
- 4.3.2测试服务发现功能是否正常
- 4.3.3 验证 http 和 nginx 服务是否注册到 consul
- 4.3.4 在consul服务器上查看
- 5.安装 consul-template
-
- 5.1准备 template nginx 模板文件
- 5.2编译安装nginx
- 5.3 配置 nginx
- 6.配置并启动 template
-
- 6.1上传解压
- 6.2关联nginx 虚拟目录中的子配置文件操作
- 7.测试增加/删除节点
-
- 7.1增加一个nginx容器节点
- 7.2删除一个nginx容器节点
1.Compose consul的概述
1.1mpose是什么？
Docker Compose的前身是fig，他是一个定义及运行多个Docker容器的工具，使用Docker Compose不需要使用shell脚本来启动容器；Docker Compose非常适合组合多个容器进行开发的场景
1.2Docker Compose容器编排
YAML是一种标记语言很直观的数据序列化格式
文件格式及编写注意事项：
不支持制表符tab键缩进,需要使用空格缩进
通常开头缩进2个空格
字符后缩进1个空格,如冒号、逗号、横杆
用#号注释
如果包含特殊字符用单引号弓|起来
布尔值必须用引号括起来
1.3Docker Compose配置常用字段
| 字段 | 描述 |
|---|---|
| build dockerfile context | 指定Dockerfile文件名构建镜像.上下文路径 |
| image | 指定镜像 |
| command | 执行命令，覆盖默认命令 |
| container name | 指定容器名称，由于容器名称是唯一的， 如果指定自定义名称，则无法scale |
| deploy | 指定部署和运行服务相关配置，只能在Swarm模式使用 |
| environment | 添加环境变量 |
| networks | 加入网络 |
| ports | 暴露容器端口，与-p相同，但端口不能低于60 |
| volumes | 挂载宿主机路径或命令卷 |
| restart | 重启策略，默认no,always, no-failure,unless-stoped |
| hostname | 容器主机名 |
1.4Docker Compose常用命令
| 字段 | 描述 |
|---|---|
| 字段 | 描述 |
| build | 重新构建服务 |
| ps | 列出容器 |
| up | 创建和启动容器 |
| exec | 在容器里面执行命令 |
| scale | 指定一个服务容器启动数量 |
| top | 显示容器进程 |
| logs | 查看容器输出 |
| down | 删除容器、网络、数据卷和镜像 |
| stop/start/restart | 停止/启动/重启服务 |
2.Consul的概述
2.1consul是什么
Consul是HashiCorp公司推出的开源工具， 用于实现分布式系统的服务发现与配置
Consul的特性：
1.支持健康检查，允许存储键值对
2.基于Golong语言，可移植性强
3.支持ACL访问控制
同时可与Docker等轻量级容器可无缝配合
2.2Consul容器服务更新与发现4
consul服务端：
1.consul template：通过变量定义模板；定义的内容就是upstream地址池，通过变量的形式，并在接收到指令的时候动态更新web_01中ng的配置文件
2.consul server：管理consul template
3.consul agent：获取服务发现的机制；UI界面也可以看到新更新的服务
compose：
4.consul registrator：监听；部署在server端上
过程：
设置registrator监控，监听服务端口，有新的端口监控会注册到agent，交给server端，把后端真实的容器和ip写入template模板内，模板更新到nginx.conf内，再重载配置文件，从而对外识别新加的服务后端的节点：docker服务器
3.部署Compose
| ip | 服务 |
|---|---|
| 192.168.35.40 | docker concul agent/server/template nginx手工编译安装 |
| 192.168.35.10 | docker nginx httpd |
3.1、2个节点安装docker、设置镜像加速
此步骤请参考“(一)我与Docker的‘相爱相杀’，一篇带你全了解~~~”，这里不再叙述
3.2、compose部署
下载compose
curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
或者
上传docker_compose即可
chmod +x docker-compose ##加执行权限
cp -p docker-compose /usr/local/bin
mkdir /root/compose_nginx
cd compose_nginx/
mkdir nginx wwwroot
2.编写nginx的dockerfile文件
cd nginx
上传nginx-1.12.2.tar.gz压缩包
vim Dockerfile ##编写文件
FROM centos:7
ADD nginx-1.12.2.tar.gz /mnt
WORKDIR /mnt/nginx-1.12.2
RUN yum install -y gcc pcre pcre-devel devel zlib-devel make &> /dev/null && \
yum clean all && \
sed -i 's/CFLAGS="$CFLAGS -g"/#CFLAGS="$CFLAGS -g"/g' auto/cc/gcc && \
./configure --prefix=/usr/local/nginx &> /dev/null && \
make &> /dev/null && make install &> /dev/null &&\
rm -rf /mnt/nginx-1.12.2
EXPOSE 80
VOLUME ["/usr/local/nginx/html"]
CMD ["/usr/local/nginx/sbin/nginx","-g","daemon off;"]
cd wwwroot
vim index.html ##创建nginx页面
happy
3.编写docker-compose.yml文件
vim /root/compose_nginx/docker-compose.yml
version: '3'
services:
nginx:
hostname: nginx
build:
context: ./nginx
dockerfile: Dockerfile
ports:
- 1216:80
- 1217:443
networks:
- cluster
volumes:
- ./wwwroot:/usr/local/nginx/html
networks:
cluster:
[root@consul compose_nginx]# docker-compose -f docker-compose.yml up -d ##基于yml文件运行启动
[root@consul compose_nginx]# docker-compose ps ##使用Compose容器编排
[root@consul compose_nginx]# tree ./
./
├── docker-compose.yml //创建模板脚本
├── nginx
├── Dockerfile //创建容器脚本
├── nginx-1.15.9.tar.gz //复制源码包
└── wwwroot
└── index.html //站点
4.Consul部署
| ip | 服务器 |
|---|---|
| 192.168.35.40 | Docker-ce、 Compose 3、Consul、 Consul-template |
| 192.168.35.10 | Docker-ce、registrator |
| 服务器 | 功能 |
| template | 模更新 |
| registrator | 自动发现 |
| registrator | 控制consul 完成更新操作 |
| consul template模板 | 进行热更新 |
| consul | 自动发现、自动更新，为容器提供服务（添加、删除、生命周期） |
4.1consul服务器
\mkdir consul
cd consul
上传consul_0.9.2_linux_amd64.zip压缩包
unzip consul_0.9.2_linux_amd64.zip ##解压
mv consul /usr/local/bin/
consul agent \
-server \ 服务端
-bootstrap \ 前端框架
-ui \ 可被访问的web界面
-data-dir=/var/lib/consul-data \
-bind=192.168.35.40 \
-client=0.0.0.0 \
-node=consul-server01 &> /var/log/consul.log &
[root@consul consul]# consul members ##查看集群信息
Node Address Status Type Build Protocol DC
consul-server01 192.168.226.130:8301 alive server 0.9.2 2 dc1
[root@web consul]# consul info | grep leader
leader = true
leader_addr = 192.168.35.40:8300
4.2通过httpd api 获取集群信息
curl 127.0.0.1:8500/v1/status/peers //查看集群server成员
curl 127.0.0.1:8500/v1/status/leader //集群 Raf leader
curl 127.0.0.1:8500/v1/catalog/services //注册的所有服务
curl 127.0.0.1:8500/v1/catalog/nginx //查看 nginx 服务信息
[root@consul consul]# curl 127.0.0.1:8500/v1/catalog/nodes //集群节点详细信息
[{"ID":"ac1937e8-8f21-bbc0-61d6-0a24ea946cee","Node":"consul-server01","Address":"192.168.226.130","Datacenter":"dc1","TaggedAddresses":{"lan":"192.168.226.129","wan":"192.168.226.129"},"Meta":{},"CreateIndex":5,"ModifyIndex":6}]
4.3容器服务自动加入consul集群
4.3.1 安装 Gliderlabs/Registrator **
可检查容器运行状态自动注册，还可注销 docker 容器的服务到服务配置中心。
目前支持 Consul、Etcd 和 SkyDNS2。
在 192.168.35.10节点，执行以下操作：
docker run -d \
--name=registrator \
--net=host \
-v /var/run/docker.sock:/tmp/docker.sock \
--restart=always \
gliderlabs/registrator:latest \
-ip=192.168.35.10 \
consul://192.168.35.40:8500
4.3.2测试服务发现功能是否正常
docker run -itd -p:83:80 --name test-01 -h test01 nginx
docker run -itd -p:84:80 --name test-02 -h test02 nginx
docker run -itd -p:88:80 --name test-03 -h test03 httpd
docker run -itd -p:89:80 --name test-04 -h test04 httpd
4.3.3 验证 http 和 nginx 服务是否注册到 consul
浏览器输入 http://192.168.35.40:8500，“单击 NODES”，然后单击 “consurl-server01”，会出现 5 个服务
4.3.4 在consul服务器上查看
[root@consul consul]# curl 127.0.0.1:8500/v1/catalog/services
{"consul":[],"httpd":[],"nginx":[]}
5.安装 consul-template
Consul-Template 是一个守护进程，用于实时查询 Consul 集群信息，并更新文件系统 上任意数量的指定模板，生成配置文件。更新完成以后，可以选择运行 shell 命令执行更新 操作，重新加载 Nginx。Consul-Template 可以查询 Consul 中的服务目录、Key、Key-values 等。
这种强大的抽象功能和查询语言模板可以使 Consul-Template 特别适合动态的创建配置文件。
例如：创建 Apache/Nginx Proxy Balancers、Haproxy Backends
5.1准备 template nginx 模板文件
在consul上操作
vim /root/consul/nginx.ctmpl ##c：concul；tmp：template
upstream http_backend {
{{range service "nginx"}}
server {{.Address}}:{{.Port}}; #此处引用的变量会指向后端的地址和端口（动态变化）
{{end}}
}
server {
listen 83; ##ngixn的监听端口
server_name localhost 192.168.35.40; #反向代理的IP地址(前端展示的NG服务的IP)
access_log /var/log/nginx/klj.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr; #后端真实IP
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; #转发地址
proxy_pass http://http_backend;
}
}
5.2编译安装nginx
上传压缩包nginx-1.12.2.tar.gz
yum install gcc pcre-devel zlib-devel -y
tar zxvf nginx-1.12.2.tar.gz -C /opt
cd nginx-1.12.2
./configure --prefix=/usr/local/nginx
make && make install
5.3 配置 nginx
vim /usr/local/nginx/conf/nginx.conf
http {
include mime.types; #默认存在的
include vhost/*.conf; ##添加虚拟主机目录为了让那个识别vhost/*.conf的文件（consul动态生成的配置文件就会放在这里）
default_type application/octet-stream;
mkdir /usr/local/nginx/conf/vhost ##创建虚拟主机目录
mkdir /var/log/nginx ##创建日志文件目录
ln -s /usr/local/nginx/sbin/nginx /usr/sbin
nginx ##启动nginx
6.配置并启动 template
6.1上传解压
上传 consul-template_0.19.3_linux_amd64.zip 包到/root 目录下
cp consul-template_0.19.3_linux_amd64.zip /root/
unzip consul-template_0.19.3_linux_amd64.zip ##解压
mv consul-template /usr/bin/
6.2关联nginx 虚拟目录中的子配置文件操作
consul-template -consul-addr 192.168.35.40:8500 \
-template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/klj.conf:/usr/local/nginx/sbin/nginx -s reload" \
--log-level=info ##日志级别：info
[root@consul ~]# cat /usr/local/nginx/conf/vhost/klj.conf ##另外打开一个终端查看生成配置文件
upstream http_backend {
server 192.168.35.10:84;
server 192.168.35.10:85;
}
server {
listen 83; server_name localhost 192.168.35.40;
access_log /var/log/nginx/klj.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://http_backend;
}
}
7.测试增加/删除节点
7.1增加一个nginx容器节点
增加一个 nginx 容器节点，测试服务发现及配置更新功能
//在registrator服务端注册
[root@docker bin]# docker run -itd -p:86:80 --name test-06 -h test06 nginx
74d1a35d21e907dc58ba6cb0b258e26f4c56fec4f1da495b76d84907c0f0ad43
7.2删除一个nginx容器节点
[root@docker bin]# docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
74d1a35d21e9 nginx "/docker-entrypoint.…" About a minute ago Up About a minute 0.0.0.0:86->80/tcp, :::86->80/tcp test-06
688c5c1083f5 nginx "/docker-entrypoint.…" 22 hours ago Exited (255) 19 minutes ago 0.0.0.0:85->80/tcp, :::85->80/tcp test-05
107aa62fb5aa httpd "httpd-foreground" 24 hours ago Exited (255) 19 minutes ago 0.0.0.0:89->80/tcp, :::89->80/tcp test-04
6aeb8cbb2050 httpd "httpd-foreground" 24 hours ago Exited (255) 19 minutes ago 0.0.0.0:88->80/tcp, :::88->80/tcp test-03
b1e96f6388ec nginx "/docker-entrypoint.…" 24 hours ago Exited (255) 19 minutes ago 0.0.0.0:84->80/tcp, :::84->80/tcp test-02
403bf203b9e6 gliderlabs/registrator:latest "/bin/registrator -i…" 24 hours ago Up 5 minutes registrator
[root@docker bin]# docker rm -f 74d1a35d21e9 ##删除86端口的服务器
74d1a35d21e9