Docker-compose部署consul及使用
目录
前言
一、compose
1、简介
2、Dockerfile与Compose之间区别
3、 YAML
4、Docker Compose配置常用字段
5、Docker Compose常用命令
6、Compose命令说明
二、Compose部署
1、下载与安装
2、创建compose目录和镜像目录，和相对应的yml和dockerfile文件
3、测试
三、consul
1、简介
2、 Consul的特性
3、Consul的作用
4、consul-template概述
5、registrator的作用
四、consul部署
1、实验环境
2、docker1安装consul
3、登陆验证
4、设置consul-template模板文件
5、编译安装nginx
6、配置nginx
7、开启
8、另外打开一个终端查看生成配置文件
9、在docker2增加一个nginx容器节点
总结
前言
一个大型的Docker组成的微服务应用中，容器的数量是非常庞大的，如果依赖传统的人工配置方式进行维护，对于开发和运维来说简直就是噩梦。Compose的出现正是为了解决这个问题。
一、compose
1、简介
Compose 项目是Docker官方的开源项目，负责实现对Docker容器集群的快速编排。从功能上看，跟OpenStack 中的 Heat十分类似。其代码目前在 https://github.com/docker/compose 上开源。
Compose定位是：定义和运行多个Docker容器的应用(Defining and running multi-container Docker applications)，其前身是开源项目Fig.
通过之前的文章，我们知道使用一个Dockerfile 模板文件，可以让用户很方便的定义一个单独的应用容器。然而，在日常工作中，经常会碰到需要多个容器相互配合来完成某项任务的情况。例如要实现一个Web项目，除了Web服务容器本身，往往还需要再加上后端的数据库服务容器，甚至还包括负载均衡容器等.CoMmpose恰好满足了这样的需求。它允许用户通过一个单独的docker-compose .yml模板文件(YAML格式)来定义一组相关联的应用容器为一个项目(project) 。
Compose中有两个重要的概念:
·服务( service ):一个应用的容器，实际上可以包括若干运行相同镜像的容器实例。
·项目( project ):由一组关联的应用容器组成的一个完整业务单元，在 docker-compose.yml 文件中定义。Compose 的默认管理对象是项目，通过子命令对项目中的一组容器进行便捷地生命周期管理。
Compose 项目由 python编写，实现上调用了Docker服务提供的API来对容器进行管理。因此，只要所操作的平台支持Docker APl，就可以在其上利用Compose 来进行编排管理。、
2、Dockerfile与Compose之间区别
compose不仅可以给构建镜像，还可以自动启动
dockerfile只提供镜像
dockerfile一次只能执行一个镜像
compose可以执行多个，他的文件结尾时yaml
3、 YAML
YAML是一种标记语言很直观的数据序列化格式
文件格式及编写注意事项
●不支持制表符tab键缩进，需要使用空格缩进
●通常开头缩进2个空格
●字符后缩进1个空格，如冒号、逗号、横杆
●用#号注释
●如果包含特殊字符用单引号引起来
●布尔值必须用引号括起来 ture真：成立 false假：不成立 boolean 要么true要么false
4、Docker Compose配置常用字段
| 字段 | 描述 |
| build dockerfile context | 指定Dockerfile文件名构建镜像上下文路径 |
| image | 指定镜像 |
| command | 执行命令，覆盖默认命令 |
| container name | 指定容器名称，由于容器名称是唯一的，如果指定自定义名称，则无法scale |
| deploy | 指定部署和运行服务相关配置，只能在Swarm模式使用 |
| environment | 添加环境变量 |
| networks | 加入网络 |
| ports | 暴露容器端口，与-p相同，但端口不能低于60 |
| volumes | 挂载宿主机路径或命令卷 |
| restart | 重启策略，默认no,always,no-failure,unless-stoped |
| hostname | 容器主机名 |
5、Docker Compose常用命令
| 字段 | 描述 |
|---|---|
| build | 重新构建服务 |
| ps | 列出容器 |
| up | 创建和启动容器 |
| exec | 在容器里面执行命令 |
| scale | 指定一个服务容器启动数量 |
| top | 显示容器进程 |
| logs | 查看容器输出 |
| down | 删除容器、网络、数据卷和镜像 |
6、Compose命令说明
命令格式：docker-compose [options] [COMMAND][ARGS...]
docker-compose选项
●–verbose输出更多调试信息
●–version打印版本并退出
●-f，–file FILE使用特定的compose模板文件，默认为docker-compose.yml
●-p,–project-name NAME指定项目名称，默认使用目录名称
二、Compose部署
1、下载与安装
[root@docker ~]# curl -L https://github.com/docker/compose/releases/download/1.21.1/docker-compose-`uname -s`-`uname -m` -o /usr/local/bin/docker-compose
[root@docker ~]# chmod +x /usr/local/bin/docker-compose
[root@docker ~]# mkdir /root/compose_nginx
2、创建compose目录和镜像目录，和相对应的yml和dockerfile文件
[root@docker ~]# mkdir /root/compose_nginx
[root@docker compose_nginx]# cd /root/compose_nginx
[root@docker compose_nginx]# mkdir nginx
[root@docker compose_nginx]# cd nginx/
#将创建nginx镜像的tar包和dockerfile的文件都拉到这个目录下
.
[root@docker nginx]# ls
nginx-1.15.9.tar.gz
[root@docker nginx]# vim /root/compose_nginx/nginx/Dockerfile
FROM centos:7
ADD nginx-1.15.9.tar.gz /mnt
WORKDIR /mnt/nginx-1.15.9
RUN yum install -y gcc pcre pcre-devel devel zlib-devel make &> /dev/null && \
yum clean all && \
sed -i 's/CFLAGS="$CFLAGS -g"/#CFLAGS="$CFLAGS -g"/g' auto/cc/gcc && \
./configure --prefix=/usr/local/nginx &> /dev/null && \
make &> /dev/null && make install &> /dev/null && \
rm -rf /mnt/nginx-1.15.9
EXPOSE 80
VOLUME ["/usr/local/nginx/html"]
CMD ["/usr/local/nginx/sbin/nginx","-g","daemon off;"]
...............................................................
[root@docker nginx]# ls
Dockerfile nginx-1.15.9.tar.gz
[root@docker nginx]# mkdir /root/compose_nginx/wwwroot
[root@docker nginx]# echo "this is compose test" > /root/compose_nginx/wwwroot/index.html
[root@docker nginx]# vim /root/compose_nginx/docker-compose.yml #在上一目录编辑compose.yml
version: '3'
services:
nginx:
hostname: nginx
build:
context: ./nginx
dockerfile: Dockerfile
ports:
- 1216:80
- 1217:443
networks:
- cluster
volumes:
- ./wwwroot:/usr/local/nginx/html
networks:
cluster:
..............................
[root@docker nginx]# tree /root/compose_nginx/
/root/compose_nginx/
├── docker-compose.yml
├── nginx
│ ├── Dockerfile
│ └── nginx-1.15.9.tar.gz
└── wwwroot
└── index.html
2 directories, 4 files
[root@docker nginx]# cd ..
[root@docker compose_nginx]# docker-compose -f docker-compose.yml up -d
[root@docker compose_nginx]# docker-compose ps
[root@docker nginx]# docker-compose ps
Name Command State Ports
---------------------------------------------------------------------------------------------
compose_nginx_nginx_1 /usr/local/nginx/sbin/ngin Up 0.0.0.0:1217->443/tcp,:::1217
... ->443/tcp, 0.0.0.0:1216->80/t
cp,:::1216->80/tcp
3、测试
三、consul
1、简介
Consul是基于Go语言开发的支持多数据中心分布式高可用的服务发布和注册服务软件，采用Raft算法保证服务的一致性，且支持健康检查。
Consul时HashiCorp公司推出的开源工具，用于实现分布式系统的服务发现与配置
2、 Consul的特性
Consul支持健康检查，允许存储键值对
一致性协议采用Raft算法用来保证服务的高可用
成员管理和罅隙广播采用GOSSIP协议，支持ACL访问控制
方便部署，与Docker等轻量级容器可无缝配合
工作原理：
consul template 相当于配置文件模板
consul server会根据这个进行更新
regisrator注册机制
当后面增加了一个容器时，容器会注册registrator，
registrator会发现多了一个容器，便会通知consul server要更新
consul server使用consul template自动更新
3、Consul的作用
· 服务注册与发现（主要功能），提供HTTP和DNS两种发现方式
· 健康检查，支持多种协议，HTTP、TCP等
· Key/Value存储
· 支持多数据中心
· 基于Golong语言，可移植性强
· 支持ACL访问控制
· 与Docker等轻量级容器可无缝配合
4、consul-template概述
· Consul-Template是一个守护进程，用于实时查询Consul集群信息
· Consul-Template可以更新文件系统上任意数量的指定模板，生成配置文件
· 更新完成以后，可以选择运行shell命令执行更新操作，重新加载Nginx。
· Consul-Template可以查询Consul中的服务目录、Key、Key-values等。
· 这种强大的抽象功能和查询语言模板可以使Consul-Template特别适合动态的创建配置文件。
· 例如:创建Apache/Nginx Proxy Balancers、Haproxy Backends
5、registrator的作用
一个由Go语言编写的，针对docker使用的，可以用于检测容器状态，自动注册和注销docker容器的服务到服务配置中心。目前支持Consul、Etcd和SkyDNS2。
四、consul部署
1、实验环境
服务器一docker1：192.168.100.21 Docker-ce、Compose 3、Consul、Consul-template
服务器二docker2：192.168.100.22 Docker-ce、registrator2、docker1安装consul
[root@docker1 ~]# mkdir /root/consul
[root@docker1 ~]# cd consul/
[root@docker1 consul]# ls
consul_0.9.2_linux_amd64.zip #需上传
[root@docker1 consul]# unzip consul_0.9.2_linux_amd64.zip
[root@docker1 consul]# mv consul /usr/bin/
[root@docker1 consul]# consul agent \
-server \
-bootstrap \
-ui \
-data-dir=/var/lib/consul-data \
-bind=192.168.100.21 \
-client=0.0.0.0 \
-node=consul-server01 &> /var/log/consul.log &
解析
consul agent \
-server \ #服务端
-bootstrap \ #前端框架
-ui \ #可被访问的web界面
-data-dir=/var/lib/consul-data \
-bind=192.168.100.21 \ #本机ip
-client=0.0.0.0 \
-node=consul-server01 &> /var/log/consul.log & #后端进行
查看集群信息
[root@docker1 consul]# consul members
Node Address Status Type Build Protocol DC
consul-server01 192.168.100.21:8301 alive server 0.9.2 2 dc1
[root@docker1 consul]# consul info|grep consul
[root@docker1 consul]# consul info|grep leader
leader = true
leader_addr = 192.168.100.21:8300
通过httpd api 查看集群信息
curl 127.0.0.1:8500/v1/status/peers //查看集群server成员
curl 127.0.0.1:8500/v1/status/leaders //查看集群Raf leader
curl 127.0.0.1:8500/v1/catalog/services //查看注册的所有服务
curl 127.0.0.1:8500/v1/catalog/nginx //查看nginx服务的信息
curl 127.0.0.1:8500/v1/catalog/nodes //集群节点详细信息
[root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/nodes
[{"ID":"6708a670-9894-f430-8754-9c4f6f9b6bf1","Node":"consul
[root@docker1 consul]# curl 127.0.0.1:8500/v1/status/leaders
[root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/services
{"consul":[]}[root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/nginx
[root@docker1 consul]# curl 127.0.0.1:8500/v1/catalog/nodes
[{"ID":"6708a670-9894-f430-8754-9c4f6f9b6bf1","Node":"consul-server01","Address":"192.168.100.21","Datacenter":"dc1","TaggedAddresses":{"lan":"192.168.100.21","wan":"192.168.100.21"},"Meta":{},"CreateIndex":5,"ModifyIndex":6}]
在docker2安装运行gliderlabs/registrator:latest
[root@docker2 consul]# docker run -d --name=registrator --net=host -v /var/run/docker.sock:/tmp/docker.sock --restart=always gliderlabs/registrator:latest -ip=192.168.100.22 consul://192.168.100.21:8500
Unable to find image 'gliderlabs/registrator:latest' locally
latest: Pulling from gliderlabs/registrator
Image docker.io/gliderlabs/registrator:latest uses outdated schema1 manifest format. Please upgrade to a schema2 image for better future compatibility. More information at https://docs.docker.com/registry/spec/deprecated-schema-v1/
c87f684ee1c2: Pull complete
a0559c0b3676: Pull complete
a28552c49839: Pull complete
Digest: sha256:6e708681dd52e28f4f39d048ac75376c9a762c44b3d75b2824173f8364e52c10
Status: Downloaded newer image for gliderlabs/registrator:latest
030097f01bd391d7d29a4fb09e45f8869d62e1f5580eb6afd7027e64b401a475
[root@docker2 consul]# docker ps -a #查看容器
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
030097f01bd3 gliderlabs/registrator:latest "/bin/registrator -i…" About a minute ago Up About a minute registrator
#下载并运行成功
测试服务是否正常
docker run -itd -p:83:80 --name test-01 -h test01 nginx
docker run -itd -p:84:80 --name test-02 -h test02 nginx
docker run -itd -p:88:80 --name test-03 -h test03 httpd
docker run -itd -p:89:80 --name test-04 -h test04 httpd
[root@docker2 consul]# docker run -itd -p:83:80 --name test-01 -h test01 nginx #第一次运行需要下载比较慢，需要点时间
Unable to find image 'nginx:latest' locally
...
[root@docker2 consul]# docker run -itd -p:84:80 --name test-02 -h test02 nginx
[root@docker2 consul]# docker run -itd -p:88:80 --name test-03 -h test03 httpd
[root@docker2 consul]# docker run -itd -p:89:80 --name test-04 -h test04 httpd
[root@docker2 consul]# docker ps -a
3、登陆验证
验证 http 和 nginx 服务是否注册到 consul
浏览器输入 http://192.168.100.21:8500，“单击 NODES”，然后单击 “consurl-server01”，会出现 5 个服务.
4、设置consul-template模板文件
Consul-Template 是一个守护进程，用于实时查询 Consul 集群信息，
并更新文件系统 上任意数量的指定模板，生成配置文件。更新完成以后，
可以选择运行 shell 命令执行更新 操作，重新加载 Nginx。Consul-Template
可以查询 Consul 中的服务目录、Key、Key-values 等。
这种强大的抽象功能和查询语言模板可以使 Consul-Template 特别适合动态的创建配置文件。
例如：创建 Apache/Nginx Proxy Balancers、Haproxy Backends
[root@docker1 consul]# vim /root/consul/nginx.ctmpl
upstream http_backend {
{
{range service "nginx"}}
server {
{.Address}}:{
{.Port}}; #此处引用的变量会指向后端的地址和端口（动态变化）
{
{end}}
}
server {
listen 83;
server_name localhost 192.168.100.21; #反向代理的IP地址(前端展示的NG服务的IP)
access_log /var/log/nginx/kgc.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr; #后端真实IP
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; #转发地址
proxy_pass http://http_backend;
}
}
5、编译安装nginx
[root@docker1 ~]# yum install gcc pcre-devel zlib-devel -y
[root@docker1 ~]# tar zxvf nginx-1.15.9.tar.gz -C /opt #先上传包在解压
[root@docker1 ~]# cd /opt/nginx-1.15.9/
[root@docker1 nginx-1.15.9]# ./configure --prefix=/usr/local/nginx
[root@docker1 nginx-1.15.9]# make && make install
6、配置nginx
[root@docker1 ~]# vim /usr/local/nginx/conf/nginx.conf
http {
include mime.types; #默认存在的
include vhost/*.conf; #添加虚拟主机目录（consul动态生成的配置文件就会放在这里）
default_type application/octet-stream;
}
创建虚拟主机目录
mkdir /usr/local/nginx/conf/vhost
创建日志文件目录
mkdir /var/log/nginx
启动nginx
usr/local/nginx/sbin/nginx7、开启
上传 consul-template_0.19.3_linux_amd64.zip 包到/root 目录下
[root@docker1 ~]# unzip consul-template_0.19.3_linux_amd64.zip
[root@docker1 ~]# mv consul-template /usr/bin/
[root@docker1 ~]# consul-template -consul-addr 192.168.100.21:8500 \
-template "/root/consul/nginx.ctmpl:/usr/local/nginx/conf/vhost/my.conf:/usr/local/nginx/sbin/nginx -s reload" \
--log-level=info
8、另外打开一个终端查看生成配置文件
获取到IP，是依靠consul功能
[root@docker1 ~]# cd /usr/local/nginx/conf/vhost/
[root@docker1 vhost]# ls
my.conf
[root@docker1 vhost]# cat my.conf
upstream http_backend {
server 192.168.100.22:83;
server 192.168.100.22:84;
}
server {
listen 88;
server_name ct 192.168.100.21;
access_log /var/log/nginx/gsy.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://http_backend;
}
}
9、在docker2增加一个nginx容器节点
增加一个 nginx 容器节点，测试服务发现及配置更新功能
//在registrator服务端注册
[root@docker2 ~]# docker run -itd -p:85:80 --name test-05 -h test05 nginx
docker1再次查看生成的配置文件
[root@docker1 vhost]# cat /usr/local/nginx/conf/vhost/my.conf
upstream http_backend {
server 192.168.100.22:83;
server 192.168.100.22:84;
server 192.168.100.22:85; 新增的服务
}
server {
listen 88;
server_name ct 192.168.100.21;
access_log /var/log/nginx/gsy.cn-access.log;
index index.html index.php;
location / {
proxy_set_header HOST $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header Client-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_pass http://http_backend;
}
}
总结
介绍了Docker Compose 简单的容器编排思路与实操，重心在于consul-template 的编写，服务器节点指向的对象、参数变量的设置
consul server定义，读取前端的配置模板后端的客户端部署registrator去监听本地集群是否出现扩展，如果出现扩展容器，会报告给consul server端，由consul agent代理去指定更新(前端的反向代理池)到模板文件中并同步到前端，保证前端对后端的动态识别。