Docker Swarm 是什么?
Docker Swarm是一个用于创建Docker主机(运行Docker守护进程的服务器)集群的工具,使用Swarm操作集群,会使用户感觉就像是在一台主机上进行操作
docker1.12集成了swarmkit, 使你可以不用安装额外的软件包, 使用简单的命令启动创建docker swarm集群。
如果你在运行 Docker 1.12时,你就可以原生创建一个 Swarm 集群 .
集成了swarm集群的安全特性, 集成了K-V存储, 你现在不需要额外部署etcd或者consul。
在Docker1.12版本中,一个大的功能点是swarm集群(基于swarmkit项目),通过Docker命令可以直接实现docker-engine相互发现,并组建成为一个容器集群。
SwarmKit将节点分为两类:
工作节点(Worker):负责通过执行容器运行任务。SwarmKit的默认执行器为Docker容器执行器(Docker Container Executor)。
(1)内建分布式存储,不要额外的数据库
(2)支持Rolling update
(3容器高可用
(4)通过TLS保证了节点之间通讯的安全
管理节点(Manager):负责接收和响应用户请求,将集群状态调节到最终状态。在SwarmKit中,用户可以动态调整节点的角色,即在Manager和Worker之间转换。
如下图所示,这是一个典型的master-slave的架构。每个节点都是运行着Docker Engine的Docker主机。一些节点有更高的权限,被称为Manager。下面的节点是worker节点,接收来自manager组的任务指示。
部署docker1.12 Swarm
实验环境:
这里选择三台主机运行Swarm,依次为:
node1 192.168.100.5
node2 192.168.100.6
node3 192.168.100.7
基本环境配置
3台主机确保时间一致 ntp
3台主机均关闭selinux,开启路由转发。 /ect/sysctl.conf
[root@localhost ~]# sysctl -p net.ipv4.ip_forward = 1
4关闭selinux
[root@localhost ~]# setenforce 0
5 3台主机修改/etc/hosts文件
Ping 连通性
开启宿主机之间的端口
TCP端口2377集群管理端口
TCP与UDP端口7946节点之间通讯端口
TCP与UDP端口4789 overlay网络通讯端口
配置所有节点密钥登录.
配置所下节点密钥互信, 在node1可以免密码登录各节点,只在node1上执行:
生成sshkey
[root@localhost ~]# ssh-keygen
发布sshkey到各个节点 ssh-copy-id node2 3 1
测试密钥登录
安装docker 1.12 如yum报错 rm -rf /var/rum/yum.pid 删除pid 3台都需要安装
[root@localhost /]# yum -y install docker [root@localhost /]# systemctl start docker
docker1.12 Swarm 模式简介
Docker Engine 1.12 集成了Swarm集群工具.
主要使用三个新的命令行工具创建一个swarm集群:
docker swarm 开启swarm模式; 加入Swarm集群; 配置集群参数
docker node 查询集群节点信息; 提升/移除一个管理节点; 管理swarm节点主机
docker service 创建管理 service
可以查看docker --help
创建 Swarm集群
在node1上初始化swram集群:
注意 你只需要在一个node1上初始化swarm集群, 其他node加入这个集群就行了, 所以以下命令只需要在node1上运行.
[root@localhost /]# docker swarm init --advertise-addr 192.168.100.5
1) 查看swarm集群node列表
[root@localhost /]# docker node ls
我们的其他节点服务器,以worker角色加入swarm集群需要登录到服务器运行如下命令:
[root@localhost /]# docker swarm join-token worker
1) 其他节点以worker加入集群使用上面查看到的命令加入集群(node2、node3上)
1) 查看集群节点情况,验证加入与否
1) 提升node2为管理
[root@node1 /]# docker node promote node2
docker swarm:集群管理,子命令主要有下面几个。
docker swarm init命令用于初始化一个集群
dockerswarm join命令用于加入一个现有集群
dockerswarm leave命令由于离开集群
有了Docker Swarm集群我们如何把我们的应用跑在Swarm集群上呢?
很简单, 基本上原来我们使用docker run的命令创建容器, 把前面替换成docker service create就行了.
建议搭建一个registry,为所的docker主机提供镜像下载,否则你需要在每个docker主机本地存在容器镜像。
所以搭建一个私有仓库,由私有仓库提供所需要的镜像,
本实验环境中用node1同时作为registry。
上传registry2.tar
运行容器(端口映射、随docker启动时容器亦启动、路径映射、名字)
[root@node1 src]# mkdir -p /opt/data/registry [root@node1 src]# docker run -d -p 5000:5000 --restart=always -v /opt/data/registry/:/var/lib/registry --name registry2 registry:2
查看私有仓库(可以看到仓库为空)
[root@node1 src]# curl 192.168.100.5:5000/v2/_catalog
1. 所有节点指向registry服务器:
停止docker服务
[root@node1 src]# vim /usr/lib/systemd/system/docker.service
[root@node1 src]# systemctl daemon-reload [root@node1 src]# systemctl start docker
1. 推送镜像并验证
node2上传镜像
[root@node2 src]# docker load < centos7.tar
node2配置Dockerfile
[root@node2 apache]# vim dockerfile FROM docker.io/centos:latest RUN yum -y install httpd net-tools RUN sed 's/#ServerName /ServerName /g' -i /etc/httpd/conf/httpd.conf EXPOSE 80 CMD ["/usr/sbin/httpd","-DFOREGROUND"]
node2构建
[root@node2 apache]# docker build -t 192.168.100.5:5000/centos:httpd .
node2上传镜像到registry
查看registry中镜像
[root@node2 apache]# curl 192.168.100.5:5000/v2/_catalog
node3、node1测试从registry下载镜像 在nond3 测试
overlay网络
解决了镜像构建问题, 为了让应用跑在swram集群上,我们还需要解决容器间的网络访问问题.
单台服务器的时候我们应用所有的容器都跑在一台主机上, 所以容器之间的网络是互通的. 现在我们的集群有3台主机, 所以docker应用的服务会分布在这3台主机上.
如何保证不同主机上的容器网络互通呢?
swarm集群已经帮我们解决了这个问题了,就是只用overlay network.
在docker 1.12以前, swarm集群需要一个额外的key-value存储(consul, etcd). 来同步网络配置, 保证所有容器在同一个网段中.
在docker 1.12已经内置了这个存储, 集成了overlay networks的支持.
下面我们演示下如何创建一个 overlay network:
注:swarm上默认已有一个名为ingress的overlay 网络, 可以直接使用, 但本文会创建一个新的
为我们的docker应用创建一个名为dockercoins的overlay network
1. node2上创建overlay network
[root@node2 apache]# docker network create --driver overlay dockercoins [root@node2 apache]# docker network ls
1. node1上查看(worker节点看不到)
注:一旦新的任务被指定给这个节点,Overlay网络就会被按需创建。
在swarm集群上运行docker应用
概念解释:service
Docker1.12 swarm引入了服务的概念,一个服务由多个任务组成,一个任务即一个运行的容器。
服务包括两种类型:
复制服务(replicated services):类似 k8s 中复制集的概念,保持一定数量的相同任务在集群中运行;
全局服务(global services):类似 k8s 中 daemon 的概念,每个工作节点上运行一个。
发布服务:
在manager上执行如下命令:
下面我们可以使用之前push到本地镜像仓库的镜像启动服务, 以centos:http为例:
以复制服务类型运行服务
在manager上执行如下命令:
[root@node1 src]# docker service create --replicas 1 --network dockercoins --name web1 -p 8000:80 192.168.100.5:5000/centos:httpd efd1jxmt3pthvwscgkt1n1hj6
浏览器验证:(三个节点ip:8000都可以访问)
如运行web2,俩个容器运行服务:
[root@node1 src]# docker service create --replicas 2 --network dockercoins --name web2 -p 8080:80 192.168.100.5:5000/centos:httpd f2wh08sgy2q2wp5s63oczxk1t
从上图可以看到web2名称的service有2个副本分别运行在node2和node3节点上
1. 以全局服务类型运行服务:
从下图可以看到服务web4在每个节点上都运行一个
下面我们扩展旧的服务,从下图可以看到web1 service目前只有一个副本
[root@node1 /]# docker service scale web1=3
可以看到web1服务扩展到3个副本数。
3 缩减已有的服务副本数:
[root@node1 /]# docker service scale web1=2
可以看到web1服务缩减到2个副本数。
Swarm节点是自组织(self-organizing)和自修复(self-healing)的,什么意思?只要有节点或容器宕掉,swarm engine就会尝试修复,下面我们来具体看一下
自修复(self-healing)
可以看到:3个节点,运行8个任务(容器)。包含一个registry容器。
我们模拟让node3上的容器都宕掉或部分宕掉
[root@node3 /]# docker stop $(docker ps -aq)
结果:
可以看到docker会在相同节点上启动1个不同ID的容器。
Self-Organizing
现在我们让node3整个宕掉,node3上的容器会自动在其它节点上启动。
在manager节点上执行docker server ps服务名
[root@node3 /]# systemctl stop docker
结果: node1 上
node2
可以看到node3上的web2.2在node2上启动了;至于node3上的web4.0则因为是全局服务类型,故而node3停止服务后,会停掉。