使用 docker + webhook 实现前端自动化部署

使用 docker + webhook 实现前端自动化部署_第1张图片
image

前言

得益于 node 的横空出世以及前端工程化的兴起,无论是开发模式,还是开发框架,前端生态链都产生了翻天覆地的变化,与此同时前端慢慢开始向其他领域探索,项目部署就是其中一个领域

在刀耕火种的时代,当执行 npm run build 将生成产物交给运维后,前端的任务就算完成了,运维同学在生产服务器上将产物的路径写入 nginx 配置文件,至此完成了“简单”的部署

随着项目的不断迭代,前端开始发现问题的严重性,每次都需要耗费大量的时间在打包上,开发5分钟,打包半小时的情况屡见不鲜,另外开发者自身环境的差异会导致最终的产物也有不同

但办法总比困难多,例如可以将打包操作放到远端服务器上,又比如可以将上述流程结合 git 仓库实现自动部署

本着不设边界的“字节范”,本文将从零开始,实现前端自动化部署流程,打开项目部署的“黑盒”

涉及技术栈如下:

  • docker

  • node

  • pm2

  • shell

  • webhook

文章中的命令大部分为 linux 命令,本地是 windows 系统的读者请使用 git bash

介绍 docker

着手开发前,先介绍这次的主角 docker

使用 docker + webhook 实现前端自动化部署_第2张图片
image

什么是 docker

简而言之,docker 可以灵活的创建/销毁/管理多个“服务器”,这些“服务器”被称为 容器 (container)

在容器中你可以做任何服务器可以做的事,例如在有 node 环境的容器中运行 npm run build 打包项目,在有 nginx 环境的容器中部署项目,在有 mysql 环境的容器中做数据存储等等

一旦服务器安装了 docker ,就可以自由创建任意多的容器,上图中 docker 的 logo 形象的展示了它们之间的关系,就是 docker,上面的一个个集装箱就是容器

安装 docker

为了方便本地调试,可以先在本地安装 docker

Mac:https://download.docker.com/mac/stable/Docker.dmg

Windows:https://download.docker.com/win/stable/Docker%20for%20Windows%20Installer.exe

Linux:https://get.docker.com/

下载安装完毕后,点击 docker 图标启动 docker,此时在终端中就可以使用 docker 相关的操作

使用 docker + webhook 实现前端自动化部署_第3张图片
image

出现以下情况,检查 docker 应用程序是否正常启动

docker: Cannot connect to the Docker daemon at unix:///var/run/docker.sock. Is the docker daemon running?.


Hello docker

# Dockerfile
FROM nginx
COPY index.html /usr/share/nginx/html/index.html
EXPOSE 80

hello-docker
|____index.html
|____Dockerfile

docker build . -t test-image:latest 

docker run -d -p 80:80 --name test-container test-image:latest

docker pull nginx
docker run -d -p 81:80 --name nginx-container nginx

less ~/.ssh/id_rsa.pub 

$ ssh-keygen -o
Generating public/private rsa key pair.
Enter file in which to save the key (/home/schacon/.ssh/id_rsa):
Created directory '/home/schacon/.ssh'.
Enter passphrase (empty for no passphrase):
Enter same passphrase again:
Your identification has been saved in /home/schacon/.ssh/id_rsa.
Your public key has been saved in /home/schacon/.ssh/id_rsa.pub.
The key fingerprint is:
d0:82:24:8e:d7:f1:bb:9b:33:53:96:93:49:da:9b:e3 [email protected]

$ cat ~/.ssh/id_rsa.pub
ssh-rsa AAAAB3NzaCxxxxxxxxxxxxxxxxxxxxxxxxBWDSU
GPl+nafzlHDTYxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxxPppSwg0cda3
Pbv7kOdJ/MxxxxxxxxxxxxxxxxxxxxxxxxxxxQwdsdMFvSlVK/7XA
t3FaoJoxxxxxxxxxxxxxxxxxxxxx88XypNDvjYNby6vw/Pb0rwert/En
mZ+AW4OZPnTxxxxxxxxxxxxxxxxxxo1d01QraTlMqVSsbx
NrRFi9wrf+M7Q== [email protected]

ssh @

# Step 1: 安装必要的一些系统工具
sudo yum install -y yum-utils

Step 2: 添加软件源信息,使用阿里云镜像

sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

Step 3: 安装 docker-ce

sudo yum install docker-ce docker-ce-cli containerd.io

Step 4: 开启 docker服务

sudo systemctl docker start

Step 5: 运行 hello-world 项目

sudo docker run hello-world

yum install git

curl -o- https://raw.githubusercontent.com/nvm-sh/nvm/v0.34.0/install.sh | bash

export NVM_DIR="NVM_DIR/nvm.sh" ] && . "NVM_DIR/bash_completion" ] && . "$NVM_DIR/bash_completion" # This loads nvm bash_completion

nvm install node

npm i pm2 -g

vue create docker-test

# dockerfile

build stage

FROM node:latest as build-stage
WORKDIR /app
COPY package*.json ./
RUN npm install
COPY . .
RUN npm run build

production stage

FROM nginx:latest as production-stage
COPY --from=build-stage /app/dist /usr/share/nginx/html
EXPOSE 80
CMD ["nginx", "-g", "daemon off;"]

scp ./Dockerfile [email protected]:/root

# .dockerignore
node_modules

scp ./.dockerignore [email protected]:/root

const http = require("http")

http.createServer((req, res) => {
console.log('receive request')
console.log(req.url)
if (req.method === 'POST' && req.url === '/') {
//...
}
res.end('ok')
}).listen(3000,()=>{
console.log('server is ready')
})

const http = require("http")

  • const {execSync} = require("child_process")
  • const path = require("path")
  • const fs = require("fs")
  • // 递归删除目录
  • function deleteFolderRecursive(path) {
  • if( fs.existsSync(path) ) {
  •    fs.readdirSync(path).forEach(function(file) {
    
  •        const curPath = path + "/" + file;
    
  •        if(fs.statSync(curPath).isDirectory()) { // recurse
    
  •            deleteFolderRecursive(curPath);
    
  •        } else { // delete file
    
  •            fs.unlinkSync(curPath);
    
  •        }
    
  •    });
    
  •    fs.rmdirSync(path);
    
  • }
  • }
  • const resolvePost = req =>
  • new Promise(resolve => {
  • let chunk = "";
    
  •    req.on("data", data => {
    
  •        chunk += data;
    
  •    });
    
  •    req.on("end", () => {
    
  •     resolve(JSON.parse(chunk));
    
  • });
    
  • });

    http.createServer(async (req, res) => {
    console.log('receive request')
    console.log(req.url)
    if (req.method === 'POST' && req.url === '/') {
  • const data = await resolvePost(req);
    
  • const projectDir = path.resolve(`./${data.repository.name}`)
    
  • deleteFolderRecursive(projectDir)
    

  • // 拉取仓库最新代码
  • execSync(git clone https://github.com/yeyan1996/${data.repository.name}.git ${projectDir},{
  •   stdio:'inherit',
    
  • })
    }
    res.end('ok')
    }).listen(3000, () => {
    console.log('server is ready')
    })

const http = require("http")
const {execSync} = require("child_process")
const fs = require("fs")
const path = require("path")

// 递归删除目录
function deleteFolderRecursive(path) {
if( fs.existsSync(path) ) {
fs.readdirSync(path).forEach(function(file) {
const curPath = path + "/" + file;
if(fs.statSync(curPath).isDirectory()) { // recurse
deleteFolderRecursive(curPath);
} else { // delete file
fs.unlinkSync(curPath);
}
});
fs.rmdirSync(path);
}
}

const resolvePost = req =>
new Promise(resolve => {
let chunk = "";
req.on("data", data => {
chunk += data;
});
req.on("end", () => {
resolve(JSON.parse(chunk));
});
});

http.createServer(async (req, res) => {
console.log('receive request')
console.log(req.url)
if (req.method === 'POST' && req.url === '/') {
const data = await resolvePost(req);
const projectDir = path.resolve(./${data.repository.name})
deleteFolderRecursive(projectDir)

// 拉取仓库最新代码
execSync(git clone https://github.com/yeyan1996/${data.repository.name}.git ${projectDir},{
stdio:'inherit',
})

  • // 复制 Dockerfile 到项目目录
    
  • fs.copyFileSync(path.resolve(`./Dockerfile`), path.resolve(projectDir,'./Dockerfile'))
    

  • // 复制 .dockerignore 到项目目录
    
  • fs.copyFileSync(path.resolve(__dirname,`./.dockerignore`), path.resolve(projectDir, './.dockerignore'))
    

  •  // 创建 docker 镜像
    
  • execSync(`docker build . -t ${data.repository.name}-image:latest `,{
    
  •   stdio:'inherit',
    
  •   cwd: projectDir
    
  • })
  •  // 销毁 docker 容器
    
  •  execSync(`docker ps -a -f "name=^${data.repository.name}-container" --format="{{.Names}}" | xargs -r docker stop | xargs -r docker rm`, {
    
  •   stdio: 'inherit',
    
  • })
  •  // 创建 docker 容器
    
  •  execSync(`docker run -d -p 8888:80 --name ${data.repository.name}-container  ${data.repository.name}-image:latest`, {
    
  •   stdio:'inherit',
    
  •  console.log('deploy success')
    
  • })
    res.end('ok')
    }
    }).listen(3000, () => {
    console.log('server is ready')
    })

scp ./index.js [email protected]:/root

pm2 start index.js

  • travis-ci

  • circleci

    通过 yml 配置文件,简化上文中注册 webhook 和编写更新容器的 index.js 脚本的步骤

    使用 docker + webhook 实现前端自动化部署_第4张图片
    image
    使用 docker + webhook 实现前端自动化部署_第5张图片
    image

    # .travis.yml
    language: node_js
    node_js:

    • 8
      branchs:
      only:
    • master
      cache:
      directories:
    • node_modules
      install:
    • yarn install
      scripts:
    • yarn test
    • yarn build

Best practices for writing Dockerfiles

Dockerize Vue.js App

山月的琐碎博客记录

写给前端的Docker实战教程

参考资料

感谢你能看到这里,希望对各位有帮助~

但本文的宗旨还是探索其中的原理,维护成熟的开源项目还是推荐使用上述平台

使用 docker + webhook 实现前端自动化部署_第6张图片
image

另外随着环境的增多,容器也会逐渐增加,docker 也推出了更好管理容器的方式 docker-compose

基于 github 平台也有非常成熟的 CI/CD 工具,例如

写在后面

关注 Dockerfile ,.dockerignore, index.js 文件

Docker-test

源码

大功告成~

使用 docker + webhook 实现前端自动化部署_第7张图片
image

最后访问 8888 端口可以看到更新后的文案

使用 docker + webhook 实现前端自动化部署_第8张图片
image

接着销毁旧容器,并使用更新后的镜像创建容器

使用 docker + webhook 实现前端自动化部署_第9张图片
image

克隆完毕后将 Dockerfile 和 .dockerignore 放入项目文件中,并更新镜像

使用 docker + webhook 实现前端自动化部署_第10张图片
image

不出意外,pm2 会输出克隆项目的日志

使用 docker + webhook 实现前端自动化部署_第11张图片
image

首先在云服务器上运行 pm2 logs 查看 index.js 输出的日志,随后本地添加 hello docker 文案,并推送至 github

来试试自动化部署的流程是否能正常运行

try it

使用 docker + webhook 实现前端自动化部署_第12张图片
image

启动成功后,访问云服务器 8888 端口看到部署的 demo 项目

使用 docker + webhook 实现前端自动化部署_第13张图片
image

通过之前安装的 pm2 将 index.js 作为后台脚本在云服务器上运行

运行 node 脚本

同样通过 scp 复制到云服务器上

然后给 index.js 添加 docker 相关逻辑

删除 name 为 docker-container 的容器(停止状态的容器才能被删除)

docker rm docker-container

停止 name 为 docker-container 的容器

docker stop docker-container

查看所有 name 以 docker 开头的 docker 容器,并只输出容器名

docker ps -a -f "name=^docker" --format="{{.Names}}"

在创建新容器前,需要先把旧容器销毁,这里先介绍几个用到的 docker 命令:

创建镜像和容器

data.repository.name 即 webhook 中记录仓库名的属性

当项目更新后,云服务器需要先拉取仓库最新代码

拉取仓库代码

本地项目里新建 index.js

由于我们是前端开发,这里使用 node 开启一个简单的 http 服务器处理 webhook 发送的 post 请求

创建 http 服务器

接着将 .dockerignore 文件也复制到云服务器上

第二次复制除 node_modules的所有文件

第一次只复制 package.json 和 package-lock.json,并安装依赖

由于需要保持本地和容器中 node_module 依赖包一致,在创建 Dockerfile 时用了两次 COPY 命令

本地项目里新建 .dockerignore

类似 .gitignore,.dockerignore 可以在创建镜像复制文件时忽略复制某些文件

创建 .dockerignore

最后通过 scp 命令,将 Dockerfile 文件复制到云服务器上

  • FROM nginx:latest as production-stage:基于 nginx 最新镜像,并将有 nginx 环境的阶段命名为 production-stage

  • COPY --from=build-stage /app/dist /usr/share/nginx/html:通过 --form 参数可以引用 build-stage 阶段生成的产物,将其复制到 /usr/share/nginx/html

  • EXPOSE 80:容器对外暴露 80 端口

  • CMD ["nginx", "-g", "daemon off;"]:容器创建时运行 nginx -g daemon off 命令,一旦 CMD 对应的命令结束,容器就会被销毁,所以通过 daemon off 让 nginx 一直在前台运行

将构建分为两个阶段,第一阶段基于 node 镜像,第二阶段基于 nginx 镜像

这里用到了 docker 一个技巧:多阶段构建

  • FROM node:latest as build-stage:基于 node 最新镜像,并通过构建阶段命名,将有 node 环境的阶段命名为 build-stage

  • WORKDIR /app:将工作区设为 /app,和其他系统文件隔离

  • COPY package*.json ./:拷贝 package.json/package-lock.json 到容器的 /app 目录

  • RUN npm install:运行 npm install 在容器中安装依赖

  • COPY . .:拷贝其他文件到容器 /app 目录,分两次拷贝是因为保持 node_modules 一致

  • RUN npm run build:运行 npm run build 在容器中构建

逐行解析配置:

先在本地项目里新建一个 Dockerfile 用于之后创建镜像

创建 Dockerfile

当云服务器接收到项目更新后发送的 post 请求后,需要创建/更新镜像来实现自动化部署

处理项目更新的请求

参数主要涉及当前仓库和本地提交的信息,这里我们只用 repository.name 获取更新的仓库名即可

使用 docker + webhook 实现前端自动化部署_第14张图片
image

配置完成后,可以向仓库提交一个 commit,然后点击最下方可以看到 post 请求参数

测试 webhook

点击 Add webhook 为当前项目添加一个 webhook,至此,当 docker-test 项目有代码提交时,就会往 http://118.89.244.45:3000 发送一个 post 请求

webhook 还可以设置一些鉴权相关的 token,由于是个人项目这里不详细展开了

  • 触发时机:Just the push event,即仓库 push 事件,根据不同的需求还可以选择其他事件,例如 PR,提交 Commit,提交 issues 等

  • Content type:选择 application/json 即发送 json 格式的 post 请求

  • Payload URL:填写云服务器公网 IP,记得添加 http(s) 前缀

使用 docker + webhook 实现前端自动化部署_第15张图片
image
使用 docker + webhook 实现前端自动化部署_第16张图片
image

打开 github 的仓库主页,点击右侧 settings

配置 webhook

当仓库有提交代码时,通过将 webhook 请求地址指向云服务器 IP 地址,云服务器就能知道项目有更新,之后运行相关代码实现自动化部署

参考 Vue 生命周期,当组件挂载完成时会触发 mounted 钩子,在钩子中可以编写拉取后端数据,或者渲染页面等回调逻辑,而 github 的 webhook 会在当前仓库触发某些事件时,发送一个 post 形式的 http 请求

hook 翻译为“钩子”,还可以理解为“回调”

webhook

并将 demo 项目上传到 github,准备配置 webhook

简单使用 vue-cli 在本地创建项目

创建 demo 项目

使用 docker + webhook 实现前端自动化部署_第17张图片
image

node 安装完成后,还需要安装 pm2,它能使你的 js 脚本能在云服务器的后台运行

通过 nvm 安装最新版 node

将 nvm 作为环境变量

既然是前端自动化部署,云服务器上相关处理逻辑用 js 编写,所以需要安装 node 环境,这里用 nvm 来管理 node 版本

node

使用 docker + webhook 实现前端自动化部署_第18张图片
image-20200630125450964

由于 SSH 方式还需要在 github 上注册公钥,方便起见,之后会选择 HTTPS 的方式克隆仓库

自动化部署涉及到拉取最新的代码,所以需要安装 git 环境

git

使用 docker + webhook 实现前端自动化部署_第19张图片
image

弹出 Hello from Docker! 证明 Docker 已经成功安装啦~

云服务器安装和本地有些区别,根据 docker 官网 的安装教程,运行以下命令

之前在本地安装了 docker,但云服务器上默认也是没有的,所以需要给它也安装 docker 环境

docker

接着给云服务器安装基础的环境

安装环境

使用 docker + webhook 实现前端自动化部署_第20张图片
image

绑定完成后重新开机,至此就可以在本地通过 ssh 命令登陆云服务器啦

使用 docker + webhook 实现前端自动化部署_第21张图片
image

除了注册公钥,还需要将它绑定实例,将实例关机并进行绑定

将生成的公钥放在云服务器控制台图示部分,点击确定

没有生成过密钥本地运行以下命令即可,参考 服务器上的 Git - 生成 SSH 公钥

使用 docker + webhook 实现前端自动化部署_第22张图片
image

生成密钥的方式同 git,之前生成过的话本地执行以下命令就能查看

前者无需配置,但每次登陆都需要输入账号密码,后者需要注册 ssh 密钥,但之后可以免密登陆云服务器。个人比较喜欢后者,所以先在控制台注册 ssh 密钥
使用 docker + webhook 实现前端自动化部署_第23张图片
image

然后我们需要登陆云服务器,本地登陆云服务器的方式一般有两种,密码登陆和 ssh 登陆(或者用 ssh 工具,windows 系统可以用 xhell,macOS 可以用 putty)

使用 docker + webhook 实现前端自动化部署_第24张图片
image

公网 IP 用于之后 webhook 发送请求的地址

注册相关的操作不细说了,参考供应商教程,随后登陆控制台可以看到当前云服务器的公网 IP,例如下图中服务器的公网 IP 是:118.89.244.45

熟悉云服务器配置或者不是腾讯云的读者可以跳过这章

登陆云服务器

由于是个人项目,对云服务器的要求不高,大部分供应商会给新用户白嫖免费试用 1-2 周,这里我选择腾讯云 CentOS 7.6 64位 的操作系统,当然阿里云或其他云服务器也完全 ok

首先你得有一台服务器吧-。-

云服务器

可以发现,实现前端自动化部署后开发者需要做的只是把代码推到仓库,其余的事都可以通过服务器上的自动化脚本完成

  • git push 提交代码到仓库

  • 服务器自动更新镜像

  • 镜像中自动运行 npm run build 生成构建产物

  • 服务器自动创建容器

在实现前端自动化部署后:

  • 本地运行 npm run build 生成构建产物

  • 将产物通过 ftp 等形式上传到服务器

  • git push 提交代码到仓库

在没迁移 Docker 之前,若我想更新线上网站中内容时,需要:

介绍完 docker,接着我们从零开始实现前端自动化部署

前端自动化部署

相比于真实服务器/虚拟机,容器不包含操作系统,这意味着创建/销毁容器都十分高效

高效并节省资源

使用 docker 可以使你的服务器更干净,构建用到的环境可以都放在容器中

环境隔离

在创建镜像时可以使用 tag 标记版本,如果某个版本的环境有问题,可以快速回滚到之前版本

类似 git,docker 也有版本控制

便于回滚

服务器拉取账号 yeyan1996 下的 docker-test-image 镜像

docker pull yeyan1996/docker-test-image:latest

本地提交名为 docker-test-image 的镜像,镜像名需要加上 dockerhub 账号作为前缀

docker push yeyan1996/docker-test-image:latest

开发者可以将开发环境用 docker 镜像上传到 docker 仓库,在生产环境拉取并运行相同的镜像,保持环境一致

docker 的出现解决了一个世纪难题:在我电脑上明明是好的 :)

环境统一

有人会问,环境我都可以装在自己的服务器上,为什么还要放在一个个容器里呢?这里列举使用 docker 的几个优点

了解了 docker 的概念和使用方法,接着讲讲为什么要用 docker

为什么要用 docker

使用 docker + webhook 实现前端自动化部署_第25张图片
image

由于上一步操作本地 80 端口已经被占用了,这里使用 81 端口映射到容器的 80 端口,访问 localhost:81 可以看到 nginx 启动页面

第一步拉取了官方的 nginx 镜像,第二步用基于官方 nginx 镜像创建名为 nginx-container 的容器

开发者可以将 Dockerfile 生成的镜像上传到 dockerhub 来存储自定义镜像,也可以直接使用官方提供的镜像

如果说 github 是存储代码的仓库,那么 dockerhub 就是存储镜像的仓库

DockerHub

使用 docker + webhook 实现前端自动化部署_第26张图片
image

由于本地 80 端口映射到了容器的 80 端口,所以当输入 localhost 时,会显示 index.html 文件内容

  • run:创建并运行 docker 容器

  • -d: 后台运行容器

  • 80:80:将当前服务器的 80 端口(冒号前的 80),映射到容器的 80 端口(冒号后的 80)

  • --name:给容器命名,便于之后定位容器

  • test-image:latest:基于 test-image 最新版本的镜像创建容器

镜像成功创建后,运行以下命令可以创建一个 docker 容器

创建容器

使用 docker + webhook 实现前端自动化部署_第27张图片
image
  • build:创建 docker 镜像

  • .:使用当前目录下的 dockerfile 文件

  • -t:使用 tag 标记版本

  • test-image:latest:创建名为 test-image 的镜像,并标记为 latest(最新)版本

在创建 Dockerfile 文件后,在当前目录运行以下命令可以创建一个 docker 镜像

创建镜像

此时,你的文件结构应该是

其他 Dockerfile 配置参考官方文档

  • FROM nginx:基于官方 nginx 镜像

  • COPY index.html /usr/share/nginx/html/index.html:将当前目录下 index.html 替换容器中 /usr/share/nginx/html/index.html 文件, /usr/share/nginx/html 是 nginx 默认存放网页文件的目录,访问容器 80 端口会展示该目录下 index.html 文件

  • EXPOSE 80:容器对外暴露 80 端口,主要起声明作用,真实端口映射还需要在创建容器时定义

首先创建一个 hello-docker 目录,在目录中创建 index.htmlDockerfile 文件

创建文件

尝试用 Dockerfile 创建 docker 镜像

Dockerfile 是一个配置文件,类似 .gitlab-ci.yml/package.json,定义了如何生成镜像

Dockerfile

使用 docker + webhook 实现前端自动化部署_第28张图片
image
  • Dockerfile 文件创建而成

  • 直接使用 DockerHub 或者其他仓库上现有的镜像

有两种方式获取镜像

如果把容器比作轻量的服务器,那么镜像就是创建它的模版,一个 docker 镜像可以创建多个容器,它们的关系好比 JavaScript 中类和实例的关系

  • 镜像(image)

  • 容器(container)

  • 仓库(repository)

docker 有三个重要的概念

基本概念

你可能感兴趣的:(使用 docker + webhook 实现前端自动化部署)