Docker---docker-harbor私有仓库部署与管理
文章目录
- 一：Harbor私有仓库介绍
-
- 1.1：什么是Harbor
- 1.2：Harbor的特性
- 1.3：Harbor的简易架构
- 1.4：Harbor配置文件参数
- 1.5：部署Harbor私有仓库
- 1.6：harbor仓库的维护管理
-
- 1.6.1：修改Harbor.cfg配置文件
- 1.6.2：Harbor用户管理
- 1.6.3：迁移harbor数据
一：Harbor私有仓库介绍
1.1：什么是Harbor
- Harbor是VMware公司的开源级的企业级DockerRegistry(仓库)项目，项目地址为：https://github.com/vmware/harbor
- Harbor的目标是帮助用户迅速搭建一个企业级的DockerRegistry服务。
- Harbor以docker公司开源的registry为基础，提供了管理UI，基于角色的访问控制（Role Based Access Control），AD/LDAP集成，以及审计日志（Auditlogging）等企业用户需求的功能，同时还原生支持中文。
- Harbor的每个组件都是以Docker容器的形式构建的，使用docker-compose来对它进行部署。用于部署Harbor的docker-compose模板位于/usr/local/bin/harbor/docker-compose.yml(自定义)
1.2：Harbor的特性
- 基于角色控制：用户与Docker镜像仓库通过"项目"进行组织管理,一个用户可以对多个镜像仓库在统一命名空间(projec)里有不同的权限
- 图形化用户界面：用户可以通过浏览器来浏览,检索当前Docker镜像仓库,管理项目和命名空间
- 审计管理：所有本地镜像仓库的操作可以被记录追溯，用于审计管理
- 基于镜像的复制策略：镜像可以在多个Harbor实例之间进行复制。
- 支持LDAP认证：Harbor的用户授权可以使用已经存在的用户。
- 镜像删除和垃圾回收：image可以被删除并且回收image占用的空间。
- 简单的部署功能：harbor提供了online、offline安装，此外还提供了virtualappliance安装
- harbor和docker registry的关系：harbor实质上是对docker registry做了封装，扩展了自己的业务模板。
1.3：Harbor的简易架构
- harbor主要有6大模块，默认的每个harbor的组件都被封装成一个docker container，所以可以通过compose来部署harbor，总共分为8个容器运行，通过docker-compose ps来查看
- Proxy: Harbor的registry、UI、token services等组件，都处在一个反向代理后边。该代理将来自浏览器、docker clients的请求转发到后端服务上。
- Registry: 负责存储Docker镜像，以及处理Docker push/pull请求。因为Harbor强制要求对镜像的访问做权限控制， 在每一次push/pull请求时，Registry会强制要求客户端从token service那里获得一个有效的token。
- Core services: Harbor的核心功能，主要包括如下3个服务
- UI: 作为Registry Webhook, 以图像用户界面的方式辅助用户管理镜像。1) WebHook是在registry中配置的一种机制， 当registry中镜像发生改变时，就可以通知到Harbor的webhook endpoint。Harbor使用webhook来更新日志、初始化同步job等。 2) Token service会根据该用户在一个工程中的角色，为每一次的push/pull请求分配对应的token。假如相应的请求并没有包含token的话，registry会将该请求重定向到token service。 3) Database 用于存放工程元数据、用户数据、角色数据、同步策略以及镜像元数据。
- Job services: 主要用于镜像复制，本地镜像可以被同步到远程Harbor实例上。
- Log collector: 负责收集其他模块的日志到一个地方
1.4：Harbor配置文件参数
- vim /usr/local/harbor/harbor.cfg，关于 Harbor.cfg 配置文件中有两类参数：所需参数和可选参数
- 所需参数：这些参数需要在配置文件 Harbor.cfg 中设置。如果用户更新它们并运行 install.sh脚本重新安装 Harbour，参数将生效。具体参数如下：
- hostname：用于访问用户界面和 register 服务。它应该是目标机器的 IP 地址或完全限 定的域名（FQDN），例如 20.0.0.111 或 hub.kgc.cn。不要使用 localhost 或 127.0.0.1 为主机名。
- ui_url_protocol：（http 或 https，默认为 http）用于访问 UI 和令牌/通知服务的协议。如果公证处于启用状态，则此参数必须为 https。
- max_job_workers：镜像复制作业线程。
- db_password：用于db_auth 的MySQL数据库root 用户的密码。
- customize_crt：该属性可设置为打开或关闭，默认打开。打开此属性时，准备脚本创建私钥和根证书，用于生成/验证注册表令牌。当由外部来源提供密钥和根证书时，将此属性设置为 off。
- ssl_cert：SSL 证书的路径，仅当协议设置为 https 时才应用。
- secretkey_path：用于在复制策略中加密或解密远程 register 密码的密钥路径。
- 可选参数：这些参数对于更新是可选的，即用户可以将其保留为默认值，并在启动 Harbor 后在 Web UI 上进行更新。如果进入 Harbor.cfg，只会在第一次启动 Harbor 时生效，随后对这些参数 的更新，Harbor.cfg 将被忽略。
**注意：**如果选择通过UI设置这些参数，请确保在启动Harbour后立即执行此操作。具体来说，必须在注册或在 Harbor 中创建任何新用户之前设置所需的
- auth_mode。当系统中有用户时（除了默认的 admin 用户），auth_mode 不能被修改。具体参数如下：
- Email：Harbor需要该参数才能向用户发送“密码重置”电子邮件，并且只有在需要该功能时才需要。请注意，在默认情况下SSL连接时没有启用。如果SMTP服务器需要SSL，但不支持STARTTLS，那么应该通过设置启用SSL email_ssl = TRUE。
- harbour_admin_password：管理员的初始密码，只在Harbour第一次启动时生效。之后，此设置将被忽略，并且应 UI中设置管理员的密码。请注意，默认的用户名/密码是 admin/Harbor12345。
- auth_mode：使用的认证类型，默认情况下，它是 db_auth，即凭据存储在数据库中。对于LDAP身份验证，请将其设置为 ldap_auth。
- self_registration：启用/禁用用户注册功能。禁用时，新用户只能由 Admin 用户创建，只有管理员用户可以在 Harbour中创建新用户。注意：当 auth_mode 设置为 ldap_auth 时，自注册功能将始终处于禁用状态，并且该标志被忽略。
- Token_expiration：由令牌服务创建的令牌的到期时间（分钟），默认为 30 分钟。
- project_creation_restriction：用于控制哪些用户有权创建项目的标志。默认情况下， 每个人都可以创建一个项目。如果将其值设置为“adminonly”，那么只有 admin 可以创建项目。
- verify_remote_cert：打开或关闭，默认打开。此标志决定了当Harbor与远程 register 实例通信时是否验证 SSL/TLS 证书。将此属性设置为 off 将绕过 SSL/TLS 验证，这在远程实例具有自签名或不可信证书时经常使用。
- 另外，默认情况下，Harbour 将镜像存储在本地文件系统上。在生产环境中，可以考虑 使用其他存储后端而不是本地文件系统。如 S3、Openstack Swif、Ceph 等。但需要更新common/templates/registry/config.yml 文件。
1.5：部署Harbor私有仓库
- 环境需要：
| 主机名 | IP | 所需软件 |
|---|---|---|
| harbor | 20.0.0.111 | docker-ce、harbor、docker-compose |
| client | 20.0.0.112 | docker-ce |
- 两台主机都安装docker-ce，harbor服务器还需要安装docker-compose
- harbor服务器安装harbor
wget http://harbor.orientsoft.cn/harbor-1.2.2/harbor-offline-installer-v1.2.2.tgz '//可以使用此命令下载，但是速度较慢，我使用的是已经下载好的'
[root@harbor ~]# rz -E '//上传harbor软件'
rz waiting to receive.
[root@harbor ~]# ls
anaconda-ks.cfg -bootstrap consul_0.9.2_linux_amd64.zip harbor-offline-installer-v1.2.2.tgz
[root@harbor ~]# tar zxf harbor-offline-installer-v1.2.2.tgz -C /usr/local/ '//解压到指定目录'
[root@harbor ~]# cd /usr/local/harbor/
[root@harbor harbor]# ls
common docker-compose.notary.yml harbor_1_1_0_template harbor.v1.2.2.tar.gz LICENSE prepare
docker-compose.clair.yml docker-compose.yml harbor.cfg install.sh NOTICE upgrade
[root@harbor harbor]# vi harbor.cfg
...省略内容
hostname = 20.0.0.111 '//第五行修改为监听本地地址，不可以使用localhost或者127.0.0.1'
...省略内容
[root@harbor harbor]# sh install.sh '//启动harbor'
- 查看已经生成的镜像和容器
[root@harbor harbor]# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
vmware/harbor-log v1.2.2 36ef78ae27df 3 years ago 200MB
vmware/harbor-jobservice v1.2.2 e2af366cba44 3 years ago 164MB
vmware/harbor-ui v1.2.2 39efb472c253 3 years ago 178MB
vmware/harbor-adminserver v1.2.2 c75963ec543f 3 years ago 142MB
vmware/harbor-db v1.2.2 ee7b9fa37c5d 3 years ago 329MB
vmware/nginx-photon 1.11.13 6cc5c831fc7f 3 years ago 144MB
vmware/registry 2.6.2-photon 5d9100e4350e 3 years ago 173MB
vmware/postgresql 9.6.4-photon c562762cbd12 3 years ago 225MB
vmware/clair v2.0.1-photon f04966b4af6c 3 years ago 297MB
vmware/harbor-notary-db mariadb-10.1.10 64ed814665c6 3 years ago 324MB
vmware/notary-photon signer-0.5.0 b1eda7d10640 3 years ago 156MB
vmware/notary-photon server-0.5.0 6e2646682e3c 3 years ago 157MB
photon 1.0 e6e4e4a2ba1b 4 years ago 128MB
[root@harbor harbor]# docker ps -a
CONTAINER ID IMAGE COMMAND CREATED STATUS PORTS NAMES
4abe534c5415 vmware/nginx-photon:1.11.13 "nginx -g 'daemon of…" 2 minutes ago Up 2 minutes 0.0.0.0:80->80/tcp, 0.0.0.0:443->443/tcp, 0.0.0.0:4443->4443/tcp nginx
267255c0047a vmware/harbor-jobservice:v1.2.2 "/harbor/harbor_jobs…" 2 minutes ago Up 2 minutes harbor-jobservice
99bd832087fe vmware/harbor-ui:v1.2.2 "/harbor/harbor_ui" 2 minutes ago Up 2 minutes harbor-ui
1737a64fedb7 vmware/harbor-db:v1.2.2 "docker-entrypoint.s…" 2 minutes ago Up 2 minutes 3306/tcp harbor-db
64c2115d24cd vmware/harbor-adminserver:v1.2.2 "/harbor/harbor_admi…" 2 minutes ago Up 2 minutes harbor-adminserver
d8431735ef80 vmware/registry:2.6.2-photon "/entrypoint.sh serv…" 2 minutes ago Up 2 minutes 5000/tcp registry
733608dfaff2 vmware/harbor-log:v1.2.2 "/bin/sh -c 'crond &…" 2 minutes ago Up 2 minutes 127.0.0.1:1514->514/tcp harbor-log
'//也可以使用docker-compose ps查看容器状态，但是需要在/usr/local/harbor目录下执行'
[root@harbor harbor]# pwd
/usr/local/harbor
[root@harbor harbor]# docker-compose ps
Name Command State Ports
------------------------------------------------------------------------------------------------------------------------------
harbor-adminserver /harbor/harbor_adminserver Up
harbor-db docker-entrypoint.sh mysqld Up 3306/tcp
harbor-jobservice /harbor/harbor_jobservice Up
harbor-log /bin/sh -c crond && rm -f ... Up 127.0.0.1:1514->514/tcp
harbor-ui /harbor/harbor_ui Up
nginx nginx -g daemon off; Up 0.0.0.0:443->443/tcp, 0.0.0.0:4443->4443/tcp, 0.0.0.0:80->80/tcp
registry /entrypoint.sh serve /etc/ ... Up 5000/tcp
- 上述容器解释
- harbor-adminserver：harbor系统管理接口，可以修改系统配置以及获取系统信息
- harbor-db：存储项目的元数据、用户、规则、复制策略等信息
- harbor-jobservice：harbor里面主要是为了镜像仓库之前同步使用的
- harbor-log：收集其他harbor的日志信息。rsyslogd
- harbor-ui：一个用户界面模块，用来管理registry。主要是前端的页面和后端CURD的接口
- nginx：harbor的一个反向代理组件，代理registry、ui、token等服务。这个代理会转发harbor web和docker client的各种请求到后端服务上。是个nginx。nginx负责流量转发和安全验证，对外提供的流量都是从nginx中转，它将流量分发到后端的ui和正在docker镜像存储的docker registry
- registry：存储docker images的服务，并且提供pull/push服务。harbor需要对image的访问进行访问控制，当client每次进行pull、push的时候，registry都需要client去token服务获取一个可用的token。
- redis：存储缓存信息
- webhook：当registry中的image状态发生变化的时候去记录更新日志、复制等操作。
- token service：在docker client进行pull/push的时候今天token的发放。
- 网页测试
- harbor服务器字符界面镜像仓库测试
- 此时可使用 Docker 命令在本地通过 127.0.0.1 来登录和推送镜像。默认情况下，Register 服务器在端口 80 上侦听。
[root@harbor harbor]# docker login -u admin -p Harbor12345 http://127.0.0.1 '//登陆harbor字符界面'
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store
Login Succeeded
###登录成功
[root@harbor harbor]# docker pull nginx '//先下载一个镜像用于测试'
[root@harbor harbor]# docker tag nginx:latest 127.0.0.1/test/nginx_test '//将镜像打标签'
[root@harbor harbor]# docker push 127.0.0.1/test/nginx_test ‘//上传镜像
The push refers to repository [127.0.0.1/test/nginx_test]
7b5417cae114: Pushed
aee208b6ccfb: Pushed
2f57e21e4365: Pushed
2baf69a23d7a: Pushed
d0fe97fa8b8c: Pushed
latest: digest: sha256:34f3f875e745861ff8a37552ed7eb4b673544d2c56c7cc58f9a9bec5b4b3530e size: 1362
- client客户端harbor仓库测试
- 以上操作都是在 Harbor 服务器本地操作。如果其他客户端上传镜像到 Harbor，就会报 如下错误。出现这问题的原因 Docker Registry 交互默认使用的是 HTTPS，但是搭建私有镜 像默认使用的是 HTTP 服务，所以与私有镜像交互时出现以下错误。
[root@client ~]# docker login -u admin -p Harbor12345 http://20.0.0.111
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
Error response from daemon: Get https://20.0.0.111/v2/: dial tcp 20.0.0.111:443: connect: connection refused
- 解决办法
[root@client ~]# vim /usr/lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --insecure-registry 20.0.0.111 --containerd=/run/containerd/container
d.sock ###加入--insecure-registry 20.0.0.111
[root@client ~]# systemctl daemon-reload
[root@client ~]# systemctl restart docker.service ###修改完此文件后一定要重载守护进程，并重启服务
[root@client ~]# docker login -u admin -p Harbor12345 http://20.0.0.111
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store
Login Succeeded ###登录成功
[root@client ~]# docker pull 20.0.0.111/test/nginx_test ###从harbor私有仓库下载刚才上传的镜像
Using default tag: latest
latest: Pulling from test/nginx_test
bb79b6b2107f: Already exists
5a9f1c0027a7: Pull complete
b5c20b2b484f: Pull complete
166a2418f7e8: Pull complete
1966ea362d23: Pull complete
Digest: sha256:34f3f875e745861ff8a37552ed7eb4b673544d2c56c7cc58f9a9bec5b4b3530e
Status: Downloaded newer image for 20.0.0.111/test/nginx_test:latest
20.0.0.111/test/nginx_test:latest
[root@client ~]# docker images
REPOSITORY TAG IMAGE ID CREATED SIZE
20.0.0.111/test/nginx_test latest c39a868aad02 9 days ago 133MB ###下载成功
- 从本地client客户端上传镜像到harbor私有仓库
[root@client ~]# docker pull httpd ###先下载一个普通的镜像到本地，进行实验测试
[root@client ~]# docker tag httpd:latest 20.0.0.111/test/httpd_test ###将要上传的镜像该标签
[root@client ~]# docker push 20.0.0.111/test/httpd_test ###上传本地镜像到harbor私有仓库
The push refers to repository [20.0.0.111/test/httpd_test]
850c0c904ff3: Pushed
c264370aa736: Pushed
e6f7f192bbc8: Pushed
6d80bc0bd923: Pushed
d0fe97fa8b8c: Mounted from test/nginx_test
latest: digest: sha256:60b82a0c2599b217d5231d3a54eb9f691ac8bc15b66f8f5f79f383f87c9c51ce size: 1366
1.6：harbor仓库的维护管理
1.6.1：修改Harbor.cfg配置文件
- 可以使用 docker-compose 来管理 Harbor，命令必须在与 docker-compose.yml 相同的目录中运行。
- 修改harbor.cfg配置文件的时候要注意：请先停止现有的 Harbour 实例并更新 Harbor.cfg；然 后运行 prepare 脚本来填充配置；最后重新创建并启动 Harbour 的实例。
[root@harbor harbor]# docker-compose down -v '//关闭删除所有容器'
[root@harbor harbor]# vim harbor.cfg
[root@harbor harbor]# ./prepare '//重新填充配置'
[root@harbor harbor]# docker-compose up -d '//开启容器'
1.6.2：Harbor用户管理
- 测试（client客户端操作）
[root@client ~]# docker rmi 20.0.0.111/test/nginx_test:latest
[root@client ~]# docker rmi 20.0.0.111/test/httpd_test:latest ###删除之前创建的镜像
[root@client ~]# docker logout 20.0.0.111
Removing login credentials for 20.0.0.111 ###注销登录
[root@client ~]# docker login -u wukong -p Harbor12345 http://20.0.0.111 ###以刚创建的“wukong”用户登录
WARNING! Using --password via the CLI is insecure. Use --password-stdin.
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store
Login Succeeded
[root@client ~]# docker pull 20.0.0.111/test/nginx_test ###下载此镜像
Using default tag: latest
latest: Pulling from test/nginx_test
bb79b6b2107f: Already exists
5a9f1c0027a7: Pull complete
b5c20b2b484f: Pull complete
166a2418f7e8: Pull complete
1966ea362d23: Pull complete
Digest: sha256:34f3f875e745861ff8a37552ed7eb4b673544d2c56c7cc58f9a9bec5b4b3530e
Status: Downloaded newer image for 20.0.0.111/test/nginx_test:latest
20.0.0.111/test/nginx_test:latest
[root@client ~]# docker tag httpd:latest 20.0.0.111/test/httpd_test02 ###改标签
[root@client ~]# docker push 20.0.0.111/test/httpd_test02 ###上传镜像到私有仓库
The push refers to repository [20.0.0.111/test/httpd_test02]
850c0c904ff3: Mounted from test/httpd_test
c264370aa736: Mounted from test/httpd_test
e6f7f192bbc8: Mounted from test/httpd_test
6d80bc0bd923: Mounted from test/httpd_test
d0fe97fa8b8c: Mounted from test/nginx_test
latest: digest: sha256:60b82a0c2599b217d5231d3a54eb9f691ac8bc15b66f8f5f79f383f87c9c51ce size: 1366
- 开发人员上传和下载的权限都有，访客有下载权限，但是没有上传权限
1.6.3：迁移harbor数据
- 移除 Harbor 服务容器同时保留镜像数据/数据库
- 在Harbor服务器上操作
docker-compose down -v ###关闭harbor仓库
- 如需重新部署，需要移除 Harbor 服务容器全部数据
持久数据，如镜像，数据库等在宿主机的/data/目录下,日志在宿主机的
/var/log/Harbor/目录下。
rm -rf /data/database/
rm -rf /data/registry/