使用 minikube 启动 rook 集群

rook.io

  今天我想谈一下 rook 这个项目，我目前工作的方向是分布式存储，这个领域里 Ceph 是接近于标准级别的解决方案了，而 Rook 就是 Ceph 来应对 cloud native 这个大趋势，给出的答案。虽然 Rook 不是出自 Ceph 社区，但已经是 Ceph 所官方承认的适配 Kubernetes 环境的解决方案。所以我自然对这个项目非常感兴趣，加之这周四和周五刚刚参加了 Cepholacon APAC 2018 北京大会，现场听了 Rook 的创始人 Bassam Tabbara 的演讲，同时也看到了 Sage Weil （Ceph 创始人）对 Rook 的赞许。我虽然一直很关注 Rook，但因为懒癌甚至从来都没有手动搭建过一次 Rook 的集群，所以我觉得是时候做点什么了。

Rook 参考文档

  操作方法我参考的是 Rook 的官方文档：
  rook 快速入门

minikube

  要启动 Rook，前提条件是要有一个可用的 Kuberntes 集群，手动搭建这还真不是个简单的事情，好在 Kubernetes 提供了一个极为简便的解决方案：minikube。minikube 是在一个单节点上提供单节点的 Kubenetes 环境，虽然功能有限，但作为 prototype 是再合适不过了，而且重点是使用非常方便。

  minikube 本身的安装并不复杂，我参考的是这篇文档 minikube release page，如果读者有需要的话，过后我可以再补一篇 minikube 的安装文档。

  安装好后，minikube 默认会使用 VirtualBox 作为 Hypervisor，所以建议启动前先装好 VirtualBox。然后使用命令行启动 minikube，这里要注意，因为功夫网的存在，所以不用代理 minikube 是不能正常工作的。原因是 minikube 是 google 的项目，自然镜像是存在 google 的服务器上，google 是功夫网重点打击对象，所以造成了这许多不便。好在还是有解决的办法，minikube 支持使用代理，支持 http 或者 https 的代理，已经搭好科学上网环境的朋友们直接把本地的代理地址填进去就好了：

minikube start --docker-env=HTTP_PROXY=http://192.168.1.6:8123

  我之前也写了不少科学上网的文章，到这大家应该理解是为什么了吧，我之前讲的是用 Shadowsocks，但 Shadowsocks 用的是 Socks5 协议，这里有需要做转换了，具体方法请参考我的另外一篇博客：如何将 SOCK5 转换成 HTTP。

  minikube 启动后要把自己的服务也跑在 kubernetes 环境里，所以要先把自己的几个 pod 跑起来才能正常工作，可以通过这个命令来查看 minikube 的 pod 是否工作正常。如果输出状态都是 running，那么证明 minikube 已经就绪了。

$ kubectl get pods --all-namespaces=true
NAMESPACE     NAME                                    READY     STATUS    RESTARTS   AGE
kube-system   kube-addon-manager-minikube             1/1       Running   0          5m
kube-system   kube-dns-54cccfbdf8-xn98f               3/3       Running   0          4m
kube-system   kubernetes-dashboard-77d8b98585-42t8q   1/1       Running   0          4m
kube-system   storage-provisioner                     1/1       Running   0          4m

如何启动 Rook

  首先需要用 git 下载 rook 代码：

git clone https://github.com/rook/rook.git

  然后使用如下命令启动 rook operator 服务，rook operator 是作为 kubernetes 的插件存在的，提供了一些 kubernetes API 的扩展来实现 Rook 自己的一些概念：

cd rook/cluster/examples/kubernetes
kubectl create -f rook-operator.yaml

# 用这个命令查看 rook operator 的启动状态
kubectl -n rook-system get pod

  当 Rook operator 就位之后，接下来就可以启动 Rook cluster 了。首先要创建一个名为 rook-cluster.yaml 的 spec 文件，内容如下。

apiVersion: v1
kind: Namespace
metadata:
  name: rook
---
apiVersion: rook.io/v1alpha1
kind: Cluster
metadata:
  name: rook
  namespace: rook
spec:
  dataDirHostPath: /var/lib/rook
  storage:
    useAllNodes: true
    useAllDevices: false
    storeConfig:
      storeType: bluestore
      databaseSizeMB: 1024
      journalSizeMB: 1024

  然后使用命令启动：

kubectl create -f rook-cluster.yaml

  启动成功的输出结果如下：

$ kubectl -n rook get pod
NAME                              READY     STATUS    RESTARTS   AGE
rook-ceph-mgr0-1279756402-wc4vt   1/1       Running   0          5m
rook-ceph-mon0-jflt5              1/1       Running   0          6m
rook-ceph-mon1-wkc8p              1/1       Running   0          6m
rook-ceph-mon2-p31dj              1/1       Running   0          6m
rook-ceph-osd-0h6nb               1/1       Running   0          5m

  不过因为我是在自己的 Mac Air 上做的，磁盘空间有限，没能成功启动，所以大家在做这个实验时，至少要保证有 10 G 以上的空余空间。

2018-03-25 11:57:20.044310 I | rook-ceph-mon0: 2018-03-25 11:57:20.043975 7f82f4f3af00  0 ceph version 12.2.4 (52085d5249a80c5f5121a76d6288429f35e4e77b) luminous (stable), process (unknown), pid 16
2018-03-25 11:57:20.044416 I | rook-ceph-mon0: 2018-03-25 11:57:20.044088 7f82f4f3af00 -1 error: monitor data filesystem reached concerning levels of available storage space (available: -2147483648%!b(MISSING)ytes)
2018-03-25 11:57:20.044430 I | rook-ceph-mon0: you may adjust 'mon data avail crit' to a lower value to make this go away (default: 5%!)(MISSING)
2018-03-25 11:57:20.044440 I | rook-ceph-mon0: 
2018-03-25 11:57:20.046996 I | rook-ceph-mon0: 2018-03-25 11:57:20.044088 7f82f4f3af00 -1 error: monitor data filesystem reached concerning levels of available storage space (available: -2147483648%!b(MISSING)ytes)
2018-03-25 11:57:20.047099 I | rook-ceph-mon0: you may adjust 'mon data avail crit' to a lower value to make this go away (default: 5%!)(MISSING)
2018-03-25 11:57:20.047115 I | rook-ceph-mon0: 
failed to run mon. failed to start mon: Failed to complete rook-ceph-mon0: exit status 28

结语

  以我的浅见来看，Rook 是值得投入精力来好好学习的，我认为它有着光明的未来，而且项目还处于早期阶段，代码逻辑还不复杂，便于日后对这个项目的发展有着更深的理解。期待有更多同路人的出现。