大规模 IoT 边缘容器集群管理的几种架构-6-个人体验及推荐
前文回顾
- 大规模 IoT 边缘容器集群管理的几种架构-0-边缘容器及架构简介
- 大规模 IoT 边缘容器集群管理的几种架构-1-Rancher+K3s
- 大规模 IoT 边缘容器集群管理的几种架构-2-HashiCorp 解决方案 Nomad
- 大规模 IoT 边缘容器集群管理的几种架构-3-Portainer
- 大规模 IoT 边缘容器集群管理的几种架构-4-Kubeedge
- 大规模 IoT 边缘容器集群管理的几种架构-5-总结
️Reference: IoT 边缘计算系列文章
概述
在前文，我列出以下几种解决方案：
- Rancher + K3s
- HashiCorp 解决方案 --- Nomad + Docker
- Portainer + Docker
- Kubeedge
其中，Rancher + K3s 是基于且兼容 K8s 的解决方案；Kubeedge 是构建于 K8s 之上的，但是核心的 Kubeedge 架构是完全另外一套体系；而 Hashicorp 解决方案和 Portainer 解决方案可以说是和 K8s 没有关系，主要是基于 Docker 等容器的。而且也可以基于其他的驱动（如 podman 等等）
笔者基于边缘架构主要为：单片 arm 开发板的情况，对以上的各个方案进行了深入的体验。
在深入体验另外 2 个容器平台：hashicorp nomad 和 portainer 时，明显感触到：相比 k8s k3s，这 2 个更适合物联网场景。(本章先抛开 KubeEdge 不谈，KubeEdge 我个人认为是适合更复杂的、和业务耦合更深或者需要调度边缘 AI 的高级边缘计算体系。)
K8s 不适合物联网，原因有：
- 资源占用高，
- 对网络要求高
- 网络模型复杂。
K3s 只是（部分）解决了资源占用的问题，但是后两个问题仍然存在。
Notes
K3s 是完全兼容 K8s 的发行版，从 1.23 之后，随着 K8s 功能的增加，K3s 也变得越来越重。 根据 K3s 安装要求:
- 对于 arm64 设备，操作系统必须使用 4k 页面大小；
- CPU/内存 最低是 1 核 512MB 内存，推荐是 2 核 1G; 但是实际应用场景中，要求会更高，一般内存都是 2G 起步。
- 更要命的是对存储的要求，K3s 默认启动需要的 K8s 镜像，差不多就需要占用 4-6 G 的空间，如果运行 etcd, 那么 SD 卡这种边缘场景常见的存储是无法满足的。 关于网络模型，近期 K3s 也添加了和 tailscale 整合 的功能以进一步简化网络模型。但是 K8s 自带的 主机网络/Service IP/Cluster IP 是绕不过去的。
这两个，相比 k3s 都更轻量。而且对网络要求不高，甚至所有设备可以只用一套 server 端管理。
网络模型也很简单，主机网络就行。
此外，这两个针对物联网场景还有特殊优化，如 网络单向联通；边缘端断线情况下优化；支持管理非 docker 资源等等。
Rancher + K3s 模型在边缘存在的问题
在实际应用中，Rancher + K3s 的边缘部署架构如下：
落地案例更明显：
- 1 套：“云”中部署一套 Rancher 集群，Rancher 负责管理下属所有的“边”中的 K3s 集群，Rancher 集群中同时可以部署云端的业务应用，负责和边缘侧业务系统同步， 以及下发数据或指令。
- N 套："边" 设备中安装 K3s，K3s 中部署“边”的业务应用，供“端”连接使用。这里一个"边"就是需要一套 K3s 集群的，也就是说既有 K3s Worker, 也有 K3s Master.
- “端”作为业务应用的最边缘端，通过网络连接“边”，完成业务组网，形成以“边”为中心的业务应用。
这样的架构在实际应用中，存在什么问题呢？
"边"端存储容量
很多边端设备只有 8G 存储，除去系统和一些必要的软件包，空间就剩 4 - 6 G 了，而且 K8s 是对存储空间有强制 GC 的。那么极端情况下，可能 K3s master 都 pull 不下来完整的镜像包，导致系统报错，K3s 启动失败。
"边"端存储性能不足
"边"端存储主要是 SD 卡或 emmc 存储，如果下边挂载较多 K3s worker. K3s Master 还面临存储性能 IO 不足的情况。
"边"端 K3s Master 和 Worker 对网络要求高
由于 K3s 是完全兼容 K8s 的，而 K8s 的 watch-list 机制是为稳定的数据中心场景设计的。在边端，也对网络要求很高。但是这在边端是不可能的情况，在实践中，边端出现：
- Master 和 Worker 长时间不通
- Master 和 Worker 时不时不通
- Worker 长时间离线
- DNS 网络异常
- Master 能连 Worker, Worker 连不到 Master
- Master 不能连 Worker, Worker 能连 Master
- Master 和 Worker 间带宽很小
- Master 和 Worker IP 地址变动
- ...
各种各样网络不稳定的情况太常见了，以上任何一种情况，都可能导致 K3s worker 上应用异常、K3s master 异常甚至整个 K3s 边端集群异常。
这一点是基于 K8s 的边缘架构存在的最大问题
"云"端和"边"端对网络要求也高 异常后无法自愈
"云"端和"边"端是通过 Rancher 的 Agent 来连接的，走的是 websocket 协议。
但是实际应用中，还是发现"云"端和"边"端对网络要求也高，"云"端要管理"边"端，是有大量的数据要实时同步的，网络出现异常后，也会导致"边"端离线，无法自愈重连。
"边"端自愈能力差
因为"边"端复杂的网络情况与 K8s 架构的不相容，导致实际应用中，"边"端自愈能力很差。
在"边"端异常的情况下，十有八九都是需要人工登录边端处置恢复的。
"边"端对 CPU 和 内存资源要求也高
"边"端是一套完整的 K8s 集群，那么这些服务都是需要启动的：
- etcd 或 K3s kine + sqlite
- k8s api server
- k8s scheduler
- k8s 各种 controller
- CRI: 容器运行时 containerd
- CNI: 网络插件
- CSI: 至少也是 local-path pod
- CoreDNS
- Metrics Server
- Ingress: Traefik
- kubelet
- kubeproxy
除了这些 pod, 还需要主机级别的服务：
- IPTables 或 nftables
- Netfilter
- Overlay fs
- ...
这么一大堆 Pod 和服务都要启动，对边缘端的 CPU 和 内存资源也是巨大的消耗。
"边"端网络模型复杂
还是 K8s 带来的问题，"边"端是一套完整的 K8s/k3s 集群，那么"边"端网络模型自然包括：
- Host Network
- Service Network
- Cluster Network
- DNS
要实现 K8s CNI 模型，又会引入 overlay 网络。
甚至为了实现"云" "边" "端" 的联通，可能还需要引入：
- 隧道网络
- 边缘网关网络
- ...
进一步提升了网络的复杂性！
导致出现问题非常难以处理，简单问题复杂化。
小结
Rancher + K3s, 在边缘计算场景下的网络拓扑架构是：
- 1 套：“云”中部署一套 Rancher 集群，Rancher 负责管理下属所有的“边”中的 K3s 集群，Rancher 集群中同时可以部署云端的业务应用，负责和边缘侧业务系统同步， 以及下发数据或指令。
- N 套："边" 设备中安装 K3s，K3s 中部署“边”的业务应用，供“端”连接使用。这里一个"边"就是需要一套 K3s 集群的，也就是说既有 K3s Worker, 也有 K3s Master.
- “端”作为业务应用的最边缘端，通过网络连接“边”，完成业务组网，形成以“边”为中心的业务应用。
K3s 是基于 K8s 的兼容实现，同时因为网络拓扑架构，导致这种架构存在以下问题：
- "边"端存储容量不足
- "边"端存储性能不足
- "边"端无法满足 K3s Master 和 Worker 对网络的高要求
- "云"端和"边"端对网络要求也过高 异常后无法自愈
- "边"端自愈能力差
- "边"端对 CPU 和 内存资源要求也高
- "边"端网络模型复杂
而且每个问题几乎无解。
边缘计算场景对容器编排的需求
结合上述场景，我理解的边缘计算场景对容器编排的需求：
- "边"端最好一个 agent, 不要引入过多其他镜像资源，也不要引入过多其他组件
- 资源占用轻量，agent CPU 内存 存储都消耗极少
- 最好统一"云"端管理，"边"端不需要再有一个消耗资源的管理端
- 弱网环境适应性强
- 自愈能力强
- 不要额外再引入其他网络模型，最好能直接基于主机网络运行，也不强依赖 DNS
那么基于 Docker 的边缘容器集群管理方案：
- HashiCorp Nomad
- Portainer
就表现地更有优势。
Portainer 边缘计算
对于 Edge, Portainer 有专门优化，可以参考左侧的 Edge 架构。
- "云"端负责管理，portainer server 位于云端
- "边"端都是 Edge Agent
- "云" "边"不需要双向通信，而是"边"端通过直连或隧道定期去 Server 端 pull 信息
以上是针对网络模型的优化，使其更适合边缘计算的场景。
另外，Poratiner 的 Agent 非常轻量级，只使用大约 10MB 的内存，而且边缘端就只需要部署这一个 Agent, 这就是为什么它也可以在硬件资源有限的边缘设备上运行。唯一的依赖就是边缘端需要安装有 Docker.
开源版边缘功能
- Edge Agent 默认网络策略：pull
- Edge Compute 相关模块和菜单：
- Edge Groups: 将一组边缘设备/环境通过静态/动态的方式归为一个 Edge Group, 方便批量管理
- Edge Stacks: 类似 Docker Compose 的概念，可以将一套边缘服务批量推向一个或所有的 Edge Group
- Edge Jobs: 类似 crontab 的功能，在边缘端批量运行 job.
- 边缘应急特性支持：
- Interl OpenAMT
- FDO
- 管理边缘端 OS 层文件系统（通过 docker linux socket 实现）
通过这些功能，Portainer 可以：
- 边缘端通过 pull 心跳在复杂网络条件下保持与 Portainer Server 的联通和受管
- 通过 Edge Compute 的 Edge Groups/Edge Stacks/Edge Jobs 模块，实现对边缘端的批量服务部署和 job 部署
但是开源版相比商业版，阉割的功能较多，比如开源版无法实现一键批量 onboarding 等重要边缘功能。
商业版额外功能
- 一键 onboaring: 边缘设备一键批量安装
- 安全通信：在复杂网络条件下，离线条件下，实现基于隧道的连接。
- Edge Devices: 边缘设备管理
- Waiting Room: 等候室，有选择地连接请求接入 server 端的边缘设备
小结
个人认为，相比 Rancher + k3s 的方案，portainer 的边缘计算解决方案有以下突出优势：
- 资源占用少
- 网络模型针对边缘网络优化
更详细来说，这些功能特性相比 Rancher + K3s 的更适合边缘场景：
- "云"端 Server, "边"端只有 Agent
- Edge Agent 轻量，运行内存 10MB 左右
- Edge Agent pull 模型，针对边缘网络适应性强
- 没有引入其他网络模型，也不强依赖 DNS
但是，开源版 portainer 也存在明显的功能缺失，最主要的功能缺失是：
- 一键 onboaring: 边缘设备一键批量安装
的功能。
HashiCorp Nomad 边缘计算
HashiCorp Nomad 自 1.3 版本以来，针对边缘端增加了很多实用功能：
- 1.3 引入：Nomad 原生服务发现（简单场景下不再需要 Consul 组件）
- 1.4 引入：
- 健康检查
- Nomad Variables（简单场景下不再需要 Vault 组件）
- 1.5 引入：
- 节点动态元数据，更方便 Node 动态管理
- 1.6 引入：
- Node Pool 节点池概念，更方便节点批量管理
使得其在边缘端，不再需要依赖：
- Cosul
- Vault
这 2 个组件，仅通过 Nomad Agent 就可以实现边缘端的：
- 容器编排管理
- 基本服务发现和管理
- 变量参数/环境变量/配置管理
等功能。
与 Portainer 类似，其在边缘端也只有一个 Edge Agent. 内存占用也仅为 20-40 MB 左右。
Nomad 支持地理上遥远的客户端，这意味着 Nomad 服务器集群不需要在客户端附近运行。(K8s 就做不到这样。)
此外，断开连接的客户端的 allocations （分配） 可以正常重新连接，处理边缘设备遇到网络延迟或临时连接丢失的情况。
这里特别提到 Nomad 的 2 个参数：
max_client_disconnect
如果不设置此属性，Nomad 将运行其默认行为：当 Nomad 客户机的心跳失败时，Nomad 将把该客户机标记为停机 (down)，并把 allocations 分配标记为丢失 (lost)。Nomad 将自动在另一个客户端上安排新的分配。但是，如果关闭的客户端重新连接到服务器，它将关闭其现有的分配。这是次优的，因为 Nomad 将停止在重新连接的客户端上运行分配，只是为了放置相同的分配。(K8s 的行为也是，且只能是这样。)
对于许多边缘工作负载，特别是具有高延迟或不稳定网络连接的工作负载，这是破坏性的，因为断开连接的客户端并不一定意味着客户端关闭。Allocations 可以继续在临时断开连接的客户端上运行。对于这些情况，就需要设置 max_client_disconnect 属性，以正常处理断开连接的客户端分配。
如果设置了 max_client_disconnect ，当客户端断开连接时，Nomad 仍将在另一个客户端上安排分配。但是，当客户端重新连接时：
- Nomad 将重新连接的客户端标记为就绪 (ready)。
- 如果有多个作业版本，Nomad 将选择最新的作业版本并停止所有其他分配。
- 如果 Nomad 将丢失的分配重新调度到新客户端，并且新客户端具有更高的节点等级，则 Nomad 将继续新客户端中的分配并停止所有其他客户端。
- 如果新客户端具有更差的节点排名或存在平局，则 Nomad 将恢复重新连接的客户端上的分配并停止所有其他客户端。
这是具有高延迟或不稳定网络连接的边缘工作负载的首选行为，尤其是在断开分配是有状态的情况下。
举例来说：
在某一个边缘设备中运行有 1 个 web 服务，此时，边缘设备与 （边缘容器管理的） Server 端断开连接
- 在 K8s 中，就是 Node Unknown 或 NotReady 的状态，会认为 web 服务已宕机，会在另外一台边缘设备中启动 web 服务；在恢复连接后，发现最新的实例是在另一台边缘设备中，那么前一台设备的服务会被关闭。对于使用该 web 的用户来说，可能就是在边缘设备重新连接到 （边缘容器管理的） Server 端后发现 web 服务异常（被管理端关闭）
- 在启用该参数的 Nomad 中，Node 会是 lost 状态，分配的服务会是 Unknown 状态。会在另外一台边缘设备中启动 web 服务；在恢复连接后，发现 web 服务正常运行，关闭后启动的 web 服务。对于使用该 web 的用户来说，体验是一直没有中断的。
Template change_mode
另外还有一个参数，是 Template 块下的 change_mode
将 Template 节 change_mode 设置为 noop。默认情况下， change_mode 设置为 restart ，如果您的客户端无法连接到 Nomad 服务器，这将导致任务失败。由于 Nomad 在边缘数据中心上调度此作业，因此如果边缘客户端与 Nomad 服务器断开连接（从而断开服务发现），则服务将使用先前的模板配置。
小结
个人认为，相比 Rancher + k3s 的方案，HashiCorp Nomad 的边缘计算解决方案有以下突出优势：
- 资源占用少 - 边缘只有 Nomad Agent
- 管理端和 Agent 端可以物理距离很远 - 天南地北的所有边缘设备可以通过一个云端中心来管理
- 相关参数针对边缘网络优化 - 如
max_client_disconnect
更详细来说，这些功能特性相比 Rancher + K3s 的更适合边缘场景：
- "云"端 Server, "边"端只有 Agent
- Nomad Agent 轻量，运行内存 20-40MB 左右
- Nomad Agent 与 Server 心跳检测是基于 pull 模型，针对边缘网络适应性强
- 专为边缘设计的
max_client_disconnect参数 - 没有引入其他网络模型，也不强依赖 DNS
另外，相比开源版 portainer, Nomad 还有一重优势，即：
- 一键 onboaring: 边缘设备一键批量安装甚至是预安装
得益于 Nomad 的良好架构，其天生是为大规模容器编排而设计的，可以做到使用 Terraform 或 Ansible 一键批量部署，甚至是预安装（烧录）. 典型如 Nomad Agent 配置，统一如下：
data_dir = "/opt/nomad/data"
bind_addr = "0.0.0.0"
client {
enabled = true
servers = [""]
} 总结
在 IoT 边缘容器集群管理领域，基于 K8s 的解决方案（包括 Rancher + K3s) 明显不太适应，笔者体验 2 年左右坑太多了，主要原因是：
- 资源消耗高
- 网络条件要求高
- 网络模型复杂
- 自愈能力差
- 引入了过多额外组件
但是，HashiCorp Nomad，Portainer 相比 k8s k3s, 在物联网/边缘计算领域是更有优势的。值得一试。因为它们：
- 轻量：只有一个 Agent 且内存占用极低
- 针对边缘网络做了特殊优化
- 没有引入复杂网络模型（如 Service Network, Pod Network, Overlay Network..., 主要依赖 Host Network, 容器端口映射，顶多多一个 bridge 网络）, 不依赖 DNS
- 自愈能力强
- 没有引入了过多额外组件，就多了一个 Agent
我个人更推荐使用 Nomad (小规模/家庭场景可以使用 Portainer).
以上.
如果您有更好的经验, 欢迎交流探讨~
三人行, 必有我师; 知识共享, 天下为公. 本文由东风微鸣技术博客 EWhisper.cn 编写.