Kubernetes增强型调度器Volcano

Volcano调度器背景

Volcano是基于Kubernetes的批处理系统，为华为开源。Volcano方便AI、大数据、基因、渲染等诸多行业通用计算框架接入，提供高性能任务调度引擎，高性能异构芯片管理，高性能任务运行管理等能力。

Volcano调度的意义

K8s自带的资源调度器，有一个明显的特点：依次调度每个容器。但是在AI训练或者大数据，这种必须多个容器同时配合执行的情况下，容器依次调度是无法满足需要的。因为这些计算任务包含的容器需求是要么同时成功，要么就全部都不执行。

例如，某个大数据应用需要跑1个Driver容器+10个Executor容器。如果容器是一个个调度，假设在启动最后一个executor容器时，由于资源不足而调度失败无法启动时，那么前面的9个Executor容器虽然运行着，但是没有实际的成效，相当于一种资源的浪费。在AI训练中同样也是所有的容器必须同时运行，才能进行训练。如果当中一个出现问题就相当于白跑。

故而出现如下情景：总体资源需求<集群资源的时候，普通的K8s自带调度器可以运行，当总体资源小于集群资源需求的时候，K8s自带调度器会依次调度容器，那么就有部分容器无法调度，占着容器的资源，造成资源的死锁现象出现，要避免这种情况的出现就得引入增强型的K8s资源调度器。

源调度领域

当用户向K8s申请容器所需要的计算资源（CPU、MeM、GPU），调度器负责挑选出满足各项规格要求的节点来部署这些容器。通常，满足各项要求的节点并非唯一，且水位（节点已有负载）各不相同，不同的分配方式最终得到的分配率存在差异，因此，调度器的一项核心任务就是以最终资源利用率最优的目标从众多候选机器中挑出最合适的节点。

除了资源纬度上的要求，实际调度中还有容灾和干扰隔离上的考虑，比如同一应用的容器不允许全部部署到同一台节点上，很多应用会要求每台节点上只允许有一个实例。另外，某些应用组件之间还存在互斥关系（如资源争抢），严重影响应用的性能，因此也不允许它们被部署到同一台节点上。这些限制条件的引入，使得想新写一款调度器，能替代原生K8S调度器并不容易。