论文阅读笔记：Programmable Calendar Queues for High-speed Packet Scheduling

文章：Programmable Calendar Queues for High-speed Packet Scheduling

来源：NSDI 2020

摘要：

传统的数据包调度程序将重点放在数据包的优先传输上。调度通常是通过较粗粒度的队列级优先级（在当今的交换机中）或者通过细粒度的数据包级优先级（PIFO之类的最新提议）来实现的。不幸的是，流量管理器接收到数据包时确定的固定数据包优先级不足以支持这类调度算法，这些调度算法要求数据包的优先级根据其在网络中花费时间的变化而变化。

在本文中，我们重新审视了“日历队列”抽象，并指出它适合于不仅需要优先级划分而且还需要动态升级数据包优先级的调度算法。

我们展示了用数据平面原语或可动态修改队列调度状态的控制平面命令来实现日历队列抽象。此外，当与可编程交换管道配合使用时，我们可以实现可编程日历队列，该队列可以模拟多种调度策略。

我们使用实现LSTF，Fair Queueing和pFabric变体的案例研究来证明这种抽象的力量，分别提供更强的延迟保证，突发友好的公平性和短流的无饥饿优先级，最后用自定义模拟器和小型测试平台评估与这些调度策略相关的收益。

背景:

当前存在问题：
网络调度算法都需要动态优先级的概念，流中各个数据包的优先级会在流的生存期内变化——通常随数据流发送的字节数，数据流传输速度或网络内部数据包所花费的时间而变化。此类调度算法可提供更丰富的应用程序级别优先级和性能保证，例如最短作业优先以最小化平均流完成时间，最早截止日期优先以实现所有消息的及时传送或公平排队。

交换机级别对多个细粒度优先级的支持可以帮助实现这些调度算法，但是想要高效地以线速实现这些算法方面存在许多挑战：

• 实施严格且细粒度的优先级是昂贵的，特别是在涉及高带宽和成千上万Tbps级别的唯一流。
• 现有的交换机对优先级的支持不允许在交换机缓冲区内的数据包停留期间动态更改数据包的优先级

可重置交换机：
可重新配置匹配表（RMT）模型，可通过提供受限的匹配+动作（M + A）处理，可以以Terabits / s的速度运行，匹配任意数据包头字段并执行简单的数据包处理动作。当数据包到达交换机时，相关的标头字段将通过用户定义的解析器提取，并传递到用户定义的M + A阶段的流水线中，每个阶段都对提取的标头的子集进行匹配，并对任何标头执行简单的处理原语或动作。

流量管理器（TM）：
TM主要负责两项任务：（1）在多个输入端口试图同时向同一输出端口发送数据包时，对数据包进行缓冲。（通过先进先出FIFO缓冲队列）（2）当与该端口相连的链路就绪时，在每个输出端口上调度以接受新的数据包。

可编程调度：
可编程调度的最新提议提出了基于PIFO的可编程调度，PIFO通过使用可编程优先级队列来表达自定义调度算法，并通过某些外部计算（在最终主机上或在可编程交换机的入口管道上）为数据包确定等级，此等级最终确定数据包在优先级队列中的顺序。通过编写不同的程序以计算不同种类的数据包等级（例如，期限或虚拟时间），可以使用PIFO实现不同的调度算法。

可编程日历队列：

目前已有的调度算法:
现有的调度算法可以通过在数据包排队时计算包的固定优先级，数据包优先级通常具有特定的范围（可以用整数表示），如果计算的优先级需要落在有限的范围内，许多调度算法无法使用细粒度的优先级排队方案来实现。

考虑公平排队的例子（如在WFQ或STFQ中），其中对于每个到达的数据包，根据当前的轮数和该流中前一个数据包的结束轮数来计算结束轮数，然后数据包按结束轮数递增的顺序进行传输。由于该算法周期性地增加当前轮数。通过将包的结束轮数映射到固定的优先级，可以尝试使用细粒度的优先级排队方案来实现公平排队。由于缓冲包的优先级不能改变，映射函数需要是单调的，也就是说，它需要将更高的结束轮数映射到更高的优先级，但这样映射函数将耗尽任何有限范围的优先级，然后交换机将无法为传入的数据包指定有意义的优先级。

再举个例子，最早截止日期优先（EDF）的情况下，流中的每个数据包都与时钟截止时间相关联，并且数据包需要按照截止日期的递增顺序进行调度，如果将数据包的优先级作为数据包截止时间的单调函数来计算，则交换机将随着时钟时间的推移而耗尽优先级表示空间。

因此引入了可编程日历队列的概念:

可以把可编程的日历队列理解为具有固定数量的存储桶或FIFO队列（例如N），每个存储队列或FIFO队列都计划在接下来的N个时间段内使用。

首先，调度算法决定对传入的数据包进行调度的距离，即从[0，N-1]中选择一个将来的时间段以将数据包排队，这类似于PIFO中的排名计算。也就是选择在日历队列的某一天进行出队，相当于确认优先级。

其次，必须有某个机制决定一个时期何时结束，并进入下一个时期，结束时将停止当前周期中的数据包入队，并允许在未来的N个周期内重新使用相应的队列资源。

第三，当CQ前进到下一个周期时，必须适当地修改管道状态，以确保适当地计算传入数据包的优先级。这步是关键，因为可以对队列的优先级进行修改，一般是将队列优先级还原成最低，克服了数据包优先级固定的弊端。

我们列出支持这些形式的定制的数据包处理管道的接口方法：

• CQ.enqueue（n）：由入口管道用于将当前数据包调度到未来的n个周期。
• CQ.dequeue（）：出口管道用于获取当前时间段的缓冲数据包（如果有）。
• CQ.rotate（）：管道使用它来推进CQ，以便它可以在下一个周期开始传输数据包。

使用PCQ的优点：
当将单独的CQ周期映射到单独的物理交换机队列时，CQ调度程序仅需要维护交换机队列的优先级（队列优先级属于粗粒度），且调度程序不需要昂贵的排序或比较来确定数据包的传输顺序。 更重要的是，CQ轮换涉及在每个周期结束时从一个交换队列到另一个交换队列的确定性和可预测的过渡， 可以使用未来可实现的RMT硬件中的数据平面原语或通过交换机的控制平面来实现这种过渡。

具体实例：

headQ表示头队列，也就是目前在输出数据包的队列。
TailQ表示可重用的队列，一般只剩下一个特殊循环数据包。

红色表示的就是特殊的循环数据包，用于确定队列是否为空，当数据包循环进入队列1且队列1只有这个数据包时，证明队列被清空。

当队列清空时，日历队列进到下一日，,把headQ+1，且可重用的tailQ也+1，则原来队列的高优先级重置为低，实现了对队列优先级的随时间调整，即实现了粗粒度的优先级随时间动态调整。