RDOQ过程浅析（一文说清楚）

介绍一下RDOQ过程，比较小众的领域，有视频编码项目经历的可以了解一下。

文章目录

• 前言
• 一、RDOQ背景
• 二、RDOQ过程
  • 1.预量化过程阶段
  • 2.最优系数决策（OCD）阶段
  • 3.最后⼀个⾮零位置决策（ LNPD）阶段
  • 4.零值设置（ZS）阶段
• 三、总结

---

前言

        虚怀若谷，戒骄戒躁。扎实脚步，层层攀登。

一、RDOQ背景

        近些年视频数据爆炸式增长，相关的视频压缩编码标准不断被提出。其中，视频压缩编码标准AVS3能够较好地减轻视频数据的传输和存储负担。而率失真优化量化（RDOQ）技术在第三代音频视频编码标准（AVS3）中提供了显著的编码增益，其中涉及到对最优量化系数的复杂计算，一定程度上增加了量化的复杂性。

二、RDOQ过程

1.预量化过程阶段

        在预量化阶段，RDOQ基于量化参数（QP）为每个变换系数执行预量化操作，首先计算变换系数在每个频率位置（u，v）处的初始标量量化值，具体预量化计算公式如下所示：

其中c(u,v)、q和θ为变换系数、量化的步长和量化的偏移量。

2.最优系数决策（OCD）阶段

        在最优系数决策（Optimal Coefficient Decision, OCD）阶段，需要对多个候选者 （0，，）基于zig-zag扫描进⾏详尽的搜索以确定每个量化系数的最优值输出，表中示了与可选量化值0、和之间的关系。

其中，zig-zag扫描如下图所示：

按照zig-zag扫描顺序遍历TU中的每一个系数。针对每个系数，对每个可选的量化值计算其RD代价，选择RD代价最小的一个作为最佳量化值，具体公式如下：

3.最后⼀个⾮零位置决策（ LNPD）阶段

        在最后一个非零位置决策(Last Non-zero Position Decision, LNPD)阶段，也是基于率失真优化准则来选择。在当前TU块中从第一个非零系数开始扫描，如果当前位置为非零系数，并假设它是最后一个非零系数位置，计算累加RD代价与之前比较，并选择两者代价较低的作为最后一个非零位置。重复该过程，直到扫描到TU中最后一个系数。最后，将最后一个非零位置后的系数置零，由此得到了最终的最后非零量化系数位置。

4.零值设置（ZS）阶段

        在零值设置（Zero Set）阶段，将最后一个非零系数位置后的系数设为零(按照zig-zag顺序)。具体的原理图如下所示：

三.总结

可以用下图来表示一个完成的RDOQ过程：