环路滤波Loop Filter

前言

由于FDCT变换后的量化（Quant）过程是一个有损（lossy）过程，会照成信息损失。再经过反量化（Rescale）和IDCT后恢复的矩阵与原矩阵存在一定的误差，特别宏块的边界，会照常恢复的图像呈现方块化，而方块化的图片对于后面的图片预测存在极大的影响，所以我们需要通过环路滤波进行去方块化

真假边界

真边界

即原图像所存在的纹理细节。例如上图foreman的脸部边界

假边界

即原图像平坦区域由于量化操作而导致块边界失真，相邻块之间过度不平滑，呈现出来的边界。例如上图白色块之间的边界

判定

当且仅当以下三个条件满足时才进行滤波

• $|p_0-q_0|<\alpha (inde{x}_A)$
• $|p_1-p_0|<\beta (inde{x}_B)$
• $|q_1-q_0|<\beta (inde{x}_B)$

其中

QP为量化中的参数，范围[0,51]，offset给编码器提供一个控制滤波器性能的偏移量，然后我们针对$\alpha (inde{x}_A)$和$\beta (inde{x}_B)$查表：

滤波过程

滤波强度Bs

Bs=4时，强度最大；Bs=0时，无需进行滤波。色度块的滤波强度同亮度块
我们所希望的是：
针对平坦区域（低频），使用较强的滤波强度
针对细节区域（高频），使用较弱的滤波强度

滤波顺序

依照从左至右，依上而下的顺序，即

• 16x16的亮度块：a b c d e f g h
• 8x8色度块：i j k l

当Bs = {1,2,3}时

1. 更新$p_0$和$q_0$
   $$\begin{gathered} {\Delta }_0=((q_0-p_0)<<2+(p_1-q_1)+4)>>3 \\ {p}_0^{\prime }=p_0+{\Delta }_0 \\ {q}_0^{\prime }=q_0-{\Delta }_0 \end{gathered}$$
2. 对$p_0$和$q_0$进行限幅
   即将$p_0$和$q_0$限制在范围$[-c_0,c_0]$内。$c_0$取值为$c_1$，若同时满足$|p_2-p_0|<\beta (inde{x}_B)$和$|q_2-q_0|<\beta (inde{x}_B)$，则$c_0=c_1+1$

若满足$|p_2-p_0|<\beta (inde{x}_B)$，则

3. 更新$p1$
   $$\begin{gathered} {\Delta }_{p1}=(p_2+(p_0+q_0+1)>>1-2p_1)>>1 \\ {p}_1^{\prime }=p_1+{\Delta }_{p1} \end{gathered}$$
4. 对$p1$限幅
   将$p1$限定在范围$[-c_1,c_1]$，其中$c_1$的值查表所得
   

同样的，若满足$|q_2-q_0|<\beta (inde{x}_B)$，则

5. 更新$q1$
   $$\begin{gathered} {\Delta }_{q1}=(q_2+(q_0+p_0+1)>>1-2q_1)>>1 \\ {q}_1^{\prime }=q_1+{\Delta }_{q1} \end{gathered}$$
6. 对$q1$限幅
   限幅规则同$p1$

当Bs = 4时

1. 更新$p_0$和$q_0$
   · 若$|p_0-q_0|<\alpha >>2+2$时
   $$\begin{gathered} p_0^{\prime }=(p_2+2p_1+2p_0+2q_0+q_1+4)>>3 \\ {q}_0^{\prime }=(q_2+2q_1+2q_0+2p_0+p_1+4)>>3 \end{gathered}$$
   · 否则
   $$\begin{gathered} p_0^{\prime }=(2p_1+p_0+q_1+2)>>2 \\ {q}_0^{\prime }=(2q_1+q_0+p_1+2)>>2 \end{gathered}$$
2. 若满足$|p_2-p_0|<\beta (inde{x}_B)$，则更新$p_1$和$p_2$
   $$\begin{gathered} p_1^{\prime }=(p_2+p_1+p_0+q_0+2)>>2 \\ {p}_2^{\prime }=(2p_3+3p_2+p_1+p_0+q_0+4)>>3 \end{gathered}$$
3. 若满足$|q_2-q_0|<\beta (inde{x}_B)$，则更新$q_1$和$q_2$
   $$\begin{gathered} q_1^{\prime }=(q_2+q_1+q_0+q_0+2)>>2 \\ {q}_2^{\prime }=(2q_3+3q_2+q_1+q_0+p_0+4)>>3 \end{gathered}$$

---