【HEVC学习与研究】44、HEVC量化系数的解析——反量化过程

【同其他模块一样，HEVC标准文档中只实现了反量化过程，量化过程交由编码器实现。这样可使得编码器采用如自适应量化AQ、率失真优化量化RDOQ等更优的量化方法。这里首先简要记录标准文档的实现，然后再在参考代码中寻找对应的实现。具体可参见标准文档8.6.3】

1、输入与输出数据

反量化过程的输入数据主要有：
①(xTbY,yTbY)：当前亮度TB的左上顶点相对于整帧左上顶点的相对位置坐标；
②nTbS：以边长表示当前TB的大小；
③cIdx：表示当前TB所属的颜色分量；
④qP：表示所选量化参数。
该过程的输出数据主要有：
反量化之后的变换系数矩阵d[x][y]，大小为(nTbS)×(nTbS)。

2、数据推导过程

(1)变量bdShift

如果cIdx ==0 (为亮度分量)，则bdShift = BitDepthY + log2(nTbS) - 5；

如果cIdx !=0 (为色度分量)，则bdShift = BitDepthC + log2(nTbS) - 5;

(2)量化系数level列表levelScale

该列表指定为levelScale[i] = {40, 45, 51, 57, 64, 72}, i∈[0,5]。

(3)量化矩阵m[x][y]

①如果标志位scaling_list_enabled_flag为0，则m[x][y]=16；

②若scaling_list_enabled_flag为1，则m[x][y]=ScalingFactor[sizeId][matrixId][x][y]；其中，sizeId表示TB大小的索引值，对于4×4、8×8、16×16、32×32分别为0、1、2、3；matrixId表示矩阵的索引，依据是sizeId、CuPredMode和cIdx（也就是块尺寸、预测模式和颜色分量）。

(4)量化系数d[x][y]

d[x][y] = Clip3( −32768, 32767, ( ( TransCoeffLevel[ xTbY ][ yTbY ][ cIdx ][ x ][ y ] * m[ x ][ y ] * levelScale[ qP%6 ] << (qP / 6 ) ) + ( 1 << ( bdShift − 1 ) ) ) >> bdShift )。
即变换系数由量化后的变换系数与变换矩阵、量化系数列表、qp和偏移值等数据计算得到，并且取值范围限制于[-32768,32767]之间。

实现方法：

Void TComTrQuant::xDeQuant(Int bitDepth, const TCoeff* pSrc, Int* pDes, Int iWidth, Int iHeight, Int scalingListType )
{  
  const TCoeff* piQCoef   = pSrc;
  Int*   piCoef    = pDes;
  
  if ( iWidth > (Int)m_uiMaxTrSize )
  {
    iWidth  = m_uiMaxTrSize;
    iHeight = m_uiMaxTrSize;
  }
  
  Int iShift,iAdd,iCoeffQ;
  UInt uiLog2TrSize = g_aucConvertToBit[ iWidth ] + 2;

  Int iTransformShift = MAX_TR_DYNAMIC_RANGE - bitDepth - uiLog2TrSize;

  iShift = QUANT_IQUANT_SHIFT - QUANT_SHIFT - iTransformShift;
  /*
  因此iShift的实际取值为
  iShift = bitDepth + uiLog2TrSize + （QUANT_IQUANT_SHIFT(20) - QUANT_SHIFT(14) -MAX_TR_DYNAMIC_RANGE(15))
		 = bitDepth + uiLog2TrSize - 9
		 = bdShift - 4;
  */

  TCoeff clipQCoef;

  if(getUseScalingList())//默认为false
  {
    //......    
  }
  else
  {
    iAdd = 1 << (iShift-1);
    Int scale = g_invQuantScales/*levelScale[]数组*/[m_cQP.m_iRem/*qp%6*/] << m_cQP.m_iPer/*qp/6*/;

    for( Int n = 0; n < iWidth*iHeight; n++ )
    {
      clipQCoef = Clip3( -32768, 32767, piQCoef[n] );
      iCoeffQ = ( clipQCoef * scale + iAdd ) >> iShift;
	  /*
	  实际取值iCoeffQ = ( clipQCoef * scale + 1 << (iShift-1) ) >> iShift;
					 = ( clipQCoef * g_invQuantScales[m_cQP.m_iRem] << m_cQP.m_iPer + 1 << (iShift-1) ) >> iShift;
					 = ( clipQCoef * g_invQuantScales[m_cQP.m_iRem] << m_cQP.m_iPer + 1 << (bdShift - 4 - 1) ) >> (bdShift - 4);
					 = ( clipQCoef * 2^4 *g_invQuantScales[m_cQP.m_iRem] << m_cQP.m_iPer + 1 << (bdShift - 1) ) >> bdShift;
	  由于scaling_list_enabled_flag默认为false，因此m[x][y]默认为16，即公式中的2^4。
	  */
      piCoef[n] = Clip3(-32768,32767,iCoeffQ);
    }
  }
}