【转】CU划分小实验
好了，废话不多说，咱们不搞理论的，没有太多废话！基于HM 9.0
要想实际的打出CU划分的最终结果，我想了一个办法，就是修改HEVC的decoder，在CU最终划分的结果的地方把像素换成一个特殊值，比如luma改成0，就变成黑色的了。
怎么改呢，我代码才看了没多久，只好先研究一下decoder：
作为屌丝程序员，上来俺就找decoder的main函数，俺知道main函数里面这句话是关键：
|
1
2
|
// call decoding function
cTAppDecTop.decode();
|
不多说，进去，在TAppDecTop::decode()函数里面俺知道这一句也是关键：
|
1
|
bNewPicture = m_cTDecTop.decode(nalu, m_iSkipFrame, m_iPOCLastDisplay);
|
不多说，进去，然后就豁然了一下，下面是一个对nalu.m_nalUnitType switch的语句，是对不同的nal分别解码，我要管的不是pps也不是sps就直接看解码一个slice：
|
1
|
return
xDecodeSlice(nalu, iSkipFrame, iPOCLastDisplay);
|
xDecodeSlice这个函数比较长，不过我就看上了一句话，这个函数的结尾部分：
|
1
2
|
// Decode a picture
m_cGopDecoder.decompressSlice(nalu.m_Bitstream, pcPic);
|
TDecGop::decompressSlice(TComInputBitstream*pcBitstream, TComPic*& rpcPic)这个函数俺也就看上一句话：
|
1
|
m_pcSliceDecoder->decompressSlice( pcBitstream, ppcSubstreams, rpcPic, m_pcSbacDecoder, m_pcSbacDecoders);
|
这个函数很关键，里面有这样的一个大循环：
|
1
2
|
for
( Int iCUAddr = iStartCUAddr; !uiIsLast && iCUAddr < rpcPic->getNumCUsInFrame(); iCUAddr = rpcPic->getPicSym()->xCalculateNxtCUAddr(iCUAddr) )
{
/*循环里面的代码*/
}
|
看到这个地方你想到了啥呢，没错，这是对LCU一个个循环的地方，在这个循环里面调用了m_pcCuDecoder->decodeCU( pcCU, uiIsLast ); decodeCU就是对一个LCU进行解码，到decodeCU里面看一看，发现他调用了xDecodeCU，而xDecodeCU是一个递归函数，是分别解码各个最终划分的CU，xDecodeCU里面有一个是否要一分为四的判断：
|
1
|
if
( ( ( uiDepth < pcCU->getDepth( uiAbsPartIdx ) ) && ( uiDepth < g_uiMaxCUDepth - g_uiAddCUDepth ) ) || bBoundary )
|
如果条件不满足，不就说明到达最终的CU的划分的地方了吗，好，在if出来的地方填上这样的一句话：
|
1
|
std::cout<<
"uiLPelX uiTPelY uiRPelX uiBPelY "
<<uiLPelX<<
" "
<<uiTPelY<<
" "
<<uiRPelX<<
" "
<<uiBPelY<<std::endl;
|
运行解码器，解码一个I帧，输出的部分结果如下：
|
1
2
3
4
5
6
7
8
9
10
|
uiLPelX uiTPelY uiRPelX uiBPelY 0 0 15 15
uiLPelX uiTPelY uiRPelX uiBPelY 16 0 31 15
uiLPelX uiTPelY uiRPelX uiBPelY 0 16 15 31
uiLPelX uiTPelY uiRPelX uiBPelY 16 16 31 31
uiLPelX uiTPelY uiRPelX uiBPelY 32 0 63 31
uiLPelX uiTPelY uiRPelX uiBPelY 0 32 15 47
uiLPelX uiTPelY uiRPelX uiBPelY 16 32 31 47
uiLPelX uiTPelY uiRPelX uiBPelY 0 48 15 63
uiLPelX uiTPelY uiRPelX uiBPelY 16 48 31 63
uiLPelX uiTPelY uiRPelX uiBPelY 32 32 63 63
|
可以明显看出这一个CU的划分是如下结果：
于是我就想个办法把每个小块的的两个坐标点存下来不就好了吗，于是在typedef.h我添加了如下代码：
|
1
2
3
4
5
6
7
8
|
//cheng
struct
PtPair
{
UInt _pt1x;
UInt _pt1y;
UInt _pt2x;
UInt _pt2y;
};
|
定义一个struct，保存一组坐标。在class TDecSlice里面添加一个私有成员：
|
1
|
std::vector<PtPair> m_listLastCU
|
用来保存一个slice里面所有的最终CU的划分结果
修改TDecCu::decodeCU的函数参数，把在class TDecSlice里面的m_listLastCU传递过去：
|
1
|
Void TDecCu::decodeCU( TComDataCU* pcCU, UInt& ruiIsLast, std::vector<PtPair>& list )
|
调用改为：
|
1
|
m_pcCuDecoder->decodeCU ( pcCU, uiIsLast, m_listLastCU );
|
classTDecCu也添加一个私有成员用来保存class TDecSlice传递过来的vector的指针：
|
1
|
std::vector<PtPair>* m_plistPt;
|
Void TDecCu::decodeCU( TComDataCU* pcCU,UInt& ruiIsLast, std::vector<PtPair>& list )函数里面开头部分添加：
m_plistPt = &list;
decodeCU函数变成如下结果：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
|
Void TDecCu::decodeCU( TComDataCU* pcCU, UInt& ruiIsLast, std::vector<PtPair>& list )
{
//cheng
m_plistPt = &list;
//
if
( pcCU->getSlice()->getPPS()->getUseDQP() )
{
setdQPFlag(
true
);
}
#if !REMOVE_BURST_IPCM
pcCU->setNumSucIPCM(0);
#endif
// start from the top level CU
xDecodeCU( pcCU, 0, 0, ruiIsLast);
}
|
在TDecCu::xDecodeCU( TComDataCU* pcCU, UInt uiAbsPartIdx, UIntuiDepth, UInt& ruiIsLast)这个函数里面的打印坐标信息的那一句话后面添加上：
|
1
2
|
pt._pt1x = uiLPelX; pt._pt1y = uiTPelY; pt._pt2x = uiRPelX; pt._pt2y = uiBPelY;
m_plistPt->push_back(pt);
|
这样的话，解码完一帧，m_listLastCU里面就保存了CU最终划分的结果。
TDecSlice::decompressSlice开头需要把vector清空以便于在解码下一帧的时候vector中的信息要重新记录：
|
1
|
m_listLastCU.clear();
|
最后在TDecSlice::decompressSlice的LCU的for循环的后面添加绘制CU最终边框的代码：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
|
Pel* pY = rpcPic->getPicYuvRec()->getLumaAddr();
UInt stride = rpcPic->getPicYuvRec()->getStride();
for
(UInt index = 0; index < m_listLastCU.size(); index++)
{
for
(UInt y = m_listLastCU[index]._pt1y; y <= m_listLastCU[index]._pt2y; y++)
{
for
(UInt x = m_listLastCU[index]._pt1x; x <= m_listLastCU[index]._pt2x; x++)
{
if
(y == m_listLastCU[index]._pt1y
/*|| y == m_listSCU[index]._pt2y*/
)
pY[y*stride + x] = 0;
if
(x == m_listLastCU[index]._pt1x
/*|| x == m_listSCU[index]._pt2x*/
)
pY[y*stride + x] = 0;
}
}
}
|
解码一帧图像使用YUV播放器查看效果：
所有的CU划分的结果很是明显，但是LCU的结果却看不出来！
怎么办呢，在TDecSlice::decompressSlice函数里面添加一个类似的vector记录一下LCU，在class TDecSlice里面再添加一个私有成员std::vector<PtPair>m_listLCU;，TDecSlice::decompressSlice函数开始的地方清空vector：m_listLastCU.clear();
在LCU的大大的for循环里面添加代码记录LCU划分的信息：
|
1
2
3
4
5
6
7
8
|
UInt xpel = pcCU->getCUPelX();
UInt ypel = pcCU->getCUPelY();
UInt width = pcCU->getWidth(0);
UInt height = pcCU->getHeight(0);
//std::cout<<"xpel :"<<xpel<<"ypel :"<<ypel<<"width : "<<width<<"height :"<<height<<std::endl;
PtPair pt;
pt._pt1x = xpel; pt._pt1y = ypel; pt._pt2x = xpel + width; pt._pt2y = ypel + height;
m_listLCU.push_back(pt);
|
然后在刚才的画黑框的代码后面添加LCU的画白框的代码：
|
1
2
3
4
5
6
7
8
9
10
11
12
13
|
for
(UInt index = 0; index < m_listLCU.size(); index++)
{
for
(UInt y = m_listLCU[index]._pt1y; y <= m_listLCU[index]._pt2y; y++)
{
for
(UInt x = m_listLCU[index]._pt1x; x <= m_listLCU[index]._pt2x; x++)
{
if
(y == m_listLCU[index]._pt1y
/*|| y == m_listLCU[index]._pt2y*/
)
pY[y*stride + x] = 255;
if
(x == m_listLCU[index]._pt1x
/*|| x == m_listLCU[index]._pt2x*/
)
pY[y*stride + x] = 255;
}
}
}
|
运行解码器再试一下：
你可以很明显的看到LCU的大白色块！哈哈！
后面其实你可以发现：
和这个一模一样
注：以上画框的结果只能适用于I帧，对于P/B帧，由于解码我修改重建值也就修改了了P/B参考帧的像素值，导致P/B帧画框会出现一定混乱，不过对于P/B帧，vector里面存放的数据应该是对的！