x264_macroblock_analyse(x264_t *h ) 分析
x264_macroblock_analyse(x264_t *h )
功能
初始化；
对于I Slice，遍历所有16x16和4x4预测模式，得到最小Cost所对应的分块方式和预测模式；
对于P Slice，如果宏块周围有Skip模式的宏块，检测当前块是否是Skip块，如果不是Skip块，遍历所有可能的块划分模式，对每种模式进行运动估计并计算Cost，计算intra对应的16x16和4x4的Cost(包括色度)，比较所有的Cost，选最小的Cost对应的模式为最终模式。
输入项目
x264_t *h
程序逻辑
如附图3所示：
//×××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××××
本文对x264_macroblock_analyse()及其子函数的流程进行详尽的分析。希望对大家有所帮助。
参考x264_050530版本。
1、void x264_macroblock_analyse( x264_t *h )
首先初始化函数，然后进入一个选择语句
if( h->sh.i_type == SLICE_TYPE_I )
{
……..
}
else if( h->sh.i_type == SLICE_TYPE_P )
{
……..
}
else if( h->sh.i_type == SLICE_TYPE_B )
{
………
}
很明显，这是对不同类型的块采用不同的处理步骤，我们就进入SLICE_TYPE_P深入分析一下吧，因为P类型包含有I模式的检测，SLICE_TYPE_B只是SLICE_TYPE_P的简单延伸而已。
if( h->param.analyse.b_fast_pskip )
{
if( h->param.analyse.i_subpel_refine >= 3 )
analysis.b_try_pskip = 1;
else if( h->mb.i_mb_type_left == P_SKIP ||
h->mb.i_mb_type_top == P_SKIP ||
h->mb.i_mb_type_topleft == P_SKIP ||
h->mb.i_mb_type_topright == P_SKIP )
b_skip = x264_macroblock_probe_pskip( h );
}
条件进入后首先判断skip模式，如果满足skip模式则判断结束，否则继续下面的判断。
x264_mb_analyse_inter_p16x16( h, &analysis );
if( flags & X264_ANALYSE_PSUB16x16 )
{
if( h->param.analyse.b_mixed_references )
x264_mb_analyse_inter_p8x8_mixed_ref( h, &analysis );
else
x264_mb_analyse_inter_p8x8( h, &analysis );
}
分析16×16和8×8模式。模式代价值分别保存在和analysis.l0.me16x16.cost 、analysis.l0.i_cost8x8中。
if( ( flags & X264_ANALYSE_PSUB16x16 ) && analysis.l0.i_cost8x8 <
analysis.l0.me16x16.cost )
{
…….
}
如果8×8代价值小于16×16，则进行子宏块分割的判断。
for( i = 0; i < 4; i++ )
{
x264_mb_analyse_inter_p4x4( h, &analysis, i );
if( analysis.l0.i_cost4x4[i] <
analysis.l0.me8x8[i].cost )
{
………
}
依次对4个子宏块（8×8）进行处理，x264_mb_analyse_inter_p4x4()函数实际上是得到4个4×4块的代价和analysis.l0.i_cost4x4[i]。如果4×4模式优于8×8模式，才进行8×8块的细分割。细分割代码分析略。
if( ( flags & X264_ANALYSE_PSUB16x16 ) && analysis.l0.i_cost8x8 <
analysis.l0.me16x16.cost + i_thresh16x8 )
{
x264_mb_analyse_inter_p16x8( h, &analysis );
……..
x264_mb_analyse_inter_p8x16( h, &analysis );
……...
}
紧接着检测16×8和8×16模式
x264_me_refine_qpel( h, &analysis.l0.me16x16 );
……..
帧间模式选择后，对该模式进行亚象素精细搜索。以进一步减少误差。值得注意的是，在前面每个模式的检测时，也要进行亚象素搜索，见x264_me_search_ref（）函数的最后几行。这里的亚象素搜索是在前面基础上再进行精细搜索的。二者亚象素搜索（包括半象素和1/4象素）的次数由subpel_iterations[i][4]确定，而i由编译参数subme确定，看运行帮助：
-m, --subme
5=best
实际上subme就是决定模式选择前后亚象素估计的点数。Subme越大，压缩效率越好，计算量越大。
x264_mb_analyse_intra( h, &analysis, i_cost );
if( h->mb.b_chroma_me && !analysis.b_mbrd &&
( analysis.i_sad_i16x16 < i_cost
|| analysis.i_sad_i8x8 < i_cost
|| analysis.i_sad_i4x4 < i_cost ))
{
x264_mb_analyse_intra_chroma( h, &analysis );
analysis.i_sad_i16x16 += analysis.i_sad_i8x8chroma;
analysis.i_sad_i8x8 += analysis.i_sad_i8x8chroma;
analysis.i_sad_i4x4 += analysis.i_sad_i8x8chroma;
}
分析宏块的帧内编码，包括亮度和色度。亮度的16×16、8×8、4×4代价分别存在analysis.i_sad_i16x16、analysis.i_sad_i8x8、analysis.i_sad_i4x4中，色度代价存在analysis.i_sad_i8x8chroma中。
i_intra_type = I_16x16;
i_intra_cost = analysis.i_sad_i16x16;
if( analysis.i_sad_i8x8 < i_intra_cost )
{
i_intra_type = I_8x8;
i_intra_cost = analysis.i_sad_i8x8;
}
if( analysis.i_sad_i4x4 < i_intra_cost )
{
i_intra_type = I_4x4;
i_intra_cost = analysis.i_sad_i4x4;
}
if( i_intra_cost < i_cost )
{
i_type = i_intra_type;
i_cost = i_intra_cost;
}
比较得到最佳的帧内预测模式。
if( i_intra_cost < i_cost )
{
i_type = i_intra_type;
i_cost = i_intra_cost;
}
帧内代价与帧间代价比较，得到最佳的预测模式。
整个P类型就分析完了，然后看看条件跳出以后执行什么
if( !analysis.b_mbrd )
x264_mb_analyse_transform( h );
判断变换的时候是采用8×8变换还是4×4变换。
这样，怎么函数就分析完了^_^，下面看看调用的重要子函数。
2、static inline int x264_macroblock_probe_pskip( x264_t *h )
该函数直接调用了x264_macroblock_probe_skip(h, 0);看看里边有什么东东。
if( !b_bidir )
{
x264_mb_predict_mv_pskip( h, mvp );
mvp[0] = x264_clip3( mvp[0], h->mb.mv_min[0], h->mb.mv_max[0] );
mvp[1] = x264_clip3( mvp[1], h->mb.mv_min[1], h->mb.mv_max[1] );
h->mc.mc_luma( h->mb.pic.p_fref[0][0], h->mb.pic.i_stride[0],
h->mb.pic.p_fdec[0], FDEC_STRIDE,
mvp[0], mvp[1], 16, 16 );
}
先得到预测矢量MVp，然后对MVp进行饱和处理，再进行相应的运动补偿。
h->dctf.sub16x16_dct( dct4x4, h->mb.pic.p_fenc[0], FENC_STRIDE,
h->mb.pic.p_fdec[0], FDEC_STRIDE );
for( i8x8 = 0, i_decimate_mb = 0; i8x8 < 4; i8x8++ )
{
/* encode one 4x4 block */
for( i4x4 = 0; i4x4 < 4; i4x4++ )
{
const int idx = i8x8 * 4 + i4x4;
quant_4x4( h, dct4x4[idx], (int(*)[4][4])def_quant4_mf, i_qp,
0 );
scan_zigzag_4x4full( dctscan, dct4x4[idx] );
i_decimate_mb += x264_mb_decimate_score( dctscan, 16 );
if( i_decimate_mb >= 6 )
{
/* not as P_SKIP */
return 0;
}
}
}
进行dct变换（注意是4×4变换，不是8×8！！！），然后对每个8×8块中的4×4对进行量化，zigzag扫描，得到8×8块的i_decimate_mb值。如果量化后系数中只有零星的非零系数，且都是1或-1，i_decimate_mb就比较小。if(i_decimate_mb<6)，可以将系数全变为0。注意，其他模式下的残差编码也用到了该处理过程。
程序后面是对色度进行处理，与亮度类似，不进行讨论。
3、static void x264_mb_analyse_inter_p16x16 ( x264_t *h, x264_mb_analysis_t
*a )
直接看核心吧。
for( i_ref = 0; i_ref < h->i_ref0; i_ref++ )
{
循环搜索搜索每个参考帧
x264_mb_predict_mv_16x16( h, 0, i_ref, m.mvp );
得到MVp，
x264_mb_predict_mv_ref16x16( h, 0, i_ref, mvc, &i_mvc );
得到邻块的MV、前一帧对应位置的MV，可用来预测搜索起点，加速运动估计。
x264_me_search_ref( h, &m, mvc, i_mvc, p_halfpel_thresh );
运动估计函数。下面将详细讨论
再接着就是一个多参考帧的中止判断，略。
4、void x264_me_search_ref( x264_t *h, x264_me_t *m, int (*mvc)[2], int
i_mvc, int *p_halfpel_thresh )
bmx = pmx = x264_clip3( ( m->mvp[0] + 2 ) >> 2, mv_x_min, mv_x_max );
bmy = pmy = x264_clip3( ( m->mvp[1] + 2 ) >> 2, mv_y_min, mv_y_max );
bcost = COST_MAX;
COST_MV( pmx, pmy );
bcost -= p_cost_mvx[ bmx<<2 ] + p_cost_mvy[ bmy<<2 ];
for( i = 0; i < i_mvc; i++ )
{
const int mx = x264_clip3( ( mvc[i][0] + 2 ) >> 2, mv_x_min,
mv_x_max );
const int my = x264_clip3( ( mvc[i][1] + 2 ) >> 2, mv_y_min,
mv_y_max );
if( mx != bmx || my != bmy )
COST_MV( mx, my );
}
COST_MV( 0, 0 );
先检测MVp点，再检测其他预测矢量，最后检测原点（0，0）。注意mvp[0
]保留的是1/4精度，所以除以4就变成了整象素精度。
然后就是具体的搜索算法。代码不贴，直接解释吧。^_^
case 菱形搜索：用小菱形模板反复搜索。菱形算法还有大模板搜索，这里没用到。
case 六边形：先用六边形模板反复搜索，粗匹配。
然后用小菱形模板搜索一次，得到最终的整象素运动矢量
case UMHexagonS：看我主页中的注释，呵呵，是基于JM9.5的。
case 连续消除法(SEA) 全搜索法的快速运算。这里不介绍了。
if( h->mb.i_subpel_refine >= 2 )
{
int hpel = subpel_iterations[h->mb.i_subpel_refine][2];
int qpel = subpel_iterations[h->mb.i_subpel_refine][3];
refine_subpel( h, m, hpel, qpel, p_halfpel_thresh, 0 );
}
亚象素搜索，在x264_macroblock_analyse()函数我已经介绍过了
5、void x264_me_refine_qpel( x264_t *h, x264_me_t *m )
该函数一开始得到半象素、1/4象素搜索的次数（菱形小模板），分别为hpel、q hpel，然后调用refine_subpel(),去看看!
if( hpel_iters )
{
int mx = x264_clip3( m->mvp[0], h->mb.mv_min_spel[0],
h->mb.mv_max_spel[0] );
int my = x264_clip3( m->mvp[1], h->mb.mv_min_spel[1],
h->mb.mv_max_spel[1] );
if( mx != bmx || my != bmy )
COST_MV_SAD( mx, my, -1 );
}
检测MVp的小数精度。
for( i = hpel_iters; i > 0; i-- )
{
odir = bdir;
omx = bmx;
omy = bmy;
COST_MV_SAD( omx, omy - 2, 0 );
COST_MV_SAD( omx, omy + 2, 1 );
COST_MV_SAD( omx - 2, omy, 2 );
COST_MV_SAD( omx + 2, omy, 3 );
if( bmx == omx && bmy == omy )
break;
}
对半象素精度进行hpel_iters次小菱形搜索。后面有1/4象素精度的qpel_iters次小模板搜索，略。
6、static uint8_t *get_ref( uint8_t *src[4], int i_src_stride, uint8_t
*dst, int * i_dst_stride, int mvx,int mvy, int i_width, int i_height )
该函数得到亚象素搜索时参考块的指针。
src1、src2分别指向半象素精度块。1/4搜索时需要临时插值，就是pixel_avg()函数的只能功能。
值得注意的是变量correction的作用，当作是1/4插值时的偏移量吧。N个人问过我，其实结合1/4象素插值，仔细推导一下就出来了。
7、static void x264_mb_analyse_intra( x264_t *h, x264_mb_analysis_t *a, int
i_cost_inter )
依次检测Intra_16x16、Intra4x4、Intra8x8的最佳模式。
值得注意，if(subme<=1)
h->pixf.mbcmp是求sad值
else
h->pixf.mbcmp是求satd值
另外，对与Intra4x4、Intra8x8，此时就要进行真正的变换量化、反变换反量化、重建，因为要为后续的块做参考。而且，就算其系数值很小，也不能改变cbp，切记切记。
具体分析略。
8、static inline void x264_mb_analyse_transform( x264_t *h )
就是对残差进行4x4、8x8的satd变换，比较绝对和值，值较小对应的尺寸用于变换的尺寸。