H264学习
最近在给MP4文件做CENC加密时需要解析H264的slice头部，才发现对于H264的一些基本概念没有搞清楚。小小的记录一下：
1. 如何判断一个H264的帧类型。帧类型包括IDR/I/P/B.
看一下标准的描述：
nal_unit( NumBytesInNALunit )
{
forbidden_zero_bit All f(1)
nal_ref_idc u(2)
nal_unit_type u(5)
NumBytesInRBSP = 0
for( i = 1; i < NumBytesInNALunit; i++ )
{
if( i + 2 < NumBytesInNALunit && next_bits( 24 ) = = 0x000003 )
{
rbsp_byte[ NumBytesInRBSP++ ] b(8)
rbsp_byte[ NumBytesInRBSP++ ] b(8)
i += 2
emulation_prevention_three_byte /* equal to 0x03 */ f(8)
}
else
rbsp_byte[ NumBytesInRBSP++ ] b(8)
}
}
第一个byte中的后5位 NAL_UNIT_TYPE 标志了帧类型。标准里帧类型的描述为：
在这张表里，区分了IDR帧和非IDR帧类型。NAL_UNIT_TYPE=5即IDR帧， 但是非IDR帧中I/P/B帧的类型并没有明显的区分。查看了一些H264文件，发现I/P/B帧的NAL_UNIT_TYPE通常为1，也就是“Coded slice of a non-IDR picture”。看来通过NAL_UNIT_TYPE是无法彻底区分帧类型了，事实上也是。对于H264帧类型，必须解析到Slice层。
NAL_UNIT_TYPE等于1，2，5时是存在 slice_header头的。NAL_UNIT_TYPE为2，3，4的区别见下一节。
slice头的结构如下：
slice_header( )
{
first_mb_in_slice ue(v)
slice_type ue(v)
pic_parameter_set_id ue(v)
frame_num u(v)
if( !frame_mbs_only_flag )
{
field_pic_flag u(1)
if( field_pic_flag )
bottom_field_flag u(1)
}
if( nal_unit_type = = 5 )
idr_pic_id ue(v)
....
}
Slice的类型，见下图：
1、I宏块是指每个块或宏块是通过其所在的Slice中的之前的已经编码过的数据进行预测的；
2、P宏块是指宏快或宏块分割是通过List0中的一个参考图像来进行预测的；
3、B宏块是指宏快或宏块分割是通过List0和/或List1中的参考图像来进行预测的；
4、SI和SP：即Switch I和Switch P，是一种特殊的编解码条带，可以保证在视频流之间进行有效的切换，并且解码器可以任意的访问。比如，同一个视频源被编码成各种码率的码流，在传输的过程中可以根据网络环境进行实时的切换；
5、SI宏块是一种特殊类型的内部编码宏块，按Intra_4x4预测宏块编码。
Slice类型对应的slice_type值，见下图：
在上图中，I/SI条带的值包括2,4,7,9。 P条带包括0,3,5,8。B条带包括1,6。
可能会感觉有些奇怪，0到4与5到9居然是重复的。答案是这样的，slice_type的值在5到9的范围内表示，除了当前条带的编码类型，所有当前编码图像的其他条带的slice_type的值应与当前条带的slice_type的值一样，或者等于当前条带的slice_type的值减5。
回到问题的原点，如何判断I/P/B。
首先判断NALU类型是否是5，如果是，那么以后连续出现的NALU类型为5的NALU就属于 IDR 帧（一种特殊的 I 帧）;
如果NALU不是5,则要进一步判断 slice_type 是否是 7, 如果是, 那么连续出现的 slice_type=7的slice 就属于 I 帧; 如果 slice_type=2，那么就要判断与当前 slice 同属一帧的 slice 是否都是 I slice, 如果都是, 那么这些 slice 就属于一个 I 帧。
码流中一般不会出现复杂的情况，粗略的判断标准就是 slice_type 是否等于2或7。
2. 编码条带数据分割块A/B/C区别
我查了几个h264文件，没有在实际中发现这几种类型。
以下直接引用自
H264标准句法表中C的含义理解
编码条带数据分割块A slice_data_partition_a_layer_rbsp( )
编码条带数据分割块B slice_data_partition_b_layer_rbsp( )
编码条带数据分割块C slice_data_partition_c_layer_rbsp( )
这是3种对于片数据的处理方式，其中2类型时，只传递片中最重要的信息，如片头，片中宏块的预测模式等，3类型是只传输残差，而4时则只可以传输残差中的AC系数。对照句法表可以看到通过C中指定的数字值，限定了在各个句法元素在特定NAL类型中的使用，以达到在特定NAL中使用不同的句法元素，如不在4中传输残差的DC值，见毕书---表7.17中DC系数语法后面为3，而AC系数后面为3|4，这就达到了在 编码条带数据分割块B 中可以传输所有残差，而在编码条带数据分割块C中仅可以传输AC残差。
据此可以得到下面的结论：
C是语法元素可以出现在哪种NAL中的指示，NAL的类型由nal_type_unit指定
参考：
1. h264 NAL头解析
2. h264 图像、帧、片、NALU
3. 从Slice_Header学习H.264（一）--片头语法元素介绍