H264码流中NALU sps pps IDR帧的理解

H264码流中NALU sps pps IDR帧的理解

##1、概念

  • 什么是NALU?
    H264码流可以分为两层,VCL层和NAL层,NAL的全称是Network abstraction layer,叫网络抽象层,它保存了H264相关的参数信息和图像信息,NAL层由多个单元NALU组成,NALU由了NALU头(00 00 00 01或者00 00 01)、sps(序列参数集)、pps(图像参数集合)、slice、sei、IDR帧、I帧(在图像运动变化较少时,I帧后面是7个P帧,如果图像运动变化大时,一个序列就短了,I帧后面可能是3个或者4个P帧)、P帧、B帧等数据。

  • sps、pps、I帧、P帧在NALU中的关系和nalu type判断
    一个完整的NALU单元结构图如下:
    H264码流中NALU sps pps IDR帧的理解_第1张图片
    00 00 00 01是NALU头,是序列的标识符的开头,0x27转成二进制是100111,00111转成十进制是7,那么7对应NALU type=sps,0x28转成二进制是101000,转成十进制是8,8对应NALU type=pps,0x25转成二进制是100101,00101转成十进制是5,5对应的NALU type=IDR帧(使用FFMPEG,sps和pps是保存在AVCodecContext的extradata.data中,在解码提取sps和pps时,判断NALU type可以用extradata.data[ 4 ]&0x1f(结果是7是sps,8是pps,计算方式是先转成二进制,0x27&0x1f=11111&00111=00111=7,pps计算类似)),NALU type=1是Slice,splice有三种编码模式,I_slice、P_slice、B_slice,I帧在编码时就分割保存在Slice中。
    NALU type值对应表如下:
    NALU type | NALU 类型
    -------- | —
    1 | NALU_TYPE_SLICE
    2 | NALU_TYPE_DPA
    3 | NALU_TYPE_DPB
    4 | NALU_TYPE_DPC
    5 | NALU_TYPE_IDR
    6 | NALU_TYPE_SEI
    7 | NALU_TYPE_SPS
    8 | NALU_TYPE_PPS
    9 | NALU_TYPE_AUD
    10 | NALU_TYPE_EOSEQ
    11 | NALU_TYPE_EOSTREAM
    12 | NALU_TYPE_FILL

  • IDR帧和I帧的关系
    IDR帧就是I帧,但是I帧不一定是IDR帧,在一个完整的视频流单元中第一个图像帧是IDR帧,IDR帧是强制刷新帧,在解码过程中,当出现了IDR帧时,要更新sps、pps,原因是防止前面I帧错误,导致sps,pps参考I帧导致无法纠正。
    再普及一个概念是GOP,GOP的全称是Group of picture图像组,也就是两个I帧之间的距离,GOP值越大,那么I帧率之间P帧和B帧数量越多,图像画质越精细,如果GOP是120,如果分辨率是720P,帧率是60,那么两I帧的时间就是120/60=2s.

  • sps和pps的理解
    详细内容可以参考http://www.jianshu.com/p/d28e25ae339e.

你可能感兴趣的:(FFMPEG,硬解码,VideoToolBox)