音视频封装格式:AAC音频基础和ADTS打包方案详解

问题背景:

现在主流的封装格式支持的音视频编码标配是H264+AAC,其中像TS、RTP、FLV、MP4都支持音频的AAC编码方式。当然,后继者不乏Opus这种编码方式,它主要应用在互联网场景,比如现在谷歌的WebRTC音视频解决方案就用的Opus,最新发布的Android10支持的音视频编码方式就是AV1和Opus,但是AAC目前在广电,安防,电影院等还是应用最多,Opus目前还不足以威胁到AAC的地位。本篇文章准备讲解下AAC的封装格式ADTS字段含义和解封装,顺便讲解下AAC编码的一些基本情况。

AAC基本概况:

l AAC(Advance Audio Coding):

即高级音频编码,出现在1997年,基于MPEG-2的音频编码技术,当时被称为MPEG-2 AAC,因此把其作为MPEG-2(MP2)标准的延伸。是由Fraunhofer IIS、杜比实验室、AT&T、Sony等公司共同开发,目的是取代MP3格式,随着MPEG-4(MP4)标准在2000年的成型,则为AAC也叫M4A。

l 和AC3编码关系:

和AC3关系不大,AC3早于AAC,是由AAC的发起单位杜比实验室和日本先锋合作研制的新编码方式。AAC能输出AC-3的任何码率,胜过AC-3,压缩率更高,但技术上更加复杂。

l AAC背景和发展:

1997年制定了不兼容MPEG-1的音频标准MPEG-2 NBC即MPEG-2 AAC;

1999年AAC又增加了LTP和PNS工具,形成了MPEG-4 AAC V1;

2002年在MPEG-4 AAC v1增加了SBR和错误鲁棒性工具,形成了 HE-AAC;

2004年MPEG-4在HE-AAC引入了PS模块,提升降码率性能,形成了EAAC+;

对于1999年、2002年、2004年增加了SBR和PS等编码技术的统称为MPEG-4 AAC;

备注:上面这些SBR PS等缩写就是音频的编码算法代名词,网上比较多,感兴趣的可以进一步自行搜索。1. SBR技术即Spectral Band Replication(频段复制)音乐的主要频谱集中在低频段,高频段幅度很小,但很重要,决定了音质。如果对整个频段编码,若是为了保护高频就会造成低频段编码过细以致文件巨大;若是保存了低频的主要成分而失去高频成分就会丧失音质。SBR把频谱切割开来,低频单独编码保存主要成分,高频单独放大编码保存音质,“统筹兼顾”了,在减少文件大小的情况下还保存了音质,完美的化解这一矛盾。

2. PS指“parametric stereo”(参数立体声)。原来的立体声文件文件大小是一个声道的两倍。但是两个声道的声音存在某种相似性,根据香农信息熵编码定理,相关性应该被去掉才能减小文件大小。所以PS技术存储了一个声道的全部信息,然后,花很少的字节用参数描述另一个声道和它不同的地方。

l AAC编码技术参数:

采样率范围:8KHz-96KHz 范围比较广,就是一秒在模拟信号上进行多少次采样;

码率:8kbps-576kbps,支持范围比较宽,在压缩比和质量上都能考虑到;

声道:最多支持48个主声道,16个低频声道,声音细节更丰富,音乐场景也用的多;

采样精度:就是一个采样点需要在计算机表示占用的字节数,一般用2字节16bit表示;

l AAC编码的主要规格:

根据不同的编码技术,AAC的编码分为九种规格,这和H264的编码规格大同小异。

1. MPEG-2 AAC LC低复杂度规格(Low Complexity)编码方式比较简单,没有增益控制,但是提高了编码效率,在中等码率的编码效率和音质方面,都能找到平衡点。

2. MPEG-2 AAC Main 主规格

3. MPEG-2 AAC SSR 可变采样率规格(Scaleable Sample Rate)

4. MPEG-4 AAC LC 低复杂度规格(Low Complexity)

5. MPEG-4 AAC Main 主规格--包含了除增益控制之外的全部功能,音质最好

6. MPEG-4 AAC SSR 可变采样率规格(Scaleable Sample Rate)

7. MPEG-4 AAC LTP 长时期预测规格(Long Term Prediction)

8. MPEG-4 AAC LD 低延迟预测规格(Low Delay)

9. MPEG-4 AAC HE 高效率规格(High Efficency)--这种规格适合用于低码率编码,有Nero-ACC编码器支持,是一种成熟的商用编码器。

目前使用最多的就是LC和HE(适合降低码率),流行的Nero AAC编码程序支持LC、HE、HEv2三种规格的,而且编码后的AAC音频,规格都显示LC。其中HE就是在AAC(LC)编码技术上增加SBR技术,HEv2就是AAC(LC)上技术上不仅仅增加了SBR技术,同时也增加了PS技术。

所以一般的商业音频编码器只支持部分编码规格,这也是我们选择编码器的重要考虑因素之一,因为不同的编码规格支持的音频采样率,码率都不一样,背后采用的编码技术和算法复杂度也不一样。

l AAC编码方式特点:

1. AAC高压缩比的音频编码方式,比G7xx、MP3、AC3系列的压缩比都高,并且质量和CD差不多,但是和比较新的Opus还是差点,不过Opus目前还未充分普及;

2. AAC也采用了变换编码算法,采用了更高的滤波器组,这是压缩高的原因;

3. AAC为了提高压缩比,还采用了噪声重整,反向自适应预测,联合立体声和量化霍夫曼编码算法等新技术;

4. AAC支持了更多的采样率和比特率,支持了1-48个音轨和多达15个低频音轨,具有多种语言兼容能力;

5. AAC支持了更宽的声音频率范围,从8KHz-96KHz,远宽于MP3的16KHz-48KHz范围;

6. AAC特殊的算法可以保有声音频率甚高和甚低频率。声音细节更丰富更清晰更接近原声;

7. AAC采用了优化算法,导致解码端简单,降低了解码端的处理复杂度;

音视频最全资料地址:https://docs.qq.com/doc/DWHhNTlVtaFJId0ht

AAC的封装格式:

n AAC封装类型:

1. ADIF:Audio Data Interchange Format音频数据交换格式,这种格式一般应用在将音频通过写文件方式存储在磁盘里,不能进行随机访问,不允许在文件中间开始进行解码。只有拿到整个文件时才能开始进行渲染播放,这种暂时还没用到,不是这篇文章的重点。

2. ADTS:Audio Data Transport Stream 音频数据传输流。这种格式的特征是用同步字节进行将AAC音频截断,然后可以允许客户端在任何地方进行解码播放,适合网络传输场景。这也是本文介绍的封装格式重点。

ADTS的格式如下:

n AAC封装头字段:

ADIF的格式:

adif_sequence

adif_header + byte_alignment + raw_data_stream

adif_header + byte_alignment + raw_data_block......+ raw_data_block

ADIF Header头信息如下:
音视频封装格式:AAC音频基础和ADTS打包方案详解_第1张图片

 

ADTS的格式:

adts_sequence

adts_frame + adts_frame + ...... + adts_frame

adts_fixed_header + adts_variable_header + error_check + raw_data_block + error_check

ADTS header 的固定头和可变头信息:

固定头意思就是一旦音频文件形成,所有帧的信息头字段意义都是一样的,但是可变头说的是每个帧这里面字段都有不一样的地方,不要理解为可有可无的意思。

 音视频封装格式:AAC音频基础和ADTS打包方案详解_第2张图片

 ADTS帧头各个字段和含义:

音视频封装格式:AAC音频基础和ADTS打包方案详解_第3张图片

 

ADTS各个字段的取值范围:

1. Profile 取值:

音视频封装格式:AAC音频基础和ADTS打包方案详解_第4张图片

 2. Sampling Frequency Index采样率取值

音视频封装格式:AAC音频基础和ADTS打包方案详解_第5张图片

 3. Channel Configuration通道数取值

音视频封装格式:AAC音频基础和ADTS打包方案详解_第6张图片

 ADTS的raw_data_block基本码流组件,头部有3位标志位id_syn_ele,指示六种不同类型的元素:

音视频封装格式:AAC音频基础和ADTS打包方案详解_第7张图片

 

实例分析:

用MediaInfo工具可以查看AAC音频的基本信息

音视频封装格式:AAC音频基础和ADTS打包方案详解_第8张图片

 AAC Audio ES Viewer工具可以详细分析每一个字节

音视频封装格式:AAC音频基础和ADTS打包方案详解_第9张图片

 

分析各个字段含义

待分析数据:

固定头十六进制可变头十六进制

FF   F1 4C      8 0   42    E0  00

固定头二进制可变头二进制

1111 1111 1111 0001  0100 1100  1000 0000 0100 0010 1110 0000 0000 0000

固定头字段含义

syncword :

十六进制:0x0FFF (12 bits) 分界符

二进制:1111 1111 1111

ID:

十进制0 (1 bit)  0 代表MPEG4的AAC

二进制0 (1 bit)  0

layer :

十进制0 (2 bits) 固定填充00,默认

二进制0 0

protection_absent:

十进制1 (1 bit),决定了头的长度,目前7字节

二进制:1

profile :

十进制:1 [Low Complexity profile (LC)] (2 bits)

二进制:01

sampling_frequency_index:

十进制:3 [48000 Hz] (4 bits)

二进制:0011

private_bit

十进制: 0 (1 bit)

二级制:0

channel_configuration       

十进制: : 2 [2 - LF RF] (3 bits)

二级制:10

original/copy

十进制: 0 (1 bit),默认

二进制:0

home:

十进制:0 (1 bit),默认

二进制:0

可变头信息

copyright_identification_bit:

十进制:0 (1 bit),默认

二进制:0

copyright_identification_start :

十进制:0 (1 bit),默认

二进制:0

frame_length:

十进制:535 (13 bits) 长度,包括头和实际裸流数据535-7=528

二级制:00 0100 0010 111

adts_buffer_fullness:

十进制:0 (11 bits)

二进制:0 0000 0000 00 代表是固定码率0x000,可变码率是0x7FF

number_of_raw_data_blocks_in_frame:

十进制:0 (2 bits),代表后面的实际帧数0+1个AAC帧

二级制:00

AAC帧的裸流

raw_data_block()

核心代码参考:

我们在开发中经常遇到这块就是AAC封装格式的解析,需要拿到裸流进行播放和提取里面的相应字段,或者将裸流打包为ADTS然后封装到TS、MP4、FLV中进行打包发送传输。下面的代码通过读取一个文件流,获取里面的ADTS信息和音频帧。

1. 先定义ADTS头的结构体
音视频封装格式:AAC音频基础和ADTS打包方案详解_第10张图片

 

2. 读取文件流的第一个ADTS音频帧的头部数据,并解析里面的长度;

音视频封装格式:AAC音频基础和ADTS打包方案详解_第11张图片

 3. 再根据长度读取里面的音频裸数据;

音视频封装格式:AAC音频基础和ADTS打包方案详解_第12张图片

 

4. 不断循环即可完成头部数据的解析和其裸数据的读取;

总结:

参考资料:https://docs.qq.com/doc/DWHhNTlVtaFJId0ht

这篇文章初步讲解了AAC音频编码的基础知识,同时引出了AAC裸数据打包音频帧的两种方式,其实ADTS给出了用工具分析的实例和进行解封装的示意代码,对平时AAC打包FLV、MP4、TS等封装格式打下基础。

你可能感兴趣的:(音视频,视频编解码,实时音视频,webrtc,c++)