[AV1] AV1 Encoder代码流程图

我们在读Libaom-av1代码的时候,不仅会被其代码的庞大量惊艳到,同时也会折服于它代码的复杂程度。我这个专题博客专门来总结Libaom-av1的代码结构,希望以后的人能快速入门AV1的代码实现。

首先,Encoder流程图(到av1_frame_internal为止,内部编码部分将在其他描述细节的博客上叙述)
[AV1] AV1 Encoder代码流程图_第1张图片
Encoder的 main 函数位于aomenc.c文件中,在main函数调用encode_frame()函数之前,程序会读取参数,判断参数的合理性,然后生成最顶层的结构体。

第二步,进入到encode_frame函数后,在调用aom_codec_encode()函数之前,程序开启编码计时,统计时间。然后等aom_codec_encode执行完毕后,停止统计时间。

第三步,进入aom_codec_encode后,在这个函数里,根据参数判断 Decoder capabilities,符合要求之后进入encoder_encode()函数。

第四步,进入encoder_encode()函数后,判断一些参数,确保encoder可以返回AOM_CODEC_OK后,进入av1_get_compressed_data()函数(这个函数有点看不明白,前面部分判断的是些什么东西有点不明不白)

第五步,进入av1_get_compressed_data函数后,做一下svc,quantization和fb(frame buffer)的参数赋值后,进入av1_encode_strategy函数。

第六步,进入av1_encode_strategy后,该函数先处理帧是否显示的问题 show_existing_frame 这个flag为真的话,就说明当前有需要输出的帧,如果当前encoding跑的是2个pass的话,就生成每一个pass对应的parameter。再之后,就进入denoise_and_encode函数。

第七步,进入denoise_and_encode后,顾名思义,denoise的话可以是要进行滤波的,所以判断如果要apply_filtering的话,会进行temporal filtering,然后在到av1_encode()函数。

第八步,进入av1_encode函数后,对当前frame做相应的设置,创建buffer,然后分pass地进入到不同的函数,如果是2pass的encoding过程,第一个pass是进av1_first_pass函数,第二个pass的话是进入encode_frame_to_data_rate函数。

第九步,这里,我们不进入第一个pass,直接进入第二个pass的encode_frame_to_data_rate函数。在这个函数中,判断帧的类型,计算帧的id,然后进入encode_with_recode_loop_and_filter函数

第十步,在这个函数里先调用encode_with_recode_loop,调用完成后会执行loopfilter_frame对帧进行滤波操作

第十一步,关于重新编码(recode)的一些设置(这个没怎么弄明白原理),然后对于当前帧是帧内编码还是帧间编码来设置一些工具,比如obmc,interpolation filter search等工具参数。然后还有为下一步进入av1_encode_frame函数设置transform 和quantization的一些参数。

第十二步,这里就是进入编码部分之前的最后一步了,在这里初始化当前帧的参考模型,interpolation filter的类型后即进入encode_frame_internal函数,也就是编码一帧的内部过程(预测、变换、量化、熵编码等)了。

你可能感兴趣的:(av1,libaom)