FFmpeg 音视频处理核心技术初体验

章节

• 视频播放器原理
• 什么是 ffmpeg?
• ffmpeg 音视频编/解码 流程图
• ffmpeg 常用 struct
  • AVFormatContext
  • AVStream
  • AVCodecContext
  • AVCodec
  • AVPacket
  • AVFrame
• ffmpeg 常用Api
  • av_register_all()
  • avformat_alloc_output_context2()
  • avio_open()
  • av_new_stream()
  • avcodec_find_encoder()
  • avcodec_open2()
  • avformat_write_header()
  • avcodec_encode_video2()
  • av_write_frame()
  • flush_encoder()
  • av_write_trailer()
  • ffmpeg编码视频的流程图
  • ffmpeg解码视频的流程图
• 分享-解决问题的思路

0.视频播放器原理

编码

录像(视频)、录音(音频)，实质上是一个压缩采集到的图像或者音频数据的过程，这个过程又称为编码。那为什么需要编码（压缩）呢？因为设备采集到的音视频数据太大了，如果不进行压缩，占用的空间太大，不利于传输等。

解码

播放视频或者音频文件，实质上是一个解压缩的过程，这个过程又称为解码。那为什么又要解码（解压缩）呢？因为播放器播放需要的是音频采样数据、视频像素数据，通俗一点来说就是需要的是编码之前的数据，所以需要解码来获取。

如下图展示了播放器播放视频的原理：

 

播放器播放视频的原理

作者：zhang_pan
链接：https://www.jianshu.com/p/55e5da60faeb
來源：简书

1.什么是ffmpeg？

1.ffmpeg 是音视频处理核心技术，要成为音视频领域的开发高手，不可不学 ffmpeg，一个完整的跨平台解决方案，用于录制，转换和流式传输音频和视频的技术。
2.腾讯视频、爱奇艺、阿里影音、均有大量 音视频开发工程师的需求。
3.ffmpeg 源代码 采用 c 编写

2.ffmpeg 音视频编/解码 流程图

如下所示流程图：

 

ffmpeg 音视频编/解码

如上图所示，音视频文件已流形式经编码 encode 之后成为 packet，packet 被解码之后成为视频帧frame

3.ffmpeg 常用 struct

AVFormatContext

AVFormatContext 主要存储视音频封装格式中包含的信息

AVStream

AVStream 存储一个视频/音频流的相关数据

AVCodecContext

流解码器容器－每个AVStream对应一个AVCodecContext，存储该视频/音频流使用解码方式的相关数据、如 codec_type 编码器类型。

AVCodec

解码器－每个AVCodecContext中对应一个AVCodec，包含该视频/音频对应的解码器。每种解码器都对应一个AVCodec结构。

AVPacket

视频,每个结构一般是存一帧；音频可能有好几帧

帧(stream)数据编码后的数据，或解码为 帧(stream) 数据前的数据存储格式为AVPacket

AVFrame

包(Packet)数据解码之后以帧(frame)的结构存在。

4.ffmpeg 常用Api

av_register_all()

注册所有 ffmpeg 解码器， 如果需要使用支持特定类型音视频解码的解码器则需要使用 void av_register_input_format(AVInputFormat *format);

avformat_alloc_output_context2()

初始化输出码流的AVFormatContext。

avio_open()

创建并初始化AVIOContext以访问 url 指示的资源。

av_new_stream()

创建新流，此新流用于添加到新的媒体文件

avcodec_find_encoder()

查找编码器，一般是用来将数据帧进行编码，并生成新的输出文件。

avcodec_open2()

打开编码器

avformat_write_header()

写文件头（对于某些没有文件头的封装格式，不需要此函数。比如说MPEG2TS）。

avcodec_encode_video2()

将 frame 进行编码，并转化为 packet 进行存储

av_write_frame()

Write a packet to an output media file. 将编码后的视频码流写入文件

flush_encoder()

Write the stream trailer to an output media file and free the file private data。
将流预告片写入输出媒体文件并释放文件私人数据。

其实上述常用Api 是一个视频流文件进行编码并输出编码后文件常用的Api

ffmpeg编码视频的流程图

如下所示：

 

FFmpeg编码视频的流程图

ffmpeg解码视频的流程图

ffmpeg解码视频的流程图->packet decode 为 frame

4 分享-解决问题的思路

最近接触 ffmpeg 是因为部门业务需要，之前个人从未接触过 ffmpeg。

4.1 业务目标

通过调用 ffmpeg Api 实现截取视频任意一帧。

4.2 出现的问题

1.个人对视频当中某一帧获取流程不是很了解；
2.读源码过程中 有些 ffmpeg Api 看不懂；

4.3 问题的根本原因

1.对视频播放的本质不清楚，其实视频的本质是一帧一帧的图片拼接起来的结果；
2.没有耐心读 ffmpeg 源码，因为没学过c ；
3.对未知的从未尝试过的事情有些许排斥。

4.4 解决问题的方案

1.了解视频播放原理－知道了解码、编码等问题 （完成100%）
2.了解ffmpeg、解码、编码(所以解决方案的第一步是前提)、学习编码/解码相关流程，(毕竟视频的生成、播放与编解码是分不开的)、以及相关Api （完成100%）
3.尝试读前辈代码、并提取实现业务的 keycode、文档输出等。（2018-10-23日晚上下班前输出相关文档）