FLV格式解析

简介

FLV（Flash Video）是现在非常流行的流媒体格式，由于其视频文件体积轻巧、封装播放简单等特点，使其很适合在网络上进行应用，目前主流的视频网站无一例外地使用了FLV格式。另外由于当前浏览器与Flash Player紧密的结合，使得网页播放FLV视频轻而易举，也是FLV流行的原因之一。

FLV是流媒体封装格式，我们可以将其数据看为二进制字节流。总体上看，FLV包括文件头（File Header）和文件体（File Body）两部分，其中文件体由一系列的Tag及Tag Size对组成。

image

FLV格式解析

先来一张图，这是《科比退役演讲》下载）的一个FLV视频。我使用的是UltraEdit的二进制查看工具。

flv-head

header

头部分由一下几部分组成
Signature(3 Byte)+Version(1 Byte)+Flags(1 Bypte)+DataOffset(4 Byte)

• signature 占3个字节 固定FLV三个字符作为标示。一般发现前三个字符为FLV时就认为他是flv文件。图中0x46 0x4C 0x56,代表FLV
• Version 占1个字节 标示FLV的版本号。这里我们看到是1
• Flags 占1个字节 内容标示。第0位和第2位,分别表示 video 与 audio 存在的情况.(1表示存在,0表示不存在)。截图看到是0x05，也就是00000101，代表既有视频，也有音频。
• DataOffset 4个字节 表示FLV的header长度。这里可以看到固定是9

Body

FLV的body部分是一系列的back-pointers+tag构成的

• back-pointers固定4个字节,表示前一个tag的size
• tag分三种类型:video,audio,scripts.

tag组成

tag type+tag data size+Timestamp+TimestampExtended+stream id+ tag data

• type 1个字节。8为Audio,9为Video,18为scripts
• tag data size 3个字节。表示tag data的长度。从streamd id 后算起。
• Timestreamp 3个字节。时间戳
• TimestampExtended 1个字节。时间戳扩展字段
• stream id 3个字节。总是0
• tag data 数据部分

图上第一个tag:

• type=0x12=18,表示是一个scripts,FLV中,header后的第一个tag是script tag,script tag内容是amf格式数据,包含两个amf.
• size=0x00 0x01 0x74 = 372
• timpestreamp = 0x00 0x00 0x00
• TimestampExtended=0x00
• streamid=0x00 0x00 0x00

• tag data部分:

  
  
  FLV-TAG

tag的划分

图中红色部分是我标出"("与")"前后的的两个back-pointers，都是4个字节。而括号中间就是第一个TAG。那是怎么计算的呢？我们就以这个做个示例。

• 首先第一个back-pointers是0x00000000，那是因为后面是第一个TAG。所以他为0。
• 然后根据我们我们前面格式获取到size是0x00 0x01 0x74 = 372。也就是说从stream id后面再加上372个字节就到了第一个TAG的末尾，我们数一下。tag header有11个字节。那么到第一个TAG，总共有372+11=383=0x17f。
• 接下来我们找到0x17f的地址，从工具上很容易找到，正好就是后括号")"的前面。红0x00 0x00 0x01 0x7F=372，这代表的是上一个TAG的大小。
• 最后我们计算一下，上一个TAG数据部分是372个字节，前面type、stream id等字段占了11个字节。正好是匹配的。
  上面我们已经知道了怎么取划分每个TAG。接下来我们就看TAG的具体内容:

tag的内容

前面已经提到tag分3种。我们一个个看

script

脚本Tag一般只有一个，是flv的第一个Tag，用于存放flv的信息，比如duration、audiodatarate、creator、width等。
首先介绍下脚本的数据类型。所有数据都是以数据类型+（数据长度）+数据的格式出现的，数据类型占1byte，数据长度看数据类型是否存在，后面才是数据。

一般来说，该Tag Data结构包含两个AMF包。AMF（Action Message Format）是Adobe设计的一种通用数据封装格式，在Adobe的很多产品中应用，简单来说，AMF将不同类型的数据用统一的格式来描述。第一个AMF包封装字符串类型数据，用来装入一个“onMetaData”标志，这个标志与Adobe的一些API调用有，在此不细述。第二个AMF包封装一个数组类型(srs返回为object类型)，这个数组中包含了音视频信息项的名称和值。具体说明如下

值	类型	说明
0	Number type	8 Bypte Double
1	Boolean type	1 Bypte bool
2	String type	后面2个字节为长度
3	Object type
4	MovieClip type
5	Null type
6	Undefined type
7	Reference type
8	ECMA array type	数组,类似Map
10	Strict array type
11	Date type
12	Long string type	后面4个字节为长度

FLV-script-1.png

上图为第一个AMF包

• type=0x02对应String
• size=0A=10

• value=onMetaData 正好是10个字节。

  
  
  FLV_script-2.png
  
  

  上图为第二个AMF

• type=0x08 对应ECMA array type。

表示数组，类似Map。后面4个字节为数组的个数。然后是键值对，第一个为键，2个字节为长度。后面跟具体的内容。接着3个字节表示值的类型，然后根据类型判断长度。
上图我们可以判断，总共有13个键值对。
第一个长度为8个字节是duration。值类型是0x004073，第一个字节是00，所以是double，8个字节。

第二个长度5个字节是width。值也是double类型，8个字节。
依次解析下去...

Audio

flv-audio1

flv-audio2

flv-audio3

flv-audio4

视频中第二个tag为音频tag

stream-id之后:

• 前4位为音频格式

值	类型
0	Linear PCM, platform endian
1	ADPCM
2	MP3
3	Linear PCM, little endian
4	Nellymoser 16-kHz mono
5	Nellymoser 8-kHz mono
6	Nellymoser
7	G.711 A-law logarithmic PCM
8	G.711 mu-law logarithmic PCM
9	reserved
10	AAC
11	Speex
14	MP3 8-Khz
15	Device-specific sound

• 接着2位为采样率(对于AAC总是3)

值	类型
0	5.5-kHz
1	11-kHz
2	22-kHz
3	44-kHz

• 接着1位为采样的长度(压缩过的音视频都是16bit)

值	类型
0	snd8Bit
1	snd16Bit

• 接着1位为音频类型(对于AAC总是1)

值	类型
0	sndMono
1	sndStereo

video

由于kobe视频音频编码是pcm,查找视频tag太难,使用<<东风破>> mv视频

flv-video1

• type=0x09=9。这里应该是一个video。
• size=0x000030=48。长度为48。
• timestreamp=0x000000。
• TimestampExtended =0x00。
• stream id =0x000000

我们看到数据部分：
视频信息+数据
视频信息，1个字节。

StreamId之后的数据就表示是VideoTagHeader,如果是avc,VideoTagHeader会多出4个字节的信息就是AVCPacketType和CompositionTime

• 前4位为帧类型Frame Type

值	类型
1	keyframe (for AVC, a seekable frame) 关键帧
2	inter frame (for AVC, a non-seekable frame)
3	disposable inter frame (H.263 only)
4	generated keyframe (reserved for server use only)
5	video info/command frame

• 后4位为编码ID (CodecID)

值	类型
1	JPEG (currently unused)
2	Sorenson H.263
3	Screen video
4	On2 VP6
5	On2 VP6 with alpha channel
6	Screen video version 2
7	AVC

特殊情况
视频的格式(CodecID)是AVC（H.264）的话，VideoTagHeader会多出4个字节的信息，AVCPacketType 和CompositionTime。

• AVCPacketType 占1个字节

值	类型
0	AVCDecoderConfigurationRecord(AVC sequence header)
1	AVC NALU
2	AVC end of sequence (lower level NALU sequence ender is not required or supported)

AVCDecoderConfigurationRecord.包含着是H.264解码相关比较重要的sps和pps信息，再给AVC解码器送数据流之前一定要把sps和pps信息送出，否则的话解码器不能正常解码。而且在解码器stop之后再次start之前，如seek、快进快退状态切换等，都需要重新送一遍sps和pps的信息.AVCDecoderConfigurationRecord在FLV文件中一般情况也是出现1次，也就是第一个video tag.

• CompositionTime 占3个字节

条件	值
AVCPacketType ==1	Composition time offset
AVCPacketType !=1	0

再看到第二个video tag

flv-video

我们看到 AVCPacketType =1，而后面三个字节为000043。这是一个视频帧数据。
解析到的数据完全符合上面的理论。

sps pps
前面我们提到第一个video 一般存放的是sps和pps。这里我们具体解析下sps和pps内容。先看下存储的格）：

0x01+sps[1]+sps[2]+sps[3]+0xFF+0xE1+sps size+sps+01+pps size+pps

sps[1]=0x64
sps[2]=00
sps[3]=0D
sps size=0x001B=27(占两个字节)
跳过27个字节后，是0x01
pps size=0x0005=118(占两个字节)
跳过5个字节，就到了back-pointers。

视频帧数据
解析出sps和pps tag后，后面的video tag就是真正的视频数据内容了

flv-video3

这是第二个video tag其实和之前图一样，只是我圈出来关键信息。先看下格式
frametype=0x17=00010111
AVCPacketType =1
Composition Time=0x000043
后面就是NALU DATA

引用:

flv格式详解+实例剖析

FLV视频封装格式详解

【总结】FLV（AAC/AVC）学习笔记

将h.264视频流封装成flv格式文件（一.flv格式）

将h.264视频流封装成flv格式文件（二.开始动手）

RTMP协议中的AMF数据

rtmp协议简单解析以及用其发送h264的flv文件

FLV 文件格式解析

(原)从mp4,flv文件中解析出h264和aac,送解码器解码失败:,avc1与H264区别在这里其实有人遇到了和我一样的问题：http://stackoverflow.com/questions/11330764/ffmpeg-cant-decode-h264-stream-frame-data

simplest_mediadata_test

rtmp_relay
RtmpMindmap