H264 CAVLC 研究

摘要 纠错编辑摘要

CAVLC即基于上下文的自适应变长编码。H.264标准中使用CAVLC对4*4模块的亮度和色度残差数据进行编码。

CAVLC-CAVLC概念

CAVLC的全称是Context-Adaptive Varialbe-Length Coding,即基于上下文的自适应变长编码。CAVLC的本质是变长编码,它的特性主要体现在自适应能力上,CAVLC可以根据已编码句法元素的情况动态的选择编码中使用的码表,并且随时更新拖尾系数后缀的长度,从而获得极高的压缩比。H.264标准中使用CAVLC对4×4模块的亮度和色度残差数据进行编码。

CAVLC-CAVLC原理


在H.264标准编码体系中,视频图像在经过了预测、变换及量化编码后表现出如下的特性:4×4块残差数据块比较稀疏,其中非零系数主要集中在低频部分,而高频系数大部分是零;量化后的数据经过zig-zag扫描,DC系数附近的非零系数值较大,而高频位置上的非零系数值大部分是+1和-1;相邻的4×4块的非零系数的数目是相关的。CAVLC就是利用编码后残差数据的这些特性,通过自适应对不同码表的选择,利用较少的编码数据对残差数据进行无损的熵编码,进一步减少了编码数据的冗余和相关性,提高了H.264的压缩效率。

CAVLC-CAVLC编码流程


视频图像在经过预测、变换和量化编码后,需要经过Zig-zag扫描和重新的排序过程,为后序的CAVLC编码进行准备。一个残差数据块的CAVLC熵编码的流程如图所示:

CAVLC熵编码处理流程CAVLC熵编码处理流程

1、TotalCoeffs和TrailingOnes的编码


从码流的起始位置开始计算整个编码块中非零系数的数目(TotalCoeffs),非零系数的数目为从0-16,非零系数的数目被赋值给变量TotalCoeffs。
拖尾系数是指码流中正或者负1的个数(+/-1)。拖尾系数的数目(TrailingOnes)被限定在3个以内,如果+/-1的数目超过3个,则只有最后3个被视为拖尾系数,其余的被视为普通的非零系数,拖尾系数的数目被赋值为变量TrailingOnes。

2、判断计算nC值

nC(Number Current 当前块值)值的计算集中体现了CAVLC的基于上下文的思想,通过nC值选择不同H.264标准附录CAVLC码表。

3、查表获得coeff_token编码

根据之前编码和计算过程所得的变量TotalCoeffs、TrailingOnes和nC值可以查H.264标准附录CAVLC码表,即可得出coeff_token编码序列。

4、编码每个拖尾系数的符号:前面的coeff_token编码中已经包含了拖尾系数的总数,还需进一步对拖尾系数的符号进行编码。由于拖尾系数符合为正(+)或负(-),因此,在H.264标准中规定用0表示正1(+1)、1表示负1(-1)。当拖尾系数的数目超过3个只有最后3个被认定为拖尾系数,因此对符号的编码顺序应按照反向扫描的顺序进行。

5、编码除拖尾系数之外的非零系数的幅值(Levels)

非零系数的幅值(Levels)由两个部分组成:前缀(level_prefix)和后缀(level_suffix)。levelCode、levelSuffixsSize和suffixLength是编码过程中需要使用的三个变量,其中levelCode是中间过程中用到的无符号数,levelSuffixsSize表示后缀长度位数,suffixLength代表Level的码表序号。

6、编码最后一个非零系数前零的数目(TotalZeros)

TotalZeros指的是在最后一个非零系数前零的数目,此非零系数指的是按照正向扫描的最后一个非零系数。因为非零系数数目(TotalCoeffs)是已知,这就决定了TotalZeros可能的最大值。根据TotalCoeffs值,H.264标准共提供了25个变长表格供查找,其中编码亮度数据时有15个表格供查找,编码色度DC 2×2块(4:2:0格式)有3个表格、编码色度DC 2×4块(4:2:2格式)有7个表格。

7、编码每个非零系数前零的个数(RunBefore)

在CAVLC中,变量 ZerosLeft表示当前非零系数左边的所有零的个数,ZerosLeft的初始值等于TotalZeros。每个非零系数前零的个数(RunBefore)是按照反序来进行编码的,从最高频的非零系数开始。H.264标准中根据不同ZerosLeft和RunBefore,构建了RunBefore编码表格供编码查找使用。根据表格每编码完一个RunBefore,对ZerosLeft的值进行更新,继续编码下一个RunBefore,直至全部完成所有非零系数前零的个数的编码。当ZerosLeft=0即没有剩余0需要编码时或者只有一个非零系数时,均不需要再进行RunBefore编码。

CAVLC-CAVLC解码流程

CAVLC熵解码是上述CAVLC熵编码的逆过程,CAVLC熵解码的输入数据是来自片层数据的比特流,解码的基本单位是一个4×4的像素块,输出为包含4×4块每个像素点所有幅值的序列。CAVLC解码步骤如下:
1. 初始化所有的系数幅值
2. 解码非零系数个数(TotalCoeff)和拖尾系数个数(TrailingOnes)。
3. 解码拖尾系数符号(trailing_ones_sign_flag)
4. 解码非零系数幅值
5. 解码total_zeros和run_before
6. 组合非零系数幅值和游程信息,得到整个残差数据块

H.264 CAVLC编解码详解
2007-04-20 21:53

CAVLC: Context-Adaptive Variable-Length Coding
用于亮度和色度残差数据的编码.
经过变化量化后的残差有如下特性:非零系数集中在低频部分,而高频系数大部分是零; 量化后的数据经Zig-Zag扫描后DC系数附近的非零系数数值较大,而高频位置上的非零系数值大部分是+1和-1;相邻4*4块的非零系数的数码是相关的.

CAVLC模型选择主要体现:非零系数编码所需表格的选择和拖尾系数后缀长度的更新;

编码过程
1.初始化
确定NC值
NC则与当前块左边非零系数数目NA和上面块的非零系数数目NB求得的:
NC = (NA+NB)/2 NA,NB都可以能是没有的(处于边缘时),此时以0计之
色度的直流系数NC=-1
NC值与表格的对应 0-1:Num-VLC0 2-3:Num-VLC1 4-7:Num-VLC2 >=8:FLC(定长表格)

2.编码非零系数的数目(TotalCoeffs: 0-16)和拖尾系数数目(TrailingOnes: 0-3)
两个数目的编码过程是通过查表实现的,而表格的选择是根据变量NC(Number Current,当前块值);

3.编码每个拖尾系数的符号
符号用一个比特表示 0表示+ 1表示-

4.编码除了拖尾系数之外的非零系数的幅值Levels
过程:
1)将有符号的Level[i]转换成无符号的LevelCode
Level[i]为正, levelCode=(Level[i]<<1)-2;
Level[i]为负, levelCode=-(Level[i]<<1)-1;
2)计算level_prefix
level_prefix=levelCode/(1<<suffixLength), 查标准中的表9-6可得对应的bit_string
3)计算level_suffix
level_suffix=levelCode%(1<<suffixLength)
4)根据suffixLength的值确定后缀的长度

5)更新suffixLength
if(suffixLength == 0)++suffixLength;
else if(levelCode > (3<<suffixLength-1) && suffixLength < 6)++suffixLength

5.编码最后一个非零系数前零的数目TotalZeros
查标准中的表9-7

6.编码每个非零系数前零的个数RunBefore
查标准中的表9-10


解码过程
1.初始化
确定NC值

2.确定TotalCoeffs和TrailingOnes
根据NC值和coeff_token值查表9-5

3.根据TrailingOnes确定拖尾1的符号

4.解析除拖尾系数之外的非零系数的幅值(解码Levels)
1)确定suffixLength初始值
if(TotalCoeffs>10 && TrailingOnes<3)suffixLength=1;
else suffixLength=0;

2)计算得到Level[i]
先得到level_prefix(形式如{0}^*1: n个0后一个1)
根据suffixLength读取编码中的suffixLength位作为level_suffix
levelCode=level_prefix<<suffixLength+level_suffix
if(levelCode%2==0)Level[i]=(levelCode+2)/2
else Level[i]=(-levelCode-1)/2

3)更新suffixLength
if(suffixLength == 0)++suffixLength;
else if(levelCode > (3<<suffixLength-1) && suffixLength < 6)++suffixLength

5.根据得到的TotalCoeff数值和TotalZeros编码值得到TotalZeros数值

6.解析每个非零系数前零的数目(解码RunBefore)
zeroleft = TotalZeros;
i=TotalCoeffs-1;
while(zeroleft>0 && i>0)
{
根据zeroleft查找匹配的run_before[i]值;
i=i-1;
zeroleft = zeroleft-runbefore[i];
if(zeroleft==0 || i==0)
{
run_before[i]=zeroleft;
break;
}
}

例子:假定用了Num-VLC0表
4*4 Block
{
0,3,-1,0;
0,-1,1,0;
1,0,0,0;
0,0,0,0;
}

Reodered block:
0,3,0,1,-1,-1,0,1,0,...
TotalCoeffs=5
TotalZeros=3
TrailingOnes=3

编码
Element Value Code
coeff_token TotalCoeffs=5, T1s=3 0000100;根据coeff_token到TotalCoeff和TrailingOnes映射表
T1 sign (4) + 0
T1 sign (3) - 1
T1 sign (2) - 1
Level (1) +1 (use Level_VLC0) 1;
Level (0) +3 (use Level_VLC1) 0010;
TotalZeros 3 111;TotalCoeff和TotalZeros的映射表
run_before(4) ZerosLeft=3; run_before=1 10;run_before表
run_before(3) ZerosLeft=2; run_before=0 1
run_before(2) ZerosLeft=2; run_before=0 1
run_before(1) ZerosLeft=2; run_before=1 01
run_before(0) ZerosLeft=1; run_before=1 No code required; last coefficient.

Decoding:
Code Element Value Output array
0000100 coeff_token TotalCoeffs=5, T1s=3 Empty
0 T1 sign + 1
1 T1 sign - -1, 1
1 T1 sign - -1, -1, 1
1 Level +1 1, -1, -1, 1
0010 Level +3 3, 1, -1, -1, 1
111 TotalZeros 3 3, 1, -1, -1, 1
10 run_before 1 3, 1, -1, -1, 0, 1
1 run_before 0 3, 1, -1, -1, 0, 1
1 run_before 0 3, 1, -1, -1, 0, 1
01 run_before 1 3, 0, 1, -1, -1, 0, 1

[转贴] CAVLC编码过程详解——Sunrise

谨以此文献给“H.264乐园”和群里那些无私奉献的同行朋友!
也希望能对刚进入这个领域的朋友有所帮助,欢迎做过CAVLC的同行能批评指正!

编码过程:
假设有一个4*4数据块
{
0, 3, -1, 0,
0, -1, 1, 0,
1, 0, 0, 0,
0, 0, 0, 0
}
数据重排列:0,3,0,1,-1,-1,0,1,0……


1) 初始值设定:
非零系数的数目(TotalCoeffs) = 5;
拖尾系数的数目(TrailingOnes)= 3;
最后一个非零系数前零的数目(Total_zeros) = 3;
变量NC=1;
(说明:NC值的确定:色度的直流系数NC=-1;其他系数类型NC值是根据当前块左边4*4块的非零系数数目(NA)当前块上面4*4块的非零系数数目(NB)求得的,见毕厚杰书P120表6.10)
suffixLength = 0;
i = TotalCoeffs = 5;

2) 编码coeff_token:
查标准(BS ISO/IEC 14496-10:2003)Table 9-5,可得:
If (TotalCoeffs == 5 && TrailingOnes == 3 && 0 <= NC < 2)
coeff_token = 0000 100;
Code = 0000 100;

3) 编码所有TrailingOnes的符号:
逆序编码,三个拖尾系数的符号依次是+(0),-(1),-(1);
即:
TrailingOne sign[i--] = 0;
TrailingOne sign[i--] = 1;
TrailingOne sign[i--] = 1;
Code = 0000 1000 11;

4) 编码除了拖尾系数以外非零系数幅值Levels:
过程如下:
(1)将有符号的Level[ i ]转换成无符号的levelCode;
如果Level[ i ]是正的,levelCode = (Level[ i ]<<1) – 2;
如果Level[ i ]是负的,levelCode = - (Level[ i ]<<1) – 1;
(2)计算level_prefix:level_prefix = levelCode / (1<<suffixLength);
查表9-6可得所对应的bit string;
(3)计算level_suffix:level_suffix = levelCode % (1<<suffixLength);
(4)根据suffixLength的值来确定后缀的长度;
(5)suffixLength updata:
If ( suffixLength == 0 )
suffixLength++;
else if ( levelCode > (3<<suffixLength-1) && suffixLength <6)
suffixLength++;

回到例子中,依然按照逆序,Level[i--] = 1;(此时i = 1)
levelCode = 0;level_prefix = 0;
查表9-6,可得level_prefix = 0时对应的bit string = 1;
因为suffixLength初始化为0,故该Level没有后缀;
因为suffixLength = 0,故suffixLength++;
Code = 0000 1000 111;
编码下一个Level:Level[0] = 3;
levelCode = 4;level_prefix = 2;查表得bit string = 001;
level_suffix = 0;suffixLength = 1;故码流为0010;
Code = 0000 1000 1110 010;
i = 0,编码Level结束。

5)编码最后一个非零系数前零的数目(TotalZeros):
查表9-7,当TotalCoeffs = 5,total_zero = 3时,bit string = 111;
Code = 0000 1000 1110 0101 11;

6) 对每个非零系数前零的个数(RunBefore)进行编码:
i = TotalCoeffs = 5;ZerosLeft = Total_zeros = 3;查表9-10:
依然按照逆序编码
ZerosLeft =3, run_before = 1 run_before[4]=10;
ZerosLeft =2, run_before = 0 run_before[3]=1;
ZerosLeft =2, run_before = 0 run_before[2]=1;
ZerosLeft =2, run_before = 1 run_before[1]=01;
ZerosLeft =1, run_before = 1 run_before[0]不需要码流来表示
Code = 0000 1000 1110 0101 1110 1101;
编码完毕。

----------------------------------Sunrise------

[[i] 本帖最后由 firstime 于 2008-9-4 02:49 PM 编辑 [/i]]

davesliu 发表于 2006-11-20 12:03 PM

请问斑竹,老毕书上120页表6.10中第2行和第三行的NA和NB是不是给弄反了?

vcforever 发表于 2006-12-7 11:06 PM

应该是弄反了

dmsd 发表于 2006-12-18 05:42 PM

请问trailing ones是指所有绝对值为1的系数的个数还是连续绝对值为1的系数的个数。

谢谢。

firstime 发表于 2006-12-18 11:29 PM

倒数三个 +/-1

另:可结合本论坛帖子“[url=http://bbs.chinavideo.org/viewthread.php?tid=1057][color=blue][b]CAVLC中的前缀和后缀[/b][/color][/url]”学习。

[[i] 本帖最后由 firstime 于 2008-5-20 09:59 PM 编辑 [/i]]

achen 发表于 2007-1-17 05:50 PM

“如果Level[ i ]是负的,levelCode = - (Level[ i ]<<1) – 1”
假如Level[ i ]=-3,levelCode值是多少啊?
还有能不能详细讲解一下如何确定suffixLength的取值,它跟域值的关系怎么确定?
谢谢!

[[i] 本帖最后由 firstime 于 2007-1-27 10:06 PM 编辑 [/i]]

dcfarmer 发表于 2007-1-28 11:22 AM

讨论

是JM86运行后的trace记录

@160 Luma # c & tr.1s(0,0) vlc=0 #c=11 #t1=1 000000000001110 ( 11)
@175 Luma trailing ones sign (0,0) 0 (0)
@176 Luma lev (0,0) k=9 vlc=1 lev= -2 11 ( -1)
@178 Luma lev (0,0) k=8 vlc=1 lev= -1 11 ( -1)
@180 Luma lev (0,0) k=7 vlc=1 lev=1 10 (1)
@182 Luma lev (0,0) k=6 vlc=1 lev= -5 000011 ( -5)
@188 Luma lev (0,0) k=5 vlc=2 lev=-11 00000101 (-11)
@196 Luma lev (0,0) k=4 vlc=3 lev= -3 1101 ( -3)
@200 Luma lev (0,0) k=3 vlc=3 lev=3 1100 (3)
@204 Luma lev (0,0) k=2 vlc=3 lev=3 1100 (3)
@208 Luma lev (0,0) k=1 vlc=3 lev=-12 001111 (-12)
@214 Luma lev (0,0) k=0 vlc=3 lev=9 001000 (9)
上面这段是trace.txt中的记录,根据前面的vlc=0 #c=11 #t1=1,就是trailing_ones 的个数是1个(@175 Luma trailing ones sign (0,0) 0 (0) )也能说明,但是在下面的level中,明明还要-1,1可以作为trailing_ones的,为什么不把这两个数当作trailing_ones呢??而是作为level呢????

dcfarmer 发表于 2007-1-28 11:40 AM

回答

接上面的问题,在群里面讨论弄明白了
在CAVLC编码中,从右往左看,算trailing_ones时,在右边不能有abs()>1的数,还有算trailing_ones的个数的话,也不能被别的abs()>1的数隔断,如果隔断的话,只能计数到隔断数为止,而且要保证个数<=3。例如。。。。2,3,0,0,0,1,1,1,0,0,2 ,这个序列中triailing_ones是没有的。还有。。。。。1,0,0,-1,3,1,0,0,0,0,算trailing_ones 个数时,只能有一个也就是3后面的“1”算一个,3前面的-1和1由于被3隔断,所以不能算入其中。

[[i] 本帖最后由 dcfarmer 于 2007-6-7 03:27 PM 编辑 [/i]]

zjh1004 发表于 2007-8-26 09:55 PM

ZerosLeft =1, run_before = 1 run_before[0]不需要码流来表示

请问:为什么不需要码流来表示?
是因为是最后一位吗?
查表知:此时 run_before[0]=0

timek 发表于 2007-9-11 06:35 PM

回复 #6 achen 的帖子

Level[ i ]=-3,levelCode值是多少啊?

levelcode应该是3

grassland_fly 发表于 2007-9-12 03:47 PM

[size=12px]ZerosLeft =1, run_before = 1 run_before[0]不需要码流来表示

请问:为什么不需要码流来表示?
是因为是最后一位吗?
查表知:此时 run_before[0]=0[/size]
[size=12px] [/size]
[size=12px]---------------------------------------------------------[/size]
[size=12px] [/size]
[size=12px]I think it's because can know the vaule based on the value before. :)[/size]

generalair 发表于 2007-10-22 02:51 PM

2007-1-28 11:22 AM dcfarmer
讨论

是JM86运行后的trace记录

@160 Luma # c & tr.1s(0,0) vlc=0 #c=11 #t1=1 000000000001110 ( 11)
@175 Luma trailing ones sign (0,0) 0 (0)
@176 Luma lev (0,0) k=9 vlc=1 lev= -2 11 ( -1)
@178 Luma lev (0,0) k=8 vlc=1 lev= -1 11 ( -1)
@180 Luma lev (0,0) k=7 vlc=1 lev=1 10 (1)
@182 Luma lev (0,0) k=6 vlc=1 lev= -5 000011 ( -5)
@188 Luma lev (0,0) k=5 vlc=2 lev=-11 00000101 (-11)
@196 Luma lev (0,0) k=4 vlc=3 lev= -3 1101 ( -3)
@200 Luma lev (0,0) k=3 vlc=3 lev=3 1100 (3)
@204 Luma lev (0,0) k=2 vlc=3 lev=3 1100 (3)
@208 Luma lev (0,0) k=1 vlc=3 lev=-12 001111 (-12)
@214 Luma lev (0,0) k=0 vlc=3 lev=9 001000 (9)


请问上面这段TRACE记录对应的16个系数序列是什么?谢谢

boleaon 发表于 2007-11-8 04:46 PM

好贴...

kdjwang 发表于 2008-10-10 03:52 PM

回复 #10 timek 的帖子

levelcode应该是5,level先乘2为-6,再取反减1
解码时因为levelcode为奇数,level = (‐levelCode‐1)/2

libra811 发表于 2008-12-29 10:44 PM

刚学习,受用了。谢谢

peiyangpr 发表于 2009-1-4 05:28 PM

毕厚杰P123,6.8.6节中所给例子是否有误?是否应如下编码?

0 0 -1 0
5 2 0 0
3 0 0 0
1 0 0 0
数据重排:0,0,5,3,2,-1,0,0,0,1……
其中TotalCoeffs = 5, TrailingOnes = 2, Total_zeros = 5, NC = 3

编码过程:
元素 数值 编码
Coeff_token TotalCoeffs = 5, TrailingOnes = 2 0000101
Trailingones_sign_flag(1) + 0
Tranlingones_sign_flag(0) - 1
Level(2) 1 (suffixLenth = 0) 1
Level(1) 3 (suffixLength = 1) 0010
Level(0) 5 (suffixLength = 1) 000010
Total_zeros 5 101
Run_before(4) Zeroleft = 5, run_before = 3 010
Run_before(4) Zeroleft = 2, run_before = 0 1
Run_before(4) Zeroleft = 2, run_before = 0 1
Run_before(4) Zeroleft = 2, run_before = 0 1
Run_before(4) Zeroleft = 2, run_before = 2 无

最终编码输出:000010110010000010101010111

[[i] 本帖最后由 peiyangpr 于 2009-1-4 09:16 PM 编辑 [/i]]

residual_block_cavlc( coeffLevel, maxNumCoeff ) { C Descriptor
for( i = 0; i < maxNumCoeff; i++ )
coeffLevel[ i ] = 0
// coeff_token 指明了非零系数的个数,拖尾系数的个数。
coeff_token
if( TotalCoeff( coeff_token ) > 0 ) {
if( TotalCoeff( coeff_token ) > 10 && TrailingOnes( coeff_token ) <
3 )
suffixLength = 1
else
suffixLength = 0
for( i = 0; i < TotalCoeff( coeff_token ); i++ )
if( i < TrailingOnes( coeff_token ) ) {
// trailing_ones_sign_flag 拖尾系数的符号
- 如果trailing_ones_sign_flag = 0, 相应的拖尾系数是+1。
- 否则,trailing_ones_sign_flag =1,相应的拖尾系数是-1。
trailing_ones_sign_flag
level[ i ] = 1 – 2 * trailing_ones_sign_flag
} else {
// level_prefix and level_suffix 非零系数值的前缀和后缀。
level_prefix
levelCode = ( level_prefix << suffixLength )
if( suffixLength > 0 | | level_prefix >= 14 ) {
level_suffix
levelCode += level_suffix
}
if( level_prefix = = 15 && suffixLength = = 0 )
levelCode += 15
if( i = = TrailingOnes( coeff_token ) &&
TrailingOnes( coeff_token ) < 3 )
levelCode += 2
if( levelCode % 2 = = 0 )
level[ i ] = ( levelCode + 2 ) >> 1
else
level[ i ] = ( –levelCode – 1 ) >> 1
if( suffixLength = = 0 )
suffixLength = 1
if( Abs( level[ i ] ) > ( 3 << ( suffixLength – 1 ) ) &&
suffixLength < 6 )
suffixLength++
}
if( TotalCoeff( coeff_token ) < maxNumCoeff ) {
// total_zeros 系数中 0 的总个数。
total_zeros
zerosLeft = total_zeros
} else
zerosLeft = 0
for( i = 0; i < TotalCoeff( coeff_token ) – 1; i++ ) {
if( zerosLeft > 0 ) {

run_before
run[ i ] = run_before
} else
run[ i ] = 0
zerosLeft = zerosLeft – run[ i ]
}
run[ TotalCoeff( coeff_token ) – 1 ] = zerosLeft
coeffNum = -1
for( i = TotalCoeff( coeff_token ) – 1; i >= 0; i-- ) {
coeffNum += run[ i ] + 1
coeffLevel[ coeffNum ] = level[ i ]
}
}
}

本文来自CSDN博客,转载请标明出处:http://blog.csdn.net/xfding/archive/2010/04/12/5477464.aspx

你可能感兴趣的:(H2)