dct变换

写这篇文章的目的主要是为了给x264打好基础，x264用的是整数DCT变换，所以就先来说说DCT变换吧。
DCT(Discrete Cosine Transform)，又叫离散余弦变换，它的第二种类型，经常用于信号和图像数据的压缩。经过DCT变换后的数据能量非常集中，一般只有左上角的数值是非零的，也就是能量都集中在离散余弦变换后的直流和低频部分，下面我会用matlab来演示整个过程。

1.一维DCT变换

我们首先来看看一维的DCT变换，这是二维的基础。一维的DCT变换共有8种，其中最实用的是第二种形式，公式如下： 其中c(u)是加上去一个系数，为了能使DCT变换矩阵成为正交矩阵，在后面二维变换将看到他的作用。N是f(x)的总数。相比其他几种形式，他的运算还是比较简单的，因此也用的比较广。

2.二维DCT变换

二维DCT变换是在一维的基础上再进行一次DCT变换，这个比较好理解，直接看公式： 这里我只讨论两个N相等的情况，也就是数据是方阵的形式，在实际应用中对不是方阵的数据都是先补齐再进行变换的。为了matlab仿真方便点，写成矩阵形式： 下面就用matlab来模拟一下，使用随机生成的4x4矩阵作为输入，程序如下：

  
  
  
  

   
   
   
   
clear;
   
   
   
   
clc;
   
   
   
   
X=round(rand(4)*100);%随机生成的数据
   
   
   
   
A=zeros(4);%变换矩阵
   
   
   
   
for i=0:3
   
   
   
   
 for j=0:3
   
   
   
   
 if i==0
   
   
   
   
 a=sqrt(1/4);
   
   
   
   
 else
   
   
   
   
 a=sqrt(2/4);
   
   
   
   
 end 
   
   
   
   
 A(i+1,j+1)=a*cos(pi*(j+0.5)*i/4);
   
   
   
   
 end
   
   
   
   
end
   
   
   
   
Y=A*X*A';%DCT变换
   
   
   
   
YY=dct2(X);%用matlab中的函数进行DCT变换
  
  
  
  

Y是使用上面的公式进行变换，YY是用matlab自带的dct2函数变换，结果是是：

  
  
  
  

   
   
   
   
X =
   
   
   
   
 61 19 50 20
   
   
   
   
 82 26 61 45
   
   
   
   
 89 90 82 43
   
   
   
   
 93 59 53 97
   
   
   
   
 
   
   
   
   
Y =
   
   
   
   
 242.5000 32.1613 22.5000 33.2212
   
   
   
   
 -61.8263 7.9246 -10.7344 30.6881
   
   
   
   
 -16.5000 -14.7549 22.5000 -6.8770
   
   
   
   
 8.8322 16.6881 -35.0610 -6.9246
   
   
   
   
 
   
   
   
   
YY =
   
   
   
   
 242.5000 32.1613 22.5000 33.2212
   
   
   
   
 -61.8263 7.9246 -10.7344 30.6881
   
   
   
   
 -16.5000 -14.7549 22.5000 -6.8770
   
   
   
   
 8.8322 16.6881 -35.0610 -6.9246
  
  
  
  

可以看出Y和YY的结果是一样的，这也进一步验证了上面的公式是正确的。由于X是我随机生成的，相关性很小，变换后的结果比较乱；如果是信号或图像这样相关性比较大的数据的话，数值会集中在左上角，右下角一般都是零，再使用“之”字型扫描得到数据流会包含很多连续的零，编码后数据量会非常小，这就是DCT变换带来的好处。

3.二维DCT反变换

DCT逆变换的公式如下： 矩阵形式可以由正变换的公式直接推出来，因为在A中加了c(i)这个系数，使得A成为了正交矩阵，所以我们就可以这样做： 在用matlab来验证是否能反变换出原来的数据：

  
  
  
  

   
   
   
   
clear;
   
   
   
   
clc;
   
   
   
   
X=[
   
   
   
   
 61 19 50 20
   
   
   
   
 82 26 61 45
   
   
   
   
 89 90 82 43
   
   
   
   
 93 59 53 97];
   
   
   
   
A=zeros(4);
   
   
   
   
for i=0:3
   
   
   
   
 for j=0:3
   
   
   
   
 if i==0
   
   
   
   
 a=sqrt(1/4);
   
   
   
   
 else
   
   
   
   
 a=sqrt(2/4);
   
   
   
   
 end 
   
   
   
   
 A(i+1,j+1)=a*cos(pi*(j+0.5)*i/4);
   
   
   
   
 end
   
   
   
   
end
   
   
   
   
Y=A*X*A';
   
   
   
   
X1=A'*Y*A;
  
  
  
  

X使用的是上面正变换用的数据，运行后得到的X1为：

  
  
  
  

   
   
   
   
X1 =
   
   
   
   
 61.0000 19.0000 50.0000 20.0000
   
   
   
   
 82.0000 26.0000 61.0000 45.0000
   
   
   
   
 89.0000 90.0000 82.0000 43.0000
   
   
   
   
 93.0000 59.0000 53.0000 97.0000
  
  
  
  

和X完全相等。在实际进行编码的时候，比如JPEG压缩的时候，只会对Y左上角的数据进行传输，所以解码出来的内容不会完全和原来的相同。

4.整数DCT变换

说道DCT就顺便提一下x264中的整数DCT变换，整数DCT变换是以DCT变换为基础的，为了减少计算量做的一些调整，下面我写一下整数DCT变换公式的大致推导过程： 然后根据A是正交矩阵，把c=bd带入A中，使行向量为单位向量可以得到d=0.4142。令d=0.5，得到b*b=0.4,代入上面的式子中，把0.5提取出来放到右边的点乘中就得到了： 这样在对大括号部分进行计算时就都是加法和减法了，而且在精度上没有太大降低。在x264实际编码中，变换和量化是一起进行的，使得编码速度有了很大的提高。