维纳滤波——Wiener Filter(一些理解)

维纳滤波——Wiener Filter(一些理解)_第1张图片

总结:

  • 维纳滤波是最优的线性滤波器:滤波器就是x->h->y,h就是滤波器。这个最优的线性滤波器是维纳滤波。因为从正交性的角度出发(参见3.1节)可以推导出维纳滤波器。残差与原材料正交!
  • 维纳滤波还是一种线性估计。让x(t)经过一个线性系统h(t)后,得到x(t)*h(t)=x'(t)卷积,用这个x'(t)去线性逼近Y(t),此处就还是一个线性估计。因为e(X'(t)-Y(t))^2还是最小均方误差估计,在MSE的估计下的最优估计MVUE是条件期望,也就是最佳线性投影。
  • 维纳滤波的Metric是最小均方误差
  • 卷积是线性的,最小均方误差意义下的逼近仍然是线性逼近。(最小均方误差下的最优估计是条件期望E(Y|X),这个就是投影(正交化),minE(Y-αX)^2,得到如下式子,这就是投影(正交化)。将Y向X上投影,其结果就是最优估计。

\large \alpha =\frac{E(XY)}{E(X^2)}

  • 终于证明了维纳滤波的公式了,由于期望的存在,真的是功率谱。在频域是乘积,在空域就是卷积了。对(FH)',对矩阵求偏导得到的结果是H*,且是乘积。所以再换算到空域,就是卷积共轭 *h(-x,-y)。
  • 由于第二个是假设了服从高斯分布,所以Sn/Sf就简化为了\large \sigma _n^2/\sigma _f^2 了

0. 线性估计 

补充:常用的矩阵向量求导公式,参考  矩阵&向量的求导方法推导及常用公式总结和证明(一) - 知乎

 

维纳滤波——Wiener Filter(一些理解)_第2张图片

1. 《数字图像处理》冈萨雷斯

证明方式:参考:维纳滤波推导

  • 解释为什么在空域是(f*h)'=*h(-x,-y),为什么是卷积上共轭

    • 因为在频域中,是对\frac{\partial (F\times H)}{\partial F},对矩阵求偏导得到的结果是H^*,且是乘积。
    • 所以再换算到空域,就是卷积共轭 h^*(-x,-y)

维纳滤波——Wiener Filter(一些理解)_第3张图片

2. 贝叶斯角度的推导维纳滤波公式

 

维纳滤波——Wiener Filter(一些理解)_第4张图片

维纳滤波——Wiener Filter(一些理解)_第5张图片
维纳滤波——Wiener Filter(一些理解)_第6张图片
 

中间计算过程为:

\large {\color{Red} }\frac{\partial MAP(f)}{\partial f}=\frac{\partial exp(-\frac{(g-f*h)^2}{2\sigma_n^2}-\frac{f^2}{2\sigma_f^2})}{\partial f} 则继续求导为:(g-f*h)*h'/σn^2 + f/σf^2=0

然后在频域求解,即可得到(3.10)式。

2.1 关键步骤:对f*h求偏导,怎么进行的?

竟然是(g-f*h)*h'。这一步的数学说明未尽考察,从paper上就是这样来的。待进一步考证

维纳滤波——Wiener Filter(一些理解)_第7张图片

3. 从正交性和线性估计的角度来推导维纳滤波

维纳滤波原理(Wiener Filter)

维纳滤波——Wiener Filter(一些理解)_第8张图片

解释了2.1的疑问,卷积的微分是怎么求得的?

维纳滤波——Wiener Filter(一些理解)_第9张图片

维纳滤波——Wiener Filter(一些理解)_第10张图片

  •  其中花体R是傅里叶变换。因为对Wiener-Hoef方程(卷积形式)进行傅里叶变换,可以得到乘积。
  • Sx H = Sxs, S为功率谱密度,H为傅里叶变换。对相关的傅里叶变换是功率谱密度。

3.1 从正交性的角度来解释

这里推导出的公式跟逆滤波类似,还没有加入f的先验的部分。

维纳滤波——Wiener Filter(一些理解)_第11张图片

 先对x(t)进行正交化,得到U(t),让U(t)经过线性系统h2得到U^,然后去U^的一半(正的部分)去近似逼近Y(t)。

  • 为什么可以去一半(正的部分)呢?
    • 因为U是正交的,因果系统只有正的部分才是有意义的
  • 假定U不仅是正交的,还是单位化的。x(t)*h1(t)=U(t),卷积的结果是Wiener-Hoef方程,

维纳滤波——Wiener Filter(一些理解)_第12张图片

你可能感兴趣的:(现代数字信号处理,算法,机器学习,计算机视觉)