图像降噪算法——稀疏表达：K-SVD算法

图像降噪算法——稀疏表达：K-SVD算法

为了完善下自己降噪算法知识版图的完整性，我打算花一个周末的时间再了解下基于稀疏表达和低秩聚类这两种原理实现的图像降噪算法，因为学习的时间并不长，也没有花太多时间去做实验，所以对算法理解得可能比较肤浅，还愿读者见谅。
这里我分享几篇很优秀的博客，我对稀疏表达概念的认识目前也就是来自于这几篇博客：
字典学习（Dictionary Learning, KSVD）详解
从稀疏表示到K-SVD，再到图像去噪
稀疏表达的意义在于？为什么稀疏表达得到广泛的应用？

1. 基本原理

这里我们先来回答几个问题：
（1）什么是稀疏表达？
稀疏表达的定义是用较少的基本信号的线性组合来表达大部分或者全部的原始信号。在稀疏表达算法中有"字典"这样一个概念，这个“字典”和我们现实生活中使用的字典作用是相同的，现实生活中，我们通过对词条进行组合可以表达我们想要的信息，同样地，在稀疏表达算法中，我们对“原子”进行线性组合就可以还原我们想要的信号。稀疏表达在机器学习领域有着广泛的应用，诸如压缩感知、特征提取等，图像去噪只是其应用的一个方面。

（2）稀疏表达为什么可以进行图像去噪？
噪声图像是原始图像和噪声合成的图像，原始图像认为是可稀疏的，即可以通过有限个"原子"进行表示，而噪声是随机而不可稀疏的，因此通过提取图像的稀疏成分，再利用稀疏成分来重构图像，在这个过程中，噪声被当做观测图像和重构图像之间的残差而被丢弃，从而起到降噪的作用。

在图像去噪领域，尽管CNN的方法已经占据了半壁江山，但是CNN方法的一个弊端就是需要大量训练数据，在难以采集大量训练数据的场景中，例如某些医学图像，稀疏表达的方法仍然起到重要作用。

（3）稀疏表达和转换域滤波方法的区别？
转换域滤波指的是离散傅里叶变换、小波变换这样一些方法，这些方法获得的是一系列正交基，而稀疏表达获得的“字典”则是一些列非正交基。正交基往往只能表示图像的某一个特征而不能够同时表示其他特征，因此正交基的稀疏性不及非正交基。

下面咱来开始讨论基于稀疏滤波的K-SVD算法，K-SVD算法中最核心的部分就是字典学习，字典学习的过程就是基于样本集$$\mathbf{Y}=\{{\mathbf{y}}_i{\}}_{i=1}^M$$寻找一组“超完备”的基向量作为字典矩阵$$\mathbf{D}=\{{\mathbf{d}}_i{\}}_{i=1}^K$$其中$M$为样本数，${\mathbf{y}}_i\in R^N$为单个样本，是一个$N$维的特征向量，$M$个单个样本按列组成样本集矩阵，${\mathbf{d}}_i\in R^N$为基向量，维度也是$N$维，$K$个基向量按列组成字典矩阵，样本集中的任意样本都可以根据字典求得起对应的稀疏表达形式。当$K>N$时为超完备字典，即我们字典学习的通常情况。
字典学习的目标是学习一个字典矩阵$\mathbf{D}$，使得$$\mathbf{Y}\approx \mathbf{D}\ast \mathbf{X}$$同时要$X$尽可能稀疏。这里我们注意$\mathbf{D}\in {\mathbf{R}}^{N\times K}$， $\mathbf{Y}\in {\mathbf{R}}^{N\times M}$，因此$\mathbf{X}\in {\mathbf{R}}^{K\times M}$。如下图所示

$\mathbf{D}$矩阵中不同颜色代表不同的基向量，$\mathbf{X}$矩阵中不同的颜色代表对应基向量的系数，$\mathbf{Y}$矩阵中某一样本（灰色块）就是由$\mathbf{D}$矩阵的基向量通过$\mathbf{X}$矩阵中黑框中的系数进行线性组合获得的，由于是稀疏组合，所以中间有很多系数会是零，我们用白色块表示。

这个问题用数学问题描述为$$\underset{\mathbf{D},\mathbf{X}}{\min }\Vert \mathbf{Y}-\mathbf{D}\mathbf{X}{\Vert }_F^2,\text{ s.t. }\forall i,{\Vert {\mathbf{x}}_i\Vert }_0\le T_0$$或者$$\underset{\mathbf{D},\mathbf{x}}{\min }\sum _i{\Vert {\mathbf{x}}_i\Vert }_0,\text{ s.t. }\underset{\mathbf{D},\mathbf{x}}{\min }\Vert \mathbf{Y}-\mathbf{D}\mathbf{X}{\Vert }_F^2\le ϵ$$其中${\mathbf{x}}_i$为稀疏矩阵$\mathbf{X}$的行向量，代表字典矩阵的系数，和上面彩图中是对应的。这里值得注意的是${\Vert {\mathbf{x}}_i\Vert }_0$是零阶范数，它表示向量中不为0的数的个数。

上面两个公式是带有约束的优化问题，可以利用拉格朗日乘子法将其转化为无约束优化问题$$\underset{\mathbf{D},\mathbf{x}}{\min }\Vert \mathbf{Y}-\mathbf{D}\mathbf{X}{\Vert }_F^2+\lambda {\Vert {\mathbf{x}}_i\Vert }_1$$其中主要是将${\Vert {\mathbf{x}}_i\Vert }_0$用${\Vert {\mathbf{x}}_i\Vert }_1$代替，这样更加便于求解。这里要优化$\mathbf{D}$，$\mathbf{X}$两个变量，而样本集$\mathbf{Y}$是已知的，我们做法是固定一个变量，优化另一个，交替进行。下面分开来说：
已知$\mathbf{D}$，优化$\mathbf{X}$：这个问题有许多经典算法可以进行求解，例如Lasso，OMP，我们之后再进行补充，K-SVD中比较有特点是下面这种情况。
已知$\mathbf{X}$，优化$\mathbf{D}$：我们需要逐列来更新字典，记${\mathbf{d}}_k$为字典$\mathbf{D}$的第$k$列，其实就是某个基向量，${\mathbf{x}}_T^k$为稀疏矩阵$\mathbf{X}$的第$k$行，按照本文之前的定义，其实就是该基向量不同样本对应的系数。那么有：
$\begin{array}{rl}\Vert \mathbf{Y}-\mathbf{D}\mathbf{X}{\Vert }_F^2& ={\Vert \mathbf{Y}-\sum _{j=1}^K{\mathbf{d}}_j{\mathbf{x}}_T^j\Vert }_F^2\\ & ={\Vert \left(\mathbf{Y}-\sum _{j\ne k}{\mathbf{d}}_j{\mathbf{x}}_T^j\right)-{\mathbf{d}}_k{\mathbf{x}}_T^k\Vert }_F^2\\ & ={\Vert {\mathbf{E}}_k-{\mathbf{d}}_k{\mathbf{x}}_T^k\Vert }_F^2\end{array}$上式中定义残差${\mathbf{E}}_k=\mathbf{Y}-{\sum }_{j\ne k}{\mathbf{d}}_j{\mathbf{x}}_T^j$就是除了当前更新基向量外其它基向量组合与样本集的误差，我们的目的就是让该残差项最小，因此有$$\underset{{\mathbf{d}}_k,{\mathbf{x}}_T^k}{\min }{\Vert {\mathbf{E}}_k-{\mathbf{d}}_k{\mathbf{x}}_T^k\Vert }_F^2$$这个目标函数如何求呢？这里采用的就是SVD方法，如下：$${\mathbf{E}}_k^{\prime }=U\Sigma V^T$$其中$\Sigma$矩阵中的奇异值是从大到小排列的，我们要取最大奇异值对应的向量作为最优的${\mathbf{d}}_k,{\mathbf{x}}_T^k$，那么就是取矩阵$U$的第一个列向量${\mathbf{u}}_1=U(\cdot ,1)$作为${\mathbf{d}}_k$，取矩阵$V$的第一个行向量与第一个奇异值的乘积作为${\mathbf{x}}_T^{\prime k}$，将其更新到${\mathbf{x}}_T^k$，这里值得注意的是，这里更新${\mathbf{x}}_T^k$并不能保证其稀疏性，要保证稀疏性还是需要回到上一种情况使用OMP算法进行稀疏编码

这里为什么可以通过SVD算法求得最优解呢？关于这一点之后再补充，那么以上就完成了字典学习的过程，那么来看一段代码印证下KSVD的流程。

2. python代码

这段代码是我从博客K-SVD字典学习及其实现（Python）扒过来的，该了一下opencv的接口，这里要注意的是，如果直接按照我这个代码把整张图片输入的话其实降噪效果不理想的，为什么呢？

#!/usr/bin/python
# -*- coding: UTF-8 -*-
import numpy as np
from sklearn import linear_model
import scipy.misc
from matplotlib import pyplot as plt
import cv2


class KSVD(object):
    def __init__(self, n_components, max_iter=30, tol=5000,
                 n_nonzero_coefs=None):
        """
        稀疏模型Y = DX，Y为样本矩阵，使用KSVD动态更新字典矩阵D和稀疏矩阵X
        :param n_components: 字典所含原子个数（字典的列数）
        :param max_iter: 最大迭代次数
        :param tol: 稀疏表示结果的容差
        :param n_nonzero_coefs: 稀疏度
        """
        self.dictionary = None
        self.sparsecode = None
        self.max_iter = max_iter
        self.tol = tol
        self.n_components = n_components
        self.n_nonzero_coefs = n_nonzero_coefs

    def _initialize(self, y):
        """
        初始化字典矩阵
        """
        u, s, v = np.linalg.svd(y)
        self.dictionary = u[:, :self.n_components]
        print(self.dictionary.shape)

    def _update_dict(self, y, d, x):
        """
        使用KSVD更新字典的过程
        """
        for i in range(self.n_components):
            index = np.nonzero(x[i, :])[0]
            if len(index) == 0:
                continue

            d[:, i] = 0
            r = (y - np.dot(d, x))[:, index]
            u, s, v = np.linalg.svd(r, full_matrices=False)
            d[:, i] = u[:, 0].T
            x[i, index] = s[0] * v[0, :]
        return d, x

    def fit(self, y):
        """
        KSVD迭代过程
        """
        self._initialize(y)
        for i in range(self.max_iter):
            x = linear_model.orthogonal_mp(self.dictionary, y, n_nonzero_coefs=self.n_nonzero_coefs)
            e = np.linalg.norm(y - np.dot(self.dictionary, x))
            if e < self.tol:
                break
            self._update_dict(y, self.dictionary, x)

        self.sparsecode = linear_model.orthogonal_mp(self.dictionary, y, n_nonzero_coefs=self.n_nonzero_coefs)
        return self.dictionary, self.sparsecode


if __name__ == '__main__':
    im_ascent = cv2.imread("./input.png", 0).astype(np.float)
    print(im_ascent.shape)
    ksvd = KSVD(300)
    dictionary, sparsecode = ksvd.fit(im_ascent)

    output = dictionary.dot(sparsecode)
    output = np.clip(output, 0, 255)
    cv2.imwrite("./output.png", output.astype(np.uint8))

从代码中可以看到，我们输入的样本集$\mathbf{Y}$矩阵就是整张图片，这样的话，单个样本就是图片的每一列的数据，这样合理吗？当然不合理，我觉得这就是造成仅仅通过上面这段代码降噪效果不理想的原因，合理的做法应该是从图像中提取patch，将patch转换成一列一列的样本数据，组成样本集矩阵，然后再利用K-SVD算法从样本集矩阵学习字典和稀疏矩阵。感兴趣的同学可以根据该思路尝试改下代码，或者参考代码nel215/ksvd

3. 结论

1. KSVD只是众多基于稀疏表达降噪的方法中最经典的一种，类似的还有LSSC，NCSR等，KSVD算法是2006年提出的，所以效果有限，对这个方向感兴趣的同学可以多关注后续的一些paper
2. 在Image Denoising Via Sparse and Redundant Representations Over Learned Dictionaries中展示了KSVD算法的效果，这篇论文中描述的KSVD算法就是基于patch实现的
   其中，Global Trained Dictionary指的是从一堆无噪声的图片中抽取的patch学习的字典，Adaptive Dictionary指的是从原噪声图像patch中学习的字典，从结果看，Adaptive Dictionary是要优于Global Trained Dictionary的

这篇博客没有做太多实验去验证实验效果，有问题欢迎交流