keras学习二

1.卷积与神经元

         1.1 什么是卷积？

         简单来说，卷积(或内积)就是一种先把对应位置相乘然后再把结果相加的运算。(具体含义或者数学公式可以查阅相关资料)

         如下图就表示卷积的运算过程：

 

                                             （图1）

        卷积运算一个重要的特点就是，通过卷积运算，可以使原信号特征增强，并且降低噪音.

       1.2 激活函数

             这里以常用的激活函数sigmoid为例：

         

 

             把上述的计算结果269带入此公式，得出f(x)=1

      1.3 神经元

            如图是一个人工神经元的模型：

         

                                       （图2）

          对于每一个神经元，都包含以下几部分：

           x:表示输入

          w:表示权重

          θ:表示偏置

          ∑wx:表示卷积(内积)

           f :表示激活函数

           o:表示输出

      1.4 图像的滤波操作

            对于一个灰度图片(图3) 用sobel算子(图4)进行过滤，将得到如图5所示的图片。

 

 

      1.5小结

       上面的内容主要是为了统一一下概念上的认识：

       图1的蓝色部分、图2中的xn、图3的图像都是神经元的输入部分;图1的红色部分数值值、图2的wn值、图4的矩阵值都可以叫做权重(或者滤波器或者卷积核，下文统称权重)。而权重(或卷积核)的大小(如图4的3×3)叫做接受域(也叫感知野或者数据窗口，下文统称接受域)

 

2.卷积神经网络

    在介绍卷积神经网络定义之前，先说几种比较流行的卷积神经网络的结构图。

    2.1 常见的几种卷积神经网络结构图  

           

                                                                 (图6)     

        

                                                                (图7)

         

                                                              （图8）

          

                                                                 (图9)

        图8中的C-层、S-层是6中的Convolutions层和subsampling层的简写，C-层是卷积层，S-层是子抽样和局部平均层。在图6和图7中C-层、S-层不是指具体的某 一个层，而是指输入层和特征映射层、特征映射层和特征映射层之间的计算过程，而特征映射层则保持的是卷积、子抽样(或下采样)和局部平均的输出结果。而图 6和图7的区别在于最终结果输出之前是否有全连接层，而有没有全连接层会影响到是否还需要一个扁平层(扁平层在卷积层和全连接层之间，作用是多维数据一维化)。

       图9中CONV层是卷积层(即C-层)，但是新出现的RELU层和POOL层是什么呢？RELU层其实是激活层（relu只是激活函数的一种，sigmoid/tanh比较常见于全连接层,relu常见于卷积层)，为什么会多出来一个激活层呢？请看下图：

     

                     （图10）                                           （图2，方便对比复制了过来）

      神经元的完整的数学建模应该是图10所示，与图2相比，把原来在一起的操作拆成了两个独立的操作：∑wx(卷积)和f(激活)，因此多出了一个激活层。所以，在Keras中组建卷积神经网络的话，即可以采用如图2的方式(激活函数作为卷积函数的一个参数)也可采用图10所示的方式(卷积层和激活层分开)。激活层不需要参数。

      Pool层，即池化层，其作用和S-层一样：进行子抽样然后再进行局部平均。它没有参数，起到降维的作用。将输入切分成不重叠的一些 n×n 区域。每一个区域就包含个值。从这个值计算出一个值。计算方法可以是求平均、取最大 max 等等。假设 n=2，那么4个输入变成一个输出。输出图像就是输入图像的1/4大小。若把2维的层展平成一维向量，后面可再连接一个全连接前向神经网络。

      从图7可以看出，无论是卷积层还是池化层都可以叫做特征映射层，而两层之间的计算过程叫做卷积或者池化，但是这么表述容易在概念上产生混淆，所以本文不采用这种表述方式，只是拿来作为对比理解使用。

      下面对上面的内容做一下总结：

       卷积层(C-层或Convolutions层或CONV层或特征提取层，下文统称卷积层)：主要作用就是进行特征提取。

       池化层(S-层或子抽样局部平均层或下采样局部平均层或POOL层，下文统称池化层)：主要作用是减小特征图，起到降维的作用。常用的方法是选取局部区域的最大值或者平均值。如下图所示：

    

                                                        (图11)

         对于第一个卷积层来说(图6的C1-层)，一个特征对应一个通道(或叫feature map或特征映射或者叫滤波器，下文统称特征映射)，例如三原色(RGB)的图像就需要三个特征映射层。但是经过第一个池化层(图6的S2-层，PS:图中错标成了S1-层)之后，下一个特征提取层 (图6的C3-层)的特征映射 (feature map)个数并不一定与开始的相同了(图6中从8特征变成了20特征)，一般情况下会比初始的特征映射个数多，因为根据视觉系统原理----底层的结构构成上层更抽象的结构，所以当前层的特征映射是上一层的特征映射的组合，也就是一个特征映射会对应上一层的一个或多个特征映射。

  2.2 接受域和步长

        2.2.1 接受域

       

                                                 (图12)

             如图所示，中间的正方形都表示接受域，其大小为5*5。这里再重复一下：权重(卷积核)指的是数字，接受域指的是权重(卷积核)的大小。

        2.2.2 步长

      

                                                         （图13）

          接受域的对应范围从输入的区域1移到区域2的过程，或者从区域3移动到区域4都涉及到一个参数：步长，即每次移动的幅度。在此例中的步长可以表示成3或 者(3,3)，单个3表示横纵坐标方向都移动3个坐标点，如果(3,2)则表示横向移动3个坐标点，纵向移动2个坐标点。每次移动是按一个方向移动，不是两个方向都移 动(图13中，从区域1移动到区域2、区域3，然后才移动到区域4，如果两个方向都移动三个坐标点则从区域1到了区域5，是不对的)。

   2.3卷积神经网络

         2.3.1卷积神经网络定义

               卷积神经网络是一个多层的神经网络，每层由多个二维平面(特征映射)组成，而每个平面由多个独立神经元组成。

        2.3.2卷积神经网络特点

               卷积神经网络是为识别二维形状而特殊设计的一个多层感知器，这种网络结构对二维形状的平移、比例缩放、倾斜或者共他形式的变形具有高度不变性。

               卷积神经网络是前馈型网络。

       2.3.3 卷积神经网络的形式的约束

          2.3.3.1 特征提取

         每一个神经元从上一层的局部接受域得到突触输人，因而迫使它提取局部特征。一旦一个特征被提取出来，只要它相对于其他特征的位置被近似地保留下来，它的精确位置就变得没有那么重要了。

        下图两个X虽然有点稍微变形，但是还是可以识别出来都是X。

           

                                             (图14)

         2.3.3.2 特征映射

         网络的每一个计算层都是由多个特征映射组成的，每个特征映射都是平面形式的。平面中单独的神经元在约束下共享相同的突触权值集(权重)，这种结构形式具有如下的有益效果：

               a.平移不变性(图14的两个X)

               b.自由参数数量的缩减(通过权值共享实现)

        这里重点说下共享权值，以及卷积层神经单元个数的确定问题。

        以图12的结构为基础，做以下假设：

        假设一：输入范围在横纵方向与接受域正好是倍数关系

 

     

                                                   (图15)

      先说没有接受域的情况，如果特征映射有9个神经元，这9个神经元与9*9的输入做全连接，那么需要的权重个数为9*9*9=729个。添加了接受域后，9个神经元 分别与接受域做链接，这种情况下如果一个神经元对应一组权重，则有9*9=81个权重值，再假如这一组权重的值是固定的(可参考图12的接受域值，这组值不变，而不是每个值相等)，那么就只剩下了9个权重值。从729个权重值减少到9个权重值，这个过程就是权值共享的过程。也许从729减少到9个，差别不是特别大，如果输入是1000*1000，神经元个数是1000万呢？这样的话由权值共享导致的减少的计算量就很客观了。

             假设二：输入范围在横纵方向与接受域不是是倍数关系

              

                            (图16 )                                                 (图17)

          以图15为参考，只是把输入域变成图16所示的8*8的情况，若步长还是(3,3)，那么横纵向各移动一次后就无法移动了，即接受域的可视范围为粉色边框内的6*6的区域(图16的粉红框A区域和B区域)，外侧的2行2列的数据是读不到的。这种情况有两种处理方式，一是直接放弃，但是这种方式几乎不用，另外一种方式在周围补0(图17所示)，使输入域变成(3,3)的倍数。

       通过上述内容，可以知道每个特征映射的神经元的个数是由输入域大小、接受域、步长共同决定的。如图15，9*9的输入域、3*3的接受域、(3,3)的步长，可 以计算出特征映射的神经元个数为9个。

    2.3.3.3 子抽样

        每个卷积层后面跟着一个实现局部平均和子抽样的计算层(池化层)，由此特征映射的分辨率降低。这种操作具有使特征映射的输出对平移和其他形式的变形 的敏感度下降的作用。

 

3.用Keras构建一个卷积神经网络

    3.1 卷积神经网络结构图

 

                                                                                                     (图18)

    3.2 Keras中的输入及权重

         3.2.1 示例代码(小数字方便打印验证)

              PS：Convolution2D 前最好加ZeroPadding2D，否则需要自己计算输入、kernel_size、strides三者之间的关系，如果不是倍数关系，会直接报错。

model = Sequential()

model.add(ZeroPadding2D((1, 1), batch_input_shape=(1, 4, 4, 1)))
model.add(Convolution2D(filters=1,kernel_size=(3,3),strides=(3,3), activation='relu', name='conv1_1'))
model.layers[1].get_weights()

model.add(ZeroPadding2D((1, 1)))
model.add(Convolution2D(filters=1,kernel_size=(2,3),strides=(2,3), activation='relu', name='conv1_2'))
model.layers[3].get_weights()

        3.2.2 代码解释

           1) batch_input_shape=(1, 4, 4, 1)

               表示：输入1张1通道(或特征映射)的4*4的数据.因为我采用的是用Tensorflow做后端，所以采用“channels_last”数据格式。

           2) filters = 1

              表示：有1个通道(或特征映射)

           3) kernel_size = (2,3)

              表示：权重是2*3的矩阵

          4) striders = (2,3)

             表示：步长是(2,3)

       3.2.3 权重(默认会初始化权重)

         3.2.3.1 第一个model.layers[1].get_weights()输出(格式整理后)

         

                                   (图19)

         3.2.3.2 第二个model.layers[1].get_weights()输出

         

                                (图20)

         3.2.3.3 另外两个输出(没有写的参数值同上)

            1)batch_input_shape=(1, 4, 4, 3),filters = 1, kernel_size = (3,3)

              

                                               (图21)

           2) batch_input_shape=(1, 4, 4, 3),filters = 3, kernel_size = (2,3)

             

               (图22)

     3.2.4 小结

         图19到图22的内容是为了说明在Keras中权重的表示方式，为下面的实验做准备。

         通过以上参数得出的权重对比，当权重是二维矩阵(n*n)时：

         1) [[[…]]]：表示横轴数目

         2) [[…]]:表示纵轴数目

         3) […]:表示通道的个数。图21和图22的区别：因为图22是3通道3filter，所以每个通道对应一个filter(图20)，而图22相当于把3个图20合一起了。

        4) […]内逗号隔开的数：filter的个数

        5) [[[[…]]]]：这个可能代表层数(前面几个参数是平面的，这个参数是立体的。在下面的实验中没有得到具体验证，只是根据最外层是5个方括号推测的)

   3.3 sobel算子转化成权重

        由3.2.4的结论，可以把图4的sobel算子转换成Keras中的权重：

        weights = [[[[[-1]],[[0]],[[1]]],[[[-2]],[[0]],[[2]]],[[[-1]],[[0]],[[1]]]]]

        weights =np.array(weights)

        PS：注意最外围是5个方括号

   3.4 实验代码 

from PIL import Image
import  numpy as np
from keras.models import Sequential
from keras.layers import Convolution2D, ZeroPadding2D, MaxPooling2D
from keras.optimizers import SGD

'''
   第一步：读取图片数据
   说明：这个过程需要安装pillow模块：pip install pillow
'''
##1张1通道的256*256的灰度图片
##data[0,0,0,0]：表示第一张图片的第一个通道的坐标为(0,0)的像素值
img_width, img_height = 256, 256
data = np.empty((1,1,img_width,img_height),dtype="float32")
##打开图片
img = Image.open("D:\\keras\\lena.jpg")
##把图片转换成数组形式
arr = np.asarray(img,dtype="float32")
data[0,:,:,:] = arr

'''
    第二步：设置权重
    说明：注意最外围是5个方括号
'''
weights = [[[[[-1]],[[0]],[[1]]],[[[-2]],[[0]],[[2]]],[[[-1]],[[0]],[[1]]]]]
weights =np.array(weights)

'''
   第三步：组织卷积神经网络
   说明：
   1.因为实验采用的是默认的tensorflow后端，而输入图像是channels_first模式，所以注意data_format参数的设置
   2.为了实验的效果，所以strides、pool_size等参数设置成了1
'''

##第一次卷积
model = Sequential()
model.add(ZeroPadding2D(padding=(2, 2), data_format='channels_first', batch_input_shape=(1, 1,img_width, img_height)))
model.add(Convolution2D(filters=1,kernel_size=(3,3),strides=(1,1), activation='relu', name='conv1_1', data_format='channels_first'))
model.set_weights(weights)

##第二次卷积
model.add(ZeroPadding2D((1, 1)))
model.add(Convolution2D(filters=1,kernel_size=(3,3),strides=(1,1), activation='relu', name='conv1_2',data_format='channels_first'))
model.set_weights(weights)

##池化操作
model.add(ZeroPadding2D((0, 0)))
model.add(MaxPooling2D(pool_size=1, strides=None,data_format='channels_first'))

'''
   第四步： 设置优化参数并编译网络
'''

# 优化函数，设定学习率（lr）等参数
sgd = SGD(lr=0.01, decay=1e-6, momentum=0.9, nesterov=True) 
# 使用mse作为loss函数
model.compile(loss='mse', optimizer=sgd, class_mode='categorical') 

'''
    第五步：预测结果
'''
result = model.predict(data,batch_size=1,verbose=0)

'''
    第六步：保存结果到图片
'''
img_new=Image.fromarray(result[0][0]).convert('L')
img_new.save("D:\\keras\\tt123.jpg")

   3.5 实验效果

    

                       (图23)                                                               (图24)

         图24是池化层参数改为pool_size=2时的效果。

 

参考文献：https://www.cnblogs.com/lc1217/p/7324935.html