神经网络之感知机

目录

前言

感知机概念

感知机本质

感知机的缺陷

总结

前言

本周是对神经网络中的感知机 展开学习。神经网络是由一个个感知机组成的。 这两周主要在写论文，对课程的学习有了些许的减少。

感知机概念

感知机也同动物的神经元类似实现了一 个多对一的关系，它可以有多个输入，然后经过相关的一系列计算后，输出0或1这一种信号。

感知机就是一个分类的工具。给它一串数据，如下图所示。

把这些数据交给感知机后，它可以去判断哪些人比较胖、哪些人比较瘦。（这只是二维的数据，三维数据、四维数据都可以）

在被提出后，人工智能得到了繁荣的发展。然而在后来，由著名的科学家明斯基提出了它 先天的缺陷：虽然它能处理与、或、非这些逻辑运算，但不能进行异或运算。

感知机本质

感知机具体框架图如下所示。

感知机只能处理2分问题，同时只是线性进行划分，二维问题就是画一条直线、三维问题就是画一个平面，n维问题就是画出一个n-1维的平面。

感知机背后体现的思想：它体现的是一个分治的思想，把一些复杂的问题拆分为一些简单的问题。

感知机的公式：

f函数里面的表达式展开为：

函数f的表达式：

在f(WtX)中，其实就是两个矩阵的点积

感知机的缺陷

不能实现异或

在感知机中异或没办法被线性区分

即倘若在现实中的话，感知机无法区分在苹果后面的勺子。

同样的在下图，不需要画圆圈也没有办法靠一条直线就把两种情况给区分了。要用曲线的方式才能进行区分，感知机无法做到。

解决无法进行异或计算问题：采用多个感知机进行运算。

在将x1和x2进行异或计算时，将二者都输入两个不同的感知机，先进行初步计算，再将二者的结果输入第三个感知机进行与运算，最后得出x1和x2异或的结果。运算过程如下图所示。

通过叠加感知机的方法，将两个状态并到了一起，实现了线性可分。

 

除此之外还可以通过升维的方法解决感知机无法进行异或运算的问题。在二维平面的时候需要画一个圈才能划分，而在三维空间时，只需一个平面就可以进行划分。这个方式叫做核方法。

总结

感知机就是一个分类的模板，一个线性函数加上一个激活函数，然而模板的能力存在一定的限制，它只能解决线性、二分的问题。倘若是异或或者非线性问题就无法解决了。

当在这时候还想要一个通用的模板的时候，可以考虑对原来的数据进行升维或变形。此时感知机就会分为三个部分，第一部分是升维或者变形的函数，第二部分线性函数、第三部分是激活函数。给感知机增加数量来解决异或非线性问题更简单直接