深度学习入门04-感知机基本概念和简单逻辑电路

深度学习入门04-感知机基本概念和简单逻辑电路_第1张图片
前面的文章我们介绍了Python的基础知识和一些常用的外部库。下面我们将开始学习深度学习的相关内容。首先,我们学习神经网络(深度学习)的起源的算法——感知机

1 感知机是什么

感知机(Perceptron),有定义为:

二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别。

这个概念是由美国学者Frank Rosenblatt在1957年提出来的,是神经网络和支持向量机的基础。

感知机接收多个输入信号,输出一个信号。这里所说的“信号”可以想象成电流或河流那样具备“流动性”的东西。像电流流过导线,向前方输送电子一样,感知机的信号也会形成流,向前方输送信息。但是,和实际的电流不同的是,感知机的信号只有“流/不流”(1/0)两种取值。 0对应“不传递信号”, 1对应“传递信号”。

下图是一个接收两个输入信号的感知机的例子。
深度学习入门04-感知机基本概念和简单逻辑电路_第2张图片
x1、 x2是输入信号,y是输出信号, w1、 w2是权重。图中的圆圈称为“神经元”或者“节点”。输入信号被送往神经元时,会被分别乘以固定的权重(w1x1、 w2x2)。y神经元会计算传送过来的信号的总和,只有当这个总和超过了某个界限值时,才会输出1。这也称为“神经元被激活” 。这里将这个界限值称为阈值,用符号 θ表示。

感知机的运行原理只有这些!把上述内容用数学式来表示,就是下面的公式。

深度学习入门04-感知机基本概念和简单逻辑电路_第3张图片
感知机的多个输入信号都有各自固有的权重,这些权重发挥着控制各个信号的重要性的作用。也就是说,权重越大,对应该权重的信号的重要性就越高。

2 简单逻辑电路

有了感知机模型,我们来使用它解决一下实际的问题。

2.1 与门

首先我们先实现逻辑电路中的二输入与门功能。二输入与门有两个输入信号,一个输出信号的逻辑门,输入输出信号的逻辑关系如下表(真值表)所示。
深度学习入门04-感知机基本概念和简单逻辑电路_第4张图片
可以看到,当两个输入都为1时,与门才输出1,否则与门一直输出为0。

使用感知机模型如何实现这一功能呢?其实我们只需要调整w1、w2和θ的值,实现真值表中的输入输出对应关系就可以了。这样的问题是不是让你想到了中学的知识呢。解决方案还是从下面这个公式来看。
深度学习入门04-感知机基本概念和简单逻辑电路_第5张图片
对于任意一个给定的θ值,只需要调整w1、w2的值就可以实现该功能了。因此,满足与门真值表条件的参数有无数多个。如θ=1时,w1+w2满足大于1就可以了,如w1=1, w2=1,当然,我们假定的x1和x2只有0和1两种情况。

2.2 与非门和或门

下面,我们在来实现以下与非门和或门。

与非门的真值表如下:
深度学习入门04-感知机基本概念和简单逻辑电路_第6张图片
可以看到,和与门的真值表相比,输入相同,输出相反。与非门的逻辑功能就是与门逻辑功能的颠倒。按照之前的公式,与非门的的参数组合也有无限多个。其实我们直接将与门的w1,w2和θ直接取反就可以得到与非门的参数组合。

或门的真值表如下:

深度学习入门04-感知机基本概念和简单逻辑电路_第7张图片
可以看到,对于或门来说,当输入都为0时,输出为0,否则输出为1。按照之前的思路,我们怎么样配置参数能够获得或门的功能呢?对于给定的θ值,需要调整w1、w2的值。假设θ=1,当x1=0, x2=0时,对于任意的w1、w2,都满足w1x1+w2x2=0,需要考虑其他情况。对于x1=1, x2=0时,需要w1x1>1,即w1>1;同理,x1=0, x2=1时,w2>1。所以,只需要w1>1, w2>1就可以满足这个要求了。是不是很简单呢。

如上所示,我们已经知道使用感知机可以表示与门、与非门、或门的逻辑电路。这里重要的一点是:与门、与非门、或门的感知机构造是一样的。实际上, 3个门电路只有参数的值(权重和阈值)不同。也就是说,相同构造
的感知机,只需通过适当地调整参数的值,就可以像“变色龙演员”表演不同的角色一样,变身为与门、与非门、或门。
下一期,我们将对感知机的实现进行学习。
在这里插入图片描述

你可能感兴趣的:(深度学习,python,感知机,深度学习入门)