《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机

《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第1张图片

  • 开篇介绍:《深度学习入门-基于Python的理论与实现》书籍介绍
  • 第一章:《深度学习入门-基于Python的理论与实现》第一章带读

文章构成:

  • 感知机是什么
  • 感知机构建逻辑电路
  • 感知机的局限性
  • 多层感知机

1.感知机是什么

感知机(perceptron)是由美国学者Frank Rosenblatt在1957年提出。市面上的深度学习相关书籍常把感知机的学习放在最开始章节,是因为感知机是神经网络的起源算法。感知机接收多个输入信号(x1、x2 …),输出一个信号(只有1/0两种取值)。不同的输入信号对应不同的权重(w1、w2 …),当接收的信号总和(w1x1+w2x2 …)大于某个阈值(θ)时,才会输出1。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第2张图片《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第3张图片
用于调整输出信号为1的程度的阈值θ挪到公式左边(-θ)用b代替,通常叫做偏置。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第4张图片

2. 感知机构建逻辑电路

与门(AND gate):仅在两个输入均为1时输出1,否则输出0。感知机构建条件很多,比如:(w1, w2, θ) = (0.5, 0.5, 0.7)。可以在二维坐标图上画出点(x1,x2),y用○表示0,△表示1。感知机就是一条分割○△的直线。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第5张图片
与非门(NAND gate):跟与门相反,仅在两个输入均为1时输出0,否则输出1。感知机构建条件很多,比如:(w1, w2, θ) = (-0.5, -0.5, -0.7)。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第6张图片
或门(OR gate):只要有一个输入信号是1,输出就为1。感知机构建条件很多,比如:(w1, w2, θ) = (1, 1, 0.7)。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第7张图片
异或门(XOR gate):仅当两个输入中的一方为1时,才会输出1。单层感知机无法构建。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第8张图片

3. 感知机的局限性

将异或门用二维坐标图展示如下,显然无法用一条直线分割○△空间。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第9张图片
感知机的局限性就是它只能表示由一条直线分割的空间(线性空间)。
要分开上图的○△,只能使用曲线分割出非线形空间。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第10张图片

4. 多层感知机

(一层)感知机不能表示异或门,但是叠加感知机的层数可以来表示异或门。
首先,我们用已有的门电路(与门(AND)、与非门(NAND)、或门(OR))来组合实现异或门,符号如下:
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第11张图片
将上面三个门按照下图组合,实现异或门:
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第12张图片
我们用数值列表来核实上面的组合,可以发现确实符合异或门的输出:
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第13张图片

与门、与非门、或门是单层感知机,而异或门是2层感知机。叠加了多层的感知机也称为多层感知机(multi-layered perceptron)。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第14张图片

可以看到,通过叠加层(加深层),感知机能进行更加灵活的表示(能够进行非线性的表示)。



书籍下载链接:https://pan.baidu.com/s/1goHhf2GZt0gxxbLXa42CmA
密码: 4vi2


欢迎关注微信公众号【布道NLP】获取更多AI相关知识。
《深度学习入门-基于Python的理论与实现》第二章带读 -- 感知机_第15张图片

你可能感兴趣的:(#,深度学习入门,基于Python的理论与实现,深度学习)