【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍

目录

神经网络概述

感知机(Perceptron)及感知机的极限。

感知机:

感知机的极限:

多层感知机(multi-Layer Perceptron)

总结:


我的主页:晴天qt01的博客_CSDN博客-数据分析师领域博主

目前进度:第四部分【机器学习算法】

神经网络与深度学习是最近的热门话题,产生了很多人工智能上的应用。所以我们学习的内容也会相对多一些。

神经网络概述

神经网络我们是从生物的神经网络构造上得到的灵感

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第1张图片

 

我们学习的神经网络不过是生物神经网络的类似体。

生物神经网络里有一个细胞核,我们称为神经元。人大概有10的11次神经元。10的15次方神经键。神经元有一个触手刚开始我们叫轴突,轴突会越来越细,变成树状突,树状突会互相接触,达到神经元互相沟通的效果。

于是我们想用数学来模型生物神经网络的运作。

感知机(Perceptron)及感知机的极限。

感知机:

Rosenblatt  在1957年提出。为什么我们现在还要学这么古老的算法呢?其实是因为感知机是造就了神经网络。(深度学习)的算法。它是原型。

因此,学习感知机的架构,等于学习神经网络或深度学习的重要概念

使用感知机,就可以建立计算机。我们建立一个房子就要学会盖砖块。感知机就相当于这个砖块。

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第2张图片

 

感知机是指收到多个信号之后,按一个信号发出。。

输入信号传送到神经元的时候,分别乘上各自的权重(w1x1,w2,x2)然后进行求和,如果超过一定数值,y就会输出1否则输出0,这个数值一般称为临界值。

用数学算式来表达就是下面这个式子

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第3张图片

 

权重代表信号的重要性,权重越重,代表重要性越高,权重越低代表重要性越低。

案例:逻辑电路

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第4张图片

 

表达and Gate 也就是当二者同时为1的时候,那么它就满足输出条件1.

我们要决定权重值w1,w2和临界值西塔

实际上我们有无数个w1,w2,临界值可以满足这个条件

例如(0.5,0.5,0.7)(0.5,0.5,0.8)(1.0,1.0,1.0)

10,01,00,都不会满足条件,只有11的时候才能满足临界值条件。

都可以满足这个AND Gate条件。

那么我们选择要满足 NAND呢(Not AND)

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第5张图片

 

那么其实我们加上负号,就可以达到我们想要的条件。

如果要做OR gate呢(只要有一个1,就输出1)

这3种Gates都只是参数不同,适当的调整参数 就可以达到我们需要的效果。

假设or Gate的值是(-0.5,1,1)我们希望得到Xor要怎么做呢?我们发现无论我们参数如何改变。都不能做到完美预测结果。

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第6张图片

 

用一条线,我们是不能把它区分开来的。它是非线性的问题。所以我们就发现了感知机的极限

感知机的极限:

它不能区分线性和非线性的区别。

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第7张图片

 

怎么样能让感知机做到处理非线性的内容呢

多层感知机(multi-Layer Perceptron)

这时需要引入多次感知机。它可以区分非线性的问题

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第8张图片

 

在逻辑电路里我们会把AND,NAND和OR表示为上图的情况,那我们现在多层如何表示才能让多次感知机变成处理XOR的问题呢

答案如下

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第9张图片

 

我们看右下角的表格,我们把数值从x1和x2利用NAND和OR转变为S1,S2,在把S1,S2作为输入字段得到y。回过头,看X1和X2输入的数值。发现00时输出0,11时也会输出0,这就是多层感知机的处理非线性问题的方法。

每个感知机里都是输入信号,权重,界限,输出信号,

如果我们把基本结构画入多层感知机,其实你会发现它也是很复杂的。

【机器学习算法】神经网络和深度学习-1 神经网络概述和感知机介绍_第10张图片

 

我们会把第0层是输入层。第一层定位为隐藏层,第二层是输出神经元

隐藏层是不是只能有一个,其实不是,可以有多个,我们的神经网络就是有多个隐藏层的处理方式

感知机就是神经网络的雏形,它能让你的预测结果更为准确。

总结:

感知机,是具有输入和输出的算法,给予输入之后,就会输出一定值。感知机可以将权重与偏置项(界限)作为参数设定。使用感知机可以表现AND gate OR gate NANO逻辑电路规则

XOR无法用感知机实现

使用双层感知机,可以实现XOR gate

单层感知机,只能表示线性问题,而多层感知机能表现非线性区域。

多层感知机可以实现计算机的所有功能。

你可能感兴趣的:(数据分析师,机器学习,深度学习,神经网络,数据挖掘)