sklearn机器学习——day19

sklearn的神经网络

神经网络与人脑的处理过程

sklearn机器学习——day19_第1张图片

sklearn是专注于机器学习的库,它不是专用于深度学习的平台,也不具备处理大型数据的能力,所以sklearn中的神经网络和其他机器学习算法比起来显得有些不受重视,它不具备做真正的深度学习的功能,甚至对一些在深度学习中非常关键的点缺乏关注。

回归单层神经网络:线性回归

 

w和b称为模型参数,b是偏差,w是回归参数

假设我们使用一个神经网络来表达线性回归的上述过程:

sklearn机器学习——day19_第2张图片

这是一个最简单的神经网络表示图

代码实现“

sklearn机器学习——day19_第3张图片 

sklearn机器学习——day19_第4张图片 二分类单层神经网络:sigmoid函数与阶跃函数

sklearn机器学习——day19_第5张图片 

sklearn机器学习——day19_第6张图片 

sklearn机器学习——day19_第7张图片 

sklearn机器学习——day19_第8张图片 

sklearn机器学习——day19_第9张图片 

多分类单层神经网络:softmax回归 

 在了解二分类后,我们可以继续将神经网络推广到多分类。在sklearn中,我们曾经学习过逻辑回归做多分类的做法。逻辑回归通过Many-vs-Many (多对多)和One-vs-Rest (一对多)模式来进行多分类。其中,OvR是指将多个标签类别中的一类作为类别1,其他所有类别作为类别0,分别建立多个二分类模型,综合得出多分类结果的方法。

MvM是指把好几个标签类作为1,剩下的几个标签类别作为0,同样分别建立多个二分类模型来得出多分类结果的方法。这两种方法非常有效,尤其是在逻辑回归做多分类的问题上能够解决很多问题,但是对于神经网络却不奏效。

sklearn机器学习——day19_第10张图片

softmax公式:

 

sklearn机器学习——day19_第11张图片 

 

 

你可能感兴趣的:(sklearn机器学习——day19)