机器学习笔记 - 感知机

感知机模型

  • 感知机(perceptron)是二类分类的现行分类模型,输入为实例的特征向量,输出为实例的类别(-1,1)。
  • 感知机对应于输入空间(特征空间)中的一个分离超平面,这个分离超平面将实例划分为正负两类,属于判别模型。
  • 感知机的学习旨在求出将训练数据进行线性划分的分离超平面,为此导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化,求得感知机模型。
  • 感知机是神经网络与支持向量机的基础。

 

感知机模型

\large \large f(x)=sign(w\cdot x+b)

其中x为特征向量,w和b为感知机模型的参数。

 

感知机的几何解释:线性方程

\large w\cdot x+b=0

对应特征空间 \large R^{n} 中的一个超平面S,w为超平面的法向量,b为超平面的截距。这个超平面将特征空间划分为两个部分,隐藏称为分离超平面。

机器学习笔记 - 感知机_第1张图片

 

 

参考文章:

机器学习入门之《统计学习方法》笔记整理——感知机

《统计学习方法》读书笔记——感知机

你可能感兴趣的:(机器学习)