统计学习方法—2.感知机

概要：感知机是二类分类（-1，+1）、线性分类模型，属于判别模型，旨在求出将训练数据进行线性划分的分离超平面。

感知机的优点是简单易于实现，分为原始形式和对偶形式。感知机是神经网络与支持向量机的基础。

1.线性可分：对于一个数据集，如果存在某个超平面S能够将数据集的正实例点和负实例点完全正确地划分到超平面的两侧，则称该数据集为线性可分。

2.感知机学习的前提假设是数据集线性可分，感知机存在无穷多个解（由于初值不同或迭代顺序不同而造成）

它的学习目标是求得一个能够将正负实例点完全正确分开的分离超平面，求出参数W（方向），b（偏移、截距）。

它的损失函数是所有误分类点到超平面的总距离，用梯度下降法求解。

原始形式和对偶形式。