【SVM原理推导】核SVM为什么能分类非线性问题？

核SVM为什么能分类非线性问题？要解决这个问题，首先应该先深入理解SVM的原理与本质。（涉及SVM的问题是很常见的，因为SVM可以算是传统机器学习领域非常成功的算法之一了，现在仍有许多research运用SVM解决问题。）

一、支持向量机（SVM）

1. 基本介绍与提出背景

支持向量机（Support Vector Machine, SVM）是一类按监督学习（supervised learning）方式对数据进行二元分类的广义线性分类器（generalized linear classifier），其决策边界是对学习样本求解的最大边距超平面（maximum-margin hyperplane） 。SVM使用铰链损失函数（hinge loss）计算经验风险（empirical risk）并在求解系统中加入了正则化项以优化结构风险（structural risk），是一个具有稀疏性和稳健性的分类器 。SVM可以通过核方法（kernel method）进行非线性分类，是常见的核学习（kernel learning）方法之一 。SVM是由下面三个伟大的科学家提出的：

SVM提出的目的是寻找最优分类决策边界，因为对于线性可分的数据集来说，决策边界可能有很多个，以下图为例，H₁和H₂都可以讲红色样本和蓝色样本区