机器学习算法钻取:SVM(2)-面试题汇总

前言: 问题和答案请参考链接原文, 我这里只针对部分问题有不同意见或补充

一、SVM的目标(硬间隔):

一句话概括支持向量机的目标: 在样本正确分类的约束条件下, 使分类超平面间隔最大化. 在高维度的希尔伯特特征空间中, 样本一定是线性可分的.
约束条件 y i ( X i T W + b ) ≥ 1 \quad y_i(X_i^TW+b) \ge 1 yi(XiTW+b)1,是有严格的数学理论依据的.因为SVM解决的是二分类问题, 目标是标称值{-1, 1}, 那么在预测正确的条件下, 预测值和真实值同为1或-1, 相乘的结果就是1, 若样本为支持向量, 则取到等, 非支持向量为>1

二、 求解目标(硬间隔):

(1) 注意这里的将原始问题转化为拉格朗日函数的表达形式, 中间使用的是“+”, 所以注意约束条件转化形式为 1 − y i ( X i T W + b ) 1-\quad y_i(X_i^TW+b) 1yi(XiTW+b), 若是“-”号, 应该倒过来.
(2) 将原始问题转化为对偶问题, 只需满足Slater条件, 这样能保证对偶问题的最优解, 同时也对应着原始问题的最优解, 方便使用SMO算法求解. 而KKT条件, 是在求原始问题参数最优解的时候的公式.
(3)这里的推导过程不详细, 建议阅读这篇文章

欢迎补充啊!!!

你可能感兴趣的:(机器学习)