为什么支持向量机和感知机等问题都有原始和对偶问题之分

	每一个线性规划问题都伴随有另一个线性规划问题,称为对偶问题。原来的线性规划问题则称为原始线性规划问题,简称原始问题。对偶问题有许多重要的特征,它的变量能提供关于原始问题最优解的许多重要资料,有助于原始问题的求解和分析。对偶问题与原始问题之间存在着下列关系:①目标函数对原始问题是极大化,对对偶问题则是极小化。②原始问题目标函数中的收益系数是对偶问题约束不等式中的右端常数,而原始问题约束不等式中的右端常数则是对偶问题中目标函数的收益系数。③原始问题和对偶问题的约束不等式的符号方向相反。④原始问题约束不等式系数矩阵转置后即为对偶问题的约束不等式的系数矩阵。⑤原始问题的约束方程数对应于对偶问题的变量数,而原始问题的变量数对应于对偶问题的约束方程数。⑥对偶问题的对偶问题是原始问题,这一性质被称为原始和对偶问题的对称性。

支持向量机的二次规划问题,如果转化为对偶问题,会将其求解问题简化。简化的道理,通过对偶理论就可以知道。例如,支持向量机的最大化分类间隔,可以通过对偶问题转为min形式。

	总之,对偶形式有很多的优点,利于计算,方便推导等等。

你可能感兴趣的:(统计学习,机器学习)