人工智能_机器学习055_拉格朗日乘子法_拉格朗日乘数法的原理介绍_流程详解---人工智能工作笔记0095

人工智能_机器学习055_拉格朗日乘子法_拉格朗日乘数法的原理介绍_流程详解---人工智能工作笔记0095_第1张图片

上一节我们已经演示了把SVM支持向量机的分割线,画出来,并且,我们也推导了SVM支持向量机的公式,但是支持向量机的公式,是带有条件的对吧,带有条件就算起来比较麻烦人工智能_机器学习055_拉格朗日乘子法_拉格朗日乘数法的原理介绍_流程详解---人工智能工作笔记0095_第2张图片

可以看到现在我们要可以用,拉格朗日乘数法,将 有等式约束条件的优化问题 转换为 无约束优化问题,把有条件转换为无条件对吧,但是我们的SVM支持向量机的目标函数中,的条件是不等式条件对吧,不是等式,所以更复杂一些.

人工智能_机器学习055_拉格朗日乘子法_拉格朗日乘数法的原理介绍_流程详解---人工智能工作笔记0095_第3张图片

可以看到,下面这个就是minf(x) s.t h(x) = 0 这个就是拉格朗日乘数法,可以看到

这个意思就是说,在h(x) = 0的条件下,来求min f(x)对吧 最小值对吧.

人工智能_机器学习055_拉格朗日乘子法_拉格朗日乘数法的原理介绍_流程详解---人工智能工作笔记0095_第4张图片

既然有条件约束的,不好计算,那么我们就可以,引入一个自变量lamada,

然后把公式转换,可以看到,把公式等价的转换成下面的公式.

这两个公式是等价的,这样就把有条件的公式,转换成了无条件的公式.

这里用人工智能解释一下如何转换的过程:

拉格朗日乘数法是一种求解带约束条件的最优化问

你可能感兴趣的:(人工智能,机器学习,拉格朗日乘数法,拉格朗日乘数法原理,拉格朗日乘数法公式)