早上复习了一下昨天学的内容,发现这零碎时间用来复习,真的很不错。
但是遇到了一个问题:知识推理和知识挖掘有什么区别?
以后慢慢悟吧~我要继续我的fraud基础复习之旅了
争取在0900前完成svm,包括原理和超参数设置
model = svm.SVC(C=100.0, kernel='linear', gamma='auto', decision_function_shape='ovr', cache_size=500)
开始各种翻SVM原理的资料
emm突然看到typora的图片都存在c盘了,太难受了,改!
–1005刚刚一直卡在这里,看了好多遍,去查了其他资料,终于懂啦!!!为什么等价!!!开心!!
参考:https://blog.csdn.net/Resume_f/article/details/104754865
(1)首先将约束优化问题,根据拉格朗日乘子法转换为无约束问题,在转换时,要求λ大于>=0。现在除了λ外,没有其他约束条件啦
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-mQrAERKK-1668738479358)(E:\stup\Typora\pics\image-20221118101111910.png)]
(2)接下来,提出一个新奇的设想——先固定住x,调整λ和v求其最大值。【完了之后呢?】
如果这样操作的话,会有两种情况。
A.如果f(x)和h(x)听话,满足约束条件,则会有[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Be1Wa1OY-1668738479358)(E:\stup\Typora\pics\image-20221118101504260.png)]
=f0(x)
B.如果不听话,那么fi(x)有>0的情况,则[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-uL6MxybU-1668738479358)(E:\stup\Typora\pics\image-20221118101636611.png)]
=无穷大
C.综上,max(。。。)=
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-KZgYzqBO-1668738479359)(E:\stup\Typora\pics\image-20221118101704095.png)]
D.再对上面这个J对x求min,则只会求出,x满足约束条件的情况,因为虽然不满足约束条件的情况也会求,但是它的值是大于f0(x)的。
综上所述,我们先对λ和v求最大值,再对x求最小值的方法
与x满足约束条件求最小值的方法是相同的。
也就是说,上面一通操作,就是证明了当λ>=0时,求三个变量最小化问题,可以变为,先求其中两个最大化,再求另一个最小化的问题。
[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8lsmXUrr-1668738479359)(E:\stup\Typora\pics\image-20221118102337056.png)]
的正确性。
和最初的原问题要求一样,x满足约束条件,求f0(x)最小值。
但是可能先求max会使问题更好解决。
emmm
没想到1112了,要去吃饭了,基础看的差不多了,希望上午能粗略看完svm。
万万没想到。。。下午四点半了,还在看,不过好有意思啊~
吃了好多零食hh
上头了
2058
尽力了尽力了,把hard-margin弄明白啦~
最后就是先求解lambda,然后带入w和b就好啦~
其实就是根据数据再做一个优化问题,求解lambda,使用SMO算法。
今天不干别的啦~再看看软间隔hhh
哦吼差不多啦刷个牙,洗个脸,刷道题~