G1D16-fraud-SVM

早上复习了一下昨天学的内容,发现这零碎时间用来复习,真的很不错。
但是遇到了一个问题:知识推理和知识挖掘有什么区别?

  • 知识规则挖掘是对知识结构的挖掘,可以针对现有的知识体系,
    利用部分规则,挖掘出新的知识,如挖掘新的实体、关联关系等
  • 推理是从已有的知识当中推断出尚未拥有的知识的过程

以后慢慢悟吧~我要继续我的fraud基础复习之旅了

一、Fraud

争取在0900前完成svm,包括原理和超参数设置

(一)SVM

1、先跑一下模型,看一下代码

2、看一下参数

    model = svm.SVC(C=100.0, kernel='linear', gamma='auto', decision_function_shape='ovr', cache_size=500)

开始各种翻SVM原理的资料
emm突然看到typora的图片都存在c盘了,太难受了,改!

–1005刚刚一直卡在这里,看了好多遍,去查了其他资料,终于懂啦!!!为什么等价!!!开心!!
G1D16-fraud-SVM_第1张图片

参考:https://blog.csdn.net/Resume_f/article/details/104754865

(1)首先将约束优化问题,根据拉格朗日乘子法转换为无约束问题,在转换时,要求λ大于>=0。现在除了λ外,没有其他约束条件啦

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-mQrAERKK-1668738479358)(E:\stup\Typora\pics\image-20221118101111910.png)]

(2)接下来,提出一个新奇的设想——先固定住x,调整λ和v求其最大值。【完了之后呢?】

如果这样操作的话,会有两种情况。

A.如果f(x)和h(x)听话,满足约束条件,则会有[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-Be1Wa1OY-1668738479358)(E:\stup\Typora\pics\image-20221118101504260.png)]

=f0(x)

B.如果不听话,那么fi(x)有>0的情况,则[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-uL6MxybU-1668738479358)(E:\stup\Typora\pics\image-20221118101636611.png)]

=无穷大

C.综上,max(。。。)=

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-KZgYzqBO-1668738479359)(E:\stup\Typora\pics\image-20221118101704095.png)]

D.再对上面这个J对x求min,则只会求出,x满足约束条件的情况,因为虽然不满足约束条件的情况也会求,但是它的值是大于f0(x)的。

综上所述,我们先对λ和v求最大值,再对x求最小值的方法

与x满足约束条件求最小值的方法是相同的。

也就是说,上面一通操作,就是证明了当λ>=0时,求三个变量最小化问题,可以变为,先求其中两个最大化,再求另一个最小化的问题。

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-8lsmXUrr-1668738479359)(E:\stup\Typora\pics\image-20221118102337056.png)]

的正确性。

和最初的原问题要求一样,x满足约束条件,求f0(x)最小值。

但是可能先求max会使问题更好解决。

3、仿射函数

4、感觉kkt条件还要好好理解一下

emmm
没想到1112了,要去吃饭了,基础看的差不多了,希望上午能粗略看完svm。

万万没想到。。。下午四点半了,还在看,不过好有意思啊~
吃了好多零食hh

上头了

2058
尽力了尽力了,把hard-margin弄明白啦~
最后就是先求解lambda,然后带入w和b就好啦~
其实就是根据数据再做一个优化问题,求解lambda,使用SMO算法。

今天不干别的啦~再看看软间隔hhh

哦吼差不多啦刷个牙,洗个脸,刷道题~

你可能感兴趣的:(G1D16-fraud-SVM)