统计学习方法李航第30页

AI之路（五）——关于统计学习（statistical learning）Part 4 模型评估与模型选择

注意，统计学习方法具体采用的损失函数未必是评估时使用的损失函数。当然，让两者一致是比较理想的。假设学习到的模型是Y=f^(X

达摩院院长·2020-08-02 21:28

统计学习方法第七章的序列最小最优化算法SMO代码实践

统计学习方法第七章的序列最小最优化算法SMO代码实践#-*-encoding:utf-8-*-fromnumpyimport*#又调试了半天写代码需谨慎，另外在内循环的函数中标记了代码所在书中公式的位置

亦万·2020-08-02 21:04

python实现支持向量机SVM源码（SMO算法）

本次是学习了李航博士《统计学习分析》后实现了算法，算法实现了线性支持向量机和非线性支持向量机，采用SMO算法求解。算法中实现了两种核函数：高斯核函数和多项式核函数。

Tomator01·2020-08-02 21:27

机器学习(7)——支持向量机（一）：从感知机到线性可分支持向量机

因此先是系统推导了李航的《机器学习》，之后学习AndrewNg的机器学习课程，并看了july、pluskid等人的技术博客。也不能说自己完全懂了，只能算是学习笔记，总结一些自己能掌握的东西。我在

Lyndon_zheng·2020-08-02 21:01

深入浅出机器学习之支持向量机SVM(SMO算法)

主要基于统计学习方法这本书。

wh357589873·2020-08-02 21:58

SVM学习总结（三）SMO算法流程图及注释源码

非常适合初学者的，而且smo算法实现的主体架构和实现都与SMO算法原论文基本一致，源码应该是一个老外写的，英文注释较多，csdn上下的适合有些中文注释，我在看的过程中又加入了一些注释，注释中提到的书指的主要是李航的

往事如风~·2020-08-02 20:01

统计学习方法笔记---SMO算法

前言首先我们需要知道的是SMO算法适用于求解凸二次规划问题的最优解，在详细讲解SMO之前，我们需要了解坐标上升法，该算法每一轮迭代得到多元函数中的一个参数，通过多次迭代直到收敛得到所有参数解。如Θ=[θ1,θ2,θ3]\Theta=[\theta_1,\theta_2,\theta_3]Θ=[θ1,θ2,θ3]，每一轮只计算θi\theta_iθi，经过三次迭代得到Θ\ThetaΘ。SMO的特点S

leemusk·2020-08-02 20:39

手推机器学习系列笔记——手推SVM(1)硬间隔、软间隔、约束优化问题、对偶性证明、KKT条件

笔记是听了b站大神的白板推导机器学习系列课，再结合李航老师的《统计学习方法》、周志华老师的西瓜书以及其他优秀博主的博客而成（浑然天成！！！）

Fox_Alex·2020-08-02 20:22

机器学习在线手册：像背托福单词一样学机器学习

(作者：黄海广[1])机器学习手册分为三个部分，数学基础、机器学习经典算法、统计学习方法。建议有时间的同学可以这三个部分按照顺序学习，时间少的同学，我建议直接看机器学习

湾区人工智能·2020-08-02 15:43

【有监督学习】积累与发现

{2}(\mathbf{X\theta}-\mathbf{Y})^T(\mathbf{X\theta}-\mathbf{Y})J(θ)=21(Xθ−Y)T(Xθ−Y)，爱会不会感知机感知机原理小结在《统计学习方法

dominic_z·2020-08-01 12:43

Coursera机器学习课程笔记(1) Supervised Learning and Unsupervised Learning

yew1eb·2020-08-01 08:31

极大似然估计法推出朴素贝叶斯法中的先验概率估计公式如何理解

下面的答案将先照《统计学习方法》一书将问题补充完整，以便手上没这本书的人也能看明白，然后再给出推导过程。设输入空间为n维向量的集合，输出空间为类标记集合{}。

Roswell_lou·2020-07-30 21:50

统计学习方法-支持向量机SVM

reference：http://blog.csdn.net/chl033/article/details/2729495http://www.blogjava.net/zhenandaci/category/31868.htmlhttp://leftnoteasy.cnblogs.com/http://www.cnblogs.com/jerrylead/archive/2011/03/18/19

汗青传奇·2020-07-30 20:55

今日头条李航：深度学习NLP的现有优势与未来挑战

近日，AI技术大牛李航博士（已加入今日头条）在《国家科学评论》（NationalScienceReview，NSR）上发表了一篇题为《DeepLearningforNaturalLanguageProcessing

mishidemudong·2020-07-30 20:26

统计学习方法——朴素贝叶斯

0.写在前面朴素贝叶斯实际上是非常简单的一种机器学习方法，我们在之前的很多地方都讲过了，所以这里我们不再阐述具体的原理，可以移步：朴素贝叶斯。但是，对于讨论班里，争论最多的就是课后的2个习题，因此，我们重点放在这两个习题上。他们分别是：4.1用极大似然估计法推出朴素贝叶斯法中的概率估计公式（4.8）及公式（4.9）。4.2用贝叶斯估计法推出朴素贝叶斯法中的概率估计公式（4.10）及公式（4.11）

刘炫320·2020-07-30 20:57

北大AI公开课第八课--自然语言对话的现状与未来by今日头条李航

汪汪小白狗·2020-07-30 19:14

湘潭大学学生国防教育协会暑期社会调研团积极筹备“三下乡”前期准备工作

（通讯员：李杏李航）8月17日，为了确保三下乡活动的顺利开展，湘潭大学学生国防教育协会赴常德市澧县社会调研团就前期的准备工作及活动期间的调研任务做了总结和安排。

湘潭大学青年传媒中心·2020-07-30 18:02

EM算法深入浅出

最近学习了下EM算法，看了下李航的《统计学习方法》第九章EM算法，被一堆理论+公式看的云里雾里的，头大。

曼陀罗彼岸花·2020-07-30 16:12

【机器学习（二）】感知机

本篇是关于机器学习的第二篇，这一系列的文章主要是参考李航老师的《统计学习方法》一书，以及兼考虑周志华老师的《机器学习》一书本篇主要讲述的是感知机，需要注意的是与后面的支持向量机（SVM）的比较，尤其是与线性可分的支持向量机之间的比较

第五清风·2020-07-30 16:57

【机器学习（三）】拉格朗日对偶性

本篇是关于机器学习的第三篇，这一系列的文章主要是参考李航老师的《统计学习方法》一书，以及兼考虑周志华老师的《机器学习》一书本篇不是李航老师的《统计学习方法》中的一部分，主要是对第二篇感知机中所涉及到的拉格朗日对偶性进行补充

第五清风·2020-07-30 16:57

【机器学习（一）】统计学习及监督学习概论

本篇是关于机器学习的开篇之作，这一系列的文章主要是参考李航老师的《统计学习方法》一书，以及兼考虑周志华老师的《机器学习》一书。本篇博客是该系列的第一篇，主要是关于统计学习一些基本概念中的重难点。

第五清风·2020-07-30 16:56

计算机视觉领域常见的度量指标

一：Precision,Recall,F-score信息检索、分类、识别、翻译等领域两个最基本指标是召回率(RecallRate)和准确率(PrecisionRate------注意统计学习方法中precesion

weixin_34344677·2020-07-30 03:04

《统计学习方法》 Python 库

仓库名为slmethod,统计学习方法（StatisticalLearningMethod）的简写Public公开仓库勾选InitializethisrepositorywithaREADME.gitignore

iOSDevLog·2020-07-30 02:34

计算机科学和Python编程导论-第15课

机器学习入门这里讲的不够详细、建议听视频课程和可能《机器学习实战》和《统计学习方法》推荐十分钟速成课-统计学谎言、该死的谎言与统计学In[3]:importrandomIn[4]:defjuneProb

瘦长的丰一禾·2020-07-29 19:59

男生女生谁怕谁（6）敬老院的小雷锋

李航就故弄玄虚地改编《月亮代表我的心》，唱着回答柳叶的问题：“你问我到底喜欢谁，我凭啥告诉你。你的情也真，你的意也深，难道你也喜欢我……”“stop!”张莹莹强制命令，“再唱就不要跟着我们了。”

三门峡014张丽娜·2020-07-29 16:07

机器学习之隐马尔科夫模型(HMM)原理及Python实现 (大章节)

本章节内容参考李航博士的《统计学习方法》本章节添加了一些结论性结果的推导过程。

happy_hongwei·2020-07-29 12:46

人工智能如何跨越“语言关”，看高文、刘兵、李航、马维英、张潼、刘铁岩们是怎么说的？...

7月23日，第二届语言与智能技术高峰论坛（Language&IntelligenceSummit）在北京召开。该论坛是由中国计算机学会与中国中文信息学会共同发起并联合主办的语言理解与认知智能领域的高端论坛，旨在向社会公众介绍国际自然语言理解及认知智能方向的发展趋势和创新成果，推动我国相关领域的前沿学术研究和产业技术创新的发展。本届高峰论坛聚集了来自学术界、产业界从事自然语言处理与人工智能技术研究人

weixin_33923148·2020-07-29 06:20

《然后》

李航回头一看原来是公司外籍员工亚特，他是新西兰人，移民到中国没两年，和自己混的比较熟，他的中文还有口音基本上都是跟着自己学的看来自己这个老师当的不怎样啊。

蓝枫_463a·2020-07-29 05:35

《统计学习方法》阅读笔记及代码实现 - CH1

Muyun99·2020-07-29 01:50

Naive Bayes

写在开头最近在学习一些关于机器学习的基础算法，结合学习PeterHarrington的《机器学习实战》和李航老师的《统计学习方法》两本书以及网上前辈的笔记，写下了以下的学习过程。

Lucius_Keep_Going!·2020-07-28 21:19

李航-《统计学习方法》第七章支持向量机

文章目录一模型二策略2.1线性可分支持向量机与硬间隔最大化2.1.1函数间隔和几何间隔2.1.2间隔最大化2.1.3学习的对偶算法2.2线性支持向量机与软间隔最大化2.2.1线性支持向量机学习算法2.2.2合页损失函数2.3非线性支持向量机与核函数2.3.1核技巧三算法[序列最小最优化算法SMO]3.1求解两个变量二次规划问题的解析方法3.2选择变量的启发式方法支持向量机二分类模型

李滚滚·2020-07-28 19:34

李航《统计学习方法》——第五章决策树及Python实现（附习题答案）

文章目录1模型2策略3算法3.1ID3算法（C4.5算法）决策树3.1.1特征选择ID3算法C4.5算法3.1.2决策树生成3.2CART(回归树和决策树)3.2.1特征选择3.2.1.1回归——最小二乘3.2.1.2模型树——最小化线性方程误差3.2.1.3决策——基尼系数3.2.2回归树/决策树生成3.2.3剪枝预剪枝后剪枝3.2.4分类4总结优点缺点：5习题5.1利用信息增益比生层决策树5.

李滚滚·2020-07-28 19:02

决策树模型、本质、连续值完整篇

-摘自《统计学习方法》李航第五章《机器学习》周志华第四章决策树算法属于生成算法，通常包括3个步骤：特征选择、决策树的生成、决策树的剪枝决策树学习本质上是从训练集中归纳出一组分类规则。

weixin_34357962·2020-07-28 19:34

李航《统计学习方法》第十章——用Python实现隐马尔科夫模型

wds2006sdo·2020-07-28 15:25

男生女生谁怕谁（65）绝食的兔子

自然角旁边的窗台上摆着一个金鱼缸，养着四条五彩缤纷的金鱼，窗台下是李航昨天带来的一只白玉般的小野兔。“你们女生就是小气，只喜欢花花草草的。我们男生可不一样，喜欢活动的。”

三门峡014张丽娜·2020-07-28 15:04

AdaBoost算法

注：本文中所有公式和思路来自于李航博士的《统计学习方法》一书，我只是为了加深记忆和理解写的本文。

XGBoost·2020-07-28 14:33

统计学习方法附录C-拉格朗日对偶性

comefrom：http://blog.sina.com.cn/s/blog_62b0682a0101epol.html在学习最大熵模型和SVM的过程中，我们看到，前者需要求解满足所有已知条件并且使得熵最大的模型，后者需要求解满足间隔一致性约束条件并且使得几何间隔最大的超平面，归结起来其求解问题都是带约束的极值问题，其解决方法一般采用拉格朗日对偶原理，对于概率性问题也可以用极大似然法来求解。下面

汗青传奇·2020-07-28 13:41

2018/02/28 71班第1小组作业雨统计

践行结果：请假：1人-007-5318｜李航（和值月生请假）未点评：2人007-3506｜邹善007-5314｜王可钦（因手机原因找不到文章点评）作品展示：007-3506｜邹善丨作品11讲思考感悟007

Jaycee天使猫·2020-07-28 13:47

【统计学习方法】支持向量机(SVM) Python实现

前言代码可在Github上下载:代码下载支持向量机，一个理论先于实践的产物，由CorinnaCortes和Vapnik等在1995年首次提出的，取得了非常好的效果。SVM分为线性可分（又可分硬间隔与软间隔）和线性不可分的问题，线性不可分可通过核函数进行映射到空间里，从而线性可分。线性可分支持向量机模型：f(x)=sign(w⋅x+b)f\left(x\right)=sign\left({w\cdo

火烫火烫的·2020-07-28 12:25

统计学习方法---adaboost

AdaBoost是一种迭代算法，其核心思想是针对同一个训练集训练不同的分类器，即弱分类器，然后把这些弱分类器集合起来，构造一个更强的最终分类器。(很多博客里说的三个臭皮匠赛过诸葛亮)算法本身是改变数据分布实现的，它根据每次训练集之中的每个样本的分类是否正确，以及上次的总体分类的准确率，来确定每个样本的权值（增大被误分的样本的权值，保证下层分类器能够更充分地考虑这些被误分的样本）。将修改权值的新数据

778811·2020-07-28 10:19

文本分析入门（一）

主要通过博客，李航的《统计学习方法》，相关比赛代码来学习。首先还是介绍几个名词，一个新领域总是有很多新名词。

青木长风·2020-07-28 08:52

统计学习方法-朴素贝叶斯（补充）

目录前言：距离度量：实现代码：scikit-learn实例参考资料：前言：对于机器学习实战的时候，由于统计学习方法提及到的模型有三种：模型：高斯模型多项式模型伯努利模型在这里再补充一个高斯模型的：距离度量

忆_恒心·2020-07-28 07:48

拉格朗日对偶性

约束的理解有本质提升拉格朗日对偶性码农场>机器学习2015-10-11阅读(2289)评论(4)目录1.原始问题2.对偶问题3.原始问题和对偶问题的关系定理C.1推论C.1定理C.2豆知识仿射函数定理C.3Reference在看《统计学习方法

鱼在水中走·2020-07-28 00:54

朴素贝叶斯(naive bayes)

朴素贝叶斯(naivebayes)标签：Python机器学习主要參考资料：《机器学习实战》《统计学习方法》1.朴素贝叶斯分类原理朴素贝叶斯法是基于贝叶斯定理和特征条件独立假设(称为朴素的原因)的分类方法

aoe41606·2020-07-27 19:35

决策树到底是什么？

本文思想及知识来源于对李航老师的统计学习方法的拜读，加上一些自己的理解整理，感谢李航老师伟大的著作：《统计学习方法》！决策树是什么？

Air_2014·2020-07-27 14:25

李航《统计学习方法》第七章——用Python实现支持向量机模型（伪造数据集）

wds2006sdo·2020-07-27 13:37

机器学习——《统计学习方法》学习笔记——统计学习及监督学习概论

目录1.统计学习1.1统计学习定义1.2统计学习流程2.统计学习分类2.1基本分类2.1.1监督学习2.1.2无监督学习2.1.3强化学习2.2按模型分类2.2.1概论模型与非概率模型2.2.2线性模型与非线性模型2.2.3参数化模型与非参数化模型2.3按算法分类2.4按技巧分类3.统计学习三要素3.1模型3.2策略3.2.1损失函数3.2.2风险函数3.3.3经验风险3.3.4结构误差最小化3.

AI小小白·2020-07-26 01:40

李航老师《统计习方法》第二版第二十一章课后题答案以及关于PageRank的改进算法

转载请注明出处1、李航老师《统计学习方法》第二版第二十一章课后题答案21.1假设方阵A是随机矩阵，即其每个元素的非负，每列元素的和为1，证明AkA^{k}Ak仍然是随机矩阵，其中k是自然数。

六七～·2020-07-22 18:32

《机器学习实战》中SVM算法实现的错误

最近又看了一遍SVM算法，理论主要参考了李航老师的《统计学习方法》，代码实现上参考了《机器学习实战》和smo算法的原始论文。期间发现《机器学习实战》在实现完整版的PlattSMO有点问题。

lightt·2020-07-17 16:37

关于条件随机场的一些补充

原文：机器学习：《统计学习方法》笔记（二）——条件随机场（CRF）参考：概率无向图模型1.概率无向图的因子分解注：有一点笔者仍然不明白，《统计学习方法》是定义P(Y)的乘积是在最大团上进行，而有材料说明乘积是在极大团上进行

另一个我竟然存在·2020-07-16 05:15

推荐频道

统计学习方法李航