李航统计学习方法

机器学习算法中关于朴素贝叶斯代码详细注释

K-近邻算法和决策树算法容易理解，但从朴素贝叶斯开始，机器学习书中关于算法来历及证明几乎没有，很多都涉及到统计概论的知识，推荐李航老师的《统计学习方法》，清华大学出版社，里面有关于机器学习的很多算法原理
IT奶牛·2020-08-11 13:06

机器学习实战-KNN 算法

最近开始看李航的《统计学习方法》，一段时间下来，虽然各种公式推导看起来吊的一B，但始终没有在头脑中形成一个画面。觉得还是边看边着手实现更好。选择了《机器学习实战》这本书配合来实现。
Fox1230·2020-08-11 10:27

机器学习实战——决策树

本文记录的是《机器学习实战》和《统计学习方法》中决策树的原理和实现。1、决策树定义：分类决策树模型是一种描述对实例进行分类的树形结构。决策树由节点（node）和有向边（directededge）组成。
菜鸟程序猿的滴滴日常·2020-08-11 09:50

统计学习方法（二）统计方法 = 模型 + 策略 + 算法

统计方法=模型+策略+算法模型在监督学习过程中，模型就是所要学习的条件概率分布或决策函数。模型的假设空间（hypothesisspace）包含所有可能的条件概率分布或决策函数。1、概率模型VS非概率模型1.1概率模型（ProbabilisticModel）假设空间定义为条件概率的集合H={P∣P(X∣Y)}H=\{{P|P(X|Y)}\}H={P∣P(X∣Y)}其中，$X和Y$是定义在输入空间和输
Sponge Bob·2020-08-11 04:04

百度飞浆深度学习（一）

目录1.概念及关系2.深度学习发展历史2.1历史展望第一代神经网络（1958~1969）第二代神经网络（1986~1998）统计学习方法的春天（1986~2006）第三代神经网络-DL（2006-至今）
绛烨·2020-08-11 03:57

多项式函数拟合sin函数（最小二乘法求解参数及其正则化）

2．统计学习方法三要素——模型、策略、算法，对理解统计学习方法起到提纲挈领的作用。
AI_Younger_Man·2020-08-11 03:01

统计学习方法——维特比算法

0.写在前面本来这章是要讲解条件随机场的，后来发现自己对于条件随机场中的维特比算法了解就不够，因此我们把条件随机场拆开来看。这里先看维特比算法。维特比算法主要是求解一个最优序列的算法。但是它也是有条件的，那就是要知道所有应该知道的参数。维特比算法实际是用动态规划解隐马尔科夫模型预测问题。其实就是求概率最大路径，这是一条路径对应着一个状态序列。1.前向算法但是维特比算法直接讲是比较复杂的，我们可以以
刘炫320·2020-08-11 03:07

机器学习第二篇：逻辑回归

逻辑回归是一种有监督的统计学习方法，主要是对样本进行分类。逻辑回归就是
leo_dragon·2020-08-11 03:02

《统计学习方法》极简笔记P5：决策树公式推导

[《统计学习方法》极简笔记P2：感知机数学推导](http://mp.weixin.qq.com/s?
机器学习算法与Python实战·2020-08-11 03:45

统计学习方法 6-逻辑斯谛回归与最大熵模型

逻辑斯谛回归模型逻辑斯谛分布二元逻辑斯谛回归模型模型参数估计多元逻辑斯谛回归最大熵模型最大熵原理最大熵原理认为，学习概率模型时，在所有可能的概率模型（分布）中，熵最大的模型是最好的模型。通常用约束条件来确定概率模型的集合，所以，最大熵原理也可以表述为在满足约束条件的模型集合中选取熵最大的模型。H(P)=−∑xP(x)logP(x)0≤H(P)≤log|X|,当X服从均匀分布时，熵最大。最大熵模型的
ksboys·2020-08-11 03:45

《统计学习方法》极简笔记P2：感知机数学推导

感知机模型输入空间是$\chi\subseteq\mathbb{R}^n$,输出空间是$y={+1,-1}$感知机定义为：$f(x)=sign(wx+b)$感知机学习策略输入空间任一点$x_0$到超平面S的距离：$\frac{1}{||w||}|wx_0+b|$误分类数据$(x_i,y_i)$,有$-y_i(wx_i+b)>0$误分类点$x_i$到超平面S的距离$-\frac{1}{||w||}y
机器学习算法与Python实战·2020-08-11 03:44

《统计学习方法》极简笔记P2：感知机数学推导

感知机模型输入空间是$chisubseteqmathbb{R}^n$,输出空间是$y={+1,-1}$感知机定义为：$f(x)=sign(wx+b)$感知机学习策略输入空间任一点$x_0$到超平面S的距离：$frac{1}{||w||}|wx_0+b|$误分类数据$(xi,yi)$,有$-yi(wxi+b)>0$误分类点$xi$到超平面S的距离$-frac{1}{||w||}yi(wx_i+b)$
机器学习算法与Python实战·2020-08-11 03:44

李航老师《统计学习方法》的代码实现、课件、作业等相关资源的最全汇总

编辑|Will出品|字节AI李航：毕业于日本京都大学电气电子工程系，日本东京大学获得计算机科学博士学位。
风度78·2020-08-11 03:52

逻辑斯蒂回归3 -- 最大熵模型之改进的迭代尺度法(IIS)

声明：1，本篇为个人对《2012.李航.统计学习方法.pdf》的学习总结，不得用作商用，欢迎转载，但请注明出处（即：本帖地址）。
血影雪梦·2020-08-10 11:52

统计学习方法笔记——感知机

简介感知机模型感知机学习策略数据集的线性可分性感知机学习策略感知机学习算法感知机学习算法的原始形式算法的收敛性感知机学习算法的对偶形式总结简介感知机（perceptron）是二类分类的线性分类模型，输入为特征向量，输出为+1和-1二值。感知机学习旨在求出将训练数据进行线性划分的分离超平面，属于判别模型。通过导入基于误分类的损失函数，利用梯度下降对损失函数进行极小化，求得感知机模型。感知机学习算法分
朱红的泪·2020-08-10 01:56

统计学习方法笔记——k近邻算法

简介k近邻算法k近邻模型模型距离度量k值的选择分类决策规则k近邻算法的实现：kd树构造kd树搜索kd树简介k近邻法是一种基本分类与回归方法。k近邻法假设给定一个训练数据集，其中的实例类别已定。分类时，对新的实例，根据其k个最近邻的训练实例的类别，通过多数表决方式预测。因此，不具有显示的学习过程。k值的选择、距离度量、分类决策规则是k近邻法的三个基本要素。于1968年由Cover和Hart提出。k近
朱红的泪·2020-08-10 01:56

统计学习方法笔记——朴素贝叶斯法

简介朴素贝叶斯法的学习与分类基本方法后验概率最大化含义朴素贝叶斯法的参数估计极大似然估计学习与分类算法朴素贝叶斯算法(naiveBayesalgorithm)贝叶斯估计小结简介朴素贝叶斯(naiveBayes)法师基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集，首先基于特征条件独立假设学习输入输出的联合概率分布；然后基于此模型，对于给定的输入x，利用贝叶斯定理求出后验概率最大的输
朱红的泪·2020-08-10 01:24

序列标注：Bi-LSTM + CRF

CRF相关资料推荐关于crf，我看了很多资料，这里推荐几个-英文的crftutorial-李航的统计学习方法这两个讲的很细，公式很多，很多新入坑的小白看了肯定一头雾水,这里推荐一个知乎大神的回答，通俗易懂
taoqick·2020-08-10 01:12

隐马尔可夫模型hidden Markov model

本文是《统计学习方法》李航著学习笔记。为了叙述方便，将hiddenMarkovmodel简称HMM。
Young_win·2020-08-09 20:59

斯坦福机器学习： 网易公开课系列笔记（一）——课程简介

作为一个刚入门的学习者，可以说吴恩达讲的通俗易懂，之前我是一直在看《统计学习方法》和《机器学习》两本书，上面的一些公式看的比较懵，但是听完这门课后觉得豁然开朗。
NirHeavenX·2020-08-09 17:07

经验条件熵公式的推导

李航《统计学习方法》中，P62页公式5.8：计算特征A对数据集D的经验条件熵:此处，给出条件熵（）的定义:X给定条件下Y的条件概率分布的熵对X的数学期望：在书中P61页下方给出了各类的定义：设训练数据集为
Yokate·2020-08-09 03:32

机器学习：sklearn数据集与机器学习组成

我们就可以将这样的表示和李航老师的说法对应起来。机器学习主要是由三部分组成，即：表示(模型)、评价(策略)和优化(算法)。表示(或者称为：模型)：Representation表示主要做的就是建模，故可
幸福清风·2020-08-09 03:38

《机器学习实战》（五）---支持向量机

我这一章的东西绝大部分都是来自up和《统计学习方法》的内容。支持向量机又称SVM，也是一种分类算法，它和上一章的
really_not_Yanzu·2020-08-08 20:08

机器学习读书笔记之贝叶斯分类

这篇读书笔记之所以拖了很久还是因为对概率和统计的知识不够熟悉，考研的时候考的数学二，不考概率论，就只复习了高数和线代，所以用了很多时间去补上概率统计的知识，资料包括统计学习方法、ISL和一些CSDN上的博客
omelete·2020-08-08 19:44

自己写一个最简单的bootloader_jz2440

此外目前我在gitHub上准备一些李航的《统计学习方法》的实现算法，目标将书内算法全部手打实现，欢迎参观并打星。
Dod_o_·2020-08-08 17:14

梯度下降方法

这几天在看《统计学习方法》这本书，发现梯度下降法在感知机等机器学习算法中有很重要的应用，所以就特别查了些资料。
lotus___·2020-08-08 17:31

决策树剪枝(cart剪枝)的原理介绍

最近看《统计学习方法》，最后有一部分讲到cart树的剪枝策略，个人觉得书上讲得比较晦涩难懂，现在结合个人理解和大家分享下，如有不正，敬请谅解！
zhengzhenxian·2020-08-07 22:08

CART后剪枝理解

转载https://blog.csdn.net/zhengzhenxian/article/details/79083643最近也是要找工作，在看李航的《统计学方法》在决策树部分基本都能明白（可能我明白的的是错的
小小小小裴·2020-08-07 20:33

资料整理（备用）

个人网页文章目录前言Python《利用Python进行数据分析·第2版》《Python机器学习及实践从零开始通往Kaggle竞赛之路》机器学习/深度学习《机器学习》周志华《统计学习方法》李航《深度学习》
橘子2048·2020-08-07 18:18

对损失函数以及参数w的梯度下降公式的推导

根据《统计学习方法》第6章中6.1节介绍，下面对损失函数以及参数www的梯度下降公式的推导：SigmoidSigmoidSigmoid函数为：g(z)=11+e−zg(z)=\frac{1}{1+e^{
枸杞叶儿·2020-08-07 17:36

感知机原理剖析笔记（如何理解感知机）——《统计学习方法》 李航

文章目录感知机感知机模型感知机学习策略感知机学习算法原始形式对偶形式感知机感知机(perceptron)是二分类的线性分类模型，输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例分为正负两类的分离超平面。属于判别模型。感知机的学习训练过程旨在寻找一个超平面，能够将实例进行线性划分，为此，我们要导入误分类的损失函数，利用随机梯度下降法对损失函数进行最小
野犬1998·2020-08-07 17:47

决策树

http://www.hankcs.com/ml/decision-tree.html本文对应《统计学习方法》第5章，用Python实现了决策树的ID3生成算法和C4.5生成算法，并用matplotlib
lostinai·2020-08-07 15:13

机器学习之决策树原理及其python实现

机器学习之决策树原理及代码实现写在前面决策树1.决策树的定义2.决策树我的理解特征选择信息增益信息增益比算法实现ID3算法C4.5算法CART决策树三种算法的对比写在前面这是我开始入坑的第一篇博客，全部内容基于我的理解和参考博客，参考书籍为李航的
cug_humoumou·2020-08-07 13:25

李航：未来若干年，AI 技术发展可能会进入平缓期

先后在NEC公司中央研究所、微软亚洲研究院、华为诺亚方舟实验室从事和领导AI技术研发，现任字节跳动人工智能实验室总监的李航，就是一位AI技术的坚实研究者和实践者。
算法与数学之美·2020-08-07 11:20

机器学习之决策树(Decision Tree)①——基本概念及思想

李航《统计学习方法》中的介绍如何创建一颗决策树?特征选择启发式学习启发式构建决策树过程贪心指标与建树方法信息增益与决策树算法启发式学习的两个问题决策树的剪枝决策树模型优缺点参考什么是决策树?
门前大橋下丶·2020-08-07 11:17

统计学习笔记：感知机（perceptron）原理及C源码实现

相对来说感知机从原理或实现来说都较为简单，按照李航《统计学习方法》就可以实现，根据神经网络中的技巧，可对感知机进行优化，例如采用附加动量法进行权值、偏置的更新，防止训练陷入局部最小，关于这些我会在神经网络以及深度学习的内容中讲述
_Morris_·2020-08-06 10:45

[小木虫]推荐几个机器学习算法及应用领域相关的中国大牛

李航：http://research.microsoft.com/en-us/people/hangli/，是MSRAWebSearchandMiningGroup高级研究员和主管，主要研究领域是信息检索
ML_NI_CSU·2020-08-05 13:52

秋招面试准备——机器学习面经

统计学习方法部分：推导LR画LSTM的图、画CNN的图介绍CNN过拟合得解决方法方差偏差分解的公式一道贝叶斯公式的概率题逻辑回归和svm。
秋男不吃牛肉豆制品牛奶小麦·2020-08-05 11:09

logistic回归和最大熵

回顾发现，李航的《统计学习方法》有些章节还没看完，为了记录，特意再水一文。
仙守·2020-08-05 08:20

SVM数学基础的学习

今天，使用《统计学习方法》来简单学习一下SVM的数学基础，为了编写第一个行人识别的程序做基础1、超平面是什么？
is_jianglq·2020-08-04 20:27

李航《统计学习方法》EM算法导出，式9.13详细推导

感觉书中对式子9.13的推导不严谨，补充式子（9-13）完整推导：对于观测数据Y（不完全数据）关于参数θ的对数似然函数：L(θ)=log⁡P(Y∣θ)=log⁡∑ZP(Y,Z∣θ)=log⁡(∑ZP(Y∣Z,θ)P(Z∣θ))\begin{aligned}L(\theta)&=\logP(Y|\theta)=\log\sum_{Z}P(Y,Z|\theta)\\&=\log\lef
莫叶何竹·2020-08-04 20:24

ML—拉格朗日对偶和KKT条件

zhengyizhangTianjinKeyLaboratoryofCognitiveComputingandApplicationTianjinUniversityOct23,2015本文基于斯坦福AndrewNG讲义和李航统计学习方法
掉下个小石头·2020-08-04 09:45

李航《统计学习方法》笔记

李航《统计学习方法》读书笔记目录李航《统计学习方法》读书笔记一、知识点二、感知机三、k近邻法四、朴素贝叶斯五、决策树六、logistic回归和最大熵模型七、支持向量机八、提升方法九、EM算法EM算法是一种迭代算法
yz1780041410·2020-08-04 09:00

ASM（active shape models）算法介绍

ASM跟大多数统计学习方法一样，也包括train和test（orfit）两部分，也就是形状建模build和形状匹配fit。这个算法其实很简单，可以用来
yang_xian521·2020-08-04 09:47

统计学习方法—SVM推导

目录SVM1.定义1.1函数间隔和几何间隔1.2间隔最大化2.线性可分SVM2.1对偶问题2.2序列最小最优算法（SMO）3.线性不可分SVM3.1松弛变量3.2求解对偶问题3.3支持向量求解参数\(w,b\)4.非线性SVM5.Reference:SVM  支持向量机是一种二分类模型，它以间隔最大作为优化目标，因此它比感知机仅仅以误分类推动的模型要优胜不少。数据线性可分时，SVM直接以间隔最大训
weixin_38169722·2020-08-04 06:00

《统计学习方法》笔记

《统计学习方法》笔记书籍ISBN：978-7-302-27595-4第3章k近邻法P373.1节k近邻算法k近邻算法简单、直观：给定一个训练数据集，对新的输入实例，在训练数据集中找到与该实例最邻近的k个实例
weixin_34066347·2020-08-04 05:40

《统计学习方法（李航）》讲义 第07章 支持向量机

支持向量机(supportvectormachines,SVM)是一种二类分类模型.它的基本模型是定义在特征空间上的间隔最大的线性分类器，间隔最大使它有别于感知机;支持向量机还包括核技巧，这使它成为实质上的非线性分类器.支持向量机的学习策略就是间隔最大化，可形式化为一个求解凸二次规划(convexquadratic也等价于正则化的合页损失函数的最小化问题.支持向programming)的问题，量机
Just do it·2020-08-04 04:44

【深度学习基础】从零开始的炼丹生活03——支持向量机以及核方法

（主要参考《统计学习方法》以及部分博客）支持向量机包含线性可分的支持向量机、线性支持向量机、非线性支持向量机，让我们从简单到复杂来学习它。一、什么是支持向量机支持
wby1905·2020-08-04 03:31

矩阵的奇异值分解(SVD)及PCA应用

本篇文章参考了李航老师的《统计学习方法》第二版。
song430·2020-08-04 01:45

支持向量机

支持向量机@(2016/08/02)阅读笔记——周志华《机器学习》和李航《统计学习方法》支持向量机（supportvectormachine）是一种二类分类模型，它的基本模型是定义在特征空间上的间隔最大的线性分类器
MeJnCode·2020-08-04 00:33
上一页 24 25 26 27 28 29 30 31 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他