李航统计学习方法

python 使用Id3算法实现决策树

依然是学习《统计学习方法》一书所做的简单实验，写代码的过程参考了大量其他的博客，本人在此深表感谢。
阳光玻璃杯·2017-12-05 16:16

西瓜书《机器学习》课后答案——chapter14

根据李航《统计学习方法》p.193中概率无向图模型的定义：概率无向图模型：设有联合概率分布P(Y)，由无向图G=(V,E)表示，在图G中，结点表示随机变量，边表示随机变量之间的依赖关系。
Vic时代·2017-12-05 00:00

统计学习方法——第五章决策树

【算法】信息增益在数据比较大，特征比较多的情况下，很容易造成过拟合，于是需进行决策树剪枝，一般剪枝方法是当按某一特征分类后的熵小于设定值时，停止分类。【缺点】ID3算法在选择根节点和内部节点中的分支属性时，采用信息增益作为评价标准。信息增益的缺点是倾向于选择取值较多是属性，在有些情况下这类属性可能不会提供太多有价值的信息。ID3算法只能对描述属性为离散型属性的数据集构造决策树。为了改进决策树，又提
libh·2017-12-04 16:58

统计学习方法概论

1.1、统计学习统计学习（statisticallearning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测和分析的一门学科。赫尔伯特，西蒙（HerbertA.Simon）曾对“学习”给出以下定义：如果一个系统能够通过知行某个过程改进它的性能，这就是学习。统计学习的对象是数据（data）统计学习的目的：就是考虑学习什么样的模型和如何学习模型，以使模型能对数据进行准确的预测与分析，
二黑525·2017-12-01 21:24

统计学习方法-牛顿法和拟牛顿法

牛顿法和拟牛顿法牛顿法和拟牛顿法是求解无约束最优化问题的常用方法，有收敛速度快的优点。牛顿法是迭代算法，每一步需要求解目标函数的海赛矩阵的逆矩阵，计算比较复杂。拟牛顿法通过正定矩阵近似海赛矩阵的逆矩阵或海赛矩阵，简化了计算过程。一、背景Taylor展式若f(x)二阶导连续，将f(x)在xk处Taylor展开：上述迭代公式，即牛顿法。该方法可以直接推广到多维：用方向导数代替一阶导，用Hessian矩
Jack_lyp2017·2017-12-01 16:05

感知机学习模型

摘要：logistic回归，感知机学习，SVM支持向量模型，初学这三个内容的时候感觉三者很想，都是找到一个超平面将需要分类的点分到超平面的两侧，脑子里面一团浆糊，如今拜读了李航老师的《统计学习方法》和周志华老师的西瓜书
WenjunDing·2017-11-29 21:49

机器学习--写在最前面

学习机器学习，采用的书籍是《机器学习实战》+李航《统计学习方法》学习的网站是http://www.apachecn.org/map欢迎各位大佬来打脸！！PS：强推ApachenCN
huixinbuding·2017-11-29 00:00

统计学习方法——第四章朴素贝叶斯

参考网址如下，讲解更详细：http://www.jianshu.com/p/5fd446efefe9http://blog.csdn.net/v_victor/article/details/51319873朴素navie：条件独立性【问题的引入】经典的贝叶斯公式实际问题中，能获得的数据可能只有有限数目的样本数据，而先验概率P(wi)和类条件概率(各类的总体分布)P(x|wi)都是未知的。解决：需
libh·2017-11-23 19:50

贝叶斯分类器-机器学习ML

《统计学习方法》李航2.https://baike.baidu.com/item/%E8%B4%9D%E5%8F%B6%E6%96%AF%E5%88%86%E7%B1%BB%E5%99%A8/1739590
HelloZEX·2017-11-20 14:18

支持向量机SVM-机器学习ML

《统计学习方法》李航2.http://blog.csdn.net/macyang/article/details/38782399/3.https://baike.baidu.com/item/%E6%
HelloZEX·2017-11-18 15:03

统计学习方法 第2章+ 感知机python实现

统计学习方法第2章+感知机python实现生成训练数据假设希望产生的分离超平面为2*x1+5*x2-3*x3-10=0，在0~5的范围内随机生成x1，x2，x3，计算其应有的分类结果并加入训练数据集。
super_chicken·2017-11-15 10:31

朴素贝叶斯Naive Bayes-机器学习ML

《统计学习方法》李航2.先验概率与后验概率的区别：http://blog.csdn.net/ouyang_linux007/article/details/75663393.朴素贝叶斯方法（NaiveBayes
HelloZEX·2017-11-11 15:22

kd树

《统计学习方法》李航2.https://baike.baidu.com/item/kd-tree/2302515?
HelloZEX·2017-11-11 14:21

《统计学习方法》学习笔记-感知机

简介：感知机（perceptron）是二分类的线形分类模型，输入为实例的特征向量，输出为实例的类别（+1，-1）。感知机对应于特征空间中将实例划分为正负两类的分离超平面；而且其是支持向量机与神经网络的基础。我们的目标其实就是找出该分离超平面，根据统计学习的三要素：模型、策略、算法，我下面将从这三方面展开。感知机模型模型:f(x)=sign(w⋅x+b)模型中的w和b为感知机模型参数，x为实例的特征
进军编程·2017-11-07 17:01

统计学习方法总结

0.相关知识点统计学习（statisticallearning）是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。统计学习的对象是数据（data），它从数据出发，提取数据的特征，抽象出数据的模型，发现数据中的知识，又回到对数据的分析与预测中去统计学习关于数据的基本假设是同类数据具有一定的统计规律性（例如概率分布），这是统计学习的前提。对数据的预测与分析是通过构建概率统计
郑瀚Andrew.Hann·2017-11-06 22:00

『MACHINE LEARNING』读书笔记|周志华《机器学习》|5.2神经网络感知机

周志华《机器学习》用的sign函数稍与李航的《统计学习方法》有不同，接下来利用的是周志华《机器学习》的版本。感知机形如下图。说好的二类分类的线性分类模型，体现在哪？线性分
amazingmango·2017-11-06 13:36

李航老师的《统计学习方法》第二章算法的matlab程序

dengyt/p/7787097.html参考了http://blog.sina.com.cn/s/blog_bceeae150102v11v.html#post%感知机学习算法的原始形式，算法2.1参考李航
weixin_33883178·2017-11-05 12:00

统计学习方法-李航（学习笔记）

第一章看完第一章后，找了相关的资料进行复习巩固，下面推荐几篇文章：（1）统计学习方法概论：http://blog.csdn.net/qll125596718/article/details/8351337
yanghui_429·2017-11-04 16:07

正则化(线性回归)

正则化这部分是结合统计机器学习的（李航）和吴恩达的机器学习视频写的，有什么不对的地方欢迎指出啊！当数据量少，特征也少的时候，我们训练的模型是欠拟合，这时候我们会通过交叉验证来弥补。
小星爷·2017-10-28 10:59

《统计学习方法》的python代码实现及课件

PDF:https://github.com/QueenJuliaZxx/lihang-code代码：https://github.com/QueenJuliaZxx/statistical-learning-methodhttps://github.com/WenDesi/lihang_book_algorithmPPT:https://github.com/QueenJuliaZxx/liha
女王の专属领地·2017-10-24 19:01

机器学习元知识

统计学习方法三要素：模型、策略、算法。深度学习：多层神经网络的学习方法模型要学习的概率分布或函数（假设空间）策略学习准则或者如何选择模型算法如何通过输入计算得到输出深度学习和多层神经网络的区
VeeLe·2017-10-22 23:31

随机森林算法学习(RandomForest)

下文仅对该两种方法做简单介绍（具体学习推荐看统计学习方法的第5章和第8章）。Bagging和Boosting的概念与区别该部分主要学习自：http://www.
DASEason·2017-10-21 16:37

统计学习方法-第二章-感知机

在看了机器学习基石的感知机算法视频之后，把李航的统计学习方法的这部分内容也看了。
manaml·2017-10-20 10:14

机器学习实战-5Logistic回归

几个关键词：逻辑回归、极大似然估计、激活函数参考书籍：西瓜书P54,《统计学习方法》P77回归和分类的区别回归是一种连续变量的预测，比如函数拟合，股票线等，人的年龄。
随风而醒·2017-10-17 00:00

逻辑斯谛回归（Logistic regression）—《统计学习方法》

逻辑斯谛回归（Logisticregression）是统计学习领域的一个经典分类方法，学习李航教授的《统计学习方法》将笔记和一些感悟记录下来；1逻辑斯谛分布（logisticdistribution）  
TqHzBw·2017-10-16 10:02

快就是慢，慢就是快

想来这好像是第一篇写和技术无关的博客了，这2年写博客也越来越随便了，经常是像写笔记似地，把脑子里的思路结构表达出来放到博客园上最近一直在看李航的《统计学习方法》，看了有好几个月了，速度非常慢，有时候一个章节要看一到两个星期
郑瀚Andrew.Hann·2017-10-12 23:00

统计学习方法（三）

做了一天实验也是有点心累三、k近邻法3.1、算法概述（多数表决法）在距离实例x最近的k个点中找到最多的y（实例类别），即为所求。3.2、模型距离度量：Lp=(sum(xi-xj)^p)^1/p3.3、kd树的实现为了对训练数据进行快速的k近邻搜索，构造kd树：a、先将超矩形区域进行切分（每个数据节点都对应一个k维超矩形区域）b、对x的第一维取中位数，然后将所有点分为两部分区域，称为x（根节点）的左
cColdTea·2017-10-12 19:42

统计学习方法（二）

希望这个月能啃完这本书二、感知机1、感知机模型f（x）=sign（w·x+b）【+1、-1】2、数据集分为线性可分数据集、线性不可分数据集3、学习策略对于M（误分类点的集合）构建一个损失函数（每个误分类点到超平面的距离和），当损失函数最小时，即为所求的超平面。4、算法步骤选取初值、在训练集中选取误分类点的数据（若没有误分类点则结束算法）、随机梯度下降法解出（w、b）5、算法的收敛性证明（略：证明若
cColdTea·2017-10-11 17:45

朴素贝叶斯分类器——理论

通过《统计学习方法》第4章了解朴素贝叶斯分类器基本原理，同时，“龙心尘”关于朴素贝叶斯的三篇博文也受益匪浅。
老笨妞·2017-10-11 11:36

统计学习方法（一）

一、统计学习方法概论1、统计学习三要素模型（参数向量、参数空间的概念）、策略（几个常用的统计函数：0-1loss、quadraticloss、absoluteloss、log-loss）、算法2、经验最小化与结构最小化介绍两者区别
cColdTea·2017-10-10 18:10

提升方法boosting

本文是《统计学习方法》李航著学习笔记。现在的数据科学比赛中用到的算法大杀器GBDT(gradientboostingdecisiontree)终于要出场了！
Young_win·2017-10-10 02:54

支持向量机support vector machines

本文是《统计学习方法》李航著学习笔记。为了叙述方便，将supportvectormachines简称SVM。
Young_win·2017-10-04 20:19

逻辑斯谛回归与最大熵模型logistic regression/maximum entropy model

本文是《统计学习方法》李航著学习笔记。为了叙述方便，将logisticregressionmode简称LR，maximumentropymode简称ME。
Young_win·2017-10-02 22:07

十五、卷积神经网络（2）：卷积神经网络的结构

本篇博客主要内容参考图书《神经网络与深度学习》，李航博士的《统计学习方法》NationalTaiwanUniversity(NTU)李宏毅老师的《MachineLearning》的课程，在下文中如果不正确的地方请积极指出
独孤呆博·2017-10-01 11:06

十四、卷积神经网络（1）：介绍卷积神经网络

本篇博客主要内容参考图书《神经网络与深度学习》，李航博士的《统计学习方法》NationalTaiwanUniversity(NTU)李宏毅老师的《MachineLearning》的课程，在下文中如果不正确的地方请积极指出
独孤呆博·2017-09-30 12:32

机器学习：神经网络、正则化、多分类问题与Python代码实现

特别强调，其中大多理论知识来源于《统计学习方法_李航》和斯坦福课程翻译笔记以及Coursera机器学习课程。
16huakai·2017-09-30 11:51

机器学习：逻辑回归与Python代码实现

特别强调，其中大多理论知识来源于《统计学习方法_李航》和斯坦福课程翻译笔记以及Coursera机器学习课程。
16huakai·2017-09-30 10:26

【机器学习】EM算法

相关资料主要是参考了下面内容书籍内容周志华机器学习李航统计学习方法视频内容吴恩达机器学习第12课张志华统计机器学习EM算法(1,2,3)本文大致思路是先按照吴恩达讲义中的思路，然后利用统计学习方法中的方法进行补充说明
S大幕·2017-09-28 16:03

机器学习：线性回归与Python代码实现

特别强调，其中大多理论知识来源于《统计学习方法_李航》和斯坦福课程翻译笔记以及Coursera机器学习课程。
16huakai·2017-09-28 14:32

机器学习路径规划

看了一节课程介绍后，大体规划了下machinelearning的学习路径视频台大林轩田《机器学习基石》台大林轩田《机器学习技法》小象学院机器学习2017年4月份课程AndrewNGMachineLearning书李航
panda桑·2017-09-25 13:56

机器学习：交叉验证和模型选择与Python代码实现

特别强调，其中大多理论知识来源于《统计学习方法_李航》和斯坦福课程翻译笔记。
16huakai·2017-09-23 14:43

统计学习方法笔记1——感知机（perceptron）的Python实现

感知机（perceptron）是二分分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值，感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型，感知机学习算法具有简单而易于实现的优点，分为原始形式和对偶形式，感知机预测是用学习得到的感知机模型对新的输入实例进行分类，感知机19
piupiupiu~·2017-09-23 13:24

python感知机实现

本文主要是参考了李航的《统计学习方法》，然后使用python实现了感知机，并对二维数据集进行分类，验证了算法的有效性。本文主要内容如下：感知机基本原理算法步骤代码实现下面先
FishBear_move_on·2017-09-22 21:50

EM算法（Expectation - Maximization）通俗实例（What is the expectation maximization algorithm?）

关于此算法，《统计学习方法》这本书有更详细的解释，然而繁琐的数学推导让一些见公式就犯晕的人并不能很直观的理解到它的精髓。
justry24·2017-09-20 17:15

机器学习svm算法python代码实现

代码参照了《机器学习实战》，但个人觉得它的逻辑不是太好，所以结合李航的书改了下。
HumorousJack·2017-09-20 00:00

学习笔记33-生成式模型-判别式模型

统计学习方法首先需要说明一些基本概念：1.统计学习方法统计学习方法就是对数据进行预测和分析，特别是对未知的新数据进行预测。
立志要成为海贼王的男人·2017-09-17 23:32

《统计学习方法》-EM算法引例的说明

最近在哥们在看统计学习方法的时候，对于EM算法的引例子9.1中三硬币模型有疑问，于是我做了相应的整理和推导，希望对机器学习爱好者有所帮助，共勉。
AIgeeksu·2017-09-17 12:29

《统计学习方法》笔记三

EM含有隐变量的概率模型参数的极大似然估计法或者极大似然后验概率估计EM算法本质EM算法高斯混合模型：顾名思义，高斯，混合算法EM迭代：提升下界逼近全局最优GEMCOMMENTS隐马尔科夫隐马尔科夫基本概念核心：初始状态分布，中间状态转移，由状态生成观测应用：由大量训练资料，学习上诉三个参数矩阵，模拟资料分布状态，给出新的观测序列，反求中间状态（序列标注问题）概率计算前向核心：任一状态的概率可由前
TheOneAc1·2017-09-16 20:54

感知机perceptron

本文是《统计学习方法》李航著学习笔记。感知机是二类分类的线性分类模型，输入：实例的特征向量，输出：实例的类别。感知机学习：求将训练数据进行线性划分的分离超平面，即将实例化分为正负两类的分离超平面。
Young_win·2017-09-15 17:50

《统计学习方法》笔记二

逻辑回归与最大墒逻辑回归logistic分布logistic回归模型逻辑回归中输出是输出的线性函数多项logistic回归最大墒模型最大墒模型的最优化函数拉格朗日转化最大化过程的等价于最大熵模型的极大似然估计最优化算法*最优化算法待理解*SVM距离当||W||=1时，函数间隔等于几何间隔间隔最大化约束最优化问题支持向量对偶问题线性可分支持向量机软间隔核技巧原空间数据线性不可分，转换到新空间实现线性
TheOneAc1·2017-09-10 16:09
上一页 52 53 54 55 56 57 58 59 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他