统计学习方法_李航

机器学习笔记：决策树（ID3,C4.5,CART）

学习资料：《统计学习方法》，《机器学习》(周志华)，韩小阳ppt，邹博ppt。
成都往右·2020-06-25 12:52

统计学习方法——机器学习概论

简介统计学习，或者说机器学习的方法主要由监督学习、无监督学习和强化学习组成（它们是并列的，都属于统计学习方法）。统计学习方法要素1、假设数据独立同分布。
cnblogs.com/qizhou/·2020-06-25 12:31

统计学习方法——朴素贝叶斯法、先验概率、后验概率

朴素贝叶斯法，就是使用贝叶斯公式的学习方法，朴素就是它假设输入变量（向量）的各个分量之间是相互独立的。所以对于分量之间不独立的分布，如果使用它学习和预测效果就不会很好。简化策略它是目标是通过训练数据集学习联合概率分布$P(X,Y)$用来预测。书上说，具体是先学习到先验概率分布以及条件概率分布，分别如下：（但我认为，直接学习$P(X,Y)$就行了，它要多此一举算出这两个再乘起来变成$P(X,Y)$，
cnblogs.com/qizhou/·2020-06-25 12:31

统计学习方法——牛顿法和拟牛顿法

牛顿法(NewtonMethod)和拟牛顿法(quasi-NewtonMethod)以及梯度下降法是求解无约束最优化问题的常用方法。牛顿法通过每次求解目标函数的HessianMatixd的逆矩阵迭代求解最优解；拟牛顿法通过正定矩阵近似HessianMatrix的逆矩阵迭代求解最优解。HessianMatrix：设为的多元变量函数，且有二阶连续偏导，则的HessianMatrix定义为：Positi
qq_37172182·2020-06-25 12:30

正则化项作用、位置及思想原理

之前一直搞不太懂正则化项是什么东西，最近在看XGBOOST原理及李航的《统计学习方法》，根据《统计学习方法》中所说，目前大概有一个理解，先贴在下面。
明月皎皎·2020-06-25 12:25

决策树算法实现--最佳特征的选择

本文不对相关数学原理进行介绍，如欠缺相关数学基础，可参考李航的《统计学习方法》以及周志华的《机器学习》1.首先创建相关的数据集（数据集来源为李航的《统计学习方法》）并且导入相关的数学包第0列中数字0,1,2
南晨Inc·2020-06-25 10:28

统计学习方法——朴素贝叶斯法

参考链接：https://blog.csdn.net/wyq_wyj/article/details/79485618贝叶斯公式：P(B∣A)=P(AB)P(A)=P(A∣B)P(B)P(A)P(B|A)=\frac{P(AB)}{P(A)}=\frac{P(A|B)P(B)}{P(A)}P(B∣A)=P(A)P(AB)=P(A)P(A∣B)P(B)先验概率：P(Y=ck)P(Y=c_k)P(Y=
CDL_03·2020-06-25 08:27

MLP多层感知机的认识

目录MLP（MultiLayerPerception）一、机器学习（周志华）和统计学习方法（李航）1.感知机与多层网络1.1感知机模型1.2感知机学习策略1.3感知机学习算法1.4感知机学习算法的收敛性
二胖_pro·2020-06-25 07:37

多项式拟合与线性回归

这个问题在《统计学习方法》李航的第一章中介绍。不过其中1.18带入后的结果不正确。具体错误见勘误表http://www.hangli-hl.com/uploads/3/
zatrix·2020-06-25 05:28

《统计学习方法》—— k近邻方法、kd树以及python3实现

前言k近邻方法的初衷很简单，就是找最近的k个数据，根据这些数据的标记，按照某种规则，给新的数据标记。这里，我们可以看到三个重点：k值，距离度量和决策规则。k值决定方法的复杂程度。考虑k很大，足以包括所有数据的时候，此时给新的数据标记结果，必然由大多数相同标记决定，而少部分数据的信息则被忽略，这时，方法是欠拟合的，简单的；而当k=1时，此时新数据标记则直接根据最近的数据标记，对于众多的新数据，原有数
wangxinRS·2020-06-25 05:30

《统计学习方法》—— 逻辑斯谛回归 与 最大熵模型 的介绍以及详细推导

前言在《统计学习方法》第二版的第6章，作者将逻辑斯谛回归与最大熵这两个模型放在一起讲，初看令人困惑。但是看到后面才明白，这是作者为了介绍以似然函数为目标函数的最优化问题的解法。
wangxinRS·2020-06-25 05:57

《统计学习方法》—— 朴素贝叶斯方法、详细推导及其python3实现（二）

前言在上一篇博客中，我们介绍了朴素贝叶斯方法以及详细推导。在这篇博客中，我们将介绍朴素贝叶斯的python3实现代码。这里，我们将算法复述如下：输入：数据集T={(x1,y1),(x2,y2),...,(xN,yN)}T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\}T={(x1,y1),(x2,y2),...,(xN,yN)}，其中，xi=(xi(1),xi(2),.
wangxinRS·2020-06-25 05:57

《统计学习方法》—— 信息增益、决策树算法（ID3，C4.5）以及python3实现

前言在这篇博客中，我们将主要介绍决策树算法。决策树算法主要由三个部分构成：特征的选择，决策树的构建以及决策树的剪枝X。我们往往期望选择最有分类能力的特征。比如找对象这件事情上，女生面对众多追求者，往往会将经济能力、教育背景等作为区分的特征，因为这些特征最有分类能力；而很少女生将鞋码或者发型作为第一优考虑的特征。经过特征选择，我们可以将原数据集分成若干子数据集，对于这些子数据集，再次进行特征选择，直
wangxinRS·2020-06-25 05:57

《统计学习方法》—— 朴素贝叶斯方法、详细推导及其python3实现（一）

前言朴素贝叶斯方法通过构造数据生成分布来预测未知数据的类型，属于生成模型。这里之所以称为“朴素”，是因为我们假设数据特征之间具有互相独立的假设。在这篇博客里，我们将介绍朴素贝叶斯方法，并对其进行推导，最后给出python3的实现代码。1.朴素贝叶斯方法记数据集为T={(x1,y1),(x2,y2),...,(xN,yN)}T=\{(x_1,y_1),(x_2,y_2),...,(x_N,y_N)\
wangxinRS·2020-06-25 05:56

机器学习入门之《统计学习方法》笔记整理——感知机

  从头开始学习李航老师的《统计学习方法》，这本书写的很好，非常适合机器学习入门。  
Quanfita·2020-06-25 05:49

SVM 合页损失函数

至于为什么叫这个名字，李航老师的《统计学习方法》上是这么说的：由于函数形状像一个合页，故命合页损失函数。
北冥有小鱼·2020-06-25 02:57

深度学习笔记（0）——机器学习基本概念

就我个人理解，通常任何问题我们都可以用一个数学模型来解释：y=f(x)在统计学习方法里面通常使用的是P(y|x)，为了方便理解，不妨不严谨地把P看作是一种特殊的f()我们解决一个问题有
迷川浩浩_ZJU·2020-06-25 00:32

不给100万彩礼不结婚，小伙现场娶别人，这下出名了！

第1章下辈子，早点娶我“李航，我不知道，这条短信你能否收到。”“这是第一次给你发短信，也许是最后一次。”“我可能没办法当你的新娘了。”“下辈子，早点来娶我……”颤抖的声音，在阴郁的手术室回荡。
小果哥哥·2020-06-25 00:00

机器学习之朴素贝叶斯（一）思想及典型例题手写实现

用一个引例介绍后面两个公式：村子里有三个小偷，事件B={村子失窃}，已知小偷们的偷窃成功率依次是，除夕夜去偷的概率依次是全概率公式：求：村庄除夕夜失窃的概率贝叶斯公式：求：在村子失窃的条件下，偷窃者是某个小偷的概率朴素贝叶斯李航
繁华三千东流水·2020-06-24 23:38

理解EM算法

介绍EM算法的材料里，我目前看过且觉得比较好的就是NG老师的CS229讲义和李航老师的统计学习方法。
YiyangJump·2020-06-24 21:44

Adaboost入门教程——最通俗易懂的原理介绍（图文实例）

写在前面说到Adaboost，公式与代码网上到处都有，《统计学习方法》里面有详细的公式原理，Github上面有很多实例，那么为什么还要写这篇文章呢？
Max的杂物仓·2020-06-24 20:34

李航·《统计学习方法》学习笔记

第一章统计学习的方法概论1.1统计学习概述1.统计学习的过程：2.统计学习的分类：3.监督学习的分类3.1生成方法与判别模方法3.1.1生成方法3.1.1判别方法3.2分类问题、标注问题和回归问题3.2.1分类问题3.2.2标注问题3.2.3回归问题1.2模型1.3策略1.3.1损失函数1.3.2经验损失、期望损失和结构损失1.3.3经验风险最小化、结构风险最小化和目标函数1.4算法1.5模型评估
promisejia·2020-06-24 20:49

机器学习/数据挖掘之中国大牛

机器学习/数据挖掘之中国大牛推荐几个机器学习和数据挖掘领域相关的中国大牛：李航：http://research.microsoft.com/en-us/people/hangli/，是MSRAWebSearchandMiningGroup
playoffs·2020-06-24 20:22

《统计学习方法》python代码资料

分享一则资料，《统计学习方法》的python实现代码。《统计学习方法》是李航的一本书，是比较基础经典的一本书，书中更多的是对基础传统机器学习的理论介绍，没有任何代码，这算是对代码的补充。
on2way·2020-06-24 18:26

《统计学习方法》（第二十一章）——PageRank算法

PageRank的定义基本想法  PageRank算法作为计算互联网网页重要程度的算法被提出，它定义网页集合上的一个函数，它对每个网页给出一个正实数，表示网页的重要程度，值越大重要程度就越大。  假设互联网是一个有向图，在其基础上定义随机游走模型，即一阶马尔可夫链，表示网页浏览者在互联网上随机浏览网页的过程，假设浏览者在每个网页依照连接出去的超链接以等概率跳转到下一个网页，并在网页上持续不断进行这
mkopvec·2020-06-24 15:21

李航 《统计学习方法》习题8.1

解题：因为题中假设弱分类器为决策树，可采用CART二叉分类树。1、初始化数据权值分布：D=(w11,w12,...,w110)=(0.1,0.1,...,0.1)w1i=0.1，i=1,2,....,102、计算各特征的基尼系数（为计算方便，就取深度为1的树）：根据基尼系数的计算公式：求得：gini（D，潜力=2）的基尼系数最小，所以第一个选潜力等于2和非2为划分点。3、计算误差率，分类器的权重，
魔术师_·2020-06-24 13:03

MLAPP————第一章 简介

至今在机器学习方面都是零零散散的学，西瓜书，李航的统计学习方法，也都并没有看完。所以主要想通过此博客来勉励促进自己，希望自己能够一步一个脚印坚持走下去，不想半途而废。
QQQiZZZ·2020-06-24 13:21

【用python搞机器学习与人工智能学习心得与经验】

辗转反侧，后来觉得时自己的机器学习理论基础不够，又买了李航的统计学习方法与周志华的机器学习，再结合实验室的研究方向，一步步学习与补充
Wanderist_ZK·2020-06-24 12:48

机器学习笔记（一） 逻辑斯蒂回归LR

本文是在学习完李航老师的《统计学习方法》后，在网上又学习了几篇关于LR的博客，算是对LR各个基础方面的一个回顾和总结。一简述逻辑斯蒂回归是一种对数线性模型。
Edith077·2020-06-24 11:11

《统计学习方法》摘录-朴素贝叶斯法

#摘录自《统计学习方法》李航#朴素贝叶斯法(naïveBayes,NB)是基于贝叶斯定理与特征条件独立假设的分类方法。属于生成模型。
Cris_Lee卡卡卡·2020-06-24 09:47

李航 统计学习方法 课后习题答案

第一章https://blog.csdn.net/familyshizhouna/article/details/70160782第二章2.1-2.2https://blog.csdn.net/cracker180/article/details/787783052.3https://blog.csdn.net/xiaoxiao_wen/article/details/54097835感知机，线性
liufei00001·2020-06-24 06:42

k最近邻算法(kNN)

www.cnblogs.com/v-July-v/archive/2012/11/20/3125419.htmlhttp://www.cnblogs.com/pinard/p/6065607.html《统计学习方法
liqiutuoyuan·2020-06-24 06:44

统计学习方法笔记---朴素贝叶斯

朴素贝叶斯机器学习实战代码详见：https://editor.csdn.net/md?articleId=105165351优缺点优点：在数据较少的情况下仍然有效；可以处理多类别问题缺点：对于输入数据的准备方式较为敏感？适用数据类型：标称型数据本章概要朴素贝叶斯是典型的生成模型。生成方法由训练数据学习联合概率分布P(X,Y)P(X,Y)P(X,Y)，然后求得后验概率分布P(Y∣X)P(Y|X)P(
leemusk·2020-06-24 03:59

机器学习笔记（二）——决策树基本原理

前言：决策树是一种基本的分类与回归的方法，按照统计学习方法的三个基本要素——模型，策略，算法的方式，我们来进行学习。1.决策树模型决策树定义：分类决策树是一种描述对象分类的树形结构。
lblovelm·2020-06-24 02:20

机器学习校招手册SVM篇

如对基础算法有疑问请自行阅读《统计学习方法》李航本书主要针对监督学习的统计学方法《机器学习》周志华本书涵盖监督学习和非监督学习学派中立《机器学习：从公理到算法》于剑我校老师撰写的机器学习公理化著作，博士
不会做甜点的程序员不是好艺术家·2020-06-24 02:30

NLP算法-面试知识点总结

前言推荐参考书籍如下：项目地址：https://github.com/laddie132/NLP-Interview《统计学习方法（第2版）》-李航《DeepLearning》-IanGoodfellow
HudsonLiu·2020-06-24 02:40

《统计学习方法》李航著——第一章学习笔记

第一章：熟悉统计学习方法的基本概念统计学习：基于数据构建概率统计模型并运用模型对数据进行预测和分析，也称为统计机器学习。1.统计学习组成：监督学习，半监督学习，非监督学习和强化学习。
JPDAYSUNDAY·2020-06-23 23:41

【笔记】《Python大战机器学习》

简书：简单的记录，有写于《统计学习方法》中明确的基本知识没记第1章线性模型第2章决策树第3章贝叶斯分类器第4章k近邻法第5章数据降维第6章聚类和EM算法第7章支持向量机第8章人工神经网络第9章半监督学习第
煎饼证·2020-06-23 21:20

【笔记】《统计学习方法》(8)提升方法

简书：https://www.jianshu.com/p/eb9d50312de8第8章提升方法强可学习与弱可学习式等价的，在概率近似正确(probablyapproximatelycorrect,PAC)学习的框架下提升(boosting)要解决的两个问题：(1)每一轮如何改变训练数据的权值和概率分布(2)弱分类器如何组合成一个强分类起AdaBoost的做法(1)提高被前一轮弱分类器错误分类样本
煎饼证·2020-06-23 21:49

李航《统计学习方法》第4章习题答案参考

第4章朴素贝叶斯法浅谈极大似然估计与贝叶斯估计极大似然估计：频率学派，认为参数是确定存在只是未知的，并且觉得出现的状态假设是按概率最大的情况出现的，所以对极大似然函数求极值就可以得到参数θ.(下述D为训练数据集)θMLE=argmaxθP(D|θ)贝叶斯估计：贝叶斯学派，认为参数是不确定的，也是一个随机变量，所以给定输入不能得到输出，只能根据先验概率得出输出的期望：E[y|x,D]=∫P(y|x,
24thAUG·2020-06-23 20:59

机器学习实战——开篇

在介绍具体算法前，从整理理解机器学习方法的框架结构，以下节选引用自《统计学习方法》——李航。
ivy8momo·2020-06-23 20:55

[置顶] 推荐几个机器学习算法及应用领域相关的中国大牛

李航：http://weibo.com/u/2060750830，是MSRAWebSearchandMiningGroup高级研究员和主管，主要研究领域是信息检索，自然语言处理和统计学习。
岁月的拓荒者·2020-06-23 17:20

统计学习方法——修炼学习笔记2：感知机

一、感知机的定义感知机是1957年由Rosenblatt提出，是神经网络与支持向量机的基础，是二分类线性分类模型，输入为实例的特征，输出为实例类别，实例类别取+1和-1。感知机是属于判别模型，因为其求出分离超平面直接将输入实例划分为正例和负例。导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型二、感知机的数学表达式感知机的数学表达式可以由下列式子进行表达：f=sign(w
Sam_L·2020-06-23 16:43

AdaBoost算法

转自https://blog.csdn.net/GYQJN/article/details/455011851、提升方法（来源于统计学习方法）提升方法是一种常用的统计学习方法，应用十分广泛且有效。
hjxu2016·2020-06-23 14:37

华为诺亚方舟实验室主任李航：迎接自然语言处理新时代

作者简介：李航，华为技术有限公司诺亚方舟实验室主任。主要研究方向为信息检索、自然语言处理、机器学习等。本文经李航博士授权发布，未经作者允许不得转载。
csdn_csdn__AI·2020-06-23 14:22

集成学习（GBDT）

参考了统计学习方法，西瓜书，MachineLearnigwithpython做的总结，还包含自己用sklearn做的一些对比实验，原文是写在jupyter上的，这里是直接转为.md导过来的，所以格式有些问题
geter_CS·2020-06-23 10:08

李航《统计学习方法》——第四章 朴素贝叶斯法

由于网上资料很多，这里就不再对算法原理进行推导，仅给出博主用Python实现的代码，供大家参考适用问题：多类分类基于贝叶斯定理和特征条件独立假设常用的三个模型有：-高斯模型：处理特征是连续型变量的情况-多项式模型：最常见，要求特征是离散数据-伯努利模型：要求特征是离散的，且为布尔类型，即true和false，或者1和0测试数据集：train.csv实现代码（基于多项式模型）：#encoding=u
fuqiuai·2020-06-23 09:51

统计学习方法——K近邻模型

0.写在前面在这一讲的讨论班中，我们将要讨论一下K近邻模型。可能有人会说，K近邻模型有什么好写的，那分明就是一个最简单的机器学习模型，哦，不，连机器学习也算不上的算法吧。但是这里，我想提醒的是，我们要讨论的，不仅仅是简单的K近邻模型，而是和它相关的一些有困惑的话题。1.K近邻定义k近邻算法，也成为KNN算法，是一种基本分类与回归算法。它在基本实现上，使用的是多数表决的惰性学习过程。也就是它实际上是
Rotation.·2020-06-23 07:59

复现经典：《统计学习方法》第 5 章 决策树

本文是李航老师的《统计学习方法》[1]一书的代码复现。作者：黄海广[2]备注：代码都可以在github[3]中下载。我将陆续将代码发布在公众号“机器学习初学者”，敬请关注。
风度78·2020-06-23 07:05

复现经典：《统计学习方法》第 4 章 朴素贝叶斯

本文是李航老师的《统计学习方法》[1]一书的代码复现。作者：黄海广[2]备注：代码都可以在github[3]中下载。我将陆续将代码发布在公众号“机器学习初学者”，敬请关注。
风度78·2020-06-23 07:33
上一页 34 35 36 37 38 39 40 41 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他