李航统计学习方法

提升方法：GBDT、XGBOOST、AdaBoost

提升 (boosting)方法是一种常用的统计学习方法，应用广泛且有效，在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类器性能。
TaoTao Yu·2017-05-04 00:00

Redis Cluster 源码分析

作者介绍姓名：李航工作经历：5年多互联网工作经验，先后在58同城，汽车之家，优酷土豆集团工作。目前主要在优酷土豆集团任职高级开发工程师，目前主要负责大数据基础平台Redis集群开发及运维等工作。
明月(Alioo)·2017-05-02 17:00

统计学习方法 第二章 感知机

感知机是二分类的线性分类模型，输入是实例的特征x∈Rn，输出是实例的类别{−1,+1}。感知机对应于输入空间中将实例划分为正负两类的分离超平面，属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面，为此，导入基于误分类的损失函数，利用梯度下降法对损失函数进行极小化，求得感知机模型。1模型假设输入空间（特征空间）是X⊆Rn，输出空间是Y={+1,−1}.由输入空间到输出空间的如下函数f
fxnfk·2017-04-25 18:02

机器学习 —— 基础整理（五）线性回归；二项Logistic回归；Softmax回归及其梯度推导；广义线性模型

本文简单整理了以下内容：（一）线性回归（二）二分类：二项Logistic回归（三）多分类：Softmax回归（四）广义线性模型闲话：二项Logistic回归是我去年入门机器学习时学的第一个模型（忘记了为什么看完《统计学习方法
Determined22·2017-04-21 21:00

svm算法 最通俗易懂讲解

 最近在学习svm算法，借此文章记录自己的学习过程，在学习很多处借鉴了z老师的讲义和李航的统计，若有不足的地方，请海涵；svm算法通俗的理解在二维上，就是找一分割线把两类分开，问题是如下图三条颜色都可以把点和星划开
剑昙说·2017-04-21 16:54

深度神经网络发展历程全回顾：如何加速DNN运算？

与早期的专家手动提取特征或制定规则不同，DNN的优越性能来自于在大量数据上使用统计学习方法，从原始数据中提取高级特征的能力，从而对输入空间进行有效
bessme·2017-04-20 15:08

【机器学习】生成模型和判别模型

以下部分主要参考了李航那本《统计学习方法》判别模型和生成模型都是指监督学习下的模型，监督学习模型本质上就是求决策函数：Y=F(X)Y=F(X)Y=F(X)或者条件概率分布：P(Y∣X)P(Y|X)P(Y
哈乐笑·2017-04-18 01:05

简明机器学习教程——实践篇（一）：从感知机入手

这里，我们从李航博士的《统计学习方法》的第2章感知机来做例子，由此引出大致的学习方法。需要注意的是，这篇教程并不是来介绍感知机模型的，而是用来说明如何学习并实践一个模型的，所以对感知机的解
garfielder007·2017-04-16 16:16

统计学习方法(2)——感知机原始形式、对偶形式及Python实现

感知机作为一种最简单的线性二分类模型，可以在输入空间（特征空间）将实例划分为正负两类。本文主要介绍感知机两种形式对应的学习算法及Python实现。感知机学习算法的原始形式对于输入空间，感知机通过以下函数将其映射至{+1，-1}的输出空间f(x)=sign(w⋅x+b)(1)对于所有的错分类点i∈M，都有−yi(w⋅xi+b)>0,因此我们可以定义如下的损失函数作为优化准则：L(w,b)=−∑xi∈
ginger188·2017-04-16 16:23

统计学习方法概论(未完待续)

1.1统计学习统计学习：关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科。包括监督学习、非监督学习、半监督学习及强化学习。主要特点：以计算机及网络为平台以数据为研究对象目的是对数据进行预测和分析以方法为中心多学科交叉1.2监督学习任务学习一个模型，使得模型对任意给定的输入，对其相应的输出做出一个好的预测。基本概念1、输入空间、输出空间与输出空间输入空间、输出空间：将输入与
VictorLeeLk·2017-04-14 18:53

李航 统计学习方法 第一章 课后 习题 答案

1.1统计学习方法的三要素是模型、策略、算法。伯努利模型是定义在取值为0与1的随机变量上的概率分布。统计学分为两派：经典统计学派和贝叶斯统计学派。
fxnfk·2017-04-14 14:36

机器学习之感知机学习笔记第一篇：求输入空间R中任意一点X0到超平面S的距离

我的学习资料是“统计学习方法”，作者是李航老师，这本书很著名，百度有很多关于它的PDF。
xinzaichenmo·2017-04-13 20:04

《统计学习方法》第八章提升方法学习笔记

提升方法需要解决两个问题：一是在每一轮如何改变训练数据的权值或概率分布；二是如何将弱分类器组合成一个强分类器。对于第一个问题，AdaBoost算法是提高那些前一轮弱分类器错误分类样本的权重，而降低那些被正确分类样本的权重，这使得那些没有被正确分类的样本由于其权重的加大而受到后一轮的弱分类器的更大关注。对于第二个问题，AdaBoost采取加权多数表决的方法，即加大分类误差率小的弱分类器的权值，使其在
wjlucc·2017-04-11 16:10

SVM分割超平面的绘制与SVC.decision_function( )的功能

在李航老师的《统计学习方法》—支持向量机那章有个例题：样本点x1=(3,3),x2=(4,3),x3=(1,1),labels=(1,1,−1),求分割超平面？
hustliu2018·2017-04-09 14:00

统计学习方法(一)——统计学习方法概论

文章作者：Tyan博客：noahsnail.com|CSDN|简书1.统计学习方法概论本文是统计学习方法（李航）第一章的学习总结。
SnailTyan·2017-04-07 16:09

《统计学习方法》第七章支持向量机学习笔记

一线性可分支持向量机函数间隔和几何间隔学习算法1使用最大间隔构造约束最优化问题2使用对偶算法求解约束最优化问题1求minwbLwbminlimits_wbLwbalpha2求minwbLwbminlimits_wbLwbalpha对alpha的极大支持向量1支持向量和间隔边界2支持向量和对偶最优化问题的解alpha一、线性可分支持向量机定义：给定线性可分训练数据集，通过间隔最大化或等价地求解相应的
wjlucc·2017-04-06 23:39

第一章——统计学习方法概论

supervisedlearning）、非监督学习（unsupervisedlearning）、半监督学习（semi-supervisedlearning）、强化学习（reinforcementlearning）统计学习方法的三要素
cyf931225·2017-03-28 14:42

第一章——统计学习方法概论

supervisedlearning）、非监督学习（unsupervisedlearning）、半监督学习（semi-supervisedlearning）、强化学习（reinforcementlearning）统计学习方法的三要素
cyf931225·2017-03-28 14:42

logistic回归详解(二）：损失函数（cost function）详解

再加上一个偏置项x0,则每个样本包含n+1维特征：x=[x0,x1,x2,⋯,xn]T其中x∈Rn+1,x0=1,y∈{0,1}李航博士在统计
勿悔Choles·2017-03-26 13:00

python实现感知机（perceptron）原型～

初学统计学习，用的李航的《统计学习方法》课本，感觉实在太有意思了，甚至准备读个应用统计的研究生深入一下。
seasonix·2017-03-26 00:47

机器学习笔记--决策树

适用数据类型：数值型和标称型本文内容大部分来自于《统计学习方法
七号萝卜·2017-03-25 20:13

学习记录--生成对抗网络GAN研究进展（一）

generativeapproach）和判别方法（discriminativeapproach），所学到的模型分别称为生成式模型（generativemodel）和判别式模型（discriminativemodel）[1李航
海饼干不是饼干·2017-03-24 17:17

各种概率图模型转换

-本人阅读的材料来主要来自于李航的《统计学习方法》第十一章和之前有人贴出的"Anintroductiontoconditionalrandomfields"(90页太多没读完=_=)-这段文字主要从两个方面描述了
lanxin0802·2017-03-24 11:42

SVM（1）：理清分离超平面方程和法向量

一、对分离超平面方程的理解《统计学习方法》书中：1、简要解释：分割平面：在三维XYZ坐标系里，XoY平面把三维坐标系“分割”成两个空间，XoY平面就是一个分割平面。
Jiajing_Guo·2017-03-24 11:40

统计学习方法学习笔记一

第一章统计学习方法概论统计学习的主要特点是（1）平台--------计算机及网络，是建立在计算机及网络之上的；（2）研究对象--------数据，是数据驱动的学科；（3）目的---------对数据进行预测与分析
SmileAda·2017-03-16 09:04

回归树，Gradient Boosting和GBDT

一开始听到GBDT的时候，表示完全没听过，所以查了查相关资料研究一下，发现李航的《统计学习方法》里面就有讲，只不过没有叫GBDT这个名字就是了。
哈乐笑·2017-03-15 19:43

李航-统计学习方法学习笔记-第一章

统计学习方法李航统计学习方法的三要素：（1）模型（2）策略（3）算法实现统计学习的步骤：（1）得到用来训练模型和测试模型的数据集（输入和输出（实际值）+需要进行预测的输入数据）（2）确定包含所有可能的模型的假设空间
hdu_lazy_man·2017-03-14 19:06

逻辑回归推导

1、主要内容逻辑回归的推导，分别推导出y={0，1}和y={-1，+1}，之前关于林轩田老师和李航老师关于逻辑回归的推导弄混了，林轩田老师的推导是建立在后面的—1，+1的分类，李航老师的是关于0，1的推导
罐装可乐·2017-03-14 18:00

周志华《机器学习》课后习题解答系列（一）：目录

对机器学习一直很感兴趣，也曾阅读过李航老师的《统计学习导论》和Springer的《统计学习导论-基于R应用》等相关书籍，但总感觉自己缺乏深入的理解和系统的实践。
Snoopy_Yuan·2017-03-14 00:00

感知机算法原理（PLA原理）及 Python 实现

参考书籍：李航老师的《统计学习方法》、林轩田老师的《机器学习基石》如无特殊说明，图片均来自网络(google图片、百度图片)，如有侵权请联系我，我会立即删除或更改PLA是PerceptronLearningAlgorithm
Artprog·2017-03-12 19:49

感知机--模型与策略

看到模型和策略，应该很快联想到了李航的《统计学习方法》，统计学习方法的三要素定义为：模型、策略、算法。感知机感知机是二分类的线性分类模型，输入为实例的特征向量，输出为实例的类别（取+1和-1）。
MachineLP·2017-03-11 10:00

【机器学习】手推EM算法

AndrewWu那门《机器学习》真的是太好了，每次看都有不少新收获，今天打算重新回顾一下EM算法来着，结果看李航的《统计学习方法》发现之前的理解有不少错误，又重新开始研究，结果都不是很明白，看AndrewWu
哈乐笑·2017-03-11 01:30

统计学习方法——K近邻模型

0.写在前面在这一讲的讨论班中，我们将要讨论一下K近邻模型。可能有人会说，K近邻模型有什么好写的，那分明就是一个最简单的机器学习模型，哦，不，连机器学习也算不上的算法吧。但是这里，我想提醒的是，我们要讨论的，不仅仅是简单的K近邻模型，而是和它相关的一些有困惑的话题。1.K近邻定义k近邻算法，也成为KNN算法，是一种基本分类与回归算法。它在基本实现上，使用的是多数表决的惰性学习过程。也就是它实际上是
刘炫320·2017-03-09 22:13

感知机及其对偶问题，参考《统计学习方法》

感知机模型：1判别模型，2旨在学习出一个线性划分的超平面输入T={（x1，y1）,（x2，y2）……（xN，yN）}xi是一n维的特征向量，yi属于{+1，-1}。通俗来讲就是。（假设T是线性可分的）输出函数f(x)=sign(w·x+b)sign表示符号函数。是一n维的向量。（w,b）可以确定一个超平面。首先，我们要使用梯度下降来求解。就得确定损失函数。分类错误的情况下yi(w⋅xi+b)<0定
trayfour·2017-03-06 13:07

感知机实现Python

《统计学习方法》第二章python实现：1感知机原型的python实现1.1损失函数：L(ω,b)=−∑xi∈Myi(ω⋅xi+b)其中M为误分类点的集合。
相国大人·2017-03-04 09:48

典型梯度下降法

这几天在看《统计学习方法》这本书，发现梯度下降法在感知机等机器学习算法中有很重要的应用，所以就特别查了些资料。
影醉阏轩窗·2017-03-03 22:00

提升树算法

这篇博文主要参考了李航《统计学习方法》与论文：GREEDYFUNCTIONAPPROXIMATION:AGRADIENTBOOSTINGMACHINE。这里简单记录下对提升树的简单理解。
我很平凡的·2017-02-25 12:31

机器学习算法总结--EM算法

参考自《统计学习方法》机器学习常见算法个人总结（面试用）从最大似然到EM算法浅解（EM算法）TheEMAlgorithm简介EM算法，即期望极大算法，用于含有隐变量的概率模型的极大似然估计或极大后验概率估计
spearhead_cai·2017-02-24 17:41

统计学习方法-第二章

第二章：感知机算法感知机是二分类的线性模型，输入实例的特征向量，输出实例的±类别。模型表达如下：w·x表示向量w和x的内积。sign是一个映射函数，由线性变换到输出空间(+1,-1)的一个映射。这个映射函数是,当w*x+b>=0，y=+1，否则y取-1.感知机的学习策略如果给定一个数据集，如果存在某个超平面S：w·x+b=0,能够将数据集中的正样本点和负样本点全部分开，及全部正确划分到超平面两侧，
田小成plus·2017-02-24 01:40

机器学习算法总结--提升方法

参考自：《统计学习方法》浅谈机器学习基础（上）Ensemblelearning:Bagging,RandomForest,Boosting简介提升方法(boosting)是一种常用的统计学习方法，在分类问题中
spearhead_cai·2017-02-22 20:14

统计学习方法-李航（笔记整理）一

统计学习方法三要素：模型，策略，算法统计学习方法步骤：得到一个有限训练数据集确定包含所有可能的模型假设空间，即学习模型的集合确定模型选择的准则，即学习
yimiaomochu·2017-02-20 17:28

利用sklearn进行集成学习之相关理论

jasonfreak/p/5657196.html集成学习的几个主要算法讲的精简易懂，特别是集成学习过程中的调参涉及到的理论部分，特别是对偏差和方差有了更直观的理解，以及几个不同的损失函数归纳，第四部分的公式需要配合《统计学习方法
Cherzhoucheer·2017-02-07 20:27

利用sklearn进行集成学习之相关理论

jasonfreak/p/5657196.html集成学习的几个主要算法讲的精简易懂，特别是集成学习过程中的调参涉及到的理论部分，特别是对偏差和方差有了更直观的理解，以及几个不同的损失函数归纳，第四部分的公式需要配合《统计学习方法
Cherzhoucheer·2017-02-07 20:27

自制基于HMM的python中文分词器

主流中文分词方法包括基于规则的分词，基于大规模语料库的统计学习方法以及在实践中应用最多的规则与统计综合方法。隐马尔科夫模型(HMM)是中文分词中一类常用的统计模型，本文将使用该模型构造分词器。
-Finley-·2017-01-30 14:00

从感知机到人工神经网络

来源：统计学习方法感知机学习策略假定要本线性可分，感知机的学习目标就是求的能将正负要本
yqtaowhu·2016-12-31 17:41

统计学习方法笔记 -- 概论

统计学习方法是基于训练数据构建统计模型，从而对数据进行预测和分析。
--Alvin--·2016-12-28 17:38

条件随机场（CRF）

条件随机场应该是机器学习领域比较难的一个算法模型了，难点在于其定义之多（涉及到概率图模型、团等概率）、数学上近似完美（涉及到概率、期望计算，最优化方面的知识），但是其在自然语言处理方面应用效果比较好，所以本文结合李航老师的
雪伦_·2016-12-28 11:51

【机器学习】逻辑回归（Logistic Regression）

从大的类别上来说，逻辑回归是一种有监督的统计学习方法，主要用于对样本进行分类。在线性回归模型中，输出一般是连续的，例如
昕-2008·2016-12-27 00:00

五、决策树--统计学习方法总结

五决策树1决策树模型与学习11决策树模型12决策树与if-then规则13决策树与条件概率分布14决策树学习2特征选择21特征选择问题22信息增益23信息增益比3决策树的生成31ID3算法32C45的生成方法4决策树的剪枝5CART算法51CART生成52CART剪枝五、决策树决策树（decisiontree）是一种基本的分类与回归方法，这里主要讨论用于分类的决策树。它可以认为是if-then规则
lemonaha·2016-12-26 15:47

机器学习工程师面试前应该做的准备

机器学习方面的面试主要分成三个部分：1.算法和理论基础2.工程实现能力与编码水平3.业务理解和思考深度1.理论方面，我推荐最经典的一本书《统计学习方法》，这书可能不是最全的，但是讲得最精髓，薄薄一本，适合面试前突击准备
ourpush·2016-12-17 13:20
上一页 54 55 56 57 58 59 60 61 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他