李航统计学习笔记

李航统计学习 第四章 朴素贝叶斯

第四章朴素贝叶斯输入空间X⊆RnX⊆Rn为nn维向量集合，输出空间为类别标记集合Y={c1,c2,⋯,cK}Y={c1,c2,⋯,cK}训练集T={(x1,y1),(x2,y2),⋯,(xN,yN)}T={(x1,y1),(x2,y2),⋯,(xN,yN)}算法思想首先学习先验概率分布：P(Y=ck),k=1,2,⋯,KP(Y=ck),k=1,2,⋯,K然后学习条件概率分布：P(X=x|Y=ck)
丁耗·2018-07-03 22:35

李航统计学习 第三章 K邻近法

第三章K邻近法算法流程输入：训练数据集T={(x1,y1),(x2,y2),⋯,(xN,yN)}T={(x1,y1),(x2,y2),⋯,(xN,yN)}其中xi∈Rnxi∈Rn为实例的特征向量yi∈{c1,c2,⋯,cK},i=1,2,⋯,Nyi∈{c1,c2,⋯,cK},i=1,2,⋯,N为实例的类别输出：实例xx所属的类yy（1）根据给定的距离度量，在训练集TT中找出与xx最邻近的kk个点，
丁耗·2018-07-03 22:21

李航统计学习 第一章 统计学习概论

第一章统计学习概论1.1统计学习实现统计学习方法的步骤:(1)得到一个有限的训练数据集合(2)确定包含所有可能的模型的假设空间,即学习模型的集合(3)确定模型选择的准则,即学习的策略(4)实现求解最优模型的算法,即学习的算法(5)通过学习方法选择最优模型(6)利用学习的最优模型对新数据进行预测或者分析1.2监督学习监督学习的任务是学习一个模型,使得模型能够对任意给定的输入,对其相应的输出做一个好的
丁耗·2018-07-03 22:54

【机器学习】支持向量机(SVM)

参考李航-统计学习方法支持向量机是一种分类算法，1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。
shura_R·2018-07-02 16:20

GBDT 详解

参考资料及博客：李航《统计学习方法》GradientBoostingwikiGBDT理解二三事GBDT（MART）迭代决策树入门教程|简介转载自：https://blog.csdn.net/sb19931201
北冥有小鱼·2018-06-29 11:01

python实现单层感知机(perceptron)

前言最近在学习李航教授著作《统计学习方法》，刚刚起步单纯学概念也是有点无聊，于是乎就想利用python复现一下感知机。
BlueBlueSkyZ·2018-06-26 09:47

基于pyhton3.6-机器学习实战-fpGrowth代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-06-25 17:58

基于pyhton3.6-机器学习实战-Apriori代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-06-25 17:24

基于pyhton3.6-机器学习实战-K-Means代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-06-25 17:32

基于pyhton3.6-机器学习实战-回归树regTrees代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-06-25 17:09

男生女生谁怕谁（35）男生女生谁怕谁

数学竞赛中张咪、杨飞获得一等奖，作文竞赛中陈芸、李航获得一等奖，英语书写比赛呢，也是男生女生平分秋色。只是在讲故事竞赛中，张咪获得省级特等奖，男生呢，却连连败北，连参加竞赛的资格也没有取得
三门峡014张丽娜·2018-06-25 16:20

李航《统计学习方法》笔记

虽然书名是统计学习，但是却是机器学习领域中和重要的一本参考书。当前的机器学习中机器指计算机，但是所运用的方法和知识是基于数据（对象）的统计和概率知识，建立一个模型，从而对未来的数据进行预测和分析（目的）。第一段提到的模型是很重要的，事实上，模型（model）是统计学习方法的三要素之一，其他另外两个策略strategy和算法algorithm也是围绕模型的，简单来说，策略决定了使用什么样的损失函数（
zcg1942·2018-06-25 16:00

李航-第10章隐马尔可夫模型

隐马儿可夫模型：HMM，hiddenMarkovmodel，是可用于标注问题的统计学习模型，描述由隐藏的马尔可夫链随机生成观测序列的过程，属于生成模型。隐马尔可夫模型是关于时序的概率模型，描述由一个隐藏的马尔可夫链随机生成不可观测的状态随机序列，再有各个状态生成一个观测而产生观测随机序列的过程。隐藏的马尔可夫链随机生成的状态的序列，称为状态序列。每个状态生成一个观测，而由此产生的观测的随机序列，称
瘦长的丰一禾·2018-06-23 15:42

基于pyhton3.6-机器学习实战-回归regression代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-06-20 09:59

李航-第9章EM算法及其推广

EM算法的每次迭代由两步组成：E步，求期望；M步，求极大。所以这一算法称为期望极大法（expectationmaximization），简称EM算法。EM算法的最大优点是简单性和普适性。关于概率和似然：在统计学中，似然函数（likelihoodfunction，通常简写为likelihood，似然）是一个非常重要的内容，在非正式场合似然和概率（Probability）几乎是一对同义词，但是在统计学
瘦长的丰一禾·2018-06-19 09:03

合页损失函数的理解

至于为什么叫这个名字，李航老师的《统计学习方法》上是这么说的：由于函数形状像一个合页，故命合页损失函数。下图为合页损失函数的图像（取自《统计学习方法》）：之前对损失函数的意义一直不是很懂。
goodshot·2018-06-16 12:36

基于pyhton3.6-机器学习实战-AdaBoost代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-06-09 10:14

KNN算法知识集

数学知识：李航《统计学习方法》，叙述了K邻近算法，K邻近模型和它的三要素（距离度量、K值、分类决策规则），然后讲解了算法实现的数据结构——kd树，和基于这个树的搜索kd树算法。
baoFeng_Li·2018-06-08 10:51

小白机器学习过程

理论积累其实学习资料比较多，书籍有周志华的西瓜书，李航的统计学习，还有学机器学习很经典的PRML，视频网课有吴恩达的机器学习视频，b站上有资源。项目上经验包括可以参加相关的比赛，看相关的书籍。
泡屁屁·2018-06-07 21:25

十分钟理解logistic回归原理

关于逻辑回归的分类算法，很多书籍都有介绍，比较来看，还是**李航老师的书《统计学习方法》**里介绍的更清楚，若大家有时间，请不要偷懒，还是建议从头开始看李航老师的书，这本书简洁明了，适合入门。
石贤芝·2018-06-05 10:01

基于pyhton3.6-机器学习实战-支持向量机SVM代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-06-03 00:00

李航-第5章决策树

决策树的学习算法包特征选择、决策树的生成与决策树的剪枝过程。决策树学习应用信息增益准则选择特征。信息增益大的特征具有更强的分类能力。1、特征选择问题。特征选择是决定用哪个特征来划分特征空间。选择具有分类能力的特征可以调高决策树的学习的效率。熵：表示随机变量不确定性的度量，单位是比特。熵越大，随机变量的不确定性越大。经验熵和条件经验熵：当熵和条件熵中的概率由数据估计（特别是极大似然估计）得到时，所对
瘦长的丰一禾·2018-06-01 22:15

EM算法整理及其python实现

此文转载以供以后查阅学习方便，参考原文请移步链接http://www.hankcs.com/ml/em-algorithm-and-its-generalization.html另外，参考李航老师的《统计学习方法
brave_stone·2018-06-01 15:44

python实现决策树ID3算法的示例代码

在周志华的西瓜书和李航的统计机器学习中对决策树ID3算法都有很详细的解释，如何实现呢？
HelloData·2018-05-30 09:53

决策树ID3算法python实现

在周志华的西瓜书和李航的统计机器学习中对决策树ID3算法都有很详细的解释，如何实现呢？
HelloData·2018-05-29 00:00

启发式算法（Heuristic Algorithm）

背景：李航的《统计学习方法》一书中提到：决策树算法通常采用启发式算法，故了解之问题解答：时间有限，这里也只是将算法和启发式算法的区别和简单发展摘录如下：一、算法和启发式方法之间的差别很微妙，两个术语的意思也有一些重叠
混沌战神阿瑞斯·2018-05-27 20:00

感知机的总结及Python实现

重读李航博士的《统计学方法》对感知机做个总结包括感知机原始形式和对偶对偶形式的原理和Python实现。
蓝绿黄红·2018-05-24 10:07

李航-第2章感知机

说白了，感知机就是找到一条直线（称作超平面）用来把两类点分开，这个直线用线性方程表示就是感知机。关键是如何找到分隔两类点的这个（最优）线性方程。感知机模型感知机模型.jpg感知机模型的损失函数因为点到超平面的距离是正的，所以损失函数是非负的。误分类点越少，误分类点离超平面越近，损失函数值就越小。感知机的学习策略就是找到使损失函数最小的参数w,b，也即是找到了感知机模型。损失函数.jpg一些问题：误
瘦长的丰一禾·2018-05-22 22:21

EM算法及算例详解

最近在看贝叶斯相关的论文，里面讲到了EM算法，就把李航的统计学习方法这本书里的有关EM算法的详细推导过程仔细研读一遍，收获颇丰！
随遇而安_小强·2018-05-21 19:39

算法工程师学习流程

1）学习资料：以林轩田的《机器学习基石》、《机器学习技巧》为主，以周志华的《机器学习》、李航的《统计学习方法》为辅。
zhaocen_1230·2018-05-21 15:45

明日算法工程师の养成之路

学习材料机器学习理论知识的第一本书：《统计学习方法》李航著编程基础的第一本书：《
moonfansLTH·2018-05-18 23:21

百度统计学习笔记

百度统计是一个工具，能用来做数据分析，利用它能对网站进行分析，了解相关流量指标，网站实时信息等。百度统计的功能：网站导航栏共有9个大类，如图所示：常用报告，网站概况，百度推广，流量分析，来源分析，访问分析，转化分析，访客分析，优化分析。其中1.常用报告能添加自己所需的报告，导出格式是百度统计设定好的，pdforcsv。2.网站概况页面包含本网站的流量，趋势，关键词，来源等大致信息，显示在一个页面。
成名在望·2018-05-15 15:21

机器学习实战---k近邻算法

kNN算法具体描述可以参见李航的《统计学习方法》kNN算法的伪码过程如下：（1）计算已知类别数据集中的点与当前点之间的距离；（2）按照距离递增次序排序；（3）选取与当前点距离最小的k个点；（4）确定前k
圈圈9527·2018-05-15 00:00

基于pyhton3.6-机器学习实战-logistic回归代码解释

我主要给大家讲解代码，理论部分给大家推荐3本书：《机器学习实战中文版》《机器学习》周志华《统计学习方法》李航以上3本书，第一本是基于python2的代码实现；剩余两本主要作为第一本书理论省略部分的补充，
Lelouc_CC·2018-05-13 18:44

拉格朗日对偶问题（李航《统计学习方法》）

具体讲解可以去看李航的《统计学习方法》。首先给出一个原始问题，原始问题一般都是带约束条件的，第一步就是利用拉格朗日乘子将原始问题转化为无约束最优化问题。
竹风94·2018-05-12 16:56

《统计学习方法》学习之二：kd树

（具体内容可以参考李航《统计学习方法》一书）。二、代码实现  这里实现二维平面上的kd树，可以类推到n维特征空间。
子为空·2018-05-08 23:19

《统计学习方法》学习之二：kd树

（具体内容可以参考李航《统计学习方法》一书）。二、代码实现  这里实现二维平面上的kd树，可以类推到n维特征空间。
子为空·2018-05-08 23:19

《统计学习方法》学习之一：感知机

（具体内容可以参考李航《统计学习方法》一书）。
子为空·2018-05-07 20:23

《统计学习方法》学习之一：感知机

（具体内容可以参考李航《统计学习方法》一书）。
子为空·2018-05-07 20:23

机器学习中的隐变量和隐变量模型

开篇这篇博客算我自己给自己挖的一个坑，主要想讲讲机器学习中的隐变量，今天在推导EM算法，李航在统计学习方法中的EM引入中提到了隐变量的概念（latentvariable），他提到了如果我们的概率模型的变量都是观测到的变量
Ding_xiaofei·2018-05-05 16:55

机器学习中的隐变量和隐变量模型

开篇这篇博客算我自己给自己挖的一个坑，主要想讲讲机器学习中的隐变量，今天在推导EM算法，李航在统计学习方法中的EM引入中提到了隐变量的概念（latentvariable），他提到了如果我们的概率模型的变量都是观测到的变量
Ding_xiaofei·2018-05-05 16:55

logistic回归详解(二）：损失函数（cost function）详解 - CSDN博客

再加上一个偏置项x0,则每个样本包含n+1维特征：x=[x0,x1,x2,⋯,xn]T其中x∈Rn+1,x0=1,y∈{0,1}李航博士在统计
·2018-04-29 10:00

概率图之隐马尔科夫模型- - -1（Demo）

一概念这里的例子出自李航著的《统计学习方法》，有兴趣的同学可以去读一下。
秋秋小事·2018-04-28 11:19

机器学习中常见算法推导总结

本博客基于周志华老师《机器学习》、IanGoodfellow《DeepLearning》、李航老师《统计学习方法》以及网上部分资料，为自己的学习笔记、总结以及备忘录，由于本人刚入门，欢迎大家指出错误。
萝大大大大卜·2018-04-24 22:20

李航《统计学习方法》第二章-感知机的python实现

重点：感知机是一种二类分类的线性分类模型，属于判别模型。感知机对应于特征空间中的分离超平面w*x+b=0损失函数：误分类点到分离超平面的总距离。学习算法：随机梯度下降法。有原始和对偶两种形式。当训练数据线性可分时，感知机学习算法存在无穷多解，其解由不同初值和迭代顺序而可能不同。实现代码：importnumpyasnpimportmatplotlib.pyplotaspltp_x=np.array(
沙丁鱼鱼鱼·2018-04-17 21:29

机器学习实战之Adaboost之机器学习作业记录（三）

好久没更新作业了，，，主要是李航统计学习方法的第八章，准确率80%总感觉不对，先记录到这，，，其中关于概念的理解参考了以下博客，觉得对我很有帮助，记录一下：1234这篇尤其这篇还有这篇这篇这篇这篇这篇这篇这篇然后我的代码放在这里啦
哈哈哈哈士奇VIP·2018-04-15 00:00

SVM个人总结

：目标：寻求几何间隔最大化平面单位化函数间隔引入拉格朗日函数SMO算法PS：由于公式编辑比较麻烦，所以采用了手写的方式参考资料：《机器学习》-周志华                 《统计学习方法》-李航
dt_lizhen·2018-04-13 10:01

工匠精神

开源项目经验基础理论数据结构数据库计算机网络操作系统软件工程算法应用理论机器学习分布式计算并行计算工具追热点Tensorflow，Hadoop/Spark，XGBoost，区块链场景计算广告～算法的三重境界1.跑模型2.选模型、改模型3.制定目标函数掌握内容李航
熊孩子是我·2018-04-01 23:01

逻辑回归模型（一）——数学模型

学习李航的《统计学习算法》,今天周三，这周任务之一完成逻辑回归模型的博文记录。逻辑回归（LogisticRegression）属于分类方法（classification）。
Amy_mm·2018-03-29 17:16

逻辑回归模型（一）——数学模型

学习李航的《统计学习算法》,今天周三，这周任务之一完成逻辑回归模型的博文记录。逻辑回归（LogisticRegression）属于分类方法（classification）。
Amy_mm·2018-03-29 17:16
上一页 24 25 26 27 28 29 30 31 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他