E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
李航统计学习笔记
李航
-机器学习-感知机(perceptron)-原始形式
机器学习-感知机(perceptron)感知机模型感知机模型感知机学习策略感知机算法实现代码实现运行程序可得运行程序感知机模型感知机是一种线性的、二类分类模型,可以将空间划分为正类和负类,是一种判别模型,输入为具体的实例,输出为实例的类别(+1,-1)。有原始形式和对偶形式两种。感知机是神经网络和支持向量机的基础。感知机预测是利用学习到的模型对输入实例进行类别的划分。由输入空间到输出空间有如下函数
小瓜皮小
·
2018-10-14 12:23
机器学习
统计学习方法
感知器算法对偶形式实现
感知器算法对偶形式学习策略详见
李航
《统计学习方法》原始形式与对偶形式二者区别梯度下降:一次将误分类集合中所有误分类点的梯度下降;----对偶形式随机梯度下降:随机选取一个误分类点使其梯度下降;----原始形式代码如下
沪a_________
·
2018-10-10 16:34
李航
统计学习之感知机及Python实现
前言最近开始学习
李航
的《统计学习方法》,作为模式识别学科的学生,感觉有必要把一些经典的machinelearningmethod用python实现一边,有利于加强对机器学习算法的理解。
SoyCoder
·
2018-10-05 20:05
机器学习
统计学习方法例2.1实现(转)
对应
李航
《统计学习方法》P29的例2.1#-*-coding:utf-8-*-importsysreload(sys)sys.setdefaultencoding('utf-8')#@Author:appleyuchi
李固言
·
2018-10-02 21:03
机器学习算法
李航
第一章课后习题答案
1.1统计学习方法的三要素是模型、策略、算法。伯努利模型是定义在取值为0与1的随机变量上的概率分布。假设观测到伯努利模型n次独立的数据生成结果,假定事件为A,其中“有k次实验”的数值结果为1(这里不是概率值),这时可以用极大似然估计或贝叶斯估计来估计事件A=1的概率。注意:这里的n和k都是常数。并且这k次的顺序也是固定的,所以不需要在后面计算的时候考虑组合数统计学分为两派:经典统计学派和贝叶斯统计
李固言
·
2018-10-02 19:24
机器学习算法
李航
统计学习方法之感知机学习(含感知机原始形式和对偶形式Python代码实现)
感知机感知机基本介绍感知机是一个线性二分模型,输出取值为{-1,1}。是判别模型。感知机是为了求解一个超平面,该超平面能够将特征空间里的实例分解为正例和负例。设超平面方程为y=w*x+b,因此,引入基于误分类点的损失函数。如果损失函数为误分类点个数,则该损失函数不是w和b的连续可导函数,不利于优化。我们考虑另一个选择:误分类点距离该超平面的距离。假设空间任意一点(x0,y0)(x_0,y_0)(x
禅心001
·
2018-09-30 17:18
python
感知机对偶形式手算过程
李航
《统计学习方法》第二章手算过程开始符号说明:(A,B)表示A与B的内积首先都是0,因为每个都没有误分,因此,所以这就是表2.2的第一列接着,就是进入迭代过程,首先计算第一个点那么就出现误分类,则此时
bingfeiqiji
·
2018-09-28 11:18
【机器学习】:决策树
参考文献[1].
李航
.《统计学习方法》[2].周志华.《机器学习》[3].https://blog.csdn.net/zhengzhenxian/article/details/79083643
BQW_
·
2018-09-27 21:37
机器学习原理及实践
机器学习原理及实现
统计学习笔记
6—逻辑斯谛回归与最大熵模型
第六章逻辑斯谛回归与最大熵模型6.1逻辑斯谛回归模型6.1.1逻辑斯谛分布6.1.2二项逻辑斯谛回归模型模型定义:将b加入到内积中:几率定义:该事件发生的概率与不发生的概率的比值。则逻辑斯谛回归的几率为:6.1.3模型参数估计模型参数w估计:极大似然估计求解过程:6.1.4多项逻辑斯谛回归6.2最大熵模型6.2.1最大熵原理鸡蛋篮子原理:在信息未知的条件下,等可能概率,即熵最大。6.2.2最大熵模
DMU_lzq1996
·
2018-09-24 11:05
统计学习笔记
统计学习笔记
4—朴素贝叶斯法
第四章朴素贝叶斯法4.1朴素贝叶斯法的学习与分类4.1.1基本方法朴素贝叶斯法通过训练数据集学习联合概率分布。利用先验概率分布和条件概率分布求得联合概率分布:条件概率参数是指数级,太复杂—条件独立性假设:用于分类的特征在类确定的条件下是独立的。朴素贝叶斯分类器:4.1.2后验概率最大化的含义朴素贝叶斯法就是将实例分到后验概率最大的类中。因此期望风险最小化就是后验概率最大化:4.2朴素贝叶斯法的参数
DMU_lzq1996
·
2018-09-22 10:22
统计学习笔记
统计学习笔记
3—K-近邻
第三章k-近邻法k-近邻法实质是对于新的实例,根据最邻近的训练实例的类别,通过多数表决的方式进行预测。而k-近邻法的学习过程实质是利用训练数据集对特征空间进行划分。k-近邻法的三个要素:k值选择,距离度量和分类决策。3.1k-近邻算法直观解释:在训练数据集中找到距离输入实例最近的k个点,根据这k个点来判断实例类别。算法过程:3.2k近邻模型3.2.1模型k近邻模型是指对特征空间的划分,模型三要素:
DMU_lzq1996
·
2018-09-21 10:41
统计学习笔记
白话多项式拟合
数学推导过程参考于:
李航
《统计学习方法》多项式函数拟合问题V2https://blog.csdn.net/xiaolewennofollow/article/details/46757657《统计学习方法
Yanring_
·
2018-09-20 16:08
KNN算法实现
前提基础:KNN基本原理,本文参考
李航
博士著《统计学习方法》距离度量方式欧式距离曼哈顿距离夹角余弦切比雪夫距离马氏距离k值的选择算法优缺点优点:精度高、对异常值不敏感、无数据输入假定;缺点:计算复杂度高
沪a_________
·
2018-09-16 18:08
聚类——GMM
聚类——认识GMM算法作者:凯鲁嘎吉-博客园http://www.cnblogs.com/kailugaji/一、GMM概述二、GMM算法步骤三、具体推导参考文献1.
李航
.统计学习方法[M].清华大学出版社
凯鲁嘎吉
·
2018-09-14 19:00
【统计学习方法-
李航
-笔记总结】一、统计学习方法概述
看
李航
老师的书有感,做做笔记以便后续查阅,也方便同道中的大佬们参考~本部分包括:1.统计学习概述2.统计学习三要素3.模型的评估与选择4.分类问题、标注问题与回归问题1.统计学习概述(1)概念:统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测分析的学科
zl3090
·
2018-09-13 10:03
机器学习
感知机算法实现
感知机学习策略详见
李航
《统计学习方法》感知机算法的收敛性:代码如下:importpandasaspdimportrandomimporttimefromsklearn.cross_validationimporttrain_test_splitfromsklearn.metricsimportaccuracy_scoreclassPerceptron
沪a_________
·
2018-09-06 17:57
支持向量机详解
所以这篇笔记既不敢删教材的内容,也不敢加以发挥,只是将
李航
老师的教材搬运过来,按
李航
老师的博客上的勘误表修正了两个错误,用括号
Aaron1220
·
2018-09-04 09:51
机器学习
线性条件随机场代码解读
1.线性CRF简介1.1一般形式 关于线性条件随机场的详细介绍,请参考
李航
老师的《统计学习方法》或者这里,这里仅仅给出一般的公式定义。
玩人
·
2018-09-03 21:56
Python
数据挖掘与机器学习
NLP
决策树ID3和C4.5算法实现
前提基础:决策树基本原理,本文参考
李航
博士著《统计学习方法》熵的概念信息增益信息增益比:可以修正信息增益来划分训练数据集时,存在偏向选择取值较多的特征的问题。
沪a_________
·
2018-08-28 15:20
决策树的信息增益率解决的信息增益熵的bug
这个例子是
李航
博士统计统计学习方法的例子,博客的内容是按照自己的理解做一个计算的过程的记录。
Chen_Meng_
·
2018-08-26 21:07
ML
j
从零到一 | 14本书人工智能入门必备书单(附PDF链接)
一、机器学习篇在机器学习上,首先要推荐的是两部国内作者的著作:
李航
博士所著的《统计学习方法》周志华教授的《机器学习》《统计学习方法》采用“总-分-总”的结构,在梳理了统计学习的基本概念后,系统而全面地介绍了统计学习中的
enohtzvqijxo00atz3y8
·
2018-08-22 00:00
《统计学习方法》
李航
著 第一章读书笔记
有一个公众号叫“夕小瑶的卖萌屋”,这位公众号推荐说
李航
的《统计学习方法》是一门基础课。因此我从网上找了找资源,着手去看了。觉得写得确实很棒。
bingfeiqiji
·
2018-08-20 21:25
数据科学个人笔记:集成方法简单总结
周志华老师《机器学习》+
李航
老师《统计学习方法》学习笔记(一)AdaBoost1.Adaboost使用n个弱分类器的结果进行加权,求出的结果即作为预测结果。
humothetrader
·
2018-08-20 17:18
近期数据挖掘学习_计划安排及相关资料(定期更新)
理论学习学习主线1.机器学习统计学习方法(
李航
)机器学习(周志华)机器学习笔记(吴恩达)Scikit-Learn文档2.统计学复习深入浅出统计学statistics_for_business__economics_by_anderson
Datawhale
·
2018-08-20 11:57
数据挖掘
方法论
专题学习
近期数据挖掘学习_计划安排及相关资料(定期更新)
理论学习学习主线1.机器学习统计学习方法(
李航
)机器学习(周志华)机器学习笔记(吴恩达)Scikit-Learn文档2.统计学复习深入浅出统计学statistics_for_business__economics_by_anderson
Datawhale
·
2018-08-20 11:57
数据挖掘
方法论
专题学习
感知机算法的收敛证明,详细
推荐大家一本
李航
教授写的《统计学习》写的很通俗,本文也是对该书相应部分进行详细备注的。
weixin_41911765
·
2018-08-18 21:57
机器学习
感知机
决策树—分类
[例](来自:
李航
《统计
归去_来兮
·
2018-08-16 16:32
机器学习
机器学习笔记
TensorFlow技术解析与实战 勘误
这本书号称
李航
等倾力推荐,作者还曾在百度工作过,说实话实在不敢恭维。不过序中也能看出端倪,她之前是做后端开发的,之前根本没有相关经验(算了,又看了下知乎,本科是学医学的!!!
迷若烟雨
·
2018-08-14 10:34
深度学习
李航
的十种统计学习方法总结
10种统计学习方法总结方法适用问题模型特点模型类型学习策略学习的损失函数学习算法感知机二分类分离超平面判别模型极小化误分点到超平面距离误分点到超平面距离随机梯度下降k近邻多分类、回归特征空间、样本点判别模型K-NN不具有显式的学习过程朴素贝叶斯法多分类特征与类别的联合概率分布、条件独立假设生成模型极大似然估计、极大后验估计对数似然损失概率计算公式、EM算法决策树多分类、回归分类树、回归树判别模型正
GladyoUcaMe
·
2018-08-13 23:45
总结
Hadoop伪分布式运行案例
此外目前我在gitHub上准备一些
李航
的《统计学习方法》的实现算法,目标将书内算法全部手打实现,欢迎参观并打星。
Dod_o_
·
2018-08-13 17:54
大数据类
第一章 统计学习方法概论
ClassContentlayoutposttitle第一章统计学习方法概论categoriesCoursedescription:
李航
《统计学习方法》的学习,主要介绍基本概念,详细叙述了监督学习,提出统计学习的三要素
Wendy_毛毛虫
·
2018-08-13 16:26
ML
NLP-自然语言处理入门(持续更新)
NLP-自然语言处理入门1.书籍-理论篇吴军老师的的《数学之美》《统计自然语言处理(第2版)》(宗成庆)蓝皮版《统计学习方法》(
李航
)《自然语言处理简明教程》(冯志伟)《自然语言处理综论》(DanielJurafsky
苏叶biu
·
2018-08-13 00:24
NPL自然语言处理
linux IP类常用命令
此外目前我在gitHub上准备一些
李航
的《统计学习方法》的实现算法,目标将书内算法全部手打实现,欢迎参观并打星。
Dod_o_
·
2018-08-12 14:23
linux基础
《
李航
统计学习方法》——第一章
统计学习方法第一章:统计学习方法概率1.1统计学习统计学习(statisticallearning)是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,统计学习也称为统计机器学习(statisticalmachinelearning)。1.2监督学习监督学习(supervisedlearning)即在机械学习过程中提供对错指示。一般实在是数据组中包含最终结果(0,1)。通
GoLee丶
·
2018-08-10 20:23
机器学习
机器学习书单及相关PDF下载
原文链接书单机器学习书单│——
李航
.统计学习方法.pdf│机器学习及其应用.pdf│AllofStatistics-AConciseCourseinStatisticalInference-LarryWasserman-Springer.pdf
Datawhale
·
2018-08-10 14:47
关于希尔伯特空间
阅读
李航
博士的《统计学习方法》,非线性支持向量机中关于核技巧的知识中说:核技巧应用到支持向量机,其基本想法就是通过一个非线性变换将输入空间(欧式空间R^{n}或离散集合)对应于一个特征空间(希尔伯特空间
柳小鸣要加油
·
2018-08-09 17:44
机器学习入门之线性回归算法推导
关于机器学习的参考书,周志华的机器学习,
李航
的统计学习方法,及国外的PRML都是不错的阅读材料。还有Andre
Eleven-Yao
·
2018-07-30 20:52
机器学习
2018.7.23-7.28周检视
核心1群21组
李航
本周工作方面本职工作全部完成番茄工作法图片发自App知识星球按时早睡早起运动打卡,做好伙伴的打卡记录工作本月读书五本,但没有做好思维导图图片发自App运动图片发自App本周完成不好的是
迎风奔跑2021
·
2018-07-29 14:52
NLP大神推荐的机器学习入门书单(附大量百度网盘电子书)
ML书单│
李航
.统计学习方法.pdf│机器学习及其应用.pdf│AllofStatistics-AConciseCourseinStatisticalIn
墨飏韶年
·
2018-07-27 15:24
ML
专栏 |
李航
教授展望自然语言对话领域:现状与未来
来源:机器之心摘要:原华为诺亚方舟实验室主任、现已加入字节跳动AILab的
李航
教授近日发表博客,对自然语言对话领域的现状和最新进展进行总结,并展望了未来的走向。
人工智能学家
·
2018-07-26 23:03
李航
教授展望自然语言对话领域:现状与未来
原华为诺亚方舟实验室主任、现已加入字节跳动AILab的
李航
教授近日发表博客,对自然语言对话领域的现状和最新进展进行总结,并展望了未来的走向。
机器之心V
·
2018-07-26 04:00
机器学习实战笔记(三)朴素贝叶斯分类
暑假期间,总结一下以前学过的知识,如有错误,还请指导.本系列皆是基于<机器学习实战>、
李航
的<统计学习方法>以及<西瓜书>所记的一些笔记先提一个最简单的例子:现在用p1(x,y)表示数据点(x,y)属于类别
hjxu2016
·
2018-07-23 00:00
机器学习实战
数据竞赛要点
视频链接:从0-1的数据竞赛经验分享0所需能力0.1工具语言:Python库:Pandas,Numpy,Sklearn,Scipy,Seaborn,Keras,Xgboost,Lightgbm0.2参考书籍
李航
磕到脑
·
2018-07-16 15:09
数据分析
Logistic回归算法理解之从模型到损失函数、参数求解、预测
李航
博士统计学习方法一书中,有以下描述:统计学习方法都是由模型,策略,和算法构成的,即统计学习方法由三要素构成,可以简单表示为:对于logistic回归来说,模型自然就是logistic回归,策略最常用的方法是用一个损失函数
hahaha_2017
·
2018-07-16 15:11
机器学习
【蓝皮书系列】朴素贝叶斯
李航
的蓝皮书《统计学习方法》,可谓是机器学习的中文经典。其中所设计的一些算法,是机器学习的基础。这篇博文将要讲述蓝皮书中的第四章朴素贝叶斯法。
脑荼地
·
2018-07-13 13:25
蓝皮书系列
牛刀小试利使用Python利用维特比算法解决经典隐马尔科夫链问题
以下是解决
李航
的《统计学习方法》中例10.2(盒子和彩球问题)的Python代码实现。Csdn对Word文档编辑的矩阵显示支持得不太好,算法思路请通过以下链接下载查看。
kaiwii
·
2018-07-11 17:00
机器学习
大数据分析
弱监督学习综述
专题内容还包括对AAAI前主席TomDietterich的访谈,徐宗本院士、杨强教授、朱军博士、
李航
博士、张坤博士和BernhardScholkopf等人的精彩文章。本文是对周志华教授所写的《
TTdreamloong
·
2018-07-10 20:41
深度学习
Kaggle:入门赛Tatanic(泰坦尼克号)84.21%带你冲进前2%
Kaggle:入门赛Tatanic(泰坦尼克号)84.21%带你冲进前2%0.前言可能你和我一样是机器学习的入门者,或许看过吴恩达老师的课,或许看过
李航
的《统计方法》,或许看过周志华的《机器学习》。
Bidlin
·
2018-07-10 00:38
机器学习
Kaggle入门赛
算法入门赛
机器学习实战笔记(一)K近邻算法
趁着暑假的档期,总结一下机器学习的一些算法,如有表达不清,或者错误的地方,欢迎指导.本篇是基于<机器学习实战>并参考<西瓜书>以及
李航
的<统计机器学习>这三本书所记的笔记,所有代码均是由python缩写
hjxu2016
·
2018-07-10 00:00
机器学习实战
监督学习——通用线性模型
在监督学习这个概念上,我选择以
李航
老师的统计学习方法中的定义作为标准,监督学习(supervisedlearning)的任务是一个学习模型,使模型能够对任意给定的输入,对其相应的输出做出一个好的预测(注意
Guangzhan
·
2018-07-06 09:51
机器学习
上一页
23
24
25
26
27
28
29
30
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他