E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
李航
李航
机器学习 | (3) 统计学习方法(第2版)笔记 --- 感知机习题与编程作业
1.Minsky与Papert指出:感知机是线性模型,所以不能表示复杂的函数,如异或(XOR).验证感知机为什么不能表示异或。首先写出异或函数对应的输入输出:y11-11-1+1-11+1-1-1-1我们可以可视化上述实例及其标签:importnumpyasnpimportmatplotlib.pyplotaspltx=np.array([[1,1],[1,-1],[-1,1],[-1,-1]])
CoreJT
·
2020-08-17 14:37
李航机器学习
机器学习 (南京大学周志华的《机器学习》和
李航
的《统计学习方法》)
机器学习的三种不同方法:一、监督学习(supervisedlearning)——对未来事件进行预测。使用有类标的数据构建数据模型。然后使用经训练得到的模型对未来的数据进行预测。主要分为两类:1.利用分类对类标进行预测2.使用回归预测连续输出值二、无监督学习(unsupervisedlearning)——发现数据本身潜在的结构。分为两类:1.通过聚类发现数据的子群2.数据压缩中的降维三、强化学习(r
黑夜的幽灵
·
2020-08-17 14:34
统计学习方法-
李航
(2)
统计学习方法-
李航
(第一章2)如何对经验风险进行矫正经验风险最小化(ERM)缺点结构风险最小化极大似然估计和贝叶斯估计(PR)极大似然估计贝叶斯估计如何对经验风险进行矫正在现实中,由于训练样本数目有限,
萌即正义Zitrone
·
2020-08-17 14:52
统计学习方法-李航
统计学习方法——实践
看书结合python实现的博客学习:
李航
《统计学习方法》第二章——用Python实现感知器模型(MNIST数据集)
李航
《统计学习方法》第三章——用Python实现KNN算法(MNIST数据集)
李航
《统计学习方法
黑人子敬
·
2020-08-17 13:44
人工智能
李航
《统计学习方法》第二章习题和笔记
李航
《统计学习方法》第二章习题和笔记感知机模型点到平面公式的推导两种思路习题感知机模型模型:f(x)=sign(w⃗⋅x⃗+b)f(x)={\rmsign}(\vecw\cdot\vecx+b)f(x)
赶只鸡
·
2020-08-17 13:41
统计学习
机器学习的学习路线
[plain]viewplaincopyML书单│
李航
.统计学习方法.pdf│机器学习及其应用.pdf│AllofStatistics-AConciseC
Computer_Elearning
·
2020-08-17 13:17
机器学习
统计学习方法
李航
---第2章 感知机
第2章感知机感知机(perceptron)是二类分类的线性分类模型,其输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。感知机学习旨在求出将训练数据进行线性划分的分离超平面,为此,导入基于误分类的损失函数,利用梯度下降法对损失函数进行极小化求得感知机模型。2.1感知机模型定义(感知机):假设输入空间(特征空间
dazhichang6061
·
2020-08-17 12:08
统计学习方法——第1章 统计学习及监督学习概论
简介本系列博客的主要学习资料为由清华大学出版,
李航
编写的《统计学习方法(第2版)》。希望本系列的博客内容能够帮助初学者加深理解。本系列博客完全按照《统计学习方法》的编排顺序书写。
Gao_YanTai
·
2020-08-17 11:59
统计学习方法
李航
统计学习方法(第二版)第二章 感知机学习笔记【实战篇】
感知机学习笔记【实战篇】原始形式对偶形式原始形式本节用
李航
大大第二版统计学习方法中的例题作为例子来进行学习与编码。
禅心001
·
2020-08-17 11:38
机器学习
李航
《统计学习方法》第二版-第1章 统计学习及监督学习概论1.1-1.2 浅见
李航
《统计学习方法》第二版-第1章统计学习及监督学习概论1.1-1.2浅见目的第一章统计学习及监督学习概论1.1统计学习统计学习是什么,做什么的统计学习的对象统计学习的目的统计学习的方法1.2统计学习的分类基本分类监督学习输入空间
王伟王胖胖
·
2020-08-17 10:48
李航
统计学习方法
第二版
浅见
机器学习
李航
第二章课后习题
原文在我的个人博客上,欢迎叨扰。2.1**题目描述:**Minsky和Papert指出:感知机是线性模型,所以不能表示复杂的函数。如异或(XOR),验证感知机为什么不能表示异或。解:异或的输入输出如下:x(1)x(2)y11-11-11-111-1-1-1接下来我们简单证明一下异或操作的线性不可分性:证:利用反证法,假设存在一个超平面wx+b=0,满足条件:y(w⋅x+b)>0∀x∈{(1,1)T
sanmaopep
·
2020-08-17 10:51
机器学习
《统计学习方法》学习笔记
最近把
李航
的《统计学习方法》看完了,感觉很不错,从概论到各个统计方法,由易到难层层推进,每个方法都有详尽的数学公式推倒,感觉很适合有一定数学功底的人作为机器学习入门来看。
ArthurYang
·
2020-08-17 10:46
NLP
统计学习方法 (
李航
第2版)
文章目录第1篇监督学习第1章:统计学习及监督学习概论第2章:感知机第3章:k近邻法第4章:朴素贝叶斯法第5章:决策树第6章:逻辑斯谛回归与最大熵模型第7章:支持向量机第8章:提升方法第9章:EM算法及推广第10章:隐马尔可夫模型第11章:条件随机场第12章:监督学习方法总结第2篇:无监督学习第13章:无监督学习概论第14章:聚类方法第15章:奇异值分解第16章:主成分分析第17章:潜在语义分析第1
TooSIMple_
·
2020-08-17 10:51
统计学习方法
【读书笔记】
李航
统计学习方法 第一章 统计学习与监督学习概论(上)
文章目录第一章统计学习与监督学习概论(上)1.1统计学习1.2统计学习的分类1.基本分类2.按模型分类3.按算法分类4.按技巧分类1.3统计学习方法三要素第一章统计学习与监督学习概论(上)1.1统计学习1)首先要明确:统计学习=机器学习(基本不做区分)2)统计学习关于数据的基本假设是同类数据具有一定的统计规律性,这是统计学习的前提。【说明】这只是一个假设,在实际应用中并不尽然,所以才有了Domai
司马平雋
·
2020-08-17 10:13
【用python实现《统计学习方法》】之感知机(perceptron)
声明:首先非常感谢
李航
博士和这篇博文的博主。本文的理论部分主要参考
李航
博士的《统计学习方法》,而代码实现部分则是在上述的博文基础上完成,并新增了对偶形式的感知机的python实现。
肖橘猫
·
2020-08-17 02:51
机器学习
机器学习学习笔记—正则化的理解
这几天在学习
李航
的统计学习方法,来谈谈我对于机器学习中正则化的理解:什么是正则化如何理解正则化正则化的作用第一个问题,什么是正则化?
Harrytsz
·
2020-08-16 23:05
机器学习
复现经典:《统计学习方法》第 8 章 提升方法
本文是
李航
老师的《统计学习方法》[1]一书的代码复现。作者:黄海广[2]备注:代码都可以在github[3]中下载。我将陆续将代码发布在公众号“机器学习初学者”,敬请关注。
风度78
·
2020-08-16 10:09
机器学习02决策树模型
1、什么是决策树参考
李航
老师的《统计学习方法》中对决策树的定义:分类决策树模型是一种描述对实例进行分类的属性结构。决策树有结点(node)和有向边(direcetededge)组成。
灰色小站
·
2020-08-16 09:47
机器学习
决策树与R语言(RPART)
关于决策树理论方面的介绍,
李航
的《统计机器学习》第五章有很好的讲解。
tarim
·
2020-08-16 08:04
机器学习三要素
Title:机器学习三要素category:机器学习tags:CS机器学习人工智能深度学习summary:统计机器学习三要素,模型+策略+算法,主要出自
李航
的《统计学习方法》致谢模型损失函数总结策略总结算法广告深度学习目录链接本文完整版链接致谢本文来自以下内容
sndnyangd
·
2020-08-16 01:16
机器学习
成长记录
学习
MOOC
复现经典:《统计学习方法》第18章 概率潜在语义分析
第18章概率潜在语义分析本文是
李航
老师的《统计学习方法》一书的代码复现。作者:黄海广备注:代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”,可以在这个专辑在线阅读。
风度78
·
2020-08-15 14:30
Google Brain 研究员梁辰:从零开始搜索机器学习算法(附视频、PPT)
AutoML-Zero团队核心成员梁辰做了题为《AutoML-Zero:EvolvingMachineLearningAlgorithmsfromScratch》的学术报告,并和特约嘉宾、字节跳动人工智能实验室总监
李航
进行了对话
BAAIBeijing
·
2020-08-15 05:17
隐马尔科夫模型(Hidden Markov Model,HMM)
https://blog.csdn.net/shibing624/article/details/52399235前言在
李航
的《统计学方法》第十章有对隐马尔
leichangqing
·
2020-08-14 17:12
机器学习算法
前向后向算法
https://blog.csdn.net/Hearthougan/article/details/77930786本文是自己学习隐马尔科夫模型的一个总结,为了自己以后方便查阅,也算作是
李航
老师的《统计学习方法
lgb_love
·
2020-08-14 07:28
机器学习
单层感知机(Single Layer Perceptron)原理及Matlab实现
单层感知机(SingleLayerPerceptron)原理及Matlab实现前言单层感知机学习策略损失函数的构造损失函数的最优化求解matlab实现动态可视化过程前言本文参考
李航
老师的《统计学习方法》
顧辰
·
2020-08-13 22:43
深度学习
机器学习
《统计学习方法(第二版)》
李航
读书笔记 (4)第一章习题手写解答 伯努利模型的极大似然估计和贝叶斯估计;通过经验风险最小化推导极大似然估计
《统计学习方法(第二版)》
李航
读书笔记(4)第一章习题手写解答伯努利模型的极大似然估计和贝叶斯估计;通过经验风险最小化推导极大似然估计监督学习方法又可以分为生成方法(generativeapproach
THU丶白起
·
2020-08-13 22:39
《统计学习方法(第二版)》李航
读书笔记
李航
《统计学习方法》第一章 机器学习三要素
chapter1统计学习方法概论统计学习三要素model模型假设空间决策函数的集合f={f|Y=f(X)}参数空间/thetastrategy策略:1)如何选择模型?考量:i.损失函数e.g.如果是Squareloss,那就是最小二乘了;如果是HingeLoss,那就是著名的SVM了;如果是exp-Loss,那就是牛逼的Boosting了;如果是log-Loss,那就是LogisticRegres
cutie吖
·
2020-08-13 14:17
读书笔记
统计学习方法
李航
第一章习题
推荐一下个人博客1.1说明伯努利模型的极大似然估计以及贝叶斯估计中的统计学习方法三要素。伯努利模型是定义在取值为0和1的随机变量上的概率分布。假设观测到的伯努利模型n次独立数据生成结果,其中k次的结果为1,这时可以用极大似然估计或贝叶斯估计来估计结果为1的概率。用极大似然估计L(θ)=f(x_1,x_2,...x_n|θ)=Ck_nθ_k(1−θ)n−k直接求一阶导数另其等于零k⋅θk−1(1−θ
variations
·
2020-08-13 13:07
机器学习
感知机模型
最近在重新看
李航
的统计学习方法,总结下每章的内容,并使用python复现。
_木_易
·
2020-08-12 17:01
机器学习
机器学习
【学习笔记】【统计学习方法】第0章——引言
学习教材这里学习的教材采用《统计学习方法(第2版)》,作者为
李航
,出版社为清华大学出版社。
葑鈊丶
·
2020-08-12 12:43
#
统计学习方法
李航
博士:浅谈我对机器学习的理解
原文http://www.36dsj.com/archives/21024
李航
博士,华为技术有限公司诺亚方舟实验室首席科学家算算时间,从开始到现在,做机器学习算法也将近八个月了。
rokia_xmu
·
2020-08-11 23:16
机器学习
【机器学习】模型评估与选择
内容大多来自统计学习方法——
李航
机器学习——周志华1.统计学习三要素 统计学习方法都是有模型、策略和算法构成的,也就是统计学习方法由三要素构成,可以简单地表示为:方法=模型+策略+算法方法=模型+策略
S大幕
·
2020-08-11 22:30
机器学习
机器学习 — AdaBoost算法(手稿+代码)
见:《统计学习方法》
李航
大大1.3算法误差界的证明注释:误差的上界限由Zm约束
weixin_34308389
·
2020-08-11 20:15
一文囊括
李航
《统计学习方法》几乎所有的知识点!
如果大家对机器学习算法有所涉猎的话,想必你一定看过《统计学习方法》这本书,里面介绍了统计学中的一些基本算法和知识点,本文进行了详细的总结。如果大家对机器学习算法有所涉猎的话,想必你一定看过《统计学习方法》这本书,里面介绍了统计学中的一些基本算法和知识点,本文进行了详细的总结。转载来源公众号:机器学习算法与自然语言处理“阅读本文大概需要19分钟。”阅读目录:1.知识点2.感知机3.k近邻法4.朴素贝
VIP_CQCRE
·
2020-08-11 15:03
机器学习算法中关于朴素贝叶斯代码详细注释
K-近邻算法和决策树算法容易理解,但从朴素贝叶斯开始,机器学习书中关于算法来历及证明几乎没有,很多都涉及到统计概论的知识,推荐
李航
老师的《统计学习方法》,清华大学出版社,里面有关于机器学习的很多算法原理
IT奶牛
·
2020-08-11 13:06
机器学习实战-KNN 算法
最近开始看
李航
的《统计学习方法》,一段时间下来,虽然各种公式推导看起来吊的一B,但始终没有在头脑中形成一个画面。觉得还是边看边着手实现更好。选择了《机器学习实战》这本书配合来实现。
Fox1230
·
2020-08-11 10:27
机器学习
python
knn分类器
李航
老师《统计学习方法》的代码实现、课件、作业等相关资源的最全汇总
编辑|Will出品|字节AI
李航
:毕业于日本京都大学电气电子工程系,日本东京大学获得计算机科学博士学位。
风度78
·
2020-08-11 03:52
人工智能
机器学习
编程语言
数据挖掘
深度学习
逻辑斯蒂回归3 -- 最大熵模型之改进的迭代尺度法(IIS)
声明:1,本篇为个人对《2012.
李航
.统计学习方法.pdf》的学习总结,不得用作商用,欢迎转载,但请注明出处(即:本帖地址)。
血影雪梦
·
2020-08-10 11:52
机器学习
序列标注:Bi-LSTM + CRF
CRF相关资料推荐关于crf,我看了很多资料,这里推荐几个-英文的crftutorial-
李航
的统计学习方法这两个讲的很细,公式很多,很多新入坑的小白看了肯定一头雾水,这里推荐一个知乎大神的回答,通俗易懂
taoqick
·
2020-08-10 01:12
算法
机器学习
隐马尔可夫模型hidden Markov model
本文是《统计学习方法》
李航
著学习笔记。为了叙述方便,将hiddenMarkovmodel简称HMM。
Young_win
·
2020-08-09 20:59
算法原理
经验条件熵公式的推导
李航
《统计学习方法》中,P62页公式5.8:计算特征A对数据集D的经验条件熵:此处,给出条件熵()的定义:X给定条件下Y的条件概率分布的熵对X的数学期望:在书中P61页下方给出了各类的定义:设训练数据集为
Yokate
·
2020-08-09 03:32
机器学习:sklearn数据集与机器学习组成
我们就可以将这样的表示和
李航
老师的说法对应起来。机器学习主要是由三部分组成,即:表示(模型)、评价(策略)和优化(算法)。表示(或者称为:模型):Representation表示主要做的就是建模,故可
幸福清风
·
2020-08-09 03:38
机器学习
机器学习入门
自己写一个最简单的bootloader_jz2440
此外目前我在gitHub上准备一些
李航
的《统计学习方法》的实现算法,目标将书内算法全部手打实现,欢迎参观并打星。
Dod_o_
·
2020-08-08 17:14
2440学习路
boot相关
CART后剪枝理解
转载https://blog.csdn.net/zhengzhenxian/article/details/79083643最近也是要找工作,在看
李航
的《统计学方法》在决策树部分基本都能明白(可能我明白的的是错的
小小小小裴
·
2020-08-07 20:33
机器学习
资料整理(备用)
个人网页文章目录前言Python《利用Python进行数据分析·第2版》《Python机器学习及实践从零开始通往Kaggle竞赛之路》机器学习/深度学习《机器学习》周志华《统计学习方法》
李航
《深度学习》
橘子2048
·
2020-08-07 18:18
资料
感知机原理剖析笔记(如何理解感知机)——《统计学习方法》
李航
文章目录感知机感知机模型感知机学习策略感知机学习算法原始形式对偶形式感知机感知机(perceptron)是二分类的线性分类模型,输入为实例的特征向量,输出为实例的类别,取+1和-1二值。感知机对应于输入空间(特征空间)中将实例分为正负两类的分离超平面。属于判别模型。感知机的学习训练过程旨在寻找一个超平面,能够将实例进行线性划分,为此,我们要导入误分类的损失函数,利用随机梯度下降法对损失函数进行最小
野犬1998
·
2020-08-07 17:47
机器学习之决策树原理及其python实现
机器学习之决策树原理及代码实现写在前面决策树1.决策树的定义2.决策树我的理解特征选择信息增益信息增益比算法实现ID3算法C4.5算法CART决策树三种算法的对比写在前面这是我开始入坑的第一篇博客,全部内容基于我的理解和参考博客,参考书籍为
李航
的
cug_humoumou
·
2020-08-07 13:25
机器学习
李航
:未来若干年,AI 技术发展可能会进入平缓期
先后在NEC公司中央研究所、微软亚洲研究院、华为诺亚方舟实验室从事和领导AI技术研发,现任字节跳动人工智能实验室总监的
李航
,就是一位AI技术的坚实研究者和实践者。
算法与数学之美
·
2020-08-07 11:20
机器学习之决策树(Decision Tree)①——基本概念及思想
李航
《统计学习方法》中的介绍如何创建一颗决策树?特征选择启发式学习启发式构建决策树过程贪心指标与建树方法信息增益与决策树算法启发式学习的两个问题决策树的剪枝决策树模型优缺点参考什么是决策树?
门前大橋下丶
·
2020-08-07 11:17
统计学习笔记:感知机(perceptron)原理及C源码实现
相对来说感知机从原理或实现来说都较为简单,按照
李航
《统计学习方法》就可以实现,根据神经网络中的技巧,可对感知机进行优化,例如采用附加动量法进行权值、偏置的更新,防止训练陷入局部最小,关于这些我会在神经网络以及深度学习的内容中讲述
_Morris_
·
2020-08-06 10:45
上一页
10
11
12
13
14
15
16
17
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他