E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
李航统计学习方法
支持向量机(一)——线性可分支持向量机导出
笔者主要参考学习的是
李航
老师《
统计学习方法
(第二版)》[1]和周志华老师的西瓜书《机器学习》[2]。如有错误疏漏,烦请指正。如要转载,请联系笔者,
[email protected]
。
Herbert002
·
2020-06-18 19:39
【
统计学习方法
】第二章 感知机和课后习题
第二章感知机在学习一个模型的时候应该问:模型的适用条件要解决什么问题对应
统计学习方法
的三个要素,假设空间,策略,算法感知机要解决的问题是二分类问题,假设是数据是可分的。
刘大望
·
2020-06-15 21:02
统计学习方法
统计学习方法
11_条件随机场
真的好怕浪费了时间~《
统计学习方法
》这本书(第二版),大概在四月底就看个差不多了,半生不熟的好歹是通篇过了一遍,当然不止一遍,除了潜在狄利克雷分配。
十八线码农ing
·
2020-06-14 13:00
6.逻辑回归
逻辑回归是一种有监督的
统计学习方法
,主要用于对样本进行分类。不同的就是线性回归中,独立变量的系数解释十分明了,就是保持其他变量不变时,改变单个变量因变量的改变量。
Rinkong贝比
·
2020-06-14 04:00
《
统计学习方法
》—— 感知机原始形式、感知机对偶形式的python3代码实现(三)
前言在前两篇博客里面,我们分别介绍了感知机的原始形式和感知机的对偶形式。在这篇博客里面,我们将用python3对上述两种感知机算法进行实现。注意:本文参考了@akirameiao的博客内容。数据放在本文最后,直接复制进文本,保存为.txt格式,各位大佬自取。导入第三方库。importnumpyasnpimportpandasaspdimportmatplotlib.pyplotasplt导入数据,
wangxinRS
·
2020-06-12 21:09
机器学习
机器学习
李航
《
统计学习方法
》学习笔记-第一章-
统计学习方法
概论1
李航
《
统计学习方法
》学习笔记-第一章-
统计学习方法
概论导学与资源推荐数据与规律课件中推荐的资源机器学习概述机器学习定义理解机器学习应用机器学习的发展历程机器学习VS统计学习统计学习的方法按有无监督分类参考资源关于
李航
老师的
YirongChen
·
2020-06-12 00:46
数学知识
算法
统计学习方法
机器学习
学习笔记
人工智能
10_隐马尔可夫模型
本来该笔记是打算把《
统计学习方法
》这本书做详细的解读,起初面对书里大量的数学推导,感到非常恐惧。假期“空窗”时间不少,才有了细嚼慢咽学习的机会。
十八线码农ing
·
2020-06-09 17:00
统计学习方法
---K-近邻(kd树实现)
https://blog.csdn.net/App_12062011/article/details/51986805一:kd树构建以二维平面点((x,y))的集合(2,3),(5,4),(9,6),(4,7),(8,1),(7,2)为例结合下图来说明k-dtree的构建过程。(一)构建步骤1.构建根节点时,此时的切分维度为(x),如上点集合在(x)维从小到大排序为:(2,3),(4,7),(5,
山上有风景
·
2020-06-06 13:00
08_提升方法_AdaBoost算法
GitHub:https://github.com/wangzycloud/statistical-learning-method提升方法引入提升方法是一种常用的
统计学习方法
,还是比较容易理解的。
十八线码农ing
·
2020-06-05 15:00
统计学习方法
---感知机模型
作业:一:感知机算法原始形式实现(一)伪代码(二)实现感知机算法classMyPerceptron:def__init__(self):#属性初始化self.w=Noneself.b=0self.l_rate=1deffit(self,X_train,y_train):globalhistory_w,history_b#保持w,b信息,方便一会绘制图像#根据X形状,设置wself.w=np.zer
山上有风景
·
2020-06-05 11:00
06_逻辑回归算法和最大熵模型
当然了放在一起肯定有
李航
老师的道理,最
十八线码农ing
·
2020-06-01 09:00
[
统计学习方法
笔记]第5章-决策树
决策树模型呈树状结构,是一种基本的分类与回归方法。在分类任务中,表示基于特征对实例进行分类的过程。特征选择特征选择在于选取对训练数据具有分类能力的特征,也就是决定用哪个特征来划分特征空间。一般特征选择的准则是信息增益或信息增益比。信息增益在介绍信息增益前,先了解一下熵以及条件熵的概念。熵熵表示随机变量不确定性的度量。设X表示一个取值有限的离散随机变量,其概率分布为:P(X=xi)=pi,i=1,2
huanghao10
·
2020-05-31 21:11
统计学习方法
02_感知机算法
把谷歌上收藏的书签整理了一遍,重新找出这本读了三分之一的《
统计学习方法
》,以及众多大佬的博客,那就用2020这年写写博客吧,算是找点事情做,
十八线码农ing
·
2020-05-28 23:00
《
李航
统计学习方法
》学习笔记——第九章EM算法及其推广
EM算法及其推广9.1EM算法9.1.1EM算法介绍9.1.2EM算法推导9.2EM算法的收敛性9.3EM算法在高斯混合模型学习下的应用9.3.1高斯混合模型GMM9.3.2高斯混合模型参数估计的EM算法9.4EM算法的推广9.4.1FFF函数的极大-极大算法9.4.2GEM算法习题9.1python实现习题9.2习题9.3python实现习题9.4混合贝叶斯模型参考9.1EM算法适用于无监督学习
eveiiii
·
2020-05-24 21:23
统计学习
算法
python
机器学习
人工智能
[
统计学习方法
笔记]第4章-朴素贝叶斯法
朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类模型。通过给定训练数据,学习输入x/输出y的联合概率分布P(x,y),然后用贝叶斯定理求出后验概率最大的输出y,作为预测结果。贝叶斯定理贝叶斯定理是关于随机事件A和B发生的条件概率,P(B|A)是在A发生的情况下B发生的可能性。定理简化版如下:P(B∣A)=P(A,B)P(A)=P(A∣B)P(B)P(A)P(B|A)=\frac{P(A,B)}
huanghao10
·
2020-05-23 17:37
统计学习方法
机器学习
[图书推荐]
李航
《
统计学习方法
》(附带目录标签)
最近学习了
李航
老师的
统计学习方法
,顿感醍醐灌顶,对
李航
老师的敬佩也如滔滔江水般连绵不绝。现将目录附在下面。
帅兄心安否
·
2020-05-13 15:44
图书推荐
数据处理
算法
武汉是否要全民筛查核酸,还在摸底论证中
武汉现在在做前期准备工作,需要把基数搞清楚,否则没法开展工作图/视觉中国文|《财经》记者信娜实习记者
李航
编辑|王小5月12日有消息称,武汉将在全市开展全员新冠病毒核酸筛查。
财经杂志
·
2020-05-13 00:00
python计算信息增益
离散特征信息增益计算数据来自《.
统计学习方法
——
李航
》5.2.1节中贷款申请样本数据表利用pandas的value_counts(),快速计算importpandasaspdimportnumpyasnpdefent
懒惰的星期六
·
2020-05-09 00:00
阅读笔记--
统计学习方法
(第一版
李航
)
重要blog机器学习面试问题总结基础概念问题Q1.分类和回归到区别简书上对这个问题的一个总结:https://www.jianshu.com/p/d6f206c869ed知乎回答一:回归和分类的根本区别在于输出空间是否为一个度量空间CSDN回答二:从根本上说,分类是关于预测标签,而回归是关于预测数量。回归问题和分类问题本质上都要建立一个映射关系f(x)−>y,x∈A,y∈Bf(x)->y,x\in
HAH-M
·
2020-05-04 12:18
算法基础
统计学习方法
概论
一统计学习1.学习:“如果一个系统能够通过执行某个过程改进它的性能,这就是学习。”——赫尔伯特.西蒙2.统计学习的对象:数据。它从数据出发,提取数据特征,抽象出数据的模型,发现数据中的知识,又回到对数据的分析与预测中去。3.统计学习关于数据的基本假设:同类数据具有一定的统计规律性,这是统计学习的前提。4.统计学习包括:监督学习、非监督学习、半监督学习及强化学习。5.监督学习假设输入与输出的随机变量
xiaowang627
·
2020-05-02 21:12
小女孩赶走野狗救下乞丐,16年后乞丐花20亿买下医院,只为给女孩看病!
第1章下辈子,早点娶我“
李航
,我不知道,这条短信你能否收到。”“这是第一次给你发短信,也许是最后一次。”“我可能没办法当你的新娘了。”“下辈子,早点来娶我……”颤抖的声音,在阴郁的手术室回荡。
小果哥哥
·
2020-04-29 00:00
得知爱人重病后,他决定亲自出手解救
第1章下辈子,早点娶我“
李航
,我不知道,这条短信你能否收到。”“这是第一次给你发短信,也许是最后一次。”“我可能没办法当你的新娘了。”“下辈子,早点来娶我……”颤抖的声音,在阴郁的手术室回荡。
唐唐频道
·
2020-04-29 00:00
统计学习方法
第二版知识点合集 - 自用笔记
第一篇监督学习第一章统计学习及监督学习概论1.1统计学习统计学习是关于计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析的一门学科,也称统计机器学习,也就是我们俗称的机器学习。统计学习的特点:以计算机及网络为平台以数据为研究对象,是数据驱动的学科以对数据进行预测与分析为目的以方法为中心,构建模型并应用模型进行预测与分析是概率论、统计学、信息论、计算理论、最优化理论及计算机科学等多个领域的
万方名
·
2020-04-27 11:08
机器学习
自然语言处理
深度学习
6.逻辑回归
逻辑回归是一种有监督的
统计学习方法
,主要用于对样本进行分类。(2)与线性回归对比,有什么不同?线性回归是解决回归问题。结果是连续型。逻辑回归是分类问题,不是回归问题,结果是离散型,主要解决二分类问题。
D2012
·
2020-04-25 11:00
期望最大化算法(EM算法)
分为两步:E步,用当前的参数计算一个数据点标签的分布;M步,用当前标签分布的猜测去升级参数;应用场景1:看一组数据是由多少个高斯混合模型组成下面是
李航
博士的《
统计学习方法
》书中所推导的EM算法过程。
潘聪明
·
2020-04-16 16:19
算法
机器学习
李航
-第4章朴素贝叶斯法
什么是条件概率?所谓"条件概率"(Conditionalprobability),就是指在事件B发生的情况下,事件A发生的概率,用P(A|B)来表示。文氏图.jpg根据文氏图,可以很清楚地看到在事件B发生的情况下,事件A发生的概率就是P(A∩B)除以P(B)。即:P(A|B)=P(A∩B)/P(B),因此,P(A∩B)=P(A|B)P(B),同理,P(A∩B)=P(B|A)P(A),所以,P(A|
瘦长的丰一禾
·
2020-04-14 04:40
统计学习方法
|AdaBoost
01起在之前的文章中,我们学习了几种经典的分类算法:KNN,NaiveBayes,DecisionTree,LogisticRegression,SVM。接下来我们学习一种方法来提升分类效果,这种方法的核心思想就是:三个臭皮匠,顶个诸葛亮。我们先从集成方法讲起,简单介绍Bagging和Boosting,然后着重介绍提升方法(Boosting),然后给出一种常用的提升方法AdaptBoost(Ada
邓莎
·
2020-04-14 03:30
基于Spark的机器学习实践 (八) - 分类算法
0相关源码1朴素贝叶斯算法及原理概述1.1朴素贝叶斯简介◆朴素贝叶斯算法是基于贝叶斯定理和特征条件独立假设的一种分类方法◆朴素贝叶斯算法是一种基于联合概率分布的
统计学习方法
◆朴素贝叶斯算法实现简单,效果良好
Java爱好者哦
·
2020-04-13 23:33
机器学习入门探索
在理论学习上,打算参考一些书籍和笔记有《
统计学习方法
》
李航
《机器学习》周志华吴恩达机器学习教程的笔记之前没有接触过python语言,所以算是从零开始。安装了python3.6和pycharm。
凌玥君
·
2020-04-13 12:20
感知器(对偶形式)
根据《
统计学习方法
》用C++实现的感知器模型。
gibyeng
·
2020-04-12 23:01
NLP之文本分类
一、基于传统机器学习的文本分类随着
统计学习方法
的发展,特别是在90年代后互联网在线文本
摩天轮的守候
·
2020-04-12 12:46
提升方法
提升方法提升方法AdaBoost算法AdaBoost算法的训练误差分析AdaBoost算法的解释提升树提升(boosting)方法是一种常用的
统计学习方法
,应用广泛且有效。
千与千与
·
2020-04-12 03:12
[
统计学习方法
笔记]第2章-感知机
感知机是二类分类的线性分类模型,输入为实例的特征向量,输出为实例的类别。感知机学习旨在求出将训练数据进行线性划分的分离超平面。感知机模型输入x表示实例的特征向量,输出空间是y={+1,-1},由输入空间到输出空间的函数:f(x)=sign(w⋅x+b)f(x)=sign(w\cdotx+b)f(x)=sign(w⋅x+b),称为感知机。w和b为模型参数,sign为符号函数。感知机的几何解释对应线性
huanghao10
·
2020-04-11 23:55
统计学习方法
机器学习
统计学习方法
入门
统计学习的对象:data提取特征抽象模型进行分析和预测统计学习的目标:学习什么样的模型如何学习模型
统计学习方法
类型:supervisedlearningunsupervisedlearningsemi-supervisedlearningreforcementlearningm
pokorz
·
2020-04-11 09:51
KdTree 最近邻查找算法(C++描述)
根据
统计学习方法
写的KdTree实现,###参考了这个博客的主要思路,但是在关于如何搜索最近邻上有些不同。1.我采取在发现可能的路径后,采取扩展路径到叶子节点,生成一个新路径后重新计算最近路径。
gibyeng
·
2020-04-11 08:37
《
统计学习方法
》第 6 章“最大熵模型”学习笔记
用于分类问题最大熵模型用于分类问题,其基本假设是:在满足约束条件的情况下,条件熵最大的模型就是最好的模型。正如一个著名的投资理念“鸡蛋不要放在一个篮子里”。目标函数是条件熵,我们希望它最大,即条件概率的期望最大。已知信息成为目标函数的约束,是客观存在的,必须得到满足。其它不作任何假设,越随机越合理。有多少个特征函数,就有多少个约束,再加上条件概率之和为。认识条件熵条件熵是熵的期望,它度量了我们的在
李威威
·
2020-04-10 03:44
启发式算法
今天看
李航
博士《
统计学习方法
》中SVM的学习算法SMO(序列最小最优化算法)中,看到说SMO是一种启发式算法,然后去网上查了一下相关资料。启发式算法不是一种确切的算法,而是一种提供找到最优解的思路。
pw007992
·
2020-04-09 08:48
重庆一男子跳楼误伤两人,1人自杀造成3个家庭悲剧
据了解,该男子名叫
李航
,31岁,湖北人。一个女生叫张镧心,17岁,是綦江中学高三学生,另一名女生叫霍雨佳,15岁,是三江中学高三学生。最近,两名女生正要参加重大美视电影学院专业统考。
爱思考的90后
·
2020-04-09 00:32
GP18“金句子”——四组
2017-11-221.改变工作态度,才有职业高度;改变人生态度,才有幸福深度(
李航
)2.有趣有料才是好人生(熊云茜)3.没有人不想与善者为伍为邻为友(冉云霞)4.相信你做得到,你一定会做到。
蚂蚁爱逛街
·
2020-04-07 09:24
统计学习方法
| 决策树
01决策树定义之前我们学习了两种分类方法:K近邻(KNN)朴素贝叶斯(NaiveBayes)今天我们来学习另一种分类方法——决策树在开始学习之前,先提出一个问题:这三种分类方法的区别是什么呢?分别适用什么场景呢?好了,带着疑问,我们开始学习决策树~决策树是什么?它是一种基本的分类与回归的方法,可以认为是if-then规则的集合,决策树分类时,将某结点的实例强行分到条件概率大的那一类中去。下面我们主
邓莎
·
2020-04-05 10:10
机器学习之k近邻算法(k-nearest neighbor, k-NN)
参考:
李航
《
统计学习方法
》0.基本内容k近邻算法(kNN)是一种基本分类和回归方法。其不具有显式的学习过程,而是通过给定的训练集合数据,通过k个最近邻的训练实例通过多数表决的方式,进行预测。
天真的和感伤的想象家
·
2020-04-04 22:35
Machine
Learning
python
算法
深度学习
机器学习
2017.2.26
哈哈哈哈~新衣服~有没有感觉变漂亮了呀~希望新衣服可以带给我不一样的好运吧~下午和李林、
李航
还有一个不认识的学长打了一下午篮球,很开心,玩的太嗨,差点晚了晚自习的时间……高数公式……学霸修炼中ing..
清衡DSL
·
2020-04-04 20:22
故事烩24/下一站说爱你
01我,
李航
,娜娜。原本没有任何交集的三个人,因为一起报名了英语课程而相遇。每次上课,我都会坐在角落里,因为我会打瞌睡,躲在角落里,不容易被老师发现。
洪一念
·
2020-04-04 14:38
统计学习方法
思路疏导—支持向量机SVM
SVM支持向量机本片文章主要记录在学习《
统计学习方法
》中SVM章节的难点,不对详细内容进行讲解。
wipping的技术小栈
·
2020-04-04 13:13
CNN在文本分类的应用(内有代码实现) 论文Convolutional Neural Networks for Sentence Classification
有很多经典的
统计学习方法
可以用来做文本分类,比如SVM,LR,MaxEnt等等。这些方法的一般流程是标注数据、特征工程、模型训练
亨利庞加莱
·
2020-04-03 23:55
感知机算法及收敛性证明
1、感知机算法简述感知机算法其实已经很熟悉了,这次看《
统计学习方法
》权当复习一遍,然后有一个point对我来说是新的——感知机算法实际上采用了随机梯度下降。
单调不减
·
2020-04-03 03:06
利用sklearn学习《
统计学习方法
》(一):感知机(perceptron)
**简介:学习机器学习已经半年时间了,在读了
李航
博士的《
统计学习方法
》后受益匪浅,一扫学习初期头脑中的阴云。然而,纸上得来终觉浅,不亲身实践亲手操作一下怎么能号称自己入了机器学习的门呢。
吉思雨
·
2020-04-02 10:43
BAT机器学习面试1000题系列(第21~30题)
如
李航
博士的一书「
统计学习方法
」上所说:在实际应用中,K值一般取一个比较小的数值,例如采用交叉验证法(简单来说,就是一部分样本做训练集,一部分做测试集)来选择最优的K值。
Hebborn_hb
·
2020-04-02 07:52
SVM支持向量机(一)
转自微信公众号:机器学习算法与Python学习
统计学习方法
&小象学院SVM算法优点:可用于线性/非线性分类,也可以用于回归低泛化误差容易解释计算复杂度低缺点:对参数和核函数的选择比较敏感原始SVM只比较擅长处理二分类问题它的基本模型是定义在特征空间上的间隔最大的分类器
士多啤梨苹果橙_cc15
·
2020-04-01 11:37
深度前馈网络
看过西瓜书和
李航
的《
统计学习方法
》,对机器学习的基本算法算是有了初步的理解。机器学习的算法和思想固然重要,在实际中也有很多应用场景,但在超大数据集的表现上,深度学习才是当下效果最好的工具。
单调不减
·
2020-04-01 11:08
上一页
36
37
38
39
40
41
42
43
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他