E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
统计学习方法
python朴素贝叶斯分布对数据的要求_
统计学习方法
与Python实现(三)——朴素贝叶斯法...
统计学习方法
与Python实现(三)——朴素贝叶斯法1、定义朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。对于给定的训练数据集,首先基于特征条件独立假设学习输入输出的联合概率分布。
weixin_39661129
·
2022-11-22 18:24
统计学习方法
——3. 朴素贝叶斯法(Naive Bayes, NB)
一、简介朴素贝叶斯用于解决分类问题。“朴素”:假设各个特征之间相互条件独立。朴素贝叶斯中有多概率连乘,所以为使得每一项不为0,引出了贝叶斯估计和拉普拉斯平滑。使用贝叶斯估计保证了所有连乘项概率大于0。连乘项范围均在0~1之间,会导致越乘越小,所以需要取对数。1.概率概念补充:概率是已知模型和参数,推数据。统计是已知数据,推模型和参数。似然函数:对于P(x∣θ)P(x|\theta)P(x∣θ),x
要坚持写博客呀
·
2022-11-22 18:23
2.
机器学习
9.
Python
概率论
机器学习
分类
《
统计学习方法
》极简笔记P4:朴素贝叶斯公式推导
朴素贝叶斯基本方法通过训练数据集T={(x1,y1),(x2,y2),(xN,yN)...,(x1,y1)}T=\{(x_1,y_1),(x_2,y_2),(x_N,y_N)...,(x_1,y_1)\}T={(x1,y1),(x2,y2),(xN,yN)...,(x1,y1)}学习联合概率分布P(X,Y),即学习先验概率分布P(Y=ck),P(Y=c_k),P(Y=ck),条件概率分布P(X=x
机器学习算法与Python实战
·
2022-11-22 18:45
《机器学习实战》笔记——第四章:基于概率论的分类方法:朴素贝叶斯
1说明该书主要以原理简介+项目实战为主,本人学习的主要目的是为了结合李航老师的《
统计学习方法
》以及周志华老师的西瓜书的理论进行学习,从而走上机器学习的“不归路”。
圣西罗风之子
·
2022-11-22 15:53
机器学习
概率图
朴素贝叶斯
机器学习
分类器
文本分类
感知器的笔记(
统计学习方法
)
https://pan.baidu.com/s/1Z8BYJ92LrnAYHY7TGChImg感知器对偶形式还没有写,有时间补充上去
Matrixart
·
2022-11-22 15:20
工作记录
机器学习之决策树01
最近学习了唐宇迪老师关于决策树算法视频,感觉看了老师的视频,再结合李航老师《
统计学习方法
》书上的内容,还是能够有所理解的。一,决策树可以将决策树看成一个if-then规则的集合。
邵楷
·
2022-11-22 02:27
机器学习
决策树
机器学习
决策树
《
统计学习方法
》Chapter.7 支持向量机(SVM)
支持向量机支持向量机是二分类模型,与感知机思想类似,都是寻找一条分离超平面能够将数据分成两类,在线性可分数据集中,这种分离超平面有无数条,感知机只要求能够从无数条分离超平面中找到一条,而支持向量机要求能够从无数种分离超平面中找到“最优”的那一条。支持向量机可以根据数据的分布从简单模型推广到复杂模型:当数据集线性可分时,利用最简单的线性可分支持向量机即可;当数据集线性不可分,但是近似线性可分,就引出
taotaoiit
·
2022-11-21 23:52
统计学习方法笔记
学习方法
在计算机视觉方向如何快速提升自己?
如周志华老师的《机器学习》、李航老师的《
统计学习方法
》、《机器学习实践》、吴恩达老师的cs229、李宏毅老师的机器学习视频(B站就有
小白学视觉
·
2022-11-21 16:24
机器学习
人工智能
深度学习
计算机视觉
编程语言
统计学习方法
|朴素贝叶斯原理剖析及实现
原始blog链接:http://www.pkudodo.com/2018/11/21/1-3/前言《
统计学习方法
》一书在前几天正式看完,由于这本书在一定程度上对于初学者是有一些难度的,趁着热乎劲把自己走过的弯路都写出来
Dod_o_
·
2022-11-21 13:16
分类器
朴素贝叶斯
统计学习方法
统计学习方法
笔记(李航)———第四章(朴素贝叶斯法)
推荐阅读:小白之通俗易懂的贝叶斯定理(Bayes’Theorem)朴素贝叶斯法是一种多分类算法,它的基础是“朴素贝叶斯假设”(假设实例的各个特征具有条件独立性)。根据训练集估计模型的先验概率、条件概率,再按照后验概率最大化的准则,给出输入实例的分类预测。它的算法实现很简单,但理论证明并不容易。具体来说,通过极大似然估计法估计先验概率、条件概率,计算过程比较复杂,书上也没有给出。本章主要分为3个部分
越前浩波
·
2022-11-21 10:01
机器/深度学习
math
机器学习
李航
统计学习方法
课后习题答案 第二版 机器学习
李航《
统计学习方法
》课后习题答案(第2版)【李航课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(定期回复),包会!!】
#苦行僧
·
2022-11-21 10:30
学习方法
人工智能
深度学习
自然语言处理
李航《
统计学习方法
》第二版-第四章 朴素贝叶斯
本来分为很多维度,互相有联系,利用贝叶斯变为相乘的形式,只需考虑当前维度和Y的关系,直接用频率就可数出。朴素:意味着做出了条件独立性的假设,但条件不可能都是独立的分母为分类讨论,分类讨论在求和要输出哪一种类别输出条件概率最大,为生成模式判别模型根据两者之间的差别,不需每个分别建立模型4.2.3贝叶斯估计sj如果取晴天、雨天、刮风,就取3,可能取值分子加,分子加k次,因此分母必须加K,才能使结果保持
so_kind
·
2022-11-21 10:26
分类
机器学习
人工智能
统计学习方法
--朴素贝叶斯法
与公众号同步更新,详细内容及相关ipynb文件在公众号中,公众号:AI入门小白补充:对于
统计学习方法
的第一章节的部分概念和数学公式已放置到公众号中,需要的朋友可直接去公众号中下载文章目录朴素贝叶斯法的学习与分类基本方法后验概率最大化的含义朴素贝叶斯法的参数估计极大似然估计学习与分类算法贝叶斯估计代码部分数据准备
三维虫子
·
2022-11-21 10:54
机器学习
python
机器学习
人工智能
算法
《
统计学习方法
》手撕决策树ID3,C4.5
废话不多说,直接上代码详细原理见《
统计学习方法
》第五章决策树总结importnumpyasnpclassDecisionTree(object):def__init__(self,tree_type):
Hilbob
·
2022-11-21 10:53
统计学习方法
决策树
学习方法
ID3
C4.5
学习笔记-《
统计学习方法
》-第四章-朴素贝叶斯
4朴素贝叶斯4.1.1朴素贝叶斯的学习与分类设输入空间X⊆Rn\mathcal{X}\subseteqR^nX⊆Rn为nnn维向量的集合,输出空间为类标记集合Y={c1,c2,...,ck}\mathcal{Y}=\{c_1,c_2,...,c_k\}Y={c1,c2,...,ck}。输入为特征向量x∈Xx\in\mathcal{X}x∈X,输出为类标记(classlabel)y∈Yy\in\ma
zoro-zhao
·
2022-11-21 10:52
学习
机器学习
算法
《
统计学习方法
》第四章——朴素贝叶斯 python实现
importnumpyasnpfromcollectionsimportCounterdata=[[1,'S',-1],[1,'M',-1],[1,'M',1],[1,'S',1],[1,'S',-1],[2,'S',-1],[2,'M',-1],[2,'M',1],[2,'L',1],[2,'L',1],[3,'L',1],[3,'L',1],[3,'M',1],[3,'M',1],[3,'L'
呱唧响
·
2022-11-21 10:52
机器学习
统计学习方法
朴素贝叶斯
python
分类
《
统计学习方法
》第四章朴素贝叶斯总结与习题
朴素贝叶斯定义:朴素贝叶斯是基于贝叶斯定理与特征条件独立假设的分类方法。1.贝叶斯公式推导首先有条件概率公式如下:P(A∣B)=P(AB)P(B),P(B∣A)=P(AB)P(A)P(A|B)=\frac{P(AB)}{P(B)},P(B|A)=\frac{P(AB)}{P(A)}P(A∣B)=P(B)P(AB),P(B∣A)=P(A)P(AB)其中P(AB)P(AB)P(AB)为联合概率,两式消
Hilbob
·
2022-11-21 10:45
统计学习方法
学习方法
概率论
朴素贝叶斯
模型介绍-----MLP
参考文献:《西瓜书》、《
统计学习方法
》、以及知乎或CSDN部分博客感知机介绍M-P
35岁北京一套房
·
2022-11-21 06:49
神经网络
深度学习
机器学习
机器学习数学提要
高数上下册》●《概率论与数理统计浙大版》●《数理统计学简史》陈希孺●《矩阵分析与应用》张贤达●《凸优化(ConvexOptimization)》-StphenBoyd&LievenVandenberghe●《
统计学习方法
yuanmengxinglong
·
2022-11-21 02:01
机器学习
机器学习
数学
优化
统计学
机器学习笔记(七)-神经网络:学习
本次学习笔记主要记录学习机器学习时的各种记录,包括吴恩达老师视频学习、李宏毅老师视频学习、周志华老师的《机器学习》(西瓜书)以及李航老师的《
统计学习方法
》。
997and
·
2022-11-20 21:31
机器学习
机器学习
神经网络
深度学习
机器学习与数据挖掘
写在前面,本文主要以李航老师的《
统计学习方法
》内容为主,穿插数据挖掘知识,持续更新ing!总结比较1.1机器学习和数据挖掘的关系机器学习是数据挖掘的重要工具。
Weiyaner
·
2022-11-19 23:00
机器学习与数据挖掘
数据挖掘
机器学习
统计学习方法
笔记_cbr:第十一章:条件随机场
第十一章:条件随机场11.1概率无向图模型定义:联合概率分布满足成对,局部or全局Markov性,就称之为probabilisticundirectedgraphicalmodelorMarkovrandomfield;11.2条件随机场的定义与形式给定观测求状态;定义:若随机变量Y构成的无向图,对于任意结点满足Markovrandomfield,那么称其条件概率分布为条件随机场;11.3条件随机
chenburong2021
·
2022-11-19 23:42
统计学习方法笔记
学习
算法
机器学习
《
统计学习方法
》Chapter.6.1 逻辑斯谛回归(Logistic Regression)
Logistic回归Logistic分布设XXX是连续随机变量,XXX服从逻辑斯蒂分布是指XXX具有下列分布函数和密度函数:F(x)=P(X≤x)=11+e−(x−μ)/rf(x)=F′(x)=e−(x−μ)/rγ(1+e−(x−μ)/r)2F(x)=P(X\leqx)=\frac{1}{1+e^{-(x-\mu)/r}}\\f(x)=F^{'}(x)=\frac{e^{-(x-\mu)/r}}{
taotaoiit
·
2022-11-19 22:38
统计学习方法笔记
机器学习/深度学习入门建议
机器学习实战参考书籍:《
统计学习方法
》李航吴恩达机器学习笔记部分截图:第四阶段:深度学习1.吴恩达深度学习简介:这应该是最好的入门教程了神经
程序猿-饭饭
·
2022-11-19 19:16
python
人工智能
深度学习
逻辑回归
模式识别与机器学习 第一章 绪论
1956年夏天达特茅斯会议标志着人工智能学科的诞生人工智能之父约翰·麦卡锡基础:线性代数、概率统计、最优化理论交叉课程:图像处理、计算机视觉、数据挖掘、自然语言处理、多媒体技术参考书目:《机器学习》西瓜书《
统计学习方法
synthesis_UMR
·
2022-11-19 17:15
学习笔记
深度学习
机器学习
数据挖掘 / 机器学习——决策树
《数据挖掘》国防科技大学《数据挖掘》青岛大学《机器学习》周志华《
统计学习方法
》李航数据挖掘/机器学习之决策树一、概述决策树(DecisionTree)是从一组无次序、无规则,但有类别标号的样本集中推导出的
木夕敢敢
·
2022-11-19 15:18
数据挖掘
机器学习
python
数据挖掘
决策树
【
统计学习方法
读书笔记】感知机的个人理解(1)
写在前面:在友人的推荐下,开始入李航老师的坑,《
统计学习方法
》。读到第二章,感知机,李航老师由浅入深让我有了很好的理解,现在自己总结一下思路。
Masec
·
2022-11-19 13:22
统计学习方法读书笔记
统计学习方法
读书笔记
感知机
《
统计学习方法
》-感知机模型学习笔记
用简单的方法学习——北北感知机模型描述这一部分主要介绍感知机是什么?假设输入空间(输入空间即为特征空间,由实例的各种特征组成)是χ⊆R*,输出空间是Y={-1,+1}。当输入x∈χ表示实例的特征向量,对应于输入空间(特征向量)的点,输出y∈Y表示实例的类别。由输入空间到输出空间的如下函数:f(x)=sign(w⋅x+b)其中,w和b为感知机模型,w∈R*叫做权值或权值向量(在多数情况下,w是一个列
闰土不用叉
·
2022-11-19 13:52
笔记
统计学习方法
感知机
统计学习方法
读书笔记:感知机
什么是感知机二分类的线性分类模型,输入是实例的特征向量,输出是实例的类别,取-1和+1两值。感知机对应于输入空间(特征空间)中将实例划分为正负两类的分离超平面,属于判别模型。感知机是神经网络和支持向量机的基础。模型的使用条件数据集需要是线性可分的,同时,如果数据集是线性可分的话,经过一定的迭代次数一定可以得到一个感知机模型,将正负例分离开。损失函数的定义一个自然的选择是误分类点的总数,但是这样的损
weixin_30287169
·
2022-11-19 13:16
数据结构与算法
人工智能
《
统计学习方法
》第二章:感知机
(听课记得笔记,大部分是课上的课件内容,发博客作为纪录方便查阅)感知机–入门垫脚石如果找不到好的直线,就要在差的线里面找到一个相对好的线(量化直线有多好)。再进一步就是如果我们把所有分错的点和直线的距离求和,让这段求和的距离最小,那么这条直线就是我们要找的直线。段落总结一条直线如果能一个点都不分错的话,就是一条好的分类直线。模型要尽可能的找到好的直线。如果没有好的直线,在差的直线中要找到好的直线。
乐乐什么都有
·
2022-11-19 13:44
统计学习方法
机器学习
算法
统计学习方法
笔记_cbr:第二章 感知机
第二章感知机目录第二章感知机2.1感知机模型2.2感知机学习策略2.2.1数据集的线性可分性;2.2.2感知机学习策略2.3感知机学习算法2.3.1感知机学习算法的原始形式2.3.2感知机学习算法的原始形对偶式2.1感知机模型感知机是二类分类的线性分类模型,判别模型输入x(属于X)表示为实例的特征向量;对应与输入空间(特征空间)的点;输出y表示实例的类别取+1,-1;输入空间到输出空间的函数:f(
chenburong2021
·
2022-11-19 13:59
统计学习方法笔记
机器学习
人工智能
深度学习
统计学习方法
笔记(理论+实例+课后习题+代码实现):感知机
1引言1957年Rosenblatt提出感知机模型,它是神经网络和支持向量机的基础。其主要适用于分类任务,训练好的感知机模型可将数据集正确地分为两类:超平面以上为正类,超平面以下为负类(后面会讲到感知机是一个超平面)。它通过利用梯度下降法最小化损失函数的思想让感知机学习到最优的状态,使得数据集的误分类点个数为0。其优点主要体现在其算法实现相对简单。2理论2.1定义设输入特征向量为,感知机权重为,偏
Jackson_feng
·
2022-11-19 13:58
统计学习方法笔记
大数据
统计学习方法
笔记(一):感知机
统计学习方法
笔记(一):感知机前言:本文是基于李航老师《
统计学习方法
》的笔记~感知机学习的目的:求出将训练数据进行线性划分的分离超平面。
通辽码农
·
2022-11-19 13:26
统计学习
学习
《
统计学习方法
》第五章决策树总结
目录1.简介2.决策树的分类2.1ID3算法2.1.1特征选择(信息增益)2.1.2算法步骤2.2C4.5算法2.2.1特征选择(信息增益比)2.2.2算法步骤2.3CART算法2.3.1分类树2.3.1.1特征选择(基尼指数)2.3.1.2算法步骤2.3.2回归树2.3.2.1特征选择(平方误差)2.3.2.2算法步骤3.决策树的剪枝3.1预剪枝3.2后剪枝1.简介决策树是一种基本的分类与回归方
Hilbob
·
2022-11-19 08:14
统计学习方法
决策树
ID3
C4.5
CART
统计学习方法
第一章统计学习及监督学习概论如果一个系统能够通过执行某个过程改进它的性能,这就是学习-----Simon统计学习统计学习的对象数据,具有一定的统计规律性,即具有某种共同性质,例如文章,互联网网页。统计学习的目的预测和分析,兼顾学习效率统计学习的方法监督学习、无监督学习、强化学习从给定的、有限的、用于学习的训练集合出发,假设数据是独立同分布产生的;并且假设要学习的模型属于某个函数的集合,称为假设空间
weixin_50810484
·
2022-11-19 06:07
笔记
统计学习方法
笔记七----决策树
前言决策树是通过一系列规则对数据进行分类的过程。它提供一种在什么条件下会得到什么值的类似规则(if-then)的方法。决策树分为分类树和回归树两种,分类数对离散变量做决策树,回归树对连续变量做决策树。本节主要讨论用于分类的决策树。在分类问题中,表示基于特征对实例进行分类的过程。它可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性,分类速度快。学习时,利用训练数据,根据损失
爱科研的徐博士
·
2022-11-19 03:34
【算法】
统计学习方法
统计学
决策树
ID3
C4-5
CART
决策树实例-ID3
决策树-ID3实例参考书籍:《机器学习》周志华,第1版《
统计学习方法
》李航,第2版用来记录自己对书中知识的理解,加强自己的理解和记忆,同时提出自己迷惑不解的地方,提高自己编辑的表达能力。
小耗子-Axel
·
2022-11-19 03:44
算法
机器学习
决策树
《
统计学习方法
》之朴素贝叶斯法思路整理
《
统计学习方法
》之朴素贝叶斯法朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。1.朴素贝叶斯法的基本方法:输入空间:为n维向量的集合。
weixin_44650119
·
2022-11-17 13:12
统计学习方法
统计学习方法
朴素贝叶斯法
机器学习之Kmeans算法推导(EM算法)以及python实现
参考资料李航博士的《
统计学习方法
》这篇文章增加了EM算法推导以及Python实现1.Kmeans算法的推导模型:给定nnn个样本集合X=x1,x2,...,xnX={x_1,x_2,...,x_n}X=
董蝈蝈
·
2022-11-17 07:27
机器学习
算法
聚类
python
机器学习
深度学习
电信保温杯笔记——《
统计学习方法
(第二版)——李航》第11章 条件随机场
电信保温杯笔记——《
统计学习方法
(第二版)——李航》第11章条件随机场论文介绍概率无向图模型图模型马尔科夫性成对马尔科夫性局部马尔科夫性全局马尔科夫性概率无向图的定义概率无向图模型的因子分解团与最大团定义例子因子分解条件随机场条件随机场的定义线性链条件随机场条件随机场的形式参数化形式例子简化形式矩阵形式例子条件随机场的概率计算向前
电信保温杯
·
2022-11-16 13:47
机器学习
学习
概率论
机器学习
决策树(Decision Tree)-机器学习ML
《
统计学习方法
》李航2.https://baike.baidu.com/item/%E5%86%B3%E7%AD%96%E6%A0%91/10377049?
HelloZEX
·
2022-11-16 09:28
机器学习
李航
统计学
算法
机器学习
决策树
隐马尔可夫模型python_隐马尔可夫模型HMM及Python实现
隐马尔可夫模型差不多是学习中遇到的最难的模型了,本节通过对《
统计学习方法
》进行学习并结合网上笔记,用Python代码实现了隐马模型观测序列的生成、前向后向算法、Baum-Welch无监督训练、维特比算法
欧希笛坦
·
2022-11-16 08:15
隐马尔可夫模型python
统计学习方法
笔记-隐马尔可夫模型(内含Python代码实现)
一马尔可夫模型我们通过一个具体的例子来介绍一下什么是马尔可夫模型我们假设天气有3种情况,阴天,雨天,晴天,它们之间的转换关系如下:(稍微解释一下这个图,我们可以这样认为,已知第一天是阴天,那第二天是阴天的概率是0.1,第二天是晴天的概率是0.3,第二天是雨天的概率是0.6)每一个状态转换到另一个状态或者自身的状态都有一定的概率。马尔可夫模型就是用来表述上述问题的一个模型。有这样一个状态链,第一天是
三岁就很萌@D
·
2022-11-16 08:45
统计学习方法
机器学习算法
李航
统计学习方法
课后习题答案 第二版 机器学习
李航《
统计学习方法
》课后习题答案(第2版)【李航课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(定期回复),包会!!】
#苦行僧
·
2022-11-16 00:03
学习方法
人工智能
统计学
深度学习
机器学习知识点总结 - SVM
参考资料:周志华老师的《机器学习》+李航老师的《
统计学习方法
》SVM是一种监督学习的二分类算法。基本SVM可以用来解决样本空间中线性可分的问题。
RaymondLove~
·
2022-11-15 09:22
机器学习
SVM
硬间隔
几何距离
函数距离
SVR
赶快收藏,PyTorch 常用代码段合集真香
资料专栏李航老师《
统计学习方法
(第二版)》课件&代码【视频+PPT】李宏毅老师机器学习40讲01基本配置导入包和版本查询importtorchimp
机器学习社区
·
2022-11-15 07:16
机器学习
pytorch
深度学习
人工智能
机器学习学习笔记—正则化的理解
这几天在学习李航的
统计学习方法
,来谈谈我对于机器学习中正则化的理解:什么是正则化如何理解正则化正则化的作用第一个问题,什么是正则化?
爱琢磨先森
·
2022-11-14 10:50
机器学习
统计学习方法
正则化
统计学习方法
第三章习题
统计学习方法
第三章习题习题3.1习题3.2习题3.3习题3.4习题3.1本题摘抄自:原文链接:https://blog.csdn.net/qq_35082030/article/details/60965320
美好与你环环相扣
·
2022-11-14 09:40
统计学习方法
python
《
统计学习方法
》习题答案
第一章统计学习及监督学习概论课后习题1.1说明伯努利模型的极大似然估计以及贝叶斯估计中的
统计学习方法
三要素。伯努利模型是定义在取值为0与1的随机变量上的概率分布。
Mr.小蔡
·
2022-11-14 09:39
概率论
机器学习
算法
《
统计学习方法
》第一章习题
1.1说明伯努利模型的极大似然估计以及贝叶斯估计中的
统计学习方法
三要素。
Hilbob
·
2022-11-14 09:07
统计学习方法
学习方法
概率论
上一页
7
8
9
10
11
12
13
14
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他