E-COM-NET
首页
在线工具
Layui镜像站
SUI文档
联系我们
推荐频道
Java
PHP
C++
C
C#
Python
Ruby
go语言
Scala
Servlet
Vue
MySQL
NoSQL
Redis
CSS
Oracle
SQL Server
DB2
HBase
Http
HTML5
Spring
Ajax
Jquery
JavaScript
Json
XML
NodeJs
mybatis
Hibernate
算法
设计模式
shell
数据结构
大数据
JS
消息中间件
正则表达式
Tomcat
SQL
Nginx
Shiro
Maven
Linux
李航统计学习笔记
统计学习方法(
李航
)--第二章 感知机(比较基础)
感知机是二分类的线性分类模型,属于判别模型,包括原始形式和对偶形式。(一)感知机模型公式为:f是输出,x是输入,w和b是参数,sign是符号函数(大于0为1,小于0为-1)几何解释:对于特征空间Rn中的一个超平面S,w是S的法向量,b是截距,将超平面空间划分为两个部分,完成2分类任务。(二)学习策略1.数据集的线性可分性:若存在wx+b的超平面可以将数据集完全分割,则称为线性可分。2.学习策略(以
人間煙火Just
·
2024-02-12 15:14
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第6章 逻辑斯谛回归与最大熵模型(2)6.2 最大熵模型
文章目录6.2最大熵模型6.2.1最大熵原理6.2.3最大熵模型的学习6.2.4极大似然估计《统计学习方法:
李航
》笔记从原理到实现(基于python)--第3章k邻近邻法《统计学习方法:
李航
》笔记从原理到实现
北方骑马的萝卜
·
2024-02-05 11:51
机器学习笔记
学习方法
笔记
python
白铁时代 —— (监督学习)原理推导
来自
李航
《统计学习方法》文章目录-1指标相似度0概论1优化类1.1朴素贝叶斯1.2k近邻-kNN1.3线性判别分析二分类LDA多分类LDA流程LDA和PCA的区别和联系1.4逻辑回归模型&最大熵模型逻辑回归最大熵模型最优化
人生简洁之道
·
2024-02-03 07:46
2020年
-
面试笔记
人工智能
最大熵阈值python_
李航
统计学习方法(六)----逻辑斯谛回归与最大熵模型
本文希望通过《统计学习方法》第六章的学习,由表及里地系统学习最大熵模型。文中使用Python实现了逻辑斯谛回归模型的3种梯度下降最优化算法,并制作了可视化动画。针对最大熵,提供一份简明的GIS最优化算法实现,并注解了一个IIS最优化算法的Java实现。本文属于初学者的个人笔记,能力有限,无法对著作中的公式推导做进一步发挥,也无法保证自己的理解是完全正确的,特此说明,恳请指教逻辑斯谛回归模型逻辑斯谛
weixin_39669638
·
2024-02-03 06:20
最大熵阈值python
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第6章 逻辑斯谛回归与最大熵模型(1)6.1 逻辑斯谛回归模型
文章目录第6章逻辑斯谛回归与最大熵模型6.1逻辑斯谛回归模型6.1.1逻辑斯谛分布6.1.2二项逻辑斯谛回归模型6.1.3模型参数估计6.1.4多项逻辑斯谛回归《统计学习方法:
李航
》笔记从原理到实现(基于
北方骑马的萝卜
·
2024-02-03 06:18
机器学习笔记
学习方法
笔记
python
李航
统计学习方法----决策树章节学习笔记以及python代码
决策树的剪枝5CART算法(classificationandregressiontree)5.1回归树算法5.2分类树的生成5.3CART剪枝6PYTHON代码实例决策树算法可以应用于分类问题与回归问题,
李航
的书中主要讲解的是分类树
詹sir的BLOG
·
2024-01-31 08:20
大数据
python
决策树
算法
剪枝
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第5章 决策树(代码python实践)
文章目录第5章决策树—python实践书上题目5.1利用ID3算法生成决策树,例5.3scikit-learn实例《统计学习方法:
李航
》笔记从原理到实现(基于python)--第5章决策树第5章决策树—
北方骑马的萝卜
·
2024-01-31 08:17
机器学习笔记
学习方法
笔记
python
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第4章 朴素贝叶斯法
朴素贝叶斯法的参数估计4.2.1极大似然估计4.2.2学习与算法4.2.3贝叶斯估计代码实践GaussianNB高斯朴素贝叶斯scikit-learn实例scikit-learn:伯努利模型和多项式模型《统计学习方法:
李航
北方骑马的萝卜
·
2024-01-30 14:25
机器学习笔记
学习方法
笔记
python
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第1章 统计学习方法概论
文章目录第1章统计学习方法概论1.1统计学习1.统计学习的特点2.统计学习的对象3.统计学习的目的4.统计学习的方法1.2.1基本概念1.2.2问题的形式化1.3统计学习三要素1.3.1模型1.3.2策略1.3.3算法1.4模型评估与模型选择1.4.1训练误差与测试误差1.4.2过拟合与模型选择1.5正则化与交叉验证1.5.1正则化1.5.2交叉验证1.6泛化能力1.6.1泛化误差1.6.2泛化误
北方骑马的萝卜
·
2024-01-30 14:24
机器学习笔记
学习方法
笔记
python
机器学习
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第 2章感知机
2.3.1感知机学习算法的原始形式2.3.2算法的收敛性2.3.3感知机学习算法的对偶形式实践:二分类模型(iris数据集)数据集可视化:Perceptronscikit-learn实例《统计学习方法:
李航
北方骑马的萝卜
·
2024-01-30 14:24
机器学习笔记
学习方法
笔记
python
机器学习
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第3章 k邻近邻法
3.2.4分类决策规则3.3k近邻法的实现:kd树3.3.1构造kd树3.3.2搜索kd树算法实现课本例3.1iris数据集scikit-learn实例kd树:构造平衡kd树算法例3.2《统计学习方法:
李航
北方骑马的萝卜
·
2024-01-30 14:24
机器学习笔记
学习方法
笔记
python
《统计学习方法:
李航
》笔记 从原理到实现(基于python)-- 第5章 决策树
5.2.1特征选择问题5.2.2信息增益5.2.3信息增益比5.3.1ID3算法5.3.2C4.5的生成算法5.4决策树的剪枝5.5CART算法5.5.1CART生成5.5.2CART剪枝《统计学习方法:
李航
北方骑马的萝卜
·
2024-01-30 14:20
机器学习笔记
学习方法
笔记
python
时隔3年,华为又有人入选IEEE Fellow
这是继华为诺亚方舟实验室前主任
李航
、华为(加拿大)高级副总裁、5G专家朱佩英之
QbitAl
·
2024-01-30 06:27
网易
微软
sms
animation
bitcoin
机器学习、深度学习、自然语言处理基础知识总结
目前主要参考
李航
老师的《统计学习方法》一书,也有一些内容例如XGBoost、聚类、深度学习相关内容、NLP相关内容等是书中未提及的。
北航程序员小C
·
2024-01-26 10:43
机器学习专栏
人工智能学习专栏
深度学习专栏
机器学习
深度学习
自然语言处理
机器学习期末复习总结笔记(
李航
统计学习方法)
文章目录模型复杂度高---过拟合分类与回归有监督、无监督、半监督正则化生成模型和判别模型感知机KNN朴素贝叶斯决策树SVMAdaboost聚类风险PCA深度学习范数计算梯度下降与随机梯度下降SGD线性回归逻辑回归最大熵模型适用性讨论模型复杂度高—过拟合是什么:当模型复杂度越高,对训练集拟合程度越高,然而对新样本的泛化能力却下降了,此时出现overfitting(过拟合)与泛化能力:模型复杂度与泛化
在半岛铁盒里
·
2024-01-24 01:01
机器学习
机器学习
笔记
学习方法
隐马尔可夫模型【维特比算法】
机器学习笔记机器学习系列笔记,主要参考
李航
的《机器学习方法》,见参考资料。
格兰芬多_未名
·
2024-01-19 03:21
机器学习
算法
人工智能
机器学习
奇异值分解(SVD)【详细推导证明】
机器学习笔记机器学习系列笔记,主要参考
李航
的《机器学习方法》,见参考资料。
格兰芬多_未名
·
2024-01-19 03:20
机器学习
机器学习
矩阵分解
扫雷的的原理及代码实现
上回,我们一起制作了猜数字小游戏,相信不少少人都想完成更加
李航
的游戏,扫雷我们都玩过,这回我们就通过数组和函数实现扫雷这款游戏。
Dream_Snowar
·
2024-01-19 01:39
c语言
青少年编程
开发语言
机器学习:
李航
统计学习方法 笔记
詹令
[email protected]
待整理统计学习方法监督学习非监督学习半监督学习强化学习监督学习方法生成方法GenerativeApproach:P(Y∣X)=P(X,Y)P(X)P(Y|X)=\frac{P(X,Y)}{P(X)}P(Y∣X)=P(X)P(X,Y)朴素贝叶斯模型隐式马尔科夫模型判别方法DiscrimitiveApproach:k近邻/knn线性分类模型感知机
lealzhan
·
2024-01-17 08:54
机器学习
算法
Machine Learning Series--Linear Regression
前言最近看了
李航
老师的《统计学习方法》,还正在学习吴恩达老师的《机器学习》的课程(网易公开课上有,较老的版本)。自从看过《统计学习方法》之后,发现笔记不看其实学习效果并不好。
22岁开始
·
2024-01-14 20:30
过生日
不一会儿,
李航
宇也来了,我们就一起看电影,等我们最后一个好朋友。我们看的电影名称叫《公牛历险记》这个里面讲的是有许多公牛在斗牛场上面斗牛,最后有一头身体壮实的斗牛被选中了,但是他并没有被杀死,因为观
梁鸿昌524
·
2024-01-14 00:45
第十章 准备交接今后的工作
一天时间很快过去了,穆紫峰需要晚点儿撤,因为还得去
李航
办公室拿酒呢。张毅走的时候交代了门锁上就行,工卡也是门口,直接刷就行,再次刷新了穆紫峰的认知,这真是
易卜生生
·
2024-01-13 14:33
李航
-统计学习方法-习题-第九章
9.2证明引理9.2.引理9.2若P~θ(Z)=P(Z∣Y,θ)\widetildeP_\theta(Z)=P(Z|Y,\theta)Pθ(Z)=P(Z∣Y,θ),则F(P~,θ)=logP(Y∣θ)F(\widetildeP,\theta)=logP(Y|\theta)F(P,θ)=logP(Y∣θ).证明:F(P~,θ)=EP~[logP(Y,Z∣θ)]+H(P~)=EP~[logP(Y,Z∣
chansonzhang
·
2023-12-31 07:29
AI
统计学习方法
统计学习笔记
九----EM算法
前言EM算法是一种迭代算法,1977年由Dempster等人总结提出,用于含有隐变量(hiddenvariable)的概率模型参数的极大似然估计,或极大后验概率估计。EM算法的每次迭代由两步组成:E步,求期望(expection);M步,求极大值(maximization),所以这一算法称为期望极大算法(exceptionmaximizationalgorithm),简称EM算法。极大似然估计极大
爱科研的徐博士
·
2023-12-25 23:13
【算法】
统计学习方法
EM算法
统计学
算法
R语言:多水平统计模型
转自个人微信公粽号【易学统计】的
统计学习笔记
:R语言:多水平统计模型01解决何种问题同样是九年义务教育,凭什么别人那么优秀?显然这跟每个人,不同班级,不同学校有关系,究竟是什么样的关系呢?
小易学统计
·
2023-12-24 17:22
Python实现HMM(隐马尔可夫模型)
前几天用MATLAB实现了HMM的代码,这次用python写了一遍,依据仍然是
李航
博士的《统计学习方法》由于第一次用python,所以代码可能会有许多缺陷,但是所有代码都用书中的例题进行了测试,结果正确
Chishuo_sgp
·
2023-12-22 10:15
机器学习
Python
python
李航
机器学习
概率与数理
统计学习笔记
2-估计
点估计:目的:总体分布已知情况下,借助样本来估计总体的未知参数方法:矩估计法:样本一阶矩为总体的一阶矩(即期望),样本二阶中心矩为总体的二阶中心矩(即方差)最大似然估计法:利用已知样本结果信息,反推最有可能得到样本结果出现的模型参数值估计量的评选标准:无偏性,有效性,相合性区间估计:估计出参数范围,同时给出此区间包含真实值的可信程度置信区间:反复多次抽样,样本值确定的统计量区间置信水平:1-a指置
悠悠zzz
·
2023-12-20 18:44
机器学习计划
业务,可借此机会做AI项目,搞好绩效目标:1.短期,下周四有CNN分享,提前掌握并能及时吸收提问,展现所学2.长期,养成机器学习习惯,争取年底前精通TODO:一个月内1.系统的看完一本书,如深度学习或
李航
统计学习方法
老梅大人
·
2023-12-17 10:56
概率与数理
统计学习笔记
1-随机变量
概率与数理统计学了好几遍都学不清楚,今天再刷一遍,整理出第一篇学习笔记。随机变量:随机事件的数量表现,两种类型,离散型随机变量和连续型随机变量离散型随机变量:变量取值有限个分布律:每个取值的概率0-1分布:取值只有0和1伯努利试验,二项分布:伯努利试验是试验结果只有正反两种结果的试验;二项分布是n重伯努利试验;二项分布当n=1结果就是0-1分布泊松分布:近似二项分布概率的计算方式,当n>20,p=
悠悠zzz
·
2023-12-16 07:54
概率与数理
统计学习笔记
2-假设检验
假设检验的目的:判断样本与样本,样本与总体的差异是由抽样误差造成还是本质差别造成;或是为了判断推断总体特征作出的假设是否应该接受名词解释显著性水平:原假设为真却被拒绝的概率(简称弃真概率)提出相互对立的两个假设。原假设H0通常是要被反驳的假设,备择假设H1是认为相对正确的假设检验统计量:统计量差值做过标准化之后的值(下文用差异标准值代替)拒绝域:检验结果落入此区域会被拒绝假设检验的验证方式有2种:
悠悠zzz
·
2023-12-05 20:13
李航
礼薄
图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自App图片发自
三毛三_40d8
·
2023-12-03 13:50
线性可分SVM摘记
本文主要分析了线性可分的支持向量机模型,主要取自于
李航
《统计学习方法》第七章。0.线性可分\qquad如下图所示,考虑训练数据“线性可分”的情况:\qquad\qquad假设分类面wTx+b=0\bo
zfoox
·
2023-12-02 19:11
支持向量机
算法
机器学习
李航
《统计学习方法》(第2版)清华PPT课件介绍与分享
参考:AI派
李航
博士的《统计学习方法》可以说是机器学习的入门宝典,之前StrongerTang也特意分享过,
李航
《统计学习方法》电子版、配套课件及python实现代码分享(点击即可阅读)。
StrongerTang
·
2023-12-02 14:35
支持向量机c++实现
本人参考
李航
《统计学习方法》,以及JCPlatt《SequentialMinimalOptimization:AFastAlgorithmforTrainingSupportVectorMachines
_流雲
·
2023-11-24 08:31
模式识别与机器学习
支持向量机
数据挖掘-k近邻算法的R实现
基础知识来自教材:
李航
的《统计学习方法》本人小白,仍在不断学习中,有错误的地方恳请大佬指出,谢谢!
Rr-7
·
2023-11-24 05:35
数据挖掘
数据挖掘
r语言
近邻算法
机器学习
西电
李航
操作系统课程笔记 day2 Scheduling
文章目录调度(Scheduling)何时调度怎么调度抢占和非抢占(Preemptive&Non-Preemptive)批处理调度(BatchScheduling)各时间定义SJF(Short-Job-First)交互系统调度(InteractiveSystemScheduling)Round-RobinScheduling基于优先级调度(PriorityScheduling)保证式调度(Guara
aeroseat
·
2023-11-23 16:35
西电李航
操作系统课程笔记
操作系统
第十八节 螳螂捕蝉黄雀在后面的后面
“宗哥,那天喝酒的时候小穆不是喝了酒了吗,说好的1.5个亿合同,你让
李航
带着他明天去体育局谈细节吧!”“别逗了,吃饭喝酒都是应该的,合同回头再说。”
易卜生生
·
2023-11-21 17:29
R语言|广义相加模型(GAM)
转自个人微信公粽号【易学统计】的
统计学习笔记
:R软件:广义相加模型(GAM)01解决何种问题前面一期和大家分享如何运用样条回归处理遇到的非线性问题,但这适合处理单个因变量Y对应一个自变量X的问题,而现实情况是
小易学统计
·
2023-11-19 10:19
李航
《统计学习方法》——马尔可夫链蒙特卡罗法
这篇博客是在自学
李航
老师的《统计学习方法》19章MCMC的过程中,进行简要的复述和记录,之后会在二刷三刷博客的时候增加自己对方法对口语化描述及理解,关注我一起加油吧~~文章目录19.1蒙特卡罗法19.1.1
秋男不吃牛肉豆制品牛奶小麦
·
2023-11-13 00:55
深度学习
机器学习
统计学习
统计学习方法
机器学习
什么是EM算法?
开头借用
李航
老师书中总结,概率模型有时既含有观测变量,又含有隐藏变量或者潜在变量,如果概率模型的变量都是观测变量,那么给定数据,可以直接用极大似然估计法,或者贝叶斯估计法估计模型参数,但是,当模型含有隐含变量的时候
Air_2014
·
2023-11-12 07:00
西电
李航
操作系统课程笔记 day12 deadlock
文章目录deadlock死锁概念死锁本质死锁条件死锁处理策略忽略问题(鸵鸟算法)检查并恢复动态避免死锁破坏必要条件之一死锁检测和死锁恢复检测死锁的方法资源分配图分配/请求矩阵资源轨迹图(进度图)//CSAPPnote-day13三种并发编程恢复方法抢占回滚kill死锁避免安全状态和不安全状态单资源算法多资源算法死锁预防破坏互斥破坏占有并等待破坏不可抢占破坏环路等待其他问题两阶段加锁(two-pha
aeroseat
·
2023-11-10 04:31
西电李航
操作系统课程笔记
操作系统
西电
李航
操作系统课程笔记 day1 IPC
文章目录IPC(interprocesscommunication进程间通信)竞争条件(Raceconditions)临界区(CriticalRegion)互斥方案屏蔽中断锁变量严格轮换法Peterson解法TSLSleep&Wakeup改进信号量(Semaphore)semaphore(信号量)//day13三种并发编程互斥量(mutex)条件变量(ConditionalVariables)消息
aeroseat
·
2023-11-10 04:00
西电李航
操作系统课程笔记
操作系统
摘录:转AI的一些建议
我能做的就是在这基础上,推荐了
李航
博士的《统计学习方法》1.普通程序员,如何转向人工智能方向?对普通程序员的定义是:拥有大学本科知识;平时工作较忙;自己能获取的数据有限。
wamg潇潇
·
2023-11-09 19:10
深度学习
推荐几本机器学习的书籍
推荐几本机器学习的书籍:《机器学习》(TomM.Mitchell)、《统计学习方法》(
李航
)、《深度学习》(IanGoodfellow、YoshuaBengio和AaronCourville)、《模式识别与机器学习
古斯塔夫歼星炮
·
2023-11-08 11:02
机器学习
人工智能
深度学习
python
开发语言
机器学习/数据挖掘之中国大牛
机器学习/数据挖掘之中国大牛推荐几个机器学习和数据挖掘领域相关的中国大牛:
李航
:http://research.microsoft.com/en-us/people/hangli/,是MSRAWebSearchandMiningGroup
xuyanan3
·
2023-11-05 00:45
机器学习
数据挖掘
机器学习
数据挖掘
SVM
看了
李航
的书,大致总结一下关键点吧。1.间隔的定义:函数间隔和几何间隔2.SVM优化目标:找到最大的几何间隔的分离超平面,不仅能将正负点分开,还要有足够大的确信度。
__cbf0
·
2023-11-03 02:35
图数据库对比:Neo4j vs Nebula Graph vs HugeGraph
性能测试对比本文系腾讯云安全团队
李航
宇、邓昶博撰写图数据库在挖掘黑灰团伙以及建立安全知识图谱等安全领域有着天然的优势。为了能更好的服务业务,选择一款高效并且贴合业务发展的图数据库就变得尤为关键。
NebulaGraph
·
2023-11-01 22:29
统计学习方法 决策树
文章目录统计学习方法决策树决策树模型与学习特征选择决策树的生成ID3算法C4.5的生成算法决策树的剪枝CART算法CART回归树的生成CART分类树的生成CART剪枝统计学习方法决策树阅读
李航
的《统计学习方法
Air浩瀚
·
2023-10-30 04:14
#
ML
决策树
算法
机器学习
人工智能
第三节 康复按摩之遇
李航
通知穆紫峰被录用,马上就可以来上班了,穆紫峰心中狂喜,立马就去找范代兵要辞职,没想到范代兵瞪了他一眼,“去个毛啊!老实待着,这个地方我说了算,你小子成精啊!”
易卜生生
·
2023-10-29 16:46
统计学习方法 支持向量机(下)
文章目录统计学习方法支持向量机(下)非线性支持向量机与和核函数核技巧正定核常用核函数非线性SVM序列最小最优化算法两个变量二次规划的求解方法变量的选择方法SMO算法统计学习方法支持向量机(下)学习
李航
的
Air浩瀚
·
2023-10-26 16:46
#
ML
支持向量机
算法
机器学习
人工智能
上一页
1
2
3
4
5
6
7
8
下一页
按字母分类:
A
B
C
D
E
F
G
H
I
J
K
L
M
N
O
P
Q
R
S
T
U
V
W
X
Y
Z
其他