李航-统计机器学习第2页

什么是EM算法？

开头借用李航老师书中总结，概率模型有时既含有观测变量，又含有隐藏变量或者潜在变量，如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计法，或者贝叶斯估计法估计模型参数，但是，当模型含有隐含变量的时候

Air_2014·2023-11-12 07:00

西电李航操作系统课程笔记 day12 deadlock

文章目录deadlock死锁概念死锁本质死锁条件死锁处理策略忽略问题(鸵鸟算法)检查并恢复动态避免死锁破坏必要条件之一死锁检测和死锁恢复检测死锁的方法资源分配图分配/请求矩阵资源轨迹图(进度图)//CSAPPnote-day13三种并发编程恢复方法抢占回滚kill死锁避免安全状态和不安全状态单资源算法多资源算法死锁预防破坏互斥破坏占有并等待破坏不可抢占破坏环路等待其他问题两阶段加锁(two-pha

aeroseat·2023-11-10 04:31

西电李航操作系统课程笔记 day1 IPC

文章目录IPC(interprocesscommunication进程间通信)竞争条件(Raceconditions)临界区(CriticalRegion)互斥方案屏蔽中断锁变量严格轮换法Peterson解法TSLSleep&Wakeup改进信号量(Semaphore)semaphore(信号量)//day13三种并发编程互斥量(mutex)条件变量(ConditionalVariables)消息

aeroseat·2023-11-10 04:00

摘录：转AI的一些建议

wamg潇潇·2023-11-09 19:10

机器学习/数据挖掘之中国大牛

xuyanan3·2023-11-05 00:45

贝叶斯变分方法：初学者指南--平均场近似

EricJang:ABeginner'sGuidetoVariationalMethods:Mean-FieldApproximation(evjang.com)一、说明变分贝叶斯(VB)方法是统计机器学习中非常流行的一系列技术

无水先生·2023-11-03 13:30

SVM

看了李航的书，大致总结一下关键点吧。1.间隔的定义：函数间隔和几何间隔2.SVM优化目标：找到最大的几何间隔的分离超平面，不仅能将正负点分开，还要有足够大的确信度。

__cbf0·2023-11-03 02:35

图数据库对比：Neo4j vs Nebula Graph vs HugeGraph

性能测试对比本文系腾讯云安全团队李航宇、邓昶博撰写图数据库在挖掘黑灰团伙以及建立安全知识图谱等安全领域有着天然的优势。为了能更好的服务业务，选择一款高效并且贴合业务发展的图数据库就变得尤为关键。

NebulaGraph·2023-11-01 22:29

统计学习方法决策树

文章目录统计学习方法决策树决策树模型与学习特征选择决策树的生成ID3算法C4.5的生成算法决策树的剪枝CART算法CART回归树的生成CART分类树的生成CART剪枝统计学习方法决策树阅读李航的《统计学习方法

Air浩瀚·2023-10-30 04:14

第三节康复按摩之遇

李航通知穆紫峰被录用，马上就可以来上班了，穆紫峰心中狂喜，立马就去找范代兵要辞职，没想到范代兵瞪了他一眼，“去个毛啊！老实待着，这个地方我说了算，你小子成精啊！”

易卜生生·2023-10-29 16:46

机器学习实战梯度上升数学推导_机器学习-白板推导系列(二)-数学基础笔记

视频如下：机器学习-白板推导系列(二)-数学基础_哔哩哔哩(゜-゜)つロ干杯~-bilibiliwww.bilibili.com一、概率-高斯分布1-极大似然估计高斯分布在统计机器学习中占据重要的地位。

weixin_39644377·2023-10-28 17:24

统计学习方法支持向量机（下）

文章目录统计学习方法支持向量机（下）非线性支持向量机与和核函数核技巧正定核常用核函数非线性SVM序列最小最优化算法两个变量二次规划的求解方法变量的选择方法SMO算法统计学习方法支持向量机（下）学习李航的

Air浩瀚·2023-10-26 16:46

统计学习方法拉格朗日对偶性

文章目录统计学习方法拉格朗日对偶性原始问题对偶问题原始问题和对偶问题的关系统计学习方法拉格朗日对偶性读李航的《统计学习方法》时，关于拉格朗日对偶性的笔记。

Air浩瀚·2023-10-26 16:46

统计学习方法支持向量机（上）

文章目录统计学习方法支持向量机（上）线性可分支持向量机与硬间隔最大化定义硬间隔最大化对偶算法线性支持向量机与软间隔最大化定义软间隔最大化对偶算法合页损失函数统计学习方法支持向量机（上）读李航的《统计学习方法

Air浩瀚·2023-10-26 16:42

李航统计学习感知机算法实现

前言李航的《统计学习方法》和西瓜书是入门机器学习进而到深度学习的经典书籍，笔者是数学专业大二在读，在编程方面仍有许多不足之处，在已经看完相关经典书籍后开始编程实践。

没有改名卡y·2023-10-21 08:09

李航统计学习--感知机算法实现（python）

感知机1．感知机是根据输入实例的特征向量xxx对其进行二类分类的线性分类模型：f(x)=sign⁡(w⋅x+b)f(x)=\operatorname{sign}(w\cdotx+b)f(x)=sign(w⋅x+b)感知机模型对应于输入空间（特征空间）中的分离超平面w⋅x+b=0w\cdotx+b=0w⋅x+b=0。2．感知机学习的策略是极小化损失函数：min⁡w,bL(w,b)=−∑xi∈Myi(

_dingzhen·2023-10-21 08:38

统计学习方法隐马尔可夫模型

文章目录统计学习方法隐马尔可夫模型基本概念概率计算问题直接计算法前向算法后向算法前向概率和后向概率学习问题监督学习算法Baum-Welch算法E步M步参数估计公式算法描述解码问题近似算法Viterbi算法统计学习方法隐马尔可夫模型读李航的

Air浩瀚·2023-10-21 08:37

统计学习方法感知机

文章目录统计学习方法感知机模型定义学习策略学习算法原始算法对偶算法学习算法的收敛性统计学习方法感知机读李航的《统计学习方法》时，关于感知机的笔记。

Air浩瀚·2023-10-21 08:05

当初我要是这么学习Nginx就好了！（多图详解）

来自公众号：51CTO技术栈作者：李航“本文主要帮助大家熟悉Nginx有哪些应用场景、Nginx特点和架构模型以及相关流程、Nginx定制化开发的几种模块分类。读完本文你将对Nginx有一定的认识。

夜空_2cd3·2023-10-19 23:51

统计学习方法 EM 算法

文章目录统计学习方法EM算法引入EM算法EM算法的导出EM算法的收敛性三硬币模型统计学习方法EM算法学习李航《统计学习方法》时关于EM算法的笔记引入概率模型中有时候同时包含观测变量（observablevariable

Air浩瀚·2023-10-19 10:11

2018年8月9日

地来到公司并打扫工位，学长继续出差中，但是休产假的另一个同事倒是回来了……上午闲着没事看了看李航的统计机器学习，超困，中午睡了半个小时午觉后好了点。

真昼之月·2023-10-18 05:36

李航：关于大模型的思考及研究热点

本文阐述李航老师对LLM的一些看法，主要观点如下：ChatGPT的突破主要在于规模带来的质变和模型调教方式的发明。LLM融合了实现人工智能的三条路径。LLM的开发需要结合第三者体验和第一者体验。

机器学习社区·2023-10-17 23:52

浅谈从机器学习到深度学习

频率派发展成统计机器学习，贝叶斯派发展成概率图模型。

江小北·2023-10-16 04:38

腾讯自然语言处理实习面经

在内推前，简单把李航的统计学习方法，简历涉及的知识点都过了一遍，整理了一下，同时leetcode刷了大概100题。准备过后就把简历给师兄了。

zenRRan·2023-10-15 14:36

概率论入门之《统计机器学习导论》阅读笔记（第一，二章）

第一章统计机器学习第一章主要介绍了机器学习的分类：监督学习，非监督学习，强化学习。然后介绍了监督学习的三大主要任务：回归，分类，排序，以及非监督学习的聚类。

生而为弟·2023-10-14 02:34

【深蓝学院】手写VIO第6章--视觉前端--作业(SVD分解部分复习)

总结一下，关于奇异值分解(SingularValueDecomposition，SVD)有以下内容摘抄自该博客，关于SDV分解的部分应该是摘自李航《统计学习方法里面的》：1.特征值分解设A为n阶方阵，若存在数

读书健身敲代码·2023-10-12 13:32

监督学习方法与无监督学习方法总结

（一）监督学习10种监督学习方法特点的概括汇总如下表：（二）无监督学习八种常用的统计机器学习方法，即聚类方法（包括层次聚类与k均值聚类）、奇异值分解（SVD）、主成分分析（PCA）、潜在语义分析（LSA

daisyxyr·2023-10-11 13:59

【统计机器学习】考核标准 + 课堂练习题汇总

写在前面1：上课老师是：付学谦老师及其博士助教。上课带纸笔和人就行。2：上课的内容和作业量相比于其他选修课较为轻松，且只有大作业和论文报告，没有考试！！！基本上最后会留20min给同学们写课堂练习题。3：最好拍下每张ppt，指不定哪道题就用上了。以及现在是GPT时代，善用工具会事半功倍。4：平时分而言，我个人觉得挺玄学的，每次课都做前排且上课听讲并回答问题，最后也只拿了B+。5：所以，只是为了刷成

MorleyOlsen·2023-10-11 08:02

机器学习代码实现篇——SVM

主体推导是根据李航老师《统计学习方法

lavendelion·2023-10-11 00:17

转载:Nginx 架构及核心流程及模块介绍

转载:Nginx架构及核心流程及模块介绍来源：公众号分布式存储缓存高性能作者：李航1.Nginx简介以及特点Nginx简介：Nginx(enginex)是一个高性能的Web服务器和反向代理服务器，也是一个

meng_philip123·2023-10-07 14:10

《统计机器学习》学习笔记第三章之K近邻

这是一个关于统计机器学习的系列笔记。K近邻法(k-nearestneighbors,KNN)是一种很基本的机器学习方法了，在我们平常的生活中也会不自主的应用。

资料加载中·2023-10-07 05:22

统计学习笔记——统计学习三要素

参考书：《统计学习方法》——李航统计学习的三要素为：模型、策略、算法。写在前面的话：以下以监督学习为基础来进行论述。

Fiona_ll·2023-10-05 20:08

玩转人工智能中的机器学习之著名教材

audyxiao001·2023-10-05 07:57

【AI】大数据机器学习—统计学习及监督学习概论

参考书是李航的《统计学习方法》，该书主要讨论监督学习。统计学习作为一个研究领域，主要包括统计学习方法、统计学习理论和统计学习应用。统计学习方法主要关注的问题是设计新的学习方法。

CSU_DEZ_THU·2023-10-05 07:26

李航老师《统计学习方法》第6章阅读笔记

逻辑斯谛回归（logisticregression）是统计学习中的经典分类方法。最大熵是概率模型学习的一个准则，将其推广到分类问题得到最大熵模型（maximumentropymodel）。逻辑斯谛回归模型与最大熵模型都属于对数线性模型。对数线性模型（Log-linearmodel）是一种统计模型，通常用于分析离散数据的关系，特别是在分类和回归问题中。这种模型的名称来源于其基本形式，其中自变量的对数

Chen_Chance·2023-09-29 01:17

李航老师《统计学习方法》第1章阅读笔记

1.1统计学习统计学习的特点统计学习：计算机基于数据构建概率统计模型并运用模型对数据进行预测与分析现在人们提及机器学习时，往往指统计机器学习，所以可以认为本书介绍的是机器学习方法统计学习的对象统计学习研究的对象是数据

Chen_Chance·2023-09-27 01:13

李航老师《统计学习方法》第五章阅读笔记

决策树（decisiontree）是一种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。以下是关于分类决策树的一些基本概念和特点：树形结构：决策树模型呈现为一种树状结构，其中包括根节点、内部节点和叶子节点。每个节点表示一个特征或属性，每个边表示一个特征值或属性值的判断条件。从根节点开始，通过遵循不同的条件路径，最终到达叶子节

Chen_Chance·2023-09-24 00:50

从统计语言模型到预训练语言模型---统计语言模型

语言模型从历史上来看，自然语言处理的研究范式变化是从规则到统计，从统计机器学习到基于神经网络的深度学习，这同时也是语言模型发展的历史。要了解语言模型的发展历史，首先我们需要认识什么是语言模型。

hanscalZheng·2023-09-23 22:15

李航老师《统计学习方法》第四章阅读笔记

朴素贝叶斯法是基于贝叶斯定理与特征条件独立假设的分类方法。朴素贝叶斯法是一种用来进行分类的方法，它基于两个重要的假设：贝叶斯定理和特征条件独立假设。贝叶斯定理：贝叶斯定理是一种用来估计事件发生概率的数学原理。它告诉我们如何根据已知的信息来计算未知事件的概率。在分类问题中，我们希望找到最有可能的类别，贝叶斯定理帮助我们基于已知信息来估计这些概率。特征条件独立假设：这是朴素贝叶斯法的一个关键假设，它有

Chen_Chance·2023-09-23 19:15

Hoeffing不等式

在李航老师的统计学习方法（第一版中）Hoeffing不等式Hoeffing不等式Hoeffing不等式是这样子给出的设X1,X2,...,XNX_1,X_2,...,X_NX1,X2,...,XN是独立随机变量

Chen_Chance·2023-09-23 07:40

李航老师《统计学习方法》第2章阅读笔记

感知机（perceptron）时二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值。感知机对应于输入空间（特征空间）中将实例划分为正负两类的分离超平面想象一下在一个平面上有一些红点和蓝点，这些点代表不同的类别。分离超平面就是一条线，可以将红点和蓝点分开，使得所有的红点都在一侧，而蓝点都在另一侧。这条线（或者平面，对于高维数据）被称为分离超平面。2.1感知机模型定义2

Chen_Chance·2023-09-22 21:40

统计机器学习（二）-- 概率（3、4、5、6）

概率1.1概率空间和事件样本空间是实验所有可能结果的空间，,是一个元素或者实现事件是样本空间的子集测度论相关巴拉巴拉随机变量离散随机变量(0-1)分布数学期望二项分布数学期望性质函数n:整数推广NegativeBinomialDistribution几何分布数学期望比如丢硬币得到一次正面所需要的次数泊松分布泊松定理注意：意味着当n很大的时候必定很小可能场景：一本书中一页的印刷错误，一天内病人的人数

雪茸川·2023-09-21 21:50

应届生校招经验汇总（主银行）

按照时间轴来写，从2019年七月份开始，到2019年12月结束我是武汉一名高校的研究生，2019年2月开始接触机器学习的内容，起先读了李航的《统计学习方法》，之后陆续读了西瓜书、python数据结构、算法第四版前几部分章节和

白色纯度·2023-09-19 06:43

概率有向图模型（一）

文章目录前言概率有向图模型验证回到书中隐马尔可夫模型信念网络朴素贝耶斯总结前言经过前面的复习，我们把李航老师的《统计学习方法》中的监督学习部分回顾了一遍，接下来我们在此基础上，开始学习邱锡鹏老师的《神经网络与深度学习

赛文忆莱文·2023-09-14 12:05

【机器学习实践】隐马尔可夫模型（二）Viterbi算法

隐马尔可夫模型的预测问题已知一条可见层状态链，推导出最有可能的隐藏层状态链Viterbi算法维特比算法通过：全局最大概率必在每步优化时取得最大概率参考资料：《统计学习方法》李航清华大学（ppt）python

不给自己画饼·2023-09-05 22:05

【AI】机器学习——绪论

文章目录1.1机器学习概念1.1.1定义统计机器学习与数据挖掘区别机器学习前提1.1.2术语1.1.3特点以数据为研究对象目标方法——基于数据构建模型SML三要素SML步骤1.2分类1.2.1参数化/非参数化方法

AmosTian·2023-09-05 11:00

统计机器学习 -- 目录

概率基础随机变量1随机变量2高斯分布连续分布例子scalemixturepisribarinjeffreypriorstatisticinterenceLaplace变换多元分布定义概率变换jacobianwedgeproduction统计量多元正态分布Wishart分布矩阵元Beta分布统计量充分统计量指数值分布共轭先验性质EntropyKLdistanceproperties概率不等式1概率不

雪茸川·2023-09-04 21:03

EM算法总结（一）

参考：文曲经典：统计学习方法-李航参数分析θ=[P(z1∣x),P(z2∣x),⋯ ,P(zm∣x),P(y1∣z1,x),P(y2∣z1,x),⋯ ,P(yn∣z1,x),P(y1∣z2,x)⋯ ,P

赛文忆莱文·2023-09-04 16:13

1.统计学习及监督学习概论

统计学习也称为统计机器学习。

徴徴南风·2023-09-03 23:55

推荐频道

李航-统计机器学习