李航统计学习第12页

python实现李航第十章HMM算法的前向、后向、维特比算法

python实现李航第十章HMM算法的前向、后向、维特比算法前向算法后向算法维特比算法前向算法理论部分参考链接：前向算法问题：给出λ\lambdaλ,求P(O∣λ)P(O|\lambda)P(O∣λ)以下只给结论

倚剑笑紅尘·2023-01-06 08:47

统计学习 EM算法 Python实现

1.EM算法是什么EM算法可以用于有监督学习，也可以用于无监督学习。这个算法是根据观测结果求得对含有隐变量的模型的参数的估计。包含E步骤和M步，E步是求期望，M步是求极大似然估计，极大参数估计是对模型参数估计的一种方法。一个典型的应用EM算法进行参数估计的例子就是敏感问题的调查，我们想要得到人群中吸烟人数的比例，可以设置这样一个问卷问题1：你的手机尾号是偶数吗？若是，回答问题2，不是，则回答问题3

中杯冰美式·2023-01-06 08:39

python 实现 softmax分类器（MNIST数据集）

最近一直在外面，李航那本书没带在身上，所以那本书的算法实现估计要拖后了。

wds2006sdo·2023-01-05 13:29

CNN超进化史（1）——从人工智能到深度学习

提示：文章内容仅代表作者个人理解和观点文章目录前言一、深度学习、机器学习和人工智能之间的关系二、人工智能弱人工智能：强人工智能：超人工智能：三、机器学习1.模式识别2.数据挖掘3.统计学习4.计算机视觉

my日月星空·2023-01-05 13:46

python实现朴素贝叶斯

其中的主要公式参考的仍然是统计学习方法中的内容。并且使用贝叶斯估计参数，并且结果和书上的内容可以完全对应上，验证了过程的可靠性。

ZZZZ_ccc·2023-01-05 12:55

二项分布_贝塔分布（multivariate Beta distribution）_多项分布_狄利克雷分布（Dirichlet distribution）_贝叶斯理论公式浅述

二项分布_贝塔分布（multivariateBetadistribution）_多项分布_狄利克雷分布（Dirichletdistribution）_贝叶斯理论公式浅述参考书籍《统计学习方法》（李航）各分布之间的关系

PRINCESS HIGHNESS.·2023-01-05 11:13

SVM的核函数

problem下列不是SVM核函数的是：A多项式核函数Blogistic核函数C径向基核函数DSigmoid核函数正确答案是：Banalysis支持向量机是建立在统计学习理论基础之上的新一代机器学习算法

加油上学人·2023-01-05 08:15

统计学习方法chapter2

统计学习方法chapter2感知机模型1.概述感知机是二分类的线性分类模型，输入为实例的特征向量，输出为实例的类别，取+1和-1两类值。

松阁~·2023-01-05 02:05

统计学习方法 EM算法的一个例子

参考《统计学习方法》第九章三硬币模型假设有3枚硬币，分别记作A,B,C.这些硬币正面出现的概率分别是π，p和q·进行如下掷硬币试验：先掷硬币A,根据其结果选出硬币B或硬币C,正面选硬币B,反面选硬币C:

陈嘟嘟cc·2023-01-04 09:26

自然语言处理第十章信息抽取复习

信息抽取信息抽取复习重点：信息抽取概述从任务内容分为：从处理文档类型分为：从发展时间和处理文档分为：实体识别与抽取限定域命名实体识别基于规则或字典的方法：规则模版（字典）+匹配统计学习方法：特征工程+算法

SiYuanFeng·2023-01-04 09:14

fisher信息矩阵_经典模式识别：Fisher线性判别

而一般基于统计学习方法难以求解高维数据，所以降维成了解决问题的突破口。对于高维空间样本，投影到一维坐标上，可能会出现样本特征混杂

weixin_40000702·2023-01-03 21:41

【补充知识】生成模型（generative model）和判别模型（discriminative model）、贝叶斯学派和概率学派

看到过好几次“生成模型”这个词了，一直不太懂，这次买了李航老师的《统计学习方法》看一下。

ViviranZ·2023-01-03 18:16

机器学习基础第一章机器学习概述

一机器学习概述1.1统计学习1学习方法监督学习，非监督学习，半监督学习2统计学习三要素模型，策略，算法1.2监督学习1基本概念输入、输出空间，特征空间，假设空间2监督学习过程1.3模型评估与选择1训练误差与测试误差

zc02051126·2023-01-03 09:57

思维导图：统计学习方法

思维导图：统计学习方法附：文本结构统计学习方法基本概念统计学习的定义又叫统计机器学习基于数据构建概率统计模型，并运用模型进行预测和分析的一门学科主要特点建立在计算机和网络之上以数据为研究对象，是数据驱动的学科目的是对数据进行预测和分析以方法为中心

路飞的纯白世界·2023-01-03 09:21

机器学习笔记（六）-神经网络：概述

本次学习笔记主要记录学习机器学习时的各种记录，包括吴恩达老师视频学习、李宏毅老师视频学习、周志华老师的《机器学习》（西瓜书）以及李航老师的《统计学习方法》。

997and·2023-01-02 11:42

Boosting中Adaboost的通俗理解

今天知乎上被私信说我对Adaboost的通俗解释很好理解，那我就把当初的答案贴下来，做个记录吧，该理解没有任何数学公式要看数学公式的推荐每个做统计算法和机器学习的人都会看的：李航统计学习方法的Adaboost

RoadmanG·2023-01-02 09:14

机器学习（六）统计学习理论

统计学习理论的意义统计学习理论提供了机器学习的一个理论基础。通过理论推导，从本质上说明了机器学习为什么会出现过拟合现象，以及过拟合与模型选择、训练数据之间有什么关系。

goodluckcwl·2023-01-02 07:22

机器学习吴恩达——第一周

1.1WelcometoML列举了一些机器学习常见的应用，如：1.手写识别2.垃圾邮件分类3.图像处理4.搜索引擎......据我看来，模式识别，统计学习，数据挖掘，计算机视觉，语音识别，自然语言处理等领域都与机器学习有很深的关联

青木长风·2023-01-01 13:19

统计学习方法-6逻辑回归

文章目录逻辑斯蒂回归模型最大熵模型模型学习的最优化算法逻辑斯蒂回归模型逻辑斯蒂分布设X是连续随机变量，X服从逻辑斯蒂分布是指X具有下列分布函数和密度函数：F(x)=P(X≤x)=11+e−(x−μ)/γF(x)=P(X\leqx)=\frac{1}{1+e^{-(x-\mu)/\gamma}}F(x)=P(X≤x)=1+e−(x−μ)/γ1f(x)=F′(x)=e−(x−μ)/γγ(1+e−(x−

◝(⑅•ᴗ•⑅)◜..°♡·2023-01-01 08:20

多元线性回归分析spss结果解读_多重线性回归分析SPSS操作与解读

转自个人微信公众号【Memo_Cleon】的统计学习笔记：多元线性回归。这次笔记的内容是多元线性回归的SPSS操作及解读。

weixin_39611340·2023-01-01 08:19

LR逻辑斯回归分析（优缺点）

本文是在学习完李航老师的《统计学习方法》后，在网上又学习了几篇关于LR的博客，算是对LR各个基础方面的一个回顾和总结。一简述逻辑斯蒂回归是一种对数线性模型。

老司机的诗和远方·2023-01-01 00:14

李航第一章机器学习与监督学习概论

1.5正则化数学原理及扩展为什么正则化能够解决过拟合的问题？为什么L1正则更具有稀疏性？答：【机器学习面试题】为什么正则化可以防止过拟合？为什么L1正则化具有稀疏性？_哔哩哔哩_bilibili1.6泛化能力常用泛化误差上界来表示泛化能力，公式是重点，可以等后面具体例子中结合一下理解1.7生成模型与判别模型直观理解：判别式模型关心边界，生成式模型关心数据本身特点简单实例：生成式模型估计的是联合概率

Lofty_goals·2022-12-31 12:40

李航老师对预训练语言模型发展的一些看法

作者|李航编译|李梅、黄楠编辑|陈彩娴从俄国数学家AndreyMarkov（安德烈·马尔可夫）提出著名的「马尔科夫链」以来，语言建模的研究已经有了100多年的历史。

zenRRan·2022-12-30 23:33

机器学习方法的基本分类

unsupervisedlearning）3、强化学习（reinforcementlearning）4、半监督学习（semi-supervisedlearning）与主动学习（activelearning）统计学习或机器学习一般包括监督学习

宁静_致远_·2022-12-30 20:09

统计学习方法李航课后习题答案第二版机器学习

李航《统计学习方法》课后习题答案（第2版）【李航课后习题解答+书中疑点推导+算法代码实现+可私聊耐心解答(48小时内回复)，包会！！】

#苦行僧·2022-12-30 10:01

统计学习导论-基于R应用学习笔记

目录误差假设检验F-检验分类classification线性判别分析（LDA）Threshold分类阀值resampling重采样留一法交叉验证（LOOCV）TheBootstrap模型精度Lasso套索多项式回归RegressionSplines回归样条Tree树Classificationtrees分类树提升treeOOB袋外误差Randomforest随机森林SVM支持向量机SupportV

Guangshan Hu·2022-12-29 22:49

机器学习-有监督无监督

前言根据学习任务的不同可将统计学习分为监督学习、无监督学习、强化学习、半监督学习、主动学习监督学习本质是学习输入输出之间映射的统计规律，好比先带人工智障认一遍那些是好瓜那些是坏瓜，让后再给人工智障一批瓜让它识别出那些是好瓜那些是坏瓜

阿孟dede·2022-12-29 22:14

机器学习算法--感知机

主要依据的算法流程是《统计学习方法》中关于感知机的算法过程，具体如下。

key_points·2022-12-29 21:43

机器学习之支持向量机(手推公式版)

3.2拉格朗日对偶函数前言支持向量机(Support(Support(SupportVectorVectorVectorMachine,SVM)Machine,SVM)Machine,SVM)源于统计学习理论

夏小悠·2022-12-28 20:55

@统计学习算法原理窥探之 HMM

@统计学习算法原理窥探之HMM文章目录问题描述探索阶段熟悉HMM概念推导HMM算法HMM求解问题分解HMM求解问题代码实现问题描述在学习HMM和使用HMM过程中，总是苦恼为什么这么别扭，推导起来犹如进入原始森林

专心研究·2022-12-28 15:50

支持向量机

支持向量机分类支持向量机(supportvectormachine,SVM)，相比于传统的BP神经网络，是一种新的机器学习方法，其基础是Vapnik创建的统计学习理论(statisticallearningtheory

一只萤火虫·2022-12-28 15:59

ccc-sklearn-7-SVM（1）

1.SVM概述源于统计学习理论，是强学习器。中文名为支持向量网络，效果十分强大，不管是线性还是非线性分类中都十分有效。是最接近深度学习的机器学习算法。

扔出去的回旋镖·2022-12-28 09:31

统计学习导论_统计学习导论|读书笔记08|线性模型特征筛选

ISLR(6)-线性模型选择与正则化乱花丛中过，只沾我爱的，信用卡最优模型的变量筛选笔记要点：0.线性模型选择1.最优子集选择(6.1.1)2.逐步选择--正向逐步--反向逐步3.选择最优模型--,AIC,BIC,andAdjusted--验证与交叉验证0.基于信用卡的线性模型选择方法介绍回顾信用数据集的十个变量这篇笔记将总结筛选预测变量子集的三种方法1.最优子集选择(枚举法)❝BackwardS

weixin_39990250·2022-12-27 19:43

统计学习（五）：线性模型选择与正则化

文章目录线性模型选择与正则化子集选择最优子集选择逐步选择向前逐步选择向后逐步选择混合方法选择最优模型C~p~，AIC，BIC与调整R^2^验证与交叉验证压缩估计方法岭回归lasso岭回归和lasso的其他形式对比lasso与岭回归岭回归和lasso的贝叶斯解释选择调节参数降维方法主成分回归主成分分析（PCA）主成分回归方法（PCR）偏最小二乘线性模型选择与正则化线性模型Y=β0+β1X1+⋯+βp

梅九九·2022-12-27 19:12

机器学习与优化论专业读本

自2013年起间歇性读过以下专业读本，大部分内容已读过一遍，少量读过2-3遍，略以记录.1.统计学习方法（第一版、第二版李航著）2.机器学习（周志华）3.PRML（Pattern-Recognition-and-Machine-Learning

scott198510·2022-12-27 15:10

第二次作业：深度学习基础

ekkoalex·2022-12-27 14:54

机器学习笔记之基础回归问题

前言本文参考了《机器学习》周志华著中的3.2节中的线性回归内容和《统计学习方法》李航著的6.1节中的逻辑回归内容，并结合逻辑回归两个实验进行总结。线性模型什么是线性模型呢？

达不溜溜球·2022-12-27 11:37

图解深度学习-神经网络

深度学习深度学习是一种统计学习方法，可以在大量数据中自动提取关键特征信息。深度学习的分类深度学习的起源有感知器和基于图模型的玻尔兹曼机。在这两个的基础上引入多层结构形成了现在的深度学习。

南妮儿·2022-12-27 06:56

机器学习之概率图模型

《统计学习方法》例10.2python代码1.2.2.状态序列预测问题算法1.2.2.1.直接暴力计算法1.2.2.2.Viterbi算法1.3

lankuohsing·2022-12-26 22:05

李航统计学习方法----感知机章节学习笔记以及python代码

目录1感知机模型2感知机学习策略2.1数据集的线性可分性2.2感知机学习策略3感知机学习算法3.1感知机学习算法的原始形式3.2感知机算法的对偶形式4感知机算法python代码感知机(perceptron)是二类分类的线性分类模型，其输入为实例的特征向量，输出为实例的类别，取+1和-1二值．感知机对应于输入空间（特征空间〉中将实例划分为正负两类的分离超平面，属于判别模型．感知机学习旨在求出将训练数

詹sir的BLOG·2022-12-26 12:09

机器学习笔记（十）-支持向量机（SVM）

本次学习笔记主要记录学习机器学习时的各种记录，包括吴恩达老师视频学习、李宏毅老师视频学习、周志华老师的《机器学习》（西瓜书）以及李航老师的《统计学习方法》。

997and·2022-12-26 09:45

统计学习方法超详细学习笔记-第五章决策树

第五章决策树决策树(decisiontree)种基本的分类与回归方法。本章主要讨论用于分类的决策树。决策树模型呈树形结构，在分类问题中，表示基于特征对实例进行分类的过程。它可以认为是if-then规则的集合，也可以认为是定义在特征空间与类空间上的条件概率分布。其主要优点是模型具有可读性，分类速度快。学习时，利用训练数据，根据损失函数最小化的原则建立决策树模型。预测时，对新的数据，利用决策树模型进行

xingS1992·2022-12-26 04:20

机器学习之感知机模型

机器学习之感知机模型写在前面感知机模型的初步理解自我理解感知机模型建立对偶形式写在前面这部分主要是基于李航老师的《统计学习方法》以及参考部分博客完成，写出来让自己更好理解。

cug_humoumou·2022-12-24 17:39

基于统计学习---面向新闻的发生地与提及地检测

基于统计学习---面向新闻的发生地与提及地检测一、摘要二、流程2.1-数据构建及数据预处理2.2-全国5级地址实体二叉树2.3-命名实体识别相关算法2.4-新闻中特征信息分析2.5-基于多个特征融合设计权重公式三

师父我坚持不住了·2022-12-24 13:31

【白话机器学习】算法理论+实战之K-Means聚类算法

常见的机器学习算法：监督学习算法：逻辑回归，线性回归，决策树，朴素贝叶斯，K近邻，支持向量机，集成算法Adaboost等无监督算法：聚类，降维，关联规则,PageRank等为了详细的理解这些原理，曾经看过西瓜书，统计学习方法

算法channel·2022-12-24 11:04

【机器学习】Adaboost、GBDT、XGBoost算法原理解析

GBDT和XGBoost《统计学习方法》与《机器学习》这两本书中都没有涉及，但是看别人在牛客网上的面经分享都有提到，其实这两个算法主要在竞赛中经常被用到，因此还是有必要了解一下。

秋天的波·2022-12-24 10:58

决策树与随机森林

2.生成（步骤和公式的话，《统计学习方法》讲的很清楚）决策树学习采用自顶向下的递归方法，以信息熵为度量构造一棵熵值下降最快的树，到叶子节点处的

JNYxiaocao·2022-12-24 08:59

SVM(6)——序列最小最优化算法(SMO)代码

一、代码根据李航统计学习方法第一版的公式进行编写，与sklearn的svm进行对比importnumpyasnpfromsklearnimportdatasetsfromsklearn.model_selectionimporttrain_test

嘻哈过路人·2022-12-23 13:12

人工智能算法（1）感知机原理及代码实现（C#）

统计学习方法|感知机原理剖析及实现对感知机的讲解很直观。例如有一堆零件，每个零件有重量、长度等。

长安山南君·2022-12-23 10:50

推荐频道

李航统计学习