02_统计学习第19页

02_统计学习

《机器学习》读书笔记1——基本概念

文章目录一、统计学习方法的概述二、机器学习的主要任务2.1什么是模型2.2极大似然估计2.3生成式模型和判别式模型2.3.1生成式模型和判别式模型区别2.3.2为啥判别式模型预测效果更好2.4损失函数2.5

神洛华·2022-11-28 16:39

1.1 统计学习

统计学习什么是统计学习？统计学习的步骤统计学习的分类这是我第写博客的二个阶段，上次写博客是因为想尝试一下新的事物，这次不一样。

是我樂樂呀·2022-11-28 15:34

【鲁鹏】计算机视觉（本科）_卷积与边缘提取_02/03

（0）引言#课程链接：计算机视觉（本科）北京邮电大学鲁鹏清晰完整合集_哔哩哔哩_bilibili#课程覆盖：02_卷积与边缘提取（上）03_边缘提取（下）和拟合（上）【边缘提取直接合并到02了】#课程大纲

惜年_night·2022-11-28 15:02

西瓜书前2章-task1

task1-前2章序几个概念：符号学习、统计学习、迁移学习、深度学习、流形学习第一章绪论机器学习：机器从经验数据中“提炼”模型的学习算法；若一个程序利用经验E在T任务中P方面的性能获得改善，则称关于T和

泠月清风·2022-11-28 13:05

matlab用多核心gpu,Matlab高级教程_第二篇：Matlab相见恨晚的模块_02_并行运算-利用GPU并行执行MATLAB程序...

1MATLAB原文：如果所有你想使用的函数支持GPU，你能够使用gpuArray把输入的数据传输到GPU，也能够唤起gather命令把传输值GPU的数据回收。2通过gpuDevice命令观察当前电脑的GPU设备>>gpuDeviceans=CUDADevice(具有属性):Name:'GeForceGT430'%GPU设备的型号Index:1%当前GPU设备的编号ComputeCapability

weixin_39849800·2022-11-28 12:55

统计学习方法第十六章作业：PCA主成分分析算法代码实现

PCA主成分分析importnumpyasnpclassPCA:def__init__(self,x,R=None):self.x=np.array(x)self.dim=self.x.shape[-1]self.num=self.x.shape[0]self.R=Rself.X=Noneself.r_list=Noneself.r_v=Noneself.nk=Noneself.X_=Nonede

是算法不是法术·2022-11-28 10:43

《统计学习方法》第十四章聚类算法

一、写在前面本文是《统计学习方法》第十四章聚类方法读书笔记。

骑猪流浪江湖·2022-11-28 10:43

统计学习方法学习笔记：第十四章：聚类方法

第十四章：聚类方法基本概念聚类是根据样本之间的相似度或距离来将样本进行归类，不同的距离度量方式会影响最终的聚类效果，常用的距离或相似度有下列：闵可夫斯基距离：欧式、曼哈顿距离、切比雪夫距离等马哈拉诺比斯距离：dij=[(xi−xj)TS−1(xi−xj)]12,d_{ij}=[(x_i-x_j)^TS^{-1}(x_i-x_j)]^{\frac{1}{2}},dij=[(xi−xj)TS−1(xi

小滔滔ahh·2022-11-28 10:12

统计学习方法学习笔记：第十六章.主成分分析

第十六章：主成分分析（PCA:principalcomponentanalysis）利用正交变换\color{red}{正交变换}正交变换把由线性相关变量表示的观测数据转换为少数几个由线性无关变量表示\color{red}{由线性无关变量表示}由线性无关变量表示的数据，同时尽可能的保留较多的原始数据信息，线性无关的变量称为主成分，\color{red}{线性无关的变量称为主成分}，线性无关的变量称

小滔滔ahh·2022-11-28 10:12

《统计学习方法》第 14 章聚类方法 KMeans

k-均值聚类n个样本分到k个不同的类或簇，每个样本到其所属类的中心的距离最小。每个样本只能属于一个类，所有k-均值聚类是硬聚类。模型k

weixin_34406061·2022-11-28 10:11

电信保温杯笔记——《统计学习方法（第二版）——李航》第14章聚类方法

电信保温杯笔记——《统计学习方法（第二版）——李航》第14章聚类方法介绍聚类的基本概念样本的相似度或距离闵可夫斯基距离马哈拉诺比斯距离相关系数夹角余弦类或簇定义特征距离聚类算法层次聚类聚合聚类步骤例子k

电信保温杯·2022-11-28 10:40

李航老师《统计学习方法》第十六章主成分分析课后题答案

其他章节答案请参考我的汇总统计学习方法答案汇总，都是自己写的。

六七～·2022-11-28 10:39

李航老师《统计学习方法》第十四章聚类方法课后题答案

其他章节答案请参考我的汇总统计学习方法答案汇总，都是自己写的。1、试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。

六七～·2022-11-28 10:38

《统计学习方法（第2版）》李航第16章主成分分析 PCA 思维导图笔记及课后习题答案（步骤详细）PCA 矩阵奇异值第十六章

16.1对以下样本数据进行主成分分析：X=[233457245568]X=\left[\begin{array}{llllll}2&3&3&4&5&7\\2&4&5&5&6&8\end{array}\right]X=[223435455678]由于手解数据不是那么“友好”所以直接用代码求解：importnumpyasnpX=np.array([[2,3,3,4,5,7],[2,4,5,5,6,8]

ML--小小白·2022-11-28 10:08

《统计学习方法（第2版）》李航第14章聚类方法思维导图笔记及课后习题答案（步骤详细） k-均值层次聚类第十四章

思维导图：14.1试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。i.计算n个样本两两之间的距离，并将所有样本看作一个类，将样本间最大距离作为类直径；ii.对于类直径最大的类，将其中相距最远，也就是距离为类直径的两个样本分成两个新类，该类其他样本就近（相对于那两个选中的样本）归于两个类之一；iii.如果类别个数达到停止条件（预设的分类书）则停止，否则回到ii.步骤。模型复杂度O(

ML--小小白·2022-11-28 10:38

第十四章聚类方法.14.3K均值聚类

文章目录主要内容k均值聚类的定义样本空间划分k均值聚类策略算法步骤例题k均值聚类算法特性收敛性初始类的选择类别数k的选择k均值聚类缺点改进本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法

oldmao_2000·2022-11-28 10:37

第十四章聚类方法.14.2.5有序样本分类法

文章目录主要内容算法功能与数据类型有序聚类步骤定义类的直径定义分类的损失函数最优解的求法例子：本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法》第二版。

oldmao_2000·2022-11-28 10:07

《统计学习方法》（第十四章）——聚类方法

聚类基本概念相似度或距离相似度或距离: 聚类的核心是相似度或距离的定义，它将直接影响到聚类的结果闵可夫斯基距离dij=(∑k=1m∣xki−xkj∣)1pd_{ij}=(\sum\limits_{k=1}^m|x_{ki}-x_{kj}|)^{\frac{1}{p}}dij=(k=1∑m∣xki−xkj∣)p1p=2时偶啦距离p=2时偶啦距离p=2时偶啦距离p=1时曼哈顿距离p=1时曼哈顿距离p

mkopvec·2022-11-28 10:06

第十四章聚类方法.14.2.4确定最佳聚类数

1、给定阈值2、数据点散布图3、根据统计量分析聚类数量预备知识R2R^2R2统计量半偏R2R^2R2统计量伪F统计量伪t2t^2t2统计量谱系图本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法

oldmao_2000·2022-11-28 10:06

《统计学习方法》学习笔记第十四章聚类方法

目录1聚类的基本概念1.1相似度或距离1.2类（class）或簇（cluster）1.2.1类或簇的定义1.2.2类的特征1.3类与类之间的距离（linkage）2Hierarchicalclustering3k-meansclustering3.1模型3.2策略3.3算法3.4算法特性总结前情提要：见第十三章无监督学习概论1聚类的基本概念1.1相似度或距离假设有n个样本，每个样本由m个属性的特征

LittleFish0820·2022-11-28 10:05

《统计学习方法》学习笔记第十六章 PCA(principal component analysis)

目录1总体主成分分析1.1基本想法1.2定义和导出1.3主要性质1.4主成分的个数1.5规范化变量的总体主成分2样本主成分分析2.1样本主成分2.2相关矩阵的特征值分解方法2.3数据矩阵的奇异值分解算法总结1总体主成分分析1.1基本想法（以前学过，很好理解，不放了）1.2定义和导出x=(x1,x2,⋯ ,xm)T\bm{x}=(x_1,x_2,\cdots,x_m)^Tx=(x1,x2,⋯,xm)

LittleFish0820·2022-11-28 10:05

复现经典：《统计学习方法》第16章主成分分析

第16章主成分分析本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读。

风度78·2022-11-28 10:03

从奇异值分解SVD到主成分分析PCA

SVD）简介1.1矩阵A(A∈Rm×nA\inR^{m\timesn}A∈Rm×n)的奇异值分解1.2SVD的紧凑形式1.3SVD的截断形式2.奇异值分解的求解过程3.主成分分析（PCA）实现3.1《统计学习方法

L1_Zhang·2022-11-28 10:02

复现经典：《统计学习方法》第14章聚类方法

第14章聚类方法本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读。

湾区人工智能·2022-11-28 10:00

《统计学习方法》第十六章主成分分析PCA

主成分分析(PCA)假设xxx为mmm维随机变量，其均值为μ\muμ，协方差矩阵为Σ\SigmaΣ考虑由mmm维随机变量xxx到mmm维随机变量yyy的线性变换yi=αiTx=∑k=1mαkixk,i=1,2,⋯ ,my_{i}=\alpha_{i}^{T}x=\sum_{k=1}^{m}\alpha_{ki}x_{k},\quadi=1,2,\cdots,myi=αiTx=k=1∑mαkixk,

小鹏AI·2022-11-28 10:30

《统计学习方法》第十四章聚类方法

聚类方法1.聚类是针对给定的样本，依据它们属性的相似度或距离，将其归并到若干个“类”或“簇”的数据分析问题。一个类是样本的一个子集。直观上，相似的样本聚集在同类，不相似的样本分散在不同类。2.距离或相似度度量在聚类中起着重要作用。常用的距离度量有闵可夫斯基距离，包括欧氏距离曼哈顿距离、切比雪夫距离、、以及马哈拉诺比斯距离。常用的相似度度量有相关系数、夹角余弦。用距离度量相似度时，距离越小表示样本越

小鹏AI·2022-11-28 10:29

《统计学习方法》第三章 K近邻法(原理+代码)

KKK近邻法kkk近邻法是基本且简单的分类与回归方法kkk近邻法的基本做法是:对给定的训练实例点和输入实例点，首先确定输入实例点的kkk个最近邻训练实例点利用这kkk个训练实例点的类的多数来预测输入实例点的类kkk近邻模型是对应于基于训练数据集对特征空间的一个划分kkk近邻法中，当训练集、距离度量、kkk值及分类决策规则确定后，其结果唯一确定kkk近邻法三要素：距离度量、kkk值的选择和分类决策规

小鹏AI·2022-11-28 04:39

python泰坦尼克号数据预测_机器学习入门之Python机器学习：泰坦尼克号获救预测一...

一、项目概要1、应用模式识别、数据挖掘(核心)、统计学习、计算机视觉、语言识别、自然语言处理2、模式、流程训练样本-->特征提取-->学习函数-->预测二、Python实践1、应用的模块Numpy：科学计算库

weixin_39715997·2022-11-27 21:30

NNDL 实验五前馈神经网络（3）鸢尾花分类

深入研究鸢尾花数据集画出数据集中150个数据的前两个特征的散点分布图：【统计学习方法】感知机对鸢尾花(iris)数据集进行二分类4.5实践：基于前馈神经网络完成鸢尾花分类继续使用第三章中的鸢尾花分类任务

Guo_weiqi·2022-11-27 09:37

机器学习案例：孕妇吸烟与胎儿健康

想到刚刚入门数学建模时《数学模型》中统计学习的第一章，孕妇吸烟与胎儿健康问题。数据集在这这里以孕妇吸烟与胎儿健康为例，建立模型，希望通过各类特征预测新生儿体重。

羽星_s·2022-11-27 08:47

机器学习笔记（十一）-聚类（Clustering）

本次学习笔记主要记录学习机器学习时的各种记录，包括吴恩达老师视频学习、李宏毅老师视频学习、周志华老师的《机器学习》（西瓜书）以及李航老师的《统计学习方法》。

997and·2022-11-27 08:03

深度学习/机器学习资料汇总

MachineLearningDeepLearningSeq2SeqLSTMAttentionSelf-AttentionTransfomerBert(这周目标）读研期间收集的学习资料汇总（持续更新中）MachineLearning西瓜书以及统计学习方法笔记

金州啦啦啦啦文·2022-11-27 07:50

Datawhale-Task3决策树算法梳理

（ID3算法、C4.5、CART分类树）的原理及应用场景3.回归树原理4.决策树防止过拟合手段5.模型评估6.sklearn参数详解，Python绘制决策树参考：西瓜书cs229吴恩达机器学习课程李航统计学习谷歌搜索公式推导参考

Zzichen_ovo·2022-11-27 03:07

处理效应模型stata实例_重复测量数据分析系列：再谈多层混合效应模型（基于Stata）...

转自个人微信公众号【Memo_Cleon】的统计学习笔记：重复测量数据分析系列：再谈多层混合效应模型（基于Stata）。感觉从来没有一个模型有这么多的名字。

律姐有范儿·2022-11-26 18:26

统计学习方法——（第七章）支持向量机详解与推导

一、知识梳理二、支持向量机1、原理SVM作为传统机器学习的一个非常重要的分类算法，它是一种通用的前馈网络类型，最早是由VladimirN.Vapnik和Alexey在1963年提出，目前的版本是CorinnaCortes和Vapnik在1993年提出，1995年发表。深度学习（2012）出现之前，SVM被认为是机器学习中近十几年最成功表现最好的算法。支持向量机（supportvectormachi

我学数学我骄傲·2022-11-26 14:50

统计学习方法读书笔记15-逻辑斯蒂回归习题

文章目录1.课后习题2.视频课后习题1.课后习题importnumpyasnpimporttimeimportmatplotlib.pyplotaspltfrommpl_toolkits.mplot3dimportAxes3Dfrompylabimportmpl#图像显示中文mpl.rcParams['font.sans-serif']=['MicrosoftYaHei']classLogisti

哎呦-_-不错·2022-11-26 02:56

用python写梯度下降算法实现逻辑斯蒂回归

1.logistic的理论基础可参考网上一位大佬写的李航的《统计学习方法》笔记pdf笔记文档链接：链接：https://pan.baidu.com/s/1Gee9aOdNvemy5K6co1daZg提取码

melicent114·2022-11-26 02:52

机器学习-逻辑斯蒂回归与最大熵模型概述-数学推导及乳腺癌数据分类python实现

最大熵模型（MaximumEntropyModel）2.2定义最大熵模型3.Python实现3.1数据集3.2代码及运行结果4.总结1.逻辑蒂斯回归逻辑蒂斯回归（logisticregression）是统计学习中的经典分类方法

菜菜小硕·2022-11-26 02:44

逻辑斯蒂回归模型——逻辑斯蒂分布、二项逻辑斯蒂回归模型、参数估计与多项逻辑斯蒂回归

本笔记整理自李航老师《统计学习方法》第二版第六章逻辑斯蒂回归是统计学习中经典的分类方法。

如化雨·2022-11-26 02:44

机器学习之树形算法(一)：决策树

目录一、决策树介绍二、决策树特征选择三、决策树的生成四、决策树的剪枝五、CART算法总结参考资料：《统计学习方法》李航一、决策树介绍目前最流行的一类机器学习算法是树形算法（决策树、随机森林、GBDT、XGBoost

大哇唧·2022-11-25 21:08

（四）决策树与python代码实现ID3算法

李航老师《统计学习方法》第二版学习笔记知识点：决策树是一种基本的分类与回归方法，是基于树结构来进行决策的根据损失函数最小化的原则建立决策树模型决策树内部节点表示一个特征或属性，叶节点表示一个类决策树可以看成

十二十二呀·2022-11-25 17:41

我们追求的泛化，竟是一条死路？

文|鹰钩鼻涕虫从我们刚刚接触统计学习方法开始，想必就一直在接受一个思想：相比符号算法，统计模型最重要的能力之一，即是它的泛化能力。

夕小瑶·2022-11-25 15:20

Transductive Learning vs Inductive Learning

在统计学习中，转导推理（Transductiv

wendox·2022-11-25 09:07

转导学习 transductive learning

TransductiveLearning)区别于归纳推理（InductiveInference）从特殊到一般，再从一般到特殊的学习方式，转导推理（TranductiveInference）是一种从特殊到特殊的统计学习

TBYourHero·2022-11-25 09:35

端到端的含义，统计学习、机器学习和深度学习的区别与联系

什么是端到端（end-to-end）端到端通俗来说就是不需要进行特征提取，输入的是原始的数据，输出的就是最后的结果。经典机器学习方式是以人类的先验知识将raw数据预处理成feature，然后对feature进行分类。分类结果十分取决于feature的好坏。所以过去的机器学习专家将大部分时间花费在设计feature上。那时的机器学习有个更合适的名字叫特征工程（featureengineering）随

ddwyz·2022-11-25 09:30

统计学习方法(李航) 支持向量机附python及sklearn实现

支持向量机有监督学习分类问题VapnikVapnikVapnik线性可分支持向量机/线性支持向量机/非线性支持向量机什么是支持向量机呢？SupportVectorMachineSupport\spaceVector\spaceMachineSupportVectorMachine：支持向量机先抛出难懂的定义～可以先跳过，最后再来回顾定义：支持向量机的基本模型是定义在特征空间上的间隔最大的线性分类器

tsuiraku·2022-11-25 07:09

支持向量机SVM（包括线性核、多项式核、高斯核）python手写实现+代码框架说明

支持向量机SVM（包括线性核、多项式核、高斯核）python手写实现理论理论参考《统计学习方法》Chapter.7支持向量机（SVM）完整代码见github仓库：https://github.com/wjtgoo

taotaoiit·2022-11-25 07:36

电信保温杯笔记——《统计学习方法（第二版）——李航》第19章马尔可夫链蒙特卡罗法

电信保温杯笔记——《统计学习方法（第二版）——李航》第19章马尔可夫链蒙特卡罗法论文介绍逆变换采样蒙特卡罗法随机抽样接受拒绝采样法步骤特点求解某种随机分布的特征数数学期望估计积分计算例题1例题2马尔可夫链定义离散状态马尔可夫链转移概率矩阵和状态分布例题平稳分布例题

电信保温杯·2022-11-25 02:09

电信保温杯笔记——《统计学习方法（第二版）——李航》第17章潜在语义分析

电信保温杯笔记——《统计学习方法（第二版）——李航》第17章潜在语义分析论文介绍单词向量空间话题向量空间话题向量空间文本在话题向量空间的表示从单词向量空间到话题向量空间的线性变换潜在语义分析算法矩阵奇异值分解算法步骤

电信保温杯·2022-11-25 02:38

电信保温杯笔记——《统计学习方法（第二版）——李航》第18章概率潜在语义分析

电信保温杯笔记——《统计学习方法（第二版）——李航》第18章概率潜在语义分析论文介绍基本想法模型生成式模型共现模型文本、话题、单词之间的关系几何解释与潜在语义分析的关系算法步骤本章概要相关视频相关的笔记相关代码论文介绍电信保温杯笔记