统计学习方法公式推导

Boosting方法及代码实战

1.Boosting基本思路  Boosting（提升）方法是一种常用的统计学习方法，应用广泛且有效，在分类问题中，它通过改变训练样本的权重，学习多个分类器，并将这些分类器进行线性组合，提高分类的性能。
很随便的wei·2022-11-29 01:31

《统计学习方法》第八章 提升方法(原理+代码)

提升方法是将弱学习算法提升为强学习算法的统计学习方法在分类学习中，提升方法通过反复修改训练数据的权值分布,构建一系列基本分类器（弱分类器）并将这些基本分类器线性组合，构成一个强分类器代表性的提升方法是AdaBoost
小鹏AI·2022-11-29 01:26

直方图均衡化 原理、流程、公式推导及matlab实现

附上按照上述流程实现的MATLAB代码：clc;closeall;clearall;H=imread('测试图\lena512.bmp');H=H(:,:,1);%判断是否为三通道彩色图片若是则将其灰度化iflength(size(H))>2H=rgb2gray(H);end%获取图片的尺寸便于计算总像素数即m*n[m,n]=size(H);%生成一个一行256列的矩阵p=zeros(1,256)
非 常 道·2022-11-28 23:56

【统计学笔记】第12章 多元线性回归

书籍：《统计学（第六版）》书籍作者：贾俊平索引专业名词：方便查找，解释说明专业名词公式推导：解释说明公式记忆：方便查找摘抄案例12.1多元线性回归模型12.1.1多元回归模型与回归方程多元回归模型设因变量为
好好学习的星熊·2022-11-28 19:03

《机器学习》读书笔记1——基本概念

文章目录一、统计学习方法的概述二、机器学习的主要任务2.1什么是模型2.2极大似然估计2.3生成式模型和判别式模型2.3.1生成式模型和判别式模型区别2.3.2为啥判别式模型预测效果更好2.4损失函数2.5
神洛华·2022-11-28 16:39

第十次周报

第十次周报摘要RNN公式推导为什么使用tanh激活函数为什么会出现梯度消失或梯度爆炸代码实现LSTM公式推导文献阅读总结摘要Thisweek,Ireadareviewpaperontextrecognitionanddetection
三倍速的红色魔女·2022-11-28 14:46

统计学习方法第十六章作业：PCA主成分分析算法 代码实现

PCA主成分分析importnumpyasnpclassPCA:def__init__(self,x,R=None):self.x=np.array(x)self.dim=self.x.shape[-1]self.num=self.x.shape[0]self.R=Rself.X=Noneself.r_list=Noneself.r_v=Noneself.nk=Noneself.X_=Nonede
是算法不是法术·2022-11-28 10:43

《统计学习方法》第十四章聚类算法

一、写在前面本文是《统计学习方法》第十四章聚类方法读书笔记。
骑猪流浪江湖·2022-11-28 10:43

统计学习方法学习笔记：第十四章：聚类方法

第十四章：聚类方法基本概念聚类是根据样本之间的相似度或距离来将样本进行归类，不同的距离度量方式会影响最终的聚类效果，常用的距离或相似度有下列：闵可夫斯基距离：欧式、曼哈顿距离、切比雪夫距离等马哈拉诺比斯距离：dij=[(xi−xj)TS−1(xi−xj)]12,d_{ij}=[(x_i-x_j)^TS^{-1}(x_i-x_j)]^{\frac{1}{2}},dij=[(xi−xj)TS−1(xi
小滔滔ahh·2022-11-28 10:12

统计学习方法学习笔记：第十六章.主成分分析

第十六章：主成分分析（PCA:principalcomponentanalysis）利用正交变换\color{red}{正交变换}正交变换把由线性相关变量表示的观测数据转换为少数几个由线性无关变量表示\color{red}{由线性无关变量表示}由线性无关变量表示的数据，同时尽可能的保留较多的原始数据信息，线性无关的变量称为主成分，\color{red}{线性无关的变量称为主成分}，线性无关的变量称
小滔滔ahh·2022-11-28 10:12

《统计学习方法》第 14 章 聚类方法 KMeans

k-均值聚类n个样本分到k个不同的类或簇，每个样本到其所属类的中心的距离最小。每个样本只能属于一个类，所有k-均值聚类是硬聚类。模型k
weixin_34406061·2022-11-28 10:11

电信保温杯笔记——《统计学习方法（第二版）——李航》第14章 聚类方法

电信保温杯笔记——《统计学习方法（第二版）——李航》第14章聚类方法介绍聚类的基本概念样本的相似度或距离闵可夫斯基距离马哈拉诺比斯距离相关系数夹角余弦类或簇定义特征距离聚类算法层次聚类聚合聚类步骤例子k
电信保温杯·2022-11-28 10:40

李航老师《统计学习方法》第十六章主成分分析课后题答案

其他章节答案请参考我的汇总统计学习方法答案汇总，都是自己写的。
六七～·2022-11-28 10:39

李航老师《统计学习方法》第十四章聚类方法课后题答案

其他章节答案请参考我的汇总统计学习方法答案汇总，都是自己写的。1、试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。
六七～·2022-11-28 10:38

《统计学习方法（第2版）》李航 第16章 主成分分析 PCA 思维导图笔记 及 课后习题答案（步骤详细）PCA 矩阵奇异值 第十六章

16.1对以下样本数据进行主成分分析：X=[233457245568]X=\left[\begin{array}{llllll}2&3&3&4&5&7\\2&4&5&5&6&8\end{array}\right]X=[223435455678]由于手解数据不是那么“友好”所以直接用代码求解：importnumpyasnpX=np.array([[2,3,3,4,5,7],[2,4,5,5,6,8]
ML--小小白·2022-11-28 10:08

《统计学习方法（第2版）》李航 第14章 聚类方法 思维导图笔记 及 课后习题答案（步骤详细） k-均值 层次聚类 第十四章

思维导图：14.1试写出分裂聚类算法，自上而下地对数据进行聚类，并给出其算法复杂度。i.计算n个样本两两之间的距离，并将所有样本看作一个类，将样本间最大距离作为类直径；ii.对于类直径最大的类，将其中相距最远，也就是距离为类直径的两个样本分成两个新类，该类其他样本就近（相对于那两个选中的样本）归于两个类之一；iii.如果类别个数达到停止条件（预设的分类书）则停止，否则回到ii.步骤。模型复杂度O(
ML--小小白·2022-11-28 10:38

第十四章聚类方法.14.3K均值聚类

文章目录主要内容k均值聚类的定义样本空间划分k均值聚类策略算法步骤例题k均值聚类算法特性收敛性初始类的选择类别数k的选择k均值聚类缺点改进本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法
oldmao_2000·2022-11-28 10:37

第十四章聚类方法.14.2.5有序样本分类法

文章目录主要内容算法功能与数据类型有序聚类步骤定义类的直径定义分类的损失函数最优解的求法例子：本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法》第二版。
oldmao_2000·2022-11-28 10:07

《统计学习方法》（第十四章）——聚类方法

聚类基本概念相似度或距离相似度或距离:  聚类的核心是相似度或距离的定义，它将直接影响到聚类的结果闵可夫斯基距离dij=(∑k=1m∣xki−xkj∣)1pd_{ij}=(\sum\limits_{k=1}^m|x_{ki}-x_{kj}|)^{\frac{1}{p}}dij=(k=1∑m∣xki−xkj∣)p1p=2时偶啦距离p=2时偶啦距离p=2时偶啦距离p=1时曼哈顿距离p=1时曼哈顿距离p
mkopvec·2022-11-28 10:06

第十四章聚类方法.14.2.4确定最佳聚类数

1、给定阈值2、数据点散布图3、根据统计量分析聚类数量预备知识R2R^2R2统计量半偏R2R^2R2统计量伪F统计量伪t2t^2t2统计量谱系图本课程来自深度之眼，部分截图来自课程视频以及李航老师的《统计学习方法
oldmao_2000·2022-11-28 10:06

《统计学习方法》学习笔记 第十四章 聚类方法

目录1聚类的基本概念1.1相似度或距离1.2类（class）或簇（cluster）1.2.1类或簇的定义1.2.2类的特征1.3类与类之间的距离（linkage）2Hierarchicalclustering3k-meansclustering3.1模型3.2策略3.3算法3.4算法特性总结前情提要：见第十三章无监督学习概论1聚类的基本概念1.1相似度或距离假设有n个样本，每个样本由m个属性的特征
LittleFish0820·2022-11-28 10:05

《统计学习方法》学习笔记 第十六章 PCA(principal component analysis)

目录1总体主成分分析1.1基本想法1.2定义和导出1.3主要性质1.4主成分的个数1.5规范化变量的总体主成分2样本主成分分析2.1样本主成分2.2相关矩阵的特征值分解方法2.3数据矩阵的奇异值分解算法总结1总体主成分分析1.1基本想法（以前学过，很好理解，不放了）1.2定义和导出x=(x1,x2,⋯ ,xm)T\bm{x}=(x_1,x_2,\cdots,x_m)^Tx=(x1,x2,⋯,xm)
LittleFish0820·2022-11-28 10:05

复现经典：《统计学习方法》第16章 主成分分析

第16章主成分分析本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读。
风度78·2022-11-28 10:03

从奇异值分解SVD到主成分分析PCA

SVD）简介1.1矩阵A(A∈Rm×nA\inR^{m\timesn}A∈Rm×n)的奇异值分解1.2SVD的紧凑形式1.3SVD的截断形式2.奇异值分解的求解过程3.主成分分析（PCA）实现3.1《统计学习方法
L1_Zhang·2022-11-28 10:02

复现经典：《统计学习方法》第14章 聚类方法

第14章聚类方法本文是李航老师的《统计学习方法》一书的代码复现。作者：黄海广备注：代码都可以在github中下载。我将陆续将代码发布在公众号“机器学习初学者”，可以在这个专辑在线阅读。
湾区人工智能·2022-11-28 10:00

《统计学习方法》 第十六章 主成分分析PCA

主成分分析(PCA)假设xxx为mmm维随机变量，其均值为μ\muμ，协方差矩阵为Σ\SigmaΣ考虑由mmm维随机变量xxx到mmm维随机变量yyy的线性变换yi=αiTx=∑k=1mαkixk,i=1,2,⋯ ,my_{i}=\alpha_{i}^{T}x=\sum_{k=1}^{m}\alpha_{ki}x_{k},\quadi=1,2,\cdots,myi=αiTx=k=1∑mαkixk,
小鹏AI·2022-11-28 10:30

《统计学习方法》 第十四章 聚类方法

聚类方法1.聚类是针对给定的样本，依据它们属性的相似度或距离，将其归并到若干个“类”或“簇”的数据分析问题。一个类是样本的一个子集。直观上，相似的样本聚集在同类，不相似的样本分散在不同类。2.距离或相似度度量在聚类中起着重要作用。常用的距离度量有闵可夫斯基距离，包括欧氏距离曼哈顿距离、切比雪夫距离、、以及马哈拉诺比斯距离。常用的相似度度量有相关系数、夹角余弦。用距离度量相似度时，距离越小表示样本越
小鹏AI·2022-11-28 10:29

HBU-NNDL 作业3：分别使用numpy和pytorch实现FNN例题

目录一、过程推导-了解BP原理1、前馈计算的过程第二层隐藏层的计算：输出层的计算2、反向传播的计算BP神经网络权值、阈值更新公式推导二、数值计算-手动计算，掌握细节三、代码实现-numpy手推+pytorch
不是蒋承翰·2022-11-28 08:48

《统计学习方法》 第三章 K近邻法(原理+代码)

KKK近邻法kkk近邻法是基本且简单的分类与回归方法kkk近邻法的基本做法是:对给定的训练实例点和输入实例点，首先确定输入实例点的kkk个最近邻训练实例点利用这kkk个训练实例点的类的多数来预测输入实例点的类kkk近邻模型是对应于基于训练数据集对特征空间的一个划分kkk近邻法中，当训练集、距离度量、kkk值及分类决策规则确定后，其结果唯一确定kkk近邻法三要素：距离度量、kkk值的选择和分类决策规
小鹏AI·2022-11-28 04:39

机器学习-白板推导-系列（十二）笔记：变分推断

文章目录0笔记说明1背景介绍1.1频率派1.2贝叶斯派2公式推导3符号修正4SGVI0笔记说明来源于【机器学习】【白板推导系列】【合集1～23】，我在学习时会跟着up主一起在纸上推导，博客内容为对笔记的二次书面整理
流动的风与雪·2022-11-27 21:08

机器学习——线性回归与分类（包括部分公式推导）

机器学习白板推导课程的线性模型部分笔记整理如下：https://www.bilibili.com/video/BV1aE411o7qd?p=22&spm_id_from=pageDriver文章目录1线性回归1.1最小二乘法LSE1.2极大似然估计MLE1.3最大后验概率估计MAP1.4线性回归的三大特点及其延申方法2正则化2.1LASSO（L1正则化）2.2Ridge（L2正则化）3线性分类3.
路过的风666·2022-11-27 21:06

矩阵分解算法

文章目录0前言1.矩阵分解原理1.1LFM公式推导LFM损失函数算法关键代码实现1.2BiasSVD1.3SVD++参考0前言在协同过滤算法中我们知道近邻协同过滤算法的显著缺点：没有充分利用物品本身的属性信息处理稀疏矩阵能力很弱
JStana·2022-11-27 20:29

Deep Reinforcement Learning with Double Q-learning（Double DQN）论文学习和公式推导

最近刚开始使用DQN，也会用DDQN，但是背后的原理不理解，所以读了这篇论文，下面以翻译并附带一些解释和公式推导的方式讲讲我个人的理解，有疑问可以多交流。
王蛋糕cake·2022-11-27 18:26

主成分分析公式推导（完整版）

主成分分析公式推导（完整版）主成分分析（PrinicpalComponentAnalysis-----PCA)简单来说最基本的方法就是将具有很多属性的一个数据集通过线性组合的方式进而减少数据集的属性，这样可以帮助我们在机器学习或者深度学习的后续训练步骤中
@zhou·2022-11-27 13:52

BP神经网络：误差反向传播算法公式推导图解

BP神经网络：误差反向传播算法公式推导开端：BP算法提出1.BP神经网络参数符号及激活函数说明2.网络输出误差(损失函数)定义3.隐藏层与输出层间的权重更新公式推导4.输入层与隐藏层间的权重更新公式推导欢迎转载
Tsingke·2022-11-27 13:45

[学习笔记]多元线性回归分析——理解篇

本文没有大量的公式推导，更多的是感性的理解（主要是打公式太难了，哭）1.回归分析的概念1.1
飘渺到放弃·2022-11-27 11:25

《速通机器学习》

本书从传统的机器学习，如线性回归、逻辑回归、朴素贝叶斯、支持向量机、集成学习，到前沿的深度学习和神经网络，如DNN、CNN、BERT、ResNet等，对人工智能技术进行零基础讲解，内容涵盖数学原理、公式推导
AI_卢菁博士·2022-11-27 10:45

NNDL 实验五 前馈神经网络（3）鸢尾花分类

深入研究鸢尾花数据集画出数据集中150个数据的前两个特征的散点分布图：【统计学习方法】感知机对鸢尾花(iris)数据集进行二分类4.5实践：基于前馈神经网络完成鸢尾花分类继续使用第三章中的鸢尾花分类任务
Guo_weiqi·2022-11-27 09:37

机器学习笔记（十一）-聚类（Clustering）

本次学习笔记主要记录学习机器学习时的各种记录，包括吴恩达老师视频学习、李宏毅老师视频学习、周志华老师的《机器学习》（西瓜书）以及李航老师的《统计学习方法》。
997and·2022-11-27 08:03

NNDL 作业10：第六章课后题（LSTM | GRU）

习题6-3使用公式（6-50）作为神经网络的更新公式时，分析其产生梯度抱着的原因习题6-4推导lstm参数的梯度，并分析其在缓解梯度消失中的作用公式推导其在缓解梯度消失中的作用习题6-5分析GRU的梯度在梯度缓解中的作用什么时候用
刘先生TT·2022-11-27 08:58

神经网络中梯度的概念,神经网络梯度公式推导

BP神经网络的MATLAB训练Gradient是什么意思？Performance是什么意思？，大神能解释一下吗？谢谢了Gradient是梯度的意思，BP神经网络训练的时候涉及到梯度下降法，表示为梯度下降的程度与训练过程迭代次数（步长）的关系。Performance是神经网络传递误差大小的意思，表示为均方差与训练过程迭代次数（步长）的关系。谷歌人工智能写作项目：神经网络伪原创bp神经网络中的grad
快乐的小荣荣·2022-11-27 07:23

深度学习/机器学习资料汇总

MachineLearningDeepLearningSeq2SeqLSTMAttentionSelf-AttentionTransfomerBert(这周目标）读研期间收集的学习资料汇总（持续更新中）MachineLearning西瓜书以及统计学习方法笔记
金州啦啦啦啦文·2022-11-27 07:50

Datawhale-Task3决策树算法梳理

C4.5、CART分类树）的原理及应用场景3.回归树原理4.决策树防止过拟合手段5.模型评估6.sklearn参数详解，Python绘制决策树参考：西瓜书cs229吴恩达机器学习课程李航统计学习谷歌搜索公式推导参考
Zzichen_ovo·2022-11-27 03:07

datawhale-吃瓜教程（西瓜书+南瓜书）-支持向量机

Task03：详读西瓜书+南瓜书决策树Task04：详读西瓜书+南瓜书神经网络Task05：详读西瓜书+南瓜书支持向量机文章目录datawhale-吃瓜教程-支持向量机一、基本形式二、术语及符号解释三、公式推导四
小740·2022-11-27 03:00

datawhale-吃瓜教程（西瓜书+南瓜书）-决策树

南瓜书第3章Task03：详读西瓜书+南瓜书第4章Task04：详读西瓜书+南瓜书第5章Task05：详读西瓜书+南瓜书第6章文章目录datawhale-吃瓜教程-决策树基本形式一、术语及符号解释二、公式推导总结基本形式
小740·2022-11-27 03:30

四旋翼PID控制仿真模型 matlab仿真程序，支持姿态单独控制

带公式推导文档ID:3150682697298838
「已注销」·2022-11-27 01:55

鱼眼投影模型理解以及opencv官方文档和同类文章勘误

最近研究鱼眼投影模型，一篇比较全的博客是鱼眼镜头的成像原理到畸变矫正（完整版）同类文章也有不少，但受opencv官方文档影响，在公式推导和解读上都有同样的纰漏，找到原始论文经过一番研究后，进行以下分析：
苹果姐·2022-11-26 20:04

机器学习入门：第六章 贝叶斯统计 贝叶斯公式推导(1)

光芒四射的年代贝叶斯（ThomasBayes）出生在大数学家费马诞生的100周年（1701年），1761年去世。作为一个数学家，生在这个时代，是幸运的，同时也是不幸的。幸运的是在这个时代里数学高速度的发展，出现非常多的优秀人物，比如牛顿，伯努利，惠更斯等，可以跟这些人科学界的大咖共生一个时代是庆幸的，在数学的海洋里总是能找到那一座指引方向的灯塔；不幸的是，大咖的辉煌太够锋芒，即使在科学界能够发光也
go2coding·2022-11-26 20:54

统计学习方法——（第七章）支持向量机详解与推导

一、知识梳理二、支持向量机1、原理SVM作为传统机器学习的一个非常重要的分类算法，它是一种通用的前馈网络类型，最早是由VladimirN.Vapnik和Alexey在1963年提出，目前的版本是CorinnaCortes和Vapnik在1993年提出，1995年发表。深度学习（2012）出现之前，SVM被认为是机器学习中近十几年最成功表现最好的算法。支持向量机（supportvectormachi
我学数学我骄傲·2022-11-26 14:50

机器学习——线性判别分析原理及python代码实现

《机器学习：公式推导与代码实践》鲁伟著读书笔记。
Li Changwu·2022-11-26 13:30
上一页 22 23 24 25 26 27 28 29 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他