统计学习方法公式推导

《速通机器学习》- 数据的量化和特征提取

本书从传统的机器学习，如线性回归、逻辑回归、朴素贝叶斯、支持向量机、集成学习，到前沿的深度学习和神经网络，如DNN、CNN、BERT、ResNet等，对人工智能技术进行零基础讲解，内容涵盖数学原理、公式推导
北大博士后AI卢菁·2024-01-25 19:15

Pytorch 实现强化学习策略梯度Reinforce算法

一、公式推导这里参考邱锡鹏大佬的《神经网络与深度学习》第三章进阶模型部分，链接《神经网络与深度学习》。
爱喝咖啡的加菲猫·2024-01-25 14:31

机器学习期末复习总结笔记（李航统计学习方法）

文章目录模型复杂度高---过拟合分类与回归有监督、无监督、半监督正则化生成模型和判别模型感知机KNN朴素贝叶斯决策树SVMAdaboost聚类风险PCA深度学习范数计算梯度下降与随机梯度下降SGD线性回归逻辑回归最大熵模型适用性讨论模型复杂度高—过拟合是什么：当模型复杂度越高，对训练集拟合程度越高，然而对新样本的泛化能力却下降了，此时出现overfitting（过拟合）与泛化能力：模型复杂度与泛化
在半岛铁盒里·2024-01-24 01:01

西瓜书学习笔记——Boosting（公式推导+举例应用）

文章目录引言AdaBoost算法AdaBoost算法正确性说明AdaBoost算法如何解决权重更新问题？AdaBoost算法如何解决调整下一轮基学习器样本分布问题？AdaBoost算法总结实验分析引言Boosting是一种集成学习方法，旨在通过整合多个弱学习器来构建一个强学习器。其核心思想是迭代训练模型，关注之前被错误分类的样本，逐步提升整体性能。Boosting的代表算法包括AdaBoost、G
Nie同学·2024-01-24 00:26

机器学习实验报告——EM算法

目录一、算法介绍1.1算法背景1.2算法引入1.3算法假设1.4算法原理1.5算法步骤二、算法公式推导2.1数学基础2.2EM算法推导三、算法实现3.1关于EM聚类3.2EM工具包的使用3.3实例测试四
长安er·2024-01-23 00:16

机器学习实验报告- SVM算法

目录一、算法介绍1.1算法背景1.2算法引入1.3算法假设1.4算法原理1.5算法实现步骤二、算法关键点2.1核函数选择2.2支持向量的选取2.3间隔最大化三、算法公式推导3.1关键概念和方法介绍3.2
长安er·2024-01-22 20:20

WPT无线电能传输公式推导、编程计算、仿真验证全过程

主要分为5大模块，分别为无补偿,SS,SP,PP,PS，每个模块对应有公式推导，matlab编程计算相关参数以及将计算参数和仿真验证观察是否对应。
电子hhh·2024-01-22 20:15

关于高等数学参数方程二阶可导的公式推导

关于高等数学参数方程二阶可导的公式推导设x=f(t)且y=g(t)理解为在一阶导数的基础上，对x再次求导。
limit___lxz·2024-01-22 17:00

统计学习方法-第1章-绪论

2019June28监督学习统计学习方法-第1章-绪论统计学习分类分类标准类型基本分类监督学习、无监督学习、强化学习按模型分类概率模型、非概率模型（在监督学习中，概率模型是生成模型，非概率模型是判别模型
chiemon·2024-01-21 13:04

贝塞尔曲线（Bezier Curve）原理、公式推导及matlab代码实现

1.定义贝塞尔曲线(Beziercurve)，又称贝兹曲线或贝济埃曲线，是应用于二维图形应用程序的数学曲线。一般的矢量图形软件通过它来精确画出曲线，贝兹曲线由线段与节点组成，节点是可拖动的支点，线段像可伸缩的皮筋，我们在绘图工具上看到的钢笔工具就是来做这种矢量曲线的。贝塞尔曲线是计算机图形学中相当重要的参数曲线，在一些比较成熟的位图软件中也有贝塞尔曲线工具，如PhotoShop等。贝塞尔曲线的一些
beijing_txr·2024-01-19 22:46

贝塞尔曲线（Bezier Curve）原理、公式推导及matlab代码实现

目录参考链接定义直观理解公式推导一次贝塞尔曲线（线性公式）二次贝塞尔曲线（二次方公式）三次贝塞尔曲线（三次方公式）n次贝塞尔曲线（一般参数公式）代码实现参考链接贝塞尔曲线（BezierCurve）原理及公式推导
大龙唉·2024-01-19 22:12

【机器学习】基本模型简易代码整理

对数几率回归对数几率回归（LogisticRegression）是机器学习中一种广泛应用的统计学习方法，主要用于二分类问题。
_hermit:·2024-01-19 02:14

2024华数杯国际赛AB题五小问完整思路+数据+四小问代码+后续高质量成品论文+运行结果高清图+参考文献

问题A：日本放射性废水（AB题的完整资料放在文末了）对于这次的华数杯A题，在我五月份完成的数维杯A题目中：就已经完成过地下水污染物的公式推导：因此，展示部分示例代码吧，我会在修改后，实际应用于我们这次的华数杯国际赛
上善若水AP·2024-01-18 11:28

【计算机网络】【Python】【练习题】【新加坡南洋理工大学】【Computer Control Network】

（1）、公式推导过程（手写）：（2）将计算过程转化为Python代码：importmathdeffact(n):ifn==0:return1returnn*fact(n-1)p_bar=0foriinrange
不是AI·2024-01-18 00:18

机器学习：李航 统计学习方法 笔记

詹令[email protected]待整理统计学习方法监督学习非监督学习半监督学习强化学习监督学习方法生成方法GenerativeApproach：P(Y∣X)=P(X,Y)P(X)
lealzhan·2024-01-17 08:54

贝叶斯分类器（公式推导+举例应用）

本文将深入探讨贝叶斯分类器，首先通过详细的公式推导带你走进其内部
Nie同学·2024-01-17 03:12

支持向量机（公式推导+举例应用）

文章目录引言间隔与支持向量机对偶问题（拉格朗日乘子法）SMO算法核函数软间隔与正则化软间隔正则化（罚函数法）模型的稀疏性结论实验分析引言在机器学习领域，支持向量机（SupportVectorMachine，简称SVM）是一种强大而广泛应用的监督学习算法。其独特的优势在于在高维空间中进行准确分类，并在处理复杂数据集时表现出色。支持向量机的核心思想是在数据点间找到一个最优的超平面，以最大化不同类别之间
Nie同学·2024-01-17 03:12

机器学习算法实战案例：确实可以封神了，时间序列预测算法最全总结！

技术交流2、时间序列预测分类3、时间序列数据的特性4、时序预测评价指标5、基于深度学习的时间序列预测方法5.1统计学习方法5.2机器学习方法5.3卷积神经网络5.4循环神经网络5.5Transformer
Python算法实战·2024-01-16 15:10

Kalman Filter in SLAM (7) ——Error-state Iterated Kalman Filter (EsIKF, 误差状态迭代卡尔曼滤波)

文章目录1.EsKF和IEKF公式回顾1.1.EsKF误差状态卡尔曼滤波方程1.2.IEKF迭代扩展卡尔曼滤波方程2.EsIKF公式推导2.1.预测公式2.2.校正公式2.2.1.误差状态观测方程2.2.2
Cc1924·2024-01-16 06:43

逻辑回归（解决分类问题）

定义：逻辑回归是一种用于解决分类问题的统计学习方法。它通过对数据进行建模，预测一个事件发生的概率。逻辑回归通常用于二元分类问题，即将数据分为两个类别。
Visual code AlCv·2024-01-15 13:51

解线调频公式推导

最近在读《雷达成像原理》书中公式没有推导，所以将一些公式推导记录下来，以备遗忘。公式是在word里面用unicode打的，复制网页自动加了水印，很讨厌，凑活看吧，有问题大家一起讨论。
小段同学在干甚·2024-01-15 08:42

Machine Learning Series--Linear Regression

前言最近看了李航老师的《统计学习方法》，还正在学习吴恩达老师的《机器学习》的课程（网易公开课上有，较老的版本）。自从看过《统计学习方法》之后，发现笔记不看其实学习效果并不好。
22岁开始·2024-01-14 20:30

Python：列表推导式、生成器、迭代器

1.列表推导式列表推导式是通过旧的列表通过公式推导出新的列表还有集合推导式、字典推导式，与列表推导式类似格式为：[表达式for变量in旧列表][表达式for变量in旧列表if条件]#过滤掉长度小于或等于
尔玉RGX·2024-01-14 14:03

基于MAP算法的Turbo译码 -- 公式推导

==到此为止，讲完了turbo译码器的子译码器基于MAP算法的译码过程。但在实际使用中，很少直接使用MAP算法进行译码。而是使用改进的LOG-MAP和MAX-LOG-MAP算法进行译码，因此译码的整体流程，包括外信息的计算以及先验信息的获取等。都在后续的改进算法里进行说明。==
shenyuhou·2024-01-14 04:08

阅读量还是0，坚持

《量子力学概论》相关的公式推导，想必在里面也几乎没有目标读者把，在百度上也搜不到自己写的东西。算了本来的打算就是给自己看的，没人看也罢，坚持！
莎野椰·2024-01-14 03:42

什么是卡特兰数及卡特兰数公式推导

什么是卡特兰数？明安图数，又称卡塔兰数，英文名Catalannumber，是组合数学中一个常出现于各种计数问题中的数列。以中国蒙古族数学家明安图(1692-1763)和比利时的数学家欧仁·查理·卡塔兰(1814–1894)的名字来命名，其前几项为（从第零项开始）:1,1,2,5,14,42,132,429,1430,4862,…卡特兰数的几何意义简单来说，卡特兰数就是一个有规律的数列，在坐标图中可
wuxiaopengnihao1·2024-01-13 11:19

C++实现LeNet-5卷积神经网络

搞了好久好久，公式推导+网络设计就推了20多页草稿纸花了近10天程序进1k行，各种debug要人命，只能不断的单元测试+梯度检验因为C++只有加减乘除，所以对这个网络模型不能有一丝丝的模糊，每一步都要理解的很透彻挺考验能力的
一只狗20000402·2024-01-13 10:16

一元线性回归模型（公式推导+举例应用）

文章目录引言模型表达式均方误差和优化目标最小二乘法利用协方差和方差求解kkk和bbb结论实验分析引言一元线性回归是回归分析中简单而重要的一种模型，旨在找到一条直线，以最佳方式拟合输入变量与输出变量之间的关系。在这篇文章中，我们将深入探讨一元线性回归的原理及其应用。模型表达式一元线性回归模型的表达式为：f(xi)=kxi+bf(x_i)=kx_i+bf(xi)=kxi+b其中，xix_ixi为输入变
Nie同学·2024-01-12 23:50

统计学习方法笔记之逻辑斯谛模型与最大熵模型

更多文章可以访问我的博客Aengus|Blog逻辑斯谛回归（LogisticRegression）模型是经典的分类方法，而最大熵则是概率模型中学习的一个准则，将其推广到分类问题得到最大熵模型（maximumentropymodel）。两者都属于对数线性模型。逻辑斯谛模型逻辑斯谛分布设是连续随机变量，服从逻辑斯谛分布是指具有以下分布函数和密度函数：其中，是位置参数，为形状参数。逻辑斯谛分布的密度函数
Aengus_Sun·2024-01-12 22:23

多元线性回归模型（公式推导+举例应用）

文章目录引言模型表达式均方误差和优化目标最小二乘法广义线性模型范数XTX\mathbf{X^TX}XTX不是满秩情况下，回归问题的解决方案岭回归套索回归弹性网络回归（ElasticNet）XTX\mathbf{X^TX}XTX不是满秩情况下，二分类问题的解决方案对数几率回归黑塞矩阵结论实验分析（一）实验分析（二）实验分析（三）引言多元线性回归是回归分析中的一种复杂模型，它考虑了多个输入变量对输出变
Nie同学·2024-01-12 14:00

线性判别分析LDA（（公式推导+举例应用））

文章目录引言模型表达式拉格朗日乘子法阈值分类器结论实验分析引言线性判别分析（LinearDiscriminantAnalysis，简称LDA）是一种经典的监督学习算法，其主要目标是通过在降维的同时最大化类别之间的差异，为分类问题提供有效的数据表征。LDA不同于一些无监督降维方法，如主成分分析（PCA），它充分利用了类别信息，通过寻找最佳投影方向，使得不同类别的样本在降维后的空间中有最大的类间距离，
Nie同学·2024-01-12 14:00

BP神经网络（公式推导+举例应用）

文章目录引言M-P神经元模型激活函数多层前馈神经网络误差逆传播算法缓解过拟合化结论实验分析引言人工神经网络（ArtificialNeuralNetworks，ANNs）作为一种模拟生物神经系统的计算模型，在模式识别、数据挖掘、图像处理等领域取得了显著的成功。其中，BP神经网络（BackpropagationNeuralNetwork，BPNN）作为一种常见的前馈式神经网络，以其在模式学习和逼近函数
Nie同学·2024-01-12 14:00

决策树（公式推导+举例应用）

文章目录引言决策树学习基本思路划分选择信息熵信息增益增益率（C4.5）基尼指数（CART）剪枝处理预剪枝（逐步构建决策树）后剪枝（先构建决策树再剪枝）连续值与缺失值处理连续值处理缺失值处理结论实验分析引言随着信息时代的发展，决策制定变得愈发复杂而关键。在众多决策支持工具中，决策树作为一种直观而强大的工具，在各个领域都得到了广泛的应用。决策树是一种基于树形结构的模型，通过一系列的决策节点和分支来模拟
Nie同学·2024-01-12 14:56

【深度学习】动手学深度学习(PyTorch版)李沐 2.4.3 梯度【公式推导】

2.4.3.梯度  我们可以连接一个多元函数对其所有变量的偏导数，以得到该函数的梯度（gradient）向量。具体而言，设函数f:Rn→Rf:\mathbb{R}^{n}\to\mathbb{R}f:Rn→R的输入是一个nnn维向量x⃗=[x1x2⋅⋅⋅xn]\vecx=\begin{bmatrix}x_1\\x_2\\···\\x_n\end{bmatrix}x=x1x2⋅⋅⋅xn，输出是一个标
ninding·2024-01-11 15:43

插值、平稳假设、变异函数、基台、块金、克里格…地学计算概念及公式推导

1引言  最近的几篇博客，分别从多光谱与高光谱遥感的实际应用出发，对影像前期处理与相关算法、反演操作等加以详细介绍。而通过遥感手段获取了丰富的各类地表信息数据后，如何对数据加以良好的数学处理与科学分析，同样是我们需要重视的问题。因此，准备由这一篇博客入手，新建一个专栏，逐篇地对地学计算方面的内容加以初步总结。  那么首先，我们就由地学计算的几个基本概念入手，对相关理论方面的内容加以一定了解。  需
疯狂学习GIS·2024-01-11 01:06

AdaBoost算法的详细数学推导过程！！

AdaBoost（AdaptiveBoosting）提升（boosting）方法是一种常用的统计学习方法，应用广泛且有效。
孤嶋·2024-01-10 08:41

使用opencv做双目测距（相机标定+立体匹配+测距）

一、标定首先我们要对摄像头做标定，具体的公式推导在learningopencv中有详细的解释，这
AAI机器之心·2024-01-08 16:32

车辆 | 阿克曼转向原理及公式推导

自行车，转动前轮就能转弯，要是让前轮保持一个角度，自行车会做定圆运动，如果，车轮轴线跟着旋转，那么前轮轴线和后轮轴线的交点就是自行车做定圆运动的圆心。自行车是两轮模型，研究轿车四轮模型，如果轿车绕后轮轴线的某一点做定圆运动的话，前轮的左右转角大小是不一样的。（图片来源于网络）在定圆模型中，圆心是三个车轮的轴线共同确定的，如果某一条虚拟轴线不经过圆心，那么这个车轮就会产生相对滑动。为了能让四个轮绕着
squirrel快乐敲码·2024-01-08 09:03

计数原理@排列数@组合数

文章目录两类基本计数原理分类加法计数原理分类乘法计数原理小结排列组合元素排列排列数全排列排列数性质从计数原理角度解释该公式从排列数展开公式推导组合组合数组合数与排列数的关系组合数的性质计数原理的方法证明纯代数方法证明排列数和组合数公式的逆用笔算或口算中的排列组合两类基本计数原理以下两种计数原理是解决计数问题的最基本理论依据它们分别给出了
xuchaoxin1375·2024-01-08 09:06

图像处理中的DCT变换

来源及公式推导，可以查看下面链接，介绍的比较详细，这里就不再重复说明了：详解离散余弦变换（DCT）-知乎(zhihu.com)DCT变换-知乎(zhihu.com)目前DCT变换广泛应用于图像处理中，主要是由于其频谱特性决定的
yfor·2024-01-06 14:46

逻辑回归（Logistic Regression）

什么是机器学习逻辑回归（LogisticRegression）虽然名字中包含"回归"一词，但实际上是一种用于解决分类问题的统计学习方法，而不是回归问题。
草明·2024-01-05 16:27

打印一个n行的杨辉三角形两种方法（详细解释，细到数学公式推导）

第一种是循环语句嵌套#define_CRT_SECURE_NO_WARNINGS#includeintmain(){intn,coef=1;printf("请输入一个整数n：");scanf("%d",&n);for(inti=0;i//计算杨辉三角形的值intcalculateValue(introw,intcol){if(col==0||col==row){return1;}else{retu
Colinnian·2024-01-05 04:56

EM算法原理解释及公式推导

本文参考的是人人都懂EM算法-August的文章-知乎这篇文章目录一、极大似然概述二、EM算法2.1EM算法描述2.2EM公式推导三、EM算法案例一、极大似然概述假设我们需要调查我们学校学生的身高分布。
烟雨人长安·2024-01-04 21:02

EM算法及公式推导

含隐变量的概率图模型的参数估计问题在解决含隐变量的概率图模型的参数估计问题时，一种简单的想法是取使其对数边际似然最大的作为估计的参数。为观测变量的观测数据，是一个向量，为隐变量的取值（但实际上无法观测）是一个向量，需要通过求和（积分）的形式去除。但函数中存在对数函数内部带有求和的形式，这样非常难以求导。比如在高斯混合模型中，隐变量是一维离散的变量。12......k......其中均是待估计参数，
XI-C-Li·2024-01-04 21:02

EM算法-细节讲解公式推导

EM算法：EM算法是一种迭代算法，用于含有隐变量的概率模型参数的极大似然估计，或极大后验概率估计。EM算法的每次迭代由两步组成：E步，求期望；M步，求极大。所以这一算法称为期望极大算法（expectationmaximizaiton）。EM算法的引入：概率模型有时候含有观测变量，又含有隐变量或潜在变量，如果概率模型的变量都是观测变量，那么给定数据，可以直接用极大似然估计法，或贝叶斯估计方法估计模型
闯闯爱打鼓·2024-01-04 20:32

EM算法公式推导 (三硬币模型)

1.因为有隐变量,无法直接推导极大似然函数L(theta)2.利用琴生不等式推导B函数,将问题从极大化似然函数变成极大化B函数3.将问题从极大化B函数变成极大化Q函数4.将Q函数整理成pi,p,q的函数5.对pi偏微分,取得更新后的pi6.对p偏微分,取得更新后的p7.对q偏微分,取得更新后的q8.整理程序步骤
陈君豪·2024-01-04 20:31

机器学习中的监督学习基本算法-逻辑回归简单介绍

逻辑回归逻辑回归（LogisticRegression）是一种用于解决二分类问题的统计学习方法，尽管名字中带有"回归"一词，但实际上它是一种分类算法。
Algorithm_Engineer_·2024-01-04 12:49

PyTorch权值初始化的十种方法

kaiming系列；2.其他方法分布Xavier初始化方法，论文在《Understandingthedifficultyoftrainingdeepfeedforwardneuralnetworks》公式推导是从
Wanderer001·2024-01-04 11:24

「摸鱼快报008」看不懂机器学习西瓜书? 没关系, 南瓜书来帮你!

帮助你快速了解推出南瓜书的目的:“周志华老师的《机器学习》（西瓜书）是机器学习领域的经典入门教材之一，周老师为了使尽可能多的读者通过西瓜书对机器学习有所了解,所以在书中对部分公式的推导细节没有详述，但是这对那些想深究公式推导细节的读者来说可能
卖萌哥·2024-01-04 07:51

5.向量点乘

点乘计算公式点乘的几何意义点乘的公式推导代码相关usingSystem.Collections;usingSystem.Collections.Generic;usingUnityEngine;publicclassLesson6
lqd520520·2024-01-03 20:52
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他