微分梯度

李宏毅机器学习笔记——反向传播算法

反向传播算法反向传播（Backpropagation）是一种用于训练人工神经网络的算法，它通过计算损失函数相对于网络中每个参数的梯度来更新这些参数，从而最小化损失函数。
小陈phd·2024-09-04 10:07

pytorch pyro更高阶的优化器会使用更高阶的导数，比如二阶导数（Hessian矩阵）

通常，优化器会计算损失函数相对于参数的一阶导数（梯度），然后根据这些梯度来更新参数。
zhangfeng1133·2024-09-04 08:57

凸优化学习之旅

目录标题专业名词MM算法CCP算法：代码说明SCA算法：连续松弛梯度投影算法分支定界搜索法凸问题辨别OA算法λ-representationADMM算法代码说明BCD算法BCD（BlockCoordinateDescent
还有你Y·2024-09-04 06:13

【深度学习】

梯度消失和梯度爆炸（解释意思，分析产生原因）在反向传播过程中需要对激活函数进行求导，如果导数大于1，那么随着网络层数的增加梯度更新将会朝着指数爆炸的方式增加这就是梯度爆炸。
feifeikon·2024-09-04 00:34

深度学习基础之循环神经网络

长短期记忆网络（LSTM）与门控循环单元（GRU）在解决梯度消失和爆炸问题上的具体差异和优势是什么？
Ctrl+CV九段手·2024-09-04 00:02

【论文笔记】Multi-Task Learning as a Bargaining Game

Abstract本文将多任务学习中的梯度组合步骤视为一种讨价还价式博弈(bargaininggame)，通过游戏，各个任务协商出共识梯度更新方向。
xhyu61·2024-09-03 09:26

深度学习(一)

梯度消失问题:当输入值很大或很小时，梯度接近于0，导致训练过程中梯度更新变得缓慢。
小泽爱刷题·2024-09-03 06:39

这项来自中国的AI研究介绍了1位全量化训练（FQT）：增强了全量化训练（FQT）的能力至1位

全量化训练（FQT）可以通过将激活、权重和梯度转换为低精度格式来加速深度神经网络的训练。量化过程使得计算速度更快，且内存利用率更低，从而使训练过程更加高效。
量子位AI·2024-09-02 22:16

深度学习中的梯度消失和梯度爆炸问题

在深度学习领域，随着模型层数的增加，我们常常会遇到两个棘手的问题：梯度消失（VanishingGradients）和梯度爆炸（ExplodingGradients）。
码上飞扬·2024-09-01 23:57

梯度下降法

梯度下降法，最通俗易懂的解释。
小丹丹的梦想后花园·2024-09-01 14:19

基于Python的机器学习系列（18）：梯度提升分类（Gradient Boosting Classification）

简介梯度提升（GradientBoosting）是一种集成学习方法，通过逐步添加新的预测器来改进模型。在回归问题中，我们使用梯度来最小化残差。
会飞的Anthony·2024-09-01 12:50

深度学习速通系列:梯度消失vs梯度爆炸

梯度消失和梯度爆炸是深度学习中训练深层神经网络时常见的两个问题，它们影响网络的训练过程和性能。
Ven%·2024-08-31 23:31

Datawhale X 李宏毅苹果书 AI夏令营 进阶 Task2-自适应学习率+分类

.自适应学习率1.1AdaGrad1.2RMSProp1.3Adam1.4学习率调度1.5优化策略的总结2.分类2.1分类与回归的关系2.2带有softmax的分类2.3分类损失1.自适应学习率传统的梯度下降方法在优化过程中常常面临学习率设置不当的问题
沙雕是沙雕是沙雕·2024-08-31 22:57

基于Python的机器学习系列（17）：梯度提升回归（Gradient Boosting Regression）

简介梯度提升（GradientBoosting）是一种强大的集成学习方法，类似于AdaBoost，但与其不同的是，梯度提升通过在每一步添加新的预测器来减少前一步预测器的残差。
会飞的Anthony·2024-08-31 09:02

【ShuQiHere】从零开始实现逻辑回归：深入理解反向传播与梯度下降

本文将带你从零开始一步步实现逻辑回归，并深入探讨背后的核心算法——反向传播与梯度下降。逻辑回归的数学基础逻辑回归的目标是找到一个逻辑函数，能够将输入特征映射到一个(0,1)之
ShuQiHere·2024-08-31 02:37

梯度下降算法（Gradient Descent Algorithm）

目录一、梯度下降算法简述二、不同函数梯度下降算法表示1、一元函数2、二元函数3、任意多元函数三、梯度计算四、常见的梯度下降法1、批量梯度下降算法（BatchGradientDescent）2、随机梯度下降算法
海棠未语·2024-08-30 16:35

PyTorch 基础学习

TensorsPyTorch基础学习（3）-张量的数学操作PyTorch基础学习（4）-张量的类型PyTorch基础学习（5）-神经网络PyTorch基础学习（6）-函数APIPyTorch基础学习（7）-自动微分
花千树-010·2024-08-30 12:07

Halcon滤波器sobel_amp算子

前者用于计算边缘的梯度，后者除了能表示梯度外，还能表示边缘的方向，本文主要介绍sobel_amp算子。下面以一个简单的例子说明
看海听风心情棒·2024-08-30 11:31

Datawhale X 李宏毅苹果书AI夏令营深度学习详解进阶Task02

目录一、自适应学习率二、学习率调度三、优化总结四、分类五、问题与解答本文了解到梯度下降是深度学习中最为基础的优化算法，其核心思想是沿着损失函数的梯度方向更新模型参数，以最小化损失值。
z are·2024-08-30 08:14

【MRI基础】视场FOV基本概念

FOV由成像矩阵的大小和MRI扫描仪梯度线圈的物理尺寸决定。矩阵大小指的是图像中的像素数。FOV和矩阵尺寸之间的关系可以用
医学信号图像玩家·2024-08-30 08:09

偏微分 python_基于Python求解偏微分方程的有限差分法.doc

基于Python求解偏微分方程的有限差分法.doc基于Python求解偏微分方程的有限差分法(西安石油大学电子工程学院光电油气测井与检测教育部重点实验室，陕西西安710065)摘要：偏微分方程的求解是很多科学技术问题的关键难点
weixin_39612220·2024-08-30 07:38

言谈举止微分享：

人生的低谷，是个人的能力没有达到那个能力。能力提升，高度改变后，那些以前认为迈不过去的坎、翻不过去的山都变为了平地。早安~#礼仪规则##礼仪##社交礼仪##商务礼仪#
翟夏妍形象礼仪培训师·2024-08-29 21:57

Python实现分水岭图像分割算法

目录Python实现分水岭图像分割算法的详细博客一、引言二、分水岭算法的原理三、Python实现分水岭算法四、算法步骤解析1.图像预处理2.计算梯度图像3.阈值分割4.距离变换与标记操作5.分水岭变换五
闲人编程·2024-08-29 16:29

【技术博客】生成式对抗网络模型综述

判别器所作的其实就是一个二分类任务，我们可以计算他的损失并进行反向传播求出梯度，从而
MomodelAI·2024-08-29 13:23

L1正则和L2正则

Hands-OnMachineLearning)上对L1_norm和L2_norm的解释:左上图是L1_norm.背景是损失函数的等高线(圆形),前景是L1_penalty的等高线(菱形),这两个组成了最终的目标函数.在梯度下降的过程中
wangke·2024-08-29 10:19

Halcon经典的边缘检测算子

1.Sobel算子Sobel算子结合了高斯平滑和微分求导。它是一阶导数的边缘检测算子，使用卷积核对图像中的每个像素点做卷积和运算，然后采用合适的阈值提取边缘。Soble算子有两个
看海听风心情棒·2024-08-29 09:12

EMGU.CV入门（十四、图像轮廓）

一、轮廓1.1边缘和轮廓的区别边缘：离散的，断开的轮廓：整体的，连续的边缘检测主要是通过一些手段检测数字图像中明暗变化剧烈（即梯度变化比较大）像素点，偏向于图像中像素点的变化。
LyRics1996·2024-08-28 19:30

【自动驾驶】控制算法（四）坐标变换与横向误差微分方程

写在前面：欢迎光临清流君的博客小天地，这里是我分享技术与心得的温馨角落。个人主页：清流君_CSDN博客，期待与您一同探索移动机器人领域的无限可能。本文系清流君原创之作，荣幸在CSDN首发若您觉得内容有价值，还请评论告知一声，以便更多人受益。转载请注明出处，尊重原创，从我做起。点赞、评论、收藏，三连走一波，让我们一起养成好习惯在这里，您将收获的不只是技术干货，还有思维的火花！系列专栏：【运动控制】系
清流君·2024-08-28 18:58

【ShuQiHere】SGD vs BGD：搞清楚它们的区别和适用场景

在众多优化算法中，梯度下降法是一种最为常见且有效的手段。
ShuQiHere·2024-08-28 13:20

【学习笔记】第三章深度学习基础——Datawhale X李宏毅苹果书 AI夏令营

局部极小值与鞍点梯度为0的点我们统称为临界点，包括局部极小值、鞍点等局部极小值和鞍点的梯度都为0，那如何判断呢？先请出我们损失函数：L(θ)，θ是模型中的参数的取值，是一个向量。
MoyiTech·2024-08-28 11:38

反向传播算法：深度神经网络学习的核心机制

反向传播算法的基本概念反向传播算法结合了梯度下降优化和链式法则，通过计算损失函数关于网络参数的梯度来更新网络权重。1.损失函数
2402_85758936·2024-08-28 08:22

【机器学习】梯度下降算法

梯度下降算法这篇博客更加详细，以下只是我个人的理解梯度下降算法原理讲解——机器学习-CSDN博客梯度下降算法是一种优化算法，通过梯度下降找到函数最小值时的自变量值。
de-feedback·2024-08-27 18:50

神经网络深度学习梯度下降算法优化

【神经网络与深度学习】以最通俗易懂的角度解读[梯度下降法及其优化算法]，这一篇就足够（很全很详细）_梯度下降在神经网络中的作用及概念-CSDN博客https://blog.51cto.com/u_15162069
海棠如醉·2024-08-27 15:00

局部极小值与鞍点 Datawhale X 李宏毅苹果书 AI夏令营

当参数对损失微分为零的时候，梯度下降就不能再更新参数了，训练就停下来了，损失不再下降了，此时梯度接近于0。我们把梯度为零的点统称为临界点（criticalpoint）。
千740·2024-08-27 09:23

24.8.24学习心得

x.grad.zero_()y=x.sum()y.backward()x.gradtensor([1.,1.,1.,1.])因为y是x中所有元素的总和，所以x的每个元素对y的贡献都是相等的，因此每个元素的梯度都是
kkkkk021106·2024-08-27 05:00

OpenCV中的轮廓检测cv2.findContours()

文章目录前言一、查找轮廓二、绘制轮廓轮廓面积轮廓周长前言轮廓提取的前提，将背景置为黑色，目标为白色（利用二值化或Canny）边缘检测，例如Canny等，利用梯度变化，记录图像中的边缘像素点，返回和源图片一样尺寸和类型的边缘图
Limiiiing·2024-08-27 05:58

人工神经网络通过调整,神经网络怎么调参数

现在一般求解权值和阈值，都是采用梯度下降之类的搜索算法（梯度下降法、牛顿法、列文伯格-马跨特法、狗腿法等等），这些算法会先初始化一个解，在这个解的基础上，确定一个搜索方向和一个移动步长（各种法算确定方向和步长的方法不同
小浣熊的技术·2024-08-27 04:20

简易脊柱扭转式

直角式做得不标准，没有注意要点，肋骨没有内收，臀没有微翘，双手稍微分开了一点腹部没有内收右肩没有下沉，腹部没有内收
1e44f40ceabd·2024-08-26 22:22

深度学习多GPU训练原理

每个GPU根据自己所分到的数据，计算本地梯度所有GPU的本地梯度相加（这里的梯度只是模型参数的梯度，不包括中间变量的梯度），得到总的梯度。
浦东新村轱天乐·2024-08-25 22:31

LSTM--概念、作用、原理、优缺点以及简单的示例代码

RNN在处理长序列时，由于梯度消失或梯度爆炸问题，难以捕捉到长期依赖关系，而LSTM通过引入“记忆单元”（memorycell）和“门控机制”（gatin
Ambition_LAO·2024-08-25 21:28

机器学习——逻辑回归

目录一、逻辑回归1.1、模型原理1.2、损失函数二、实例2.1、定义sigmoid函数2.2、数据集2.3、梯度上升算法2.4、预测函数2.5、绘画函数三、代码运行结果：四、总结优点：缺点：一、逻辑回归逻辑回归是一种广义的线性回归分析模型
wsdswzj·2024-08-25 17:06

机器学习最优化方法之梯度下降

1、梯度下降出现的必然性利用最小二乘法求解线性回归的参数时，求解的过程中会涉及到矩阵求逆的步骤。随着维度的增多，矩阵求逆的代价会越来越大，而且有些矩阵没有逆矩阵，这个时候就需要用近似矩阵，影响精度。
whemy·2024-08-25 17:45

深度学习（十一）：YOLOv9之最新的目标检测器解读

物体检测技术的飞跃发展1.1YOLOv9简介1.2YOLOv9的核心创新1.2.1信息瓶颈:神经网络在抽取相关性时的理论边界1.2.2可逆函数:保留完整的信息流1.2.3对轻型模型的影响：解决信息丢失1.2.4可编程梯度信息
从零开始的奋豆·2024-08-25 13:39

粒子群优化算法和强化算法的优缺点对比，以表格方式进行展示。详细解释

以下是它们的优缺点对比，以表格的形式展示：特性粒子群优化算法（PSO）强化学习算法（RL）算法类型优化算法学习算法主要用途全局优化问题，寻找最优解学习和决策问题，优化策略以最大化长期奖励计算复杂度较低，通常不需要梯度信息
资源存储库·2024-08-25 09:44

matlab实现梯度下降优化算法

梯度下降（GradientDescent）是一种常用的优化算法，用于寻找函数的局部最小值。在机器学习领域，它常被用来优化模型的参数，比如线性回归、逻辑回归以及神经网络等模型的权重和偏置。
孺子牛 for world·2024-08-25 09:13

分销商城系统开发|微分销三级分销商城开发公司

随着电子商务行业的不断发展，分销商城系统越来越受到企业的青睐，因为这是一个能够提高销售和降低成本的好方法。分销商城系统是一种基于互联网技术的电商平台，一个分销商城系统的成功和否定，取决于系统是否能够提供高效的使用体验、安全可靠、强大的管理功能等等。下面从软件开发公司的角度，详细讨论一下分销商城系统的开发过程以及需要考虑的因素。点击进入红匣子软件开发--官网链接：https://www.hboxs.
红匣子实力推荐·2024-08-24 21:15

如何理解无条件的爱

❤️“因为爱”共建共享❤️君悦微分享2019.8.2【父母如何爱孩子？】健康的父母之爱，一开始是泛滥，慢慢走向节制。孩子一岁以内，怎么爱他都不多。
君君遛娃趣·2024-08-24 17:20

数学基础 -- 梯度下降算法

梯度下降算法梯度下降算法（GradientDescent）是一种优化算法，主要用于寻找函数的局部最小值或全局最小值。它广泛应用于机器学习、深度学习以及统计学中，用于最小化损失函数或误差函数。
sz66cm·2024-08-24 15:25

Python(PyTorch)物理变化可微分神经算法

要点使用受控物理变换序列实现可训练分层物理计算|多模机械振荡、非线性电子振荡器和光学二次谐波生成神经算法验证|训练输入数据，物理系统变换产生输出和可微分数字模型估计损失的梯度|多模振荡对输入数据进行可控卷积
亚图跨际·2024-08-24 07:35

pytorch深度学习基础 7（简单的的线性训练，SGD与Adam优化器）

接下来小编来讲一下一些优化器在线性问题中的简单使用使用，torch模块中有一个叫optim的子模块，我们可以在其中找到实现不同优化算法的类SGD随机梯度下降基本概念定义：随机梯度下降（SGD）是一种梯度下降形式
不是浮云笙·2024-08-24 05:49
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他