梯度

学习计划

学习标准-理解公式，会推导公式3、pandas、numpy，scipy学习4、a-算法理论:简单线性回归，多元线性回归，回归里面的梯度下降方法b-分类算法:逻辑回归，决策树，支持向量机c-聚类算法:kmeans
黏小莲·2023-12-03 15:21

梯度方向直方图

(x,y+1)-img(x,y-1)]};θ(x,y)=atan{[img(x,y+1)-img(x,y-1)]/[img(x+1,y)-img(x-1,y)]};第三步,用高斯系数来统计特征点周围的梯度信息
well3216·2023-12-03 14:43

SHAP（五）：使用 XGBoost 进行人口普查收入分类

XGBoost等梯度增强机方法对于具有多种形式的表格样式输入数据的此类预测问题来说是最先进的。
rgb2gray·2023-12-03 13:25

PyTorch中，.data属性已经被弃用，推荐使用.detach()方法

在PyTorch中，.data属性用于访问一个张量的底层数据（tensordata），返回一个新的张量，该张量与原始张量共享底层数据存储，但不具有梯度信息。
温柔的行子·2023-12-03 13:47

利用pytorch实现卷积形式的ResNet

ResNet通过添加所谓的“残差连接”（或跳跃连接）来解决深度神经网络中的梯度消失/爆炸问题。这些连接允许梯度直接流过网络，从而改善了训练过程。1.导入必需的
幸福右手牵·2023-12-03 11:53

神经网络中的 Grad-CAM 热图（Gradient-weighted Class Activation Mapping）

其基本思想是使用网络的梯度信息来获取关于特定类别的空间定位信息。Grad-CAM的具体公式如下：首先，计算特定类别的输出分数对于最终卷积层的梯度。
温柔的行子·2023-12-03 11:22

Pytorch 中的 Hook 机制

利⽤它，我们可以不必改变⽹络输⼊输出的结构，⽅便地获取、改变⽹络中间层变量的值和梯度。
温柔的行子·2023-12-03 11:18

06、基于内容的过滤算法Tensorflow实现

05、基于梯度下降的协同过滤算法中已经介绍了协同过滤算法的基本实现方法，但是这种方法仅根据用户的相似度进行推荐，而不关注用户或者电影本身的一些特征的匹配，基于内容的过滤算法正式为了对此进行改进。
怡步晓心l·2023-12-03 11:16

05、基于梯度下降的协同过滤算法

05、基于梯度下降的协同过滤算法理论与实践Python开始学习机器学习啦，已经把吴恩达的课全部刷完了，现在开始熟悉一下复现代码。对这个手写数字实部比较感兴趣，作为入门的素材非常合适。
怡步晓心l·2023-12-03 11:46

PyTorch中使用MNIST数据集进行训练和预测

定义损失函数和优化器：选择适当的损失函数（如交叉熵损失）和优化器（如随机梯度下降SGD）。训练模型：使用训练数据集对模型进行训练
赢勾喜欢海·2023-12-03 11:14

每天五分钟计算机视觉：AlexNet网络的结构特点

2、Alex使用了ReLu激活函数，使得模型收敛得更快，解决了sigmoid激活函数所存在的梯度弥散的问题。3、Alex使用了dropout层，这可以有效地防止过拟合的问题。4
幻风_huanfeng·2023-12-03 06:51

常见场景题-接口重试策略如何设计？

如果重试间隔太短，可能导致雪崩效应；如果太长，可能影响用户体验梯度间隔重试：根据重试次数去延长重试间隔时间。例如第一次重试间隔1s，第二次2s，第三次4s。
无敌少年小旋风·2023-12-03 05:48

【动手学深度学习】(八)数值稳定和模型初始化

文章目录一、理论知识一、理论知识1.神经网络的梯度考虑如下有d层的神经网络计算损失l关于参数Wt的梯度（链式法则）2.数值稳定性常见的两个问题3.梯度爆炸4.梯度爆炸的问题值超出阈值对于16位浮点数尤为严重对学习率敏感如果学习率太大
释怀°Believe·2023-12-03 04:50

分类网络中的类激活热力图——Grad CAM

1、背景卷积神经网络是一种黑盒技术，通过理论推导，以及梯度传播，去不断逼近局部最优解。但神经网络究竟是怎么做出判断和决策的，需要不断地探究。
qxq_sunshine·2023-12-02 22:47

逻辑回归 使用Numpy实现逻辑回归

(z)=1(1+e−z)g(z)=\frac{1}{(1+e^{−z})}g(z)=(1+e−z)1#sigmoid函数defsigmod(z):return1/(1+np.exp(-z))线性计算与梯度下降
小小程序○·2023-12-02 22:34

前向与反向过程的全连接与链式求导法则

在训练这样的模型时，我们通常需要计算损失函数对各层参数的梯度。本文将介绍前向与反向过程的全连接与链式求导法则，以帮助读者更好地理解深度学习中的求导过程。
非著名程序员阿强·2023-12-02 19:28

LORA概述: 大语言模型的低阶适应

大语言模型的低阶适应前言摘要论文十问实验RoBERTaDeBERTaGPT-2GPT-3结论代码调用LORA:大语言模型的低阶适应前言LoRA的核心思想在于优化预训练语言模型的微调过程，通过有效地处理权重矩阵的变化（即梯度更新的累积
江小皮不皮·2023-12-02 17:46

智能优化算法-理论

一、常用的无约束优化方法1.最速下降法：负梯度方向使目标函数下降最快2.牛顿法二、分类1.兔子理论：为了找出地球上最高的山，一群兔子开始想办法。（1）局部搜索：兔子朝着比现在高的地方跳去。
嗯哼丶是你呀·2023-12-02 16:24

matlab diff和gradient

gradient求解梯度。示例FX=gradient(F)返回向量F的一维数值梯度。输出FX对应于∂F/∂x，即x（水平）方向上的差分。点之间的间距假定为1。
芋圆奶绿，要半t·2023-12-02 15:34

【深度学习理论】(1) 损失函数

构造损失函数之后，我们的目标就是将损失函数的值最小化，使用梯度下降的方法求得损失函数对于
立Sir·2023-12-02 14:27

GAN：WGAN-GP-带有梯度惩罚的WGAN

论文：https://arxiv.org/pdf/1704.00028.pdf代码：GitHub-igul222/improved_wgan_training:Codeforreproducingexperimentsin"ImprovedTrainingofWassersteinGANs"发表：2017WGAN三部曲的终章-WGAN-GP摘要WGAN在稳定训练GANs方面有一定的进展，但依然存在
微风❤水墨·2023-12-02 12:02

【PyTorch】（五）模型训练

将数据转移到GPU_X,_y=_X.to(device),_y.to(device)#前向传播计算损失loss=criterion(model(_X).reshape(_y.shape),_y)#清空优化器梯度缓存
盛世隐者·2023-12-02 10:08

python实现梯度下降法

梯度下降法梯度定义梯度的本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向（此梯度的方向）变化最快，变化率最大（为该梯度的模）。
__倔强的贝吉塔·2023-12-02 09:17

数字图像处理（实践篇） 十六 基于分水岭算法的图像分割

随着水位的上升，根据附近的山峰（梯度），来自不同山谷的水，显然具有不同的颜色，将开始合并。为了避免这种情况，我们需要在水汇合的位置建造水坝或者屏障。如果继续注水和建造屏障的工作，直到
Jackilina_Stone·2023-12-02 07:52

012 OpenCV sobel边缘检测

Windows10Python3.9.17opencv-python4.8.0.74二、soble原理介绍Sobel边缘检测是一种广泛应用于图像处理领域的边缘检测算法，它通过计算图像灰度函数在水平方向和垂直方向的梯度来检测边缘
韩师兄_·2023-12-02 06:16

计算机视觉（OpenCV+TensorFlow

文章目录计算机视觉（OpenCV+TensorFlow）前言三.图像处理1.图像平滑处理1.1.均值滤波1.2方框滤波1.3高斯滤波1.4中值滤波2.图像形态转换2.1腐蚀操作2.2膨胀操作2.3开运算与闭运算2.4梯度运算图像梯度礼帽与黑帽
Mayphyr·2023-12-02 04:23

放射计划如何评估

B：治疗的肿瘤区域内，剂量分布要均匀，剂量变化梯度不能超过±5%，即要达到≥90%的剂量分布。C：照射野设计应尽量提高治疗区域内剂量，降低照射区正常组织受照剂量。
_Epsilon_·2023-12-02 04:47

linux的gromacs模拟分子运动,GROMACS分子动力学模拟技术与应用

课程内容分子动力学模拟基础1分子模拟入门理论——对分子动力学模拟原理介绍1.1统计力学基本假设1.2统计概率1.3配分函数的定义1.4系综简介和选择1.5分子动力学的概念1.6主要算法介绍：最速下降法、共轭梯度法
流年二十春·2023-12-02 03:06

点云边缘获取并可视化（附open3d python代码）

通过计算每个点的梯度来找到边缘点，类似图像中找图像轮廓的方法对于简化后续计算步骤，或者提取点云特征都比较有用结果如下图；代码如下：#-*-coding:utf-8-*-importnumpyasnpimportopen3daso3dimporttimeclassEdge3DCentroid
点云-激光雷达-Slam-三维牙齿·2023-12-02 00:37

Matlab实现图像识别（八）

现在流行的图像预处理算法非常多，例如图像反转，灰度线性变换，非线性变换，直方图均衡化，线性平滑滤波器，中值滤波器，Sobel算子和拉普拉斯对图像锐化，梯度算子检测边缘，LOG算子检测边缘，Canny算子检测边缘
才大难为用·2023-12-01 23:48

梯度下降优化算法综述

Anoverviewofgradientdescentoptimizationalgorithms∗论文地址：https://arxiv.org/pdf/1609.04747.pdfAbstract：虽然梯度下降优化算法越来越受欢迎
涓涓自然卷·2023-12-01 17:10

人工智能-优化算法之动量法

对于嘈杂的梯度，我们在选择学习率需要格外谨慎。如果衰减速度太快，收敛就会停滞。相反，如果太宽松，我们可能无法收敛到最优解。泄漏平均值小批量随机梯度下降作为加速计算的手段。
白云如幻·2023-12-01 16:15

张贵栓‖语文主题学习100问（94）

曹文轩曾经说过：“其实中小学语文教材的编写，合适的‘梯度’也是核心理念。”那么，五年级学生阅读能力在统编版教材中又是如何体现分级阅读的？一、获取信息方面：提取与内容、
悦读苑·2023-12-01 16:11

04 牛顿法、高斯牛顿法及 Cpp 实现

文章目录04牛顿法、高斯牛顿法及Cpp实现4.1非线性最小二乘4.2一阶和二阶梯度法4.3高斯牛顿法4.4总结4.5代码实现4.6三种方法优缺点04牛顿法、高斯牛顿法及Cpp实现4.1非线性最小二乘考虑最小二乘问题
算法导航·2023-12-01 15:15

【机器学习】线性模型之逻辑回归

文章目录逻辑回归Sigmoid函数概率输出结果预测值与真实标签之间的并不匹配交叉熵逻辑回归模型梯度下降逻辑回归模型求解编程求解sklearn实现，并查看拟合指标逻辑回归逻辑回归是一种广义线性模型，形式上引入了
撕得失败的标签·2023-12-01 15:39

Course1-Week3-分类问题

Course1-Week3-分类问题文章目录Course1-Week3-分类问题1.逻辑回归1.1线性回归不适用于分类问题1.2逻辑回归模型1.3决策边界2.逻辑回归的代价函数3.实现梯度下降4.过拟合与正则化
虎慕·2023-12-01 15:33

Diffusion微调报错：RuntimeError: One of the differentiated Tensors does not require grad

最近在开展DiffusionModel模型微调的相关工作时，设置微调层后反传梯度多次遇到以下报错RuntimeError:OneofthedifferentiatedTensorsdoesnotrequiregrad
阳光素描·2023-12-01 09:56

线性回归 梯度下降

梯度下降算法在开始之前，为了方便解释，首先规定几个符号所代表的意义：mmm训练集中训练样本的数量XXX输入变量YYY输出变量(x,y)(x,y)(x,y)训练样本(xi,yi)(x^i,y^i)(xi,
小小程序○·2023-12-01 06:55

线性回归 调试方法

调试方法特征缩放对于某些不具有比较性的样本特征xix_ixi（比如对其他的x来说xix_ixi相当大或者相当小），梯度下降的过程可能会非常漫长，并且可能来回波动才能最后收敛到全局的最小值。
小小程序○·2023-12-01 06:54

大数据HCIE成神之路之数学（4）——最优化实验

最优化实验1.1最小二乘法实现1.1.1算法介绍1.1.2代码实现1.2梯度下降法实现1.2.1算法介绍1.2.2代码实现1.3拉格朗日乘子法1.3.1实验1.3.2实验操作步骤1.1最小二乘法实现1.1.1
邵奈一·2023-12-01 05:09

重温强化学习之策略梯度算法

贪婪策略导出行为策略，直接参数化策略考虑之前强化学习分类：基于值函数的方法：学习值函数、用值函数导出策略基于策略的方法：没有值函数，学习策略Actor-Critic:学习值函数、学习策略为什么需要使用策略梯度算法
BUPT-WT·2023-12-01 01:10

DDPG深度确定性策略梯度算法概述

目录1.Critic网络2.Actor网络3.主要技巧4.补充说明DDPG(DeepDeterministicPolicyGradient)是连续控制领域的经典强化学习算法，是结合PG和DQN的一种off-policy方法。可以看作是DQN的改进，在DQN的Q网络基础上引入Actor网络预测一个使Q值最大的动作值，从而能够应对连续动作空间，且使用了DQN中的目标网络和经验复现技巧。Deep指深度网
北极与幽蓝·2023-12-01 01:10

深度强化学习-策略梯度算法深入理解

1引言在深度强化学习-策略梯度算法推导博文中，采用了两种方法推导策略梯度算法，并给出了Reinforce算法的伪代码。
indigo love·2023-12-01 01:40

策略算法与Actor-Critic网络

策略算法教程链接DataWhale强化学习课程JoyRLhttps://johnjim0816.com/joyrl-book/#/ch7/main策略梯度与前面的基于价值的算法不同，这类算法直接对策略本身进行近似优化
数分虐我千百遍·2023-12-01 01:38

Policy Gradient策略梯度算法详解

1.基本思想PolicyGradient策略梯度（PG），是一种基于策略的强化学习算法，不少帖子会讲到从基于值的算法（Q-learning/DQN/Saras）到基于策略的算法难以理解，我的理解是两者是完全两套思路
好程序不脱发·2023-12-01 01:08

经典策略梯度算法

经典策略梯度算法DDPG算法DDPG算法被提出的初衷其实是DQN算法的一个连续动作空间版本扩展。
数分虐我千百遍·2023-12-01 01:37

【OpenCV】形态学滤波（2）：开运算、形态学梯度、顶帽、黑帽

文章目录1、开运算2、闭运算3、形态学梯度4、顶帽5、黑帽6、核心API函数：morphologyEx()7、综合示例：形态学滤波1、开运算开运算（OpeningOperation)，其实就是先腐蚀后膨胀的过程
我菜就爱学·2023-11-30 22:00

计算机视觉：使用dlib实现人脸检测

1.1核心特性多样的机器学习算法：Dlib包含丰富的机器学习算法，如支持向量机（SVM）、决策树、随机森林、梯度提升树等。这些算法广泛应用于分类、回归和聚
智慧医疗探索者·2023-11-30 21:31

Deep Learning（wu--84）

文章目录2偏差和方差正则化梯度消失\爆炸权重初始化导数计算梯度检验OptimizationMini-Batch梯度下降法指数加权平均偏差修正RMSpropAdam学习率衰减局部最优问题调参BNsoftmaxframework2
怎么全是重名·2023-11-30 13:06

深度学习进阶 - 权重初始化，梯度消失和梯度爆炸

文章目录权重初始化梯度消失与梯度爆炸Hi，你好。我是茶桁。咱们这节课会讲到权重初始化、梯度消失和梯度爆炸。咱们先来看看权重初始化的内容。权重初始化机器学习在我们使用的过程中的初始值非常的重要。
茶桁·2023-11-30 13:58
上一页 18 19 20 21 22 23 24 25 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他