梯度直方图

比 WGAN 更好的 WGAN-GP

虽然WGAN在稳定训练方面有了比较好的进步，但是也有缺点：1）有时候也只能生成较差的样本，并且有时候也比较难收敛；2）Critic网络深的时候也容易出现梯度消失和梯度爆炸的情况。
木水_·2023-12-21 14:25

机器学习--线性回归

目录监督学习算法线性回归损失函数梯度下降目标函数更新参数批量梯度下降随机梯度下降小批量梯度下降法数据预处理特征标准化正弦函数特征多项式特征的函数数据预处理步骤线性回归代码实现初始化步骤实现梯度下降优化模块损失与预测模块完整代码单变量线性回归实例加载数据并划分数据集训练线性回归模型得到损失函数图像测试阶段多特征回归实例非线性回归实例监督学习算法监督学习算法是一种通过学习输入数据和相应的标签之间的关系
llovew.·2023-12-21 12:45

神经网络：优化器和全连接层

SGD（随机梯度下降）随机梯度下降的优化算法在科研和工业界是很常用的。很多理论和工程问题都能转化成对目标函数进行最小化的数学问题。
是Dream呀·2023-12-21 11:08

36从传统算法到深度学习：目标检测入门实战 --行人检测

行人检测基本流程在实验1到实验3中我们分别学习了滑动窗口、图像金字塔、方向梯度直方图。本节实验我们将结合这些方法来构建一个传统的行人检测算法。
Jachin111·2023-12-21 11:39

关于with torch.no_grad:的一些小问题

withtorch.no_grad:是截断梯度记录的，新生成的数据的都不记录梯度，但是今天产生了一点小疑惑，如果存在多层函数嵌入，是不是函数内所有的数据都不记录梯度，验证了一下，确实是的。
江_小_白·2023-12-21 08:01

Pytorch：backward()函数详解

.backward().backward()是PyTorch中用于自动求导的函数，它的主要作用是计算损失函数对模型参数的梯度，从而实现反向传播算法。
北方骑马的萝卜·2023-12-21 08:52

【pytorch】自动求导机制

grad:data的梯度grad_fn:创建Tensor的Function，是自动求导的关键requires_grad：指示是否需要梯度is_leaf:指示是否是叶子结点PyTorch张量可以记住它们来自什么运算以及其起源的父张量
prinTao·2023-12-21 08:17

机器学习之逻辑回归，一文掌握逻辑回归算法知识文集

欢迎点赞✍评论⭐收藏文章目录人工智能(逻辑回归算法)一、逻辑回归算法知识01.梯度下降法（GradientDescent）1.1什么是梯度下降法？1.2梯度下降法的具体步骤和算法公式？
普修罗双战士·2023-12-21 07:48

去掉乘法运算的加法移位神经网络架构

github.com/huawei-noah/AdderNet/tree/master核心贡献用filter与inputfeature之间的L1-范数距离作为“卷积层”的输出为了提升模型性能，提出全精度梯度的反向传播方法根据不同层的梯度级数
Mr.zwX·2023-12-21 05:28

GBDT-梯度提升决策树

梯度提升决策树（GradientBoostingDecisionTree,GBDT）是一种基于boosting集成学习思想的加法模型，训练时采用前向分布算法进行贪婪学习，每次迭代都学习一棵CART树来拟合之前
沉住气CD·2023-12-21 02:33

为什么GRU和LSTM能够缓解梯度消失或梯度爆炸问题？

1、什么是梯度消失（gradientvanishing）？参数更新过小，在每次更新时几乎不会移动，导致模型无法学习。2、什么是梯度爆炸（gradientexploding）？
科学禅道·2023-12-21 02:48

梯度下降法

一、梯度下降法的基本概念梯度下降法是一种常用的优化算法，用于求解最小化目标函数的问题。在机器学习和深度学习中，梯度下降法被广泛应用于求解模型参数的优化问题，例如线性回归、逻辑回归、神经网络等。
调钟师·2023-12-21 01:32

常见的分类算法

本文将介绍十种常见的分类算法，包括K-近邻算法、决策树算法、朴素贝叶斯算法、支持向量机算法、逻辑回归算法、神经网络算法、随机森林算法、梯度提升算法、AdaBoost算法和XGBoost算法。
调钟师·2023-12-21 01:01

大模型的魔法

momentum是梯度下降法中一种常用的加速技术。对于一
YingJingh·2023-12-21 01:29

GWAS

数据集AtPolyDB（调用方法75，Horton等人）和基因注释集基因注释(TAIR9)；3、选择一个表型，总共可以选择5种表型，在本教程中，我们通过键入名称来选择两种表型LD和LDV；4、表型分布的直方图和
小白兔和小毛驴·2023-12-21 00:05

CSP-202309-2 坐标变换（其二）(模拟，c++，vector建二叉树)

计算机软件能力认证考试系统问题描述试题编号：202309-3试题名称：梯度求解时间限制：1.0s内存限制：512.0MB问题描述：背景西西艾弗岛运营公司近期在大力推广智能化市政管理系统。
Landing_on_Mars·2023-12-20 22:06

【Matlab算法】随机梯度下降法 (Stochastic Gradient Descent，SGD) （附MATLAB完整代码）

随机梯度下降法前言正文代码实现可运行代码结果前言随机梯度下降法(StochasticGradientDescent，SGD)是一种梯度下降法的变种，用于优化损失函数并更新模型参数。
Albert_Lsk·2023-12-20 21:02

迭代相位恢复算法matlab仿真程序,相位恢复算法在仿真与实验上的研究

将基于光强传输方程(TIE)法与G-s迭代算法混合提高了相位恢复的精确度，梯度算法的提出加大了迭代步长，使得收敛速度加快。
Mustafa Xia·2023-12-20 20:26

大数据机器学习：从理论到实战，探索学习率的调整策略

大数据机器学习：从理论到实战，探索学习率的调整策略全文目录大数据机器学习：从理论到实战，探索学习率的调整策略一、引言二、学习率基础定义与解释学习率与梯度下降学习率对模型性能的影响三、学习率调整策略常量学习率时间衰减自适应学习率
星川皆无恙·2023-12-20 18:43

MNIST手写数字识别——simple model Y = XW + b

文章目录数据处理MINIST手写数字数据集简单介绍一下数据集将数据集转化为csv文件简单的手写数字识别模型加载数据集定义模型和超参数前向传播sigmoid激活函数softmax函数交叉熵损失函数反向传播梯度下降法链式法则
涵涵不是憨憨~·2023-12-20 18:30

NLP论文阅读记录-ACL 2023 | Improving the Robustness of Summarization Systems with Dual Augmentation

文章目录前言一、论文摘要二、论文动机2.1目标问题2.2相关工作三.本文工作3.1摘要攻击器受攻击的词选择器使用LM和梯度进行攻击3.2双重增强漏洞分析增强设计输入空间增强潜在语义空间增强四实验效果4.1
yuyuyu_xxx·2023-12-20 18:13

2019-09-27

从有效经营的角度来看，我们列举以下重点模块：项目定位，消费设计，服务流程，技术沟通，业绩规划，梯度考核，环境管理，团队成长。在这些模块中，哪些经营动作是有效的，
甘新军Kevingan·2023-12-20 15:07

某电子文档安全管理系统 SQL注入漏洞复现

防止内部员工泄密和外部人员非法窃取企业核心重要数据资产，对电子文档进行全生命周期防护，系统具有透明加密、主动加密、智能加密等多种加密方式，用户可根据部门涉密程度的不同(如核心部门和普通部门)，部署力度轻重不一的梯度式文档加密防护
keepb1ue·2023-12-20 15:04

归一化和标准化(Z-Score)

在处理数据过程中，通常会有不同规格的数据，比如年龄的取值范围是0-130，收入的取值范围是0-100000等等，如果不进行归一化或标准化处理，梯度下降每次走过的相对长度就不一样，就导致某个参数很快就找到了最优解
ShawnWeasley·2023-12-20 11:15

深度学习优化器Optimizer-SGD、mSGD、AdaGrad、RMSProp、Adam、AdamW

alpha学习率learningrate:α防止除0的截断参数:ϵ防止除0的截断参数:\epsilon防止除0的截断参数:ϵt  时刻的参数:Wtt\;时刻的参数:W_{t}t时刻的参数:Wtt  时刻的梯度
Leafing_·2023-12-20 08:13

图片曝光修正方法（直方图均衡和CNN）

直方图均衡法：通过RGB通道的直方图均衡达到处理曝光不足的效果。
蓝羽飞鸟·2023-12-20 07:18

线性回归——lasso回归和岭回归（ridge regression）

References线性回归很简单，用线性函数拟合数据，用meansquareerror(mse)计算损失（cost），然后用梯度下降法找到一组使mse最小的权重。
weixin_30853329·2023-12-20 05:14

线性回归、lasso回归和岭回归（ridge regression）

线性回归很简单，用线性函数拟合数据，用均方差meansquareerror(mse)计算损失（cost），然后用梯度下降法找到一组使mse最小的权重。
呆小呆_·2023-12-20 05:43

Halcon深度学习相关术语介绍

1、深度学习术语表一序号术语解释1AdamAdam(adaptivemomentestimation)是一种基于一阶梯度的随机目标函数优化算法，用于计算单独的自适应学习率。
夏雪之晶莹·2023-12-20 03:33

湖南科技大学计算智能课设（二）以人事招聘为例的误差反向传播算法

其建立在梯度下降
枍飏·2023-12-20 03:52

数量关系到底该怎么找 《节余多少钱》教学反思

在练习环节，设计了梯度递增的几个练习题，让学生解决图像文字结合的练习抽象、转化为仅有文字和数量信息的问题。让孩子们计算题在数学作业帮上完成的情况不是很好。课题检测的情况相对来说比较理想。但是
坪山区弘金地学校张伟·2023-12-20 03:09

带残差连接的ResNet18

3带残差连接的ResNet183.1模型训练3.2模型评价4与高层API实现版本的对比实验总结残差网络（ResidualNetwork，ResNet）是在神经网络模型中给非线性层增加直连边的方式来缓解梯度消失问题
熬夜患者·2023-12-20 01:15

RNN梯度爆炸实验

前情回顾fromtorch.utils.dataimportDatasetimporttorch.nnasnnimporttorch.nn.functionalasFimportosimportrandomimporttorchfromnndlimportAccuracyfromnndlimportRunnerV3fromtorch.utils.dataimportDataLoaderimport
熬夜患者·2023-12-20 01:15

深度学习中的张量维度

在深度学习中，张量通常被用来表示神经网络的输入、输出、权重和梯度等数据。在深度学习框架中，张量是一个重要的概念，因为它是深度学习计算的基本单位。张量可以用不同的数据类型表示，如浮点型、整型等。
智慧医疗探索者·2023-12-20 01:54

NNDL 循环神经网络-梯度爆炸实验 [HBU]

目录6.2.1梯度打印函数6.2.2复现梯度爆炸现象6.2.3使用梯度截断解决梯度爆炸问题【思考题】梯度截断解决梯度爆炸问题的原理是什么？
洛杉矶县牛肉板面·2023-12-20 00:02

前馈神经网络-自动梯度计算＆优化问题

目录一.自动梯度计算1利用预定义算子重新实现前馈神经网络（1）使用pytorch的预定义算子来重新实现二分类任务。（必做）（2）增加一个3个神经元的隐藏层，再次实现二分类，并与1做对比。
洛杉矶县牛肉板面·2023-12-20 00:01

NNDL 作业10 BPTT [HBU]

目录习题6-1P推导RNN反向传播算法BPTT.习题6-2推导公式(6.40)和公式(6.41)中的梯度．习题6-3当使用公式(6.50)作为循环神经网络的状态更新公式时，分析其可能存在梯度爆炸的原因并给出解决方法
洛杉矶县牛肉板面·2023-12-20 00:01

NNDL 作业11 LSTM [HBU ]

目录习题6-4推导LSTM网络中参数的梯度，并分析其避免梯度消失的效果>LSTM前向传播>反向传播求梯度>梯度消失和梯度爆炸怎么来的？>关键点：LSTM如何缓解梯度消失？
洛杉矶县牛肉板面·2023-12-20 00:29

pytorch文本分类（三）模型框架（DNN&textCNN）

原任务链接目录pytorch文本分类（三）模型框架（DNN&textCNN）1.背景知识深度学习2.DNN2.1从感知器到神经网络2.2DNN的基本结构2.2.1前向传播算法激活函数2.2.2反向传播算法损失函数梯度下降优化器
大地之灯·2023-12-20 00:59

OPTIMIZATION AS A MODEL FOR FEW-SHOT LEARNING

文章提出，在小样本数据下，基于梯度的优化算法失败的原因：1、梯度优化算法无法在几步之内完成优化，特别是非凸问题，各种超参的选取无法保证收敛的速度。2、不同任务随机初始化会影响任务收敛到好的解上。
果园林·2023-12-19 23:04

R语言绘制频率直方图

频率直方图是数据统计中经常会用到的图形展示方式，同时在生物学分析中可以更好的展示表型性状的数据分布类型；R基础做图中的hist函数对单一数据的展示很方便，但是当遇到多组数据的时候就不如ggplot2绘制来的方便
种地的pele·2023-12-19 22:31

大数据机器学习-梯度下降：从技术到实战的全面指南

大数据机器学习-梯度下降：从技术到实战的全面指南文章目录大数据机器学习-梯度下降：从技术到实战的全面指南一、简介什么是梯度下降？为什么梯度下降重要？
星川皆无恙·2023-12-19 18:30

BN和LN

它们的目的是加速模型的训练过程，提高模型的收敛速度，并且有助于防止梯度消失或梯度爆炸问题。BatchNormalization(BN)：适用范围：BN主要用于卷积神经网络（CNN）和全连接层。操作对
无名之辈008·2023-12-19 17:04

探索拉普拉斯算子：计算机视觉中用于边缘检测和图像分析的关键工具

它是函数梯度的发散度。在图像处理的上下文中，该运算符应用于图像的强度函数，可以将其视为每个像素具有强度值的二维信号。
无水先生·2023-12-19 16:19

【pytorch】图像运行过程中，保证梯度情况下变换

部分操作是危险的，会中断梯度流。
prinTao·2023-12-19 14:29

python识别增强静脉清晰度 opencv-python图像处理案例

importcv2importnumpyasnpdefenhance_blood_vessels(image):#调整图像对比度和亮度enhanced_image=cv2.convertScaleAbs(image,alpha=0.5,beta=100)#应用CLAHE（对比度受限的自适应直方图均衡化
安城安·2023-12-19 08:43

[PyTorch][chapter 8][李宏毅深度学习][Back propagation]

它用于计算梯度计算中，降低误差。目录：链式法则模型简介（Model）损失函数,梯度手写例子min-batch一链式法则链式法则是反向传播算法里面的核心。
明朝百晓生·2023-12-19 08:11

Logistic 回归算法

Logistic回归Logistic回归算法Logistic回归简述Sigmoid函数Logistic回归模型表达式求解参数$\theta$梯度上升优化算法Logistic回归简单实现使用sklearn
写进メ诗的结尾。·2023-12-19 06:42

基于Levenberg-Marquardt算法改进的BP神经网络-公式推导及应用

它结合了梯度下降和高斯-牛顿方法的特点，旨在提高收敛速度和稳定性。下面是基于Levenberg-Marquardt算法改进的反向传播（BP）神经网络的详细推导过程。
轩Scott·2023-12-19 05:39

CCFCSP认证历年第一题（Python版汇总）

重复局面202303-1田地丈量202212-1现值计算202209-1如此编码202206-1归一化处理202203-1未初始化警告202112-1序列查询202109-1数组推导202104-1灰度直方图
无业大学生啼·2023-12-19 04:42
上一页 20 21 22 23 24 25 26 27 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他