梯度直方图第34页

[nlp] 损失缩放（Loss Scaling）loss sacle

在深度学习中，损失缩放技术通常是通过将梯度进行缩放来实现的。具体来说，在计算梯度时，将梯度除以一个称为“lossscale”的缩放因子，然后再进行反向传播和优化器更新。这种技术可以有效地防止梯度爆炸

心心喵·2023-11-16 15:22

[nlp] grad norm先降后升再降

gradnorm先降后升再降正常嘛在深度学习中，梯度的范数通常被用来衡量模型参数的更新程度，也就是模型的学习进度。在训练初期，由于模型参数的初始值比较随机，梯度的范数可能会比较大，这是正常现象。

心心喵·2023-11-16 15:48

机器学习三归一化_正则化_多项式升维

一.归一化1.归一化的目的把数据变为（0，1）之间的数,使得在梯度下降的过程中，不同维度的θ值（或w）参数可以在接近的调整幅度上。保持数据在迭代过程中的θ值幅度基本一致。

Starry-sky(jing)·2023-11-16 15:10

图上的对抗与攻击精选论文列表(2021相关论文一览)

数据派THU·2023-11-16 14:27

【优化方法学习笔记】第二章：无约束优化

3.2.1平分法3.2.2黄金分割法（0.618法）3.2.3牛顿法3.2.4抛物线法3.3非精确一维搜索4.多元函数的下降算法4.1最速下降法、牛顿法和阻尼牛顿法4.2拟牛顿法（变尺度法）4.3共轭梯度法

-YueLin-·2023-11-16 14:56

曲线背后的阴阳观

一日之中阳的强度，是瞬间未来的阳量对瞬间过去阳量的梯度，根据这个定义，我们大概可以想一下阴阳互补的曲线。子时阳为负无

坚持学习的Lele·2023-11-16 14:17

多GPU训练大型模型：资源分配与优化技巧｜英伟达将推出面向中国的改良芯片HGX H20、L20 PCIe、L2 PCIe

★大模型、人工智能；数据并行；模型并行；流水线并行；混合精度训练、梯度累积；模型卸载CPU；重算；模型压缩；内存优化版优化器；Nvidia；A100;H100；A800;H800;L40s；混合专家；910B

高性能服务器·2023-11-16 12:41

PyTorch深度学习实战——图像着色

PyTorch深度学习实战——图像着色0.前言1.模型与数据集分析1.1数据集介绍1.2模型策略2.实现图像着色相关链接0.前言图像着色指的是将黑白或灰度图像转换为彩色图像的过程，传统的图像处理技术通常基于直方图匹配和颜色传递的方法或基于用户交互的方法等完成图像着色操作

盼小辉丶·2023-11-16 11:51

使用Python实现梯度下降法处理回归问题

使用Python实现梯度下降法处理回归问题我们这将使用[sklearn][6]框架和手动方式实现梯度下降法对数据的回归操作-使用sklearn框架首先我们要导入sklearn的包，代码如下:importnumpyasnpimportpandasaspdimportmatplotlib.pyplotaspltimporttimefromsklearn.linear_modelimportLinear

华灯初上~(unique)·2023-11-16 10:07

python手写函数与调用库分别实现逻辑回归与线性回归

采取的方法均为类似梯度下降法的方法。

你今天学习了嘛·2023-11-16 10:00

【机器学习7】优化算法

Hinge损失在fy=1处不可导，因此不能用梯度下降法进行优化，而是用次梯度下降法Logistic损失函数该损失函数对所有的样本点都有所惩罚，因

猫头不能躺·2023-11-16 08:09

PyTorch技术和深度学习——四、神经网络训练与优化

文章目录1.神经网络迭代概念1）训练误差与泛化误差2）训练集、验证集和测试集划分3）偏差与方差2.正则化方法1）提前终止2）L2正则化3）Dropout3.优化算法1）梯度下降2）Momentum算法3

千里之行起于足下·2023-11-16 06:47

【深度学习实验】网络优化与正则化（五）：数据预处理详解——标准化、归一化、白化、去除异常值、处理缺失值

文章目录一、实验介绍二、实验环境1.配置虚拟环境2.库版本介绍三、优化算法0.导入必要的库1.随机梯度下降SGD算法a.PyTorch中的SGD优化器b.使用SGD优化器的前馈神经网络2.随机梯度下降的改进方法

QomolangmaH·2023-11-16 04:48

Federated Social Recommendation with Graph Neural Network

jieHeEternity·2023-11-16 04:40

python绘图库seaborn_Python--Seaborn绘图和可视化--基本语法

提要：1、直方图和密度图2、柱状图和热力图3、设置图形显示效果4、调色功能老样子，首先将使用它所需要的库导入进来，当然，其中包括numpy之类的是为了演示它的功能才导入的，大家要先理解

weixin_39812224·2023-11-16 01:49

机器学习的线性回归与非线性回归

一元线性回归回归分析用来建立方程模拟两个或者多个变量之间如何关联一元线性回归包括一个自变量和一个因变量如果包含两个以上的自变量，则称为多元线性回归代价函数（损失函数）损失函数的最终目的是为了使得误差平方和最小用梯度下降法求解线性回归训练模型过程中不断重复这个语句学习率的值不能太小

托比-马奎尔·2023-11-15 23:40

pytorch:张量概念与创建的api

张量（Tensor）标量：0维张量向量：1维张量矩阵：2维张量Variable数据类型(torch.autograd中数据类型，用来封装Tensor)：data:被封装的Tnsorgrad:data的梯度

Rui@·2023-11-15 21:25

pytorch基础：张量

优点：在PyTorch中支持GPU运算和自动求梯度等功能。Variable是torch.

BabiiElaine·2023-11-15 21:22

吴恩达机器学习--中文笔记--第五周

吴恩达机器学习第五个星期1.代价函数与反向传播1.1代价函数1.2反向传播算法1.3反向传播算法的直觉理解2.实战中的反向传播2.参数的展开和恢复2.2梯度检查2.3随机初始化2.4步骤小结参考文献本文是在学习吴恩达老师机器学习课程的基础上结合老师的

Bill Gates's fan·2023-11-15 21:20

混合精度训练/torch.cuda.amp.GradScaler是用来干什么的，例子

具体来说，GradScaler可以将梯度缩放到较小的范围，以避免数值下溢或溢出的问题，同时保持足够的精度以避免模型的性能下降。

樱木之·2023-11-15 21:14

向量矩阵范数pytorch

pytorch矩阵按照某个维度求和（dim就是shape数组的下标）1.torch1.1Tensors一些常用函数一些安装问题cd进不去不去目录PyTorch里面_表示重写内容在默认情况下，PyTorch会累积梯度

Selvaggia·2023-11-15 20:54

JMSA（Jacobian Saliency Map Attack）算法源码解析

：https://github.com/Harry24k/adversarial-attacks-pytorch/tree/master解析FGSM、PGD等算法生成的对抗样本的扰动方向都是损失函数的梯度方向

Sankkl1·2023-11-15 18:45

决策树的Boosting策略是什么

在决策树的Boosting策略中，最常见的算法是梯度提升决策树（GradientBoostingDecisionTrees，简称GBDT）。

温柔的行子·2023-11-15 17:19

Transformer（二）—— ResNet（残差网络）

Transformer（二）——ResNet（残差网络）一、背景1.1梯度消失/爆炸1.2网络退化(Degradation)二、思路2.1为什么需要更深的网络2.2理想中的深网络表现三、实践和实验效果3.1

深浅卡布星·2023-11-15 14:36

20. 深度学习 - 多层神经网络

茶桁·2023-11-15 08:56

【深度学习实验】网络优化与正则化（四）：参数初始化及其Pytorch实现——基于固定方差的初始化（高斯、均匀分布），基于方差缩放的初始化（Xavier、He），正交初始化

文章目录一、实验介绍二、实验环境1.配置虚拟环境2.库版本介绍三、优化算法0.导入必要的库1.随机梯度下降SGD算法a.PyTorch中的SGD优化器b.使用SGD优化器的前馈神经网络2.随机梯度下降的改进方法

QomolangmaH·2023-11-15 06:09

【深度学习实验】网络优化与正则化（三）：随机梯度下降的改进——Adam算法详解（Adam≈梯度方向优化Momentum+自适应学习率RMSprop）

文章目录一、实验介绍二、实验环境1.配置虚拟环境2.库版本介绍三、实验内容0.导入必要的库1.随机梯度下降SGD算法a.PyTorch中的SGD优化器b.使用SGD优化器的前馈神经网络2.随机梯度下降的改进方法

QomolangmaH·2023-11-15 06:34

《机器学习》西瓜书课后习题3.3——python实现对率回归

《机器学习》西瓜书课后习题3.3——python实现对率回归（梯度下降法）《机器学习》西瓜书P69：3.3编程实现对率回归，并给出西瓜数据集3.0a上的结果首先我们回归一下什么的是对率回归？

Yozu_Roo·2023-11-14 23:10

Tensorflow基础学习笔记

为了使损失函数得到最小值，我们有很多方法，诸如最小二乘法、梯度下降法等。步骤：选择模型确定数据模型：拟合数据的最优模型确定成本函数：比较

Super_CCo·2023-11-14 22:38

40000 字！全网最强 Matplotlib 实操指南!

通过Matplotlib，开发者可以仅需要几行代码，便可以生成绘图，直方图，功率谱，条形图，错误图，散点图等。

菜鸟学Python·2023-11-14 21:20

解密图像处理中的利器——直方图与均衡化

直方图与均衡化是数字图像处理中常用的重要工具，它们能够帮助我们更好地理解和改善图像的亮度分布。本文将首先介绍直方图的基本概念以及其在图像处理中的意义，接着详细阐述直方图均衡化的原理和算法。

非著名程序员阿强·2023-11-14 19:44

【nlp】2.3 LSTM模型

Pytorch构建LSTM模型2.4LSTM优缺点1LSTM介绍LSTM（LongShort-TermMemory）也称长短时记忆结构，它是传统RNN的变体，与经典RNN相比能够有效捕捉长序列之间的语义关联，缓解梯度消失或爆炸现象

lys_828·2023-11-14 18:26

【nlp】2.4 GRU模型

GRU模型2.4GRU优缺点¶3RNN及其变体1GRU介绍GRU（GatedRecurrentUnit）也称门控循环单元结构,它也是传统RNN的变体,同LSTM一样能够有效捕捉长序列之间的语义关联,缓解梯度消失或爆炸现象

lys_828·2023-11-14 18:17

竞赛选题深度学习的智能中文对话问答机器人

项目的主要过程2.1数据清洗、预处理2.2分桶2.3训练3项目的整体结构4重要的API4.1LSTMcells部分：4.2损失函数：4.3搭建seq2seq框架：4.4测试部分：4.5评价NLP测试效果：4.6梯度截断

laafeer·2023-11-14 17:24

Transformer模型详解

由于不管是Encoder还是Decoder，我们都使用了RNN系列模型，因此梯度问题还是无法避免。

lzk_nus·2023-11-14 16:51

Python 零基础强化学习量化交易笔记（1）：梯度上升

什么是梯度上升？梯度上升是一种用于最大化给定奖励函数的算法。描述梯度上升的常用方法使用以下场景：假设您被蒙住眼睛并被放置在山上的某个地方。然后，你的任务是找到山的最高点。

NutHub·2023-11-14 14:56

人工智能基础_机器学习026_L1正则化_套索回归权重衰减梯度下降公式_原理解读---人工智能工作笔记0066

L1正则化对吧,然后我们看这里L1正则化的公式是第二个,然后第一个是原来的线性回归,然后最后一行紫色的,是J=J0+L1对吧,其实就是上面两个公式加起来然后我们再去看绿色的第一行,其实就是原来线性回归的梯度下降公式

脑瓜凉·2023-11-14 13:16

Kaggle-Tricks自用总结

基础特征：【kaggle】特征工程trick-CSDN博客训练策略梯度：gradient_clip_val-CSDN博客数据增强：CutMix&Mixup详解与代码实战_cutmix代码_华为云开发者联盟的博客

思考实践·2023-11-14 09:21

【转载】Pytorch模型实现的四部曲

由于是二分类问题，仍然采用BCELoss函数；此处采用随机梯度下降。④周期性训练这一步和之前

♡Coisíní♡·2023-11-14 05:43

残差连接的作用

残差连接（residualconnection）是深度神经网络中的一种常见技术，它的作用是解决梯度消失和梯度爆炸问题，同时也可以帮助模型更快地收敛。

Hailey的算法学习笔记·2023-11-14 04:00

图像相似度对比方法

2.直方图算法，其中包括灰度直方图算法，RGB直方图算法，3.灰度图算法：MSE、SSIM、图像相似度算法4.余弦相似性、欧氏距离5.MD5一、直方图算法方法描述：按照某种距离度量的标准对两幅图像的直方图进行相似度的测量

沙小菜·2023-11-14 00:38

Adversarial Training Methods for Deep Learning: A Systematic Review

AdversarialTrainingMethodsforDeepLearning:ASystematicReview----《面向深度学习的对抗训练方法:系统回顾》摘要通过快速梯度符号法(FGSM

今我来思雨霏霏_JYF·2023-11-13 21:27

【OpenCV实现图像：用OpenCV图像处理技巧之巧用直方图】

文章目录概要前置条件统计数据分析直方图均衡化原理小结概要图像处理是计算机视觉领域中的重要组成部分，而直方图在图像处理中扮演着关键的角色。

落叶霜霜·2023-11-13 20:44

梯度下降推导及案例

场景引入梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景：一个人被困在山上，需要从山上下来(i.e.找到山的最低点，也就是山谷)。但此时山上的浓雾很大，导致可视度很低。

鲸可落·2023-11-13 18:06

Torch-张量

参考链接data:被包装的Tensorgrad_fn:创建Tensor所使用的Function，是自动求导的关键，因为根据所记录的函数才能计算出导数requires_grad:指示是否需要梯度，并不是所有

6小贱·2023-11-13 16:22

18. 机器学习——集成学习

机器学习面试题汇总与解析——集成学习本章讲解知识点什么是集成学习AdaBoost梯度提升树(GradientBoostingDecisionTree,GBDT)随机森林(RandomForest，简称RF

qq_32468785·2023-11-13 14:28

完全小白的pycharm深度学习调试+for循环断点条件设置

pycharm深度学习调试+for循环断点条件设置写在最前面基础方法pycharm断点调试控制台输入代码中循环的debug方法pycharm中图标的介绍常见的BugDebug经验1.检查激活函数的输入值2.检查梯度

是Yu欸·2023-11-13 14:21

【Python百日基础系列】Day20 - Pandas 数据可视化(2)

文章目录十、联合分布图（Marginal）10.1联合分布图（Marginal）：使用小提琴图和箱形图10.2联合分布图（Marginal）：使用小提琴图和直方图十一、直方图（Histogram）11.1

岳涛@心馨电脑·2023-11-13 08:31

初识机器学习——感知机（Perceptron）+ Python代码实现鸢尾花分类

文章目录1、感知机学习模型1.1感知机定义2、感知机学习策略2.1线性可分数据集2.2感知机学习策略3、感知机学习算法3.1求解梯度3.2更新参数www、bbb4、利用感知机进行鸢尾花分类（Python

数据的旅途·2023-11-13 04:48

22[NLP训练营]Word2Vec

GlobalGenerationvsLocalGenerationIntuitionofWord2Vec参数θ目标函数的形式AnotherFormulationNegativeSamplingSG的负采样负采样的梯度下降

oldmao_2000·2023-11-13 03:49

推荐频道

梯度直方图