梯度线圈

大创项目推荐 深度学习的智能中文对话问答机器人

项目的主要过程2.1数据清洗、预处理2.2分桶2.3训练3项目的整体结构4重要的API4.1LSTMcells部分：4.2损失函数：4.3搭建seq2seq框架：4.4测试部分：4.5评价NLP测试效果：4.6梯度截断
laafeer·2024-01-18 09:11

【机器学习300问】9、梯度下降是用来干嘛的？

其实我首先得知道梯度下降是什么，也就它的定义。其次我得了解它具体用在什么地方，也就是使用场景。最后才是这个问题，梯度下降有什么用？怎么用？所以我按照这个思路给大家讲讲我自己是怎么理解梯度下降的。
小oo呆·2024-01-18 08:37

python数字图像处理基础（四）——图像平滑处理、形态学操作、图像梯度

GaussianBlur()4.中值滤波medianBlur()形态学操作morphology1.腐蚀操作2.膨胀操作3.开运算cv2.morphologyEx()4.闭运算cv2.morphologyEx()5.梯度运算
_hermit:·2024-01-18 08:48

python数字图像处理基础（五）——Canny边缘检测、图像金字塔、图像分割

目录Canny边缘检测原理步骤图像金字塔1.高斯金字塔2.拉普拉斯金字塔图像分割图像轮廓检测1.检测轮廓2.绘制轮廓3.补充Canny边缘检测梯度是什么?
_hermit:·2024-01-18 08:48

【机器学习300问】10、学习率设置过大或过小对训练有何影响？

先来复习一下梯度下降算法，在每次迭代过程中，算法计算目标函数关于当前参数值的梯度（即函数在该点的斜率或方向导数向量），然后沿着梯度的反方向移动一定的步长。更新规则可以表示为：其中：θ表示模型参数。
小oo呆·2024-01-18 07:12

为什么在进行softmax之前需要对attention进行scaled（为什么除以 d_k的平方根）

Self-attention中dot-product操作为什么要被缩放-知乎标准正太分布（0均值，1方差的高斯分布）解释1：解释2：这样做是因为对于较大的深度值，点积的大小会增大，从而推动softmax函数往仅有很小的梯度的方向靠拢
ytusdc·2024-01-18 04:52

批量归一化和层归一化

如果将输入序列的每一维数值进行归一化，使其在一定范围之内，比如000和111之间，可以加快基于梯度下降的学习的收敛速度原因：梯度下降以相同的学习率对每一维进行最小化，如果取值范围差异很大，学习就很难在各个维度上同时收敛
bulingg·2024-01-18 04:51

优化算法，理解指数加权平均

可以想象到，梯度要平滑一些。在做mini-batch梯度下降的时候，梯度的表现是这样的，image.png。如果通过指数加权平均使得梯度计算的时候更加平滑，但是整体趋势还是往函数收敛的方向走。
lanughing·2024-01-18 03:55

CMA-ES 算法初探

1进化算法在学习最优模型参数的时候，梯度下降并不是唯一的选择。在我们不知道目标函数的精确解析或者不能直接计算梯度的情况下，进化算法是有效的。
UQI-LIUWJ·2024-01-18 02:47

深度学习基础数据结构之张量：从一维到多维

通过支持高维度矩阵运算、记录梯度信息等功能，张量成为实现深度学习算法的关键。张量是一个多维数据容器，可以用来表示各种数据类型，如数值、图像、音频、文本等。
m0_61254808·2024-01-17 19:17

最优化 | 一维搜索与方程求根 | C++实现

文章目录参考资料前言1.二分法求根1.1[a,b]区间二分法求根1.1.1原理1.1.2C++实现1.2区间右侧无穷的二分法求根1.3求含根区间2.牛顿法求根2.1原理2.2c++实现3.梯度下降法求根
CHH3213·2024-01-17 19:47

最优化 | 无约束优化方法 | C++实现

文章目录参考资料1.前言2.梯度下降法2.1原理2.2c++实现2.3共轭梯度法3.牛顿法3.1原理3.2c++实现4.模拟退火算法4.1原理4.2c++实现5.遗传算法参考资料https://blog.csdn.net
CHH3213·2024-01-17 19:17

自适应动量因子梯度下降BP神经网络的人口预测

目录摘要BP神经网络参数设置及各种函数选择参数设置训练函数传递函数学习函数性能函数显示函数前向网络创建函数BP神经网络训练窗口详解训练窗口例样训练窗口四部详解基于BP神经网络的租金预测代码下载：bp数据人口预测.rar，（代码完整，数据齐全）资源-CSDN文库https://download.csdn.net/download/abc991835105/88746563效果图结果分析摘要本文总结B
神经网络机器学习智能算法画图绘图·2024-01-17 19:15

预备知识02-自动微分

微积分这两个不作介绍，可以点击下方链接阅读原文2.3.线性代数—动手学深度学习2.0.0documentation(d2l.ai)2.4.微积分—动手学深度学习2.0.0documentation(d2l.ai)梯度在微积分中
良子c·2024-01-17 18:13

监督学习 - 梯度提升机（Gradient Boosting Machines，GBM）

什么是机器学习梯度提升机（GradientBoostingMachines，GBM）是一种集成学习方法，通过将多个弱学习器（通常是决策树）组合成一个强学习器来提高模型的性能。
草明·2024-01-17 18:12

解析Transformer模型

原文地址：https://zhanghan.xyz/posts/17281/进入TransformerRNN很难处理冗长的文本序列，且很容易受到所谓梯度消失/爆炸的问题。
.别拖至春天.·2024-01-17 15:50

【PyTorch简介】5.Automatic Differentiation with `torch.autograd` 自动微分与`torch.autograd`

torch.autograd`自动微分与`torch.autograd`Tensors,FunctionsandComputationalgraph张量、函数和计算图ComputingGradients计算梯度
冰雪storm·2024-01-17 15:15

第十周周报

文章目录摘要ResNet深度学习硬件：CPU和GPU深度学习硬件TPU和其他单机多卡并行多GPU训练总结摘要本周学习了ResNet网络设计思想的由来，解决了对应的梯度爆炸或消失的问题，并基于梯度计算的层面理解
Joy_moon·2024-01-17 15:42

反向传播(Back Propagation)

目录回顾简单模型的梯度计算反向传播计算图链式求导链式法则定理：Forward前馈计算反向传播BackPropagation例子线性模型的计算图计算前馈过程反向传播过程（逆向求导）练习Pytorch中的前馈过程和反向传播过程
chairon·2024-01-17 14:56

梯度下降算法

目录回顾优化问题梯度下降算法梯度计算代码损失曲线图随机梯度下降（StochasticGradientDescent）代码比较思考：回顾对于一个学习系统来说，我们需要找到最适合数据的模型，模型有很多，需要不断尝试
chairon·2024-01-17 14:25

2025山大软件学院机器学习805 2024持续押中

3．线性模型线性回归、对数几率回归、线性判别分析、多分类学习、类别不平衡问题、基于梯度的优化方法等。4．决策树决
sdu_study·2024-01-17 14:17

2024年1月16日Arxiv热门深度强化学习论文：IDENTIFYING POLICY GRADIENT SUBSPACES

揭秘强化学习之谜，图宾根大学和马普所发现策略梯度的低维奥秘，开启高效AI训练新纪元！
夕小瑶·2024-01-17 10:16

数学建模常见算法的通俗理解（更新中）

1.2.5求解C.R.值1.2.6判断一致性1.2.7计算总得分2神经网络（正向流通反向反馈，调整系数，预测结果）2.1粗浅理解2.2算法过程2.2.1划分数据集2.2.2前向传播及反向调整系数（利用梯度下降法
菜只因C·2024-01-17 09:19

实现特征缩放/归一化和标准化

什么是特征缩放特征缩放是用来标准化数据特征的范围机器学习为什么需要特征缩放在处理多维特征问题的时候，需要保证特征具有相近的尺度，这有助于梯度下降算法更快的收敛。
泛酸的桂花酒·2024-01-17 09:31

【小笔记】算法基础超参数调优思路

两个极端：假设内存/显存足够大，每次都是使用全量数据进行梯度计算，此时训练效率最高，但训练极容易陷入鞍点（局部最优）而无法跳出，表现出来就是loss还比较高，但是已经开始收敛了
落叶阳光·2024-01-17 08:39

08- OpenCV：形态学操作（膨胀与腐蚀 、提取水平与垂直线）

目录前言一、膨胀（Dilation）与腐蚀（Erosion）二、形态学操作1、开操作（Opening）2、闭操作（Closing）3、形态学梯度（MorphologicalGradient）4、顶帽（tophat
Ivy_belief·2024-01-17 08:55

深度学习基础知识整理

这可以通过反向传播算法和梯度下降等优化
Do1phln·2024-01-17 07:01

【51单片机系列】继电器使用

继电器部分包括控制线圈和3个引脚，A引脚接电源，B引脚是常开节点，C引脚是常闭节点。
小地瓜重新去华容道工作·2024-01-17 07:00

大物②练习题解

【单选题】一根无限长平行直导线载有电流I，一矩形线圈位于导线平
怪兽也会哭哭^·2024-01-17 06:59

adam优化器和动量

原始的SGD加上动量（惯性，每一次更新根据前面所有结果，使结果更快收敛）AdaGrad与SGD的核心区别在于计算更新步长时，增加了分母：梯度平方累积和的平方根。
潇洒哥611·2024-01-17 06:15

协方差矩阵自适应调整的进化策略(CMA-ES)

关于CMA-ES，其中CMA为协方差矩阵自适应(CovarianceMatrixAdaptation)，而进化策略（Evolutionstrategies,ES）是一种无梯度随机优化算法。
努力发光的程序媛·2024-01-17 05:49

Linemod算法小结

图1.linemod特征图解如图1所示，linemod特征采用彩色图像的梯度信息结合物体表面的法向特征作为模板匹配的依据。Linemod可以实现在几千个模板在图片上滑窗搜索达
SimpleUmbrella·2024-01-17 04:57

参数优化器

前置知识：机器学习概念，线性回归，梯度下降待优化参数w，损失函数loss，学习率lr，每次迭代一个batch计算t时刻损失函数关于当前参数的梯度：计算t时刻一阶动量mt和二阶动量Vt计算t时刻下降梯度：
惊雲浅谈天·2024-01-17 03:54

深度学习机器臂控制_基于深度强化学习的机器人手臂控制

吕萍丽【期刊名称】《福建电脑》【年(卷),期】2019(035)001【摘要】基于深度强化学习策略,研究了机器人手臂控制问题.以两节机器人手臂为对象,给出奖励函数和移动方式等.结合深度学习与确定性策略梯度强化学习
觉主小VV·2024-01-16 22:54

直流有刷电机控制 - 认识电机（一）

它是利用通电线圈产生旋转磁场并作用于转子形成磁电动力形成旋转的扭矩。电动机按使用电源不同分为直流电动机和交流电
辉哥的笔记·2024-01-16 20:11

注意力机制在神经网络中的作用与影响

目录前言1注意力机制与信息瓶颈问题1.1信息瓶颈问题的本质1.2RNN模型引入注意力机制1.3注意力机制的作用2解决梯度消失问题2.1传统RNN结构中的梯度消失难题2.2注意力机制对梯度消失问题的缓解2.3
cooldream2009·2024-01-16 19:49

运筹说 第103期 | 非线性规划经典例题讲解

在实际工作中，我们能发现非线性规划在经济管理中有着许多应用，本期小编选择了其中一些典型例子，包括一维搜索的两种求解方法、梯度下降法以及库恩塔克条件，进行详细讲解。一、一维搜索求
运筹说·2024-01-16 15:45

为什么CNN反向传播计算梯度时需要将权重旋转180度

参考博客https://manutdzou.github.io/2016/05/17/Why-computing-the-gradients-CNN,-the-weights-need-to-be-rotated.html该博客中介绍的较为详细，需要有基本的机器学习知识可以看懂，本菜对自己其推导的过程中做少量的注解。首先是其中关于卷积核翻转180°和误差δ卷积这一部分，刚开始看的一脸懵逼，为什么2
spectre_hola·2024-01-16 15:29

一听一得

题目的设计有梯度。通过观看，我看到儿童的积极地参与，积极回答。这说明
丽卿_8a07·2024-01-16 13:04

深度学习：混合精度训练

深度学习：混合精度训练前言混合精度训练核心技术权重备份损失缩放梯度裁剪动态调整学习率优势与弊端代码示例参考文献前言浮点数据类型主要分为双精度Double（FP64）、单精度Float（FP32）和半精度
AI Player·2024-01-16 12:31

GBDT（梯度提升树 Gradient Boosting Decison Tree）学习笔记

介绍集成学习Boosting一族将多个弱学习器(或称基学习器)提升为强学习器，像AdaBoost,GBDT等都属于“加性模型”(AdditiveModel)，即基学习器的线性组合。AdaBoost：先从初始训练集训练出一个基学习器，然后基于基学习器的在这一轮的表现，在下一轮训练中给预测错的训练样本更大权重值，以达到逐步减少在训练集的预测错误率。GBDT：先产生一个弱学习器(CART回归树模型)，训
桂花很香,旭很美·2024-01-16 11:12

17- 梯度提升回归树GBRT (集成算法) (算法)

梯度提升回归树:梯度提升回归树是区别于随机森林的另一种集成方法，它的特点在于纠正与加强，通过合并多个决策树来构建一个更为强大的模型。该模型即可以用于分类问题，也可以用于回归问题中。
处女座_三月·2024-01-16 11:05

监督学习 - 梯度提升回归（Gradient Boosting Regression）

什么是机器学习梯度提升回归（GradientBoostingRegression）是一种集成学习方法，用于解决回归问题。它通过迭代地训练一系列弱学习器（通常是决策树）来逐步提升模型的性能。
草明·2024-01-16 11:02

深度学习面试100题（1-10）

梯度下降算法的正确步骤是什么a.用随机值初始化权重和偏差b.把输入传入网络，得到输出值c.计算预测值和真实值之间的误差d.对每一个产生误差的神经元，调整相应的权重值以减少误差e.重复迭代，直至得到网络权重的最佳值已知
xiaoshun007～·2024-01-16 10:36

机器学习_梯度下降

文章目录什么是梯度梯度下降梯度下降有什么用什么是梯度计算梯度向量其几何意义，就是函数变化的方向，而且是变化最快的方向。对于函数f(x)，在点(xo,yo)，梯度向量的方向也就是y值增加最快的方向。
you_are_my_sunshine*·2024-01-16 10:05

从零开始训练神经网络

训练（随机梯度下降）我已经定义了向前和向后传递，但如何开始使用它们？我必须创建一个训练循环，并使用随机梯度下降（SGD）作为优化器来更新神经网络的参数。训练函数中有两个主要循环。
AI-智能·2024-01-16 10:42

步进电机驱动详解

前言步进电机相比普通直流电机来说模型结构方面更加复杂，比如步进电机没有设计直流电机用于切换电流方向的换向器，这一设计致使步进电机转子无法同直流电机那样接入直流电源立马开始运动，这需要我们轮流控制步进电机的多个线圈使磁场旋转起来从而驱动电机转子运动
zhbi98·2024-01-16 09:22

步进电机结构及原理

通过控制施加在电机线圈上的电脉冲顺序、频率和数量，可以实现对步进电机的转向、速度和旋转角度的控制。在不借助带位置感应的闭环
Frey_Liu·2024-01-16 09:52

LLM之幻觉（二）：大语言模型LLM幻觉缓减技术综述

LLM幻觉缓减技术分为两大主流，梯度方法和非梯度方法。梯度方法是指对基本LLM进行微调；而非梯度方法主要是在推理时使用Prompt工程技术。
wshzd·2024-01-16 09:21

【文本到上下文 #5】：RNN、LSTM 和 GRU

我们将解决RNN面临的挑战，例如梯度消失问题，并探索长短期记忆（LSTM）和门控
无水先生·2024-01-16 08:42
上一页 8 9 10 11 12 13 14 15 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他