liuy9803

深度学习之梯度下降优化算法

一、梯度下降的变种算法

1、BGD

批量梯度下降法更新一次参数需要计算整个数据集所有样本的梯度，因此更新速度非常慢，对于凸优化问题会收敛到全局最优点、而非凸优化问题则会收敛到局部最优点，这种方法有可能无法将大量的数据放入内存，也不能进行在线学习。

$\theta :=\theta -\eta \cdot \triangledown _{\theta }J(\theta )$

2、SGD

随机梯度下降法更新一次参数只需计算一个样本的梯度，更新速度很快、参数方差波动大，适用于在线学习，有可能跳出局部最优到达全局最优。训练时每个epoch结束后注意必须要shuffle训练集：

$\theta :=\theta -\eta \cdot \triangledown _{\theta }J(\theta;x^{(i)},y^{(i)} )$

SGD是在线学习最基本的模式，因为SGD训练得到的特征不具有稀疏性，从工程的角度来说占用内存过大。L1-norm在在线学习中效果不佳，因为梯度的方向不是全局的方向，而是沿着样本的梯度方向，会造成每次没有被充分训练的样本错误地将系数归零。

3、MBGD

小批量梯度下降法既减少了SGD参数方差的波动性，又可以利用深度学习库中高度优化的矩阵运算的便捷性，一般mini-batch size在50到256之间，每次参数更新计算小批量样本的梯度，也需要在每个epoch后shuffle数据集。

$\theta :=\theta -\eta \cdot \triangledown _{\theta }J(\theta;x^{(i:i+n)},y^{(i:i+n)} )$

以上3种方法的challenges在于：

（1）选择合适的学习率比较困难，如果学习率过小，则J很长时间才能收敛；学习率过大，则J会震荡甚至发散。

（2）可以通过诸如退火annealing，即根据预先确定的学习率或当两次epoch间发生的变化低于一个阈值时，降低学习率的值。这些规划和阈值必须提前定义，因此无法动态适应数据集的特征。

（3）由于所有参数的更新使用相同的学习率，对于稀疏数据且出现频率差别非常大的特征，我们可能不想让它们更新相同的程度，如对于很少出现的特征进行较大的更新、对经常出现的特征进行较小的更新，这样以上的方法都不能满足要求。

（4）容易困在鞍点（SGD尤甚，因为鞍点处所有维度梯度趋近于0），只收敛到局部最优点。

二、梯度下降的优化算法

1、Momentum

Momentum是模拟物理学动量的概念，累积之前的动量加入梯度，能够在相关方向加速SGD，抑制震荡，从而加快收敛速度：

$v_{t}=\gamma v_{t-1}+\eta\triangledown _{\theta}J(\theta)$

$\theta :=\theta -v_{t}$

通过加入衰减分量γ更新向量v，一般γ=0.9或其他类似的值，令早期的梯度对当前的梯度影响越来越小，如果没有衰减值，模型往往会震荡、难以收敛，甚至发散。

此方法可以理解为小球从山顶落向山谷，因动量的累积使得速度越来越快，由于空气阻力的存在γ<1。同样地，在参数更新时：与梯度方向相同的维度动量增加、在梯度改变方向的维度动量减少，这样就能得到更快的收敛和减少振荡。

2、Nesterov accelerated gradient（NAG）

这一次的小球变得更加聪明，不会盲目地沿着坡滚动，例如在山坡快要上升的时候知道需要减速。NAG是赋予动量项这种“先见之明”的方法，使用 $\theta -\gamma v_{t-1}$ 近似地作为参数下一步的值，这样在计算梯度时，就不是在当前位置，而是在未来的位置上进行：

$v_{t}=\gamma v_{t-1}+\eta\triangledown _{\theta}J(\theta - \gamma v_{t-1})$

$\theta :=\theta -v_{t}$

Momentum过程首先计算当前梯度（短的蓝色向量），然后在更新后的累积梯度的方向进行一个大的跳跃（长的蓝色向量）；NAG首先在之前累积的梯度方向进行一个大的跳跃（棕色向量），然后衡量梯度进行修正校正（绿色向量）。这种预期的更新避免了更新速度过快、提高了结果的响应性，并极大地提高了RNN在许多任务上的性能。

NAG与Momentum的区别是，梯度计算不同，NAG先用当前的速度v更新一遍参数，再用更新的临时参数计算梯度，相当于添加了二阶校正因子的Momentum。这两种方法可以在更新梯度时顺应J的梯度来调整速度，并且对SGD进行加速。除此之外我们还希望可以根据参数的重要性而对不同的参数进行不同程度的更新。

3、适应性梯度算法Adagrad

在传统机器学习中，一种加速迭代的方法就是将数值归一化到一个以原点为中心的空间内。Adagrad通过累积梯度约束学习率，提升SGD的robustness，并且能让不频繁出现的参数进行较大的更新、频繁出现的参数进行较小的更新，尤其适用于稀疏数据的情况。由于每一步每个参数的学习率都不相同，令 $g_{t,i}$ 为t时刻第i个参数 $\theta _{i}$ 的目标函数的梯度：

$g_{t,i}=\triangledown _{\theta _{t}}J(\theta _{t,i})$

对于SGD，参数 $\theta _{i}$ 在每一时刻的梯度更新公式为：

$\theta _{t+1,i}=\theta _{t,i}-\eta \cdot g_{t,i}$

令 $G_{t}$ 为对角矩阵，表示前t步参数 $\theta _{i}$ 梯度的累加，矩阵对角线上的元素(i,i)是t时刻参数 $\theta _{i}$ 的梯度平方和；ϵ为平滑项（类似1e-8之类极小的数）避免分母为0，则Adagrad的参数更新公式为：

$\theta _{t+1,i}=\theta _{t,i}-\frac{\eta}{\sqrt{G_{t,ii}+\varepsilon} } \cdot g_{t,i}$

$G_{t,i}=G_{t-1,i}+\triangledown _{\theta _{t,i}}J(\theta)$

Adagrad的优点在于不需要对学习率进行手动调节，一般default为0.01后就不用管了，让它在学习的过程中自己变化。缺点在于分母中G累积了平方梯度后不断增大，这导致了学习率逐渐衰减为一个很小的数，尽管真实情况是参数的更新随着梯度增大而增大，但是到了后期由于分母越来越大，网络不再能够学到更多的知识，训练将提前结束。

4、Adadelta

Adadelta的基本思想是用一阶的方法近似模拟二阶牛顿法，是Adagrad的扩展，仍然是对学习率进行自适应约束，但进行了计算上的简化，只递归累加之前固定数量w个的梯度平方之和，并且也不直接存储这些项，仅近似计算对应的平均值。Adadelta将Adagrad公式中的对角矩阵G替换为 $E[g^{2}]_{t}$ ， $E[g^{2}]_{t}$ 表示t时刻之前w个梯度平方的动态衰减平均值：

$\Delta \theta =-\frac{\eta }{\sqrt{E[g^{2}]_{t}+\varepsilon }}g_{t}$

$\mathrm{RMSE}[g]_{t}=\sqrt{E[g^{2}]_{t}+\varepsilon }$

$E[g^{2}]_{t}=\gamma E[g^{2}]_{t-1}+(1-\gamma )g^{2}_{t}$

其中γ为类似动量项的超参，在0.9左右。这个分母相当于梯度的均方根误差root mean squared error（RMSE）。为了使更新有与参数相同的假设单元，定义一个指数衰减平均值，这次不是梯度平方 $g^{2}$ 而是参数平方的更新 $\Delta \theta ^{2}$ ：

$E[\Delta \theta ^{2}]_{t}=\gamma E[\Delta \theta ^{2}]_{t-1}+(1-\gamma )\Delta \theta ^{2}_{t}$

$\mathrm{RMSE}[\Delta \theta ]_{t}=\sqrt{E[\Delta \theta ^{2}]_{t}+\varepsilon }$

此时参数的更新仍然依赖全局学习率。经过近似牛顿法将学习率η替换为 $\mathrm{RMSE}[\Delta \theta ]_{t-1}$ 之后：

$\Delta \theta _{t}=-\frac{\mathrm{RMSE}[\Delta \theta ]_{t-1}}{\mathrm{RMSE}[g]_{t}}g_{t}$

$\theta _{t+1}=\theta _{t}+\Delta \theta _{t}$

Adadelta就不依赖于全局学习率η了。这种方法在训练初、中期，加速效果很好；但到了训练后期，会反复在局部最小值附近抖动，主要体现在验证集错误率上，摆脱不了局部极小值吸引盆。此时切换为动量SGD，并将学习率降低一个量级，就可以使验证集正确率有2%~5%的提升。

Adadelta算法流程：

Require：DecayRate γ，Constant ϵ，InitialParam $\theta _{1}$

Initialize accumulation variables $E[g^{2}]_{0}=E[\Delta \theta ^{2}]_{0}=0$

For t=1 to T:

Compute gradients: $g _{t}$

Accumulate gradient: $E[g^{2}]_{t}=\gamma E[g^{2}]_{t-1}+(1-\gamma )g^{2}_{t}$

Compute update: $\Delta \theta _{t}=-\frac{\mathrm{RMSE}[\Delta \theta ]_{t-1}}{\mathrm{RMSE}[g]_{t}}g_{t}$

Accumulate updates: $E[\Delta \theta ^{2}]_{t}=\gamma E[\Delta \theta ^{2}]_{t-1}+(1-\gamma )\Delta \theta ^{2}_{t}$

Apply update: $\theta _{t+1}=\theta _{t}+\Delta \theta _{t}$

5、均方根传播RMSprop

RMSprop是Hinton在Coursera公开课上提出的一种自适应学习率方法，和Adadelta一样都是为了解决Adagrad学习率急剧下降的问题。RMSprop同样使用指数加权平均来消除梯度下降中摆动，但仍依赖于全局学习率η，效果介于Adagrad和Adadelta之间。

$E[g^{2}]_{t}=0.9E[g^{2}]_{t-1}+0.1g^{2}_{t}$

$\theta _{t+1}=\theta _{t}-\frac{\eta }{\sqrt{E[g^{2}]_{t}+\varepsilon }}g_{t}$

超参数设置建议为γ=0.9，η=0.001。这种方法适用于非稳态non-stationary和在线问题，对RNN效果很好。

6、Adaptive Moment Estimation

Adam也是一种为每个参数计算自适应学习率的方法，相当于带有动量项的Adadelta/RMSprop，利用梯度的一阶矩估计和二阶矩估计动态调整每个参数的学习率，即除了和Adadelta/RMSprop一样存储了过去梯度平方 $v_{t}$ 的指数衰减平均值，也像Momentum一样保持了过去梯度 $m_{t}$ 的指数衰减平均值：

$m_{t}=\beta _{1}m_{t-1}+(1-\beta _{1})g_{t}$

$v_{t}=\beta _{2}v_{t-1}+(1-\beta _{2})g^{2}_{t}$

$m_{t}$ 和 $v_{t}$ 分别为梯度的一阶矩估计和二阶矩估计，可以看作对期望 $E[g_{t}]$ ， $E[g^{2}_{t}]$ 的估计； $\beta _{1}$ 、 $\beta _{2}$ 的值接近于1，因此矩估计的偏差接近于0，通过计算偏差修正bias-corrected后的估计 $\hat{m}_{t}$ 和 $\hat{v}_{t}$ ，并得到Adam的参数更新公式：

$\hat{m}_{t}=\frac{m_{t}}{1-\beta _{1}^{t}}$

$\hat{v}_{t}=\frac{v_{t}}{1-\beta _{2}^{t}}$

$\theta _{t+1}=\theta _{t}-\frac{\eta }{\sqrt{\hat{v}_{t} }+\varepsilon}\hat{m}_{t}$

超参数设置建议为 $\beta _{1}=0.9\, ,\; \beta _{2}=0.999\, ,\; \varepsilon =10^{-8}$ 。可以看出直接对梯度的矩估计对内存需求较小，而且可以根据梯度进行动态调整；而对学习率形成一个动态约束，且有明确的范围。

Adam的偏差修正令其在梯度变得稀疏时要比RMSprop更加快速和优秀，同时又结合了RMSprop善于处理非平稳目标的优点，因此Adam（以及SGD+NAG动量法）是深度学习领域内十分流行的算法。

7、AdaMax

AdaMax是一种基于无穷范数（infinity norm）的Adam变体，对学习率的上限提供了一个更简单的范围。Adam中参数的更新规则是，将其梯度与过去&当前梯度的L2范数 $|g_{t}|^{2}$ 成反比例缩放，推广到基于Lp范数的更新规则后，这样的变体虽然随着p值变大而在数值上变得不稳定（因此一般只使用L1或L2），但在特例p→∞时会得到一个及其稳定和简单的算法。在使用Lp范数时，时间t下的步长和 $v_{t}^{(1/p)}$ 成反比例变化，推导如下：

$v_{t}=\beta _{2}^{p}v_{t-1}+(1-\beta _{2}^{p})|g_{t}|^{p}=(1-\beta _{2}^{p})\sum_{i=1}^{t}\beta _{2}^{p(t-i)}|g_{i}|^{p}$

令p→∞并定义：

$u_{t}=\underset{p\rightarrow \infty }{\mathrm{lim}}(v_{t})^{1/p}\\\\=\underset{p\rightarrow \infty }{\mathrm{lim}}\left ( (1-\beta _{2}^{p})\sum_{i=1}^{t}\beta _{2}^{p(t-i)}|g_{i}|^{p} \right )^{1/p}\\\\=\underset{p\rightarrow \infty }{\mathrm{lim}}(1-\beta _{2}^{p})^{1/p}\left ( \sum_{i=1}^{t}\beta _{2}^{p(t-i)}|g_{i}|^{p} \right )^{1/p}\\\\=\underset{p\rightarrow \infty }{\mathrm{lim}}\left ( \sum_{i=1}^{t}\left (\beta _{2}^{(t-i)}|g_{i}| \right )^{p} \right )^{1/p}\\\\=\mathrm{max}\left ( \beta_{2}^{t-1}|g_{1}|,\beta_{2}^{t-2}|g_{2}|,...,\beta_{2}|g_{t-1}|,|g_{t}| \right )\\\\=\mathrm{max}\left ( \beta_{2}u_{t-1},\: |g_{t}| \right )$

其中初始值 $u_{0}=0$ 。由于 $u_{t}$ 取最大值的操作不容易向0偏置，因此不需要像Adam中的 $m_{t}$ 和 $v_{t}$ 一样修正初始化偏差，AdaMax参数更新公式为：

$\theta _{t+1}=\theta _{t}-\frac{\eta }{u_{t}}\hat{m}_{t}$

超参数设置建议为 $\eta =0.002\, ,\; \beta _{1}=0.9\, ,\; \beta _{2}=0.999\, ,\; \varepsilon =10^{-8}$ 。

8、Nadam

Nadam相当于NAG+Adam，为了将NAG动量项加入Adam，需要修改动量项 $m_{t}$ ，回顾之前的动量更新公式，γ为动量衰减项：

$g_{t}=\triangledown _{\theta _{t}}J(\theta _{t})$

$m_{t}=\gamma m_{t-1}+\eta g_{t}$

$\theta _{t+1}=\theta _{t}-m_{t}=\theta _{t}-(\gamma m_{t-1}+\eta g_{t})$

NAG允许我们在梯度方向上执行一个更精确的步骤，方法是在计算梯度之前用动量步骤更新参数。这样只需要修改 $g_{t}$ 即可实现NAG：

$g_{t}=\triangledown _{\theta _{t}}J(\theta _{t}-\gamma m_{t-1})$

使用look-ahead动量 $m_{t}$ 代替 $m_{t-1}$ 直接更新当前的参数 $\theta _{t+1}$ ： $\theta _{t+1}=\theta _{t}-(\gamma m_{t}+\eta g_{t})$ ，为了将Nesterov动量加入Adam，可以近似地将前一个动量替换为当前动量，由Adam更新公式（不对 $v_{t}$ 进行修正）：

$m_{t}=\beta _{1}m_{t-1}+(1-\beta _{1})g_{t}$

$\hat{m}_{t}=\frac{m_{t}}{1-\beta _{1}^{t}}$

$\theta _{t+1}=\theta _{t}-\frac{\eta }{\sqrt{v_{t} }+\varepsilon}\hat{m}_{t}\\\\=\theta _{t}-\frac{\eta }{\sqrt{v_{t} }+\varepsilon}\left ( \frac{\beta _{1}m_{t-1}}{1-\beta _{1}^{t}}+\frac{(1-\beta _{1})g_{t}}{1-\beta _{1}^{t}} \right )\\\\=\theta _{t}-\frac{\eta }{\sqrt{v_{t} }+\varepsilon}\left ( \beta _{1}\hat{m}_{t-1}+\frac{(1-\beta _{1})g_{t}}{1-\beta _{1}^{t}} \right )$

再次将 $\hat{m}_{t-1}$ 替换为 $\hat{m}_{t}$ 即可得到Nadam的更新公式：

$\theta _{t+1}=\theta _{t}-\frac{\eta }{\sqrt{v_{t} }+\varepsilon}\left ( \beta _{1}\hat{m}_{t}+\frac{(1-\beta _{1})g_{t}}{1-\beta _{1}^{t}} \right )$

可以看出Nadam对学习率有了更强的约束，同时对梯度的更新也有更直接的影响。

9、FTRL

Follow-The-Regularized-Leader是Google经过三年时间（2010-2013）从理论研究到实际工程化的一种在线学习算法，在处理诸如逻辑回归之类的带非光滑正则项（L1-norm）的凸优化问题的性能非常出色。在线学习不需要cache所有的数据，以流式处理方式就可以处理任意数量的样本，分为在线凸优化和在线Bayesian两种：

在线凸优化的方法有很多，如Truncated Gradient、FOBOS、RDA（Regularized Dual Averaging）、FTRL等；

在线Bayesian方法有AdPredictor算法、基于内容的在线矩阵分解算法等。

FTRL是一种适合处理超大规模数据的、含大量稀疏特征的在线学习常见的优化算法，常用于更新在线的CTR预估模型；结合了FOBOS精度较高和RDA稀疏性好的优势，在L1范数或其他非光滑的正则项下，FTRL比前两者更加有效。

三、优化算法的选择和比较

（1）对于稀疏数据，尽量使用学习率可以自适应的优化方法，不需要手动调节η；

（2）RMSprop是Adagrad的扩展，解决了Adagrad学习率迅速下降的问题；与Adadelta类似，后者使用RMS的参数更新方法；Adam是添加了偏置校正和动量项的RMSprop。Adagrad，Adadelta，RMSprop，Adam都是比较相近的算法，在相似的情况下表现良好。Adam在优化后期梯度变得稀疏时效果比RMSprop稍好一些，因此推荐使用Adam算法；

（3）一般在想要使用带动量项的RMSprop或Adam时，大多数都可以使用Nadam取得更好的效果。

（4）SGD通常训练时间很长，容易陷入鞍点，但是在采取robust的初始化、退火规划annealing schedule、data shuffling和early stopping等合理措施的情况下，结果更加可靠；

（5）如果需要更快的收敛，且需要训练较深较为复杂的网络时，推荐使用学习率自适应的优化方法；

参考资料

https://arxiv.org/pdf/1609.04747.pdf

https://blog.csdn.net/tsyccnh/article/details/76270707

https://www.cnblogs.com/guoyaohua/p/8542554.html

https://blog.csdn.net/leadai/article/details/79178787

https://www.cnblogs.com/neopenx/p/4768388.html

https://blog.csdn.net/u012759136/article/details/52302426

http://www.cnblogs.com/EE-NovRain/p/3810737.html

https://blog.csdn.net/u012767526/article/details/51407443

机器学习与深度学习间关系与区别 ℒℴѵℯ心·动ꦿ໊ོ꫞ 人工智能学习深度学习 python
一、机器学习概述定义机器学习（MachineLearning,ML）是一种通过数据驱动的方法，利用统计学和计算算法来训练模型，使计算机能够从数据中学习并自动进行预测或决策。机器学习通过分析大量数据样本，识别其中的模式和规律，从而对新的数据进行判断。其核心在于通过训练过程，让模型不断优化和提升其预测准确性。主要类型1.监督学习（SupervisedLearning）监督学习是指在训练数据集中包含输入
将cmd中命令输出保存为txt文本文件落难Coder Windows cmd window
最近深度学习本地的训练中我们常常要在命令行中运行自己的代码，无可厚非，我们有必要保存我们的炼丹结果，但是复制命令行输出到txt是非常麻烦的，其实Windows下的命令行为我们提供了相应的操作。其基本的调用格式就是：运行指令>输出到的文件名称或者具体保存路径测试下，我打开cmd并且ping一下百度：pingwww.baidu.com>./data.txt看下相同目录下data.txt的输出：如果你再
推荐3家毕业AI论文可五分钟一键生成！文末附免费教程！小猪包333 写论文人工智能 AI写作深度学习计算机视觉
在当前的学术研究和写作领域，AI论文生成器已经成为许多研究人员和学生的重要工具。这些工具不仅能够帮助用户快速生成高质量的论文内容，还能进行内容优化、查重和排版等操作。以下是三款值得推荐的AI论文生成器：千笔-AIPassPaper、懒人论文以及AIPaperPass。千笔-AIPassPaper千笔-AIPassPaper是一款基于深度学习和自然语言处理技术的AI写作助手，旨在帮助用户快速生成高质
AI大模型的架构演进与最新发展季风泯灭的季节 AI大模型应用技术二人工智能架构
随着深度学习的发展，AI大模型（LargeLanguageModels,LLMs）在自然语言处理、计算机视觉等领域取得了革命性的进展。本文将详细探讨AI大模型的架构演进，包括从Transformer的提出到GPT、BERT、T5等模型的历史演变，并探讨这些模型的技术细节及其在现代人工智能中的核心作用。一、基础模型介绍：Transformer的核心原理Transformer架构的背景在Transfo
[实践应用] 深度学习之模型性能评估指标 YuanDaima2048 深度学习工具使用深度学习人工智能损失函数性能评估 pytorch python 机器学习
文章总览：YuanDaiMa2048博客文章总览深度学习之模型性能评估指标分类任务回归任务排序任务聚类任务生成任务其他介绍在机器学习和深度学习领域，评估模型性能是一项至关重要的任务。不同的学习任务需要不同的性能指标来衡量模型的有效性。以下是对一些常见任务及其相应的性能评估指标的详细解释和总结。分类任务分类任务是指模型需要将输入数据分配到预定义的类别或标签中。以下是分类任务中常用的性能指标：准确率(
[实践应用] 深度学习之优化器 YuanDaima2048 深度学习工具使用 pytorch 深度学习人工智能机器学习 python 优化器
文章总览：YuanDaiMa2048博客文章总览深度学习之优化器1.随机梯度下降（SGD）2.动量优化（Momentum）3.自适应梯度（Adagrad）4.自适应矩估计（Adam）5.RMSprop总结其他介绍在深度学习中，优化器用于更新模型的参数，以最小化损失函数。常见的优化函数有很多种，下面是几种主流的优化器及其特点、原理和PyTorch实现：1.随机梯度下降（SGD）原理:随机梯度下降通过
生成式地图制图 Bwywb_3 深度学习机器学习深度学习生成对抗网络
生成式地图制图（GenerativeCartography）是一种利用生成式算法和人工智能技术自动创建地图的技术。它结合了传统的地理信息系统（GIS）技术与现代生成模型（如深度学习、GANs等），能够根据输入的数据自动生成符合需求的地图。这种方法在城市规划、虚拟环境设计、游戏开发等多个领域具有应用前景。主要特点：自动化生成：通过算法和模型，系统能够根据输入的地理或空间数据自动生成地图，而无需人工逐
吴恩达深度学习笔记(30)-正则化的解释极客Array
正则化（Regularization）深度学习可能存在过拟合问题——高方差，有两个解决方法，一个是正则化，另一个是准备更多的数据，这是非常可靠的方法，但你可能无法时时刻刻准备足够多的训练数据或者获取更多数据的成本很高，但正则化通常有助于避免过拟合或减少你的网络误差。如果你怀疑神经网络过度拟合了数据，即存在高方差问题，那么最先想到的方法可能是正则化，另一个解决高方差的方法就是准备更多数据，这也是非常
个人学习笔记7-6：动手学深度学习pytorch版-李沐浪子L 深度学习深度学习笔记计算机视觉 python 人工智能神经网络 pytorch
#人工智能##深度学习##语义分割##计算机视觉##神经网络#计算机视觉13.11全卷积网络全卷积网络（fullyconvolutionalnetwork，FCN）采用卷积神经网络实现了从图像像素到像素类别的变换。引入l转置卷积（transposedconvolution）实现的，输出的类别预测与输入图像在像素级别上具有一一对应关系：通道维的输出即该位置对应像素的类别预测。13.11.1构造模型下
深度学习-点击率预估-研究论文2024-09-14速读 sp_fyf_2024 深度学习人工智能
深度学习-点击率预估-研究论文2024-09-14速读1.DeepTargetSessionInterestNetworkforClick-ThroughRatePredictionHZhong,JMa,XDuan,SGu,JYao-2024InternationalJointConferenceonNeuralNetworks,2024深度目标会话兴趣网络用于点击率预测摘要：这篇文章提出了一种新
损失函数与反向传播 Star_. PyTorch pytorch 深度学习 python
损失函数定义与作用损失函数(lossfunction)在深度学习领域是用来计算搭建模型预测的输出值和真实值之间的误差。1.损失函数越小越好2.计算实际输出与目标之间的差距3.为更新输出提供依据（反向传播)常见的损失函数回归常见的损失函数有：均方差（MeanSquaredError，MSE）、平均绝对误差（MeanAbsoluteErrorLoss，MAE）、HuberLoss是一种将MSE与MAE
【深度学习】训练过程中一个OOM的问题，太难查了 weixin_40293999 深度学习深度学习人工智能
现象：各位大佬又遇到过ubuntu的这个问题么？现象是在训练过程中，ssh上不去了，能ping通，没死机，但是ubunutu的pc侧的显示器，鼠标啥都不好用了。只能重启。问题原因：OOM了95G，尼玛！！！！pytorch爆内存了，然后journald假死了，在journald被watchdog干掉之后，系统就崩溃了。这种规模的爆内存一般，即使被oomkill了，也要卡半天的，确实会这样，能不能配
云服务业界动态简报-20180128 Captain7
一、青云青云QingCloud推出深度学习平台DeepLearningonQingCloud，包含了主流的深度学习框架及数据科学工具包，通过QingCloudAppCenter一键部署交付，可以让算法工程师和数据科学家快速构建深度学习开发环境，将更多的精力放在模型和算法调优。二、腾讯云1.腾讯云正式发布腾讯专有云TCE(TencentCloudEnterprise)矩阵，涵盖企业版、大数据版、AI
机器学习VS深度学习 nfgo 机器学习
机器学习（MachineLearning,ML）和深度学习（DeepLearning,DL）是人工智能（AI）的两个子领域，它们有许多相似之处，但在技术实现和应用范围上也有显著区别。下面从几个方面对两者进行区分：1.概念层面机器学习：是让计算机通过算法从数据中自动学习和改进的技术。它依赖于手动设计的特征和数学模型来进行学习，常用的模型有决策树、支持向量机、线性回归等。深度学习：是机器学习的一个子领
大数据毕业设计hadoop+spark+hive知识图谱租房数据分析可视化大屏租房推荐系统 58同城租房爬虫房源推荐系统房价预测系统计算机毕业设计机器学习深度学习人工智能 2401_84572577 程序员大数据 hadoop 人工智能
做了那么多年开发，自学了很多门编程语言，我很明白学习资源对于学一门新语言的重要性，这些年也收藏了不少的Python干货，对我来说这些东西确实已经用不到了，但对于准备自学Python的人来说，或许它就是一个宝藏，可以给你省去很多的时间和精力。别在网上瞎学了，我最近也做了一些资源的更新，只要你是我的粉丝，这期福利你都可拿走。我先来介绍一下这些东西怎么用，文末抱走。（1）Python所有方向的学习路线（
深度学习-13-小语言模型之SmolLM的使用皮皮冰燃深度学习深度学习
文章附录1SmolLM概述1.1SmolLM简介1.2下载模型2运行2.1在CPU/GPU/多GPU上运行模型2.2使用torch.bfloat162.3通过位和字节的量化版本3应用示例4问题及解决4.1attention_mask和pad_token_id报错4.2max_new_tokens=205参考附录1SmolLM概述1.1SmolLM简介SmolLM是一系列尖端小型语言模型，提供三种规
基于深度学习的农作物病害检测 SEU-WYL 深度学习dnn 深度学习人工智能
基于深度学习的农作物病害检测利用卷积神经网络（CNN）、生成对抗网络（GAN）、Transformer等深度学习技术，自动识别和分类农作物的病害，帮助农业工作者提高作物管理效率、减少损失。1.农作物病害检测的挑战病害种类繁多：农作物病害的类型多样，不同病害在同一作物上的表现差异很大，同时同一种病害在不同生长阶段的症状也可能不同。环境影响：天气、光照、湿度等外部环境因素会影响农作物的表现，使得病害检
基于深度学习的文本引导的图像编辑 SEU-WYL 深度学习dnn 深度学习人工智能
基于深度学习的文本引导的图像编辑（Text-GuidedImageEditing）是一种通过自然语言文本指令对图像进行编辑或修改的技术。它结合了图像生成和自然语言处理（NLP）的最新进展，使用户能够通过描述性文本对图像内容进行精确的调整和操控。1.文本引导的图像编辑的挑战文本和图像之间的对齐：如何将文本中的语义信息准确地映射到图像中的特定区域或元素是一个关键挑战。这涉及到多模态数据的对齐和理解。编
深度学习--对抗生成网络（GAN, Generative Adversarial Network） Ambition_LAO 深度学习生成对抗网络
对抗生成网络（GAN,GenerativeAdversarialNetwork）是一种深度学习模型，由IanGoodfellow等人在2014年提出。GAN主要用于生成数据，通过两个神经网络相互对抗，来生成以假乱真的新数据。以下是对GAN的详细阐述，包括其概念、作用、核心要点、实现过程、代码实现和适用场景。1.概念GAN由两个神经网络组成：生成器（Generator）和判别器（Discrimina
深度学习：怎么看pth文件的参数奥利给少年深度学习人工智能
.pth文件是PyTorch模型的权重文件，它通常包含了训练好的模型的参数。要查看或使用这个文件，你可以按照以下步骤操作：1.确保你有模型的定义你需要有创建这个.pth文件时所用的模型的代码。这意味着你需要有模型的类定义和架构。2.加载模型权重使用PyTorch的load_state_dict方法来加载权重。这里是如何操作的：importtorchimporttorch.nnasnn#定义模型结构
chatgpt赋能python：如何在Python中安装Keras库？ turensu ChatGpt python chatgpt keras 计算机
如何在Python中安装Keras库？Keras是一个简单易用的神经网络库，由FrançoisChollet编写。它在Python编程语言中实现了深度学习的功能，可以使您更轻松地构建和试验不同类型的神经网络。如果您是一名Python开发人员，肯定会想知道如何在您的Python项目中安装Keras库。在本文中，我们将向您展示如何安装和配置Keras库。步骤1：安装Python要使用Keras库，您需
如何理解深度学习的训练过程奋斗的草莓熊深度学习人工智能 python scikit-learn virtualenv numpy pandas
文章目录1.训练是干什么？2.预训练模型进行训练，主要更改的是预训练模型的什么东西？1.训练是干什么？以yolov5为例子，训练的目的是把一组输入猫狗图像放到神经网络中，得到一个输出模型，这个模型下次可以直接用来识别哪个是猫，哪个是狗2.预训练模型进行训练，主要更改的是预训练模型的什么东西？超参数（Hyperparameters）：这是模型结构中定义的参数，比如：卷积核大小（kernel_size
Keras深度学习框架入门及实战指南司莹嫣Maude
Keras深度学习框架入门及实战指南keraskeras-team/keras:是一个基于Python的深度学习库，它没有使用数据库。适合用于深度学习任务的开发和实现，特别是对于需要使用Python深度学习库的场景。特点是深度学习库、Python、无数据库。项目地址:https://gitcode.com/gh_mirrors/ke/keras一、项目介绍Keras简介Keras是一款高级神经网络
深度学习驱动的车牌识别：技术演进与未来挑战逼子歌深度学习车牌识别神经网络字符识别 YOLO 卷积神经网络
一、引言1.1研究背景在当今社会，智能交通系统的发展日益重要，而车牌识别作为其关键组成部分，发挥着至关重要的作用。车牌识别技术广泛应用于交通管理、停车场管理、安防监控等领域。在交通管理中，它可以用于车辆识别、交通违法监控和车流统计等，提高交通管理的效率和准确性。在停车场管理中，实现车辆的自动识别和收费，提升管理和服务水平。在安防监控领域，可用于追踪嫌疑人及犯罪行为。深度学习的出现为车牌识别带来了重
每天五分钟玩转深度学习PyTorch：模型参数优化器torch.optim 幻风_huanfeng 深度学习框架pytorch 深度学习 pytorch 人工智能神经网络机器学习优化算法
本文重点在机器学习或者深度学习中，我们需要通过修改参数使得损失函数最小化(或最大化)，优化算法就是一种调整模型参数更新的策略。在pytorch中定义了优化器optim，我们可以使用它调用封装好的优化算法，然后传递给它神经网络模型参数，就可以对模型进行优化。本文是学习第6步(优化器)，参考链接pytorch的学习路线随机梯度下降算法在深度学习和机器学习中，梯度下降算法是最常用的参数更新方法，它的公式
什么是AIGC？有哪些免费工具？ chent_某位 AIGC
AIGC（AIGeneratedContent），即“人工智能生成内容”，是指通过人工智能技术自动生成各种类型的数字内容。AIGC让机器能够根据输入的信息或数据生成符合人类需求的文本、图像、音频、视频等内容，极大提高了内容创作的效率。AIGC的背景与起源随着深度学习和自然语言处理技术的快速发展，人工智能已经不再局限于简单的任务，如分类、预测和数据分析，而是具备了生成内容的能力。生成式AI模型，如O
transformer架构(Transformer Architecture)原理与代码实战案例讲解 AI架构设计之禅大数据AI人工智能 Python入门实战计算科学神经计算深度学习神经网络大数据人工智能大型语言模型 AI AGI LLM Java Python 架构设计 Agent RPA
transformer架构(TransformerArchitecture)原理与代码实战案例讲解关键词：Transformer,自注意力机制,编码器-解码器,预训练,微调,NLP,机器翻译作者：禅与计算机程序设计艺术/ZenandtheArtofComputerProgramming1.背景介绍1.1问题的由来自然语言处理（NLP）领域的发展经历了从规则驱动到统计驱动再到深度学习驱动的三个阶段。
如何有效的学习AI大模型？ Python程序员罗宾学习人工智能语言模型自然语言处理架构
学习AI大模型是一个系统性的过程，涉及到多个学科的知识。以下是一些建议，帮助你更有效地学习AI大模型：基础知识储备：数学基础：学习线性代数、概率论、统计学和微积分等，这些是理解机器学习算法的数学基础。编程技能：掌握至少一种编程语言，如Python，因为大多数AI模型都是用Python实现的。理论学习：机器学习基础：了解监督学习、非监督学习、强化学习等基本概念。深度学习：学习神经网络的基本结构，如卷
【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程牙牙要健康深度学习 onnx onnxruntime 深度学习 python 人工智能
【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程提示:博主取舍了很多大佬的博文并亲测有效,分享笔记邀大家共同学习讨论文章目录【深度学习】【OnnxRuntime】【Python】模型转化、环境搭建以及模型部署的详细教程前言模型转换--pytorch转onnxWindows平台搭建依赖环境onnxruntime调用onnx模型ONNXRuntime推理核
基于深度学习的多模态信息检索 SEU-WYL 深度学习dnn 深度学习人工智能
基于深度学习的多模态信息检索（MultimodalInformationRetrieval,MMIR）是指利用深度学习技术，从包含多种模态（如文本、图像、视频、音频等）的数据集中检索出满足用户查询意图的相关信息。这种方法不仅可以处理单一模态的数据，还可以在多种模态之间建立关联，从而更准确地满足用户需求。1.多模态信息检索的挑战异构数据表示：多模态数据通常具有不同的特征和表示形式（如文本的词嵌入与图
PHP，安卓，UI，java，linux视频教程合集 cocos2d-x小菜 java UI PHP android linux
╔-----------------------------------╗┆
各表中的列名必须唯一。在表 'dbo.XXX' 中多次指定了列名 'XXX'。 bozch .net .net mvc
在.net mvc5中，在执行某一操作的时候，出现了如下错误：各表中的列名必须唯一。在表 'dbo.XXX' 中多次指定了列名 'XXX'。经查询当前的操作与错误内容无关，经过对错误信息的排查发现，事故出现在数据库迁移上。回想过去：在迁移之前已经对数据库进行了添加字段操作，再次进行迁移插入XXX字段的时候，就会提示如上错误。 &
Java 对象大小的计算 e200702084 java
Java对象的大小如何计算一个对象的大小呢？
Mybatis Spring 171815164 mybatis
ApplicationContext ac = new ClassPathXmlApplicationContext("applicationContext.xml"); CustomerService userService = (CustomerService) ac.getBean("customerService"); Customer cust
JVM 不稳定参数 g21121 jvm
-XX 参数被称为不稳定参数，之所以这么叫是因为此类参数的设置很容易引起JVM 性能上的差异，使JVM 存在极大的不稳定性。当然这是在非合理设置的前提下，如果此类参数设置合理讲大大提高JVM 的性能及稳定性。可以说“不稳定参数”
用户自动登录网站永夜-极光用户
1.目标:实现用户登录后,再次登录就自动登录,无需用户名和密码 2.思路:将用户的信息保存为cookie 每次用户访问网站,通过filter拦截所有请求,在filter中读取所有的cookie,如果找到了保存登录信息的cookie,那么在cookie中读取登录信息,然后直接
centos7 安装后失去win7的引导记录程序员是怎么炼成的操作系统
1.使用root身份(必须)打开 /boot/grub2/grub.cfg 2.找到 ### BEGIN /etc/grub.d/30_os-prober ### 在后面添加 menuentry "Windows 7 (loader) (on /dev/sda1)" {
Oracle 10g 官方中文安装帮助文档以及Oracle官方中文教程文档下载 aijuans oracle
Oracle 10g 官方中文安装帮助文档下载：http://download.csdn.net/tag/Oracle%E4%B8%AD%E6%96%87API%EF%BC%8COracle%E4%B8%AD%E6%96%87%E6%96%87%E6%A1%A3%EF%BC%8Coracle%E5%AD%A6%E4%B9%A0%E6%96%87%E6%A1%A3 Oracle 10g 官方中文教程
JavaEE开源快速开发平台G4Studio_V3.2发布了無為子 AOP oracle mysql javaee G4Studio
我非常高兴地宣布,今天我们最新的JavaEE开源快速开发平台G4Studio_V3.2版本已经正式发布。大家可以通过如下地址下载。访问G4Studio网站 http://www.g4it.org G4Studio_V3.2版本变更日志功能新增 (1).新增了系统右下角滑出提示窗口功能。 (2).新增了文件资源的Zip压缩和解压缩
Oracle常用的单行函数应用技巧总结百合不是茶日期函数转换函数(核心)数字函数通用函数(核心)字符函数
单行函数; 字符函数,数字函数,日期函数,转换函数(核心),通用函数(核心) 一:字符函数: .UPPER(字符串) 将字符串转为大写 .LOWER (字符串) 将字符串转为小写 .INITCAP(字符串) 将首字母大写 .LENGTH (字符串) 字符串的长度 .REPLACE(字符串,'A','_') 将字符串字符A转换成_
Mockito异常测试实例 bijian1013 java 单元测试 mockito
Mockito异常测试实例： package com.bijian.study; import static org.mockito.Mockito.mock; import static org.mockito.Mockito.when; import org.junit.Assert; import org.junit.Test; import org.mockito.
GA与量子恒道统计 Bill_chen JavaScript 浏览器百度 Google 防火墙
前一阵子，统计**网址时，Google Analytics（GA）和量子恒道统计（也称量子统计），数据有较大的偏差，仔细找相关资料研究了下，总结如下：为何GA和量子网站统计（量子统计前身为雅虎统计）结果不同？首先：没有一种网站统计工具能保证百分之百的准确出现该问题可能有以下几个原因：（1）不同的统计分析系统的算法机制不同；（2）统计代码放置的位置和前后
【Linux命令三】Top命令 bit1129 linux命令
Linux的Top命令类似于Windows的任务管理器，可以查看当前系统的运行情况，包括CPU、内存的使用情况等。如下是一个Top命令的执行结果： top - 21:22:04 up 1 day, 23:49, 1 user, load average: 1.10, 1.66, 1.99 Tasks: 202 total, 4 running, 198 sl
spring四种依赖注入方式白糖_ spring
平常的java开发中，程序员在某个类中需要依赖其它类的方法，则通常是new一个依赖类再调用类实例的方法，这种开发存在的问题是new的类实例不好统一管理，spring提出了依赖注入的思想，即依赖类不由程序员实例化，而是通过spring容器帮我们new指定实例并且将实例注入到需要该对象的类中。依赖注入的另一种说法是“控制反转”，通俗的理解是：平常我们new一个实例，这个实例的控制权是我
angular.injector boyitech AngularJS AngularJS API
angular.injector 描述: 创建一个injector对象, 调用injector对象的方法可以获得angular的service, 或者用来做依赖注入. 使用方法: angular.injector(modules, [strictDi]) 参数详解: Param Type Details mod
java-同步访问一个数组Integer[10]，生产者不断地往数组放入整数1000，数组满时等待；消费者不断地将数组里面的数置零，数组空时等待 bylijinnan Integer
public class PC { /** * 题目：生产者-消费者。 * 同步访问一个数组Integer[10]，生产者不断地往数组放入整数1000，数组满时等待；消费者不断地将数组里面的数置零，数组空时等待。 */ private static final Integer[] val=new Integer[10]; private static
使用Struts2.2.1配置 Chen.H apache spring Web xml struts
Struts2.2.1 需要如下 jar包: commons-fileupload-1.2.1.jar commons-io-1.3.2.jar commons-logging-1.0.4.jar freemarker-2.3.16.jar javassist-3.7.ga.jar ognl-3.0.jar spring.jar struts2-core-2.2.1.jar struts2-sp
[职业与教育]青春之歌 comsci 教育
每个人都有自己的青春之歌............但是我要说的却不是青春... 大家如果在自己的职业生涯没有给自己以后创业留一点点机会,仅仅凭学历和人脉关系,是难以在竞争激烈的市场中生存下去的.... &nbs
oracle连接(join)中使用using关键字 daizj JOIN oracle sql using
在oracle连接(join)中使用using关键字 34. View the Exhibit and examine the structure of the ORDERS and ORDER_ITEMS tables. Evaluate the following SQL statement: SELECT oi.order_id, product_id, order_date FRO
NIO示例 daysinsun nio
NIO服务端代码： public class NIOServer { private Selector selector; public void startServer(int port) throws IOException { ServerSocketChannel serverChannel = ServerSocketChannel.open(
C语言学习homework1 dcj3sjt126com c homework
0、课堂练习做完 1、使用sizeof计算出你所知道的所有的类型占用的空间。 int x; sizeof(x); sizeof(int); # include <stdio.h> int main(void) { int x1; char x2; double x3; float x4; printf(&quo
select in order by , mysql排序 dcj3sjt126com mysql
If i select like this: SELECT id FROM users WHERE id IN(3,4,8,1); This by default will select users in this order 1,3,4,8, I would like to select them in the same order that i put IN() values so:
页面校验-新建项目 fanxiaolong 页面校验
$(document).ready( function() { var flag = true; $('#changeform').submit(function() { var projectScValNull = true; var s =""; var parent_id = $("#parent_id").v
Ehcache（02）——ehcache.xml简介 234390216 ehcache ehcache.xml 简介
ehcache.xml简介 ehcache.xml文件是用来定义Ehcache的配置信息的，更准确的来说它是定义CacheManager的配置信息的。根据之前我们在《Ehcache简介》一文中对CacheManager的介绍我们知道一切Ehcache的应用都是从CacheManager开始的。在不指定配置信
junit 4.11中三个新功能 jackyrong java
junit 4.11中两个新增的功能，首先是注解中可以参数化，比如 import static org.junit.Assert.assertEquals; import java.util.Arrays; import org.junit.Test; import org.junit.runner.RunWith; import org.junit.runn
国外程序员爱用苹果Mac电脑的10大理由 php教程分享 windows PHP unix Microsoft perl
Mac 在国外很受欢迎，尤其是在设计/web开发/IT 人员圈子里。普通用户喜欢 Mac 可以理解，毕竟 Mac 设计美观，简单好用，没有病毒。那么为什么专业人士也对 Mac 情有独钟呢？从个人使用经验来看我想有下面几个原因： 1、Mac OS X 是基于 Unix 的这一点太重要了，尤其是对开发人员，至少对于我来说很重要，这意味着Unix 下一堆好用的工具都可以随手捡到。如果你是个 wi
位运算、异或的实际应用 wenjinglian 位运算
一．位操作基础，用一张表描述位操作符的应用规则并详细解释。二．常用位操作小技巧，有判断奇偶、交换两数、变换符号、求绝对值。三．位操作与空间压缩，针对筛素数进行空间压缩。 &n
weblogic部署项目出现的一些问题（持续补充中……） Everyday都不同 weblogic部署失败
好吧，weblogic的问题确实…… 问题一： org.springframework.beans.factory.BeanDefinitionStoreException: Failed to read candidate component class: URL [zip:E:/weblogic/user_projects/domains/base_domain/serve
tomcat7性能调优（01） toknowme tomcat7
Tomcat优化： 1、最大连接数最大线程等设置 <Connector port="8082" protocol="HTTP/1.1" useBodyEncodingForURI="t
PO VO DAO DTO BO TO概念与区别 xp9802 java DAO 设计模式 bean 领域模型
O/R Mapping 是 Object Relational Mapping（对象关系映射）的缩写。通俗点讲，就是将对象与关系数据库绑定，用对象来表示关系数据。在O/R Mapping的世界里，有两个基本的也是重要的东东需要了解，即VO，PO。它们的关系应该是相互独立的，一个VO可以只是PO的部分，也可以是多个PO构成，同样也可以等同于一个PO（指的是他们的属性）。这样，PO独立出来，数据持

深度学习之梯度下降优化算法

你可能感兴趣的:(深度学习)