梯度方向

NNDL 实验八 网络优化与正则化（3）不同优化算法比较

梯度估计修正：通过修正每次迭代时估计的梯度方向来加快收敛速度。动量法、Nesterov加速梯度方法等。本节还会介绍综合学习率
weixin_51715088·2022-12-14 23:51

机器学习--梯度下降与一元线性回归

一元线性回归线性回归概念原理引入代价函数公式推导代码一元函数多元函数梯度下降基本概念梯度下降法，又名最速下降法是求解无约束最优化问题最常用问题的方法，它是一种迭代方法，每一步都是主要的操作目标函数的梯度向量，将当前位置的负梯度方向作为搜索方向
再见--不见·2022-12-14 16:27

NNDL 作业12：第七章课后题

7-1在小批量梯度下降中,试分析为什么学习率要和批量大小成正比.主要是为了降低批量过小带来的不稳定性风险，防止它更新时前往偏离方向太远，因为当批量越大时，梯度方向更具有代表性，随机梯度下降偏离正常方向的概率要更低
真不想再学了·2022-12-14 15:17

21. 合理的模型初始化和激活函数

在梯度计算时（偏导）时，梯度方向大致是向着圆心的，那么梯度步长就有一个较大的可调范围，不会出现z字形的梯度路径。3.权重初始化4.例子：MLP独立同分布IID(independentan
chnyi6_ya·2022-12-14 12:26

图像特征：HOG特征

它通过计算和统计图像局部区域的梯度方向直方图来构成特征。Hog特征结合SVM分类器
在路上DI蜗牛·2022-12-13 07:38

神经网络与深度学习（八）网络优化与正则化（3）不同优化算法比较

梯度估计修正：主要通过修正每次迭代时估计的梯度方向来加快收敛速度。这类算法主要有动量法、Nesterov加
冰冻胖头鱼·2022-12-12 18:55

模型优化-梯度下降算法

【思想】：要找到某函数的最小值，最好的方法是沿着该函数的梯度方向探寻，例如物理学上的加速度与速度的关系。当加速度为零时，此时速度可能是最大，也有可能是最小，这取决于函数曲线。
clvsit·2022-12-12 17:57

NNDL 实验八 网络优化与正则化（3）不同优化算法比较

梯度估计修正：通过修正每次迭代时估计的梯度方向来加快收敛速度。动量法、Nesterov加速梯度方法等。本节还会介绍综合学习率
真不想再学了·2022-12-12 11:43

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理5.总结SGD、Momentum、AdaGrad、Adam的优缺点参考1.编程实现图6-1，并观察特征
Stacey.933·2022-12-12 09:09

python系列-逻辑回归算法（logistic回归）之梯度上升算法理解及python实现

1.梯度    梯度方向就是函数值上升最大的方向！！！
森特吴·2022-12-12 01:37

NNDL 作业11：优化算法比较

目录编程实现图6-1，并观察特征观察梯度方向编写代码实现算法，并可视化轨迹分析上图，说明原理（选做）1.为什么SGD会走“之字形”？其它算法为什么会比较平滑？
白小码i·2022-12-11 12:19

机器学习与深度学习核心知识点总结

梯度下降法的迭代公式为：根据函数的一阶泰勒展开，在负梯度方向，函数值是下降的。只要学习率设置的足够小，并且没
小白学视觉·2022-12-11 10:32

《最优化理论与算法》(陈宝林）——第10章：使用导数的最优化方法

目录最速下降法核心思想计算步骤算法讨论牛顿法原始牛顿法核心计算步骤算法讨论阻尼牛顿法：牛顿法进一步修正：共轭梯度法基本思想求解步骤：二次函数一般函数算法讨论拟牛顿法信赖区域方法最小二乘法最速下降法核心思想负梯度方向为最速下降方向计算步骤算法讨论越接近极值点
fenneishi·2022-12-11 05:02

用OpenCV的SVM实现简单的手势识别（切水果）[附源码]

HOG特征通过计算和统计图像局部区域的梯度方向直方图来构成特征一、计算HOGvoi
hhae·2022-12-11 02:28

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹5.总结SGD、Momentum、AdaGrad、Adam的优缺点1.编程实现图6-1，并观察特征importnumpyasnpfrommatplotlibimportpyplotaspltfrommpl_toolkits.mplot3dimportAxes3Ddeffunc
HBU_Hbdwhb·2022-12-11 01:44

EGO-Planner: An ESDF-free Gradient-based Local Planner for Quadrotors（论文学习）

EGO规划器：一种基于ESDF自由梯度的四转子局部规划器摘要ESDF地图被广泛运用在局部地图的梯度方向和大小估计之中，但是由于我们在进行轨迹优化的过程中，只用到了ESDF地图中很小的一部分，这造成了极大的计算冗余
那行界·2022-12-10 18:48

深度学习常见算法之梯度下降法

梯度下降法的最优化思想也是用当前位置负梯度方向最为搜索方向，因为该方向为
HangoverLG·2022-12-10 15:22

NNDL 作业11：优化算法比较

文章目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）5.总结SGD、Momentum、AdaGrad、Adam的优缺点（选做）6.Adam
凉堇·2022-12-08 22:14

神经网络梯度下降算法--BP算法

1.梯度更新公式：其中为步长又叫学习率，为梯度公式表明梯度沿着负梯度方向更新权重参数2.假设cost是关于权重w的一个光滑的凸函数目的：找到cost取最小值时对应的权重w可以转化为找极值点的问题即当=0
weixin_45752264·2022-12-08 12:53

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（1）为什么SGD会走“之字形”？其它算法为什么会比较平滑？
Persevere~~~·2022-12-08 10:11

SGD、Momentum、 AdaGrad、Adam

使用参数的梯度，沿梯度方向更新参数，并重复这个步骤多次，从而逐渐靠近
莱维贝贝、·2022-12-08 08:47

NNDL 作业11：优化算法比较

目录编程实现图6-1，并观察特征观察梯度方向编写代码实现算法，并可视化轨迹分析上图，说明原理（选做）总结SGD、Momentum、AdaGrad、Adam的优缺点（选做）增加RMSprop、Nesterov
沐一mu·2022-12-08 06:00

个人笔记Resnet残差网络

《让损失函数沿着梯度方向的下降。这个就是gbdt的gb的核心了。利用损失函数的负梯度在当前模型的值作为回归问题提升树算法中的残差的近似值去拟合一个回归树。
CV_er·2022-12-07 21:55

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）5.总结SGD、Momentum、AdaGrad、Adam的优缺点6.Adam这么好，
cdd04·2022-12-07 17:09

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹5.总结SGD、Momentum、AdaGrad、Adam的优缺点参考1.编程实现图6-1，并观察特征代码实现importnumpyasnpfrommatplotlibimportpyplotaspltfrommpl_toolkits.mplot3dimportAxes3Ddeffunc
冰冻胖头鱼·2022-12-07 11:22

Lasso线性回归学习笔记（公式与代码实现）

3.2加了L~1~正则项之后的损失函数图像4L~1~范数正则化的解中有更多零的原因5Lasso线性回归6Lasso线性回归的优化算法（求最优解）6.1梯度下降（GradientDescent）-为什么梯度方向是函数上升最快方向
尼古拉卡车斯基·2022-12-07 10:48

对抗样本生成算法之JSMA算法

目录背景算法的原理和步骤论文2016EuroS&P-TheLimitationsofDeepLearninginAdversarialSettings.背景之前的对抗样本的扰动方向都是损失函数的梯度方向
学-evday·2022-12-07 00:33

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹5.总结SGD、Momentum、AdaGrad、Adam的优缺点6.Adam这么好，SGD是不是就用不到了？
蒂洛洛·2022-12-06 15:25

NNDL 作业11：优化算法比较

文章目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）5.总结SGD、Momentum、AdaGrad、Adam的优缺点（选做）6.Adam
牛奶园雪梨·2022-12-06 13:37

损失函数（均方损失L2 Loss，L1 Loss，鲁棒损失）

橙色：损失函数的梯度梯度下降中，我们是根据它的负梯度方向来更新参数，所以其导数决定了如何更新我们的参数，即决定了每次更新的step，梯度
我是小蔡呀～～～·2022-12-06 11:06

NNDL 作业11：优化算法比较

文章目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）1.为什么SGD会走“之字形”？其它算法为什么会比较平滑？
萐茀37·2022-12-06 11:28

opencv亚像素边缘精度_OpenCV第十二讲：角点检测与亚像素精度

角点的性质一阶导数(即灰度的梯度)的局部最大所对应的像素点；两条及两条以上边缘的交点；图像中梯度值和梯度方向的变化速率都很高的点；角点处的一阶导数最大，二阶导数为0，它指示了物体边
weixin_39855568·2022-12-06 09:15

NNDL 作业11：优化算法比较

文章目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）5.总结SGD、Momentum、AdaGrad、Adam的优缺点（选做）总结1.
plum-blossom·2022-12-06 06:53

梯度提升决策树GBDT

而让损失函数持续下降，就能使得模型不断改性提升性能，其最好的方法就是使损失函数沿着梯度方向下降（讲道理梯度方向上下降最快）。GradientBoost是
miya_116·2022-12-05 23:21

NNDL 作业11：优化算法比较

文章目录前言一、1.编程实现图6-1，并观察特征二、观察梯度方向三、3.编写代码实现算法，并可视化轨迹四、4.分析上图，说明原理（选做）1、为什么SGD会走“之字形”？其它算法为什么会比较平滑？
别被打脸·2022-12-05 15:45

神经网络与深度学习 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（1）为什么SGD会走“之字形”？其它算法为什么会比较平滑？
Jacobson Cui·2022-12-05 13:53

神经网络与深度学习 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹参考1.编程实现图6-1，并观察特征importnumpyasnpfrommatplotlibimportpyplotaspltfrommpl_toolkits.mplot3dimportAxes3Ddeffunc
红肚兜·2022-12-05 13:44

NNDL 作业11：优化算法比较

文章目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）1.为什么SGD会走“之字形”？其它算法为什么会比较平滑？
辰 希·2022-12-05 13:14

HBU-NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理1、为什么SGD会走“之字形”？其它算法为什么会比较平滑？
不是蒋承翰·2022-12-05 13:13

NNDL 作业11：优化算法比较

NNDL作业11：优化算法比较目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）5.总结SGD、Momentum、AdaGrad、Adam
小鬼缠身、·2022-12-05 11:28

作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）1）为什么SGD会走“之字形”？其它算法为什么会比较平滑？
岳轩子·2022-12-05 11:15

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹5.总结SGD、Momentum、AdaGrad、Adam的优缺点6.Adam这么好，SGD是不是就用不到了？
五元钱·2022-12-05 09:43

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）1.为什么SGD会走“之字形”？其它算法为什么会比较平滑？
乳酸蔓越莓吐司·2022-12-04 21:10

(十)再探反向传播和神经网络优化

文章目录1.背景介绍2.神经网络的模型3.神经网络中的参数更新初探3.1随机查找取最优3.2局部随机查找参数更新3.3沿着梯度反方向更新4.链式法则与反向传播5.梯度方向的参数更新策略6.学习率退火6.1
恒友成·2022-12-04 14:29

机器学习及深度学习的知识点及面试题总结

blog.csdn.net/T7SFOKzorD1JAYMSFk4/article/details/806549311、反向传播思想：计算出输出与标签间的损失函数值，然后计算其相对于每个神经元的梯度，根据梯度方向更新权值
ZLuby·2022-12-04 14:56

shape_based_matching代码解读0401

文章目录算法旋转角度一、代码解读1.图像预处理（高斯滤波、Sobel采样）2.量化像素梯度方向后续写作本系列文章旨在就个人学习该论文及其开源项目做一个学习分享和交流。
拔刀为代码·2022-12-04 13:14

NNDL 作业11：优化算法比较

目录1.编程实现图6-1，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理（选做）1.为什么SGD会走“之字形”？其它算法为什么会比较平滑？
AI-2 刘子豪·2022-12-04 09:28

图像处理（四）：边缘检测（二）：sobel和canny

Canny算子：1、使用Gassian滤波器平滑处理；2、使用sobel算子分别计算x，y方向梯度分量及梯度方向；3、对梯度进行非极大值抑制；4、使用双阈值对边缘进一步检测和增强；实现代码如
MirrorYuChen·2022-12-03 16:20

NNDL 作业11：优化算法比较

目录1.编程实现下式，并观察特征2.观察梯度方向3.编写代码实现算法，并可视化轨迹4.分析上图，说明原理1.为什么SGD会走“之字形”？其它算法为什么会比较平滑？
笼子里的薛定谔·2022-12-03 11:07

OpenCV-图像特征提取算法2_HOG

一，算法概述1、主要思想：方向梯度直方图（HistogramofOrientedGradient,HOG）特征是一种在计算机视觉和图像处理中用来进行物体检测的特征描述算法，通过计算和统计图像局部区域的梯度方向直方图来构成特征
业余狙击手19·2022-12-03 08:00
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他