Gradient

AndrewNg机器学习第四周作业：关于使用逻辑回归、神经网络训练数据并应用之的心得

一、逻辑回归参数theta的训练与预测一开始的theta矩阵是ones创建的，构建逻辑回归的costFunction和gradient，然
csd54496·2023-01-16 06:59

深度学习 | 梯度下降法

梯度下降法（Gradientdescentoptimization)理想的梯度下降算法要满足两点：收敛速度要快；能全局收敛重点问题：如何调整搜索的步长（也叫学习率，LearningRate）、如何加快收敛速度
TwilightZrui·2023-01-15 09:24

深度学习 11 梯度下降算法改进

数据初始化要点:1.梯度下降算法的三种方式:批量梯度下降法(batch)，即同时处理整个训练集.小批量梯度下降法（Mini-Batch）每次同时处理固定大小的数据集.随机梯度下降法（stochasticgradientdescent
处女座_三月·2023-01-15 09:53

yolov5报错：AttributeError: ‘Hardswish‘ object has no attribute ‘inplace‘

GeForceRTX2080SuperwithMax-QDesign',total_memory=8192MB)Fusinglayers...ModelSummary:140layers,7.45958e+06parameters,0gradientsTraceback
长沙有肥鱼·2023-01-14 17:00

李宏毅机器学习笔记第8周_自动调整学习速率

文章目录一、Trainingstuck≠SmallGradient二、Waitaminute三、Trainingcanbedifficultevenwithoutcriticalpoints四、Differentparametersneedsdifferentlearningrate
MoxiMoses·2023-01-14 15:50

李宏毅ML-批次与动量

2.Gradientdescent+Momentum3.总结1.SmallbatchorLargebatch?
lele_ne·2023-01-14 15:19

李宏毅ML-自动调整学习速率

RMSandAdagrad在下面有两幅图，如第一幅图所示，随着iteration的增加，loss在不断减少，最后趋近于0，训练卡住不动了，很多人以为肯定是遇到了criticalpoint…其实不然，如第二幅图所示，gradient
lele_ne·2023-01-14 15:47

主要内容: 本文提出了一种基于(ppo)的微电网最优调度方法。 该方法采用强化学习(RL)来学习调度策略，并积累相应的调度知识。 同时，引入ppo模型，将微电网调度策略动作从离散动作空间扩展到连续动作

微电网强化学习关键词：微电网强化学习RLReinforcementLearning参考文档：《OptimalSchedulingofMicrogridBasedonDeepDeterministicPolicyGradientandTransferLearning
「已注销」·2023-01-14 15:41

【原创】深度学习学习笔记（三）-神经网络训练过程（2）

文章目录5.参数更新5.1简表5.2学习率5.3小批量5.4寻优方法5.4.1SGD系列5.4.2Momentum（动量）5.4.3NAG(NesterovAccelerationGradient)6.
A-Star·2023-01-14 12:57

数据挖掘-目录-分类器（classification）

k-nearestneighborsGLMNaiveBayesSupportVectorMachinesStochasticGradientDescentLogisticRegressionDecisionTreeCARTHuntID3C4.5KNIMEGradient-BoostedTrees
猿与禅·2023-01-14 11:09

diff和gradient求数值近似导数的异同

若对于数组，就变成数值差分运算；gradientgradient()是求数值梯度函数的命令。[Fx,Fy]=gra
qishi2014·2023-01-14 10:41

LightGBM: gradient boosting算法轻量级框架介绍

机器学习训练营——机器学习爱好者的自由交流空间（入群联系qq：2279055353）LightGBM介绍LightGBM(LightGradientBoostingMachine),是由微软“分布式机器学习工具
Goodsta·2023-01-14 07:43

机器学习-有监督学习-集成学习方法(六)：Bootstrap-＞Boosting(提升)方法-＞LightGBM（Light Gradient Boosting Machine）

机器学习-有监督学习-集成学习方法(六)：Bootstrap-＞Boosting(提升)方法-＞LightGBM（LightGradientBoostingMachine）
u013250861·2023-01-14 07:43

机器学习模型——lightGBM

lightGBM一、lightGBM的前世今生1.GBDT（GradientBoostingDecisionTree）2.lightGBM（LightGradientBoostingMachine）3.
Ap21ril·2023-01-14 07:41

LightGBM -- Light Gradient Boosting Machine

LightGBM是微软开源的一个基于决策树和XGBoost的机器学习算法。具有分布式和高效处理大量数据的特点。更快的训练速度，比XGBoost的准确性更高更低的内存使用率，通过使用直方图算法将连续特征提取为离散特征，实现了惊人的快速训练速度和较低的内存使用率通过使用按叶分割而不是按级别分割来获得更高精度，加快目标函数收敛速度，并在非常复杂的树中捕获训练数据的底层模式。使用num_leaves和ma
一銤阳光·2023-01-14 07:39

RGB图像边缘检测

tif');%此时数据为uint8类型f=im2double(f);%数据类型转换成0-1的doublefR=f(:,:,1);fG=f(:,:,2);fB=f(:,:,3);[G_Rx,G_Ry]=gradient
「已注销」·2023-01-13 19:56

Python用openpyxl设置excel单元格属性——填充的详细测试

一、需要的导入fromopenpyxl.stylesimportPatternFill,GradientFill二、语法及可使用的参数
zhfak·2023-01-13 18:17

pytorch报错

_execution_engine.run_backward(RuntimeError:oneofthevariablesneededforgradientcomputationhasbeenmodifiedbyaninplaceoperation
科研需要动力·2023-01-13 15:36

CTR模型演变史

以下简称CTR模型）的发展也可谓一日千里，从2010年之前千篇一律的逻辑回归（LogisticRegression，LR），进化到因子分解机（FactorizationMachine，FM）、梯度提升树（GradientBoostingDecisionTree
远洋之帆·2023-01-13 15:55

tensorflow报错:tensorflow.python.framework.errors_impl.InternalError: Blas GEMM launch failed :

一、原因分析在tensorflow2.0里面，要想一个高阶迭代多次调用tf.GradientTape()时报错，因为tape是一次性的，算完就会释放，所以要想重复调用必须设置persistent=’True
尚墨1111·2023-01-13 15:49

学习OpenCV+Python

draw.py4.read.py5.thresh.py6.transformations.py三.Section21.bitwise.py2.blurring.py3.colour_spaces.py4.gradients.py5
机智的橙子·2023-01-13 11:21

tensorflow中梯度求解及梯度裁剪

1.tensorflow中梯度求解的几种方式1.1tf.gradientstf.gradients(ys,xs,grad_ys=None,name='gradients',colocate_gradients_with_ops
orangerfun·2023-01-13 11:35

共轭梯度法（Conjugate Gradients）（3）

后来找到一篇《AnIntroductiontotheConjugateGradientMethodWithouttheAgonizingPain》，解惑了。为什么中文没有这么良心的资料呢？
Yemiekai·2023-01-13 11:04

共轭梯度法(Conjugate gradient)详解

1.什么是共轭向量对于正定矩阵Q，如果有xTQy=0x^TQy=0xTQy=0那么我们可以称x,y是关于Q-conjugate。2.线性方程组求解与二次函数求极小值转化最初，共轭梯度法是用来求解线性方程Ax=bAx=bAx=b的一种方法，特别是稀疏线性方程组迭代求解法里面最优秀的方法，其被称为线性共轭梯度法。后来，人们把这种方法慢慢推广到了非线性问题求解中，称为非线性共轭梯度法。求解Ax=bAx=
bitcarmanlee·2023-01-13 11:04

Notes on Conjugate Gradient Method

本文为作者原创，原载于我们的主页，转载于此。这是一个关于共轭梯度法的笔记。请大家注意的是，这是个笔记，并不是一个教程，因此少不了跳跃和欠解释的地方。对CG方法了解不多的同学请移步这里。线性方程组和极小化问题一个关于对称矩阵的线性方程组等价于求解如下极小值问题：这很容易说明，我们微分目标函数得(1)所以意味着.设为问题的解，为偏离极小值点的位移，即(2)我们定义残差或负梯度，容易看出，正比于偏离梯度
PlanckScale·2023-01-13 11:03

共轭梯度法（Conjugate Gradients）（2）

后来找到一篇《AnIntroductiontotheConjugateGradientMethodWithouttheAgonizingPain》，解惑了。为什么中文没有这么良心的资料呢？
Yemiekai·2023-01-13 11:32

TD3——DDPG的优化版本

TD3是TwinDelayedDeepDeterministicpolicygradientalgorithm的简称，双延迟深度确定性策略梯度。从名字看出，TD3算法是DDPG的改进版本。
隐形的翅膀_xxz·2023-01-13 07:14

强化学习保守策略迭代Conservative policy iteration推导

Performancedifferencelemma)Lemma1的另一种表达形式Lemma2单调改进前言最近在学习TRPO，但是本人发现TRPO用了好多好多好多前人的论文结论，包括策略梯度定理(Policygradientt
Peaceful-Boy·2023-01-13 07:13

强化学习自然策略梯度Natural Policy Gradient推导

强化学习自然策略梯度NaturalPolicyGradient推导前言预先准备的知识似然函数与对数似然函数ScorefunctionFisherInformationMatrix(FIM)KL散度(KLdivergence
Peaceful-Boy·2023-01-13 07:42

pytorch中梯度修剪，防止梯度爆炸的方法

defclip_gradient(optimizer,grad_clip):forgroupinoptimizer.param_groups:forparamingroup['params']:ifparam.gradisnotNone
煮饭不用锅·2023-01-13 06:15

“深度学习”学习日记。神经网络的学习--学习率

学习率具体指η，在代码中这样表示：我们以这个函数来实现代码：利用梯度法损失函数的最小值：importnumpyasnpdeff(x):returnx[0]**2+x[1]**3+9defnumercial_gradient
Anthony陪你度过漫长岁月·2023-01-13 00:06

torch.optim.SGD

torch.optim.SGD文章1：pytorch优化器详解：SGD（重点）文章2：[torch]optim.sgd学习参数文章3：Torch中optim的sgd(Stochasticgradientdescent
雁瑜彭·2023-01-13 00:59

tf2梯度计算为None的情况

今天搭建用tf2搭建WGAN网络，自己来写梯度函数，在使用tf.GradientTape()来求梯度时，发现求出结果为None。
正在吃饭的派大星·2023-01-12 21:32

Tensorflow2.0 求梯度返回None（WARNING:tensorflow:Gradients do not exist for variables）

问题说明利用梯度带计算梯度时发现有些层的梯度返回None。解决方法将正向传播中所有的操作都用tensorflow中的API执行，不能使用numpy等其他库中的API，比如np.concatenate需要被换成tf.concat。
cofisher·2023-01-12 21:31

torch.onnx.export转模型遇到的错误

RuntimeError:CannotinsertaTensorthatrequiresgradasaconstant.Considermakingitaparameterorinput,ordetachingthegradient
hukongtao1994·2023-01-12 16:12

2022.7.31 第十七次周报

Metalearningstep1step2step33.framework4.MLV.S.Meta目标Goal训练资料TrainingDataLoss二、Whatislearnableinalearningalgorithm1.Review:GradientDescent2
孙源峰·2023-01-12 12:39

matlab gradient_MATLAB机器学习：机器学习算法的分类

机器学习算法的能力来源于算法的质量,这正是过去这些年科学家着力更新、改进的内容。这些算法根据使用的输入数据、训练方式以及学习到的模型的输出结果,可分为如下3类。(1)监督学习:这类算法根据一系列样本(每个样本的输入有对应的输出)的观测结果建立从输入到输出的映射关系,最终构建一个预测模型。(2)非监督学习:这类算法只需一系列样本点的输入,不需要样本事先标注出对应的输出。算法学习的信息能够构建一个描述
weixin_39770592·2023-01-11 20:59

【算法】梯度下降算法及python实现

场景假设2.1梯度下降2.1.1微分2.2.2梯度2.3数学解释2.3.1α2.3.2梯度要乘以一个负号3.实例3.2多变量函数的梯度下降4.代码实现4.1场景分析4.2代码5.小结1.概述梯度下降（gradientdescent
卓小白…·2023-01-11 19:12

matlab 神经网络自动微分,自动微分机制 - Python与算法之美的个人空间 - OSCHINA - 中文开源技术交流社区...

Tensorflow一般使用梯度磁带tf.GradientTape来记录正向运算过程，然后反播磁带自动得
雲花糖是我的榮耀·2023-01-11 14:11

【机器学习】笔记1：回归与误差分析

回归与误差分析regressionstep1：modelstep2：GoodnessofFunctionstep3：BestFunction（GradientDescent）gradientdescentselectinganothermodelbacktostep1backtostep2
豆包包包er·2023-01-11 14:31

目标检测综述

带你聊一聊目标检测发展的这22年详细论文链接和代码可以点开看[1]Rapidobjectdetectionusingaboostedcascadeofsimplefeatures[2]Histogramsoforientedgradientsforhumandetection
ywm_up·2023-01-11 13:24

对抗训练fgm、fgsm和pgd原理和源码分析

fgmFGM的全称是FastGradientMethod,出现于AdversarialTrainingMethodsforSemi-supervisedTextClassification这篇论文，FGM
谈笑风生...·2023-01-11 10:22

CSS 渐变锯齿消失术

在CSS中，渐变（Gradient）可谓是最为强大的一个属性之一。但是，经常有同学在使用渐变的过程中会遇到渐变图形产生的锯齿问题。何为渐变锯齿？那么，什么是渐变图形产生的锯齿呢？
·2023-01-11 10:06

机器学习 笔记（继续更新）

目录1.具有一个特征的学习算法（linearregression线性回归），代价函数编辑的由来，等高图2.可以最小化代价函数的梯度下降法（gradientdescent），以及对于编辑、学习率编辑、导数项的通俗解释
M有在认真学习·2023-01-11 09:00

吴恩达---机器学习的流程（持续更新）

学习流程：1.具有一个特征的学习算法（linearregression线性回归），代价函数编辑的由来，等高图2.可以最小化代价函数的梯度下降法（gradientdescent），以及对于编辑、学习率编辑
M有在认真学习·2023-01-11 09:30

【Machine Learning 学习笔记】Logistic regression 代码实现与 k-fold cross validation 应用

GradientStoc
quintus0505·2023-01-11 07:50

2021李宏毅机器学习课程-YouTube第十部分、 强化学习Reinforcement Learning - RL

ReinforcementLearning1）RL基本步骤2）控制Actor输出的行为3）actor倾向确定`1.Version1``2.Version2``3.Version3`2.梯度下降策略（PolicyGradient
Liuyc-Code boy·2023-01-11 07:49

李宏毅机器学习课程-概述增强式学习PolicyGradient0214

B站李宏毅2021春机器学习课程P74目录1、如何定义A-不好的方法2、选择动作之后所有奖励之和3、PolicyGradient1、如何定义A-不好的方法这种方法只看短期结果，没有长远目光，真实情况每一次动作都会影响接下来的环境
cq-lc·2023-01-11 07:19

WGAN-GP实战

在实现了GAN之后，下面就来看一下WGAN-GP实战看一下WGAN如何解决training不稳定的问题加了个1.3gradientrpenalty函数wgan.pyimporttorchfromtorchimportnn
hxxjxw·2023-01-11 06:13

PyTorch - GAN与WGAN及其实战

givenfixedGWherewillGconverge,afteroptimalDGAN的实现导入包以及设置参数变量GeneratorDiscriminatordata_generator训练过程结果分析WGANGAN的缺点WGAN原理WGAN的实现gradient_penalty
Bro_Jun·2023-01-11 06:10
上一页 36 37 38 39 40 41 42 43 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他