Optimizer

三、深度学习基础8（softmax、dropout）

常用的优化器有哪些Optimizer：tf.train.GradientDescentOptimizertf.train.AdadeltaOptimi
满满myno·2022-04-28 07:13

凸优化 机器学习 深度学习_我应该在机器学习项目中使用哪个优化程序

凸优化机器学习深度学习Thisarticleprovidesasummaryofpopularoptimizersusedincomputervision,naturallanguageprocessing
yuan xiong·2022-04-24 09:21

tf.keras.optimizers 常用的优化器

SGDtf.keras.optimizers.SGD(lr=0.01,momentum=0.0,decay=0.0,nesterov=False)随机梯度下降法，支持动量参数，支持学习衰减率，支持Nesterov
最生猛的开拓者·2022-04-24 07:58

spark sql逻辑计划和物理计划执行原理

优化逻辑计划阶段-Optimizer在前文的绑定逻辑计划阶段对UnresolvedLogicalPlan进行相关transform操作得到了AnalyzedLogicalPlan，这个Ana
yyoc97·2022-04-22 08:28

spark sql逻辑计划和物理计划执行原理

优化逻辑计划阶段-Optimizer在前文的绑定逻辑计划阶段对UnresolvedLogicalPlan进行相关transform操作得到了AnalyzedLogicalPlan，这个Ana
yyoc97·2022-04-22 08:48

详解Spark SQL 底层实现原理(parser、analyzer、optimizer、physical plan)

SparkSQL底层实现原理1.SparkSQL架构设计2.SparkSQL执行过程3.SQL举例4.Catalyst执行过程4.1sql解析阶段Parser4.2绑定逻辑计划Analyzer4.3逻辑优化阶段Optimizer4.3.1
jialun0116·2022-04-22 08:44

机器学习实战笔记——第十一章

1.1.1tf.keras.initializers.VarianceScaling1.2非饱和激活函数1.2.1tf.keras.layers.LeakyReLU1.2.2tf.keras.layers.PReLU1.3批量归一化1.4梯度裁剪1.4.1tf.keras.optimizers.SGD
DaMeng999·2022-04-21 07:11

pytorch yolov5 onnx推理

onnxonnx推理检查是否用GPU推理：包的版本cuda10.1torch1.6.0+cu101torchvision0.7.0+cu101onnx1.7.0onnx-simplifier0.3.6onnxoptimizer0.2.6onnxruntime1.8.0onnxruntime-gpu1.3.0
anny_jra·2022-04-15 07:25

[十七]深度学习Pytorch-优化器Optimizer

0.往期内容[一]深度学习Pytorch-张量定义与张量创建[二]深度学习Pytorch-张量的操作：拼接、切分、索引和变换[三]深度学习Pytorch-张量数学运算[四]深度学习Pytorch-线性回归[五]深度学习Pytorch-计算图与动态图机制[六]深度学习Pytorch-autograd与逻辑回归[七]深度学习Pytorch-DataLoader与Dataset(含人民币二分类实战)[八
yanzhiwen2·2022-04-14 07:11

PaddleOCR使用详解

数据集文本检测使用自己的数据集文本识别使用自己的数据集字典自定义字典添加空格类别文本角度分类文本检测训练模型准备启动训练断点训练指标评估测试检测效果文本识别启动训练评估预测文本角度分类训练启动训练数据增强训练评估预测配置文件说明GlobalOptimizer
小夏refresh·2022-04-14 07:11

2021年智能优化算法：天鹰优化器AO-附MATLAB代码

天鹰优化器AO及MATLAB代码编程1算法原理简介1.1扩大探索阶段1.2缩小探索阶段1.3扩大开发阶段1.4缩小开发阶段2算法流程3MATLAB代码结果1算法原理简介天鹰优化器（AquilaOptimizer
Frank,Y·2022-04-13 09:08

在pytorch上使用CNN实现猫狗分类

torch.device('cuda'iftorch.cuda.is_available()else'cpu')EPOCHS=15#训练数据集的轮次LEARNING_RATE=1e-4#学习率优化器使用SGD:optimizer
Richard_Kim·2022-04-12 07:28

MySQL中一条SQL查询语句是如何执行的

1.2权限验证1.3查看MySQL连接2.解析与优化2.1查询缓存2.2解析器&预处理器（Parser&Preprocessor）2.2.1词法解析2.2.2语法分析2.2.3预处理器2.3查询优化器（Optimizer
·2022-04-08 11:04

keras设置（自定义）学习率及优化器用法

参数代码优化器的用法默认学习率搭建keras模型的时候，没有制定学习率，效果不是特别理想，查询了优化器的默认学习率：Adam是0.001，SGD是0.01在Keras的Adam优化器中各参数如下：keras.optimizers.Adam
噜噜啦啦咯·2022-04-07 07:22

win10 c++调用pytorch模型

"""ExportapthmodeltoTorchScriptformatsimporttimeimporttorchimporttorch.nnasnnfromtorch.utils.mobile_optimizerimportoptimize_for_mobilefrommodel.modelimportparsingNetdefmain
water_93·2022-04-04 07:40

优化算法（Optimizer）总结

BGDSGDMini-batchMomentumNAG深度学习常见的优化方法(Optimizer)总结:Adam,SGD,Momentum,AdaGard等知乎张戎：深度学习中的优化算法优化方法——AdaGrad
来到了没有知识的荒原·2022-04-02 13:49

深度学习中的优化器（optimizer）

今天学习tensorflow的过程中看到了tf.train.GradientDescentOptimizer、tf.train.AdamOptimizerAdam、tf.train.MomentumOptimizer
Xiacedar·2022-04-01 07:14

深度学习之优化器

深度学习之优化器Optimizers是在网络训练时，对网络权重进行更新，使得模型最优化loss，现阶段主流的深度学习优化器是基于梯度的优化方法，代表有：SGD，Momentum，AdaGrad，Adam
ufy·2022-04-01 07:43

Python-20分钟入门torch

一次训练传入的数据集大小）线性回归的Numpy实现（手动计算梯度+手动更新参数+手动定义损失函数）PyTorchTensor（张量）数据载入、设备和CUDA创建参数Autograd（自动计算梯度包）动态计算图Optimizer
静静喜欢大白·2022-03-28 15:15

智能优化算法：多元宇宙优化算法-附代码

多元宇宙优化算法-附代码文章目录智能优化算法：多元宇宙优化算法-附代码1.算法原理2.算法流程图3.算法结果4.参考文献5.MATLAB代码6.python代码摘要：多元宇宙优化算法（Multi-VerseOptimizer
智能算法研学社（Jack旭）·2022-03-26 07:10

【Pytorch教程】：DQN 强化学习

Pytorch教程目录TorchandNumpy变量(Variable)激励函数关系拟合（回归）区分类型(分类)快速搭建法批训练加速神经网络训练Optimizer优化器卷积神经网络CNN卷积神经网络（RNN
_APTX4869·2022-03-23 08:43

CNN进行非接触掌纹识别的改进过程

模型和参数不变模型：2个卷积层+1个全连接层参数：BATCH_SIZE=32#定义超参数，每次处理32张图片EPOCHS=20#将数据集训练20轮LR=0.01#学习率TRAIN_DIVISION=3#训练集划分占比optimizer
Oceans_depth·2022-03-21 18:34

vue核心面试题：vue中模板编译原理

一、Vue编译原理这块的整体逻辑主要分三个部分：1.将模板字符串转换成elementAST（解析器parser）2.对ast进行静态节点标记，主要用来做虚拟dom的渲染优化（优化器optimizer）3
王三六·2022-03-21 15:50

深度学习 Optimizer 梯度下降优化算法总结

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达来源：https://zhuanlan.zhihu.com/p/343564175论文标题：Anoverviewofgradientdescentoptimizationalgorithms原文链接：https://arxiv.org/pdf/1609.04747.pdfGithub：NLP相关Paper笔记和代码复现（http
小白学视觉·2022-03-19 08:07

pytorch 神经网络 Optimizer 优化器（SGD，Momentum，RMSprop，Adam）

要点几种优化器的讲解，请看莫烦的讲解（SGD，Momentum，RMSprop，Adam）这一篇主要讲解SGD，Momentum，RMSprop，Adam的实战下图就是这节内容对比各种优化器的效果:伪数据importtorchimporttorch.utils.dataasDataimporttorch.nn.functionalasFfromtorch.autogradimportVariabl
计算机视觉-杨帆·2022-03-18 07:17

基于Pytorch的神经网络之Optimizer

目录1.引言2.各种优化器2.1SGD2.2Momentum2.3RMSprop2.4Adam3.效果对比1.引言我们之前提到进行反向传播时我们需要用到优化器(Optimizer)来优化网络中的参数，优化器有许多种
ZDDWLIG·2022-03-18 07:51

智能优化算法：鹰栖息算法-附代码

智能优化算法：鹰栖息优化算法文章目录智能优化算法：鹰栖息优化算法1.算法原理2.实验结果3.参考文献4.Matlab代码摘要：鹰栖息优化算法（eagleperchingoptimizer，EPO）是于2018
智能算法研学社（Jack旭）·2022-03-14 11:37

DeepLearning:训练神经网络—梯度下降优化器（optimizer）

训练神经网络—梯度下降优化器（optimizer）文章目录训练神经网络—梯度下降优化器（optimizer）1、optimizer简介定义分类一阶优化算法二阶优化算法优化器伪代码2、SGD（随机梯度下降
RP_M·2022-03-14 09:56

NanoDet关键代码详解(首发)

loss_states=self.model.forward_train(batch)#logtrainlossesifself.log_style=='Lightning':self.log('lr',self.optimizers
k_shmily·2022-03-08 10:08

Mysql-基础篇(1)-一条更新SQL执行流程（Buffer Pool、Change Buffer、Adaptive Hash Index、Redo Log）

、查询缓存（QueryCache）1.3、语法解析和预处理1.3.1、词法解析1.3.2、语法解析1.3.3、预处理器1.4、查询优化(QueryOptimizer)与查询执行计划1.4.1、什么是优化器
tianlang136520·2022-03-07 08:54

Pytorch 冻结网络层

还需要注意的是优化器要加上filter：optimizer=to
tpz789·2022-03-04 07:22

Scaffold 基于fedavg方法的改进，代码复现（联邦学习）

算法分为三个模块:optimizer:重写优化器sdgclientscaffold:客户端操作serverscaffold:服务端操作optimizer部分代码:importtorchfromtorch.optimimportOptimizerclassSCAFFO
奔跑的雄狮·2022-03-04 07:34

module() takes at most 2 arguments (3 given)

出错代码fromtorch.optimimportoptimizerclassScaffoldOptimizer(optimizer):def__init__(self,params,lr):super
Cyril_KI·2022-03-04 07:00

简单易用的分类+检测框架simpleAICV

文章目录简介公用的train.py和test.py文件path.py文件seed的设置计算模型flops和paramsoptimizer和scheduler训练模式train.info.log和test.info.log
一骑走烟尘·2022-02-25 07:29

TensorFlow简单搭建网络

搭建神经网络基本流程训练的数据定义节点准备接收数据定义神经层：隐藏层和预测层定义loss表达式选择optimizer使loss达到最小importtensorflowastfimportnumpyasnp
克里斯托弗的梦想·2022-02-20 16:01

25：LLVM 简介和编译流程详解

010101)编译器处理分为以下步骤前端(Frontend)负责解析源代码，进行：词法分析语法分析，语义分析，检查源代码是否有错误，构建抽象语法树(AbstractSyntaxTree,AST)优化器(Optimizer
小瞎_MarkDash·2022-02-17 20:06

mysql中Using filesort文件排序原理详解

(mysql优化中有讲解)下文提到trace文具，记录下trace工具开启方法：进入mysql以后输入setsessionoptimizer_trace="enabled=on",end_markers_in_json
sunshine151·2022-02-17 10:20

SIL optimizer - string append 优化

简单介绍这是最近Swift开发人员对SwiftString进行的一个优化，PR地址SILoptimizer:Addanewstringoptimization#33128，根据描述可以看到有一下几个方面的优化
小凉介·2022-02-13 03:09

Pytorch-Mobile-Android（3） 部署自己模型

TorchScript-知乎(zhihu.com)https://zhuanlan.zhihu.com/p/135911580importvision_transformerfromtorch.utils.mobile_optimizerimportoptim
Triton安·2022-02-10 17:15

优化：AdamOptimizer

__init__Args:learning_rate:ATensororafloatingpointvalue.Thelearningrate.控制了权重的更新比率（如0.001）。较大的值（如0.3）在学习率更新前会有更快的初始学习，而较小的值（如1.0E-5）会令训练收敛到更好的性能。beta1:Afloatvalueoraconstantfloattensor.Theexponentiald
骑鲸公子_·2022-02-09 05:45

机器学习优化函数的直观介绍

当然，我们要使用机器学习应用程序来展示它们，而我目的是展示数值优化中的问题和算法，并让你理解AdamOptimizer（）的原理。
AiTechYun·2022-02-08 10:50

TF2的梯度带(GradientTape)，优化器(Optimizer)和损失函数(losses)

因为tensorflow2.x相对于tensorflow1.x的变动，API变更和思路也变化了，这节重点介绍的为梯度带(GradientTape)和优化器(Optimizer)因为大多数机器学习任务就是最小化损失
-麦_子-·2022-02-08 10:00

MySql基础篇---005 MySQL8 新特性篇

MySQL8版本在功能上做了显著的改进与增强，开发者对MySQL的源代码进行了重构，最突出的一点是多MySQLOptimizer优化器进行了改进。不仅在速度上得到了改善，
清风微凉 aaa·2022-02-06 13:21

超详细图解！【MySQL进阶篇】SQL优化-索引-存储引擎

MySQLServer由以下组成ConnectionPool:连接池组件ManagementServices&Utilities:管理服务和工具组件SQLInterface:SQL接口组件Parser:查询分析器组件Optimizer
Java架构没有996·2022-02-04 17:25

MySQL进阶（5）—— mysql的体系结构及存储引擎概述

MySQLServer由以下组成：ConnectionPool：连接池组件ManagementServices&Utilities：管理服务和工具组件SQLInterface：SQL接口组件Parser：查询分析器组件Optimizer
waitself·2022-02-04 17:44

OpenVINO获取模型输入节点信息

OpenVINO可以获得模型的输入节点信息：输入节点的名字ModelOptimizer转换后的模型精度选择：对于IR模型来说，FP16使用最普遍且性能最高对于IR模型来说，FP16使用最普遍且性能最高输入节点数据的精度选择
LabVIEW_Python·2022-01-24 09:17

MySQL——存储引擎

MySQLServer由以下组成：ConnectionPool：连接池组件ManagementServices&Utilities：管理服务和工具组件SQLInterface：SQL接口组件Parser：查询分析器组件Optimizer
小波同学·2021-12-10 18:55

前 Oracle 工程师发文“诋毁”MySQL：“糟糕透顶！强烈推荐 Postgres”？真相却令人吃惊

据悉，这位工程师名叫SteinarGunderson，此前一直担任Oracle的首席软件工程师，也是MySQLOptimizer团队的成员。目前，该工程师已在谷歌Chrom
·2021-12-08 12:09

[源码解析] PyTorch分布式优化器(1)----基石篇

示例1.2问题点0x01模型构造1.1Module1.2成员变量1.3_parameters1.3.1构建1.3.2归类1.3.3获取1.4Linear1.4.1使用1.4.2定义1.4.3解释0x02Optimizer
罗西的思考·2021-12-07 19:00

【PyTorch】从头搭建并训练一个神经网络模型（图像分类、CNN）

目录0.前言1.使用torchvision加载数据集并做预处理2.定义（搭建）自己的神经网络3.定义损失函数（LossFunction）和优化器（Optimizer）4.训练神经网络5.测试模型结果6.
Rainbowman 0·2021-12-04 18:51
上一页 26 27 28 29 30 31 32 33 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他