optimizer

手刻 Deep Learning -第壹章-PyTorch入门教学-基础概念与再探线性回归

本文的重点是学会lossfunction与optimizer使用文本目录：为什么选择PyTorch？名词与概念介绍导数（partialder
无水先生·2023-09-17 05:47

AO天鹰优化算法|含源码（元启发式算法）

----------往期目录------------------1、灰狼优化算法文章目录天鹰优化器一、第一种搜索方法二、第二种搜素方法三、第三种搜素方法四、第四种搜索方法代码实现天鹰优化器AquilaOptimizer
项目申报小狂人·2023-09-17 04:32

pytorch-lightning的trainer的optimaze_step的详细分析

on_train_batch_startoptimaze_steptraining_stepon_before_zero_gradscaler.scale(loss)将loss放大on_before_backwardmodel.backward梯度反传on_after_backwardscaler.unscale_(optimizer
wzy-666·2023-09-16 07:54

Language Models Implicitly Perform Gradient Descent as Meta-Optimizers

总体介绍本篇论文主要探索in-contextlearning为什么能够生效的原理。将LLM语言模型当做了元优化器，将ICL当做了隐式的fine-tuning，并且通过实验来验证了ICL和显示的fine-tuning是有类似效果的。基于上面实验的启发，设计了动量base的attention计算机制。怎么理解ICL是隐式的fine-tuning通过公式分析可以看到提取下降累计的delta_w和ICL引
WitsMakeMen·2023-09-15 21:07

pytorch学习（7）——神经网络优化器torch.optim

1optim优化器PyTorch神经网络优化器（optimizer）通过调整神经网络的参数（weight和bias）来最小化损失函数（Loss）。
阳排·2023-09-15 10:21

【大数据笔记】SQL Optimizer 解析

前言大数据课程相关笔记一、大数据体系下的SQL一、大数据体系大数据体系自上而下分为七层，分别是：1.业务应用业务应用层次，主要业务应用包括BI报表、数据挖掘、营销分析、精准推荐等，主要工作是管控运维。2.数据开发数据开发层次，主要技术包括Airflow、DAG等，主要工作是集群创建。3.权限管控权限管控层次，主要技术包括ApacheRanger、GDPR等，主要工作是集群创建。4.分析引擎（SQL
唐浮·2023-09-14 18:18

optimizer和loss.backward()相关函数

optimizer.zero_grad()#梯度清零(一定要先进行梯度清零，这样tensor里面的grad就不会累加)loss.backward()是用来求导的optimizer.step()一般来说根据求来的导数进行梯度下降算法来更新参数上面的顺序步骤不能变
小宋加油啊·2023-09-14 12:05

[Google DeepMind] LARGE LANGUAGE MODELS AS OPTIMIZERS

LargeLanguageModelsasOptimizers文章链接总体架构OptimizationbyPROmpting(OPRO)：最开始输入meta-prompt，这个初始的meta-prompt
ShadyPi·2023-09-14 10:00

oracle自动收集统计信息

selectclient_name,statusfromdba_autotask_client;如果要关闭或者打开的语法：//打开execDBMS_AUTO_TASK_ADMIN.ENABLE(client_name=>‘autooptimizerstatscollection
zuozhiji·2023-09-14 09:39

explain学习

作为一个程序员一定需要掌握explain的使用，每次都要去找，mark一下；性能分析explainMySqlQueryOptimizer是MySql中专门负责优化select语句的优化器模块，主要功能：
lbcBoy·2023-09-14 05:54

pytorch Module named_parameters 解析

因为一般来说，类中的成员是私有的，所以通过这种方式能够获取到所有的参数，进而在optimizer进行特殊的设置。
潘旭·2023-09-13 06:48

03-rnn-由国家名和开始字符生成1个name

一、查漏补缺、熟能生巧：1.原来没有optimizer.step()的时候，也可以这么做：二、具体代码：NLPFromScratch:GeneratingNameswithaCharacter-LevelRNN—PyTorchTutorials2.0.1
诚威_lol_中大努力中·2023-09-13 01:40

LARGE LANGUAGE MODELS AS OPTIMIZERS

本文是LLM系列文章，针对《LARGELANGUAGEMODELSASOPTIMIZERS》的翻译。
UnknownBody·2023-09-12 13:39

OPRO：利用LLM作为优化器，解决一系列用自然语言描述的任务

Paper:LargeLanguageModelsasOptimizersLink:https://arxiv.org/pdf/
zenRRan·2023-09-11 20:17

【改进算法】【IHAOAVOA】天鹰优化算法和非洲秃鹫混合优化算法

目录1主要内容2部分代码3程序结果4下载链接1主要内容该程序复现《IHAOAVOA:AnimprovedhybridaquilaoptimizerandAfricanvulturesoptimizationalgorithmforglobaloptimizationproblems
电力程序小学童·2023-09-11 15:10

慢sql一些个人看法

严重的话会拖垮整个数据库慢sql治理抓取慢sql工具druid慢sql治理explain看执行脚本注意explain看到的直接计划并不代表永远都会这样，执行计划有时候会与入参有关在MySQL中，最后使用哪个索引是由优化器（Optimizer
缺的不是资料，是学习的心·2023-09-11 07:59

jeesite下载及配置

将模板改为项目名，并在pom.xml中artifactId也改为项目名通过mvn导入项目创建数据库和用户（如果自定义数据库名字，在url中也要做更改）setglobalread_only=0;setglobaloptimizer
ClayChan·2023-09-11 03:25

Python实现猎人猎物优化算法(HPO)优化循环神经网络回归模型(LSTM回归算法)项目实战

1.项目背景猎人猎物优化搜索算法(Hunter–preyoptimizer,HPO)是由Naruei&Keynia于2022年提出的一种最新的优化搜索算法。
胖哥真不错·2023-09-10 15:37

backward问题记录

大致问题是这样的模型先计算一个输出然后根据这个输出，用lbfgs去优化另一个变量最后优化模型，大致代码如下optimizer=optim.Adam(model.parameters(),lr=lr)forinputsindataloader
Nightmare004·2023-09-09 08:30

2023年智能优化算法之——增长优化器Growth Optimizer(GO)，附MATLAB代码

“GrowthOptimizer:APowerfulMetaheuristicAlgorithmforSolvingContinuousandDiscreteGlobalOp
今天吃饺子·2023-09-08 20:09

单目标优化：猎豹优化算法（The Cheetah Optimizer，CO）求解cec2020（提供Matlab代码）

一、猎豹优化算法猎豹优化算法（TheCheetahOptimizer，CO）由MohammadAminAkbari等人于2022年提出，该算法性能高效，思路新颖。
IT猿手·2023-09-08 20:38

TSP：成长优化算法（Growth Optimizer，GO）求解旅行商问题，提供MATLAB代码（可以修改数据集）

一、成长优化算法GO成长优化算法（GrowthOptimizer，GO）由QingkeZhang等人于2023年提出，该算法的设计灵感来源于个人在成长过程中的学习和反思机制。
IT猿手·2023-09-08 20:38

单目标应用：基于蜘蛛蜂优化算法（Spider wasp optimizer，SWO）的微电网优化调度MATLAB

一、微网系统运行优化模型微电网优化模型介绍：微电网多目标优化调度模型简介_IT猿手的博客-CSDN博客二、蜘蛛蜂优化算法蜘蛛蜂优化算法（Spiderwaspoptimizer，SWO）由MohamedAbdel-Basset
IT猿手·2023-09-08 20:08

单目标优化：火鹰优化算法（Fire Hawk Optimizer，FHO）求解cec2020（提供Matlab代码）

一、火鹰优化算法火鹰优化算法（FireHawkOptimizer，FHO）由MahdiAzizi等人于2022年提出，该算法性能高效，思路新颖。参考文献：Azizi,M.,Talatahari,S.
IT猿手·2023-09-08 20:08

单目标应用：基于蛇群优化算法（SO）的无人机（UAV）三维路径规划（提供MATLAB代码）

一、蛇群优化算法SO蛇群优化算法（SnakeOptimizer，SO）由FatmaA.Hashim和AbdelazimG.Hussien于2022年提出，该算法思路新颖，快速高效，模拟了蛇的觅食和繁殖行为
IT猿手·2023-09-08 20:07

单目标应用：基于白鲨优化算法（WSO）优化极限学习机（ELM）的数据预测（ELM隐藏层神经元可修改，提供MATLAB代码）

一、白鲨优化算法WSO白鲨优化算法（WhiteSharkOptimizer，WSO）由MalikBraik等人于2022年提出，该算法受大白鲨导航和觅食时具有的非凡听觉和嗅觉启发。
IT猿手·2023-09-08 20:07

单目标应用：基于成长优化算法（Growth Optimizer，GO）的微电网优化调度MATLAB

一、微网系统运行优化模型微电网是由分布式电源、储能装置和能量转换装置等组成的小型发配电系统，具有成本低、电压低、污染小等特点。由于环保和能源压力，清洁可再生能源和分布式能源工业发展潜力巨大。微电网控制器可实现对电网的集中控制，采用分布式电源和负荷的就地控制器实现微电网暂态控制，微电网集中能量管理系统实现稳态安全、经济运行分析。微电网是自治系统，可实现自我控制、保护和管理。微电网优化模型介绍：微电网
IT猿手·2023-09-08 20:06

（十六）mmdetection源码解读：BasedRunner

的注册和调用一、BasedRunner源码classBaseRunner(metaclass=ABCMeta):def__init__(self,model,batch_processor=None,optimizer
mm_exploration·2023-09-08 14:25

启发式算法之灰狼优化算法

今天，要给大家介绍的也是一种启发式算法——灰狼优化算法（GreyWolfOptimizer，GWO）是
数新网络·2023-09-08 04:04

【Apollo学习笔记】——规划模块TASK之PIECEWISE_JERK_NONLINEAR_SPEED_OPTIMIZER(二)

文章目录TASK系列解析文章OptimizeByNLP1.get_nlp_info()定义问题规模2.get_bounds_info()定义约束边界约束3.get_starting_point()定义初值4.eval_f()求解目标函数5.eval_grad_f()求解梯度6.eval_g()求解约束函数7.eval_jac_g()求解约束雅可比矩阵8.eval_h()求解黑塞矩阵9.finali
yuan〇·2023-09-07 23:34

二次规划（QP）样条路径优化

二次规划（QP）样条路径优化原地址：https://daobook.github.io/apollo/docs/specs/qp_spline_path_optimizer_cn.html二次规划（QP
yuan〇·2023-09-07 23:04

二次规划ST速度优化

二次规划ST速度优化原地址：https://daobook.github.io/apollo/docs/specs/qp_spline_st_speed_optimizer_cn.html本文是Apollo
yuan〇·2023-09-07 23:04

【Apollo学习笔记】——规划模块TASK之PIECEWISE_JERK_NONLINEAR_SPEED_OPTIMIZER(一)

文章目录TASK系列解析文章前言PIECEWISE_JERK_NONLINEAR_SPEED_OPTIMIZER功能介绍PIECEWISE_JERK_NONLINEAR_SPEED_OPTIMIZER相关配置
yuan〇·2023-09-07 23:59

文献阅读：LLaMA: Open and Efficient Foundation Language Models

文献阅读：LLaMA:OpenandEfficientFoundationLanguageModels1.文章简介2.模型训练1.训练数据2.模型结构3.模型训练1.Optimizer2.效率优化3.效果评估
Espresso Macchiato·2023-09-07 20:49

Python实现猎人猎物优化算法(HPO)优化循环神经网络分类模型(LSTM分类算法)项目实战

1.项目背景猎人猎物优化搜索算法(Hunter–preyoptimizer,HPO)是由Naruei&Keynia于2022年提出的一种最新的优化搜索算法。
胖哥真不错·2023-09-07 17:18

记录了解php8-JIT

##1.JIT编译原理1.1JIT编译原理图1.2ZendOpcache作用1.检查opcodes是否缓存2.zendcompiler编译器进行编译生成opcodes3.optimizer优化器生成优化后的
hgb24660·2023-09-07 09:50

sql优化

1、优化器优化器(Optimizer)是SQL分析和执行的优化工具，它负责生成、制定SQL的执行计划。
Reiko士兵·2023-09-07 06:12

Python实现猎人猎物优化算法(HPO)优化卷积神经网络回归模型(CNN回归算法)项目实战

1.项目背景猎人猎物优化搜索算法(Hunter–preyoptimizer,HPO)是由Naruei&Keynia于2022年提出的一种最新的优化搜索算法。
胖哥真不错·2023-09-06 23:25

Python实现猎人猎物优化算法(HPO)优化BP神经网络回归模型(BP神经网络回归算法)项目实战

1.项目背景猎人猎物优化搜索算法(Hunter–preyoptimizer,HPO)是由Naruei&Keynia于2022年提出的一种最新的优化搜索算法。
胖哥真不错·2023-09-06 23:24

Python实现猎人猎物优化算法(HPO)优化BP神经网络分类模型(BP神经网络分类算法)项目实战

1.项目背景猎人猎物优化搜索算法(Hunter–preyoptimizer,HPO)是由Naruei&Keynia于2022年提出的一种最新的优化搜索算法。
胖哥真不错·2023-09-06 23:54

Python实现猎人猎物优化算法(HPO)优化卷积神经网络分类模型(CNN分类算法)项目实战

1.项目背景猎人猎物优化搜索算法(Hunter–preyoptimizer,HPO)是由Naruei&Keynia于2022年提出的一种最新的优化搜索算法。
胖哥真不错·2023-09-06 23:49

MySQL索引

索引MySQL架构索引优化分析索引的概念索引的优势索引的劣势索引的基本语法索引分类单值索引唯一索引复合索引MySQL索引结构(主讲：BTree索引)BTree索引MySQL性能分析MySQLQueryOptimizer
陌守·2023-09-06 17:26

资源有限的大型语言模型的全参数微调

文章目录摘要1、简介2、相关工作3、方法3.1、重新思考optimizer的功能3.1.1、使用SGD3.1.2、隐式BatchSize3.2、LOMO:低内存优化3.3、使用LOMO稳定训练3.3.1
静静AI学堂·2023-09-06 06:08

Mysql trace命令介绍

开启trace：setsessionoptimizer_trace="enabled=on",end_markers_in_json=on;#开启setsessionoptimizer_trace="enabled
素人岳·2023-09-05 21:13

MySQL trace分析Sql

查看优化器状态showvariableslike'optimizer_trace';会话级别临时开启setsessionoptimizer_trace="enabled=on",end_markers_in_json
lionvc1·2023-09-05 21:13

mysql optimize trace_MySQL 调优 | OPTIMIZER_TRACE详解

OPTIMIZER_TRACE是MySQL5.6引入的一项跟踪功能，它可以跟踪优化器做出的各种决策(比如访问表的方法、各种开销计算、各种转换等)，并将跟踪结果记录到INFORMATION_SCHEMA.OPTIMIZER_TRACE
残月灵火·2023-09-05 21:42

mysql trace工具_mysql--trace工具的使用

MySQL5.6版本后提供了对SQL的跟踪工具trace，通过使用trace可以让我们明白optimizer如何选择执行计划的。
Xi Zi·2023-09-05 21:12

mysql trace_MySQL SQL trace

打开trace，并设置格式为jsonSEToptimizer_trace="enabled=on",end_markers_in_json=on;设置trace使用的内存大小,避免解
马宇宸·2023-09-05 21:12

mysql - 第4课 - trace工具用法详解

注：当前测试mysql版本：mysql5.7，编码utf8mb4trace是MySQL5.6版本后提供的SQL跟踪工具，通过使用trace可以让我们明白optimizer（优化器）如何选择执行计划。
名猿陈大浏·2023-09-05 21:11

MySQL中trace工具的使用

trace是MySQL5.6版本后提供的SQL跟踪工具，通过使用trace可以让我们明白optimizer（优化器）如何选择执行计划。
MMP菜的一匹·2023-09-05 21:10
上一页 4 5 6 7 8 9 10 11 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他