梯度优化算法

【matlab】分类回归——智能优化算法极限学习机

目录引言基本原理主要特点应用领域发展趋势智能优化算法——蜣螂优化算法（DBO）算法原理算法特点应用前景代码实现ELM训练函数——elmtrain函数ELM预测函数——elmpredict函数适应度函数主函数引言极限学习机
passion更好·2024-08-26 06:26

深度学习多GPU训练原理

每个GPU根据自己所分到的数据，计算本地梯度所有GPU的本地梯度相加（这里的梯度只是模型参数的梯度，不包括中间变量的梯度），得到总的梯度。
浦东新村轱天乐·2024-08-25 22:31

LSTM--概念、作用、原理、优缺点以及简单的示例代码

RNN在处理长序列时，由于梯度消失或梯度爆炸问题，难以捕捉到长期依赖关系，而LSTM通过引入“记忆单元”（memorycell）和“门控机制”（gatin
Ambition_LAO·2024-08-25 21:28

python通过Gurobi求解线性规划

Gurobi采用了最先进的优化算法和技术，具有出
vibag·2024-08-25 18:09

机器学习——逻辑回归

目录一、逻辑回归1.1、模型原理1.2、损失函数二、实例2.1、定义sigmoid函数2.2、数据集2.3、梯度上升算法2.4、预测函数2.5、绘画函数三、代码运行结果：四、总结优点：缺点：一、逻辑回归逻辑回归是一种广义的线性回归分析模型
wsdswzj·2024-08-25 17:06

机器学习最优化方法之梯度下降

1、梯度下降出现的必然性利用最小二乘法求解线性回归的参数时，求解的过程中会涉及到矩阵求逆的步骤。随着维度的增多，矩阵求逆的代价会越来越大，而且有些矩阵没有逆矩阵，这个时候就需要用近似矩阵，影响精度。
whemy·2024-08-25 17:45

深度学习（十一）：YOLOv9之最新的目标检测器解读

物体检测技术的飞跃发展1.1YOLOv9简介1.2YOLOv9的核心创新1.2.1信息瓶颈:神经网络在抽取相关性时的理论边界1.2.2可逆函数:保留完整的信息流1.2.3对轻型模型的影响：解决信息丢失1.2.4可编程梯度信息
从零开始的奋豆·2024-08-25 13:39

寻参算法之蜘蛛猴优化算法

蜘蛛猴优化算法（SpiderMonkeyOptimization,SMO）来历蜘蛛猴优化算法（SpiderMonkeyOptimization,SMO）是受蜘蛛猴觅食行为启发的一种群体智能优化算法。
Network_Engineer·2024-08-25 13:08

粒子群优化算法和强化算法的优缺点对比，以表格方式进行展示。详细解释

粒子群优化算法（PSO）和强化学习算法（RL）是两种常用的优化和学习方法。
资源存储库·2024-08-25 09:44

matlab实现梯度下降优化算法

梯度下降（GradientDescent）是一种常用的优化算法，用于寻找函数的局部最小值。在机器学习领域，它常被用来优化模型的参数，比如线性回归、逻辑回归以及神经网络等模型的权重和偏置。
孺子牛 for world·2024-08-25 09:13

智能优化算法——遗传算法（Python&Matlab实现）[2]

初始化种群initPopulation(POP,N)进化过程==foritinrange(iter_N):#遍历每一代a,b=selection(N)#随机选择两个个体ifnp.random.random()<0.65:#以0.65的概率进行交叉结合child1,child2=crossover(POP[a],POP[b])new=sorted([POP[a],POP[b],child1,chil
2401_84009974·2024-08-25 05:51

新书上架 | 《智能计算系统：从深度学习到大模型（第2版）》重磅上市！

欢迎关注博主Mindtechnist或加入【智能科技社区】一起学习和分享Linux、C、C++、Python、Matlab，机器人运动控制、多机器人协作，智能优化算法，滤波估计、多传感器信息融合，机器学习
Mindtechnist·2024-08-24 16:31

数学基础 -- 梯度下降算法

梯度下降算法梯度下降算法（GradientDescent）是一种优化算法，主要用于寻找函数的局部最小值或全局最小值。它广泛应用于机器学习、深度学习以及统计学中，用于最小化损失函数或误差函数。
sz66cm·2024-08-24 15:25

Python(PyTorch)物理变化可微分神经算法

要点使用受控物理变换序列实现可训练分层物理计算|多模机械振荡、非线性电子振荡器和光学二次谐波生成神经算法验证|训练输入数据，物理系统变换产生输出和可微分数字模型估计损失的梯度|多模振荡对输入数据进行可控卷积
亚图跨际·2024-08-24 07:35

pytorch深度学习基础 7（简单的的线性训练，SGD与Adam优化器）

接下来小编来讲一下一些优化器在线性问题中的简单使用使用，torch模块中有一个叫optim的子模块，我们可以在其中找到实现不同优化算法的类SGD随机梯度下降基本概念定义：随机梯度下降（SGD）是一种梯度下降形式
不是浮云笙·2024-08-24 05:49

pytorch中的zero_grad()执行时机

在反向传播(backward())前执行即可zero_grad()用以清除优化器的梯度对张量执行backward(),以计算累积梯度执行optimizer.step(),优化器使用梯度更新参数当优化器更新完成
TomcatLikeYou·2024-08-24 05:16

Logistic 回归

文章目录1.引言2.Logistic回归概述2.1定义与应用场景2.2与线性回归的区别3.原理与数学基础3.1Sigmoid函数3.2概率解释3.3极大似然估计4.模型建立4.1假设函数4.2成本函数4.3梯度下降法
零 度°·2024-08-23 21:56

四十一、【人工智能】【机器学习】- Bayesian Logistic Regression算法模型

机器学习】【监督学习】-支持向量机(SVM)第四章【机器学习】【监督学习】-K-近邻算法(K-NN)第五章【机器学习】【监督学习】-决策树(DecisionTrees)第六章【机器学习】【监督学习】-梯度提升机
暴躁的大熊·2024-08-23 19:46

python实现梯度下降优化算法

梯度下降（GradientDescent）是一种常用的优化算法，用于求解无约束优化问题。在机器学习中，它常被用来更新模型的参数以最小化某个损失函数。
孺子牛 for world·2024-08-23 15:49

机器学习·day4梯度下降

参考原文地址：https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes文章目录前言一、梯度下降？
#include<菜鸡>·2024-08-23 10:20

matlab实现模拟退火算法

模拟退火算法（SimulatedAnnealing,SA）是一种通用概率优化算法，用于在给定的大搜索空间内寻找问题的近似全局最优解。
孺子牛 for world·2024-08-23 06:30

图像处理 -- 角点的概念与作用

角点是指图像中具有局部最大曲率或梯度变化明显的位置，通常出现在两条或多条边缘的交汇处。例如，图像中的建筑物拐角、棋盘格的角等位置都可能被检测为角点。
sz66cm·2024-08-22 18:44

网络安全: 模型的脆弱性，鲁棒性和隐私性

例如，模型可能对对抗性攻击或梯度泄露攻击敏感。鲁棒性（Robustness）：指模型抵御攻击和在恶劣环境下保持性能的能力。提高模型的鲁棒性是增强其抵御攻击能力的关键。
不当菜鸡的程序媛·2024-08-22 16:30

24 优化算法

目录优化和深度学习深度学习中的挑战局部最小vs全局最小鞍点（saddlepoint）梯度消失小结凸性（convexity）凸集凸函数（convexfunction）凸函数优化凸和非凸例子小结梯度下降（gradientdescent
Unknown To Known·2024-08-22 01:31

优化选址问题 | 基于和声搜索算法求解基站选址问题含Matlab源码

目录问题代码问题和声搜索算法（HarmonySearch,HS）是一种模拟音乐创作过程中乐师们凭借自己的记忆，通过反复调整各乐器的音调，直至达到最美和声状态为启发，通过反复调整解向量的各分量来寻求全局最优解的智能优化算法
天天酷科研·2024-03-28 12:14

【循环神经网络rnn】一篇文章讲透

目录引言二、RNN的基本原理代码事例三、RNN的优化方法1长短期记忆网络（LSTM）2门控循环单元（GRU）四、更多优化方法1选择合适的RNN结构2使用并行化技术3优化超参数4使用梯度裁剪5使用混合精度训练
CX330的烟花·2024-03-27 04:51

深度学习如何入门？

•数学基础：理解线性代数（矩阵运算、向量空间等）、微积分（导数、梯度求解等）、概率论与统计学（期望、方差、概率分布、最大似然估计
科学的N次方·2024-03-26 16:36

路径优化算法 | 基于蚁群的城市路径优化算法应用及其Matlab实现

蚁群算法（AntColonyOptimization,ACO）是一种模拟自然界中蚂蚁觅食行为的优化算法，用于解决如旅行商问题（TSP）等组合优化问题。
算法如诗·2024-03-25 19:38

动手学习深度学习——2.5 自动微分

2.5自动微分  正如【2.4微积分】所说，微分是深度学习中几乎所有最优化算法的关键步骤。虽然求这些导数的计算过程很简单，只需要一些基本的微积分知识。
X_Imagine·2024-03-22 06:23

神奇的微积分

微积分在人工智能（AI）领域扮演着至关重要的角色，以下是其主要作用：优化算法：•梯度下降法：微积分中的导数被用来计算损失函数相对于模型参数的梯度，这是许多机器学习和深度学习优化算法的核心。
科学的N次方·2024-03-19 05:14

加速 PyTorch 模型预测常见方法梳理

目录1.使用GPU加速2.批量推理3.使用半精度浮点数(FP16)4.禁用梯度计算5.模型简化与量化6.使用TorchScript7.模型并行和数据并行结论在使用PyTorch进行模型预测时，可以通过多种方法来加快推理速度
samoyan·2024-03-17 16:54

【深度学习笔记】1 数据操作

然而，Tensor提供GPU计算和自动求梯度等更多功能，这些使
RIKI_1·2024-03-16 02:02

基于冠豪猪优化算法(Crested Porcupine Optimizer，CPO)的无人机三维路径规划（MATLAB）

二、算法介绍冠豪猪优化算法(CrestedPorcupineOptimizer，CPO)由MohamedAbdel-Basset等人于2024年提出，该算法
IT猿手·2024-03-15 15:47

Canny详解

计算图像梯度
kxg916361108·2024-03-15 06:31

图像算法实习生--面经1

系列文章目录文章目录系列文章目录前言一、为什么torch里面要用optimizer.zero_grad()进行梯度置0二、Unet神经网络为什么会在医学图像分割表现好？
小豆包的小朋友0217·2024-03-14 17:44

深度学习——梯度消失、梯度爆炸

本文参考：深度学习之3——梯度爆炸与梯度消失梯度消失和梯度爆炸的根源：深度神经网络结构、反向传播算法目前优化神经网络的方法都是基于反向传播的思想，即根据损失函数计算的误差通过反向传播的方式，指导深度网络权值的更新
小羊头发长·2024-03-14 12:07

CatBoost高级教程：分布式训练与大规模数据处理

导言CatBoost是一种高效的梯度提升算法，可以处理大规模数据集并支持分布式训练。在实际应用中，处理大规模数据集时，分布式训练可以大大加快模型训练的速度，并提高训练效果。
Echo_Wish·2024-03-13 05:25

186基于matlab的信号盲源分离算法

基于matlab的信号盲源分离算法，包括变步长盲源分离（EASI）,RLS(自然梯度和普通梯度)，并将三种方法分离结果进行对比。程序已调通，可直接运行。
顶呱呱程序·2024-03-10 12:10

数字化沙龙观后感

首先是黎叔请来的清华大学博士，分享了物流行业的各种优化算法，感觉自己的智商不够用了。收获是要把物流的一些具体场景转换成数学模型，然后再选择合适的算法算出最优解。
心水·2024-03-10 06:22

在图片上绘制 seaborn 热力图代码

#定义从白色到黑色的颜色梯度colors=["white","black"]cmap_name="white_black"n_bins=4#定义梯度中的颜色数量#创建LinearSegmentedColormap
氵文大师·2024-03-09 10:36

计算机设计大赛 深度学习的智能中文对话问答机器人

项目的主要过程2.1数据清洗、预处理2.2分桶2.3训练3项目的整体结构4重要的API4.1LSTMcells部分：4.2损失函数：4.3搭建seq2seq框架：4.4测试部分：4.5评价NLP测试效果：4.6梯度截断
iuerfee·2024-03-07 20:46

MATLAB|【免费】概率神经网络的分类预测--基于PNN的变压器故障诊断

同时，部分章节也涉及了常见的优化算法（遗传算法、蚁群算法等）与神经网络的结合问题。此外，《MATLAB神经网络43个案例分析
电力程序小学童·2024-03-06 05:27

【改进算法】【IHAOAVOA】天鹰优化算法和非洲秃鹫混合优化算法

AnimprovedhybridaquilaoptimizerandAfricanvulturesoptimizationalgorithmforglobaloptimizationproblems》，天鹰优化算法
科研工作站·2024-03-03 05:53

LightGBM高级教程：时间序列建模

LightGBM作为一种高效的梯度提升决策树算法，可以用于时间序列建模。本教程将详细介绍如何在Python中使用LightGBM进行时间序列建模，并提供相应的代码示例。
Echo_Wish·2024-03-02 17:36

【超详细】HIVE 日期函数（当前日期、时间戳转换、前一天日期等）

后一天日期获取日期中的年、季度、月、周、日、小时、分、秒等时间戳转换时间戳to日期日期to时间戳日期之间月、天数差作者：小猪快跑基础数学&计算数学，从事优化领域5年+，主要研究方向：MIP求解器、整数规划、随机规划、智能优化算法
小猪快跑爱摄影·2024-02-25 21:04

ReLU和ReLU6

RectifiedLinearUnit）优点非线性：ReLU是一个非线性函数，能够帮助神经网络学习复杂的模式和特征计算简单：ReLU函数的计算速度快，只需要判断输入是否大于零，因此在实践中被广泛采用解决梯度消失问题
chen_znn·2024-02-24 10:28

麻雀算法优化BP神经网络回归分析，麻雀算法优化BP神经网络回归预测，麻雀优化算法改进BP神经网络客流量预测

目录背影BP神经网络的原理BP神经网络的定义BP神经网络的基本结构BP神经网络的神经元BP神经网络的激活函数，BP神经网络的传递函数麻雀算法原理麻雀算法主要参数麻雀算法流程图麻雀算法优化测试函数代码麻雀算法优化BP神经网络回归分析，麻雀算法优化BP神经网络回归预测数据matlab编程实现效果图结果分析展望完整代码数据文件下载链接：（代码完整，数据齐全）资源-CSDN文库https://downlo
神经网络机器学习智能算法画图绘图·2024-02-23 17:36

蛙跳算法例子

蛙跳算法（JumpingFrogAlgorithm，简称JFA）是一种仿生优化算法，模拟了青蛙在搜索食物时的跳跃行为。
依然风yrlf·2024-02-23 09:27

贪心算法的介绍

贪婪算法（GreedyAlgorithm）是一种基于贪心策略的优化算法，通常用于在组合优化问题中找到最优解。
依然风yrlf·2024-02-23 09:57

【机器学习】多元线性回归

文章目录多元线性回归模型（multipleregressionmodel）损失/代价函数（costfunction）——均方误差（meansquarederror）批量梯度下降算法（batchgradientdescentalgorithm
Mount256·2024-02-23 07:25
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他