数值优化(Numerical

数值优化：经典随机优化算法及其收敛性与复杂度分析

优质资源分享学习路线指引（点击解锁）知识定位人群定位Python实战微信订餐小程序进阶级本课程是pythonflask+微信小程序的完美结合，从项目搭建到腾讯云部署上线，打造一个全栈订餐系统。Python量化交易实战入门级手把手带你打造一个易扩展、更安全、效率更高的量化交易系统1随机优化算法概述随着大数据的出现，确定性优化算法的效率逐渐称为瓶颈。为了说明这一点，我们来看一个用梯度下降法求解线性回归
u012804784·2022-10-13 20:06

机器学习强基计划1-4：从协方差的角度详解线性判别分析原理+Python实现

2协方差与协方差矩阵3LDA原理推导3.1约束条件3.2数值优化4Python实现4.1计算类内散度矩阵4.2计算模型参数4.3可视化0写在前面机器学习强基计划聚焦深度和广度，加深对机器学习模型的理解与应用
Mr.Winter`·2022-09-28 12:53

python共轭梯度法_Numerical Analysis: 共轭梯度法(1)--基本原理

共轭梯度法(1)--的基本原理之前已经搞明白了，梯度下降法的基本原理，当然解释的调度是从求函数极值的角度出发的，事实上从这个角度来理解，个人感觉是一个最为直接的理解角度，其完完全全是建立在多变量函数的微分系统中的。事实上这个方法(思想)在实际中是被用于求解线性方程的，当然单纯的梯度下降形式并没有被直接采用，被广泛用于求解对称、正系数矩阵方程组的方法是，基于梯度下降原理实现的共轭梯度法，这一方法在大
weixin_39516956·2022-09-13 07:28

lidar和camera之间的联合标定

理解闭式解和数值解的区别闭式解也称之为解析解；数值解：通过有限元，插值，数值逼近的方法求得的解标定的基本思路：首先求得闭式解，然后在超定方程的数据支撑下，采用数值优化的方式，寻找最优估计。
·2022-08-29 19:04

【数值优化之线搜索方法】

本文参考书籍《最优化计算方法》，部分图片来自最优化：建模、算法与理论/最优化计算方法(pku.edu.cn)，若侵权请联系删除目录1线搜索方法简介2单调线搜索准则2.1Armijo准则2.2Goldstein准则2.3Wolfe准则3非单调线搜索准则4线搜索算法5收敛性分析1线搜索方法简介对于无约束优化问题，寻求最小值的过程相当于盲人下山的过程，为了下山，需要做两个判断，第一，需要知道朝哪个方向走
无意2121·2022-07-04 11:45

数值优化：一阶和二阶优化算法(Pytorch实现)

1最优化概论(1)最优化的目标最优化问题指的是找出实数函数的极大值或极小值，该函数称为目标函数。由于定位\(f(x)\)的极大值与找出\(-f(x)\)的极小值等价，在推导计算方式时仅考虑最小化问题就足够了。极少的优化问题，比如最小二乘法，可以给出封闭的解析解(由正规方程得到)。然而，大多数优化问题，只能给出数值解，需要通过数值迭代算法一步一步地得到。(2)有约束和无约束优化一些优化问题在要求目标
「已注销」·2022-06-28 07:40

数值优化：经典随机优化算法及其收敛性与复杂度分析

对于更复杂的模型（比如神经网络）和更复杂的优化方法（比如二阶方法），确定性优化方法的计算量会更大。那么如何解决这个问题呢？统计方法能给我们很大的帮助。虽然大数据的数据量和数据维度都很大，但我们可以通过对样本和维度进行随机采样来得到对更新量的有效估计或者替代。相应地，从确定性优化算法出发，我们可以开发出各种随机优化算法，如随机梯度下降法、随机坐标下降法、随机方差缩减梯度法、随机（拟）牛顿法等。注意，
orion-orion·2022-06-22 21:00

数值优化：经典二阶确定性算法与对偶方法

我们在上一篇博客中主要介绍了单机数值优化中一些经典的一阶确定性算法，本篇文章我们将会介绍二阶确定性算法和对偶方法。
orion-orion·2022-06-14 21:00

数值优化：经典一阶确定性算法及其收敛性分析

我们在上一篇博客中介绍了数值优化算法的历史发展、分类及其收敛性/复杂度分析基础。本篇博客我们重点关注一阶确定性优化算法及其收敛性分析。
orion-orion·2022-06-11 22:00

数值优化：算法分类及其分析基础

不同的优化算法采用不同的方法对目标函数进行优化，以寻找最优预测模型。其中最重要的两个特性就是收敛速率和复杂度。优化算法最初都是确定性的，不过近年来随着机器学习中数据规模的不断增大，优化问题复杂度不断增高，原来越多的优化算法发展出了随机版本和并行化版本。依据算法在优化过程中所利用的是一阶导数信息还是二阶导数信息，还可把优化算法分为一阶方法和二阶方法。
orion-orion·2022-06-09 10:00

python中numpy库怎么装_Python库之numpy库的安装教程

NumPy这个词来源于两个单词--Numerical和Python。NumPy提供了大量的库函数和操作，可以帮助程序员轻松地进行数值计算。
pj7u·2022-04-06 20:53

MATH0033 Numerical

MATH0033NumericalMethods,2020-2021,DavidHewettComputationalhomework3DifferentialequationsExercises1and2(a)-(e)(marked*)tobehandedinandassessedDeadline:2200GMTSunday10thJanuary.Pleasesubmityoursolution
·2022-03-14 08:08

【go-优化记录-01】随机数值优化策略

利用Go随机数值优化用例代码：https://gitee.com/dn-jinmin/g...01基础功能实现优化在go中对于随机int数值的方法可以利用标准库在的"math/rand"进行实现；packageutilsimport
·2022-03-06 10:25

人工智能——神经网络入门

可导的激活函数可以直接利用数值优化的方法来学习网络参数。(2)激活函数及其导函数要尽可能的简单有利于提高网络计算效率。(3)激活函数的导函数的值域要在
是梦吧，是你吧！·2022-02-19 17:25

NumPy 超详细教程（1）：NumPy 数组

Numpy是Python中科学计算的核心库，NumPy这个词来源于Numerical和Python两个单词。
丹枫无迹·2022-02-12 05:17

机器学习优化函数的直观介绍

当然，我们要使用机器学习应用程序来展示它们，而我目的是展示数值优化中的问题和算法，并让你理解AdamOptimizer（）的原理。
AiTechYun·2022-02-08 10:50

【DataWhale组队学习】吃瓜教程(西瓜书+南瓜书)Task04-激活函数

一、激活函数的性质1.连续并可导（允许少数点上不可导）的非线性函数可导的激活函数可以直接利用数值优化的方法来学习网络参数。2.激活函数及其导函数
哒卜琉歪歪·2021-10-25 23:02

【优化求解】基于粒子群算法解决经济调度matlab源码

一、简介粒子群优化(PSO)是一种基于群体智能的数值优化算法，由社会心理学家JamesKennedy和电气工程师RussellEberhart于1995年提出。
Matlab科研辅导帮·2021-08-31 00:13

两万字总结python之numpy库

NumPy这个词来源于两个单词--Numerical和Python。NumPy提供了大量的库函数和操作，可以帮助程序员轻松地进行数值计算。在数据分析和机器学习领域被广泛使用。
浪里小白龙nbw·2021-08-08 10:40

智能优化算法：人工蜂群算法

@[toc]摘要：人工蜂群算法(artificialbeecolony，ABC)是由土耳其学者Karaboga于2005年提出，它是模拟蜜蜂的采蜜行为来解决生活中一些多维和多模的优化问题，它最初应用于数值优化问题
智能算法研学社_Jack旭·2021-07-16 08:34

Python库安装教程之Numpy

NumPy这个词来源于两个单词--Numerical和Python。NumPy提供了大量的库函数和操作，可以帮助程序员轻松地进行数值计算。这类数值计算广泛用于以下任务：1
程序员的小傲娇·2021-05-21 11:19

【优化求解】粒子群算法的多目标优化matlab源码

一、简介粒子群优化(PSO)是一种基于群体智能的数值优化算法，由社会心理学家JamesKennedy和电气工程师RussellEberhart于1995年提出。
Matlab走起·2021-05-19 12:18

1.23三峡广场雅思全程班 2.3第12次课笔记大纲

（核心名词或者动词）sources：来源；源头resource：资源solution：解决方法resolution：决定numerical：数字的anonymous：匿名的注意比较级，最高级情态动词+完成时
AndrewWLW·2021-05-19 08:31

【车间调度】基于matlab粒子群算法优化生产调度【含Matlab源码 485期】

一、简介粒子群优化(PSO)是一种基于群体智能的数值优化算法，由社会心理学家JamesKennedy和电气工程师RussellEberhart于1995年提出。
紫极神光（Q1564658423）·2021-03-10 07:40

【路径规划】基于matlab粒子群算法求解无人机最短路径【含Matlab源码 300期】

一、简介粒子群优化(PSO)是一种基于群体智能的数值优化算法，由社会心理学家JamesKennedy和电气工程师RussellEberhart于1995年提出。
紫极神光·2021-02-14 18:12

【路径规划】粒子群优化算法之三维无人机路径规划【Matlab 012期】

一、简介粒子群优化(PSO)是一种基于群体智能的数值优化算法，由社会心理学家JamesKennedy和电气工程师RussellEberhart于1995年提出。
星斗月辉·2021-01-22 13:06

python求移动平均_如何用NumPy计算移动平均值？

更大的SciPy包含更大的领域特定库集合(SciPydevs称为子包)——例如，数值优化(优化)、信号处理(信号)和积分(积分)。
weixin_39523887·2020-12-07 13:57

matlab 线性规划_数值优化方法及MATLAB实现（一）

导Lead语感谢关注matlab爱好者公众号！如果公众号文章对您有帮助，别忘了点击分享和“在看”哦！若您对公众号有什么意见或建议，请在公众号中回复或在任意文章底部留言！本文作者：过冷水读者朋友大家好！我是过冷水，最近在学习的过程中遇到极值寻优问题，觉得寻优问题是很多人关注的一个知识点，于是就准备开一个新的连载和大家一起来解决极值寻优过程中遇到的问题。在现实生活中，经常会遇到某类实际问题，要求在众多
weixin_39963819·2020-11-28 11:55

Numerical Optimization（数值最优化）系列笔记——1

NumericalOptimization（数值最优化）系列笔记——前置知识与无约束最优化基础1.MathematicalFormulation 从数学上来说，最优化问题就是求一个目标函数在其自变量的约束条件下的最大值或最小值。我们用如下的表达式来表示：这里ε\varepsilonε和τ\tauτ分别是是等式和不等式约束条件的下标数。 学习过程中，均统一为求最小值问题，因为若想求函数f(x)的最大
小朱不秃·2020-11-10 10:59

Optimal Rough Terrain Trajectory Generation for Wheeled Mobile Robots 论文阅读笔记

效率获取：使用快速的数值优化方法和对车辆控制参数的有效初始猜测。（2）本方法的适用性很广。可适用于粗糙的山地、
打工人1024·2020-11-09 08:09

【路径规划】基于粒子群的三维无人机路径规划matlab源码

粒子群优化(PSO)是一种基于群体智能的数值优化算法，由社会心理学家JamesKennedy和电气工程师RussellEberhart于1995年提出。
青鸟语·2020-10-14 21:42

python科学计算之scipy——optimize

写在前面SciPy的optimize模块提供了许多数值优化算法，下面对其中的一些记录。
NeverMore_7·2020-09-16 10:07

概率统计、数值优化算法

一、概率统计：样本空间：一个随机试验（或随机事件）所有可能结果的集合样本点：随机试验中的每个可能结果随机变量：本质上是一个实值函数映射，即为每一个实验的结果映射为一个数值。注意区别“随机变量”的定义与“随机变量取值的概率”的定义.Eg:在抛一枚均匀的硬币过程中，将正面映射为1，反面映射为0，则随机变量X的定义为X(正面)=1，X(反面)=0。此时，随机变量取值的概率定义为P(X(正面)=1)=P(
Emma1997·2020-09-16 05:12

#数值优化算法#一维极值之黄金分割

黄金分割法也叫0.618法，是一种基于区间收缩的极小值搜索算法。比如以[a,b][a,b][a,b]为区间，产生两个内点x1=a+0.382∗(b−a)x2=a+0.618∗(b−a)x_1=a+0.382*(b-a)\\x_2=a+0.618*(b-a)x1=a+0.382∗(b−a)x2=a+0.618∗(b−a)然后根据f(x1),f(x2)f(x_1),f(x_2)f(x1),f(x2)的
mh_mpc·2020-09-16 01:41

scipy数值优化与参数估计

引言优化是一门大学问，这里不讲数学原理，我假设你还记得一点高数的知识，并且看得懂python代码。关于求解方程的参数，这个在数据挖掘或问题研究中经常碰到，比如下面的回归方程式，是挖掘算法中最简单最常用的了，那么怎么求解方程中的各个参数呢？当然，对于常见的挖掘算法，甚至是复杂的深度学习，在sklearn和tensorflow等工具已经很好解决怎么求解参数的问题，只需要调接口就好了。那么我们再看下面的
振裕·2020-09-15 23:47

ZOJ1007.Numerical Summation of a Series

http://acm.zju.edu.cn/onlinejudge/showProblem.do?problemId=7NumericalSummationofaSeriesTimeLimit:10SecondsMemoryLimit:32768KBSpecialJudgeProduceatableofthevaluesoftheseriesEquation1forthe2001valuesofx
奶牛·2020-09-15 21:09

计算机组成原理

1946年2月14日美国宾夕法尼亚大学ENIAC：电子数字积分计算机Electronic（电子的）Numerical（数字的）Integrator（综合者）AndCalculator（计算器）2.冯·诺依曼型计算机组成
jasmine_qiqi·2020-09-15 18:52

iSIGHT中优化方法种类

iSIGHT中优化方法种类iSIGHT里面的优化方法大致可分为三类：1数值优化方法数值优化方法通常假设设计空间是单峰值的，凸性的，连续的。
51星系·2020-09-15 13:36

python常用模块(二) —— numpy

(numerical→\to→数值化的)Numpy支持常见的数组和矩阵操作。对于同样的数值计算任务，
Leben&流觞·2020-09-15 06:34

Python Numpy基础教程

PythonNumpy基础教程本文是一个关于Pythonnumpy的基础学习教程，其中，Python版本为Python3.x什么是NumpyNumpy=Numerical+Python，它是Python
weixin_30747253·2020-09-14 23:11

非线性最小二乘法优化问题(1)

最近工作需要用到ceres，代码里面都直接给出了结果及很简单说明，在编程的过程中为了多了解一些，顺便网络查询了一些背景理论以及阅读一些数值优化方法的教材，随手记录了一下学习笔记，现计划分几篇分享到微信公众号
mov2012·2020-09-13 05:53

神经网络与深度学习笔记汇总四

3、标准化-》主要目的是方便数值优化，因为线性类模型都是涉及梯度的遇到
Zzjw527·2020-09-13 00:19

机器学习优化算法总览

目录机器学习要求解的数学模型最优化算法的分类费马定理拉格朗日乘数法KKT条件数值优化算法梯度下降法动量项AdaGrad算法RMSProp算法AdaDelta算法Adam算法随机梯度下降法牛顿法拟牛顿法可信域牛顿法分治法坐标下降法
咕噜咕噜day·2020-09-11 22:23

数值优化（Numerical Optimization）学习系列-非线性方程（Nonlinear Equation）

概述实际中很多应用不是寻找最优解，而是寻找一个根满足给定的约束条件，如果有n个非线性等式约束，就是本节介绍的非线性方程问题，本节主要介绍1.非线性方程的问题形式2.非线性方程的求解算法3.总结非线性方程的问题形式问题形式，寻找满足n个非线性等式的根，即r(x)=0其中r(x)=[r1(x),...rn(x)]T该问题可以转换为求解min∑i=1...nr2i(x)，根据最优化条件可知，最优解应该满
下一步·2020-09-11 21:10

数值优化（Numerical Optimization）学习系列-无梯度优化（Derivative-Free Optimization）

概述在实际应用中，有些目标函数的梯度不容易计算，即使使用有限差分等近似算法，也会因为噪声的存在导致结果不精确。无梯度优化算法（DFO-Derivative-FreeOptimization）可以在不计算梯度的情况下进行问题的最优化，主要有两类思路，一是根据目标函数的样本进行拟合，对拟合函数进行最优化；二是用一些启发式算法。1.有限差分和误差2.基于模型近似的方法3.坐标和模式搜索方法4.其他DFO
下一步·2020-09-11 21:38

数值优化（Numerical Optimization）学习系列-目录

概述数值优化对于最优化问题提供了一种迭代算法思路，通过迭代逐渐接近最优解，分别对无约束最优化问题和带约束最优化问题进行求解。该系列教程可以参考的资料有1.
下一步·2020-09-11 21:07

数值优化（Numerical Optimization）学习系列-概述

开篇数值优化通过迭代的方式解决优化问题，是数学建模中关键的一环。Modeling过程，需要确定优化目标、目标所依赖的变量以及变量之间的约束关系，最后通过优化算法解决问题。
下一步·2020-09-11 21:06

数值优化（Numerical Optimization）学习系列-共轭梯度方法（Conjugate Gradient）

概述共轭梯度算法在最优化问题中备受关注，有两层用途，一是可以求解线性方程Ax=b；二是可以求解最优化问题。相对于最速下降法，它没有额外的矩阵存储并且比更快，一般N步内收敛。实际收敛效率依赖于系数矩阵特征值的分布。主要介绍一下内容：1.线性共轭梯度算法2.共轭方向算法3.共轭梯度算法4.收敛性5.非线性共轭梯度算法线性共轭梯度算法共轭梯度算法是一个求解线性方程的迭代方法问题形式CG算法求解问题的两种
下一步·2020-09-11 21:49

python 求偏导数 调用偏导数函数的输入

求偏导数函数如numerical_gradient(f,x)是根据来求得的。它的输入x,可以是1维的，也可以是多维的。
云和月·2020-09-11 08:03

Lua - for、迭代器和闭包

for循环分为两种：数值型（numerical）for和泛型（generic）for。
汐客SeaKr·2020-09-10 15:29
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他