最优化

最优化方法Python计算：无约束优化应用——逻辑回归模型

S型函数sigmoid(x)=11+e−x\text{sigmoid}(x)=\frac{1}{1+e^{-x}}sigmoid(x)=1+e−x1将全体实数R\text{R}R映射到(0,1)(0,1)(0,1)，称为逻辑函数。其图像为该函数连续、有界、单调、可微，性质量好。拟合函数为F(w;x)=sigmoid((x⊤,1)w)=11+e−(x⊤,1)wF(\boldsymbol{w};\bo
戌崂石·2023-12-29 12:43

机器学习中常用的矩阵公式

模型学习的过程是求使得loss函数L(f(x),y)最小的参数，这是一个优化问题，一般采用和梯度相关的最优化方法，如梯度下降。一、矩阵迹的定义矩阵的迹：就是矩阵的主对角线上所有元素的和。
ᝰꫛꪮꪮꫜ hm·2023-12-29 11:38

算法中的最优化方法与实现（第4课 二次型规划的有效集法）

一、学习目标1.学习有效集法如何求解二次型规划问题二、问题描述三、算法思想1.在每次迭代中，我们都以已知的可行点为起点，把在该点起作用约束作为等式约束，在此约束下极小化目标函数f（x），其余的约束暂且不管，求得比较好的可行点后，再重复以上做法。2.原理推导：（1）对每一步迭代中，定义好现今的问题：（2）修改输入x和f（x）函数，原问题也发生变化：（3）确定下一个可行点的条件：（4）如果不是可行点，
komjay·2023-12-29 09:44

算法中的最优化方法与实现 (第5 6课 无约束的非线性规划)

一、学习目标1.了解非线性问题的标准形式和各种求解方法2.学习牛顿法和拟牛顿法3.学习方向测定-线性最小方法4.学习各种搜索法二、非线性问题1.非线性问题的规范式相比于前两种问题，会显得十分简单：需要注意：这节课先讨论没有约束条件的非线性问题，这样能保证我们在使用后续算法进行自由的搜索。2.求解算法分三类：第一类是以牛顿法为主体的方法；第二类是通过方向测定和线性优化的方法进行优化；第三类是不进行求
komjay·2023-12-29 09:44

算法中的最优化方法和实现 (第7课 有约束的非线性规划)

一、学习目标根据约束条件的类型，将问题分为4类：线性等式、非线性等式、线性不等式、非线性不等式。学习对于不同的问题，使用不同的方法进行求解。统一的思想都是消解法，即消去约束条件，将有约束的问题转化为无约束的问题，再进行求解。注意：我们说的非线性规划，说的是目标函数是非线性的，而上面讲的线性和非线性，指的是约束函数。二、线性等式约束的非线性规划对于等式约束，我们可以通过映射法将约束条件约去。原理就是
komjay·2023-12-29 09:44

算法中的最优化方法与实现（第3课 二次型规划）

一、学习目标1.了解二次型问题的内容2.了解改进单纯形法解决二次型问题的过程二、二次型问题1.与线性问题相同，二次型问题的描述形式也有两类（type1：一般形式，type2：标准形式）：其中H矩阵是二次项的参数矩阵，该项会直接导致整个模型是否存在最优解的问题。下面展示几个特殊二次项的图像：下面左图存在多个极值点，右图则不存在最优值：2.关于将一般形式转化为标准形式，其方式与线性问题一样：三、改进单
komjay·2023-12-29 09:14

【贪心算法】找零钱

贪心算法：贪心算法（GreedyAlogorithm）又叫登山算法，它的根本思想是逐步到达山顶，即逐步获得最优解，是解决最优化问题时的一种简单但是适用范围有限的策略。
Krien666·2023-12-29 08:04

最优化方法Python计算：无约束优化应用——回归模型的测试

实践中，除了用训练数据训练回归模型，使用线性回归模型做预测前，通常需要对训练结果进行测试。所谓测试指的是用另一组带有标签的数据数据集(xi⊤,yi),i=1,2,⋯ ,m(\boldsymbol{x}^\top_i,y_i),i=1,2,\cdots,m(xi⊤,yi),i=1,2,⋯,m，用训练所得的最优模式w0\boldsymbol{w}_0w0，得预测值yi′y'_iyi′，i=1,2,⋯ 
戌崂石·2023-12-29 05:56

最优化方法Python计算：信赖域算法

作为求解目标函数f(x)f(\boldsymbol{x})f(x)无约束优化问题的策略之一的信赖域方法，与前讨论的线性搜索策略略有不同。线性搜索策略是在当前点xk\boldsymbol{x}_kxk处先确定搜索方向dk\boldsymbol{d}_kdk，再确定在该方向上的搜索步长αk\alpha_kαk。以此计算下一步搜索点xk+1=xk+αkdk.\boldsymbol{x}_{k+1}=\b
戌崂石·2023-12-29 05:55

最优化方法Python计算：BFGS算法

按秩1法（详见博文《最优化方法Python计算：秩1拟牛顿法》）计算的修正矩阵Qk+1=Qk+Ek\boldsymbol{Q}_{k+1}=\boldsymbol{Q}_k+\boldsymbol{E}
戌崂石·2023-12-29 05:25

最优化方法Python计算：无约束优化应用——线性回归模型

回归算法是典型的监督学习模型之一。回归是一种统计学方法，用于根据样本数据(xi,yi)(\boldsymbol{x}_i,y_i)(xi,yi)，i=1,2,⋯ ,mi=1,2,\cdots,mi=1,2,⋯,m，探究变量x\boldsymbol{x}x与yyy之间的关系。具体而言，回归模型的任务是找出拟合函数F(x)F(\boldsymbol{x})F(x)，使得yi≈F(xi),i=1,2,⋯
戌崂石·2023-12-29 05:53

算法导论复习（七） 动态规划

动态规划一般用来求解最优化问题设计一个动态规划算法一般有以下四步：描述一个最优解的结构特征。递归地定义最优解的值。计算最优解的值，通常采用自底向上的方法。利用计算出的信息构造出一个最优解。
wniuniu_·2023-12-29 04:15

分享经济七大影响！未来发展新趋势！

分享经济是信息革命发展到一定阶段后出现的新型经济形态，是连接供需的最优化资源配置方式，是适应信息社会发展的新理念。
048e2b5a84e4·2023-12-29 01:10

动态规划（一）什么是动态规划？

官方的解释是：动态规划（DynamicProgramming，DP）是运筹学的一个分支，是求解决策过程最优化的过程。
庄园特聘拆椅狂魔·2023-12-29 00:42

小组合作

课堂还坚守两个的原则，第一个原则就是保证合作的效果最优化第二个原则需要做到帮扶的效果
空杯202108·2023-12-28 23:43

贪心算法的运用

贪心算法（GreedyAlgorithm）是一种常用的算法思想，通常用来解决最优化问题。可以使用贪心算法来解决一些问题，例如找零钱、任务调度等。
贪心的猫·2023-12-28 13:56

2023年12月16日~12月22日（自适应反馈机制下基于卷积神经网络的高清晰反射波反演算法：CNN-RWI）

AdaptiveFeedbackConvolutional-Neural-Network-BasedHigh-ResolutionReflection-WaveformInversion全波形反演（FWI）是一种非线性拟合观测地震记录从而获得高清晰速度模型的最优化算法
摘星星的屋顶·2023-12-27 09:38

公共部门教育培训与开发的作用分析

教育培训与开发是公共部门人力资源管理服务与公共部门战略的重要职能，通常需要与其他职能模板形成协同效应，以实现培训效果的最优化。
够钟x·2023-12-26 21:07

Lingo 12软件安装教程（仅供学习！）

Lingo是一套由美国Lindo系统公司开发的专门用于求解最优化问题的软件包，提供强大的语言和快速的求解引擎来阐述和求解最佳化模型。
逸无无争·2023-12-26 12:58

人工智能_机器学习073_SVM支持向量机_人脸识别模型建模_预测可视化_网格搜索交叉验证最优化参数对比---人工智能工作笔记0113

接着上一节来说,可以看到我们已经找到了合适的参数,然后我们可以看一下这里gc.best_params_就可以打印出最合适的参数然后我们把最合适串按说填入到代码中,然后进行计算,看看得分可以看到得分,训练数据是1.0然后测试数据得分是0.7857...对吧
脑瓜凉·2023-12-26 11:50

未雨绸缪：天津高考志愿填报及高一选科（二）

合格性考试，作为毕业依据选科的方向：让学生兴趣、高考分数、就业方向达到最优化。
花草姐姐·2023-12-25 13:43

如何在Java中实现多条件排序

在实际工作中，我们常常需要根据多个条件对数据进行排序，以达到最优化的效果。以下文章将使用Comparator接口来实现在多个条件下的排序。
加辣椒了吗?·2023-12-25 11:40

算法竞赛备赛进阶之树形DP训练

在树形DP中，通常会使用动态规划的思想来求解最优化问题。其核心在于通过不断地分解问题和优化子问题来解决原问题，以达到提高效率的目的。
Williamtym·2023-12-25 08:09

算法最优化 - 最速下降法

Question：什么是最速下降法？最速下降法的步骤是什么？最速下降法是不是一定能最快搜索到最优解？如果是，请阐述原因；如果不是，请说明什么情况下不能，可以采用什么方法最高效，为什么？（可以用图解和论述回答问题）Answer：最速下降法（SteepestDescentMethod）是一种优化算法，用于找到多变量函数的局部最小值。这种方法使用函数的梯度（gradient）来指导搜索方向，即在当前点的
UCAS_sqs·2023-12-24 23:32

工业机器视觉的应用及发展

工业机器视觉收集的各种生产数据是智能化生产的基础，这些数据通过工业以太网等传至工业服务器，由MES/DCS软件系统进行数据处理分析，并与企业资源管理软件（如ERP）联动，提供最优化的生产方案或者定制化生产
双翌视觉·2023-12-24 20:35

1900页数学基础：面向CS的线性代数、拓扑、微积分和最优化

机器之心编辑部学习计算机科学总共需要多少数学基础？大概1900页吧。宾夕法尼亚大学计算机和信息科学系教授JeanGallier的开源书籍《Algebra,Topology,DifferentialCalculus,andOptimizationTheoryForComputerScienceandEngineering》用一本书的容量解决了所有问题。这本书涵盖了计算机科学所需的线性代数、微分和最优
Kantgo童鞋·2023-12-24 18:53

算法中的最优化方法课程复习

算法中的最优化方法课程复习单模函数、拟凸函数、凸函数证明证明一个线性函数与一个凸函数的和也是凸的梯度线性规划标准形式以及如何标准化标准形式常见标准化方法线性化技巧单纯形法二次规划无约束优化Nelder-Mead
Kilig*·2023-12-24 06:53

【数据结构】动态规划（Dynamic Programming）

一.动态规划（DP）的定义：求解决策过程（decisionprocess）最优化的数学方法。将多阶段决策过程转化为一系列单阶段问题，利用各阶段之间的关系，逐个求解。
Hsianus·2023-12-24 02:29

神经网络：深度学习基础

1.反向传播算法（BP）的概念及简单推导反向传播（Backpropagation，BP）算法是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见算法。
是Dream呀·2023-12-23 20:38

共轭梯度法Matlab的实现

最近最优化课一直在讲共轭梯度，雅克比，梯度下降啊，课上没听太懂，就课下花了点时间好好学一下，在此记录一下。这篇博客主要介绍了共轭梯度的matlab实现，代码可以运行看到效果。
RDSunday·2023-12-23 18:23

未来楼宇智慧方案

数字孪生智慧楼宇（IB，IntelligentBuilding）也称智能建筑、智能楼宇，是将建筑、通信、计算机和控制等各方面的先进科技相互融合，合理集成为最优化的整体，具有工程投资合理、设备高度自动化、
万象工作室·2023-12-23 07:20

深度学习中的损失函数

1损失函数概述大多数深度学习算法都会涉及某种形式的优化，所谓优化指的是改变以最小化或最大化某个函数的任务，我们通常以最小化指代大多数最优化问题。
智慧医疗探索者·2023-12-23 03:49

梯度下降（GD）

一、梯度下降算法概述1、介绍梯度下降法（gradientdescent），又名最速下降法（steepestdescent）是求解无约束最优化问题最常用的方法，它是一种迭代方法，每一步主要的操作是求解目标函数的梯度向量
王荣胜z·2023-12-22 23:53

最优化理论复习--对偶单纯形方法及灵敏度分析

对偶单纯形方法定义：设x(0)x^{(0)}x(0)是(L)问题的基本解（不一定是可行解（极点）），如果它的对偶问题的解释可行的，则称x(0)x^{(0)}x(0)为原问题的对偶可行基本解从而衍生出结论：当对偶可行的基本解是原问题的可行解时，由于判别数=0>=0>=0了，而是要保证判别数是=0>=0>=0,尽量将判别数化为=0>=0>=0的方法也对称过来了的，步骤变成了先根据最小的右端项B−1bB
ˇasushiro·2023-12-22 11:39

最优化理论与方法---一维搜索

文章目录1.牛顿法2.割线法3.抛物线法1.牛顿法2.割线法 注：抛物线法其实就是牛顿法的近似。因为[xk−xk−1]/[f′(xk)−f′(xk−1)][x^k-x^{k-1}]/[f'(x^k)-f'(x^{k-1})][xk−xk−1]/[f′(xk)−f′(xk−1)]极限就是1/f′′(xk)1/f''(x^k)1/f′′(xk)。3.抛物线法
冒冒菜菜·2023-12-22 10:51

最优化考试之黄金分割法

最优化考试之解题方法前言一、黄金分割法1.解题条件2.解题形式3.解题过程4.案例前言最近要考最优化了，感觉时间有点赶，所以就直接学了解题方法，没去学习具体的原理了。
bug别找我·2023-12-22 02:10

最优化考试之库恩塔克KT点求解

最优化考试之库恩塔克KT点求解前言一、K-T点求解1.问题形式2.转化形式3.解题过程前言简单说下KT点求解方法。
bug别找我·2023-12-22 02:10

设计模式（3）--对象结构(7)--代理

3.2虚拟代理可以进行最优化。3.3保护代理和智能引用都允许在访问对象时有一些附加的内务处理。3.4可以对用户隐藏copy-on-write的优化方式(大幅度地降低拷贝庞大实体时的开销)4
myepicure888·2023-12-21 22:05

python实现Ford-Fulkerson算法--最大流问题

目录引言问题描述最大流问题算法思想操作步骤标号算法实现过程代码实现python实现如下问题描述最大流问题最大流问题（maximumflowproblem）属于网络流问题中的一种，是一个组合最优化问题，目的是利用传输工具实现最好的运输流量效果
！continue！·2023-12-21 16:59

OpenCV-Python11：程序性能检测及优化

这就要求我们在同一硬体保证实现程序功能的前提下，能够对程式进行检测和优化，从而实现程式的最优化。学习
图灵追慕者·2023-12-21 11:11

Matlab函数最优化问题

前言线性函数和非线性函数的区别在于它们的函数图像是否为一条直线。线性函数的图像是一条直线，表示其中每个自变量的增量引起的因变量的增量是固定的。这意味着函数的图像是一个斜率为常数的直线，可以用y=mx+b的形式表示，其中m是斜率，b是y轴截距。而非线性函数的图像不是直线，表示其中每个自变量的增量引起的因变量的增量不是固定的。这意味着函数的图像可能会是任何形状，例如，三角函数、指数函数和对数函数都是非
数学怪 蜀黍·2023-12-21 09:51

【华为数据之道学习笔记】5-11 算法模型设计

算法是指训练、学习模型的具体计算方法，也就是如何求解全局最优解，并使得这个过程高效且准确，其本质上是求数学问题的最优化解，即算法是利用样本数据生成模型的方法。
码农丁丁·2023-12-21 06:17

SVM —— 理论推导

SVM支持向量线性可分最大间隔超平面最大间隔超平面的推导支持向量分类间隔的推导最优化问题对偶问题拉格朗日乘子法强对偶性SVM优化软间隔解决问题优化目标及求解核函数线性不可分核函数的作用常见核函数SVM算法优缺点支持向量机
写进メ诗的结尾。·2023-12-20 20:37

算法小课堂（九）分支限界法

一、概述1.1概念分支限界法是一种求解最优化问题的算法，常以广度优先或以最小耗费（最大效益）优先的方式搜索问题的解空间树。其基本思想是把问题的可行解展开，再由各个分支寻找最佳解。
烟雨平生9527·2023-12-20 17:21

「最优化基础知识2」一维搜索，以及python代码

最优化基础知识（2）无约束优化问题，一维搜索一、一维搜索一维搜索的意思是在一个方向上找到最小点。用数学语言描述，X*=Xk+tPk，从Xk沿着Pk方向行走t到达最小点X*。
风声holy·2023-12-20 08:46

Hermite矩阵的特征值估计——courant-fischer定理

Hermite矩阵的特征值估计——courant-fischer定理一、courant-fischer定理（min-max定理）将hermite矩阵的特征值表示为一系列最优化问题的解。
风声holy·2023-12-20 08:46

机器学习 | SVM支持向量机

线性模型通过求解各点距离进行投票，可以使用sigmoid函数来求解总损失，转换成一个最优化问题。但是模型泛化能力太差，很容
西皮呦·2023-12-19 06:06

《课程的逻辑》读书笔记（五）——终结性评价与课程的改进

教学活动中的评价是改进课程、谋求教学最优化的必不可少的条件。终结性评价与课程的改进，单元教学结束后,通过在该单元教学的全部过程中学生所达到的目标,进行单元整体的
阮守鸿·2023-12-18 19:29

搜索与搜索剪枝4

搜索剪枝核心：减少搜索树的大小改变搜索顺序：如可以让起点与终点双向奔赴；最优化剪枝：如当已经找到一个较优解的前提下，找到了一个比较优解更差的结果，那肯定在判断是较差解之后立刻终止寻找；可行性剪枝：虽然还没到达终点
Rationale0·2023-12-18 14:30

变分自编码器（VAE）初识

它基于反向传播算法与最优化方法（如梯度下降法），AE（Auto-Encoder）的架构可以如下所示;记XXX为整个数据集的集合，xix_{i}xi是数据集中的一个样本。自编码
碧蓝的天空丶·2023-12-18 08:38
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他