Wolfe

非精线搜索步长规则Armijo规则&Goldstein规则&Wolfe规则

如最速下降法，拟牛顿法这些常用的优化算法等，其中的线搜索步骤通常使用Armijo规则、Goldstein规则或Wolfe规则等。
Nie_Xun·2024-02-04 09:53

大模型关于Lora论文集合

《ChainofLoRA:EfficientFine-tuningofLanguageModelsviaResidualLearning》ChainofLoRA(COLA)，这是一种受Frank-Wolfe
致Great·2024-01-13 00:48

无约束优化问题求解笔记（1）

目录1.迭代求解的基本流程与停止准则1.1迭代求解的基本流程1.2停止准则1.3收敛阶2.线搜索方法2.1精确线搜索2.2非精确搜索**Goldstein准则****Wolfe准则**2.3线搜索算法的收敛性
碧蓝的天空丶·2023-12-21 23:58

Dantzig-Wolfe分解

：IntroductiontoLinearProgramming，DimitrisBertsimasetc这篇博客是个人笔记的电子版(●ˇ∀ˇ●)，希望之后的自己也能看懂吧在这本教材的Dantzig-Wolfe
萝卜丝皮尔·2023-12-20 05:37

开源语言大模型演进史：高质量基础模型竞赛

（本文作者为Rebuy公司AI总监、深度学习博士CameronR.Wolfe。以下内容经授权后由OneFlow编译发布，转载请联系授权。原文：https://cameronrwolfe.subst
OneFlow深度学习框架·2023-11-10 15:26

机器学习笔记之无约束优化问题——(阶段性收尾)共轭方向法与Wolfe准则优化方法Python示例

机器学习笔记之无约束优化问题——基于共轭方向法与Wolfe准则优化方法的Python示例引言小插曲：画图——非标准二次型的等值线算法在图像中的表示基于精确搜索的共轭梯度法基于Wolfe准则的共轭梯度法附
静静的喝酒·2023-09-16 23:34

线性规划技巧: Dantzig&Wolfe Decompostion

Dantzig&Wolfe分解(简称DW分解)[1]是一种列生成技巧,可以把一类特殊形式线性规划问题分解成若干子问题进行求解.问题描述我们考虑如下形式的线性规划问题:其中,,.说明上述规划共组约束.第一组约束包含了所有的决策变量
胡拉哥·2023-09-14 02:09

线搜索准则

目录一，无约束可微优化问题的线搜索算法二，单调线搜索准则1，Armijo准则2，Goldstein准则3，Wolfe准则三，非单调线搜索准则1，Grippo准则2，ZhangHager准则四，收敛性分析
csuzhucong·2023-09-04 16:37

机器学习笔记之优化算法(十九)经典牛顿法的收敛性分析

机器学习笔记之优化算法——经典牛顿法的收敛性分析引言回顾：算法的收敛性分析Wolfe\text{Wolfe}Wolfe准则的收敛性分析梯度下降法在凸函数的收敛性分析梯度下降法在强凸函数的收敛性分析经典牛顿法的收敛性分析收敛性定理介绍证明过程关于隐含条件的说明引言上一节整体介绍了经典牛顿法
静静的喝酒·2023-08-27 19:09

机器学习笔记之优化算法(十三)关于二次上界引理

回顾：利普希兹连续在Wolfe\text{Wolfe}Wolfe准则收敛性证明一节中简单介绍了利普希兹连续(LipschitzContinuity)(\text{LipschitzContinuity
静静的喝酒·2023-08-11 20:41

机器学习笔记之优化算法(七)线搜索方法(步长角度；非精确搜索；Wolfe Condition)

机器学习笔记之优化算法——线搜索方法[步长角度，非精确搜索，WolfeCondition]引言回顾：Armijo\text{Armijo}Armijo准则及其弊端Glodstein\text{Glodstein}Glodstein准则及其弊端WolfeCondition\text{WolfeCondition}WolfeCondition关于仅与参数C1\mathcalC_1C1相关的武断做法关于
静静的喝酒·2023-08-03 16:55

机器学习笔记之优化算法(八)简单认识Wolfe Condition的收敛性证明

机器学习笔记之优化算法——简单认识WolfeCondition收敛性证明引言回顾：Wolfe\text{Wolfe}Wolfe准则准备工作推导条件介绍推导结论介绍关于Wolfe\text{Wolfe}Wolfe
静静的喝酒·2023-08-03 16:23

无约束优化——线性搜索法

无约束优化——线性搜索法（linesearch）前言概述构建关于步长的函数Wolfe条件StrongWolfe条件Zoutendijk条件后记前言该系列为学习笔记系列，所有内容可以在NumericalOptimization
_唯欣主义·2023-07-14 13:13

多商品流问题

几十年来，许多研究人员对MCFPs进行了研究，提出了多种解决方案，如列生成、拉格朗日松弛、分支定界和Dantzig-Wolfe分解。2多商品流问题MCFP似乎是几个单一商品流动问题的组合。
斯派得·2023-04-18 19:05

系统架构设计师学习之路（34）

Perry和Wolfe使用一个精确的公式来表达，该公式由Boehm做了进一步修改。软件架构={元素，形式，关系/约束}软件架构涉及到抽象、分解和组合、风格和美学。
将如何存在·2023-03-30 00:28

Armijo条件，Wolfe条件，Goldstein条件

目录线搜索非精确线搜索（Armijo条件，Wolfe条件，Goldstein条件）强Wolfe条件线搜索算法线搜索对于迭代式xk+1=xk+αpkx_{k+1}=x_k+\alphap_kxk+1=xk
muyuu·2022-12-26 16:32

Understanding and Increasing Efficiency of Frank-Wolfe Adversarial Training

AT存在灾难性的过拟合，在训练过程中对抗精度下降，尽管已经提出了改进，但它们增加了训练时间，鲁棒性与多步AT相去甚远。我们开发了一个使用FW优化(FW-AT)进行对抗训练的理论框架，揭示了损失情况与ℓ∞FW攻击的ℓ2失真之间的几何联系。我们分析表明，FW攻击的高失真相当于攻击路径上的小梯度变化。然后在各种深度神经网络架构上通过实验证明，针对鲁棒模型的ℓ∞攻击实现了接近最大的失真，而标准网络具有较低
你今天论文了吗·2022-12-19 14:46

Lecture 011-3-Dantzig-Wolfe decomposition

Outline•Fundamentalunderstanding•Lagrangianrelaxation&Representationtheory•DW&CG•Caseapplication-----------------------------•列生成算法适用于解决一类候选决策方案可以由多个完全信息下的列表示的组合优化问题。•该算法并不直接对带有所有列的规划问题进行求解，而是通过限制主问题求
Wooden_ZHANG·2022-12-02 02:59

利用 MATLAB 编程实现拟 Newton 法求解无约束最优化问题。

本文章包含以下内容1、画出DFP拟Newton法的算法流程图；2、MATLAB编写程序（命令式M文件），用分别用黄金分割算法精确搜索与Wolfe-Powell不精确搜索的DFP拟Newton法，求解如下问题
i道i·2022-12-01 23:59

利用 MATLAB 编程实现最速下降法求解无约束最优化问题

MATLAB编写最速下降法求解无约束优化问题的函数，要求采用黄金分割法精确一维搜索，用数值微分法计算梯度（函数式M文件，精度设为epson可调）；4、MATLAB编写最速下降法求解无约束优化问题的函数，要求采用Wolfe-Powell
i道i·2022-10-31 11:43

【数值优化之线搜索方法】

最优化计算方法》，部分图片来自最优化：建模、算法与理论/最优化计算方法(pku.edu.cn)，若侵权请联系删除目录1线搜索方法简介2单调线搜索准则2.1Armijo准则2.2Goldstein准则2.3Wolfe
无意2121·2022-07-04 11:45

简单部署Docker镜像， 发布SpringBoot项目

编写一个简易的SpringBoot多模块项目项目，项目主pom文件配置如下:4.0.0com.wolfespring-boot-wolfe1.0-SNAPSHOTpomspring-boot-practice
wolfeWf·2022-02-10 05:03

深入浅出最优化(3) 最速下降法与牛顿法

事实上，如果步长由精确搜索或者Wolfe-Powell搜索
HarmoniaLeo·2022-01-18 00:41

大连理工大学 2021年最优化方法大作业（1）

2021年最优化方法大作业（2）_JiangTesla的博客-CSDN博客第二题在这大连理工大学2021最优化方法大作业（3）_JiangTesla的博客-CSDN博客文章目录一、不精确一维线搜素-采用Wolfe-Powell
Jiang_Tesla·2021-11-13 15:08

波兄的笔记106期：什么在成就品牌信任度

Cohn&Wolfe凯维公关调研评选出了全球消费者最信任品牌的一百强，前十名几乎被科技类企业承包，联想排名91位，成为唯一入选的中国品牌。
波兄品牌笔记·2021-05-04 13:34

非精确一维线搜索（Armijo-Goldstein Rule 和 Wolfe-Powell Rule）

非精确一维线搜索（Armijo-GoldsteinRule和Wolfe-PowellRule）Armijo-GoldsteinRule算法步骤Wolfe-PowellRule算法步骤Armijo-GoldsteinRule
qiuxinmin·2020-11-30 11:15

案例分析：大数据帮助提升医患关系

导读：以下摘要来自Forbes/Wolfe前沿科技报告近来发布的采访，受访人是julieYoo,Kyruus的合伙人和首席产品官。Julie分享了他们团队如何利用大数据提高病人就医通道和优化转诊管理。
weixin_34114823·2020-08-25 08:36

【统计学习课程】2 线性分类

Logistic回归为什么用交叉熵作为优化目标概率解释Logistic回归推广的Logistic回归小结指数族分布和最大熵Logistic回归的解没有闭式解Newton-Raphson法梯度下降法Frank-Wolfe
Jiaxi_Cao·2020-08-21 10:03

Armijo线搜索

用“人话”解释不精确线搜索中的Armijo-Goldstein准则及Wolfe-Powell准则linesearch（一维搜索，或线搜索）是最优化（Optimization）算法中的一个基础步骤/算法。
断腿小胖子·2020-08-03 05:51

一维搜索

一维搜索的分类精确一维搜索：1)区间收缩法；2)函数逼近法；非精确一维搜索：1)Armijo准则；2)Wolfe准则；进退法主要步骤:①已知搜索起点和初始步长；②然后从起点开始以初始步长向前试探，如果函数值变大
cynwpu·2020-07-14 03:28

Frank-wolfe算法多OD对matlab实现

Frank-wolfe算法多OD对matlab实现Frank-wolfe算法多OD对matlab实现Frank-wolfe算法原理Frank-wolfe算法流程算例将道路网络抽象为图给定OD对关键函数及完整流程
闲不下来的王小C·2020-07-11 12:01

线性搜索

https://www.cnblogs.com/qw12/p/6379783.html用“人话”解释不精确线搜索中的Armijo-Goldstein准则及Wolfe-Powell准则：https://www.codelast.com
木心世界·2020-07-09 22:02

用Python实现最速下降法求极值

一般情况下，最优步长αk的确定要用到线性搜索技术，比如精确线性搜索，但是更常用的是不精确线性搜索，主要是Goldstein不精确线性搜索和Wolfe法线性搜索。为了调用的方便，编写一个Pyth
lxy孙悟空·2020-07-08 10:30

最优化方法——最速下降法，阻尼牛顿法，共轭梯度法

最优化方法——最速下降法，阻尼牛顿法，共轭梯度法目录最优化方法——最速下降法，阻尼牛顿法，共轭梯度法1、不精确一维搜素1.1Wolfe-Powell准则2、不精确一维搜索算法计算步骤3、最速下降法3.1
敲键盘的钢琴师·2020-07-02 03:12

Dantzig-Wolfe分解

适用场景Dantzig-Wolfe分解的适合用于求解一些具有特定结构的LP&MILP原始问题其中，第一个等式约束为conflictingconstrain，剩余的约束都是独立的blocks。
dadadaplz·2019-07-26 19:16

用Python实现最速下降法求极值的方法

一般情况下，最优步长αkαk的确定要用到线性搜索技术，比如精确线性搜索，但是更常用的是不精确线性搜索，主要是Goldstein不精确线性搜索和Wolfe法线性搜索。
lxy孙悟空·2019-07-10 09:46

最优化方法——BGFS变尺度算法

BGFS基本思想2、BGFS变尺度算法的计算公式3、BGFS变尺度算法Python实现4、结果关于下面的部分，请看我的另一篇博客最优化方法——最速下降法，阻尼牛顿法，共轭梯度法1、不精确一维搜素1.1Wolfe-Powell
敲键盘的钢琴师·2019-04-18 22:29

Armijo线性搜索

用“人话”解释不精确线搜索中的Armijo-Goldstein准则及Wolfe-Powell准则linesearch（一维搜索，或线搜索）是最优化（Optimization）算法中的一个基础步骤/算法。
adong1976·2018-09-27 15:00

一维线搜索确定最优步长

目录一维搜索问题进退法确定搜索区间分割技术（0.618）减小搜索区间wolfe条件确定步长4.1梯度与函数下降的关系？
黄小猿·2017-12-17 17:26

《亲密关系》之二：揭密一生离婚28次背后的原因

美国人GLYNN'Scotty'Wolfe是世界离婚次数最多的人，一共离了28次，不知是辛苦的甜蜜着，还是甜蜜的辛苦着。他一生共结婚29次。最短的婚姻只持续了十九天，而他最长的婚姻居然持续了七年之久。
丽姐姐在路上·2017-12-08 14:57

非精确线搜索

Wolfe准则Wolfe准则是指:给定ρ∈(0,0.5),σ∈(ρ,1),求αk使得下面两个不等式同时成立:f(xk+αkdk)≤f(xk)+ραkgTkdk▽f(xk+αkdk)Tdk≥σgTkdk(
OopspoO·2017-09-04 13:49

那些几乎让你眼瞎的动物伪装色

译/danzig校对/南方马步原文/www.demilked.com/camouflage-wildlife-photography-art-wolfe/61
利维坦·2016-02-13 00:00

凯维公关力拓中国市场，设立广州办公室

国际知名传播咨询机构凯维公关（Cohn&Wolfe）今日宣布于广州设立全新的全资办公室，以满足客户日益增长的公关需求，并进一步开拓大中华区市场。
品牌几何·2015-12-10 00:00

基准面转换方法

Bursa Wolfe 被一些地心基准面使用的七参数转换方法。 WGS84 因为使用WGS84作为标准，所以实际上是个“空转换”。 BW7 被一些地心基准
·2015-11-11 04:26

线搜索line-search和强Wolfe条件

最近在看数值优化的论文，里面几乎都有line-search作为一个子步骤。 单从字面上不怎么好理解。 http://en.wikipedia.org/wiki/Line_search http://en.wikipedia.org/wiki/Backtracking_line_search 看来还是要搜中文了 http://reference.wolfram.com/mathematic
·2015-11-07 13:56

【译】为什么估算很难？！从旧金山到洛杉矶的旅行

我跟到了文章的相关 评论 里面，又从论坛评论里面跟到了这篇博客的 原文 （其实是原文下面 Michael Wolfe 的评论）。Michael 写得很好，我觉得值得翻译过来留存参照。
·2015-11-07 11:48

为什么软件开发周期通常是预期的两三倍？

Michael Wolfe 在2012年1月28日给的回复，非常经典，截至我们发布时已有8016个赞。以下是译文。 让我们先沿着海岸线，从旧金山（SF）走路去洛杉矶（LA），去拜访
·2015-11-02 12:18

软件架构 "4+1" 视图模型

Perry和Wolfe使用一个精确的公式来表达，该公式由Boehm做了进一步修改：软件架构＝{元素，形式，关系/约束}软件架构涉及到抽象、分解和组合、风格和美学。
浪子剑客·2012-06-12 11:00

Wolfe和Armijo准则之Matlab实现

Wolfe准则function[alpha,newxk,fk,newfk]=wolfe(xk,dk)rho=0.25;sigma=0.75;alpha=1;a=0;b=Inf;while(1)if~(fun
visayafan·2012-03-18 13:00

Wolfe和Armijo准则之Matlab实现

Wolfe准则function[alpha,newxk,fk,newfk]=wolfe(xk,dk)rho=0.25;sigma=0.75;alpha=1;a=0;b=Inf;while(1)if~(fun
weixin_34151004·2012-03-18 13:00
上一页 1 2 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他