优化理论

一文掌握机器学习必备数学知识（附学习资源）

本篇文章是由留德华叫兽在知乎的优秀回答改编扩展而成的，作者留德华叫兽有着应用数学和硕士运筹学、优化理论的背景转到德国海德堡大学读博，主要从事机器学习、计算机视觉的研究，希望自己的一些经验可以对想入门机器学习的朋友们有点借鉴作用
weixin_34367257·2022-11-01 07:26

最优化理论极简入门(第二部分)：拉格朗日对偶问题

上一篇：最优化条件和KKT条件概要什么是对偶问题拉格朗日对偶问题（Lagrangeduality）拉格朗日对偶问题：小结强弱对偶定理什么是对偶问题？正式开始之前，先说一句废话，之所以需要对偶问题，是因为相较原始问题(primalproblem)，对偶问题(dualproblem)会更好解原始问题和对偶问题一般有如下关系原始问题对偶问题最小化⟺最大化变量数⟺约束条件数约束条件数⟺变量数\begin{
如月的·2022-10-27 09:47

谁说算法工程师不会写代码

因为我发现，算法居然可以让我研究生阶段学到的矩阵论、最优化理论等看上去毫无用处的知识派上了用场！这在计算机行业的其他方向都是不可想象的。比如很多人自嘲：我开始做商
·2022-10-15 11:50

最优化理论（三）

配合视频中科大-凸优化配合笔记凸优化笔记文章目录三、凸优化算法三、凸优化算法LPLPLP松弛和拉格朗日松弛的对偶关系，带等式约束可微凸优化的罚函数可微凸优化问题对偶函数和罚函数形式：二范数和log−barrierlog-barrierlog−barrier黄金分割迭代法，回溯直线搜索ArmijoRuleArmijo\quadRuleArmijoRule方法函数的强凸性定义强凸函数的凸优化目标估计精
_森罗万象·2022-10-12 10:08

最优化理论（二）

配合视频中科大-凸优化配合笔记凸优化笔记文章目录二、凸优化问题1.凸优化问题概述2.凸优化约束条件3.具体优化问题4.拉格朗日对偶5.KKT条件二、凸优化问题1.凸优化问题概述判断一个优化问题是否是凸优化纠正拟凸证明，凸优化问题可行性优化问题，等价问题凸优化问题，凸优化问题的性质x∗∈Xfx^*\inX_fx∗∈Xf最优  ⟺  \iff⟺▽f0T(x∗)(y−x∗)≥0▽f_0^{T}(x^*)
_森罗万象·2022-10-12 10:08

【SLAM】6非线性优化

最大似然估计齐次矩阵正定矩阵奇异矩阵6.1.状态估计问题6.1.1.最大后验估计6.1.2.最小二乘6.1.3.批量状态估计6.2.非线性最小二乘6.2.1.一阶&二阶梯度法6.2.2.高斯牛顿法6.2.3.列文伯格-马夸尔特方法图优化理论实现补充知识贝叶斯怎样用非数学语言讲解贝叶斯定理贝叶斯公式
子氚·2022-10-08 18:01

作者：王建新（1969-），博士，中南大学信息科学与工程学院教授，中国计算机学会高级会员。...

王建新（1969-），博士，中南大学信息科学与工程学院教授，中国计算机学会高级会员，主要研究方向为计算机算法、网络优化理论、生物信息学。
唐名威·2022-10-07 13:04

最优化理论与算法学习笔记（1）——预备知识

随着研究的深入，越发的感觉数学专业的知识具有至关重要的作用。也是受刚毕业的室友的启发，作为机器学习领域的学生，应当较系统的学习一下相关的数学知识。此博客的用意在于记录并分享学习进程，并可以快速查阅一些知识。1最优解概念首先，最优化问题分为两类：线性规划问题和非线性规划问题。而如何区分这两者呢？一个数学模型有两个重要的部分：目标函数和约束函数。此二者均为线性，则为线性规划问题，反之则反。而如何判别线
友人圣桑·2022-10-05 17:31

二次优化问题dfp_MATLAB优化问题应用实例讲解

优化理论是一门实践性很强的学科。所谓最优化问题，一般是指按照给定的标准在某些约束条件下选取最优的解集。
策策的荣耀百科·2022-09-28 09:40

最优化方法python教程_GitHub - Zshoufeng/Simplex-methods: 单纯形法，运输问题的Python简单实现。最优化方法课程作业，设计一个可以运行的平台软件，可以选择单...

单纯形法的实现原理参照课本《最优化理论与算法》第三章中单纯形方法计算步骤，算法由自己实现。
weixin_39822629·2022-09-13 18:34

运输问题python编程_GitHub - maoqianqian123/Simplex-methods: 单纯形法，运输问题的Python简单实现。最优化方法课程作业，设计一个可以运行的平台软件，可...

单纯形法的实现原理参照课本《最优化理论与算法》第三章中单纯形方法计算步骤，算法由自己实现。
SN和Pulsar·2022-09-13 18:34

货物托运收费python_GitHub - dong-8080/Simplex-methods: 单纯形法，运输问题的Python简单实现。最优化方法课程作业，设计一个可以运行的平台软件，可以选择单纯...

单纯形法的实现原理参照课本《最优化理论与算法》第三章中单纯形方法计算步骤，算法由自己实现。
Qawedcs·2022-09-13 18:33

【优化理论】 共轭梯度下降算法实现

实验目的实验步骤  此次实验要求采用共轭梯度下降来解决二次优化问题，在解决此问题前，首先分析下什么是共轭梯度法，共轭梯度法能解决什么问题。  我们来看一个线性方程组Ax=b，求解此方程组的过程可以看成是形如公式(1)的优化问题：arg⁡min⁡x∥Ax−b∥2…………………………………………(1)\mathop{\arg\min_{x}}\parallelAx-b\parallel^2………………
lechuan_dafo·2022-09-13 07:24

论文研读-Deep Multi-Agent Reinforcement Learning-2

多智能体强化学习是一个非常有趣的研究领域，它与单智能体强化学习、多智能体系统、博弈论、进化计算和优化理论有着密切的联系。（二）介绍2.1工业革命，认知和计算机蒸
小王爱学习1234·2022-08-31 07:50

【2】合成孔径雷达（SAR）成像的信号处理基础

比如传统算法中的傅里叶变换、匹配滤波、线性调频信号去斜处理；还有新兴算法中涉及的分数阶傅里叶变换、压缩感知、最优化理论等。
氵茶花彡·2022-08-20 07:24

21天学习挑战赛——机器学习02

天学习挑战赛机缘老师愿意教，学生愿意学，双向奔赴吧，单向也行，可能有点累，哈哈学习时间2022.8.1～2022.8.7学习内容网课AnIntroductiontoAutoencoders百面机器学习精通特征工程数据聚类最优化理论与方法学习产出
Actual_parameter·2022-08-12 07:16

机器学习的数学基础

一、概述我们知道，机器学习的特点就是：以计算机为工具和平台，以数据为研究对象，以学习方法为中心；是概率论、线性代数、数值计算、信息论、最优化理论和计算机科学等多个领域的交叉学科。
被大佬糊弄的只会点灯的小菜鸡·2022-08-07 07:51

MySQL优化理论学习指南

文章目录前言系统性能状态慢查询日志Explain索引优化索引创建原则索引失效情况覆盖索引索引下推索引合并查询优化连接查询的原理及优化子查询的原理及优化orderby和groupby优化limit优化exists和in优化count(常量)和count(具体字段)优化select(*)优化数据库结构优化冷热数据分离增加中间表增加冗余字段优化数据类型使用非空约束大表优化限定查询的范围读写分离垂直拆分水
超级种码·2022-07-27 13:46

【整数规划算法】列生成（理论分析+Python代码实现）

更多关于运筹学，优化理论，数据科学领域的内容，欢迎关注我的知乎账号：https://www.zhihu.com/people/wen-yu-zhi-370介绍前面介绍的割平面法和分支定界法都是求解整数规划的常用方法
王源WANGYuan·2022-07-11 07:51

Spark MLlib 源码学习---线性回归模型（LinearRegression）

常用的训练算法有最小二乘法(LeastSquares)以及基于最优化理论的梯度下降法(GradientDescent)、牛顿法
wangongxi·2022-05-21 07:47

多目标线性规划

多目标线性规划是多目标最优化理论的重要组成部分，由于多个目标之间的矛盾性和不可公度性，要求使所有的目标均达到最优解是不可能的，因此多目标规划问题往往只是求其有效解。
35℃·2022-05-20 07:37

凸优化理论基础2——凸集和锥

作者简介：秃头小苏，致力于用最通俗的语言描述问题往期回顾：凸优化理论基础1–仿射集近期目标：拥有5000粉丝支持小苏：点赞、收藏⭐、留言文章目录凸优化理论基础2——凸集和锥凸集凸组合凸包锥和凸锥锥组合锥包重要例子凸集
秃头小苏·2022-05-18 07:34

凸优化理论基础1--仿射集

致力于用最通俗的语言描述问题往期回顾：基于pytorch搭建VGGNet神经网络用于花类识别  基于pytorch搭建AlexNet神经网络用于花类识别近期目标：拥有5000粉丝支持小苏：点赞、收藏⭐、留言文章目录凸优化理论基础
秃头小苏·2022-05-18 07:34

凸优化理论基础3——凸集和凸锥重要例子

作者简介：秃头小苏，致力于用最通俗的语言描述问题往期回顾：凸优化理论基础1–仿射集  凸优化理论基础2——凸集和锥近期目标：拥有5000粉丝支持小苏：点赞、收藏⭐、留言文章目录凸优化理论基础3——超平面和半空间超平面半空间超平面和半空间是凸集球和椭球范数球和范数锥多面体单纯形半正定锥凸优化理论基础
秃头小苏·2022-05-18 07:34

论文阅读：Object Classification Using CNN-Based Fusion of Vision and LIDAR in Autonomous Vehicle

作者简介：秃头小苏，致力于用最通俗的语言描述问题往期回顾：凸优化理论基础1–仿射集  凸优化理论基础2——凸集和锥近期目标：拥有5000粉丝支持小苏：点赞、收藏⭐、留言文章目录前言论文背景系统架构✨✨✨
秃头小苏·2022-05-18 07:34

论文阅读：RRPN：RADAR REGION PROPOSAL NETWORK FOR OBJECT DETECTION IN AUTONOMOUS VEHICLES

作者简介：秃头小苏，致力于用最通俗的语言描述问题往期回顾：凸优化理论基础1–仿射集  凸优化理论基础2——凸集和锥近期目标：拥有5000粉丝支持小苏：点赞、收藏⭐、留言文章目录写在前面RRPN网络实验结果论文下载写在前面
秃头小苏·2022-05-18 07:15

强化学习算法TRPO之共轭梯度优化

参考目录：①优化理论相关书籍②TRPO论文③TRPO论文推导④TRPO的补充⑤TRPO讲解⑥TRPO与NPG的联系或英文原版TRPO论文优化部分理解看过TRPO论文的
Ton10·2022-03-12 07:25

机器学习笔记——逻辑回归之二分类

4.2似然函数估计/交叉熵损失4.3凸函数优化理论4.4交叉熵损失与平方损失比较一、什么是逻辑回归？逻辑回归（LogisticRegression）。虽然逻辑回归叫回归但却是用
AgentSmart·2022-03-11 07:39

图解AI数学基础 | 微积分与最优化

www.showmeai.tech/tutorials/83本文地址：http://www.showmeai.tech/article-detail/165声明：版权所有，转载请联系平台与作者并注明出处1.最优化理论
·2022-02-25 13:58

2020-07-26 动态规划法(From GitChat)

动态规划动态规划（DynamicProgramming）是解决多阶段决策问题常用的最优化理论，动态规划和分治法一样，也是通过定义子问题，先求解子问题，然后在由子问题的解组合出原问题的解。
我的的昵称已被使用换一个吧·2022-02-11 18:37

机器学习入门概念理论

一是这些理论其实是在实践中总结的，没有基础的机器学习方法是不能明白理论的；二是这些理论需要的数学很高，您那高等数学啥的就别提了，这些理论至少也得有泛函分析的一般知识、优化理论的一般知识、矩阵理论的一般知识
可汗爷爷·2021-06-24 13:59

入门 | 前言、一些例子、线性规划的概念与解法

有关学习方法其实关于这个学科我自己也不甚了解，引知乎：六点钟苹果的回答：运筹学（最优化理论）如何入门？在网上没有找到回答中所说的两本书的
StRygwyr·2021-06-10 18:36

视觉SLAM实践入门——（9）曲线拟合之g2o库

图优化理论g2o是一个基于图优化的库（图优化是一种将非线性优化和图论结合起来的理论）图优化把优化问题表现成图。一个图由若干顶点以及连接这些顶点的边组成。
floatinglong·2021-05-15 16:16

机器学习数学基础——最优化理论

以下文章摘录自《机器学习观止——核心原理与实践》京东：https://item.jd.com/13166960.html当当：http://product.dangdang.com/29218274.html最优化理论概述最优化理论是数学的一个分支
林学森·2021-04-22 23:02

2019年上半年中学教师资格考试 《教育知识与能力》真题

传统教育派代表人物赫尔巴特主张的“三中心“是指()A教师中心、教材中心和课堂中心B儿童中心、经验中心和活动中心C管理中心、活动中心和教学中心D.管理中心、服务中心和教学中心2.苏联教育家赞可夫倡导的是()A发现学习理论B教学过程最优化理论
合肥师出·2021-04-14 22:58

最优化理论——元启发式优化算法综述（一）

元启发式优化算法是一种解决全局优化问题常用的方法，它主要是通过模拟自然和人类智慧来实现最优解的求解。相比于传统的优化方法，如模拟退回，梯度下降等，1960年。元启发式优化方法首次被提出，是一种灵活且无视梯度变化的方法。元启发式的优化算法主要可被分为四类：（1）基于进化的算法（2）基于群体智能的算法（3）基于人类的算法（4）基于物理和化学的算法下面我们逐步介绍一下上述四种主要的智能优化算法。1、基于
從疑開始·2021-02-23 16:37

slam入门——十四讲笔记（五）

6.2.2Gauss-Newton6.2.3Levenberg-Marquadt6.2.4小结6.3实践：Ceres6.3.1Ceres简介6.3.2安装Ceres6.3.3使用Ceres拟合曲线6.4实践：g2o6.4.1图优化理论简介
Undergoer_TW·2021-02-15 12:51

数据科学（Data science）学习清单（持续更新）

一、数学篇微积分线性代数概率论与数理统计离散数学最优化理论二、Python篇基础知识numpynumpy官方教程numpy中文教程pandaspandas官方教程pandas中文教程matplotlibmatplotlib
晓炜·2021-01-01 19:01

关于某个复现XLNet的广告文案

姑且不说，后面推荐课程课程一点帮助都没有，其实就是简单的优化理论。我们先说一下XLNet复现为啥不可能。我们先看XLNet源码。先看这个文件。自己看看多长，我记得打印出来是四十页。
雷姆是我的·2021-01-01 09:43

四阶代数余子式怎么求_线性代数复习

复习思路这次复习线性代数是为了给机器学习、数值分析、最优化理论三门课程打基础（这三门课程里面的矩阵使用实在太多、太深）。具体来说是要对行列式、矩阵运算、矩阵分解、线性变换里面的基础概念记忆。
皮卡学长·2020-12-31 08:40

第一周【任务2】无约束最优化

任务名称：极大似然估计以及优化理论任务简介：学习和阅读花书3-4章，观看并理解讲解视频（极大似然估计、无约束优化、有约束优化）任务详解：1、学习花书3-4章内容，重点关注：2、观看讲解视频，进一步理解下列知识点
西风瘦马1912·2020-11-29 03:32

初识机器学习_20201114

由此提出了“机器学习”这个概念，它是一个结合了多个学科如概率论，优化理论，统计等，最终在计算机上实现自我获取新知识，学习改善自己的这样一个研究领域。
我没有看到你的小熊·2020-11-17 10:05

优化理论与方法

优化问题：eg:，其中x在控制问题中被称为为控制决策变量；在数学优化中叫做决策量。无论是最优控制还是数学优化（数学规划）都是优化问题，即都是这样的形式。1.优化的两个基本问题确定一个优化的必要或/和充分的条件（建模）。设计一个数值程序（算法的设计+程序的实现）。遗传算法在弱优化或无约束优化问题中应用较好。2.优化的相关概念静态vs动态数学优化最优控制；连续vs离散数学优化的离散与连续问题控制问题的
每天进步一点点就好·2020-09-17 03:51

拉格朗日对偶

都是一些在优化理论中比较简单的问题或者一些特例，复杂的没见过，但是简单的刚接触都感觉如洪水猛兽一般，所以当真是学海无涯。
GoodShot·2020-09-15 16:39

多重背包之单调队列优化理论性总结

多重背包之单调队列优化：若用F[j]表示对容量为j的背包，处理完前i种物品后，背包内物品可达到的最大总价值，并记m=min(n,j/v)。放入背包的第i种物品的数目可以是：0、1、2……，可得：F[j]=max{F[i-1][j–k*v]+k*w}(09*v，并假设f(j)=F[i-1][j]，观察公式右边要求最大值的几项：j=6v:f(6v)、f(5v)+w、f(4v)+2w这三个中的最大值j=
DeepJay·2020-09-15 09:25

MySql学习(六) —— 数据库优化理论(二) —— 查询优化技术

逻辑查询优化包括的技术1)子查询优化2)视图重写3)等价谓词重写4)条件简化5)外连接消除6)嵌套连接消除7)连接消除8)语义优化9)非SPJ优化一、子查询优化1.什么是子查询：当一个查询是另一个查询的子部分时，称之为子查询。2.查询的子部分，包含的情况：a)目标列位置：子查询如果位于目标列，则只能是标量子查询，否则数据库可能返回类似“错误：子查询只能返回一个字段([Err]1242-Subque
weixin_30723433·2020-09-14 01:31

商业智能领域需要了解的数据库优化理论

由于数据仓库系统存储大量的历史数据和当前数据，并且数据量在不断增加，为了提高数据存储、检索的运行效率，建立一个优良的数据仓库系统，数据仓库设计人员和开发人员需要掌握Oracle优化理论方面的知识，这有助于设计
Elvis_dataguru·2020-09-13 18:56

统计学习以及监督学习概论

统计学习的特点特点1平台以计算机和网络为平台2研究对象以数据为研究对象3目的对数据进行预测和分析4方法构建模型并应用模型进行预测与分析5学科基础属于概率论，统计学，信息论，计算理论，最优化理论，计算机科学的交叉学科实现统计学习方法的步骤
南楚巫妖·2020-09-13 00:12

第一章 统计学习及监督学习概论（一）

统计学习以数据为研究对象，是数据驱动的学科；统计学习的目的是对数据进行预测与分析；统计学习以方法为中心，统计学习方法构建模型并依靠嗯与模型进行预测与分析；统计学习是概率论、统计学、信息论、计算理论、最优化理论及计算机科学等多个领域的交叉学科
xk_005·2020-09-12 23:24

机器学习数学全书，1900 页 PDF 下载

要搞机器学习离不开数学，本文分享一本来自宾夕法尼亚大学计算机系教授JeanGallier主编的面向机器学习的“数学全书”，内容涵盖线性代数、概率统计、拓扑学、微积分、最优化理论等面向ML的数学知识，共计
iOS_开发·2020-09-12 16:20
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他