共轭

机器学习：LDA_数学基础_2：贝叶斯数学：先验分布的选择

先验信息确定先验分布主观概率对事件似然比专家意见历史资料无信息先验分布贝叶斯假设离散均匀分布有限区间的均匀分布广义分布共轭先验分布在已知样本的情况下，为了理论的需要，常常选择参数的分布为共轭先验分布最大熵先验分布无信息
LandscapeMi·2020-07-02 12:55

共轭梯度法（Conjugate Gradient）

共轭梯度法（ConjugateGradient）是介于最速下降法与牛顿法之间的一个方法，它仅需利用一阶导数信息，但克服了最速下降法收敛慢的缺点，又避免了牛顿法需要存储和计算Hesse矩阵并求逆的缺点，共轭梯度法不仅是解决大型线性方程组最有用的方法之一
MAUM·2020-07-02 11:40

坐标变换(8)—复特征值与旋转

1.共轭复特征值设AAA是n×nn\timesnn×n的实矩阵，Ax‾=Aˉxˉ=Axˉ\overline{Ax}=\bar{A}\bar{x}=A\bar{x}Ax=Aˉxˉ=Axˉ假设λ\lambdaλ
lyf5231·2020-07-02 07:07

共轭对称序列和共轭反对称序列

共轭是针对复数而言的，如果两个复数的实部相等，其虚部为相反数，那么这两个复数就是共轭的。在公式上表示时，共轭使用*来表示，如如果满足条件如下：则称为共轭对称序列，记为:。
iteye_4185·2020-07-02 04:37

常见矩阵：对称矩阵、Hermite矩阵、正交矩阵、酉矩阵、奇异矩阵、正规矩阵、幂等矩阵

1、对称矩阵（文献【1】第40页）其中上标T表示求矩阵的转置（文献【1】第38-39页）2、Hermite矩阵（文献【2】第97页）其中H表示求矩阵的复共轭转置：（文献【2】第96页）Hermite阵是对称阵概念的推广
irober·2020-07-02 04:28

最优化方法——最速下降法，阻尼牛顿法，共轭梯度法

最优化方法——最速下降法，阻尼牛顿法，共轭梯度法目录最优化方法——最速下降法，阻尼牛顿法，共轭梯度法1、不精确一维搜素1.1Wolfe-Powell准则2、不精确一维搜索算法计算步骤3、最速下降法3.1
敲键盘的钢琴师·2020-07-02 03:12

2018年1月2日

代入频率学派和贝叶斯学派的分歧后进一步理解了共轭分布和beta分布的意义，也明白了beta分布作为二项分布的先验
真昼之月·2020-07-02 00:27

负频率的解释

其负频率和正频率是共轭的。傅里叶变换，可以将一个信号分解为多个exp(jwt)之和。如果我们把它放在复平面和时间组成的三维空间中。
define_us·2020-07-01 22:13

建模中常用的30各MATLAB程序和函数

^b数组乘方-a负号’共轭转置.'一般转置3关系运算符==等于大于=大于或等于~=不等于4常用内部数学函数指数函数exp(x)以e为底数对数函数log(x)自然对数，即以e
「已注销」·2020-07-01 13:14

先验分布，后验分布，共轭分布的关系

先考虑一下我们是如何解决一个概率问题的：在一个实际问题中我们通常是根据经验选出一个模型，例如一个抛硬币可以抽象为伯努利分布（0-1分布）的模型，人的身高分布可以抽象为正态分布的模型，然后根据数据推算出模型的参数。而这个选取的模型就决定了似然函数p(X|θ)的形式。例如抛硬币模型：f(k;n,p)=Pr(K=k)=(nk)pk(1−p)n−k（参数为k），身高分布模型：f(x)=1σ2π√e−(((
PKU_Jade·2020-07-01 12:49

matlab常用的基本数学函数

abs(x):纯量的绝对值或向量的长度angle(z):复数z的相角（Phaseangle)sqrt(x):开平方real（z):复数z的实部image（z)：复数z的虚部conj(z):复数z的共轭复数
Jm990407·2020-07-01 10:04

正交信号的理解

信号是信息的载体，实际的信号总是实的，但在实际应用中采用复信号却可以带来很大好处，由于实信号具有共轭对称的频谱，从信息的角度来看，其负频谱部分是冗余的，将实信号的负频谱部分去掉，只保留正频谱部分的信号，
twjy1314·2020-07-01 04:29

Conjugate gradient method

共轭梯度法。一种求解数学特定线性方程组Ax=b的数值解的迭代方法。要求矩阵A对称（symmetric）且正定（positivedefinite）。
Qinginging·2020-07-01 03:32

最优化：拟牛顿法、最速下降法、共轭梯度法、信赖域法、协同优

最优化理论与算法是一个重要的数学分支，它所研究的问题是讨论在众多的方案中什么样的方案最优以及怎样找出最优方案。这类问题普遍存在。例如，工程设计中怎样选择设计参数，使得设计方案既满足设计要求又能降低成本；资源分配中，怎样分配有限资源，使得分配方案既能满足各方面的基本要求，又能获得好的经济效益；生产计划安排中，选择怎样的计划方案才能提高产值和利润；原料配比问题中，怎样确定各种成分的比例，才能提高质量，
kunlong0909·2020-07-01 02:03

凸优化之优化、对偶、KKT-七月算法（julyedu.com）4 月机器学习算法班学习笔记

优化一般优化问题的基本形式凸优化的基本形式共轭函数共轭函数是凸函数对偶问题拉格朗日函数拉格朗日对偶函数KKT条件小结优化一般优化问题的基本形式minimizef0(x),x∈Rns.t.fi(x)≤0,
卖小孩的咖啡·2020-06-30 17:17

机器学习中常见的优化方法：梯度下降法、牛顿法拟牛顿法、共轭梯度法、拉格朗日乘数法

机器学习中常见的优化方法：梯度下降法、牛顿法拟牛顿法、共轭梯度法、拉格朗日乘数法主要内容梯度下降法牛顿法拟牛顿法共轭梯度法拉格朗日乘数法  许多机器学习算法，往往建立目标函数（损失函数+正则项），通过优化方法进行优化
zhihua_oba·2020-06-30 16:48

无约束最优化

www.voidcn.com/blog/baimafujinji/article/p-5778836.html一维搜索进退法确定区间，区间消去法、黄金分割法、二次插值法确定极值梯度下降、最速下降、牛顿、拟牛顿、共轭梯度牛顿法
klory·2020-06-30 10:50

《共轭梯度法》读书笔记（二）——共轭方向法

共轭方向法的intuition这就引出了共轭方向法(ConjugateDirections)。一种理想但无法实现的共轭梯度法我们选择一组正交的搜索方向，记为dj(j=1...n)dj(j=1..
yucong96·2020-06-30 10:22

凸优化 - 3 - Jensen不等式、共轭函数、Fenchel不等式

本总结是是个人为防止遗忘而作，不得转载和商用。前提说明：为了方便查阅，我将整个凸优化的内容分成了很多部分，因为后面的部分用到了前面的知识，所以，如果你的目的是查看后面的内容但对前面的某个知识点不甚了解的话可以根据标题查看前面的部分。Jensen不等式还记得凸函数的定义吗？也就是这个公式：f(θx+(1-θ)y)≤θf(x)+(1-θ)f(y)用大白话说的话就是：函数图像在线段的下方。其实这个就是J
血影雪梦·2020-06-30 03:31

如何形象地理解四元数？

如下图所示：此图中,那么与此相对应的四元数（下三行式子都是一个意思，只是不同的表达形式）这时它的共轭（下三行式子都是一个意思，只是不同的表达形式），如果你想算一个点在这个
工程人在路上·2020-06-30 02:28

自然语言处理 第七期

传统机器学习–LDApLSA、共轭先验分布；LDA主题模型原理LDA应用场景LDA优缺点LDA参数学习使用LDA生成主题特征，在之前特征的基础上加入主题特征进行文本分类一、pLSA、共轭先验分布；LDA
xh999bai·2020-06-29 23:00

计算机视觉中的数学方法——5.2 圆环点与摄像机内参数

5.2圆环点与摄像机内参数5.2.1内参数的约束方程5.2.2确定圆环点的图像正方形两个圆圆与直线平面相似图形5.2.3圆环点与其正交方向例子从圆柱的图像标定内参数5.2.1内参数的约束方程共轭ptCq
YS_Wang·2020-06-29 15:22

机器学习、深度学习中常用的优化算法详解——梯度下降法、牛顿法、共轭梯度法

一、梯度下降法1、总述：在机器学习中，基于基本的梯度下降法发展了三种梯度下降方法，分别为随机梯度下降法，批量梯度下降法以及小批量梯度下降法。（1）批量梯度下降法（BatchGradientDescent，BGD）BGD得到的是一个全局最优解，但是批量梯度下降法在更新每一个参数时，都需要所有的训练样本，如果样本的数量很大，那么可想而知这种方法的迭代速度会相当的慢。从迭代的次数上来看，BGD迭代的次数
马苏比拉米G·2020-06-29 13:16

概率分布

文章首先复习了一下伯努利分布（掷硬币），扩展到二项分布（多次掷硬币），并顺势延伸到二项分布似然函数的共轭分布——β分布。由于β分布与二项分布的似然函数共轭，二者
阿米尔的救赎·2020-06-29 11:00

BP神经网络参数设置及实例

网络的训练函数训练方法训练函数梯度下降法traingd有动量的梯度下降法traingdm自适应lr梯度下降法traingda自适应lr动量梯度下降法traingdx弹性梯度下降法trainrpFletcher-Reeves共轭梯度法
A_tianci_O·2020-06-29 04:37

【python基础】——python 复数运算

比如：>>>a=complex(2,4)>>>b=3-5j>>>a(2+4j)>>>b(3-5j)>>>对应的实部、虚部和共轭复数可以很容易的获取。
Teingi·2020-06-28 23:08

共轭梯度法详细推导分析

共轭梯度法是一种经典的优化算法。算法求解速度较快，虽然比梯度下降法复杂，但是比二阶方法简单。
贰锤·2020-06-28 20:04

共轭梯度

共轭梯度标签（空格分隔）：数值优化线性代数这篇文章最早是在作业部落写的，但是没什么人访问，所以这里补录一下本文介绍和总结共轭梯度(conjugategradient)算法的如下内容：共轭梯度算法的背景和由来梯度算法的几何理解和共轭梯度算法的流程基于
pp菌·2020-06-28 19:23

matlab-基础 复数 实部、虚部、模、共轭、辐角

2019独角兽企业重金招聘Python工程师标准>>> matlab:R2018a64bit   OS:Windows10x64typesetting:Markdown  blog:my.oschina.net/zhichengjiu  gitee:gitee.com/zhichengjiu codeclearclcx=complex(1,3)%取复数的实部的函数real(x)%取复数的虚部的函数
weixin_34368949·2020-06-28 18:11

一元二次方程求解

若该方程有两个不相等实根，首先输出1，换行，然后从小到大输出两个实根，换行；若该方程有两个相等实根，首先输出2，换行，然后输出这个这个实根，换行；若该方程有一对共轭复根，输出3，换行；若该方程有无解，输出
weixin_34318326·2020-06-28 16:29

常见的几种最优化方法（梯度下降法、牛顿法、拟牛顿法、共轭梯度法等）

我们每个人都会在我们的生活或者工作中遇到各种各样的最优化问题，比如每个企业和个人都要考虑的一个问题“在一定成本下，如何使利润最大化”等。最优化方法是一种数学方法，它是研究在给定约束之下如何寻求某些因素(的量)，以使某一(或某些)指标达到最优的一些学科的总称。随着学习的深入，博主越来越发现最优化方法的重要性，学习和工作中遇到的大多问题都可以建模成一种最优化模型进行求解，比如我们现在学习的机器学习算法
weixin_30947043·2020-06-28 02:45

用python做贝叶斯A/B测试 — 贝叶斯A/B测试入门 以及“共轭先验”是什么？

所以，现在，两个重要的知识点是A/B测试和“共轭先验”。详细请继续阅读我的博客:http:
David_9·2020-06-27 18:53

几种常用的优化方法，梯度下降法、牛顿法，拟牛顿法，共轭梯度法解析

感想本文介绍了大家熟知的梯度下降法，还介绍了其它的优化方法，大家可以看到一些对比，和少量的公式推导，这篇博客主要来源于机器之心，链接已经给出，公式我都推过了，没什么问题，最重要的是动笔推导，我把内容做了进一步的完善，希望帮助到读者理解。问题的形式化神经网络的学习过程可以形式化为最小化损失函数问题，该损失函数一般是由训练误差和正则项组成。误差项会衡量神经网络拟合数据集的好坏，也就是拟合数据产生的误差
农民小飞侠·2020-06-27 12:47

相关和卷积

连续函数(信号)f和g的相关定义为：(f⋆g)(τ)=def∫∞−∞f∗(t)g(t+τ)dt＝∫∞−∞f∗(t′−τ)g(t′)dt′其中f∗表示f的复共轭，τ表示位移。
voyagflyer·2020-06-27 11:41

一文通透优化算法：从随机梯度、随机梯度下降法到牛顿法、共轭梯度

一文通透优化算法：从随机梯度、随机梯度下降法到牛顿法、共轭梯度1什么是梯度下降法经常在机器学习中的优化问题中看到一个算法，即梯度下降法，那到底什么是梯度下降法呢？
v_JULY_v·2020-06-27 10:19

OFDM的MATLAB仿真

星座图对于判断调制方式的误码率有很直观的作用构造共轭时间－载波矩阵，以便应用所谓的RCC，ReducedComputationalComplexity算法，即ifft之后结果为实数保护间隔减少ISI循环前缀减少
_Syaoran·2020-06-27 08:11

贝塔、伽马分布

相较于古典概率通过各种估计手段来确定参数的分布，贝叶斯学派则是使用后验概率来确定，为了方便计算后验概率，引入共轭先验分布来方便计算，这是后话了。那么一些常见的共轭后验分布有哪些呢？
sam-X·2020-06-26 23:43

傅里叶变化的本质：复数的实部和虚部的对应关系

但是设计到傅里叶变化的实部和虚部的问题的时候，发现教科书上一般来讲，只会介绍一句：如果f(x,y)是实函数，则它的傅里叶变化就是关于原点共轭对称的：F(u,v)=F*(-u,-v)也就是说傅里叶谱关于原点对称
路人甲ing..·2020-06-26 21:24

全局搜索算法：粒子群算法

序言前面讨论过一些迭代算法，包括牛顿法、梯度方法、共轭梯度方法和拟牛顿法，能够从初始点出发，产生一个迭代序列。很多时候，迭代序列只能收敛到局部极小点。
Watson Huw·2020-06-26 20:41

Matlab实现FR共轭梯度法

前一段时间学习了无约束最优化方法，今天用Matlab实现了求解无约束最优化问题的FR共轭梯度法。关于共轭梯度法的理论介绍，请参考我的另一篇文章无约束最优化方法学习笔记。
TomHeaven·2020-06-26 20:36

傅里叶变换(二维离散傅里叶变换)

离散二维傅里叶变换一常用性质：可分离性、周期性和共轭对称性、平移性、旋转性质、卷积与相关定理；（1）可分离性：二维离散傅里叶变换DFT可分离性的基本思想是DFT可分离为两次一维DFT。
开源学开源·2020-06-26 18:52

MATLAB复变函数

【课程收益】MATLAB复变函数计算MATLAB复变函数绘图第一章：MATLAB复变函数计算1.构造复数和复数矩阵9:072.复数运算-复数的实部和虚部、共轭复数3:393.复数运算-复数的模和辐角6:
tgzssir·2020-06-26 18:56

常见的几种最优化方法（梯度下降法、牛顿法、拟牛顿法、共轭梯度法等）

常见的几种最优化方法（梯度下降法，牛顿法，拟牛顿法，共轭梯度法等）我们每个人都会在我们的生活或者工作中遇到各种各样的最优化问题，比如每个企业和个人都要考虑的一个问题“在一定成本下，如何使利润最大化”等。
lmx225·2020-06-26 16:29

机器学习中优化算法论文合集

单机确定性优化算法共轭梯度法：https://nvlpubs.nist.gov/nistpubs/jres/049/jresv49n6p409_A1b.pdf坐标下降法：http://www.optimization-online.org
charles Jiang·2020-06-26 05:19

最全的机器学习中的优化算法介绍

这些常用的优化算法包括：梯度下降法（GradientDescent），共轭梯度法（ConjugateGradient），Momentum算法及其变体，牛顿法和拟牛顿法（包括L-BFGS），AdaGrad
NirHeavenX·2020-06-26 04:48

梯度下降法、随机梯度下降法、批量梯度下降法及牛顿法、拟牛顿法、共轭梯度法

http://ihoge.cn/2018/GradientDescent.htmlhttp://ihoge.cn/2018/newton1.html引言李航老师在《统计学习方法》中将机器学习的三要素总结为：模型、策略和算法。其大致含义如下：模型：其实就是机器学习训练的过程中所要学习的条件概率分布或者决策函数。策略：就是使用一种什么样的评价，度量模型训练过程中的学习好坏的方法，同时根据这个方法去实施
ihoge·2020-06-25 20:40

进化计算读书笔记（一）

传统的求解方法有牛顿法、最速下降法、拟牛顿法、共轭梯度法等。由于传统优化方法通常要用相关系数的导数信息，而这些导数信息时由极限确定的，只能反映相关函数的局部特征，
晓风wangchao·2020-06-25 18:20

小波变换和小波包变换

)与一个时频域上具有良好局部性质的小波函数ψ(t)ψ(t)的内积：Wf(a,b)==1a−−√ψ∗(t−ba)dtWf(a,b)==1aψ∗(t−ba)dt式中，表示内积；bb为位移因子；∗∗表示复数共轭
赵至柔·2020-06-25 16:25

快速傅里叶变换的C语言实现

快速傅里叶变换(FFT)利用了旋转因子e−j2πNe^{-j\frac{2\pi}{N}}e−jN2π的周期性、共轭对称性以及可约性极大简化了DFT的计算量，具体可以查阅清华大学出版社数字信号处理程佩青第四版第四章
qq_28560721·2020-06-25 03:37

深度学习必懂的13种概率分布

概率分布概述共轭意味着它有共轭分布的关系。在贝叶斯概率论中，如果后验分布p（θx）与先验概率分布p（θ）在同一概率分布族中，则先验和后验称为共轭分布，先验称为似然函数的共轭先验。
机器学习算法与Python学习-公众号·2020-06-25 03:01
上一页 12 13 14 15 16 17 18 19 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他