L-BFGS

L-BFGS算法

为了解决这个问题，就有了L-BFGS算法。  Contents   1.L-BFGS
ACdreamers·2015-03-29 18:00

机器学习优化算法L-BFGS及其分布式实现

最近做的科研项目需要用到L-BFGS，这段时间看了不少关于L-BFGS的博客以及论文，在此进行一下小小的总结。
大豆芽·2015-03-14 22:41

机器学习优化算法—L-BFGS

关于优化算法的求解，书上已经介绍了很多的方法，比如有梯度下降法，坐标下降法，牛顿法和拟牛顿法。梯度下降法是基于目标函数梯度的，算法的收敛速度是线性的，并且当问题是病态时或者问题规模较大时，收敛速度尤其慢（几乎不适用）；坐标下降法虽然不用计算目标函数的梯度，但是其收敛速度依然很慢，因此它的适用范围也有局限；牛顿法是基于目标函数的二阶导数（海森矩阵）的，其收敛速度较快，迭代次数较少，尤其是在最优值附近
chenzhijay·2014-11-27 09:21

马尔可夫逻辑网络

权重是通过使用L-BFGS算法的优化拟似然法学习的，
fkyyly·2014-11-08 10:38

deep learning Softmax分类器（L-BFGS,CG,SD）

前言：    在最优化计算方法中，我已经讲到了机器学习常用的一些参数优化的方法，如梯度法，共轭梯度法，牛顿法，拟牛顿法，在《最优化计算方法》板块，我都用回归分析比较了这些参数优化的方法，从现在开始，我将把这些参数优化的方法用来训练分类器。 在本节中，我讲介绍softmax分类器，该分类器是在logistic回归模型在多分类问题上的推广。在多分类问题中，分类标签y可以取两个以上的值。softmax分
hlx371240·2014-10-12 09:00

L-BFGS的原理及在回归分析中的应用

后续会讲到L-BFGS在模式分类中的应用。
hlx371240·2014-10-10 22:00

优化算法L-BFGS资源索引

非常赞的一组介绍L-BFGS的博文： http://blog.csdn.net/itplus/article/details/21896453 维基百科： http://en.wikipedia.org
cherishLC·2014-09-29 15:00

Softmax回归——识别MINST数据库

L-BFGS算法可以保证收敛得到全局最
u012428391·2014-08-12 16:00

牛顿法及拟牛顿法（L-BFGS）

为了搞懂L-BFGS，发现资料很少。注意点：在牛顿法中，当H（x）是正定矩阵的时候，函数f(x)的极值为极小值。由于很多H(x)都是非正定的，所以引入了拟牛顿法。
haimengao·2014-06-09 16:00

大规模优化算法 - LBFGS算法

本文主要通过对于无约束最优化问题的一些常用算法总结，一步步的理解L-BFGS算法，本文按照最速下降法-牛顿法-共轭梯度法-拟牛顿法-DFP矫正-BFG
fennvde007·2014-05-31 14:00

大规模优化算法 - LBFGS算法

本文主要通过对于无约束最优化问题的一些常用算法总结，一步步的理解L-BFGS算法，本文按照最速下降法-牛顿法-共轭梯度法-拟牛顿法-DFP矫正-BFG
muye5·2014-04-22 16:58

对随机梯度下降的一些使用心得

这个也描述起来很简单，但是在使用中还是有一些trick才可以的，最近在做一个实验，由于L-BFGS的速度太慢所以选择了带Mini-batch的SGD，我来说下我的心得。
silence1214·2014-03-27 09:00

牛顿法与拟牛顿法学习笔记（五）L-BFGS 算法

在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。
peghoty·2014-03-24 00:00

牛顿法与拟牛顿法学习笔记（四）BFGS 算法

在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。
peghoty·2014-03-24 00:00

牛顿法与拟牛顿法学习笔记（三）DFP 算法

在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。
peghoty·2014-03-24 00:00

牛顿法与拟牛顿法学习笔记（二）拟牛顿条件

在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。
peghoty·2014-03-24 00:00

牛顿法与拟牛顿法学习笔记（一）牛顿法

在具体实现中，大多调用的是成熟的软件包做支撑，其中最常用的一个算法是L-BFGS。为了解这个算法的数学机理，这几天做了一些调研，现把学习过程中理解的一些东西整理出来。
peghoty·2014-03-24 00:00

日程计划

2014-3-22，周六）1.调查问卷（肖）2.胸章图案（李）3.林老师（夏）4.邮件（许）下周解决问题：1.岭回归、Regularized原因（许）2.conjugategradient、BFGS、L-BFGS
u013363719·2014-03-20 20:00

对优化算法的一些感想

1：今天早上阅读了onoptimizationmethodsfordeeplearning这篇paper，是andrewNG组的博士的一篇paper，这篇paper介绍了L-BFGS，CG（共轭梯度）和
silence1214·2014-03-19 11:00

L-BFGS(minFunc):Step direction is illegal

在使用minFunc实现的L-BFGS优化方法进行AutoEncoder时，提示Stepdirectionisillegal，解决方法如下：将图像的标准差归一化至1，即每个图像减去该图像的均值然后除以该图像的标准差
pymqq·2014-02-25 10:00
上一页 1 2 3 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他