Descent 第11页

机器学习中的数学(1)-回归(regression)、梯度下降(gradient descent)

·2015-10-31 09:57

机器学习第一课

在文中我们所要学的的算法主要有Linear Regression（线性回归），gradient descent（梯度下降法），normal equations（正规方程组），Locally w

·2015-10-31 08:04

机器学习第二课

上一个博文，我们讲了Linear Regression, gradient descent, normal equations和Locally weighted linear

·2015-10-31 08:04

自己动手开发编译器（七）递归下降的语法分析器

今天介绍的这种方法叫做递归下降（recursive descent）法，这是一种适合手写语法编译器的方法，且非常简单。

·2015-10-30 20:50

stanford机器学习实验1.2

线性拟合问题的迭代解法 batch gradient descent 梯度下降法，每次沿着梯度方向对于参数移动小的距离。

·2015-10-30 12:24

Boosting and Its Application in LTR

3.2 原理：Additive Modeling 4 Gradient Boosting Machine 4.1 理论基础：Numerical Optimization 4.1.1 steepest-descent

·2015-10-27 14:33

数值优化-梯度下降法

NG的课件1，引出常用的优化方法梯度下降法(gradient descent) 对于 ordinary least squares regression， cost

·2015-10-27 13:22

Stochastic Gradient Descent收敛判断及收敛速度的控制

　　要判断Stochastic Gradient Descent是否收敛，可以像Batch Gradient Descent一样打印出iteration的次数和Cost的函数关系图，然后判断曲线是否呈现下降且区域某一个下限值的状态

·2015-10-26 15:17

CheeseZH: Stanford University: Machine Learning Ex1:Linear Regression

the Cost function in Univirate/Multivariate Linear Regression; (2) How to comput the Batch Gradient Descent

·2015-10-26 15:13

Android字体高度的研究

Descent：字符底部到baseLine的距离。Leading：字符行间距。 Java代码 public class TestOnDraw extends Activity {

TT5267621·2015-10-07 09:00

batch gradient descent和stochastic/incremental gradient descent

题目：batchgradientdescent和stochastic/incrementalgradientdescent 由于斯坦福机器学习公开课的影响力，网上已有各种解析文章，但当我想找个程序时却没有搜索到，因此这里不再去谈具体内容，只给出个人编写的matlab代码。下面给出batchgradientdescent和stochastic/incrementalgradientde

jbb0523·2015-10-05 16:00

使用SGD(Stochastic Gradient Descent)进行大规模机器学习

本文转自：http://blog.csdn.net/pi9nc/article/details/12217535使用SGD(StochasticGradientDescent)进行大规模机器学习 1基于梯度下降的学习对于一个简单的机器学习算法，每一个样例包含了一个(x,y)对，其中一个输入x和一个数值输出y。我们考虑损失函数,它描述了预测值和实际值y之间的损失。预测值是我们选择从一函数族F中

Sunshine_in_Moon·2015-09-20 11:00

Stochastic gradient descent与Batch gradient descent

梯度下降（GD）是最小化风险函数、损失函数的一种常用方法，下面的h(x)是要拟合的函数，J(theta)损失函数，theta是参数，要迭代求解的值，theta求解出来了那最终要拟合的函数h(theta)就出来了。其中m是训练集的记录条数，j是参数的个数。梯度下降法函数function[kender]=steepest(f,x,e)，需要三个参数f、x和e,其中f为目标函数，x为初始点,e为终止

langb2014·2015-09-07 17:00

梯度下降（Gradient Descent）

www.cnblogs.com/LeftNotEasy/archive/2010/12/05/mathmatic_in_machine_learning_1_regression_and_gradient_descent.html2

tanyanzimo·2015-08-18 10:25

Supervised Descent Method and its Applications to Face Alignment

本方法是当前人脸对齐最流行的算法，速度很快，很稳定。下面我将介绍一下这篇文章的整体思路和相关细节。在介绍之前,先给出几个有用的链接:1.)本论文作者主页，形象地介绍了SDM的特点:http://xiong828.github.io/sdm.html2.)superviseddescentC++11版本的实现:http://patrikhuber.github.io/superviseddescen

xiamentingtao·2015-08-06 00:00

线性回归、梯度下降（Linear Regression、Gradient Descent）

转载请注明出自BYRans博客：http://www.cnblogs.com/BYRans/实例首先举个例子，假设我们有一个二手房交易记录的数据集，已知房屋面积、卧室数量和房屋的交易价格，如下表：假如有一个房子要卖，我们希望通过上表中的数据估算这个房子的价格。这个问题就是典型的回归问题，这边文章主要讲回归中的线性回归问题。线性回归（LinearRegression）首先要明白什么是回归。回归的目的

BYRans·2015-08-03 19:00

线性回归、梯度下降（Linear Regression、Gradient Descent）

转载请注明出自BYRans博客：http://www.cnblogs.com/BYRans/ 实例首先举个例子，假设我们有一个二手房交易记录的数据集，已知房屋面积、卧室数量和房屋的交易价格，如下表：假如有一个房子要卖，我们希望通过上表中的数据估算这个房子的价格。这个问题就是典型的回归问题，这边文章主要讲回归中的线性回归问题。线性回归（LinearRegression）首先

BYRans·2015-08-03 19:00

as3.0 TextField中单行文字内容垂直居中

图如下从图中可以看到，当为文字设定像素大小时，我们都可以从TextField中的文字空间信息取得两个信息Ascent与Descent,文字空间与边距的2px一般是固定的。

liangjingguo123·2015-07-15 14:24

as3.0 TextField中单行文字内容垂直居中

图如下从图中可以看到，当为文字设定像素大小时，我们都可以从TextField中的文字空间信息取得两个信息Ascent与Descent,文字空间与边距的2px一般是固定的。

liangjingguo123·2015-07-15 14:24

as3.0 TextField中单行文字内容垂直居中

图如下从图中可以看到，当为文字设定像素大小时，我们都可以从TextField中的文字空间信息取得两个信息Ascent与Descent,文字空间与边距的2px一般是固定的。

hello_world007·2015-07-15 14:24

梯度下降算法(Gradient descent)

Matlab代码：%parameter%梯度下降法,gradientdescent%heart_scale数据,%Iterationfuction:x(n+1)=x(n)-alpha*grad%f(x)=1/2*||y-Ax||^2,让f(x)最小%createdataA=rand(20);y=rand(20,1);x=rand(20,1);%initializex%parameteralpha=

Tsesdsdsdfsdf·2015-07-14 16:21

梯度下降法-gradient descent --实例解析

写作目的：发现很多机器学习算法中，多少涉及到迭代求解无约束函数的最值，故整理如下梯度下降法是求解无约束最优化问题的一种常用算法，具有实现简单的优点；无约束最优化问题，因为求解问题无约束，所以，我们可以用一种试探的算法：一个个值的试探，在解空间内总是能找到最有解，这种算法其实暗含了迭代的思想，但是试探这种算法盲目性比较大，导致其时间复杂度较高，结合已知信息：函数沿着梯度方向函数值上升最快，那么要求最

coder_oyang·2015-06-18 11:40

梯度下降法-gradient descent --实例解析

写作目的：发现很多机器学习算法中，多少涉及到迭代求解无约束函数的最值，故整理如下梯度下降法是求解无约束最优化问题的一种常用算法，具有实现简单的优点；无约束最优化问题，因为求解问题无约束，所以，我们可以用一种试探的算法：一个个值的试探，在解空间内总是能找到最有解，这种算法其实暗含了迭代的思想，但是试探这种算法盲目性比较大，导致其时间复杂度较高，结合已知信息：函数沿着梯度方向函数值上升最快，那么要求最

coder_oyang·2015-06-18 11:00

再谈最速下降法/梯度法/Steepest Descent

转自：http://www.codelast.com/?p=8006最速下降法（又称梯度法，或SteepestDescent），是无约束最优化领域中最简单的算法，单独就这种算法来看，属于早就“过时”了的一种算法。但是，它的理念是其他某些算法的组成部分，或者说是在其他某些算法中，也有最速下降法的“影子”。因此，我们还是有必要学习一下的。我很久以前已经写过一篇关于最速下降法的文章了，但是这里我还打算再

u014568921·2015-06-17 14:00

最速下降法/steepest descent，牛顿法/newton，共轭方向法/conjugate direction，共轭梯度法/conjugate gradient 及其他

转自：http://www.codelast.com/?p=2573在最优化的领域中，这“法”那“法”无穷多，而且还“长得像”——名字相似的多，有时让人觉得很迷惑。在自变量为一维的情况下，也就是自变量可以视为一个标量，此时，一个实数就可以代表它了，这个时候，如果要改变自变量的值，则其要么减小，要么增加，也就是“非左即右“，所以，说到“自变量在某个方向上移动”这个概念的时候，它并不是十分明显；而在自

u014568921·2015-06-17 14:00

android 文字尺寸（宽高）的测量

FontMetrics可以测量高度关于FontMetrics的几个重要属性的解析 1.ascent2.descent3.top4.bottom5.leading6.baseline理解这个是重点可以理解为是

IT_Transformers·2015-05-27 08:53

android 文字尺寸（宽高）的测量

FontMetrics可以测量高度关于FontMetrics的几个重要属性的解析 1.ascent2.descent3.top4.bottom5.leading6.baseline理解这个是重点可以理解为是

IT_Transformers·2015-05-27 08:00

动态规划——Minimum-sum descent（数塔问题）

题意：给出一个数塔，求出从顶层到底层所经过的数字的最小（或者最大）和。示例：解决方案：采用自底向上的动态规划方法，从最底层向上重构出新数塔，以最后一层为基础，从倒数第二层开始向上重新构造出新数塔，至顶层后唯一的一个数字就是最小值。在这个过程中，推出arr[i][j]=Min(arr[i][j]左孩子，arr[i][j]右孩子)+arr[i][j]，即：arr[i][j]=Min(arr[i+1][

u014174811·2015-05-25 21:00

[Android]Android字体高度的研究

Descent：字符底部到baseLine的距离。Leading：字符行间距。 Java代码 public class TestOnDraw extends Activity {

luo446718254·2015-05-15 15:00

androd之绘制文本（FontMetrics）

FontMetrics对象它以四个基本坐标为基准，分别为：・FontMetrics.top・FontMetrics.ascent・FontMetrics.descent・FontMetrics.bottom

fancylovejava·2015-03-27 15:00

笔记102--摘自爱哥03

其实是Paint的一个内部类，就定义了五个成员变量：top、ascent、descent、bottom、leading。Andro

caohuicong·2015-02-27 09:00

用TextPaint来绘制文字

它里面呢就定义了top,ascent,descent,bo

developer_Kale·2015-02-22 20:00

FontMetrics字体属性|Panit字体信息获取（笔记）

FontMetrics对象它以四个基本坐标为基准，分别为：・FontMetrics.top・FontMetrics.ascent・FontMetrics.descent・FontMetrics.bottom

abwbw·2014-11-25 17:35

使用SGD(Stochastic Gradient Descent)进行大规模机器学习

1基于梯度下降的学习对于一个简单的机器学习算法，每一个样例包含了一个(x,y)对，其中一个输入x和一个数值输出y。我们考虑损失函数,它描述了预测值和实际值y之间的损失。预测值是我们选择从一函数族F中选择一个以w为参数的函数的到的预测结果。我们的目标是寻找这样的函数,能够在训练集中最小化平均损失函数由于我们不知道数据的真实分布，所以我们通常使用来代替经验风险用来衡量训练集合的效果。期

wenyusuran·2014-11-03 10:00

[Android]Android字体高度的研究

Descent：字符底部到baseLine的距离。Leading：字符行间距。 Java代码 public class TestOnDraw extends Activity {

u013626215·2014-10-26 17:00

Android字符串进阶之三：字体属性及测量（FontMetrics）

(一)字体的几个参数，以AndroidAPI文档定义为准，见下图要点如下：1.基准点是baseline2.Ascent是baseline之上至字符最高处的距离3.Descent是baseline之下至字符最低处的距离

pangfc·2014-09-09 23:37

Android字符串进阶之三：字体属性及测量（FontMetrics）

(一)字体的几个参数，以AndroidAPI文档定义为准，见下图要点如下：1.基准点是baseline2.Ascent是baseline之上至字符最高处的距离3.Descent是baseline之下至字符最低处的距离

pangfc·2014-09-09 23:37

SDM（Supervised Descent Method）算法的简单实现

SupervisedDescentMethodforSolvingNonlinearLeastSquaresProblemsinComputerVision代码实现，貌似有问题，求交流！y=[1:3:28]; x=log(y); N=size(y,2); itercount=5; c=mean(x); tempx=ones(1,N); tempx=tempx*c; rs=zeros(1,iterc

todayq·2014-08-01 14:00

机器学习中的数学(1)-回归(regression)、梯度下降(gradient descent)

前言: 上次写过一篇关于贝叶斯概率论的数学，最近时间比较紧，coding的任务比较重，不过还是抽空看了一些机器学习的书和视频，其中很推荐两个：一个是stanford的machinelearning公开课，在verycd可下载，可惜没有翻译。不过还是可以看。另外一个是prml-patternrecognitionandmachinelearning,Bishop的一部反响不错的书，而且是2008年

wenyusuran·2014-06-27 17:00

回归(regression)、梯度下降(gradient descent)

转自LeftNotEasy http://leftnoteasy.cnblogs.com回归与梯度下降：回归在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locallyweighted回归，logistic回归，等等，这个将在后面去讲。用一个很简单的例子来说明回归，这个例子来自

u013035103·2014-06-21 21:00

Android字符串进阶之三：字体属性及测量（FontMetrics）

(一)字体的几个参数，以AndroidAPI文档定义为准，见下图要点如下：1.基准点是baseline2.Ascent是baseline之上至字符最高处的距离3.Descent是baseline之下至字符最低处的距离

hz_chenwenbiao_91·2014-06-18 11:00

大话梯度下降Gradient Descent

这篇文章转自辉神，学习之，加深理论深度。版权属于：Closure 原文地址：https://closure.blog.ustc.edu.cn/?p=19。正文如下：=======================================================================梯度下降法作为一种最优化算法，通常也称最速下降法，这种算法算得上机器学习里面求解各式mode

lavorange·2014-06-15 22:00

【Machine Learning实验1】batch gradient descent（批量梯度下降）和 stochastic gradient descent（随机梯度下降）

转自：http://blog.csdn.net/pennyliang/article/details/6998517批量梯度下降是一种对参数的update进行累积，然后批量更新的一种方式。用于在已知整个训练集时的一种训练方式，但对于大规模数据并不合适。随机梯度下降是一种对参数随着样本训练，一个一个的及时update的方式。常用于大规模训练集，当往往容易收敛到局部最优解。详细参见：AndrewNg的

WitsMakeMen·2014-06-09 12:00

梯度下降算法（Gradient Descent)

最近在搞论文，需要用梯度下降算法求解，所以重新整理分享在这里。主要包括梯度介绍、公式求导、学习速率选择、代码实现。梯度下降的性质：1.求得的解和选取的初始点有关2.可以保证找到局部最优解，因为梯度最终会减小为0，则步长与梯度的乘积会自动越来越小。梯度简介一个多元函数的在某点的梯度方向是函数值在该点增长最快的方向，即方向导数取最大值的方向。问题描述公式求导学习率选择假设要学习这么一个函数：那么损失函

u010367506·2014-05-05 23:00

Android 下paint各大方法小结

一.aint.ascent()和paint.descent()1.基准点是baseline2.ascent：是baseline之上至字符最高处的距离3.descent：是baseline之下至字符最低处的距离

进击的小黑·2014-04-15 10:57

随机梯度下降（Stochastic gradient descent）和批量梯度下降（Batch gradient descent ）的公式对比、实现对比

梯度下降（GD）是最小化风险函数、损失函数的一种常用方法，随机梯度下降和批量梯度下降是两种迭代求解思路，下面从公式和实现的角度对两者进行分析，如有哪个方面写的不对，希望网友纠正。下面的h(x)是要拟合的函数，J(theta)损失函数，theta是参数，要迭代求解的值，theta求解出来了那最终要拟合的函数h(theta)就出来了。其中m是训练集的记录条数，j是参数的个数。1、批量梯度下降的求解思路

pipisorry·2014-04-12 20:00

batch gradient descent（批量梯度下降）和 stochastic gradient descent（随机梯度下降）

批量梯度下降是一种对参数的update进行累积，然后批量更新的一种方式。用于在已知整个训练集时的一种训练方式，但对于大规模数据并不合适。随机梯度下降是一种对参数随着样本训练，一个一个的及时update的方式。常用于大规模训练集，当往往容易收敛到局部最优解。详细参见：AndrewNg的MachineLearning的课件（见参考1）可能存在的改进1）样本可靠度，特征完备性的验证例如可能存在一些

pipisorry·2014-04-12 16:00

机器学习系列（1）：线性回归（regression）和梯度下降（gradient descent）

前言：最近打算把机器学习的基本算法再梳理一下，看看能不能给我正在研究的DeepLearing找点突破口。这一篇主要介绍回归模型和梯度下降。 PS：由于本人比较懒，所以直接在纸上写下来了（字不好看，请见谅）！O(∩_∩)O~ 大家要是有什么问题请留言给我，希望可以共同学习！引用一段话，给写在纸上找点借口哈：《餐巾纸的背面》 “视觉化的思考是运用我们天生的观察能力---

hanzihan123·2014-03-13 13:00

Coordinate Descent Optimization (坐标下降优化方法)

申明：本文非笔者原创，原文转载自：http://blog.sina.com.cn/s/blog_890c6aa30100yhqy.html坐标下降优化方法是一种非梯度优化算法。为了找到一个函数的局部极小值，在每次迭代中可以在当前点处沿一个坐标方向进行一维搜索。在整个过程中循环使用不同的坐标方向。一个周期的一维搜索迭代过程相当于一个梯度迭代。坐标下降法基于最小化多变量目标函数可以通过每次沿一个方向最

ChenLee_1·2014-03-13 11:07

Coordinate Descent Optimization (坐标下降优化方法)

申明：本文非笔者原创，原文转载自：http://blog.sina.com.cn/s/blog_890c6aa30100yhqy.html坐标下降优化方法是一种非梯度优化算法。为了找到一个函数的局部极小值，在每次迭代中可以在当前点处沿一个坐标方向进行一维搜索。在整个过程中循环使用不同的坐标方向。一个周期的一维搜索迭代过程相当于一个梯度迭代。坐标下降法基于最小化多变量目标函数可以通过每次沿一个方向最

carson2005·2014-03-13 11:00

推荐频道

Descent

机器学习中的数学(1)-回归(regression)、梯度下降(gradient descent)

机器学习第一课

机器学习第二课

自己动手开发编译器（七）递归下降的语法分析器

stanford机器学习 实验1.2

Boosting and Its Application in LTR

数值优化-梯度下降法

Stochastic Gradient Descent收敛判断及收敛速度的控制

CheeseZH: Stanford University: Machine Learning Ex1:Linear Regression

Android字体高度的研究

batch gradient descent和stochastic/incremental gradient descent

使用SGD(Stochastic Gradient Descent)进行大规模机器学习

Stochastic gradient descent与Batch gradient descent

梯度下降（Gradient Descent）

Supervised Descent Method and its Applications to Face Alignment

线性回归、梯度下降（Linear Regression、Gradient Descent）

线性回归、梯度下降（Linear Regression、Gradient Descent）

as3.0 TextField中单行文字内容垂直居中

as3.0 TextField中单行文字内容垂直居中

as3.0 TextField中单行文字内容垂直居中

梯度下降算法(Gradient descent)

梯度下降法-gradient descent --实例解析

梯度下降法-gradient descent --实例解析

再谈 最速下降法/梯度法/Steepest Descent

最速下降法/steepest descent，牛顿法/newton，共轭方向法/conjugate direction，共轭梯度法/conjugate gradient 及其他

android 文字尺寸（宽高）的测量

android 文字尺寸（宽高）的测量

动态规划——Minimum-sum descent（数塔问题）

[Android]Android字体高度的研究

androd之绘制文本（FontMetrics）

笔记102--摘自爱哥03

用TextPaint来绘制文字

FontMetrics字体属性|Panit字体信息获取（笔记）

使用SGD(Stochastic Gradient Descent)进行大规模机器学习

[Android]Android字体高度的研究

Android字符串进阶之三：字体属性及测量（FontMetrics）

Android字符串进阶之三：字体属性及测量（FontMetrics）

SDM（Supervised Descent Method）算法的简单实现

机器学习中的数学(1)-回归(regression)、梯度下降(gradient descent)

回归(regression)、梯度下降(gradient descent)

Android字符串进阶之三：字体属性及测量（FontMetrics）

大话梯度下降Gradient Descent

【Machine Learning实验1】batch gradient descent（批量梯度下降） 和 stochastic gradient descent（随机梯度下降）

梯度下降算法（Gradient Descent)

Android 下paint各大方法小结

随机梯度下降（Stochastic gradient descent）和 批量梯度下降（Batch gradient descent ）的公式对比、实现对比

batch gradient descent（批量梯度下降） 和 stochastic gradient descent（随机梯度下降）

机器学习系列（1）：线性回归（regression）和梯度下降（gradient descent）

Coordinate Descent Optimization (坐标下降优化方法)

Coordinate Descent Optimization (坐标下降优化方法)

stanford机器学习实验1.2

再谈最速下降法/梯度法/Steepest Descent

【Machine Learning实验1】batch gradient descent（批量梯度下降）和 stochastic gradient descent（随机梯度下降）

随机梯度下降（Stochastic gradient descent）和批量梯度下降（Batch gradient descent ）的公式对比、实现对比

batch gradient descent（批量梯度下降）和 stochastic gradient descent（随机梯度下降）