梯度下降法

【机器学习】多项式回归

所以就有了多元线性回归，这个原理和一元线性回归的原理是一样的，没有很大的区别，使用的方法是梯度下降法，关于这个方法的实现可以参考一下数学书籍（因为我懒，嘻嘻）。
MatrixYg·2022-12-16 09:27

机器学习算法/模型——线性回归

线性回归0.本质和概论0.1本质0.2概念/术语1.假设函数2.损失函数：平方误差函数3.优化算法3.1梯度下降法：求解函数极值3.2标准方程（矩阵求解）4.代码实例4.1模型训练4.2模型可视化（如何将学习好的模型画出来
Robin_Pi·2022-12-16 09:27

PyTorch的自动求导

构建深度学习模型的基本流程就是：搭建计算图，求得损失函数，然后计算损失函数对模型参数的导数，再利用梯度下降法等方法来更新参数。
小小川_·2022-12-16 06:10

pytorch求导

前言：构建深度学习模型的基本流程就是：搭建计算图，求得损失函数，然后计算损失函数对模型参数的导数，再利用梯度下降法等方法来更新参数。
Tai Fook·2022-12-16 06:03

BP（Back Propagation，反向传播）算法

什么是反向传播（BP,BackPropagation）算法BPBPBP算法（即误差反向传播算法）是适合于多层神经元网络的一种学习算法,它建立在梯度下降法的基础上。
熙成成成成·2022-12-16 06:32

第二门课：改善深层神经网络：超参数调试、正则化以及优化（第二周）——优化算法

优化算法1.Mini-batch梯度下降2.理解mini-batch梯度下降3.指数加权平均数4.理解指数加权平均数5.指数加权平均的偏差修正6.动量Momentum梯度下降法7.RMSprop8.Adam
青春是首不老歌丶·2022-12-16 00:13

第一门课：神经网络和深度学习（第二周）——神经网络的编程基础

神经网络的编程基础1.二分类2.逻辑回归3.逻辑回归的代价函数4.梯度下降法5.导数6.计算图的导数计算7.逻辑回归中的梯度下降(※)8.m个样本的梯度下降9.向量化10.向量化的更多例子11.向量化logistic
青春是首不老歌丶·2022-12-16 00:42

深度学习框架TensorFlow系列之（五）优化器3

梯度下降法的的目标是在梯度的相反方向进行模型参数的更新，从几何学来说，就是沿着斜率的
秃顶的码农·2022-12-15 22:13

优化器

比如神经网络中可以采取最基本的梯度下降法。
一只小团子·2022-12-15 22:42

Ng深度学习课程-第二课第二周笔记摘要

Mini-batch梯度下降指数加权平均数指数加权平均的偏差修正动量梯度下降法（GradientdescentwithMomentum）RMSpropAdam学习率衰减(Learningratedecay
bebr·2022-12-15 14:16

NNDL 作业12：第七章课后题

证明在标准的随机梯度下降中，权重衰减正则化和编辑正则化的效果相同.并分析这一结论在动量法和Adam算法中是否依然成立全面总结网络优化习题7-1在小批量梯度下降中，试分析为什么学习率要和批量大小成正比在迷你批量梯度下降法中
uvuvuvw·2022-12-15 09:33

利用感知机实现鸢尾花分类问题

第一种是根据随机梯度下降法编写算法来训练数据，直到找到分离的超平面。第二种将采用sklearn包中的Perceptron（感知机）类实现。使用最经典的鸢尾花数据集：鸢
欢脱的婷子·2022-12-15 08:36

单独开一贴个人认为是编译器缺陷希望有人提交给微软

什么是梯度下降法梯度下降法GradientDescent1.不是一个机器学习算法2.是一种基于搜索的最优化方法3.作用：最小化一个损失函数4.梯度上升法：最大化一个效用函数并不是所有函数都有唯一的极值点二
awulei·2022-12-15 07:00

机器学习-回归模型评估及参数调优

目录1.参数与超参数2.调参2.1网格搜索GridSearchCV()2.2随机搜索对模型超参数进行调优1.参数与超参数参数：最小二乘法或者梯度下降法等最优化算法优化出来的数。
疯子书生z·2022-12-14 16:00

机器学习--梯度下降与一元线性回归

目录梯度下降基本概念梯度下降步骤批量梯度下降(BGD)随机梯度下降(SGD)一元线性回归线性回归概念原理引入代价函数公式推导代码一元函数多元函数梯度下降基本概念梯度下降法，又名最速下降法是求解无约束最优化问题最常用问题的方法
再见--不见·2022-12-14 16:27

机器学习----回归与最优化的区别与联系

一.最优化-寻找最小值1.梯度下降法a.批量梯度下降法，b.随机梯度下降法，c.小批量梯度下降法通过梯度的处理来决定下次采样的位置2.牛顿法3.启发式如遗传算法，通过选择、交叉、变异，来选择下次采样的位置
追梦苦旅·2022-12-14 16:53

数据科学基础复习2

*凸优化智能优化算法遗传算法pso粒子群优化算法机器学习初探分类模型评估K折叠交叉验证(K-foldcrossvalidation)二分类问题特征工程数据预处理特征提取特征选择特征降维简答题(1)简述梯度下降法的关键步骤
IIKY·2022-12-14 15:11

目标检测常用的损失函数

L1损失(均方误差MSE)优点：各点都连续光滑，方便求导，具有较为稳定的解缺点：不是特别的稳健，因为当函数的输入值距离中心值较远的时候，使用梯度下降法求解的时候梯度很大，可能导致梯度爆炸。
多动的老鼠·2022-12-14 11:14

优化器模块

一、梯度下降法梯度下降法根是最基本的优化算法。
沙小菜·2022-12-14 09:03

几种优化问题求解算法（梯度下降法、牛顿法、拟牛顿法、共轭梯度法等）

我们每个人都会在我们的生活或者工作中遇到各种各样的最优化问题，比如每个企业和个人都要考虑的一个问题“在一定成本下，如何使利润最大化”等。最优化方法是一种数学方法，它是研究在给定约束之下如何寻求某些因素(的量)，以使某一(或某些)指标达到最优的一些学科的总称。随着学习的深入，博主越来越发现最优化方法的重要性，学习和工作中遇到的大多问题都可以建模成一种最优化模型进行求解，比如我们现在学习的机器学习算法
猫和大海@—@·2022-12-14 07:16

常见的几种最优化方法（梯度下降法、牛顿法、拟牛顿法、共轭梯度法等）

转载，原文见：http://www.cnblogs.com/maybe2030/p/4751804.html我们每个人都会在我们的生活或者工作中遇到各种各样的最优化问题，比如每个企业和个人都要考虑的一个问题“在一定成本下，如何使利润最大化”等。最优化方法是一种数学方法，它是研究在给定约束之下如何寻求某些因素(的量)，以使某一(或某些)指标达到最优的一些学科的总称。随着学习的深入，博主越来越发现最优
大道上的头陀·2022-12-14 07:45

神经网络与深度学习：人工神经网络（下）

人工神经网络（下）1.小批量梯度下降法1.1批量梯度下降1.2随机梯度下降1.3小批量梯度下降2.梯度下降法的优化2.1小批量样本的选择2.2批量大小2.3学习率2.4梯度3.Keras和tf.Keras4
Twinkle1231·2022-12-14 01:26

机器学习算法：波士顿房价预测 | 黑马程序员

学习目标：通过案例掌握正规方程和梯度下降法api的使用1案例背景介绍数据介绍给定的这些特征，是专家们得出的影响房价的结果属性。我们此阶段不需要自己去探究特征是否有用，只需要使用这些特征。
黑马程序员官方·2022-12-14 00:09

人工神经网络/ANN简介

2.人工神经网络和生物神经元结构对应的理解3.什么是梯度下降法，在神经网络上如何用于调节权重？4.为什么神经网络要进行归一化处理？
Mr. 邹·2022-12-13 21:13

回归，逻辑回归，线性判别的python实现-DataWhale吃瓜教程-task02

思路不同推出同一个公式最小二次法是均方误差最小化进行模型求解，极大似然估计则是利用了联合分布及似然函数得到公式$E_{(w,b)}=$利用最优化的思路当$E_{(w,b)}=$最小时w,b的值求解方法包括梯度下降法
zaprily·2022-12-13 21:32

使用BP网络逼近函数-matlab

当在输出层得不到期望的输出时，则转向反向传播，将误差信号按照连接通路反向计算，使用梯度下降法来调整每一层神经元的权值w,以此来减小误差。
啊哦小小小小萌·2022-12-13 19:08

python 绘制损失函数曲线_PyTorch中的损失函数实例图解

为了使其最合适,我们将使用梯度下降法更新其参数,但是在此之前,它需要你了解损失函数。因此,我们的目标是找到适合此数据的线的参数。
weixin_39634237·2022-12-13 09:47

归一化

提高梯度下降法求解最优解的速度归一化有可能提高精度一些分类器需要计算样本之间的距离（如欧氏距离），例如KNN。
jackriper·2022-12-13 09:40

神经网络高维互信息计算Python实现（MINE）

“Mutualinformationneuralestimation.”InternationalConferenceonMachineLearning.2018.利用神经网络的梯度下降法可以实现快速高维连续随机变量之间互信息的估计
Reacubeth·2022-12-13 09:05

机器学习笔记(菜鸟版

不只是有一个参数解释图有点丑梯度下降emm挺好理解的，那我就说下计算方法吧而这个梯度下降法里面a这个参数代表的是每次下降的
别卷了好吗·2022-12-13 08:18

matlab实现机器学习算法-回归分析

matlab机器学习算法-回归分析一、回归问题二、模型定义三、代价函数四、梯度下降方法实现线性回归1、梯度下降法原理2、模型求解五、正规方程法1、原理2、matlab实现：一、回归问题回归问题是指研究某一因变量
哆啦A梦PLUS·2022-12-12 23:47

最优化--梯度下降法（python）

目录一.基础二.一元函数求解（1）代码（2）结果（3）分析三.二元函数求解（1）代码（2）结果一.基础梯度下降法是一个一阶最优化算法，它需要用到函数的一阶导数/偏导。
世一渔·2022-12-12 17:27

机器学习--监督学习 —— 回归模型

这里写目录标题监督学习——回归模型线性回归模型线性回归模型最小二乘法求解线性回归单线性回归（最小二乘法）多元线性回归梯度下降法求解线性回归简单线性回归（梯度下降法）线性回归调sklearn库实现**回归分析
猪三岁·2022-12-12 13:39

线性回归的代价函数，梯度下降

2.梯度下降法：参数要同时更新，α是学习率通过梯度下降不断更新参数θ，学习率一般不是固定值，一般使用自适应学习率来更好的找
好难难ss·2022-12-12 13:00

Adam优化算法(Adam optimization algorithm)

初始化2.在第t次迭代中，用mini-batch梯度下降法计算出dw和db3.计算Momentum指数加权平均数4.用RMSprop进行更新5.计算Momentum和RMSprop的修正偏差6更新权重其中
说好今夜不点烟·2022-12-12 09:04

NNDL 作业12：第七章课后题

证明在标准的随机梯度下降中，权重衰减正则化和编辑正则化的效果相同.并分析这一结论在动量法和Adam算法中是否依然成立第七章总结ref习题7-1在小批量梯度下降中，试分析为什么学习率要和批量大小成正比在迷你批量梯度下降法中
cdd04·2022-12-12 09:30

一元变量线性回归（房价预测） Python代码

文中使用了梯度下降法和最小二乘法两种方法去求解。
襟铭心缘·2022-12-12 07:30

用tensor实现线性回归

表达式y=3+2加上一些噪音数据得到另一个数据y构建一个机器学习模型，学习表达式y=+b,利用数组x，y的数据为训练数据采用梯度下降法，通过多次迭代，学习到w，b的值#损失函数Loss=0.5(+b-自动计算梯度
可怜又无助的迪迪迪·2022-12-12 07:22

什么是Batch，什么是Epoch？在训练模型的时候经常看到的参数，自己的见解。

1、首先我们要大概了解一下什么是梯度下降法：梯度下降法的基本思想可以类比为一个下山的过程。假设这样一个场景：一个人被困在山上，需要从山上下来(找到山的最低点，也就是山谷)。
brains_boom·2022-12-11 23:34

深度学习中的epoch,batch_size,iterations含义解析

梯度下降法一切的一切，要从机器学习中的梯度下降法说起。梯度下降法是机器学习中经典的优化算法之一，用于寻求一个曲线的最小值。所谓梯度，即一条曲线的坡度或倾斜率，下降指代下降递减的过程。梯度下降法
wanghua609·2022-12-11 23:32

pytorch梯度下降函数_Pytorch入门教程05-梯度下降算法 | 文艺数学君

摘要之前我们讲了如何求梯度,如何使用Pytorch求解梯度.这里我们介绍梯度下降法,用一个例子,介绍如何优化参数.简介上一篇我们计算得到了各个系数(w1和w2)的梯度,这一篇我们介绍梯度下降法,来优化这些系数
weixin_39806679·2022-12-11 18:48

【深度学习】李宏毅2021/2022春深度学习课程笔记 - Deep Learning Introduction

文章目录一、深度学习的概念二、函数的类型三、深度学习的步骤3.1定义一个参数未知的函数表达式3.2定义一个损失函数3.3采用梯度下降法求解使得函数表达式的Loss最小的参数四、视频播放量预测案例4.1案例介绍和思路分析
WSKH0929·2022-12-11 17:32

PyTorch--线性回归

PyTorch–线性回归运用PyTorch模拟简单的线性回归利用随机梯度下降法更新参数w和b来最小化损失函数，最终学习到w和b的值。1.先导入库，产生随机数据，并加入了高斯白噪声。
stefan0559·2022-12-11 15:24

Tensorflow2.0建立神经网络

我们要找一个合适的w取值，让损失函数的值最小importtensorflowastfw=tf.Variable(tf.constant(5,dtype=tf.float32))#表明了哪个变量要进行优化lr=0.2#梯度下降法中用到的
取间·2022-12-11 14:31

机器学习与深度学习核心知识点总结

点击上方“小白学视觉”，选择加"星标"或“置顶”重磅干货，第一时间送达数学1.列举常用的最优化方法梯度下降法牛顿法，拟牛顿法坐标下降法梯度下降法的改进型如AdaDelta，AdaGrad，Adam，NAG
小白学视觉·2022-12-11 10:32

逻辑回归 logit

lipengcn/article/details/49592221机器学习公开课：http://www.cnblogs.com/python27/p/MachineLearningWeek03.html逻辑回归梯度下降法详解
weixin_30722589·2022-12-11 10:40

CV计算机视觉核心03-初步认识机器学习（线性回归模型、梯度下降法、线性回归模型解决数字识别问题(没用auto grad)、逻辑回归模型sigmoid、作业：线性回归解决数字识别auto grad）

CV计算机视觉核心03-初步认识机器学习（线性回归模型、梯度下降法、区分一下回归模型和分类模型、线性回归模型解决数字识别问题（没有使用autograd）、逻辑回归模型（sigmoid函数）、如何使用自动梯度计算
Henrik698·2022-12-11 05:11

对数几率回归模型

不同的地方是周志华书本上线性回归模型中参数求解方法是最小二乘法（说白了就是求导取极值），当然也可以用梯度下降法。
臭小子222·2022-12-11 01:42

深度学习中的batch_size的大小对学习效果的影响

选择一个适中的BatchSize值当然可以，这就是批梯度下降法(Mini-batchesLearning)。因为如果
NLP蜗牛·2022-12-10 21:45

batch size 训练时间_batch_size是否越大越好？

当初随机梯度下降法和mini_batch梯度下降法的面世，是为了优化批量梯度下降法计算效率缓慢且对gpu显存要求较高的问题。那么，在显存容量支持的前提下，是否batch_size越大越好呢?也不是的。
666齐乐家园·2022-12-10 21:44
上一页 15 16 17 18 19 20 21 22 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他