小批量梯度下降

ACP-敏捷方法的实现

因为他们都符合精益思想的具体实例，都反映了“关注价值”、“小批量”、“消除浪费”。
旺财是只猫·2023-07-17 05:46

Tensorflow笔记 3.3 反向传播

概念反向传播训练模型参数，在所有参数上使用梯度下降，使NN模型在训练数据上的损失函数最小。损失函数预测值与已知答案的差距。
CCWUCMCTS·2023-07-17 04:34

神经网络初识-以MINST数据集和CIFAR10数据集为例

文章目录1什么是神经网络1.1神经元模型1.2感知机1.3多层神经网络1.4为什么要使用神经网络2全连接神经网络2.1简介2.2梯度下降2.2反向传播2.3代码实现3卷积神经网络3.1简介3.2代码实现总结
日常脱发的小迈·2023-07-17 02:25

动手学深度学习——线性回归（原理解释+代码详解）

目录1、线性回归2、线性回归模型2.1线性模型2.2损失函数2.2.1平方差损失函数2.2.2整个数据集上的损失函数2.3随机梯度下降2.4用模型进行预测3、线性回归的简单实现3.1生成数据集3.2读取数据集
緈福的街口·2023-07-16 22:29

动手学深度学习——softmax回归（原理解释+代码详解）

目录1.softmax回归1.1分类问题1.2网络架构1.3全连接层的参数开销1.4softmax运算1.5小批量样本的矢量化1.6损失函数1.6.1对数似然1.6.2softmax及其导数1.6.3交叉熵损失
緈福的街口·2023-07-16 22:29

动手学深度学习——图像分类数据集（代码详解）

目录1.图像分类数据集1.1读取数据集1.2读取小批量1.3整合所有组件1.4小结1.图像分类数据集这里采用Fashion-MNIST数据集torchvision：torch类型的可视化包，一般计算机视觉和数据可视化需要使用
緈福的街口·2023-07-16 22:59

线性回归梯度下降

一、linear伪代码实现importnumpyasnp"""训练模型：数据集为常量(固定),参数(theta)为自变量。--->训练参数(theta)预测模式：参数(theta)为常量(固定),数据集为自变量--->换数据集预测Y=X*theta--->X为常量，theta为自变量。此种形式是以数据集固定的形式----》去求参数thetaX-->sh:8*2为8个样本，两维特征(其中由一维为常数
我爱charming你·2023-07-16 21:05

深度学习常用激活函数总结

如果激活函数不可微，那就无法使用梯度下降方法更新参数非饱和性。饱和指在某些区间上激活函数的梯度接近于零，使参数无法更新取值范围有界。
chen_zn95·2023-07-16 18:42

动手学深度学习V2的笔记小记

自动求导两种方式：正向，反向内存复杂度：O(n)计算复杂度：O(n)线性回归梯度下降通过不断沿着反梯度方向更新参数求解两个重要的超参数是批量大小和学习率小批量随机梯度下降是深度学习默认的求解算法训练误差和泛化误差训练误差
骨子带刺·2023-07-16 16:27

那些关于自动驾驶的“完美童话”已经被戳穿！

2018年11月1日百度世界大会上，百度CEO李彦宏和一汽集团董事长徐留平携手宣布L4级别自动驾驶乘用车的量产计划：2019年小批量下线示范运行，2020年大批量生产，投入更多城市运营。
互联网策论·2023-07-16 12:41

链式法则 理解应用

为啥提链式法则，因为这对深度学习，神经网络的参数求解计算起着绝对的影响作用，之前提过神经网络中基本使用了梯度下降法进行参数优化求解，具体关于神经网络的基本组成单元感知机，神经网络是很多感知机根据复杂的连接关系
Guapifang·2023-07-16 12:49

PyTorch翻译官网教程7-OPTIMIZING MODEL PARAMETERS

训练模型是一个迭代过程;在每次迭代中，模型对输出进行预测，计算猜测中的误差(损失)，收集误差相对于其参数的导数(如我们在前一节中看到的)，并使用梯度下降优化这些
poorCoder_·2023-07-16 11:32

机器学习与深度学习——利用随机梯度下降算法SGD对波士顿房价数据进行线性回归

机器学习与深度学习——利用随机梯度下降算法SGD对波士顿房价数据进行线性回归我们这次使用随机梯度下降（SGD）算法对波士顿房价数据进行线性回归的训练，给出每次迭代的权重、损失和梯度，并且绘制损失loss
星川皆无恙·2023-07-16 09:41

举例说明基于线性回归的单层神经网络网络(以梯度下降算法来求解权重的过程)...

我们将通过一个简单的例子来说明基于线性回归的单层神经网络，以及如何使用梯度下降算法来求解权重。
阿里加多·2023-07-16 09:19

梯度下降（Gradient Descent）

基本思想梯度下降是一个用来求函数最小值的算法，本次，我们将使用梯度下降算法来求出代价函数的最小值。
氢气氧气氮气·2023-07-16 08:57

基于梯度下降的线性回归（Gradient Descent For Linear Regression）

概述：梯度下降是很常用的算法，它不仅被用在线性回归上和线性回归模型、平方误差代价函数。在本次，我们要将梯度下降和代价函数结合。我们将用到此算法，并将其应用于具体的拟合直线的线性回归算法里。
氢气氧气氮气·2023-07-16 08:57

（八）梯度下降法

一、梯度下降法1.1梯度本意是一个向量（矢量），表示某一函数在该点处的方向导数沿着该方向取得最大值，即函数在该点处沿着该方向变化最快，变化率最大梯度下降：梯度下降法的计算过程就是沿梯度下降的方向求解极小值
文龙z·2023-07-16 03:14

pytorch深度学习 之二 拟合数据 从线性到非线性

上一章神经网络梯度下降和线性回归拟合定义数据以下是随意的数据，不用太在意，我们在使用图像分类的时候，或多或少的使用训练集和验证集，我们也同样如此来做这个事情下面使用unsqueeze来增加维度t_c=[
qianbo_insist·2023-07-16 00:03

飞控学习笔记-IMU姿态算法

扩展卡尔曼滤波算法传感器融合算法卡尔曼滤波算法最小二乘法毕卡逼近法对上式进行泰勒展开得到四元数各阶近似算法：梯度下降算法梯度下降互补滤波算法chatgpt解释：互补滤波（ComplementaryFilter
Xuan-ZY·2023-07-16 00:43

飞控学习笔记-梯度下降算法（gradient descent algorithm）

简介笔记来源于文章：An_efficient_orientation_filter_for_inertial_and_inertial_magnetic_sensor_arrays共轭：四元数叉乘：欧拉角等式：
Xuan-ZY·2023-07-15 23:07

pytorch实现简单的线性回归cpu版本和gpu版本

pytorch实现简单的线性回归cpu版本和gpu版本实现步骤准备数据定义模型实例化模型,实例优化器类,实例loss循环进行梯度下降,参数更新cpu版本实现importtorchimporttorch.nnasnnimportmatplotlib.pyplotaspltfromtorch.optimimportSGD
BRYTLEVSON·2023-07-15 17:58

吴恩达机器学习2022-Jupyter-Scikit-Learn教学

1.1目标在这个实验室里:利用scikit-学习使用线性回归梯度下降法来实现1.2工具您将利用scikit-learn以及matplotlib和NumPy中的函数。
KAY金·2023-07-15 16:41

人工智能-卷积神经网络

但通过前面学过神经网络模型和梯度下降法的方法训练费时费力，而且一旦图片进行改变如缩放、旋转或其他变换，那么计算机就识别不出来了。那么人如何记住的呢？
爱吃面的猫·2023-07-15 14:50

梯度下降算法

更新：随机梯度下降算法对每一个样本进行更新因为已知三组数据，range100次，且随机梯度下降算法每个样本更新一次，所以，一共w会更新300次，但是原梯度下降算法cost仅将三组算得梯度求均值再进行range100
Yuerya.·2023-07-15 12:58

神经网络参数

10.选择何种梯度下降算法。11.何时停止E
梅逊雪·2023-07-15 09:23

吴恩达机器学习2022-Jupyter特征缩放

1可选实验室:特征缩放和学习率(多变量)1.1目标在这个实验室里:利用前一实验室开发的多变量线性回归模型程序在具有多种功能的数据集上运行梯度下降法探讨学习速度alpha对梯度下降法的影响通过使用z分数标准化的特征缩放来提高梯度下降法的性能
KAY金·2023-07-15 08:15

week1

1.3监督学*1.4无监督学*二、单变量线性回归(LinearRegressionwithOneVariable)2.1模型表示2.2代价函数2.3代价函数的直观理解I2.4代价函数的直观理解II2.5梯度下降
小小白？·2023-07-15 08:42

week2

第2周目录第2周四、多变量线性回归(LinearRegressionwithMultipleVariables)4.1多维特征4.2多变量梯度下降4.3梯度下降法实践1-特征缩放4.4梯度下降法实践2-
小小白？·2023-07-15 08:12

神经网络中，前向传播、反向传播、梯度下降和参数更新是怎么完成的

神经网络中，前向传播、反向传播、梯度下降和参数更新是怎么完成的在神经网络的训练过程中，前向传播、反向传播、梯度下降和参数更新是按照以下顺序完成的：前向传播（ForwardPropagation）：在前向传播阶段
BRYTLEVSON·2023-07-15 01:44

pytorch深度学习 之一 神经网络梯度下降和线性回归

张量和随机运行，exp函数importtorcha=torch.tensor([[1,2],[3,4]])print(a)a=torch.randn(size=(10,3))print(a)b=a-a[0]print(torch.exp(b)[0].numpy())输出：tensor([[1,2],[3,4]])tensor([[-1.0165,0.3531,-0.0852],[-0.1065,-
qianbo_insist·2023-07-15 00:05

《DevOps实践指南》读书笔记 -案例

案例--第一部分DevOps三步工作法1模拟邮寄宣传册(p12)假设要邮寄10本宣传册，书中介绍了大批量策略与小批量策略的巨大差异。
antony已经被占用·2023-07-14 22:41

simple RNN pytorch代码实现

因为simpleRNN的梯度下降代码必须自己去写，simpleRNN的梯度下降不能使用pytorch的默认机制，否则会直接出现梯度消失，博主做了很多实验，一开始一直以为是代码写错了，后面发现，simpleRNN
Mr Gao·2023-07-14 21:03

人工智能学习目录

从发展历史到人工智能的应用案例，再到人工智能本质是数学问题，从房价预测问题提出损失函数由参数导致，再由损失函数的最优值入手引入梯度下降法，最后到多参数方程的最优求解。
爱吃面的猫·2023-07-14 18:03

人工智能-反向传播

前面阐述过，在设计好一个神经网络后，参数的数量可能会达到百万级别，利用梯度下降去更新参数计算复杂，算力不足，因此需要一种有效计算梯度的方法，这种方法就是辛顿提出的反向传播（简称BP），BP在调整参数时候
爱吃面的猫·2023-07-14 18:03

pytorch构建深度网络的基本概念——交叉熵

文章目录交叉熵什么是熵交叉熵举个例子交叉熵在上一篇讲梯度下降的文章中，那个例子提到了损失函数，那里用到的损失函数是均方误差，因为那个例子里的模型特别的简化。
新兴AI民工·2023-07-14 11:46

pytorch构建深度网络的基本概念——随机梯度下降

文章目录随机梯度下降定义一个简单的模型定义Loss什么是梯度随机梯度下降随机梯度下降现在说说深度学习中的权重更新算法：经典算法SGD：stochasticgradientdescent，随机梯度下降。
新兴AI民工·2023-07-14 09:40

常见的优化算法

常见的优化算法文章目录1.梯度下降法（batchgradientdensentBGD)2.随机梯度下降法(StochasticgradientdescentSGD)3.小批量梯度下降(Mini-batchgradientdescentMBGD
WakingStone·2023-07-14 06:06

深度学习各类优化器大总结

一、优化算法设计原理深度学习中的优化算法采用的原理是梯度下降法，即最小化目标函数J(θ)J(\theta)J(θ)，最优化的求解过程，首先求解目标函数的梯度∇J(θ)\nablaJ(\theta)∇J(
小小小~·2023-07-13 22:54

深度学习常用优化器总结

二、常用优化器BGD（BatchGradientDescent）定义BGD是梯度下降法最原始的形式，它的基本思想是在更新参数时使用所有样本来进行更新公式公式如下，假设样本总数为N，特点BGD得到的是
chen_zn95·2023-07-13 22:52

深度学习讲稿(17)

第四章：神经网络的学习方法：梯度下降本章主要内容：神经网络预测的结果准确吗？为什么要测量误差？
山岳之心·2023-07-13 21:30

深度学习与神经网络

2.4神经元稀疏3.设计神经网络3.1设计思路3.2对隐含层的感性认识4.深度学习4.1什么是深度学习4.2推理和训练4.3训练的相关概念4.4BP神经网络4.5训练的步骤及涉及的问题4.6损失函数4.7梯度下降算法
@kc++·2023-07-13 20:36

机器学习：基于逻辑回归对航空公司乘客满意度的因素分析

喜欢本专栏的小伙伴，请多多支持专栏案例：机器学习案例机器学习(一)：线性回归之最小二乘法机器学习(二)：线性回归之梯度下降法机
i阿极（考研版）·2023-07-13 20:24

【i阿极送书——第五期】《Python机器学习：基于PyTorch和Scikit-Learn》

喜欢本专栏的小伙伴，请多多支持专栏案例：机器学习案例机器学习(一)：线性回归之最小二乘法机器学习(二)：线性回归之梯度下降法机器学习(三)：基于线性回归对波士顿房价预
i阿极（考研版）·2023-07-13 20:24

机器学习：基于Python 机器学习进行医疗保险价格预测

喜欢本专栏的小伙伴，请多多支持专栏案例：机器学习案例机器学习(一)：线性回归之最小二乘法机器学习(二)：线性回归之梯度下降法
i阿极（考研版）·2023-07-13 20:18

线性回归与逻辑回归

文章目录介绍1实现简单示例函数1.1提交解决方案2单变量线性回归2.1绘制数据接下来需要实现数据可视化的代码，该部分数据绘制出的图像应与如下相同2.2梯度下降2.2.2实现2.2.3计算成本J(θ)2.2.4
无视警告继续编译·2023-07-13 16:28

深度学习基础入门篇[三]：优化策略梯度下降算法：SGD、MBGD、Momentum、Adam、AdamW

1.梯度下降算法（优化器）1.1原理解释如果我们定义了一个机器学习模型，比如一个三层的神经网络，那么就需要使得这个模型能够尽可能拟合所提供的训练数据。但是我们如何评价模型对于数据的拟合是否足够呢？
·2023-07-13 15:04

基于Scikit-learn的机器学习基本算法（二）梯度下降

梯度下降是除了线性回归的另一个线性模型拟合算法。核心思想是由随机值开始，不断的重复迭代，在每一次迭代中，在使成本函数降低最大的方向上前进一步，以不断的逼近最小值。
刘爱玛·2023-06-24 11:17

举例说明什么是随机梯度下降算法

随机梯度下降算法（StochasticGradientDescent,SGD）是一种优化算法，用于求解机器学习和深度学习中的目标函数的最小值。
阿里加多·2023-06-24 07:10

梯度下降算法

梯度下降是一种用于优化目标函数的迭代方法，主要用于求解机器学习和深度学习中的模型参数。简单来说，它的原理是通过不断地沿着梯度的负方向更新参数，最终找到目标函数的最小值。
阿里加多·2023-06-24 07:39

举例说明什么是批量梯度下降算法

批量梯度下降算法（BatchGradientDescent）是一种求解机器学习模型参数的优化算法，主要应用于线性回归、逻辑回归等模型的训练过程中。
阿里加多·2023-06-24 07:39
上一页 23 24 25 26 27 28 29 30 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他