共轭梯度下降

通信原理学习笔记2-3：复信号分析（解析信号与预包络）、IQ调制与复信号的传输

实信号频谱的共轭对称性和冗余性已经知道，傅里叶变换中的复指数ejωte^{j\omegat}ejωt带来了负频率，意义是旋转向量ejωte^{j\omegat}ejωt的旋转方向（顺/逆时针）由此可知，
Insomnia_X·2023-07-15 17:01

pytorch实现简单的线性回归cpu版本和gpu版本

pytorch实现简单的线性回归cpu版本和gpu版本实现步骤准备数据定义模型实例化模型,实例优化器类,实例loss循环进行梯度下降,参数更新cpu版本实现importtorchimporttorch.nnasnnimportmatplotlib.pyplotaspltfromtorch.optimimportSGD
BRYTLEVSON·2023-07-15 17:58

吴恩达机器学习2022-Jupyter-Scikit-Learn教学

1.1目标在这个实验室里:利用scikit-学习使用线性回归梯度下降法来实现1.2工具您将利用scikit-learn以及matplotlib和NumPy中的函数。
KAY金·2023-07-15 16:41

人工智能-卷积神经网络

但通过前面学过神经网络模型和梯度下降法的方法训练费时费力，而且一旦图片进行改变如缩放、旋转或其他变换，那么计算机就识别不出来了。那么人如何记住的呢？
爱吃面的猫·2023-07-15 14:50

梯度下降算法

更新：随机梯度下降算法对每一个样本进行更新因为已知三组数据，range100次，且随机梯度下降算法每个样本更新一次，所以，一共w会更新300次，但是原梯度下降算法cost仅将三组算得梯度求均值再进行range100
Yuerya.·2023-07-15 12:58

神经网络参数

10.选择何种梯度下降算法。11.何时停止E
梅逊雪·2023-07-15 09:23

吴恩达机器学习2022-Jupyter特征缩放

1可选实验室:特征缩放和学习率(多变量)1.1目标在这个实验室里:利用前一实验室开发的多变量线性回归模型程序在具有多种功能的数据集上运行梯度下降法探讨学习速度alpha对梯度下降法的影响通过使用z分数标准化的特征缩放来提高梯度下降法的性能
KAY金·2023-07-15 08:15

week1

1.3监督学*1.4无监督学*二、单变量线性回归(LinearRegressionwithOneVariable)2.1模型表示2.2代价函数2.3代价函数的直观理解I2.4代价函数的直观理解II2.5梯度下降
小小白？·2023-07-15 08:42

week2

第2周目录第2周四、多变量线性回归(LinearRegressionwithMultipleVariables)4.1多维特征4.2多变量梯度下降4.3梯度下降法实践1-特征缩放4.4梯度下降法实践2-
小小白？·2023-07-15 08:12

神经网络中，前向传播、反向传播、梯度下降和参数更新是怎么完成的

神经网络中，前向传播、反向传播、梯度下降和参数更新是怎么完成的在神经网络的训练过程中，前向传播、反向传播、梯度下降和参数更新是按照以下顺序完成的：前向传播（ForwardPropagation）：在前向传播阶段
BRYTLEVSON·2023-07-15 01:44

pytorch深度学习 之一 神经网络梯度下降和线性回归

张量和随机运行，exp函数importtorcha=torch.tensor([[1,2],[3,4]])print(a)a=torch.randn(size=(10,3))print(a)b=a-a[0]print(torch.exp(b)[0].numpy())输出：tensor([[1,2],[3,4]])tensor([[-1.0165,0.3531,-0.0852],[-0.1065,-
qianbo_insist·2023-07-15 00:05

math@常见的复数运算

文章目录复数一元运算共轭运算共轭运算的基本性质复数二元运算符号说明复数加减法复数相反数复数乘法复数乘方复数的倒数复数除法复数共轭运算下基础运算复数的运算性质小结求和式共轭与累积式共轭建立了复数的概念后,
xuchaoxin1375·2023-07-14 22:02

复数@一元二次方程在复数域内的解

文章目录数系的扩充脉络多项式方程解在不同数系下的个数虚数单位一元二次方程的解与复数概念的引出复数虚数复数的相等和大小问题复数的集合意义复平面复数的模(长度)共轭复数数系的扩充脉络自然数系→\to→有理数系
xuchaoxin1375·2023-07-14 22:02

simple RNN pytorch代码实现

因为simpleRNN的梯度下降代码必须自己去写，simpleRNN的梯度下降不能使用pytorch的默认机制，否则会直接出现梯度消失，博主做了很多实验，一开始一直以为是代码写错了，后面发现，simpleRNN
Mr Gao·2023-07-14 21:03

人工智能学习目录

从发展历史到人工智能的应用案例，再到人工智能本质是数学问题，从房价预测问题提出损失函数由参数导致，再由损失函数的最优值入手引入梯度下降法，最后到多参数方程的最优求解。
爱吃面的猫·2023-07-14 18:03

人工智能-反向传播

前面阐述过，在设计好一个神经网络后，参数的数量可能会达到百万级别，利用梯度下降去更新参数计算复杂，算力不足，因此需要一种有效计算梯度的方法，这种方法就是辛顿提出的反向传播（简称BP），BP在调整参数时候
爱吃面的猫·2023-07-14 18:03

pytorch构建深度网络的基本概念——交叉熵

文章目录交叉熵什么是熵交叉熵举个例子交叉熵在上一篇讲梯度下降的文章中，那个例子提到了损失函数，那里用到的损失函数是均方误差，因为那个例子里的模型特别的简化。
新兴AI民工·2023-07-14 11:46

pytorch构建深度网络的基本概念——随机梯度下降

文章目录随机梯度下降定义一个简单的模型定义Loss什么是梯度随机梯度下降随机梯度下降现在说说深度学习中的权重更新算法：经典算法SGD：stochasticgradientdescent，随机梯度下降。
新兴AI民工·2023-07-14 09:40

常见的优化算法

常见的优化算法文章目录1.梯度下降法（batchgradientdensentBGD)2.随机梯度下降法(StochasticgradientdescentSGD)3.小批量梯度下降(Mini-batchgradientdescentMBGD
WakingStone·2023-07-14 06:06

深度学习各类优化器大总结

一、优化算法设计原理深度学习中的优化算法采用的原理是梯度下降法，即最小化目标函数J(θ)J(\theta)J(θ)，最优化的求解过程，首先求解目标函数的梯度∇J(θ)\nablaJ(\theta)∇J(
小小小~·2023-07-13 22:54

深度学习常用优化器总结

二、常用优化器BGD（BatchGradientDescent）定义BGD是梯度下降法最原始的形式，它的基本思想是在更新参数时使用所有样本来进行更新公式公式如下，假设样本总数为N，特点BGD得到的是
chen_zn95·2023-07-13 22:52

深度学习讲稿(17)

第四章：神经网络的学习方法：梯度下降本章主要内容：神经网络预测的结果准确吗？为什么要测量误差？
山岳之心·2023-07-13 21:30

深度学习与神经网络

2.4神经元稀疏3.设计神经网络3.1设计思路3.2对隐含层的感性认识4.深度学习4.1什么是深度学习4.2推理和训练4.3训练的相关概念4.4BP神经网络4.5训练的步骤及涉及的问题4.6损失函数4.7梯度下降算法
@kc++·2023-07-13 20:36

机器学习：基于逻辑回归对航空公司乘客满意度的因素分析

喜欢本专栏的小伙伴，请多多支持专栏案例：机器学习案例机器学习(一)：线性回归之最小二乘法机器学习(二)：线性回归之梯度下降法机
i阿极（考研版）·2023-07-13 20:24

【i阿极送书——第五期】《Python机器学习：基于PyTorch和Scikit-Learn》

喜欢本专栏的小伙伴，请多多支持专栏案例：机器学习案例机器学习(一)：线性回归之最小二乘法机器学习(二)：线性回归之梯度下降法机器学习(三)：基于线性回归对波士顿房价预
i阿极（考研版）·2023-07-13 20:24

机器学习：基于Python 机器学习进行医疗保险价格预测

喜欢本专栏的小伙伴，请多多支持专栏案例：机器学习案例机器学习(一)：线性回归之最小二乘法机器学习(二)：线性回归之梯度下降法
i阿极（考研版）·2023-07-13 20:18

线性回归与逻辑回归

文章目录介绍1实现简单示例函数1.1提交解决方案2单变量线性回归2.1绘制数据接下来需要实现数据可视化的代码，该部分数据绘制出的图像应与如下相同2.2梯度下降2.2.2实现2.2.3计算成本J(θ)2.2.4
无视警告继续编译·2023-07-13 16:28

深度学习基础入门篇[三]：优化策略梯度下降算法：SGD、MBGD、Momentum、Adam、AdamW

1.梯度下降算法（优化器）1.1原理解释如果我们定义了一个机器学习模型，比如一个三层的神经网络，那么就需要使得这个模型能够尽可能拟合所提供的训练数据。但是我们如何评价模型对于数据的拟合是否足够呢？
·2023-07-13 15:04

基于Scikit-learn的机器学习基本算法（二）梯度下降

梯度下降是除了线性回归的另一个线性模型拟合算法。核心思想是由随机值开始，不断的重复迭代，在每一次迭代中，在使成本函数降低最大的方向上前进一步，以不断的逼近最小值。
刘爱玛·2023-06-24 11:17

举例说明什么是随机梯度下降算法

随机梯度下降算法（StochasticGradientDescent,SGD）是一种优化算法，用于求解机器学习和深度学习中的目标函数的最小值。
阿里加多·2023-06-24 07:10

梯度下降算法

梯度下降是一种用于优化目标函数的迭代方法，主要用于求解机器学习和深度学习中的模型参数。简单来说，它的原理是通过不断地沿着梯度的负方向更新参数，最终找到目标函数的最小值。
阿里加多·2023-06-24 07:39

举例说明什么是批量梯度下降算法

批量梯度下降算法（BatchGradientDescent）是一种求解机器学习模型参数的优化算法，主要应用于线性回归、逻辑回归等模型的训练过程中。
阿里加多·2023-06-24 07:39

[Eigen中文文档] 稀疏矩阵操作

文档总目录本文目录稀疏矩阵格式SparseMatrix类第一个示例SparseMatrix类矩阵和向量属性迭代非零系数填充稀疏矩阵支持的运算符和函数基本操作矩阵乘积块操作三角形视图和自共轭视图英文原文(
万俟淋曦·2023-06-24 07:31

LR算法

函数的推导是线性模型，取值空间为实数集；是预测为1的概率，则是预测为0的概率，概率的取值空间为[0,1]；令则损失函数的推导(MLE)则MLE：取log：最大化上面的式子，相当于最小化对上式取负号：即参数优化(梯度下降法
poteman·2023-06-24 02:24

强化学习：随机近似与随机梯度下降

meanestimation  通过前面的学习，我们知道可以通过很多采样来求期望。而求xˉ\barxxˉ的方法由两种，一是直接将采样数据相加再除以个数，但这样的方法运行效率较低。第二种方法是迭代式的计算，即来几个数据就算几个数据，具体计算如下：随机近似法：Robbins-Monro(RM)  假设我们现在需要求解方程：g(w)=0g(w)=0g(w)=0那么就有两种情况，一种是函数表达式我们知道，
~hello world~·2023-06-23 21:58

深度学习记录1（线性回归的实现）

同时，对于模型的优化采用随机梯度下降。
手把手教你学AI·2023-06-23 20:40

机器学习：基于Python实现人工神经网络训练过程

喜欢本专栏的小伙伴，请多多支持专栏案例：机器学习案例机器学习(一)：线性回归之最小二乘法机器学习(二)：线性回归之梯度下降法机器
i阿极·2023-06-23 18:58

DARTS：基于梯度下降的经典网络搜索方法，开启端到端的网络搜索 | ICLR 2019

DARTS是很经典的NAS方法，它的出现打破了以往的离散的网络搜索模式，能够进行end-to-end的网络搜索。由于DARTS是基于梯度进行网络更新的，所以更新的方向比较准确，搜索时间相当于之前的方法有很大的提升，CIFAR-10的搜索仅需要4GPUdays。 来源：晓飞的算法工程笔记公众号论文:DARTS:DifferentiableArchitectureSearch论文地址：https://
·2023-06-23 16:59

优化器SGD、Adam和AdamW的区别和联系

优化器（未完）SGDSGDRAdamAdamW联系SGD随机梯度下降是最简单的优化器，它采用了简单的梯度下降法，只更新每一步的梯度，但是它的收敛速度会受到学习率的影响。
帅帅帅.·2023-06-23 14:17

python基础学习3【NumPy矩阵与通用函数【矩阵相乘+平方+广播机制+转置】+ save、load、sort、repeat、unique、鸢尾花1】

NumPy矩阵与通用函数a=np.mat([[1,2],[3,4]])#生成矩阵b = np.matrix([[1,7],[6,4]])np.bmat("ab")矩阵的运算矩阵特有属性：属性说明T自身转置H共轭转置
Twilight_小兰·2023-06-22 16:32

证明假如H是G的子群，那么与H共轭的子群个数等于[G:N(H)]

构建如下映射ϕ:x−1Hx→xN(H)(H的共轭类集到N(H)的陪集构成的集之间的映射)下证：1.u−1Hu=v−1Hv→uN(H)=vN(H)(证明ϕ是函数)2.u−1Hu≠v−1Hv→uN(H)≠vN
冬虫夏草1993·2023-06-22 14:21

神经网络梯度消失

定义：梯度消失（VanishingGradients）在梯度下降中，随着算法反向的反馈，梯度会越来越小，最终没有变化，此时并没有收敛到比好的解，这就是梯度消失的问题。
zhangt766·2023-06-22 12:36

神经网络中关于梯度的问题

回归与梯度下降：回归(回归和分类)在数学上来说是给定一个点集，能够用一条曲线去拟合之，如果这个曲线是一条直线，那就被称为线性回归，如果曲线是一条二次曲线，就被称为二次回归，回归还有很多的变种，如locallyweighted
秀秀的奇妙旅行·2023-06-22 12:06

神经网络中的梯度是什么,神经网络梯度公式推导

谢谢了Gradient是梯度的意思，BP神经网络训练的时候涉及到梯度下降法，表示为梯度下降的程度与训练过程迭代次数（步长）的关系。
wenangou·2023-06-22 12:05

神经网络：参数更新

2.原理：梯度下降法：参数更新通常使用梯度下降法，它基于损失函数的梯度信息来确定参数更新的方向和幅度。梯度表示
Make_magic·2023-06-22 11:02

神经网络：梯度计算

作用：梯度计算在计算机视觉中的作用主要有两个方面：模型优化：通过计算损失函数对模型参数的梯度，可以使用梯度下降等优化算法来更新模型参数，使模型逐步逼近最优解。
Make_magic·2023-06-22 11:30

都是被逼的... ，LM算法的具体实现python和C++代码

L-M方法全称Levenberg-Marquardt方法，是一种非线性最小二乘优化算法，它通过同时利用高斯牛顿方法和梯度下降方法来解决非线性最小二乘问题。
逃逸的卡路里·2023-06-22 11:05

如何用梯度下降法求解数学建模的拟合问题——以logistics增长问题为例

引言众所周知的是，在大学课程中一般只会教授一种拟合方法(也即参数估计方法)——最小二乘法。这是一种直接求解的方法，非常的有效，不仅是损失最小解，而且是最大似然解。只不过，有一个缺点，它只能解决线性方程参数问题，对于非线性曲线，就无能为力了。大部分情况下还是将其转换成线性问题，再使用最小二乘法。然而，并非所有的问题都能转换为线性问题，甚至并非所有目标建模公式的参数都能有解析解，其他学科如机器学习等学
Aerozeor·2023-06-22 09:44

【Batch_size 与 梯度 之间的关系】

在深度学习中，梯度下降是一种常用的优化算法，用于更新模型参数以最小化损失函数。梯度是损失函数对于模型参数的偏导数，它表示了参数变化对于损失函数的影响方向和程度。
风等雨归期·2023-06-22 02:48

逻辑回归模型预测

给出逻辑回归的参数结构、初始化过程、损失函数（经验风险）设置，基于随机梯度下降和梯度下降的参数学习过程。数
早安不安·2023-06-21 20:06
上一页 23 24 25 26 27 28 29 30 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他