反向传播算法

基于 MATLAB 的时间反向传播：使用 RNN 递归神经网络进行预测

本文将介绍如何使用MATLAB中的时间反向传播算法来训练RNN递归神经网络，并利用该网络进行序列预测任务。RNN模型的原理：RNN是一种具有循环连接
code_welike·2023-07-23 15:58

【Matlab】BP时间序列预测（Excel可直接替换数据）

】BP时间序列预测（Excel可直接替换数据）1.模型原理2.文件结构3.Excel数据4.分块代码5.完整代码6.运行结果1.模型原理BP（Backpropagation）时间序列预测模型是一种基于反向传播算法的神经网络模型
敲代码两年半的练习生·2023-07-19 07:08

【Matlab】BP回归（Excel可直接替换数据）

【Matlab】BP回归（Excel可直接替换数据）1.模型原理2.文件结构3.Excel数据4.分块代码5.完整代码6.运行结果1.模型原理BP（Backpropagation）回归模型是一种基于反向传播算法的神经网络模型
敲代码两年半的练习生·2023-07-19 07:06

【深度学习】日常笔记11

这使得在深度学习中能够方便地进行反向传播算法及参数优化。因
重剑DS·2023-07-18 07:50

numpy反向传播算法示例

numpy反向传播算法示例数据通过scikit-learn库提供的便捷工具生成2000个线性不可分的2分类数据集按着7:3比例切分训练集和测试集backpropagation.py#!
科技ing·2023-07-17 21:53

人工智能-反向传播

反向传播算法是“误差反向传播”的简称，即BP算法。
爱吃面的猫·2023-07-14 18:03

神经网络：梯度计算

反向传播：梯度计算是反向传播算法的基础，通过将
Make_magic·2023-06-22 11:30

【机器学习】神经网络代价函数和反向传播算法

神经网络代价函数和反向传播算法一、神经网络的代价函数接下来我会再规定若干符号代表的含义：LLL表示神经网络的总层数sis_isi表示的是第i层的神经元数量如果神经网络处理的是一个二元分类问题，那么他的第
NormalConfidence_Man·2023-06-20 10:25

行业报告 | AIGC发展研究

原创|文BFT机器人01技术篇深度学习进化史:知识变轨风起云涌已发生的关键步骤：人工神经网络的诞生反向传播算法的提出GPU的使用大数据的出现预训练和迁移学习生成对抗网络(GAN)的发明强化学习的成功应用自然语言处理的突破即将发生的关键步骤
BFT白芙堂·2023-06-19 21:58

行业报告 | 清华大学AIGC发展研究1.0震撼发布！（技术+未来篇）

文|BFT机器人01技术篇深度学习进化史:知识变轨风起云涌已发生的关键步骤：人工神经网络的诞生反向传播算法的提出GPU的使用大数据的出现预训练和迁移学习生成对抗网络(GAN)的发明强化学习的成功应用自然语言处理的突破即将发生的关键步骤
BFT白芙堂·2023-06-19 21:58

基于Hebb学习的深度学习方法总结

1.1Hebb学习规则1.2Delta学习规则2SoftHebb学习算法2.1WTA(WinnerTakeAll)2.2SoftHebb2.3多层Hebb网络2.4Hebb学习的性能测评3参考文献0引言总所周知，反向传播算法
tyhj_sf·2023-06-17 18:28

【机器学习】——深度学习与神经网络

目录引入一、神经网络及其主要算法1、前馈神经网络2、感知器3、三层前馈网络（多层感知器MLP）4、反向传播算法二、深度学习1、自编码算法AutorEncoder2、自组织编码深度网络①栈式AutorEncoder
柯宝最帅·2023-06-15 21:18

深入理解循环神经网络（RNN）：原理与代码解析

文章目录1.RNN的原理1.1结构1.2循环连接1.3前向传播1.4反向传播算法2.RNN文本生成任务应用3.参考文献：循环神经网络（RNN）是一种在序列数据建模方面表现优异的神经网络模型。
旧言.·2023-06-15 09:07

深入理解多层感知机（MLP）：原理与代码解析

文章目录1.MLP的原理1.1结构1.2激活函数1.3前向传播1.4反向传播算法2.MLP分类任务应用3.参考文献：多层感知机（MLP）是一种经典的神经网络模型，由多个神经元层组成。
旧言.·2023-06-15 09:37

计算图（Computational Graph）的角度理解反向传播算法（Backpropagation）

最近在回看反向传播算法（Backpropagation，BP算法）时，注意到目前各大深度学习框架如Tensorflow，Theano，CNTK等都以计算图（ComputationalGraph）作为描述反向传播算法的基础
zxhohai·2023-06-15 06:33

python&深度学习 -- 训练的数据集中出现NaN值应该怎么办？Filling gaps in a numpy array

特别是存在缺测值的情况，如果在深度学习中使用NaN值训练模型通常会导致以下问题：梯度无法计算：在深度学习中，我们使用反向传播算法计算梯度（模型参数相对于损失函数的导数），以便用梯度下降等优化算法来更新模型参数
简朴-ocean·2023-06-13 16:14

机器学习-11 BP神经网络

BP神经网络神经网络介绍前馈神经网络BP神经网络BP神经网络的核心思想误差反向传播算法BP网络结构反馈神经网络自组织神经网络神经网络相关概念激活函数Sigmoid函数tanh双曲正切函数ReLU函数LeakyRuLU
so.far_away·2023-06-13 04:12

【ChatGPT】人工智能发展的背后厉害：跌宕起伏的近百年

文章目录前言一、麦卡洛克-皮特斯神经元二、赫布式学习三、感知机四、反向传播算法五、卷积神经网络六、递归神经网络七、通用计算GPU芯片八.生成式神经网络与大型语言模型总结前言今天，ChatGPT等大型语言预训练神经网络模型已经成为广为人知的名字
徐浪老师·2023-06-13 03:34

清华青年AI自强作业hw3_2：前向传播和反向传播实战

自强作业hw3_2：前向传播和反向传播实战实现过程各层参数维度分析拟合结果相关链接一起学AI系列博客：目录索引前向传播和反向传播的公式理解化用于作业hw3_2中：：用NN网络拟合小姐姐喜好分类完成前向传播、反向传播算法的
来知晓·2023-06-12 04:11

Python手写数字识别

训练神经网络通常使用反向传播算法，该算法用于计算网络中每个权重和偏移量的梯度，并用梯度下降算法调整这些参数以最小化损
浩茫·2023-06-10 10:48

列举四种神经网络激活函数的函数公式、函数图及优缺点和适用场景

虽然这个函数非常简单，但是它很少被使用，因为它在不同数据之间造成了不连续的跳跃，这会导致反向传播算法出现不可导的情况。
Pseudo-love453·2023-06-10 09:26

深度学习(神经网络)

文章目录神经网络历史形式神经元模型（M-P模型）感知器多层感知器误差反向传播算法误差函数和激活函数误差函数二次代价函数交叉熵代价函数激活函数sigmoid函数RELU函数似然函数softmax函数随机梯度下降法批量学习方法在线学习小批量梯度下降法学习率自适应调整学习率
Elsa的迷弟·2023-06-09 18:39

实验10 人工神经网络(1)

1.实验目的①理解并掌握误差反向传播算法；②能够使用单层和多层神经网络，完成多分类任务；③了解常用的激活函数。
YoLo-8·2023-06-08 23:16

AI模型是程序吗

这些神经网络通过反向传播算法和优化算法来调整模型的参数，以使其能够对输入数据进行预测或分类。AI模型的训练过程涉及大量的数据和计算资源。
平沙落雁子·2023-06-08 01:30

神经网络之反向传播算法（自适应矩估计算法Adam变形形式之Adamax、Nadam）

文章目录自适应矩估计算法（Adam）的两种变形形式1、Adamax算法原理2、Nadam算法原理3、算法实现3.1Adamax训练过程3.2Adamax测试过程及结果3.3Nadam训练过程3.4Nadam测试过程及结果4、参考源码及数据集自适应矩估计算法（Adam）的两种变形形式自适应矩估计算法的基础上还进一步提出了两种变形，一种变形的英文名称为Adamax，另一种变形的英文名称为Nadam。自
七层楼的疯子·2023-04-21 05:29

卷积bp神经网络算法详解,卷积神经网络实例讲解

谷歌人工智能写作项目：神经网络伪原创卷积神经网络反向传播和bp有什么区别如何理解神经网络里面的反向传播算法。
「已注销」·2023-04-19 18:37

AI：简易的自动求微分算法

文章目录一、自动求微分1.1变量1.2函数1.3数值微分求法1.4反向传播算法1.5实现自动反向传播1.6使用循环方式代替递归方式完成自动反向传播1.7简化调用函数的方式1.8省略编写`y.grad=np.array
算法技术博客·2023-04-19 18:34

基于随机梯度下降法的手写数字识别、epoch是什么、python实现

基于随机梯度下降法的手写数字识别、epoch是什么、python实现一、普通的随机梯度下降法的手写数字识别1.1学习流程1.2二层神经网络类1.3使用MNIST数据集进行学习注：关于什么是epoch二、基于误差反向传播算法求梯度的手写数字识别
算法技术博客·2023-04-19 18:29

使用反向传播算法计算参数的梯度并用python实现加法和乘法节点的反向传播

使用反向传播算法计算参数的梯度并用python实现加法和乘法节点的反向传播一、whatis反向传播二、乘法节点的反向传播三、加法节点的反向传播四、加法层和乘法层混合应用一、whatis反向传播误差反向传播法是一种高效计算权重参数的梯度的方法
算法技术博客·2023-04-19 18:28

结合反向传播算法使用python实现神经网络的ReLU、Sigmoid、Affine、Softmax-with-Loss层

结合反向传播算法使用python实现神经网络的ReLU、Sigmoid激活函数层这里写目录标题一、ReLU层的实现二、Sigmoid层的实现三、实现神经网络的Affine层四、Softmax-with-Loss
算法技术博客·2023-04-19 18:28

TensorFlow（6）- 神经网络优化算法

1、引言今天要介绍的是如何通过反向传播算法（backpropagation）和梯度下降算法(gradientdecent）调整神经网络中参数的取值。
Jesse_jia·2023-04-17 16:31

【PyTorch】第三节：反向传播算法

介绍反向传播算法是训练神经网络的最常用且最有效的算法。本实验将阐述反向传播算法的基本原理，并用PyTorch框架快速的实现该算法。
让机器理解语言か·2023-04-17 01:38

神经网络权重初始化为什么不能为零

以BP神经网络为例，若是都初始化为零，那么正向神经网络计算出来的输出值都相同，所以反向传播算法计算出来的梯度值也相同，导致参数更新值也一样(w=w−α∗dw)。
好吃红薯·2023-04-15 23:29

机器学习笔记之前馈神经网络(四)反向传播算法[数学推导过程]

机器学习笔记之前馈神经网络——反向传播算法[数学推导过程]引言回顾：感知机算法非线性问题与多层感知机反向传播算法(BackPropagation,BP\text{BackPropagation,BP}BackPropagation
静静的喝酒·2023-04-15 06:18

失控

例如，贝叶斯算法，反向传播算法等，估计一般人都看不懂。再有人在调侃，AI相关的工程师有一种是调参，其实没有什么技术含量，因为你不应懂黑盒里的算法，反正一般人你也看不懂。
关三水·2023-04-14 05:02

神经网络之反向传播算法（自适应矩估计算法Adam）

文章目录自适应矩估计算法（Adam）1、算法原理2、算法实现2.1训练过程2.2测试过程及结果3、参考源码及数据集自适应矩估计算法（Adam）自适应矩估计算法从其本质上看可以视作是带有动量项的均方根反向传播算法
七层楼的疯子·2023-04-14 05:09

卷积神经网络各种经典模型--上篇

在训练过程中，LeNet使用反向传播算法来调整网络中的参
Are_you_ready·2023-04-11 22:11

使用Google Colab免费部署属于自己的Stable Diffusion模型在线服务

其原理是通过对随机微分方程进行离散化，将连续时间的过程转换为离散时间的过程，然后通过反向传播算法进行求解。GoogleCol
Old丶x·2023-04-08 18:57

跟我一起学PyTorch-05：深度神经网络DNN

前面我们介绍了神经网络，包括神经元函数，激活函数，前向算法，反向传播算法，梯度下降等，这些内容基本上是传统神经网络的范畴，这个浪潮大致在1980~1995年之间，主要标志是1986年DavidRumelhart
金字塔下的小蜗牛·2023-04-06 03:44

Pytorch : 自动求导

在训练神经网络时，最常用的算法是反向传播算法。在该算法中，参数(模型权重)根据损失函数相对于给定参数的梯度进行调整。损失函数计算神经网络产生的期望输出和实际输出之间的差值。
Shilong Wang·2023-04-04 22:05

Tensorflow 2.0学习DAY03 优化函数、学习速率与反向传播算法

梯度下降法梯度的输出向量表明了在每个位置损失函数增长最快的方向，可将它视为表示了在函数的每个位置向哪个方向移动函数值可以增长。学习速率概念梯度就是表明损失函数相对参数的变化率，对梯度进行缩放的参数被称为学习速率（learningrate）。它是一种超参数或对模型的一种手工可配置的设置需要为它指定正确的值。如果学习速率太小，则找到损失函数极小值点时可能需要许多轮迭代；如果太大，则算法可能会“跳过”极
沙鳄鱼·2023-04-04 08:02

基于 eigen 实现神经网络的反向传播算法（2）

前文展示了基于MartinH.Hagan的《神经网络设计》ch11所述的多层圣经网络的基本反向传播算法（SDBP）的实现和部分测试结果。
Tonyfield·2023-04-04 08:34

神经网络之反向传播算法（加入动量momentum的误差反向传播算法）

文章目录1、动量momentum2、结合momentum的误差反向传播算法3、算法实现3.1训练过程3.2测试过程4、参考源码及数据集1、动量momentum在普通的梯度下降法中，一般将梯度值定义对参数进行优化时的调整方向
七层楼的疯子·2023-04-04 08:29

计算机基础练习总结

由于反向传播算法进入起始层，学习能力降低，这就是梯度
静默安然·2023-04-01 02:33

神经网络之反向传播算法（均方根反向传播算法RMSProp）

文章目录均方根反向传播算法（RMSProp）1、算法原理2、算法实现2.1训练过程2.2测试过程及结果3、参考源码及数据集均方根反向传播算法（RMSProp）自适应梯度算法（Adaptivegradientalgorithm
七层楼的疯子·2023-04-01 00:36

神经网络之反向传播算法（自适应学习率调整算法Adadelta）

参考源码及数据集自适应学习率调整算法（Adadelta）自适应学习率调整算法（Adadelta）可以视作是自适应梯度算法（Adagrad）的一种扩展，自适应梯度法在迭代过程中累加了过去所有的梯度平方，而自适应学习率调整算法与均方根反向传播算法
七层楼的疯子·2023-04-01 00:36

神经网络之反向传播算法（加入Nesterov动量的误差反向传播算法）

文章目录1、Nesterov动量2、结合Nesterov动量的误差反向传播算法3、算法实现3.1训练过程3.2测试过程4、参考源码及数据集1、Nesterov动量在动量法提出不久之后，Nesterov动量也随之被提了出来
七层楼的疯子·2023-04-01 00:36

神经网络之反向传播算法（梯度、误差反向传播算法BP）

文章目录一、反向传播及梯度二、误差反向传播算法（BP）1、算法原理2、算法实现2.1训练过程2.2测试过程及结果3、参考源码及数据集一、反向传播及梯度在神经网络中，初始化生成的参数在使用时往往难以使网络获得最好的回归效果
七层楼的疯子·2023-04-01 00:35

来一场人工智能的奇妙冒险吧~

如无必要，勿增新知，过程一步一步进行机器学习过程：一个【一元一次函数】构建的神经元，可以表示一种直觉在线性函数外套上一层非线性激活函数就可以对事物进行分类而利用梯度下降和反向传播算法，可以让机器自己学到问题的解再加入更多层的隐藏神经元后
一米阳光_Angel·2023-03-31 03:45

《神经网络与机器学习》笔记（四）

循环神经网络的参数学习可以通过随时间反向传播算法来学习。随时间反向传播算法即按照时间的逆序将错误信息一步步地往前传递。当输入序列比较长时，会存在梯度爆炸和消失问题，也称为长程依赖问题。
糖醋排骨盐酥鸡·2023-03-29 09:22
上一页 1 2 3 4 5 6 7 8 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他