深度学习笔记——前向传播与反向传播、神经网络(前馈神经网络与反馈神经网络)、常见算法概要汇总

大家好,这里是好评笔记,公主号:Goodnote,专栏文章私信限时Free。本文简要介绍深度学习的前向传播与反向传播,以及前馈神经网络与反馈神经网络。

深度学习笔记——前向传播与反向传播、神经网络(前馈神经网络与反馈神经网络)、常见算法概要汇总_第1张图片


文章目录

  • 前向传播与反向传播
    • 前向传播(Forward Propagation)
    • 反向传播(Back Propagation)
    • 总结
  • 神经网络
    • 简介
    • 结构
    • 类型
      • 前馈神经网络(Feedforward Neural Network, FFNN)
        • 特点
        • 常见变体
      • 反馈神经网络(Feedback Neural Network, RNN)
        • 特点
        • 常见变体
      • 总结
  • 常见深度学习算法分类
    • 前馈神经网络(Feedforward Neural Networks, FFNN)
      • 1. 多层感知机(MLP)
      • 2. 卷积神经网络(CNN)
      • 3. AlexNet
      • 4. VGG 网络
      • 5. Inception 网络(GoogLeNet)
      • 6. ResNet(残差网络)
      • 7. 生成对抗网络(GAN)
      • 8. U-Net
      • 9. 自编码器(Autoencoder)
      • 10. Transformer 模型
    • 反馈神经网络(Recurrent Neural Networks, RNN)
      • 1. 基本循环神经网络(RNN)
      • 2. 长短时记忆网络(LSTM)
      • 3. 门控循环单元(GRU)
      • 4. 深度 Q 网络(DQN)
    • 其他算法
      • 1. 图神经网络(GNN)
      • 2. 自监督学习(Self-supervised Learning)
      • 3. 对比学习(Contrastive Learning)
      • 4. 迁移学习(Transfer Learning)

前向传播与反向传播

前向传播(Forward Propagation)

前向传播是将输入数据从输入层依次通过神经网络的各个隐藏层,最后输出预测结果的过程。该过程用于计算网络的预测结果,以及在训练过程中计算损失函数值。它的基本步骤如下:

  1. 输入数据:将输入数据传递给神经网络的输入层。
  2. 线性变换:在每一层中,神经元接收前一层输出的线性组合(加权求和),计算公式为:

你可能感兴趣的:(深度学习笔记,深度学习,笔记,神经网络,人工智能)