深度学习笔记 ：一些理解上的问题

1、特征映射什么意思

指在卷积神经网络（Convolutional Neural Network，CNN）中的卷积层中，通过对输入数据进行卷积操作得到的输出数据。特征映射可以看作是输入数据在卷积神经网络中的“抽象”，它可以提取输入数据中的不同特征，例如边缘、纹理、形状等信息。随着网络深度的增加，特征映射也变得越来越抽象，可以提取更高级别的特征，例如物体的部分、整体、类别等信息。这些特征映射最终会通过池化、全连接等操作送入分类器进行分类或回归等任务。

架构和模型这两个词有什么区别，用的时候怎么选更准确

在深度学习中，架构（Architecture）和模型（Model）是两个不同的概念。

架构通常指的是网络的整体结构，包括网络的层数、每层的类型（卷积层、池化层、全连接层等）和参数设置等。例如，VGG、ResNet、Inception等都是深度学习中常用的架构。

而模型通常指的是具体的网络实例，也就是在特定数据集上训练出来的、具有特定权重和参数的网络。例如，针对CIFAR-10数据集训练的VGG-16模型、ResNet-50模型等都是深度学习中常用的模型。

在实际使用中，应根据上下文来选择使用哪个词更准确。如果要描述网络整体结构，应该使用“架构”；如果要描述具体的网络实例，应该使用“模型”。当然，由于两者密切相关，有时也可以使用“架构”和“模型”这两个词互换使用。

即插即用的中间监督，这个即插即用什么意思

即插即用（Plug-and-Play）通常指的是一种可以快速、方便地集成到现有系统中的技术或工具。在深度学习中，即插即用的中间监督（Plug-and-Play Supervision）是指在训练过程中加入一些辅助任务来帮助网络学习主任务。

具体来说，即插即用的中间监督通常使用已有的预训练模型或其他任务中的已有模型作为辅助任务，然后将其与主任务的损失函数进行加权求和。这样做可以使得网络学习到更多的特征，提高网络的泛化能力，从而提高主任务的性能。即插即用的中间监督可以大大简化网络的训练过程，提高训练效率和准确率，并且可以将已有的模型和知识迁移到新的任务中，避免从头开始训练网络。

监督信号是有什么作用，为什么输出时候有监督信号

监督信号（Supervisory Signal）在深度学习中扮演着非常重要的角色。它是指在训练神经网络时用于指导网络输出的标签或目标值，与网络的预测值进行比较以计算损失，并通过反向传播算法来更新网络的权重和参数。

监督信号的作用是通过网络的学习过程来最小化预测值与真实值之间的差距，从而使网络能够更准确地预测未知数据的标签或值。在深度学习中，监督信号通常与损失函数相结合使用，损失函数计算模型预测值与真实值之间的差距，并将这个差距作为指导模型学习的信号。

在深度学习中，输出时候有监督信号是因为模型需要通过监督信号来指导输出的结果。在训练过程中，监督信号是已知的，而在测试或预测阶段，监督信号通常是未知的，需要通过模型来进行预测。因此，监督信号是在训练过程中用来指导网络学习的重要信号，而在测试或预测阶段，网络需要自行预测结果。

为什么要在反向传播时候保存激活

在反向传播算法中，需要计算每一层的梯度以更新网络的权重和偏置。这些梯度是由后面的层向前传播得到的，并且需要用到当前层的激活值。因此，为了计算这些梯度，需要在反向传播时保存每一层的激活值。

具体来说，保存每一层的激活值可以帮助反向传播算法计算当前层的梯度。在反向传播过程中，每一层的梯度都依赖于该层的激活值和后一层的梯度。因此，为了计算当前层的梯度，需要保存该层的激活值以供后续计算。

此外，保存每一层的激活值还有其他作用。例如，在卷积神经网络中，可以使用激活值可视化技术来观察每一层网络的特征提取能力，从而更好地理解网络的工作原理。保存激活值还可以用于可解释性机器学习的研究，帮助研究人员分析神经网络的内部结构和决策过程，提高模型的可解释性和可靠性。

综上所述，保存每一层的激活值是为了计算梯度和其他分析、研究的需要，在反向传播算法中是必须的。

ConvNeXt网络中有用到MLP吗

是的，ConvNeXt网络中使用了MLP（多层感知器）模块。

ConvNeXt是一种基于卷积神经网络的模型，它通过多种分支的组合方式来提高模型的性能。其中，每个分支都包含了多个并行的卷积层，并通过MLP模块来整合这些分支的输出结果。具体来说，ConvNeXt中使用的是“grouped convolutional”结构，即将输入数据分成若干组，每组分别进行卷积操作，最后将所有组的输出结果拼接在一起。而在每个分支的输出结果上，ConvNeXt使用了一个MLP模块来对这些结果进行加权和，以获得更好的性能。

MLP模块是一种全连接神经网络结构，通常包含一个或多个隐藏层和一个输出层，可以将输入数据映射到一个高维空间中，从而提高模型的表达能力和泛化能力。在ConvNeXt中，MLP模块的作用是在分支的输出结果上进行加权和，以获得更好的特征表示和模型性能。

a wide and shallow building block通常由什么组成

Wide and shallow building block通常由以下组件组成：

一个宽卷积层：它使用了更多的卷积核，可以增加输出通道数，从而提高模型的表达能力。同时，由于卷积核的宽度较大，宽卷积层也可以捕捉更大范围的特征。

一个激活函数：通常采用ReLU激活函数，可以增加非线性能力。

一个Batch Normalization层：Batch Normalization可以加速模型的收敛速度，并且有助于模型泛化能力的提高。

一个Dropout层：它可以随机地将输入的一部分特征值设为0，可以有效地减少模型的过拟合问题。

这些组件共同构成了一个wide and shallow building block，可以被串联和堆叠到一起形成更深的神经网络，用于解决图像分类、目标检测、语义分割等计算机视觉任务。由于它们的宽度比深度更大，因此可以在保持计算量不增加的情况下增加模型的表达能力。

对于残差结构的block，则在短路连接中使用stride=2的1x1卷积。这里为什么使用1x1卷积

在残差结构中，通常会在短路连接中使用stride=2的卷积层来进行下采样（降低特征图的分辨率），以便更好地捕捉图像中的全局信息和长程依赖关系。而为了避免在下采样过程中丢失重要的特征信息，通常使用1x1的卷积核来进行下采样。

使用1x1的卷积核有以下几个好处：

降低计算量：相比于使用更大的卷积核，1x1卷积核的计算量更小，可以有效地减少模型的参数和计算量。

保留信息：1x1卷积层只在通道维度上进行卷积操作，因此可以保留空间信息，同时通过不同的通道组合来提高特征表示能力。

增加非线性：使用1x1卷积层可以增加非线性能力，使得模型更能够适应复杂的视觉任务。因为用了之后网络变得更复杂

总之，在残差结构中使用stride=2的1x1卷积层可以更好地捕捉图像中的全局信息和长程依赖关系，并保留重要的特征信息，同时减少计算量和增加非线性能力。

1x1的卷积、2x2卷积、3x3的卷积作用分别是什么

1x1卷积、2x2卷积和3x3卷积在深度学习中都有重要的应用。它们的作用如下：

1x1卷积： 1x1卷积通常用于调整特征图的通道数（设置多少就会调整为多少），可以用来压缩模型中的特征信息，减少计算量。此外，1x1卷积还可以增加模型的非线性能力，提高模型的表达能力。在Inception模型中就广泛使用了1x1卷积。

2x2卷积： 2x2卷积通常用于图像的池化操作，可以减小特征图的尺寸，减少计算量。它还可以用于图像的卷积操作，相对于3x3卷积来说，2x2卷积可以减少特征图的尺寸和计算量，但是在提取特征方面的表现可能不如3x3卷积。

3x3卷积： 3x3卷积是卷积神经网络中最常用的卷积核之一，因为它能够很好地平衡特征提取和计算量之间的关系。3x3卷积可以捕捉到局部的特征信息，同时又具有足够的感受野，可以在保证特征信息丰富的情况下减少模型的参数和计算量。

综上所述，1x1卷积、2x2卷积和3x3卷积都是卷积神经网络中非常重要的卷积核，它们各自的作用和适用范围略有不同，但都可以用于提高模型的表达能力和性能。

LayerNorm稳定训练的原理是什么

LayerNorm（层归一化）是一种归一化方法，用于加速深度神经网络的训练。与BatchNorm（批归一化）不同，LayerNorm对每个样本单独计算均值和方差，并将其用于归一化样本的每个特征。

LayerNorm能够稳定训练的原理如下：

减少内部协变量偏移问题：内部协变量偏移是指每一层的输入分布的变化导致网络权重的更新变得不稳定，进而导致训练变得困难。BatchNorm通过对每个batch内的数据进行归一化来解决这个问题，但是对于较小的batch，BatchNorm的效果会变得不稳定。LayerNorm通过对每个样本单独计算均值和方差，1、避免了batch内样本的相互依赖，因此能够更好地解决内部协变量偏移问题。

对噪声的鲁棒性更好：由于2、LayerNorm对每个样本单独计算均值和方差，因此它对噪声的鲁棒性更好（在存在噪声的情况下，仍能保持较好的表现或准确性。这通常是指系统、算法或模型能够有效地抵御、过滤或降低噪声对其结果的影响）。在深度神经网络中，噪声通常会导致训练过程变得不稳定，甚至出现过拟合等问题。LayerNorm通过对每个样本单独计算均值和方差，能够更好地抵抗噪声的干扰，因此训练过程更加稳定。

减小了对超参数的依赖：3、BatchNorm中需要手动设置batch size，而且要根据数据集的不同进行调整。而LayerNorm只需要计算每个样本的均值和方差，因此对超参数的依赖更小。

综上所述，LayerNorm能够通过减少内部协变量偏移问题、对噪声的鲁棒性更好以及减小对超参数的依赖等方式，提高深度神经网络的训练稳定性和效果。

Swin-T中的下采样层是单独的，因此ConvNeXt用stride=2的2x2卷积进行模拟，但又因为这样会使训练不稳定。为什么用2x2卷积进行模拟会不稳定

在Swin-T中，下采样层是通过一个单独的模块实现的，该模块包括一个3x3卷积和一个2x2的步幅为2的平均池化层，即先通过3x3卷积降低特征图的分辨率，然后通过2x2的平均池化进一步降低分辨率。

在ConvNeXt中，用stride=2的2x2卷积进行模拟，其本质上也是实现了下采样功能，但它没有像Swin-T中那样使用单独的模块，而是直接使用了卷积层。这种方式可能会导致训练不稳定的问题，原因有以下几点：

2x2卷积层的参数量比3x3卷积层少，因此可能会导致信息损失，从而影响网络的训练效果。

2x2卷积层在进行下采样时，每个输出像素的感受野大小只有4个输入像素，这样可能会导致信息丢失和不连续性，从而影响网络的训练效果。

2x2卷积层可能会导致梯度消失或梯度爆炸的问题。由于下采样层的存在，网络的层数会减少一半，因此梯度在向前传播时会受到更大的压缩，可能会导致梯度消失的问题。同时，由于2x2卷积层的参数量较少，因此可能会导致梯度爆炸的问题。

综上所述，使用2x2卷积进行下采样的方式可能会导致信息损失、信息不连续性、梯度消失或梯度爆炸等问题，从而影响网络的训练效果和稳定性。为了解决这些问题，Swin-T使用了单独的下采样模块，通过3x3卷积和2x2的平均池化来实现下采样，从而提高了网络的稳定性和效果。

---

增加非线性能力是增加什么？为什么要增加非线性能力

增加非线性能力是指增加神经网络的非线性表达能力，使其能够更好地拟合复杂的非线性模式。这通常是通过在网络中引入非线性激活函数来实现的，如ReLU、sigmoid、tanh等。

为什么要增加非线性能力呢？因为很多实际问题都是非线性的，例如图像分类、语音识别、自然语言处理等。这些问题往往需要复杂的非线性模型来建模和处理，而线性模型往往难以处理这些问题。如果神经网络没有足够的非线性表达能力，就会导致欠拟合，即模型无法很好地拟合训练数据。

因此，增加非线性能力可以提高神经网络的表达能力，使其能够更好地拟合复杂的非线性模式。这不仅可以提高模型的准确率和泛化能力（泛化能力是指一个机器学习模型在训练数据集中学到的知识能够适用于新的、未知的数据集中，而不是仅仅在训练数据集中表现良好。这是因为训练数据往往只是数据集的一个样本，不能代表全部的数据。如果一个模型只在训练数据上表现良好，而在未知数据上表现差，那么就会产生过拟合（overfitting）的现象。），还可以扩展神经网络的应用范围，使其能够处理更广泛的实际问题。

---

上采样up-sample一般由哪些组成

上采样（up-sample）是指将低分辨率的特征图扩大到高分辨率的过程。在深度学习中，上采样通常由以下几种组成部分组成：

---

插值算法：插值算法是指在原图像的像素点之间插入新的像素点，以达到扩大图像的效果。常见的插值算法有最近邻插值、双线性插值、双三次插值等。

卷积层：卷积层可以在特征图上进行滤波操作，以提取图像中的特征。在上采样中，卷积层通常被用来增加通道数或者减小特征图的大小。

反卷积层：反卷积层是一种特殊的卷积层，可以将特征图进行上采样。反卷积层的计算过程是卷积过程的逆过程，因此也被称为转置卷积。

池化层：池化层可以将特征图进行降采样，从而减小特征图的大小。在上采样中，池化层通常被用来降低特征图的大小，以便于后续的卷积操作。

上采样的组成部分可以根据具体的应用场景进行选择和组合。例如，在图像分割任务中，常常采用反卷积层来进行上采样操作，以恢复原始图像的分辨率。在图像超分辨率任务中，常常采用插值算法和卷积层来进行上采样操作，以生成高分辨率的图像。

---

为什么要低分辨率的进行上采样，高分辨率进行下采样

在深度学习中，为了提高模型的效率和准确性，常常需要对输入数据进行下采样（降采样）或上采样（升采样）操作。下采样可以减小输入数据的大小，提高计算速度和内存利用率；上采样可以增加数据的大小，恢复数据的细节和丰富性，以提高模型的准确性。

---

通常情况下，将高分辨率的数据进行下采样，而将低分辨率的数据进行上采样，是因为：

高分辨率数据的数量通常比低分辨率数据更多，因此需要进行下采样以减少计算量。而低分辨率数据通常不够丰富，需要进行上采样以恢复细节。

在进行下采样时，数据的信息会丢失，因此不能太频繁地进行下采样。相反，在进行上采样时，数据的信息会被填充或插值，因此可以更频繁地进行上采样。

在图像处理中，高分辨率图像的细节更加丰富，下采样后的图像可能会丢失一些细节信息。而低分辨率图像的细节相对较少，因此可以更加容易地进行上采样以恢复细节信息。

总之，选择在哪个分辨率上进行采样操作，应该根据具体的应用场景和任务需要进行选择。

---

上采样由：Linear、LayerNorm、Interpolation组成，这样设计的理由是什么

上采样（升采样）是深度学习中常用的一种操作，可以将低分辨率的输入数据扩展为高分辨率的输出数据，从而恢复数据的细节和丰富性，以提高模型的准确性。

---

在实现上采样时，通常可以采用多种方法，例如线性插值、双线性插值、反卷积等。Linear：线性层是一个简单的全连接层，其主要作用是将输入特征进行线性变换，以增加网络的非线性能力，并提高特征的表达能力。

LayerNorm：层归一化是一种对输入数据进行标准化处理的方法，其主要作用是减少训练过程中的内部协变量偏移问题（具体来说，每一层神经网络在进行前向传播时，输入数据会经过一系列的变换（如卷积、池化、激活函数等），产生新的输入分布。如果网络每一层的参数都在训练过程中不断更新，那么每一层的输入分布都会发生变化，这种现象就称为内部协变量偏移。由于每一层的输入分布的变化，使得网络的训练变得困难，尤其是在深度神经网络中更为明显。

为了解决内部协变量偏移问题，提出了批量归一化（Batch Normalization）方法。批量归一化通过对每一层的输入数据进行归一化操作，使得每一层的输入分布具有相似的均值和方差，从而缓解了内部协变量偏移问题，加速网络的训练过程，并提高了网络的精度和泛化能力。），提高模型的泛化能力。在Swin Transformer中，层归一化被应用于上采样模块中，以帮助网络更好地学习特征。

Interpolation：插值是一种常用的上采样方法，其主要作用是将输入数据按照一定的规则进行插值，以扩展数据的尺寸和增加数据的细节。在Swin Transformer中，插值被应用于上采样模块中，以恢复输入数据的细节和丰富性。

综上所述，Swin Transformer中的上采样模块采用了Linear、LayerNorm和Interpolation三个组件，这样设计的理由是为了增加网络的非线性能力、提高特征表达能力、减少内部协变量偏移问题、扩展数据的尺寸和恢复输入数据的细节和丰富性。

---

除了上面这样设计，还有什么其他组件的组合设计方案

除了Swin Transformer中采用的Linear、LayerNorm和反卷积（Deconvolution）三个组件的组合设计方案，还有其他一些组合设计方案，以下列举几种：双线性插值（Bilinear Interpolation）：双线性插值是一种插值方法，通常应用于图像缩放、图像旋转等操作中。在上采样中，可以使用双线性插值来扩大低分辨率的输入数据，从而得到高分辨率的输出数据。双线性插值可以通过计算四个最近邻点的值进行插值，从而得到目标位置的像素值。

反卷积（Deconvolution）：反卷积是一种常用的上采样方法，也被称为转置卷积（Transposed Convolution）或分数步长卷积（Fractional Strided Convolution）。反卷积可以将低分辨率的输入数据映射到高分辨率的输出数据，从而恢复数据的细节和丰富性。反卷积可以通过卷积核的反向操作来实现，通常需要进行补零（padding）和步长（stride）的调整。

上采样 + 卷积：另一种常用的上采样方法是将上采样和卷积结合起来使用。具体来说，可以先将低分辨率的输入数据进行上采样，然后使用卷积操作将其转换为高分辨率的输出数据。在卷积操作中，可以通过调整卷积核的大小和数量来控制输出数据的细节和丰富性。

深度可分离卷积（Depthwise Separable Convolution）：深度可分离卷积是一种轻量级卷积结构，其主要由深度卷积和逐点卷积两个步骤组成。在上采样中，可以先使用深度可分离卷积来扩大低分辨率的输入数据，然后再使用卷积操作将其转换为高分辨率的输出数据。深度可分离卷积具有计算效率高、参数量少、可训练性强等优点，被广泛应用于移动端和嵌入式设备中。

综上所述，其他一些常用的组合设计方案，例如双线性插值、反卷积、上采样+卷积和深度可分离卷积等。选择合适的组合设计方案需要根据具体应用场景和需求来确定。

---

提高模型的泛化能力是什么意思

提高模型的泛化能力是指让模型在未见过的数据上表现良好的能力，即让模型具有较强的适应性和推广能力。在机器学习中，模型往往会在训练集上学习到一些规律和特征，但是如果这些规律和特征仅仅是在训练集上有效而在测试集或实际应用中失效，那么模型就无法真正发挥作用。因此，提高模型的泛化能力是非常重要的。一些方法，如数据增强、正则化、早停等，都可以用于提高模型的泛化能力。

---

1x1卷积可以增加模型的非线性能力，原理是什么

1x1卷积可以增加模型的非线性能力，原理主要是通过引入非线性变换来增加模型的复杂度和表达能力。具体来说，1x1卷积可以看做是对通道维度的卷积操作，即对每个通道进行线性变换和非线性变换，使得模型能够更好地适应各种复杂的特征表示。

在卷积神经网络中，通常采用的是基于ReLU等激活函数的非线性变换，这种非线性变换能够使得网络更好地拟合非线性函数，从而增强模型的表达能力和泛化能力。而1x1卷积作为一个可以增加模型复杂度的工具，可以在保证模型计算量不过大的前提下，引入适量的非线性变换，从而增强模型的表达能力。此外，由于1x1卷积可以在通道维度上进行操作，因此可以实现通道之间的交互和信息整合，进一步提高模型的表达能力和泛化能力。

---

深度可分离卷积的原理和使用方法

深度可分离卷积（Depthwise Separable Convolution）是一种卷积神经网络中常用的卷积操作，它能够在保持一定的模型精度的前提下，显著减小模型的计算复杂度和参数量，从而提高模型的效率和推理速度。

深度可分离卷积由两个步骤组成：深度卷积和逐点卷积。深度卷积是指在每个通道上进行单独的卷积操作，它可以捕捉到特征图中的空间信息。而逐点卷积则是在每个空间位置上，对各个通道进行独立的卷积操作，它可以对不同通道之间的特征进行信息整合。整个深度可分离卷积操作可以用下面的公式表示：

$y = PointwiseConv(DepthwiseConv(x))$

其中，$x$表示输入特征图，$DepthwiseConv$表示深度卷积操作，$PointwiseConv$表示逐点卷积操作，$y$表示输出特征图。

深度可分离卷积的使用方法一般分为两种情况。一种是将深度可分离卷积作为卷积神经网络中的基本操作，代替传统的卷积操作，从而构建轻量级的网络结构，如MobileNet等。另一种是将深度可分离卷积作为网络中的一种模块，与其他操作组合起来使用，如Inception网络中使用的Inception模块。在实际应用中，深度可分离卷积可以用于各种计算资源受限的场景，如移动端设备、嵌入式设备等。

---

Interpolation插值使用方法，原理是什么

Interpolation（插值）是一种常见的上采样方法，可以将低分辨率的图像或特征图放大到高分辨率，从而实现图像/特征的上采样。具体来说，Interpolation会在输入数据的空间维度上插入新的数据点，使其在输出数据中变得更加密集。

在深度学习中，Interpolation通常用于图像/特征的上采样。一般来说，Interpolation的使用方法包括以下几个步骤：

指定上采样倍数：根据需要的上采样倍数，计算输出大小。

插值：对于每个空间位置，通过对输入张量的邻近像素进行插值计算输出值。最常见的插值方法是双线性插值，即对于每个输出像素，通过对四个最近的输入像素进行线性插值来计算其值。重新组织输出：将所有插值后的像素重新组合成输出特征图。

Interpolation的原理是通过插值计算来估计新的像素值。插值的方式有多种，如双线性插值、三线性插值、最近邻插值等，每种插值方法都有其优缺点和适用场景。在深度学习中，双线性插值是最常用的一种方法，因为它计算简单且效果较好。

---

Interpolation（插值）的上采样方法计算量大还是使用深度可分离卷积计算量大呢

通常来说，使用深度可分离卷积的计算量要比插值的上采样方法大。因为深度可分离卷积通常需要较多的卷积核和卷积操作，而插值方法通常只需要进行插值操作，计算量相对较小。不过具体情况还需要考虑使用的具体方法以及输入输出的大小等因素。

---

双线性插值、三线性插值、最近邻插值，分析他们的其优缺点和适用场景

双线性插值、三线性插值和最近邻插值是常用的插值方法，它们各有优缺点和适用场景。

---

最近邻插值（Nearest Neighbor Interpolation） 最近邻插值的原理是在目标图像中，对于要插入的每一个像素，找到其在原图像中最近的像素，然后将该像素的值赋给目标像素。最近邻插值计算速度快，简单易实现。但其缺点是插值结果过于生硬，缺乏光滑性，容易产生锯齿状的伪影。最近邻插值适用于图像放大的情况，且对插值质量要求不高的场合。

双线性插值（Bilinear Interpolation） 双线性插值的原理是在目标图像中，对于要插入的每一个像素，利用其周围的四个最近的像素进行线性插值，得到目标像素的值。双线性插值可以保持图像的平滑性和连续性，适用于图像旋转、缩放等变换操作。但其缺点是对于图像中的高频部分（如边缘、细节等）处理效果较差，容易产生伪影。双线性插值适用于对插值质量要求较高的场合。

三线性插值（Trilinear Interpolation） 三线性插值是针对三维数据（如体数据）进行插值的一种方法，其原理是在三维空间中，对于要插入的每一个像素，利用其周围的八个最近的像素进行线性插值，得到目标像素的值。三线性插值可以保持体数据的平滑性和连续性，适用于体数据的放缩和旋转等变换操作。

---

总体而言，最近邻插值计算速度快，但插值结果较生硬；双线性插值可以保持图像的平滑性和连续性，但对高频部分的处理效果较差；三线性插值适用于体数据的插值。在实际应用中，应根据具体的场景和数据类型选择合适的插值方法。

---

a wide and shallow building block一般由哪些组成

一个宽而浅的构建块通常由以下组件组成：

一组并行的卷积分支（Parallel Convolution Branches）：每个卷积分支使用不同的卷积核大小或深度，以提取不同的特征。这些分支可以并行计算，以减少计算延迟。

一个逐元素的加权和（Element-wise Weighted Sum）：将并行卷积分支的输出加权求和，以得到最终的特征表示。

批归一化（Batch Normalization）：对每个卷积分支的输出进行归一化，以加速收敛和提高泛化能力。

非线性激活函数（Non-linear Activation）：对逐元素的加权和进行非线性变换，以增强特征表达能力。

这些组件的设计可以根据具体的任务和数据集进行调整，以优化模型性能和延时。