53、实战 - 手写一个全连接算法

全连接算法在一定程度上和矩阵乘法算法等价,因此如果我们想实现一个全连接。的算法,只需要实现一个矩阵乘法就可以。。

矩阵乘法是线性代数运算,用于将两个矩阵相乘得到一个新的矩阵。要执行矩阵乘法,需要确保第一个矩阵的列数与第二个矩阵的行数相等。

比如第一个矩阵的维度为 m×k,第二个矩阵的维度为 k×n,则相乘得到的新矩阵的维度为 m×n。

通过上面的描述,我们可以看到矩阵乘法的乘累加维度,实际上是 k 那一维度,他通过将k 那一维的所有数据进行逐元素相乘,并且累加成一个值来完成特征的融合。

在 resnet50 神经网络中,最后一层全连接层的第一个矩阵的输入维度是:1 x 2048,第二个矩阵的输入维度是: 2048 x 1000,这样两个矩阵相乘的结果,输出维度变成了1×1000。

而这 1000 便代表了 ImageNet 数据集中的 1000 个分类。

矩阵乘法的实现

为了实现一个矩阵乘法,我们可以简单的采用堆叠循环的方式来完成。

实现思路大致为:在最外层分别循环 m 次和 n 次,最内层对 k 维度循环 k 次并进行乘累加操作。利用Python代码实现如下。

def FullyConnect(img, weight, bias):
  '''
  fc compute [2048] * [1000, 2048] = [1000]
  img : [1, 1, 2048] from last layer
  weight: need reshpe to [1000, 2048]
  bias: [1000]
  '''
  img_new = img.reshape(2048)
  weight_new = np.array(weight).reshape([1

你可能感兴趣的:(CV视觉算法入门与调优,机器学习,人工智能)