衡量神经网络的三个指标，参数量，multi-add，flop计算力

1.深度学习框架FLOPs的概念

FLOPS：注意全大写
floating point operations per second的缩写，意指每秒浮点运算次数，理解为计算速度。是一个衡量硬件性能的指标。

FLOPs
Floating point operations 浮点运算数量，就是计算量

主要由卷积组成，BN，relu pool占比较少

Image大小为 5x5
卷积核大小为 3x3
那么一次3x3的卷积（求右图矩阵一个元素的值）所需运算量：(3x3)个乘法+(3x3-1)个加法 = 17
要得到右图convolved feature （3x3的大小）：17x9 = 153

2.参数量就是w,b的个数

例如每个滤波器55=25个unit参数和一个bias参数，一共6个滤波器，共(55+1)*6=156个参数

3.multi-add

对于一个 HiWiCi 的输入特征图经过KwKh的卷积操作并输出 HoWo*Co 的特征图有两种算数操作（即，Multi-Add）

1，乘法操作

对于Kh*Kw的卷积窗口，有 Kh*Kw*Ci 次乘法操作，因为卷积是在输入特征图上进行，而卷积是在 Ci 个通道上同时进行。

2，加法操作

对于 n 个元素求和，我们需要 n - 1次加法。而在一个卷积窗口内有 Kh * Kw * Ci 个元素。所以我们需要Kh*Kw*Ci - 1次加法操作。