GFLOPs、GMACs、FMA之间的关系

1)FLOPS是Floating-point Operations Per Second每秒所执行的浮点运算次数的英文缩写。它是一个衡量芯片计算能力的量，这个量经常使用在那些需要大量浮点运算的科学运算中。有时也会被记为flop/s，用以衡量硬件性能。

 

• 一个 MFLOPS (megaFLOPS) 等于每秒1百万 (=10^6) 次的浮点运算，
• 一个 GFLOPS (gigaFLOPS) 等于每秒10亿 (=10^9) 次的浮点运算，
• 一个 TFLOPS (teraFLOPS) 等于每秒1万亿 (=10^12) 次的浮点运算，
• 一个 PFLOPS (petaFLOPS) 等于每秒1千万亿 (=10^15) 次的浮点运算

2)FLOPs是floating point operations的缩写（s表复数），意指浮点运算数，理解为计算量，用以衡量算法/模型复杂度。

3)MACs 每秒执行的定点乘累加操作次数的缩写，它是衡量计算机定点处理能力的量，这个量经常用在那些需要大量定点乘法累加运算的科学运算中，记为MACs。

• 一个 GMACs:等于每秒10亿 (=10^9) 次的定点乘累加运算
• 乘积累加运算（英语：Multiply Accumulate, MAC）

4) FMA指令集（Fused-Multiply-Add，积和熔加运算）是x86微处理器上的指令集。FMA允许创建新的指令并有效率地执行各种复杂的运算，可结合乘法与加法运算（即积和熔加运算）。

• FMA将a*x+b记为一项运算，GMAC=0.5GFLOPs

参考这个issue