DNN硬件加速器设计4 -- Co-Design and Benchmarking Metrics(MIT)
4.NetworkandHardwareCo-Design4.1NetworkOptimization对于网络算法的优化主要采用以下两种思路:(1)减小计算精度和对参数进行低位宽量化:参数类型为定点数与浮点数的比较,数据位宽对精度的影响(2)减少计算量和参数存储量:参数压缩(Compression),网络裁剪(Pruning)下图1所示为FP32,FP16,INT32,INT16,INT8五种数据