(笔记)细颗粒度的三值网络Ternary Neural Networks with Fine-Grained Quantization
原文链接摘要方法实验效果原文链接https://arxiv.org/abs/1705.01462摘要提出一种三值化方法,激活函数是8/4bit的,不需要训练,对N个权重量化到三值,N=2,4,8,16等等。当N=4时,ResNet-101和ResNet-50的Top1准确率分别下降3.7%和4.2%。方法目的:不训练地,把32bit浮点权重WW量化为{−α,0,α}{−α,0,α}。基于阈值ΔΔ(