模型压缩-网络量化概述

前言

浮点数和定点数

浮点数(floating point number)和定点数(fixed point number)都是计算机中表示实数(即带有小数部分的数)的方式。在数值计算中,小数在内存中是以浮点数格式表示和参与运算。浮点数和定点数中的“点”指的是小数点。

1,浮点数表示法是用科学计数法表示实数,即:

fraction × base exponent \text{fraction} \times \text{base}^\text{exponent} fraction×<

你可能感兴趣的:(模型压缩与部署,模型量化,tensorrt,kl散度,线性量化)