FP16和FP32与INT8占位和计算问题

数据问题

FP32占用4个字节,共32位,其中1位为符号位,8为指数位,23为尾数位。
FP16占用2个字节,共16位,其中1位为符号位,5位指数位,十位有效数字位。
符号位:0为正,1为负。
指数位的计算方式为:
取基底数加上后面有效数字化出来的指数数
基底数计算:第一位取0后面用1补满
例如FP16指数位5为:基底数就为01111 等于15
举例说明计算方式:例如十进制13化为二进制就是1101,将写成1.101乘以10的3次方
采用FP16方式表示:第一位符号13为正数取0,指数为15加3等于18二进制为10010 ;后面为有效数字写为1101后面补0即可。
int8,八位整型占用1个字节

你可能感兴趣的:(散知识备忘录)