Half-precision

半精度浮点数（fp16，Half-precision floating-point）

今天看NVIDIA的帕斯卡架构介绍时，看到了fp16浮点数格式，以前没见过，想弄清楚他的格式和表示范围，几经查找，终于搞懂了。主要参考：fp16-wiki如图，一个fp16数据占据两个字节，其中1位符号位，5位指数位，10位有效精度。符号位：0：代表正数；1：代表负数。指数位：与15的偏差。max_e=11110-01111=15;min_e=00001-01111=-14;00000和11111
coder超·2020-09-17 07:46
上一页 1 下一页
按字母分类： ABCDEFGHIJKLMNOPQRSTUVWXYZ其他