浮点数的定点化

  1. 举个例子;浮点数例子:2.918 3.1415926
    第一步,有一个16位的数,第15位是符号位,14.13.12(3bit整数位)位是整数位,11~0位是小数位;
    第二步,那麽最大值+32767,最小值-32768
    其中第14,13,12位最大能表示7,小数最大12位能表示多大精度呢?
    第三步,1除以2的12次方=0.000244140625
    2.918进行定点化的过程位2.918/(8/32768)=11992.128~=11952这个值就是定点后的2.918顶点化带来误差。
    8/32768=0.000244140625 (8代表3bit最大值,32768代表2的15次方的值)
    3.1415926定点化表示是多少呢?
    3.1415926/(8/32768)=12868.963296~=12868

你可能感兴趣的:(FPGA基础)