浮点数运算产生误差的原因详解

背景:业界主流的IEEE754浮点数标准,对该标准表示浮点数的方法熟知,如诺不知,请参考前篇博文:https://blog.csdn.net/Naruto_c/article/details/85287793
浮点数加减运算步骤

  1. 零值检测(浮点数的加减运算十分麻烦,如果检测到该浮点数的阶码和尾数全为0及表示浮点数0就直接得出结果)
  2. 对阶操作,通过阶码大小的比较对其小数点,尾数向右移一位,十进制的阶码值加1,反之减1,因为向左移尾数部分的高位会被移除,误差更大,所以IEEE754规定选择阶码小的数进行向右移
  3. 尾数求和,尾数部分的运算是带有隐藏位的计算,并且如果是负数还需要转换为补码,并且符号位也要参与其中的运算
  4. 结果规格化,尾数计算完毕后其隐藏位一定为1,如果不为1,则需要尾数向右移或者向左移调整规格化形式,阶码也要相应的发生变化
    实例:
    浮点数运算产生误差的原因详解_第1张图片
    浮点数运算产生误差的原因详解_第2张图片
    浮点数运算产生误差的原因详解_第3张图片

你可能感兴趣的:(计算机及编程语言基础)