对于浮点型数据运算精度丢失问题

  对于浮点型数据运算精度丢失问题:
产生原因:
    计算机并不能识别除了二进制数据以外的任何数据,无论我们使用何种编程语言,在何种编译环境下工作,都要先 把源程序翻译成二进制的机器码后才能被计算机识别。
    而在存储浮点型数据时,会分为三部分进行存储:
        符号位(Sign) : 0代表正,1代表为负
        指数位(Exponent):用于存储科学计数法中的指数数据,并且采用移位存储
        尾数部分(Mantissa):尾数部分
            其中前两位分别为实数符号位和指数符号位,于是存储结构实际为如下:
对于浮点型数据运算精度丢失问题_第1张图片

 

                     31                  30            29----23        22----0         

               实数符号位    指数符号位    指数位      有效数位

           但是,在将十进制浮点数转换为二进制浮点数时,小数的二进制有时也是不可能精确的,就如同十进制不能准确表示1/3,二进制也无法准确表示1/10,而double类型存储尾数部分最多只能存储52位,于是,计算机在存储该浮点型数据时,便出现了精度丢失(1)。例如,11.9的内存存储大约为:1011. 1110011001100110011001100...

            而在进行浮点类数据计算的时候,浮点参与计算,会左移或右移n位,直到小数点移动到第一个有效数字的右边。于是11.9在转化为二进制后 小数点左移3位,就得到1. 011 11100110011001100110(精度丢失2)

            于是最终浮点型运算出现了精度丢失误差。

测试方法:

            建议测试人员在涉及浮点型数据的运算时(如金额),减法运算建议输入被减数2.4,减数2.0。此时结果
           对于浮点型数据运算精度丢失问题_第2张图片             
            当为加法运算时,建议输入加数分别为0.1+0.2。此时运算结果:
            对于浮点型数据运算精度丢失问题_第3张图片
            当乘法运算时,建议输入0.2*0.1,此时结果:
     对于浮点型数据运算精度丢失问题_第4张图片

             

            当除法运算时,建议0.3/0.1,此时结果:
   对于浮点型数据运算精度丢失问题_第5张图片

 

  

转载于:https://www.cnblogs.com/Shepherdzhao/p/7768548.html

你可能感兴趣的:(对于浮点型数据运算精度丢失问题)