浮点型运算结果是不精确的,会出现精度丢失

float a = 1.1f;
float b = 3.1415926f;
double b=1.1d;
double result = a+b; //结果是2.2000 0002 3841 858

解析:

  1. 单精度有7~8位小数,双精度有15位小数
  2. 二进制存储,单精度只有16个二进制位,双精度有64个二进制位,二进制位里面包含正负号,整数部分,小数点,小数部分 正 负号和小数点占用二进制位数是定值。
  3. 将十进制浮点数转换为二进制浮点数时,小数的二制有时也是不可能精确的,就如同十进制不能准确表示1/3,二进制也无法准确表示1/10,而double类型存储尾数部分最多只能存储52位,于是,计算机在存储该浮点型娄据时,便出现了精度丢失。
  4. 在进行浮点类数据计算的时候,浮点参与计算,会左移或右移n位,直到小数点移动到第一个有效数字的右边,于是也可能出现精度丢失。

你可能感兴趣的:(浮点型运算结果是不精确的,会出现精度丢失)