double类型精度损失问题

在十进制中小数有些是无法完整用二进制表示的。它们只能用有限位来表示,从而在存储时可能就会有误差。十进制的小数采用乘2取整法进行计算,去掉整数部分后,剩下的小数继续乘以2,直到小数部分全为0.

有的小数可能取不到零就会一直循环

0.9*2=1.8…...取整1

0.8*2=1.6…...取整1

0.6*2=1.2…...取整1

0.2*2=0.4.…..取整0

0.4*2=0.8…...取整0

0.8*2=1.6…...取整1

我们计算0.3+0.4:

double a = 0.3 + 0.4;
printf("%f\n",a); //0.7

可以精确的显示0.7,其实在计算机上 0.3 + 0.4 根本就不等于 0.7 (为什么?),看下面代码就很清楚了:

#include 
using namespace std;
typedef long long LL;
int main()
{
    double a = 0.3 + 0.4;
    printf("%f\n",a);//输出 0.700000
    printf("%.18f",a);//输出 0.699999999999999956
    return 0;
}

因为 0.3 和 0.4 都不能被精确表示。 浮点数的精度丢失在每一个表达式,而不仅仅是表达式的求值结果。用printf输出的时候其实已经四舍五入了。 

注意:把float\double强转化为int类型时,只取整数部分不会四舍五入

#include 
using namespace std;
typedef long long LL;
int main()
{
    double a = 1.3 + 1.4;
    int b = (int)a;
    printf("%d\n",b);//输出 2
    return 0;
}

针对小数精度不够的问题(例如 0.74),软件可以人为的在数据最后一位补 5, 也就是 0.745,还原的时候再去掉尾巴5即可:

#include 
using namespace std;
typedef long long LL;
int main()
{
    double a = 0.74;
    double b = 0.74 + 0.005;
    printf("%.18f\n",a);//输出 0.739999999999999991
    printf("%.18f\n",b);//输出 0.744999999999999996
    int c = (int)(a * 100);
    int d = (int)(0.74 * 100 +0.005);
    printf("%d\n",c);//输出 73
    printf("%d\n",d);//输出 74
    return 0;
}

 

 

 

你可能感兴趣的:(【涨姿势】)