pow()函数结果强制转化为int造成误差的分析

CodeBlocks MinGw(Minimalist GNU For Windows)编译器下出现的不精确问题

如程序所示,我们最近在进行串口通信时,遇到的数字字符转化问题时发现的不精确问题

 

#include

#include

int main()
{
    int c=5;
    int w=54321;//被除数
    int i;

    for(i=0;i

        {
        printf("%d\t",(int)pow(10,(c-i)));//输出被模运算的数
        printf("%d\t",w%((int)(pow(10,(c-i)))));//输出模运算后的结果
        printf("%d\t",(int)pow(10,(c-i-1)));//输出除数
        s=w%((int)(pow(10,(c-i))))/((int)(pow(10,(c-i-1))));
        printf("%d\n",s);//输出每一位数字
    }
    return 0;

}

pow()函数结果强制转化为int造成误差的分析_第1张图片

理应是54321的最后一列,后变成了54361

仔细分析后发现:因为pow函数导致从double返回值类型向int型转化的时候是直接把小数部分切掉,

导致原先double型的小数部分不再四舍五入,从而失去了整数部分的精度,最终结果差1

可是:

#include
#include

int main()
{
    printf("%d\n",(int)(pow(10,1)));
    printf("%d\n",(int)(pow(10,2)));
    printf("%d\n",(int)(pow(10,3)));
    printf("%d\n",(int)(pow(10,4)));
    printf("%d\n",(int)(pow(10,5)));
    return 0;
}

pow()函数结果强制转化为int造成误差的分析_第2张图片

对比下面的代码:

#include
#include

int main()
{
    int i;
    for(i=0;i<6;i++)
        {
            printf("%d\n",(int)(pow(10,i)));
        }
    return 0;

}

pow()函数结果强制转化为int造成误差的分析_第3张图片

一开始我也总觉得这是编译器的问题,这样来看也许并不是,对于常量的存储,我是不太知道是怎么回事的于是参考别人的 说法是这样:常量又称为字面值常量,字面值常量在程序中是直接表示的,整型直接写出大小,字符直接写出字符。一个字面值常量在编译时被直接解析为立即数,编译器内部维护字面值常量的类型。它跟常量表达式不是一个概念,常量表达式是const型变量。

内存分为5个部分:栈区(局部变量),堆区(malloc函数),静态(全局)区,文字常量区,程序代码区

常数当然就在文字常量区,而下面的int i;则在栈区,存储的位置不一样结构肯定也不同,编译器处理也可能不同,从而也导致了结果的不同。

当然想要知道细节还是要pow函数的源码

还有一个关于二进制数的理解我觉得很有意思---把浮点数当做模拟值(连续的),而用二进制表示浮点数是无法表示所有值的所以就造成了误差(附上地址):https://blog.csdn.net/qq_25847123/article/details/77587575

 

 

 

 

 

你可能感兴趣的:(pow()函数结果强制转化为int造成误差的分析)