C语言中浮点型数转化为整型数的陷阱

最近做嵌入式项目,把一段老代码一直到智能手机平台之后发现了意想不到的bug。

简单来说就是一个负的FLOAT强转为WORD型会变成0,比如

FLOAT f = -1.0;

WORD w = f;

w会变成0,而不是期待的0xffff(65535)。


于是我在PC上用devc++(win版gcc)和linux版gcc都试了一下,发现均能得到0xffff结果。

反汇编后发现它们使用了x87 PFU的FISTP指令,而这个结果其实是由这个指令给出的。

但遗憾的是在智能手机平台上同样是gcc却得不到0xffff。


由于环境的问题暂时没办法反汇编智能手机程序,如是我翻出C语言标准,看看这个行为标准到底是怎么定义的。

结果如下:

>    When a value of floating type is converted to integral type, the

> fractional part is discarded.  If the value of the integral part

> cannot be represented by the integral type, the behavior is

> undefined. /23/


也就是说浮点型转整型时,先抛弃小数部分,如果剩余的整数部分超出了目标整型的表示范围则该转换行为为未定义。

显然,WORD的表示范围是0-65535,而-1不在此范围之内,所以该强转结果是什么,在不同平台,不同编译器下可能是不同的。


看来今后写类似代码要注意检查浮点数范围了。



你可能感兴趣的:(C语言中浮点型数转化为整型数的陷阱)