【C】float型数据取绝对值abs后数据不对?

问题

使用函数abs将数据进行计算后,发现并没有得到预期的数值,正常状态下值应将-0.77的负号去掉得到正值,但实际出来结果却为0。

 

解决

abs的用法是针对整形变量的,double型变量取绝对值为fabs, float型变量取绝对值函数为fabsf。改为此函数fabsf即可得到正确数值0.77。

你可能感兴趣的:(C,ARM)