连载:编写高效代码(6)——降低数据精度

 

我们知道,小数点后面的位数越多,数据越精确,例如,100.11就比100.1精确,而越精确的数据,所需要的bit数也越多。浮点数有单精度和双精度2种格式,单精度浮点数占32 bit,双精度浮点数占64 bit,处理双精度的浮点数自然要比单精度浮点数慢。

fabsf()是计算单精度浮点数绝对值的函数,fabsf()就比<FONT style="FONT-SIZE: 10.5pt" face=""">fabs()快,很多程序员并没有注意到这个区别。如果一个数据用单精度能否表示,就不需要使用双精度。

你可能感兴趣的:(连载:编写高效代码(6)——降低数据精度)