未处理的异常: 0xC0000091: Floating-point overflow 的解决办法

执行如下语句:

float dAngle = 0;

dAngle = m_dAcrossAngle;
if(dAngle > 60.0)
{
dAngle = 60.0;
}
else
{
if(dAngle < -60)
{
dAngle = -60;
}
}

其中m_dAcrossAngle = -6.2774385622041925e+066,执行if(dAngle > 60.0)提示:Floating-point overflow 错误。

解决办法是:将float dAngle = 0;改为double dAngle = 0;

原因:

数值超过float类型数据表示的范围。浮点数都有一个表示范围,一般来说如果比这个范围的最大值还大那就是overflow,反之就是underflow。分别会被视为无穷大或者无穷小。

理解如下:

float:
1bit(符号位)
8bits(指数位)
23bits(尾数位)

double:
1bit(符号位)
11bits(指数位)
52bits(尾数位)

float的范围为-2^128 ~ +2^128,也即-3.40E+38 ~ +3.40E+38;
double的范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308

你可能感兴趣的:(随笔)