float与double的精度值在编程中以及openGL超级宝典(第四版)及代码的错误之处#define M3D_INV_PI_DIV_180 (57.2957795130823229)

今天在研究图形学的旋转矩阵时。推导计算发现opengl超级宝典的错误之处

openGL超级宝典(第四版)及代码的错误之处#define M3D_INV_PI_DIV_180 (57.2957795130823229)

他的意思很明白是180/PI但是其倒数第二位数字2是错误的计算结果应该是#define M3D_INV_PI_DIV_180 (57.2957795130823209)是0而不是2

在这里保留小数点16位是有一定原因的,一方面提高精确度,另一方面double的精度为15~16位有效数字

而float的精度为6~7位有效数字

总是所述,他的这个错误用在float中绝对没有问题,但是用到double将会有很小细微的差别,愿各位opengl编程爱好者注意下

你可能感兴趣的:(float与double的精度值在编程中以及openGL超级宝典(第四版)及代码的错误之处#define M3D_INV_PI_DIV_180 (57.2957795130823229))