计算机的错误计算(七十六)

摘要  讨论反正弦函数 asin(x) 的错误计算。

例1.  计算 asin(0.999999999999) .

       不妨用 Python 计算:

计算机的错误计算(七十六)_第1张图片

再在 Visual Studio 2010下用下列代码计算:

#include 

double x=0.999999999999;
double y=asin(x);
printf("%.15lf\n",y);

则运行后输出同样为 1.570794912596977 .

        然而,正确值是 0.1570794912581334e1(ISRealsoft 提供)。这样,两者均有 5位错误数字,错误率为 5/16 = 31.25% .

你可能感兴趣的:(python,c++,c#,java,c语言,bug,visual,studio)