C# Math.Abs()取“绝对值”方法使用过程中需要注意的地方

在C#中对于数值想要取绝对值的时候一般大家都会用using System;中带的Math.Abs()方法,这种方法非常便捷。

但在一种情况下,取绝对值方法返回的值并不精准,我用下面的例子来展示:

假设有一个double变量 a=2.5,一个double变量b=2.6,此时用变量a减去变量b然后再用Math.Abs(a-b);方法取绝对值。

你就会发现这个方法的返回值不是0.1,而是一个无线趋近于0.1的数,值为0.10000000000000009。

所以大家在使用这个方法的时候需要注意这点。

例子运行的代码如下:

           double a = 2.5;
            double b = 2.6;
            double c = Math.Abs(a - b);

有兴趣的朋友们可以调试程序看一看结果,我个人觉得还是挺有意思的。

你可能感兴趣的:(C#,WinForm,c#,visual,studio)