Vb.net/Uipath double类型运算

发现两个double类型(两个数值是一样的)相减,所得出的值不是0:


Now的值:



Before的值:


两个一样的值相减:


结果是-4.33680868994202E-19


因为cdbl是采用二进制的形式表示的,我们尝试用tostring(“E”)表示:




所以二进制的形式其实是减不尽的,当进行double类型运算这边有两个解决方案:

方案一(不推荐):

采用Math.Round,但是要知道保留多少位数,我这边用

Math.Round((dt_MTDRegion_NI.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y(0).ToString = "SCN" Andy(2).ToString = "M&A").

Sum(Function(y)CDbl(y(5).ToString)) / 1000) -

dtDateRange.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y("ADV-Southern NI M&A").ToString<> "").

Sum(Function(y)CDbl(y("ADV-Southern NI M&A").ToString)),5)


保留5位小数


方案二(推荐):

使用decimal.parse()转换double类型运算:


dt_MTDRegion_NI.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y(0).ToString = "SCN" Andy(2).ToString = "M&A").

Sum(Function(y)Decimal.Parse(y(5).ToString)) / 1000 -

dtDateRange.Rows.Cast(OfSystem.Data.DataRow).Where(Function(y) y("ADV-Southern NIM&A").ToString <> "").

Sum(Function(y)Decimal.Parse(y("ADV-Southern NI M&A").ToString))


你可能感兴趣的:(Vb.net/Uipath double类型运算)