Decimal与Double的区别

今天在测试一个三个数相加和为100的情况;

前台输入三个值  例如:20,30,50。如果三个值都为整数

double.prase(20)+double.prase(30)+double.prase(50)=100;

decimal.parse(20)+decimal.parse(30)+decimal.parse(50)=100;

上面两个是没有误差问题的;

若前台输入的三个值 分别为39.43  28.02  32.55这三个值的话;

double.prase(39.43)+double.prase(28.02)+double.prase(32.55)=99.999。。。;无限循环

decimal.parse(39.43)+decimal.parse(28.02)+decimal.parse(32.55)=100;

好奇心驱使我去找了下答案:

计算机计算都是二进制数字,首先是将数字转化成二进制数(这样容易造成二进制有可能位数不够的情况)然后再计算,这样就造成了误差,Decimal类型的有效位数达到28位,而double类型的16位;对于一般的数据量不大的计算推荐用Decimal来;

你可能感兴趣的:(Decimal与Double的区别)