Android(Java)计算精度校正

---

现象

float total = 1.0f;
float f1 = .1f;
float f2 = .2f;
float f3 = .3f;
float f4 = total - f1 - f2 - f3;

得到的f4值是多少？
稍有经验的程序员估计都会想「肯定不是0.4」
Bingo！答案是0.39999998

---

原理

Java在存储float和double数据时，整数和小数部分分别转为二进制表示
例如2.5，在内存中32位的存储结果为

1100 0000 0010 0000 0000 0000 0000 0000

没有精度丢失，因为0.5刚好可以转为二级制小数的1
但如果是2.6呢？小数部分会表示为

1001 1001 1001 1001 1001 1001 1001 1001

1001的无限循环，但存储位数是有限的，超出部分不得不被舍弃掉，就造成了精度丢失

---

跳坑

Java提供了BigDecimal类处理类似问题，这也是很多博客推荐的解法
话不多说，直接上代码

float total = 1.0f;
float f1 = .1f;
float f2 = .2f;
float f3 = .3f;
BigDecimal totalB = new BigDecimal(total);
BigDecimal f1B = new BigDecimal(f1);
BigDecimal f2B = new BigDecimal(f2);
BigDecimal f3B = new BigDecimal(f3);
float f4B = totalB.subtract(f1B).subtract(f2B).subtract(f3B).floatValue();

得到的f4B值是多少？
多数人会想「肯定0.4了」
答案还是0.39999998

---

分析

BigDecimal只有传参为double类型的构造方法，所以这里虽然传入的是float，但调用的是：

public BigDecimal(double val) {
    this(val,MathContext.UNLIMITED);
}

跟进去看看是怎么处理传参的：

public BigDecimal(double val, MathContext mc) {
  if (Double.isInfinite(val) || Double.isNaN(val))
    throw new NumberFormatException("Infinite or NaN");
  // Translate the double into sign, exponent and significand, according
  // to the formulae in JLS, Section 20.10.22.
  long valBits = Double.doubleToLongBits(val);
  int sign = ((valBits >> 63) == 0 ? 1 : -1);
  int exponent = (int) ((valBits >> 52) & 0x7ffL);
  long significand = (exponent == 0
    ? (valBits & ((1L << 52) - 1)) << 1
    : (valBits & ((1L << 52) - 1)) | (1L << 52));
  exponent -= 1075;
  ...
}

double本身就无法无损表示

---

解决

一个小改动，就可以解决问题：

float total = 1.0f;
float f1 = .1f;
float f2 = .2f;
float f3 = .3f;
BigDecimal totalB = new BigDecimal(String.valueOf(total));
BigDecimal f1B = new BigDecimal(String.valueOf(f1));
BigDecimal f2B = new BigDecimal(String.valueOf(f2));
BigDecimal f3B = new BigDecimal(String.valueOf(f3));
float f4B = totalB.subtract(f1B).subtract(f2B).subtract(f3B).floatValue();

为什么传参为String类型的构造方法可以保留精度？
答案都在源码里