在大数对10^9 + 7取余时精度丢失

在写算法时经常遇到这种情况,比如答案是由我们得到的两个很大的数字相乘得到的。

我就有遇到一个情况:

        使用1L*a*b%(Math.pow(10,9)+7)会超出范围,而1L*a*b%1000000007不会超出范围

        这个问题的原因是Math.pow(10,9)+7的返回值是一个double类型的数,而不是一个long类型的数。double类型的数在Java中是用64位二进制来表示的,其中有一部分是用来表示指数的。当一个double类型的数太大或太小的时候,它会出现溢出或下溢的情况,导致精度损失或变成无穷大或零。

所以,当使用1L*a*b%(Math.pow(10,9)+7)时,你实际上是将一个long类型的数和一个double类型的数进行取余运算,这会导致隐式类型转换。Java会将long类型的数转换为double类型的数,1L*a*b变为double后可能对精度丢失,数值不正确。

        所以应该使用整数类型的字面量来表示10^9+7,即1000000007。这样就可以保证两个操作数都是整数类型的数,不需要进行类型转换,也不会出现溢出或下溢的情况。

对于这种大数的计算,我们可以使用java中自带的数值类;

  • BigInteger类,它可以表示很大的整数,并提供了各种运算方法。
  • BigDecimal类,它可以表示任意精度的小数,并提供了各种运算方法。
  • 用这两个类就是相较于直接进行运算会效率慢。
     

你可能感兴趣的:(java,算法)