double和float的精度和取值范围

(1)取值范围

float和double的范围是由指数的位数来决定的。

float的指数位有8位,而double的指数位有11位,分布如下:

float:

 

1bit(符号位)

8bits(指数位)

23bits(尾数位)

double:

 

1bit(符号位)

11bits(指数位)

52bits(尾数位)

于是,float的指数范围为-127~+128,而double的指数范围为-1023~+1024,并且指数位是按补码的形式来划分的。其中负指数决定了浮点数所能

表达的绝对值最小的非零数;而正指数决定了浮点数所能表达的绝对值最大的数,也即决定了浮点数的取值范围。float的范围为-2^128 ~ +2^128,

也即-3.40E+38 ~ +3.40E+38;double的范围为-2^1024 ~ +2^1024,也即-1.79E+308 ~ +1.79E+308。

(2)精度

float和double的精确度是按照整体位数来的,并不是只是考虑小数部分。

float的精度为7~8位有效数字,7位肯定能保证,8位的值也存在。

double的精度为16~17位有效数字

看一段代码

public class Main {

    public static void main(String[] args) {
        float f6 = 1.000003f;//6位小数位,总共7位
        float f7 = 1.0000003f;//7位小数位,总共8位
        float f8 = 1.00000003f;//8位小数位,总共9位
        float f_8 = 10.000003f;//6位小数位,总共8位
        float f_9 = 10.0000003f;//7位小数位,总共9位
        float f_10 = 10.00000003f;//8位小数位,总共10位

        double d15 = 1.000000000000003;//15位小数位,总共16位
        double d16 = 1.0000000000000003;//16位小数位,总共17位
        double d17 = 1.00000000000000003;//17位小数位,总共18位
        double d_17 = 10.000000000000003;//15位小数位,总共17位
        double d_18 = 10.0000000000000003;//16位小数位,总共18位
        double d_19 = 10.00000000000000003;//17位小数位,总共19位

        System.out.println("结果为false证明 == 校验到了小数点位, 精确度可信");
        System.out.println("float(7位有效,6位小数)    1.000003f  == 1           的结果是:" + (f6==1));
        System.out.println("float(8位有效,7位小数)    1.0000003f == 1           的结果是:" + (f7==1));
        System.out.println("float(9位有效,8位小数)    1.00000003f  == 1         的结果是:" + (f8==1));
        System.out.println("float(8位有效,6位小数)    10.000003f  == 10         的结果是:" + (f_8==10));
        System.out.println("float(9位有效,7位小数)    10.0000003f  == 10        的结果是:" + (f_9==10));
        System.out.println("float(10位有效,8位小数)   10.00000003f  == 10       的结果是:" + (f_10==10));
        System.out.println("------------------");

        System.out.println("double(16位有效,15位小数) 1.000000000000003 == 1    的结果是:" + (d15==1));
        System.out.println("double(17位有效,16位小数) 1.0000000000000003 == 1   的结果是:" + (d16==1));
        System.out.println("double(18位有效,17位小数) 1.00000000000000003 == 1  的结果是:" + (d17==1));
        System.out.println("double(17位有效,15位小数) 10.000000000000003 == 10  的结果是:" + (d_17==10));
        System.out.println("double(18位有效,16位小数) 10.0000000000000003 == 10 的结果是:" + (d_18==10));
        System.out.println("double(19位有效,17位小数) 10.00000000000000003 == 10的结果是:" + (d_19==10));
    }
}

double和float的精度和取值范围_第1张图片

结果为false的,那么小数点存在有意义,也就是精确位

从结果来看,float可以精确到有效数字8位, double到了17位

 

之所以不能用f1==f2来判断两个数相等,是因为虽然f1和f2在可能是两个不同的数字,但是受到浮点数表示精度的限制,有可能会错误的判断两个数相等!

 

你可能感兴趣的:(java基础)