【备忘】浮点

浮点由3个部分组成
[s m n]
s = 1/0
n = 1.b...
m = 2^m的位数-1挖去0和最大值max,即[1,max-1]。指数的真值要再减去len(m)/2

m = 0 , n = 0.b*原最小值----表示更高精度的数(但无法参与运算)
m = MAX , n = 0---表示正负无穷(取决于s)
m = MAX , n!= 0---表示不是数字NAN

理解浮点的核心就是记住n和m的行为
(小的数浮点左移)的基准n总是提供对应位数的十进制精度,小于这个机器精度的值可以被表示但求值时被忽略

特别地
很多的小数的二进制表示是循环的,故而会产生不同的舍入误差,导致一些不优雅的情况(9.4-9-0.4!=0)

你可能感兴趣的:(【备忘】浮点)