《编码》23章 定点数和浮点数 18/71天阅读

单精度浮点数的精度为1/2的24次方,或1/16777216,或百万分之六。这意味着在单精度浮点格式下,16777216和16777217将表示成同一个数。不仅如此,处于这两个数之间的所有的数也将被表示成同一个数。

如果为银行编写程序,用单精度来存放美元、美分值时,更愿意使用定点数。

双精度可以提高这种精度。

由于浮点计算复杂,因此引入FPU,浮点运算单元。

你可能感兴趣的:(《编码》23章 定点数和浮点数 18/71天阅读)