golang 浮点数精度问题

一,Golang浮点数存在一些问题
1,两个浮点数相加减,可能不准确
(1)相减
x := 74.96
y := 20.48
b := x - y
fmt.Println(b) //output: 54.47999999999999
(2)相加
var a = 0.6
fmt.Println(a + 0.7) //output: 1.2999999999999998
· 出现浮点数不精确的原因是,浮点数储存至内存中时,2的-1、-2……-n次方不能精确的表示小数部分,所以再把这个数从地址中取出来进行计算就出现了偏差。

· 不是所有的float相加减乘除都一定出现偏差,具体要根据golang实现IEEE 754的情况定。
2,float32和float64直接互转会精度丢失, 四舍五入后错误
3,int64转float64在数值很大的时候出现偏差
4,两位小数乘100强转int, 比期望值少了1
    // case: float32==>float64
    // 从数据库中取出80.45, 历史代码用float32接收
    var a float32 = 80.45
    var b float64
    // 有些函数只能接收float64, 只能强转
    b = float64(a)
    // 打印出值, 强转后出现偏差
    fmt.Println(a) //output:80.45
    fmt.Println(b) //output:80.44999694824219
    // ... 四舍五入保留小数点后1位, 期望80.5, 结果是80.4
 
    // case: int64==>float64
    var c int64 = 987654321098765432
    fmt.Printf("%.f\n", float64(c)) //output:987654321098765440
 
    // case: int(float64(xx.xx*100))
    var d float64 = 1129.6
    var e int64 = int64(d * 100)
    fmt.Println(e) //output:112959

二,解决的方法

1: float 转 decimal 类型,decimal 互乘 不会丢失精度

2: float 乘 float 后,进行四舍五入  只保留需要的位数
 

	//decimal 处理
    var refundFee, _ = strconv.ParseFloat("1129.6", 64)
	log.Println(refundFee) //1129.6   float类型
	f1 := decimal.NewFromFloat(refundFee)  
	log.Println(f1)  //1129.6  decimal 类型
	f2 := decimal.NewFromFloat(100)
	log.Println(f1.Mul(f2)) // 112960 decimal 类型

	log.Println(refundFee * 100) //112959.99999999999 
	
    //精度处理
	var s = Round(refundFee*100, 2)
	log.Println(s)     // 112960

    // f:需要处理的浮点数,n:要保留小数的位数
    // Pow10()返回10的n次方,最后一位四舍五入,对n+1位加0.5后四舍五入
    func Round(f float64, n int) float64 {
	    n10 := math.Pow10(n)
	    return math.Trunc((f+0.5/n10)*n10) / n10
    }

 

你可能感兴趣的:(go)