js处理运算精度丢失问题

问题描述
99.99 / 100 -> 0.9998999999999999
2.332 + 0.215 -> 2.5469999999999997
5.52 -2 -> 3.5199999999999996
8.005*10 -> 80.05000000000001
由于计算机二进制处理以及计算机位数限制,会造成js运算中一些精度丢失

解决方案

//type 1 加法 2 乘法 3减法(number1 被减数, number2 减数) 4除法(number1被除数 number2 除数)
export function coefficient(number1: any, number2: any, type = 2) {
  const num1 = Number(number1)
  const num2 = Number(number2)
  // 判断参数是否是number
  if (isNaN(num1) || isNaN(num2)) {
    return
  }
  // 除数不能为0
  if (number2 === 0 && type === 4) {
    return
  }
  // 获取小数点后位数
  const len1 = String(num1).split('.')[1]?.length || 0
  const len2 = String(num2).split('.')[1]?.length || 0
  const len = Math.max(len1, len2)
  // 返回值
  let total = 0

  if (type === 1) {
    //加法
    total = Number(
      (coefficient(num1, Math.pow(10, len), 2)! +
        coefficient(num2, Math.pow(10, len), 2)!) /
        Math.pow(10, len)
    )
  } else if (type === 2) {
    //乘法
    // 通过字符串替换属性,替换小数点达到变成整数的效果
    const res1 = Number(num1.toString().replace('.', ''))
    const res2 = Number(num2.toString().replace('.', ''))

    total = (res1 * res2) / Math.pow(10, len1 + len2)
    return Number(total)
  } else if (type === 3) {
    total = Number(
      (coefficient(num1, Math.pow(10, len), 2)! -
        coefficient(num2, Math.pow(10, len), 2)!) /
        Math.pow(10, len)
    )
  } else if (type === 4) {
    // 通过字符串替换属性,替换小数点达到变成整数的效果
    const res1 = Number(num1.toString().replace('.', ''))
    const res2 = Number(num2.toString().replace('.', ''))

    total = Number(coefficient(res1 / res2, Math.pow(10, len2 - len1)))
  }
  return total
}

如有不足,欢迎大佬指点.

你可能感兴趣的:(javascript,开发语言,ecmascript)