js浮点数计算错误的bug

论坛 期权论坛 脚本     
匿名技术用户   2020-12-28 04:03   39   0

js浮点数计算的bug。


-------------------------------------------

一个小数乘以一个整数,得到的结果不正确。

2.2*202=444.40000000000003

-------------------------------------------

自己写了一个粗糙的处理


var sum=price*num;
   var reg = /^[\d]*([.][\d][\d]?)?$/;
   if(!reg.test(sum)){  //如果格式不合法(不是整数或两位小数的数值)
    var sumStr = sum + "";
    var ending = /^[\d]*[.][\d][\d]?[9][\d]*$/; 
    if (ending.test(sumStr)){ //判断计算结果
     alert(sum);
     sum = sum*1 + 0.01;
     alert(sum);
    }
    sumStr = sum + ""; //重新赋值
    var ind = sumStr.indexOf('.');
    sum = sumStr.substr(0, ind)+sumStr.substr(ind, 3);
   }




分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:7942463
帖子:1588486
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP