oracle 尾差计算,JavaScript使用math.js进行精确计算操作示例

论坛 期权论坛 脚本     
已经匿名di用户   2022-3-21 23:59   2202   0

JavaScript使用math.js进行精确计算操作示例

发布于 2020-7-6|

复制链接

摘记: 本文实例讲述了JavaScript使用math.js进行精确计算操作。分享给大家供大家参考,具体如下:javascript进行浮点运算会有尾差,比如算个0.1+0.7试试,得到的不是0.8 。这个问题可以使用math.js解决。Math.js是一款开源的JavaScript和Node.js数学库,用于处理数字、大数、复数、单 ..

本文实例讲述了JavaScript使用math.js进行精确计算操作。分享给大家供大家参考,具体如下:javascript进行浮点运算会有尾差,比如算个0.1+0.7试试,得到的不是0.8 。这个问题可以使用math.js解决。Math.js是一款开源的JavaScript和Node.js数学库,用于处理数字、大数、复数、单位和矩阵。官网: http://mathjs.org/cdn地址:https://cdnjs.cloudflare.com/ajax/libs/mathjs/5.0.0/math.js示例代码:

```javascript

function fn_click(p){

var a , b;

a=0.7;

b=0.1;

if(p==1){

alert(a+b);

}else if(p==2){

alert(eval("a+b"));

}else if(p==3){

math.config({

number: 'BigNumber'

});

var result = math.parser().eval(a + "+" + b)

alert(result);

}

}

```

分享到 :
0 人收藏
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

积分:81
帖子:4969
精华:0
期权论坛 期权论坛
发布
内容

下载期权论坛手机APP