你尚未登录,仅允许查看本站部分内容。请登录使用邀请码注册
demi-john

js运算精度误差解决办法 1个回复 专栏 @ Javascript

demi-john 发布于 3 年前

0.1 + 0.2 =?
0.1 + 0.2 = 0.3?

我们先来看一段 JS。

console.log( 0.1+ 0.2);

输出为 0.30000000000000004。是不是很奇葩
其实对于浮点数的四则运算,几乎所有的编程语言都会有类似精度误差的问题,只不过在 C++/C#/Java 这些语言中已经封装好了方法来避免精度的问题,而 JavaScript 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。下面就分析下为什么会有这个精度误差,以及怎样修复这个误差。

首先,我们要站在计算机的角度思考 0.1 + 0.2 这个看似小儿科的问题。我们知道,能被计算机读懂的是二进制,而不是十进制,所以我们先把 0.1 和 0.2 转换成二进制看看:

0.1 => 0.0001 1001 1001 1001…(无限循环)
0.2 => 0.0011 0011 0011 0011…(无限循环)

双精度浮点数的小数部分最多支持 52 位,所以两者相加之后得到这么一串 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,这时候,我们再把它转换为十进制,就成了 0.30000000000000004。

原来如此,那怎么解决这个问题呢?我想要的结果就是 0.1 + 0.2 === 0.3 啊!!!

有种最简单的解决方案,就是给出明确的精度要求,在返回值的过程中,计算机会自动四舍五入,比如:

var numA = 0.1;
var numB = 0.2;
alert( parseFloat((numA + numB).toFixed(2)) === 0.3 );

但是明显这不是一劳永逸的方法,

多次计算后,我发现整数运算没有这个问题
对每个小数乘以10的N次方,计算完成后再除以10的N次方
var formatFloat = function(num, digit) {
var m = Math.pow(10, Math.abs(digit)); if(digit < 0){ return num / m; }else if(digit > 0){ return num * m; }else{ return num; }
}
alert(formatFloat(formatFloat(0.1, 1) + formatFloat(0.2, 1), -1));

  • mcdong

    这样解决, 挺有新意

    #1
登录后回复,如无账号,请使用邀请码注册