JavaScript 浮点数运算的精度问题 ╰半夏微凉° 2021-07-04 21:43 411阅读 0赞 ## 问题描述 ## 在 `JavaScript` 中整数和浮点数都属于 `Number` 数据类型,所有数字都是以 `64` 位浮点数形式储存,即便整数也是如此。 所以我们在打印 `1.00` 这样的浮点数的结果是 `1` 而非 `1.00` 。在一些特殊的数值表示中,例如金额,这样看上去有点变扭,但是至少值是正确了。然而要命的是,当浮点数做数学运算的时候,你经常会发现一些问题,举几个例子: JavaScript 代码: // 加法 ===================== // 0.1 + 0.2 = 0.30000000000000004 // 0.7 + 0.1 = 0.7999999999999999 // 0.2 + 0.4 = 0.6000000000000001 // 2.22 + 0.1 = 2.3200000000000003 // 减法 ===================== // 1.5 - 1.2 = 0.30000000000000004 // 0.3 - 0.2 = 0.09999999999999998 // 乘法 ===================== // 19.9 * 100 = 1989.9999999999998 // 19.9 * 10 * 10 = 1990 // 1306377.64 * 100 = 130637763.99999999 // 1306377.64 * 10 * 10 = 130637763.99999999 // 0.7 * 180 = 125.99999999999999 // 9.7 * 100 = 969.9999999999999 // 39.7 * 100 = 3970.0000000000005 // 除法 ===================== // 0.3 / 0.1 = 2.9999999999999996 // 0.69 / 10 = 0.06899999999999999 ## 问题的原因 ## 似乎是不可思议。小学生都会算的题目,JavaScript 不会?我们来看看其真正的原因。 JavaScript 里的数字是采用 IEEE 754 标准的 `64` 位双精度浮点数。该规范定义了浮点数的格式,对于`64`位的浮点数在内存中的表示,最高的`1`位是符号位,接着的`11`位是指数,剩下的`52`位为有效数字,具体: * 第0位:符号位, s 表示 ,0表示正数,1表示负数; * 第1位到第11位:储存指数部分, e 表示 ; * 第12位到第63位:储存小数部分(即有效数字),f 表示, 如图: ![在这里插入图片描述][20200312005435445.png]符号位决定了一个数的正负,指数部分决定了数值的大小,小数部分决定了数值的精度。`IEEE 754`规定,有效数字第一位默认总是`1`,不保存在`64`位浮点数之中。也就是说,有效数字总是`1.xx…xx`的形式,其中`xx..xx`的部分保存在`64`位浮点数之中,最长可能为`52`位。因此,`JavaScript`提供的有效数字最长为`53`个二进制位(`64`位浮点的后`52`位+有效数字第一位的`1`)。 ### 计算过程 ### 比如在JavaScript 中计算 `0.1 + 0.2`时,到底发生了什么呢? 首先,十进制的`0.1`和`0.2`都会被转换成二进制,但由于浮点数用二进制表达时是无穷的,例如。 JavaScript 代码: 0.1 -> 0.0001100110011001...(无限) 0.2 -> 0.0011001100110011...(无限) `IEEE 754` 标准的 `64` 位双精度浮点数的小数部分最多支持 `53` 位二进制位,所以两者相加之后得到二进制为: JavaScript 代码: 0.0100110011001100110011001100110011001100110011001100 因浮点数小数位的限制而截断的二进制数字,再转换为十进制,就成了 `0.30000000000000004`。所以在进行算术计算时会产生误差。 ### 整数的精度问题 ### 在 Javascript 中,整数精度同样存在问题,先来看看问题: JavaScript 代码: console.log(19571992547450991); //=> 19571992547450990 console.log(19571992547450991===19571992547450992); //=> true 同样的原因,在 JavaScript 中 `Number`类型统一按浮点数处理,整数是按最大54位来算最大(`2的53次方 - 1,Number.MAX_SAFE_INTEGER,9007199254740991`) 和最小(`-(2的53次方- 1),Number.MIN_SAFE_INTEGER,-9007199254740991`) 安全整数范围的。所以只要超过这个范围,就会存在被舍去的精度问题。 当然这个问题并不只是在 `Javascript` 中才会出现,几乎所有的编程语言都采用了 `IEEE-745` 浮点数表示法,任何使用二进制浮点数的编程语言都会有这个问题,只不过在很多其他语言中已经封装好了方法来避免精度的问题,而 `JavaScript` 是一门弱类型的语言,从设计思想上就没有对浮点数有个严格的数据类型,所以精度误差的问题就显得格外突出。 ## 解决方案 ## 上面说了这么多问题和原因,这里给出一些解决方案。 ### 类库 ### 通常这种对精度要求高的计算都应该交给后端去计算和存储,因为后端有成熟的库来解决这种计算问题。前端也有几个不错的类库: #### Math.js #### Math.js 是专门为 JavaScript 和 Node.js 提供的一个广泛的数学库。它具有灵活的表达式解析器,支持符号计算,配有大量内置函数和常量,并提供集成解决方案来处理不同的数据类型 像数字,大数字(超出安全数的数字),复数,分数,单位和矩阵。 功能强大,易于使用。 官网:http://mathjs.org/ GitHub:https://github.com/josdejong/mathjs #### decimal.js #### 为 JavaScript 提供十进制类型的任意精度数值。 官网:http://mikemcl.github.io/decimal.js/ GitHub:https://github.com/MikeMcl/decimal.js #### big.js #### 官网:http://mikemcl.github.io/big.js GitHub:https://github.com/MikeMcl/big.js/ 这几个类库帮我们解决很多这类问题,不过通常我们前端做这类运算通常只用于表现层,应用并不是很多。所以很多时候,一个函数能解决的问题不需要引用一个类库来解决。 下面介绍各个更加简单的解决方案。 ### 整数表示 ### 对于整数,我们可以通过用`String`类型的表示来取值或传值,否则会丧失精度。 ### 格式化数字、金额、保留几位小数等 ### 如果只是格式化数字、金额、保留几位小数等可以查看这里 http://www.css88.com/archives/7324 ### 浮点数运算 ### #### `toFixed()` 方法 #### 浮点数运算的解决方案有很多,这里给出一种目前常用的解决方案, 在判断浮点数运算结果前对计算结果进行精度缩小,因为在精度缩小的过程总会自动四舍五入。 `toFixed()` 方法使用定点表示法来格式化一个数,会对结果进行四舍五入。语法为: JavaScript 代码: numObj.toFixed(digits) 参数 `digits` 表示小数点后数字的个数;介于 0 到 20 (包括)之间,实现环境可能支持更大范围。如果忽略该参数,则默认为 0。 返回一个数值的字符串表现形式,不使用指数记数法,而是在小数点后有 `digits` 位数字。该数值在必要时进行四舍五入,另外在必要时会用 0 来填充小数部分,以便小数部分有指定的位数。 如果数值大于 `1e+21`,该方法会简单调用 `Number.prototype.toString()`并返回一个指数记数法格式的字符串。 > 特别注意:`toFixed()` 返回一个数值的字符串表现形式。 具体可以查看 MDN中的说明,那么我们可以这样解决精度问题: JavaScript 代码: parseFloat((数学表达式).toFixed(digits)); // toFixed() 精度参数须在 0 与20 之间 // 运行 parseFloat((1.0 - 0.9).toFixed(10)) // 结果为 0.1 parseFloat((0.3 / 0.1).toFixed(10)) // 结果为 3 parseFloat((9.7 * 100).toFixed(10)) // 结果为 970 parseFloat((2.22 + 0.1).toFixed(10)) // 结果为 2.32 在老版本的IE浏览器(IE 6,7,8)中,`toFixed()`方法返回值不一定准确。所以这个方法以前很少用。以至于网上搜索出来的结果大都是下面这些方法。 还有一些其他的解决方案,简单的说需要将浮点数转换字符串,分隔成为整数部分和小数部分,小数部分再转换为整数,计算结果后,再转换为浮点数。这过程有点复杂…,网上找一下: 加法函数 JavaScript 代码: /** ** 加法函数,用来得到精确的加法结果 ** 说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 ** 调用:accAdd(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ function accAdd(arg1, arg2) { var r1, r2, m, c; try { r1 = arg1.toString().split(".")[1].length; } catch (e) { r1 = 0; } try { r2 = arg2.toString().split(".")[1].length; } catch (e) { r2 = 0; } c = Math.abs(r1 - r2); m = Math.pow(10, Math.max(r1, r2)); if (c > 0) { var cm = Math.pow(10, c); if (r1 > r2) { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")) * cm; } else { arg1 = Number(arg1.toString().replace(".", "")) * cm; arg2 = Number(arg2.toString().replace(".", "")); } } else { arg1 = Number(arg1.toString().replace(".", "")); arg2 = Number(arg2.toString().replace(".", "")); } return (arg1 + arg2) / m; } //给Number类型增加一个add方法,调用起来更加方便。 Number.prototype.add = function (arg) { return accAdd(arg, this); }; 减法函数 JavaScript 代码: /** ** 减法函数,用来得到精确的减法结果 ** 说明:javascript的减法结果会有误差,在两个浮点数相减的时候会比较明显。这个函数返回较为精确的减法结果。 ** 调用:accSub(arg1,arg2) ** 返回值:arg1加上arg2的精确结果 **/ function accSub(arg1, arg2) { var r1, r2, m, n; try { r1 = arg1.toString().split(".")[1].length; } catch (e) { r1 = 0; } try { r2 = arg2.toString().split(".")[1].length; } catch (e) { r2 = 0; } m = Math.pow(10, Math.max(r1, r2)); //last modify by deeka //动态控制精度长度 n = (r1 >= r2) ? r1 : r2; return ((arg1 * m - arg2 * m) / m).toFixed(n); } // 给Number类型增加一个mul方法,调用起来更加方便。 Number.prototype.sub = function (arg) { return accMul(arg, this); }; 乘法函数 JavaScript 代码: /** ** 乘法函数,用来得到精确的乘法结果 ** 说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 ** 调用:accMul(arg1,arg2) ** 返回值:arg1乘以 arg2的精确结果 **/ function accMul(arg1, arg2) { var m = 0, s1 = arg1.toString(), s2 = arg2.toString(); try { m += s1.split(".")[1].length; } catch (e) { } try { m += s2.split(".")[1].length; } catch (e) { } return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m); } // 给Number类型增加一个mul方法,调用起来更加方便。 Number.prototype.mul = function (arg) { return accMul(arg, this); }; 除法函数 JavaScript 代码: /** ** 除法函数,用来得到精确的除法结果 ** 说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 ** 调用:accDiv(arg1,arg2) ** 返回值:arg1除以arg2的精确结果 **/ function accDiv(arg1, arg2) { var t1 = 0, t2 = 0, r1, r2; try { t1 = arg1.toString().split(".")[1].length; } catch (e) { } try { t2 = arg2.toString().split(".")[1].length; } catch (e) { } with (Math) { r1 = Number(arg1.toString().replace(".", "")); r2 = Number(arg2.toString().replace(".", "")); return (r1 / r2) * pow(10, t2 - t1); } } //给Number类型增加一个div方法,调用起来更加方便。 Number.prototype.div = function (arg) { return accDiv(this, arg); }; [20200312005435445.png]: /images/20210704/63ff5d0d23354875a2e623b4f0b0b6b9.png
相关 Java浮点数运算精度问题示例 在Java中,浮点数的运算可能会出现精度问题。这主要是因为Java使用IEEE 754标准来表示和处理浮点数。 以下是一个简单的例子,展示了浮点数运算可能存在的精度问题: 今天药忘吃喽~/ 2024年09月10日 15:54/ 0 赞/ 30 阅读
相关 js中进行浮点数运算时容易出现精度问题 js中进行浮点数运算时容易出现精度问题 1、除法函数 //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法 清疚/ 2024年03月27日 10:37/ 0 赞/ 42 阅读
相关 单精度浮点数和双精度浮点数_浮点数和双精度数之间的区别 ![0b4d070881144d90e79ec876b69711aa.png][] 单精度浮点数和双精度浮点数 Here you will learn about diff 朴灿烈づ我的快乐病毒、/ 2022年12月07日 13:29/ 0 赞/ 204 阅读
相关 浮点数精度问题处理 [参考][Link 1] 由于浮点数在计算机中的存储问题,所以不论是float类型的数据还是double类型的数据都是有其精度的,取浮点数精度下限,float为6位,doub 逃离我推掉我的手/ 2022年08月10日 10:56/ 0 赞/ 202 阅读
相关 javascript面试题之浮点数精度问题 首先,在javascript中是不区分整数和浮点数的,所以 console.log(1/3)//0.3333333333333333 由于,javascript采用 本是古典 何须时尚/ 2022年08月05日 08:13/ 0 赞/ 201 阅读
相关 浮点数输入精度问题 输入: ![Image 1][]![Image 1][]![20150814202153285][] ![20150814202156072][] ![201508 你的名字/ 2022年08月04日 00:59/ 0 赞/ 203 阅读
相关 JS浮点数精度缺失问题 先看一个例子 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//输出0.8 第二个正确,但第一个 曾经终败给现在/ 2022年04月11日 14:45/ 0 赞/ 250 阅读
相关 Javascript浮点数运算 浮点数 JavaScript中的小数采用的是双精度(64位)表示的,由三部分组成: > 符 + 阶码 + 尾数 在二进制中,`0.1` == `0.000110011 ╰半夏微凉°/ 2021年07月04日 22:42/ 0 赞/ 433 阅读
相关 JavaScript 浮点数运算的精度问题 问题描述 在 `JavaScript` 中整数和浮点数都属于 `Number` 数据类型,所有数字都是以 `64` 位浮点数形式储存,即便整数也是如此。 所以我们在打印 ╰半夏微凉°/ 2021年07月04日 21:43/ 0 赞/ 412 阅读
还没有评论,来说两句吧...