【Js】浮点数的计算失去精度问题

亦凉 2024-02-19 13:25 19阅读 0赞

参考文章：[JavaScript Math 对象][JavaScript Math]；[javascript(js)小数精度丢失的解决方案][javascript_js]；[JS的浮点数计算精度丢失问题解决方案][JS]

[java中float/double浮点数的计算失去精度问题][java_float_double]

JS作为解释性语言，直接计算会有浮点数精度丢失问题

**解决方案：**

基本思路：将浮点数转换成整数进行计算，然后再将整数结果转回正确的浮点数。

定义一个自定义的转换和处理函数：

Math.formatFloat = function (f, digit) {
        var m = Math.pow(10, digit || 2);
        return Math.round(f * m) / m;
    }
    
    console.log('处理前'+(1-0.9),'处理后'+Math.formatFloat(1-0.9,2));
    console.log('处理前'+(0.3*3),'处理后'+Math.formatFloat(0.3*3));
    console.log('处理前'+(0.3/3),'处理后'+Math.formatFloat(0.3/3,2));
    console.log('处理前'+(0.31/3),'处理后'+Math.formatFloat(0.31/3,3));
    
    //结果
    处理前0.09999999999999998 处理后0.1
    处理前0.8999999999999999  处理后0.9
    处理前0.09999999999999999 处理后0.1
    处理前0.10333333333333333 处理后0.103

[JavaScript Math]: http://www.runoob.com/jsref/jsref-obj-math.html
[javascript_js]: https://blog.csdn.net/dclove/article/details/43112839
[JS]: https://blog.csdn.net/u012143360/article/details/53148591
[java_float_double]: https://blog.csdn.net/nujiah001/article/details/6657410

发表评论取消回复

表情：

评论列表（有 0 条评论，19人围观）

还没有评论，来说两句吧...

相关阅读

相关【Js】浮点数的计算失去精度问题

参考文章：[JavaScript Math 对象][JavaScript Math]；[javascript(js)小数精度丢失的解决方案][javascript_js]；[J

亦凉/ 2024年02月19日 13:25/ 0 赞/ 20 阅读

相关 js 进行浮点型运算精度缺失

js 进行浮点型运算精度缺失 js字符串转数字 parseFloat() js 进行浮点型运算函数 <script type="text/j

本是古典何须时尚/ 2024年02月18日 17:02/ 0 赞/ 113 阅读

相关浮点数值计算精度丢失问题剖析及解决方法

文章目录 1、原因分析 2、解决方法 2.1、Java中使用 BigDecima

短命女/ 2023年09月25日 15:37/ 0 赞/ 193 阅读

相关 JS-小数计算精度问题

为什么js运算中小数运算出来会有这么多位数呢？ 0.939\100 = 93.89999999999999 因为浮点数运算都会有精度问题解决方式： p

矫情吗；*/ 2023年03月13日 06:12/ 0 赞/ 82 阅读

相关 js--小数计算精度问题

原因二进制与十进制转化时的精度丢失现象 <script> console.log(99.99+0.02);

布满荆棘的人生/ 2023年01月02日 13:27/ 0 赞/ 266 阅读

相关 js计算精度（加减乘除）确保计算不失去精度

加： function dcmAdd(arg1,arg2)\{ var r1,r2,m; try{r1=arg1.toString().split("."

骑猪看日落/ 2022年12月11日 04:26/ 0 赞/ 289 阅读

相关 JS浮点数精度缺失问题

先看一个例子 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//输出0.8 第二个正确，但第一个

曾经终败给现在/ 2022年04月11日 14:45/ 0 赞/ 374 阅读

相关 js浮点数计算时失去精度

在项目中计算商品价格的时候再次遇到js浮点数计算出现误差的问题，以前一碰到这个问题就用tofixed方法进行处理一下，这对于一个程序员来说是及其不严谨的。何况用tofixe

川长思鸟来/ 2022年01月25日 22:25/ 0 赞/ 401 阅读

相关解决js浮点数的bug

加 function add(a, b) { var c, d, e; try { c = a.toStri

谁践踏了优雅/ 2021年12月11日 05:17/ 0 赞/ 257 阅读

相关 js精度计算问题

/\\ js精度计算问题 \/ var formatFloat = function (f, digit)\{ var m = Math.pow(10

Love The Way You Lie/ 2021年09月17日 18:42/ 0 赞/ 468 阅读