js乘法出现浮点数

朱雀 2022-04-23 03:38 289阅读 0赞

说明  
众所周知，js在计算浮点数时候，结果可能会不准确。比如：（在chrome中的运算结果）   
2.2 + 2.1 = 4.300000000000001   
2.2 - 1.9 = 0.30000000000000027   
2.2 \* 2.2 = 4.840000000000001   
2.1 / 0.3 = 7.000000000000001

网上流传的代码（有bug）  
网上流传的优化后的代码如下（有问题的代码，请勿使用）

function add(a, b) \{  
    var c, d, e;  
    try \{  
        c = a.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        c = 0;  
    \}  
    try \{  
        d = b.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        d = 0;  
    \}  
    return e = Math.pow(10, Math.max(c, d)), (a \* e + b \* e) / e;  
\}

function sub(a, b) \{  
    var c, d, e;  
    try \{  
        c = a.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        c = 0;  
    \}  
    try \{  
        d = b.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        d = 0;  
    \}  
    return e = Math.pow(10, Math.max(c, d)), (a \* e - b \* e) / e;  
\}

function mul(a, b) \{  
    var c = 0,  
        d = a.toString(),  
        e = b.toString();  
    try \{  
        c += d.split(".")\[1\].length;  
    \} catch (f) \{\}  
    try \{  
        c += e.split(".")\[1\].length;  
    \} catch (f) \{\}  
    return Number(d.replace(".", "")) \* Number(e.replace(".", "")) / Math.pow(10, c);  
\}

function div(a, b) \{  
    var c, d, e = 0,  
        f = 0;  
    try \{  
        e = a.toString().split(".")\[1\].length;  
    \} catch (g) \{\}  
    try \{  
        f = b.toString().split(".")\[1\].length;  
    \} catch (g) \{\}  
    return c = Number(a.toString().replace(".", "")), d = Number(b.toString().replace(".", "")), c / d \* Math.pow(10, f - e);  
\}  
  
原理就是将浮点数转化为整数来计算。

问题代码测试  
但是上面的优化方法真的解决问题了吗，我们可以简单做下测试。   
测试代码如下：（测试运算中加法）

function test()\{  
    var a = (Math.random() \* 100).toFixed(2) - 0;  
    var b = (Math.random() \* 1000).toFixed(2) - 0;  
    var result = add(a, b);  
    if ((result + '').length > 10) \{  
        console.error('被加数:'+a,'加数:'+b, '结果:'+result);  
        return;  
    \}  
    setTimeout(function() \{  
        test();  
    \}, 10);  
\}  
test();  
  
问题代码测试结果  
浏览器控制台很快就打印了结果，说明被测试的加法运算代码存在运算不准确的问题。   
测试运行结果：

问题代码出错原因  
既然上面的代码有问题，那么出错的点在哪里，我们就以计算错误的数字来调试代码。   
被加数:19.36 加数:601.19 结果:620.5500000000001   
调试的过程及结果如下：

我们发现原来是其中的乘法计算错误。

修正方法  
网上有一些版本你会发现在最终返回结果的时候加上了toFixed，这是一种解决方法。   
另外既然是乘法出错，我们何不将乘法换成优化后的乘法了。比如修改后的加法如下：

function add(a, b) \{  
    var c, d, e;  
    try \{  
        c = a.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        c = 0;  
    \}  
    try \{  
        d = b.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        d = 0;  
    \}  
    return e = Math.pow(10, Math.max(c, d)), (mul(a, e) + mul(b, e)) / e;  
\}  
  
然后用上面的方法进行测试，等了”一天“，控制台也没打印了。说明这次真的把问题解决了。

最终版（正确版）  
function add(a, b) \{  
    var c, d, e;  
    try \{  
        c = a.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        c = 0;  
    \}  
    try \{  
        d = b.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        d = 0;  
    \}  
    return e = Math.pow(10, Math.max(c, d)), (mul(a, e) + mul(b, e)) / e;  
\}

function sub(a, b) \{  
    var c, d, e;  
    try \{  
        c = a.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        c = 0;  
    \}  
    try \{  
        d = b.toString().split(".")\[1\].length;  
    \} catch (f) \{  
        d = 0;  
    \}  
    return e = Math.pow(10, Math.max(c, d)), (mul(a, e) - mul(b, e)) / e;  
\}

function mul(a, b) \{  
    var c = 0,  
        d = a.toString(),  
        e = b.toString();  
    try \{  
        c += d.split(".")\[1\].length;  
    \} catch (f) \{\}  
    try \{  
        c += e.split(".")\[1\].length;  
    \} catch (f) \{\}  
    return Number(d.replace(".", "")) \* Number(e.replace(".", "")) / Math.pow(10, c);  
\}

function div(a, b) \{  
    var c, d, e = 0,  
        f = 0;  
    try \{  
        e = a.toString().split(".")\[1\].length;  
    \} catch (g) \{\}  
    try \{  
        f = b.toString().split(".")\[1\].length;  
    \} catch (g) \{\}  
    return c = Number(a.toString().replace(".", "")), d = Number(b.toString().replace(".", "")), mul(c / d, Math.pow(10, f - e));  
\}  
\---------------------   
原文：https://blog.csdn.net/qinshenxue/article/details/43671763

发表评论取消回复

表情：

评论列表（有 0 条评论，289人围观）

还没有评论，来说两句吧...

相关阅读

相关 js中进行浮点数运算时容易出现精度问题

js中进行浮点数运算时容易出现精度问题 1、除法函数 //说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法

清疚/ 2024年03月27日 10:37/ 0 赞/ 131 阅读

相关浮点数运算

今天学习了浮点数运算（加减乘除）。浮点数运算主要包括两部分：指数运算和尾数运算。在IEEE754标准下，指数运算就是阶码的运算，类似于无符号数运算。尾数运算是原码运算。之前一直

短命女/ 2023年10月07日 12:22/ 0 赞/ 46 阅读

相关 js浮点数加减乘除

/ 加法函数，用来得到精确的加法结果说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法

￡神魔★判官ぃ/ 2022年10月19日 05:37/ 0 赞/ 195 阅读

相关 js浮点数丢失问题

why 0.1 + 0.2 = 0.30000000000000004 ? 这是js浮点精度丢失问题在js中，数字用Number类型表示。而其中一个数字是由

我不是女神ヾ/ 2022年10月01日 10:53/ 0 赞/ 242 阅读

相关浮点数陷阱

今天在用Hive的时候，发现浮点数比较有个陷阱，即FLOAT类型和DOUBLE类型的比较。如果我不刻意问的话，大家估计大部分人都认为FLOAT类型的0.2和DOUBLE类型

川长思鸟来/ 2022年08月19日 08:41/ 0 赞/ 236 阅读

相关 POJ - 1001 Exponentiation(浮点数高精度乘法)

今天信息学院的一个老师跟我讨论这个题，很遗憾我不会用Java的bigInteger类，只能手动用数组来模拟这个题了。 [点我看题][Link 1] 题意：求r^n,其中0<

布满荆棘的人生/ 2022年06月02日 02:05/ 0 赞/ 248 阅读

相关浮点数比较

.model flat,stdcall ExitProcess PROTO :DWORD .data one REAL4 11.2

逃离我推掉我的手/ 2022年05月08日 02:36/ 0 赞/ 287 阅读

相关 js乘法出现浮点数

说明众所周知，js在计算浮点数时候，结果可能会不准确。比如：（在chrome中的运算结果） 2.2 + 2.1 = 4.300000000000001 2.2

朱雀/ 2022年04月23日 03:38/ 0 赞/ 290 阅读

相关 JS浮点数精度缺失问题

先看一个例子 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//输出0.8 第二个正确，但第一个

曾经终败给现在/ 2022年04月11日 14:45/ 0 赞/ 338 阅读

相关 js浮点数加减乘除

浮点数精确计算 / 加法函数，用来得到精确的加法结果说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这

Myth丶恋晨/ 2022年03月31日 05:12/ 0 赞/ 357 阅读