javascript(js)小数精度丢失的解决方案，0.2+0.1≠0.3

心已赠人 2022-05-12 07:14 171阅读 0赞

原因:js按照2进制来处理小数的加减乘除,在arg1的基础上 将arg2的精度进行扩展或逆扩展匹配,所以会出现如下情况.

javascript(js)的小数点加减乘除问题，是一个js的bug如0.3\*1 = 0.2999999999，0.2+0.1=0.30000000000000004等，下面列出可以完美求出相应精度的四种js算法

function accDiv(arg1, arg2) {
    	var t1 = 0, t2 = 0, r1, r2;
    	try { t1 = arg1.toString().split(".")[1].length } catch (e) { }
    	try { t2 = arg2.toString().split(".")[1].length } catch (e) { }
    	with (Math) {
    		r1 = Number(arg1.toString().replace(".", ""))
    		r2 = Number(arg2.toString().replace(".", ""))
    		return accMul((r1 / r2), pow(10, t2 - t1));
    	}
    }
    //乘法
    function accMul(arg1, arg2) {
    	var m = 0, s1 = arg1.toString(), s2 = arg2.toString();
    	try { m += s1.split(".")[1].length } catch (e) { }
    	try { m += s2.split(".")[1].length } catch (e) { }
    	return Number(s1.replace(".", "")) * Number(s2.replace(".", "")) / Math.pow(10, m)
    }
    //加法 
    function accAdd(arg1, arg2) {
    	var r1, r2, m;
    	try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    	try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    	m = Math.pow(10, Math.max(r1, r2))
    	return (arg1 * m + arg2 * m) / m
    }
    //减法 
    function Subtr(arg1, arg2) {
    	var r1, r2, m, n;
    	try { r1 = arg1.toString().split(".")[1].length } catch (e) { r1 = 0 }
    	try { r2 = arg2.toString().split(".")[1].length } catch (e) { r2 = 0 }
    	m = Math.pow(10, Math.max(r1, r2));
    	n = (r1 >= r2) ? r1 : r2;
    	return ((arg1 * m - arg2 * m) / m).toFixed(n);
    }

发表评论取消回复

表情：

评论列表（有 0 条评论，171人围观）

还没有评论，来说两句吧...

相关阅读

相关 Java 浮点型（Double,Float）精度丢失解决方案

前言最近公司某小伙子做了一个商城的微信支付相关的接口，其中包含退款，在测试过程中发现部分单据没有退款，微信支付提示退款金额跟支付金额不匹配（大于支付金额），检查数据库和

柔情只为你懂/ 2023年02月25日 08:39/ 0 赞/ 99 阅读

相关 php 小数精度问题,php小数精度问题

该楼层疑似违规已被系统折叠隐藏此楼查看此楼 $number = sprintf('%.3f',$number); echo var\_dump($number)."取$d

深藏阁楼爱情的钟/ 2023年01月17日 04:49/ 0 赞/ 148 阅读

相关 js中小数计算丢失精度解决

最近在写步进器组件的时候遇到了小数计算丢失精度的问题。写的是这么个东西 ![在这里插入图片描述][20200807091940247.png] 现在做一个测试，打

ゝ一世哀愁。/ 2022年11月25日 04:04/ 0 赞/ 166 阅读

相关面试官：说说 JavaScript 数字精度丢失的问题，解决方案？

![ed9f7c6906b7b05b844e60dea136d2e8.png][] 一、场景复现一个经典的面试题 0.1 + 0.2 === 0.3 //

偏执的太偏执、/ 2022年11月10日 14:16/ 0 赞/ 170 阅读

相关 java小数丢失精度_Java中的小数运算与精度损失

float、double类型的问题我们都知道，计算机是使用二进制存储数据的。而平常生活中，大多数情况下我们都是使用的十进制，因此计算机显示给我们看的内容大多数也是十进制的，

快来打我*/ 2022年10月23日 08:18/ 0 赞/ 187 阅读

相关高精度小数

题目内容：由于计算机内部表达方式的限制，浮点运算都有精度问题，为了得到高精度的计算结果，就需要自己设计实现方法。 (0,1)之间的任何浮点数都可以表达为两个正整数的商，为

秒速五厘米/ 2022年07月03日 17:28/ 0 赞/ 253 阅读

相关 javascript(js)小数精度丢失的解决方案，0.2+0.1≠0.3

原因:js按照2进制来处理小数的加减乘除,在arg1的基础上将arg2的精度进行扩展或逆扩展匹配,所以会出现如下情况. javascript(js)的小数点加减乘除问

心已赠人/ 2022年05月12日 07:14/ 0 赞/ 172 阅读

相关【问题】javascript计算丢失精度解决方案

1、问题描述：两个有限的数字相减得到小数点后面类似00000000000001,69999999999999之类的数。像下面这样0.1 + 0.2没有返回0.3，反而返

怼烎@/ 2022年03月07日 11:10/ 0 赞/ 255 阅读

相关解决SQL语句丢失精度的问题

解决方法：把字段数据类型改为decimal数据类型，该数据类型用于要求非常高的精确计算中 SELECT cast(a AS decimal(10,2)l)/cast(

电玩女神/ 2021年12月09日 05:37/ 0 赞/ 765 阅读

相关 js数字计算丢失精度问题解决方案

js数字计算丢失精度问题解决方案计算机世界里，数字的计算，所有语言都会丢失精度，所以没有万全之策，但在人力范围内，尽量解决。网上找了一部分代码，发现是有问题的，比如:

朱雀/ 2020年06月21日 14:05/ 0 赞/ 702 阅读