javascript面试题之浮点数精度问题 本是古典 何须时尚 2022-08-05 08:13 201阅读 0赞 首先,在javascript中是不区分整数和浮点数的,所以 console.log(1/3)//0.3333333333333333 由于,javascript采用了IEEE-754浮点数表示法,这是一种二进制表示法,所以一些数字无法精确表示:如0.1等 console.log(0.3-0.2 == 0.1);//false 现在较为常用的一种解决办法是先讲小数转化为整数,再除以相应的系数。 下面给出一种实现: //除法函数,用来得到精确的除法结果 //说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。 //调用:accDiv(arg1,arg2) //返回值:arg1除以arg2的精确结果 function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")); r2=Number(arg2.toString().replace(".","")); return (r1/r2)*pow(10,t2-t1); } } //给Number类型增加一个div方法,调用起来更加方便。 Number.prototype.div = function (arg){ return accDiv(this, arg); }; //乘法函数,用来得到精确的乘法结果 //说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。 //调用:accMul(arg1,arg2) //返回值:arg1乘以arg2的精确结果 function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m); } //给Number类型增加一个mul方法,调用起来更加方便。 Number.prototype.mul = function (arg){ return accMul(arg, this); }; //加法函数,用来得到精确的加法结果 //说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。 //调用:accAdd(arg1,arg2) //返回值:arg1加上arg2的精确结果 function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); return (arg1*m+arg2*m)/m; } //给Number类型增加一个add方法,调用起来更加方便。 Number.prototype.add = function (arg){ return accAdd(arg,this); } //减法函数 function accSub(arg1,arg2){ var r1,r2,m,n; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)); //last modify by deeka //动态控制精度长度 n=(r1>=r2)?r1:r2; return ((arg2*m-arg1*m)/m).toFixed(n); } ///给number类增加一个sub方法,调用起来更加方便 Number.prototype.sub = function (arg){ return accSub(arg,this); }
相关 Java浮点数运算精度问题示例 在Java中,浮点数的运算可能会出现精度问题。这主要是因为Java使用IEEE 754标准来表示和处理浮点数。 以下是一个简单的例子,展示了浮点数运算可能存在的精度问题: 今天药忘吃喽~/ 2024年09月10日 15:54/ 0 赞/ 31 阅读
相关 单精度浮点数和双精度浮点数_浮点数和双精度数之间的区别 ![0b4d070881144d90e79ec876b69711aa.png][] 单精度浮点数和双精度浮点数 Here you will learn about diff 朴灿烈づ我的快乐病毒、/ 2022年12月07日 13:29/ 0 赞/ 204 阅读
相关 Java浮点数精度控制 package mypackage; import java.text.DecimalFormat; public class NumberTest \{ public sta 分手后的思念是犯贱/ 2022年09月28日 13:23/ 0 赞/ 188 阅读
相关 浮点数精度问题处理 [参考][Link 1] 由于浮点数在计算机中的存储问题,所以不论是float类型的数据还是double类型的数据都是有其精度的,取浮点数精度下限,float为6位,doub 逃离我推掉我的手/ 2022年08月10日 10:56/ 0 赞/ 202 阅读
相关 javascript面试题之浮点数精度问题 首先,在javascript中是不区分整数和浮点数的,所以 console.log(1/3)//0.3333333333333333 由于,javascript采用 本是古典 何须时尚/ 2022年08月05日 08:13/ 0 赞/ 202 阅读
相关 浮点数输入精度问题 输入: ![Image 1][]![Image 1][]![20150814202153285][] ![20150814202156072][] ![201508 你的名字/ 2022年08月04日 00:59/ 0 赞/ 204 阅读
相关 JS浮点数精度缺失问题 先看一个例子 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//输出0.8 第二个正确,但第一个 曾经终败给现在/ 2022年04月11日 14:45/ 0 赞/ 250 阅读
相关 Java--float浮点数类型精度问题 浮点数为什么不精准? 参考链接:[https://blog.csdn.net/renwotao2009/article/details/51637163][https_b Bertha 。/ 2021年11月16日 16:02/ 0 赞/ 328 阅读
相关 JavaScript 浮点数运算的精度问题 问题描述 在 `JavaScript` 中整数和浮点数都属于 `Number` 数据类型,所有数字都是以 `64` 位浮点数形式储存,即便整数也是如此。 所以我们在打印 ╰半夏微凉°/ 2021年07月04日 21:43/ 0 赞/ 412 阅读
还没有评论,来说两句吧...