小程序中的小数计算问题/浮点数计算问题

Love The Way You Lie 2023-06-15 11:01 11阅读 0赞

在小程序框架中对于浮点数计算存在误差情况。

看示例：

示例1、

<view>{
       {0.01+0.2}}</view>

示例2：

1.  `/**`
2.  `* 页面的初始数据`
3.  `*/`
4.  `data: {`
5.  `num1: 0.01,`
6.  `num2: 10.2,`
7.  `},`

1.  `this.setData({`
2.  `num3: this.data.num1 + this.data.num2`
3.  `})`

<view>{
       {num3}}</view>

计算结果：

![format_png][]

**解决方案：**

在页面显示前，使用toFixed() 方法进行四舍五入处理。

1.  `this.setData({`
2.  `num4: (this.data.num1 + this.data.num2).toFixed(2)`
3.  `})`

<view>{
       {num4}}</view>

结果：10.21，显示正常。

特别说明，在视图绑定是不支持toFixed() 方法。以下为错误写法：

<view>{
       {(num1+num2).toFixed(2)}}</view>

更多：

[小程序请求超时errMsg : "request:fail socket time out timeout:60000"][errMsg _ _request_fail socket time out timeout_60000]

[微信小程序Canvas隐藏问题处理][Canvas]

[ 微信小程序实现多级展开功能][Link 1]

[format_png]: https://imgconvert.csdnimg.cn/aHR0cHM6Ly9vc2NpbWcub3NjaGluYS5uZXQvb3NjbmV0L2Y0NzM0OTk1OTQxZDUxMGQxMTAxY2I0YzkyYjZjZGJiYzE1LmpwZw?x-oss-process=image/format,png
[errMsg _ _request_fail socket time out timeout_60000]: https://my.oschina.net/tianma3798/blog/2244596
[Canvas]: https://my.oschina.net/tianma3798/blog/2051575
[Link 1]: https://my.oschina.net/tianma3798/blog/1939620

发表评论取消回复

表情：

评论列表（有 0 条评论，11人围观）

还没有评论，来说两句吧...

相关阅读

相关使用Python进行科学计算：浮点数运算问题解析

在Python中，进行科学计算，特别是涉及到浮点数的运算时，可能会遇到一些问题。以下是一些常见问题和解决方法： 1. **数值精度问题**： - Python的默认浮点

迷南。/ 2025年01月10日 06:18/ 0 赞/ 43 阅读

相关 JS--使用第三方库解决浮点数(小数)计算不准确的问题

原文网址：[JS--使用第三方库解决浮点数(小数)计算不准确的问题\_IT利刃出鞘的博客-CSDN博客][JS--_IT_-CSDN] 简介本文介绍如何解决JavaS

蔚落/ 2023年09月28日 09:08/ 0 赞/ 95 阅读

相关小程序中的小数计算问题/浮点数计算问题

在小程序框架中对于浮点数计算存在误差情况。看示例：示例1、 <view>{ {0.01+0.2}}</view> 示例2： 1

Love The Way You Lie/ 2023年06月15日 11:01/ 0 赞/ 12 阅读

相关 JS-小数计算精度问题

为什么js运算中小数运算出来会有这么多位数呢？ 0.939\100 = 93.89999999999999 因为浮点数运算都会有精度问题解决方式： p

矫情吗；*/ 2023年03月13日 06:12/ 0 赞/ 82 阅读

相关 js--小数计算精度问题

原因二进制与十进制转化时的精度丢失现象 <script> console.log(99.99+0.02);

布满荆棘的人生/ 2023年01月02日 13:27/ 0 赞/ 266 阅读

相关 PHP中浮点数计算问题整理（PHP电商价格用什么函数计算？）

一、疑问以及原因当你用php的±/计算浮点数的时候，可能会遇到一些计算结果错误的问题，比如echo intval( 0.58100 );会打印57，而不是58，这个其实

逃离我推掉我的手/ 2023年01月02日 02:29/ 0 赞/ 126 阅读

相关 double浮点数计算的一些问题，以及bigDecimal的使用

文章目录考考你 System.out.println(1/5); 输出结果是多少? System.out.prin

淩亂°似流年/ 2022年10月31日 12:11/ 0 赞/ 595 阅读

相关解决JS浮点数(小数)计算加减乘除的BUG

加法函数，用来得到精确的加法结果 / 加法函数，用来得到精确的加法结果说明：javascript的加法结果会有误差，在两个浮点数相加的时候会

蔚落/ 2022年04月22日 13:46/ 0 赞/ 267 阅读

相关浮点数小数个数

include<iostream> include<cstring> using namespace std; int main(){

爱被打了一巴掌/ 2022年04月11日 11:30/ 0 赞/ 311 阅读

相关 js浮点数计算时失去精度

在项目中计算商品价格的时候再次遇到js浮点数计算出现误差的问题，以前一碰到这个问题就用tofixed方法进行处理一下，这对于一个程序员来说是及其不严谨的。何况用tofixe

川长思鸟来/ 2022年01月25日 22:25/ 0 赞/ 401 阅读