【Python】浮点数精度问题(包含解决方案) 迈不过友情╰ 2022-10-08 16:16 175阅读 0赞 ### 浮点数精度问题 ### * 概述 * 解决方案 # 概述 # 之前提到过,Python 中浮点类型之间的运算,其结果并不像我们想象的那样,例如: >>> 0.1+0.2 0.30000000000000004 >>> 0.1+0.1-0.2 0.0 >>> 0.1+0.1+0.1-0.3 5.551115123125783e-17 >>> 0.1+0.1+0.1-0.2 0.10000000000000003 为什么在计算这么简单的问题上,计算机会出现这样的低级错误呢? 真正的原因在于十进制和数和二进制数的转换。 我们知道,计算机其实是不认识十进制数,它只认识二进制数,也就是说,当我们以十进制数进行运算的时候,计算机需要将各个十进制数转换成二进制数,然后进行二进制间的计算。 以类似 0.1 这样的浮点数为例,如果手动将其转换成二进制,其结果为: 0. 1 ( 10 ) = 0.00011001100110011.. . ( 2 ) 0.1\_\{(10)\}=0.00011001100110011...\_\{(2)\} 0.1(10)=0.00011001100110011...(2) 可以看到,结果是无限循环的,也就是说,`0.1` 转换成二进制数后,无法精确到等于十进制数的 `0.1`。 同时,由于计算机存储的位数是有限制的,所以如果要存储的二进制位数超过了计算机存储位数的最大值,其后续位数会被舍弃(舍弃的原则是“`0 舍 1 入`”)。 > 这种问题不仅在 Python 中存在,在所有支持浮点数运算的编程语言中都会遇到,它不光是 Python 的 Bug。 # 解决方案 # 明白了问题产生的原因之后,那么该如何解决呢? 就 Python 的浮点数运算而言,大多数计算机每次计算误差不会超过 2 53 2^\{53\} 253,这对于大多数任务来说已经足够了。 如果需要非常精确的结果,可以使用 `decimal 模块`(其实就是别人开发好的程序,我们可以直接拿来用),它实现的十进制数运算适合会计方面的应用和有高精度要求的应用。例如: #使用模块前,需要使用 import 引入 import decimal a = decimal.Decimal("10.0") b = decimal.Decimal("3") print(10.0/3) print(a/b) 输出:3.3333333333333335 输出:3.333333333333333333333333333 可以看到,相比普通运算的结果,使用 `decimal 模块`得到的结果更精确。 如果 `decimal 模块`还是无法满足需求,还可以使用 `fractions 模块`,例如: #引入 decimal 模块 from fractions import Fraction print(10/3) print(Fraction(10,3)) 输出:3.3333333333333335 输出:10/3 可以看到,通过 fractions 模块能很好地解决浮点类型数之间运算的问题。
相关 Java浮点数运算精度问题示例 在Java中,浮点数的运算可能会出现精度问题。这主要是因为Java使用IEEE 754标准来表示和处理浮点数。 以下是一个简单的例子,展示了浮点数运算可能存在的精度问题: 今天药忘吃喽~/ 2024年09月10日 15:54/ 0 赞/ 92 阅读
相关 单精度浮点数和双精度浮点数_浮点数和双精度数之间的区别 ![0b4d070881144d90e79ec876b69711aa.png][] 单精度浮点数和双精度浮点数 Here you will learn about diff 朴灿烈づ我的快乐病毒、/ 2022年12月07日 13:29/ 0 赞/ 243 阅读
相关 【Python】浮点数精度问题(包含解决方案) 浮点数精度问题 概述 解决方案 概述 之前提到过,Python 中浮点类型之间的运算,其结果并不像我们想象的那样,例如: >>> 0.1+0 迈不过友情╰/ 2022年10月08日 16:16/ 0 赞/ 176 阅读
相关 Java浮点数精度控制 package mypackage; import java.text.DecimalFormat; public class NumberTest \{ public sta 分手后的思念是犯贱/ 2022年09月28日 13:23/ 0 赞/ 240 阅读
相关 浮点数精度问题处理 [参考][Link 1] 由于浮点数在计算机中的存储问题,所以不论是float类型的数据还是double类型的数据都是有其精度的,取浮点数精度下限,float为6位,doub 逃离我推掉我的手/ 2022年08月10日 10:56/ 0 赞/ 243 阅读
相关 浮点数输入精度问题 输入: ![Image 1][]![Image 1][]![20150814202153285][] ![20150814202156072][] ![201508 你的名字/ 2022年08月04日 00:59/ 0 赞/ 249 阅读
相关 JS浮点数精度缺失问题 先看一个例子 alert(0.7+0.1);//输出0.7999999999999999 alert(0.6+0.2);//输出0.8 第二个正确,但第一个 曾经终败给现在/ 2022年04月11日 14:45/ 0 赞/ 299 阅读
相关 Java--float浮点数类型精度问题 浮点数为什么不精准? 参考链接:[https://blog.csdn.net/renwotao2009/article/details/51637163][https_b Bertha 。/ 2021年11月16日 16:02/ 0 赞/ 371 阅读
相关 JavaScript 浮点数运算的精度问题 问题描述 在 `JavaScript` 中整数和浮点数都属于 `Number` 数据类型,所有数字都是以 `64` 位浮点数形式储存,即便整数也是如此。 所以我们在打印 ╰半夏微凉°/ 2021年07月04日 21:43/ 0 赞/ 455 阅读
还没有评论,来说两句吧...