python 浮点

旧城等待， 2022-08-06 10:20 135阅读 0赞

[http://blog.csdn.net/unicode1985/archive/2007/05/12/1606067.aspx][http_blog.csdn.net_unicode1985_archive_2007_05_12_1606067.aspx]

python IDLE中敲入

>>> 0.1  
0.10000000000000001

>>> round(1.0/3, 2)  
0.33000000000000002  
>>> round(11.0/3, 2)  
3.6699999999999999

注意所有的编程语言都有这个问题。这是浮点数在计算机中的存储问题。

考虑十进制是0.125这个小数，其二进制表示为0.001，这两个数是完全等同的。  
    但是不是所有的小数都有这样的特性，大多数的小数不能用二进制精确的表示，其结果就是，所有十进制小数在计算机中都是用其最最近似的方式存储表示的。  
    考虑分数1/3，可以用十进制近似成0.3，或者0.33，或者0.333。  
注：小数部分由十进制转二进制的方法就是一直去掉整数部分，小数部分乘2,直到小数部分为0为止。  
如：0.625转为二进制：  
0.625\*2 = 1.25,  整数部分为1，小数部分为0.25  
0.25 \* 2 = 0.5 ,  整数部分为0，小数部分为0.5  
0.5  \* 2 = 1   ,    整数部分为1，小数部分为0  
所以0.625转为二进制的结果就是0.101  
但是，有些小数，如0.2，再怎么乘2，小数部分也不会得到0的，所以，就有误差了。  
   
    因此，考虑小数0.1，它不能用二进制精确的表示，而是表示成了：  
0.0001100110011001100110011001100110011001100110011...  
  所以你才看到了最开始的情况：>>> 0.1  
0.10000000000000001  注意当没有使用print时，python解释器使用repr方法获得它需要显示的对象的字符串形式，对浮点数来说，repr(float)取到小数点后17位；如果使用print，调用的是str方法：>>> print 0.10.1  使用round方法并不能取得预期效果，是因为0.10000000000000001已经是1/10的最近似的数了，它总是取最好的结果。再看一个示例：>>> sum=0.0>>> for i in range(10): sum+= 0.1 >>> sum0.99999999999999989  很多的浮点数运算有这样类似的“奇怪”结果。  解决办法是使用python的decimal模块：>>> 0.1\*0.50.050000000000000003>>> from decimal import \*>>> Decimal("0.1")\*Decimal("0.5")Decimal("0.05")  这个模块的功能也比较全面和强大。不予详细说明。

本文来自CSDN博客，转载请标明出处：[http://blog.csdn.net/unicode1985/archive/2007/05/12/1606067.aspx][http_blog.csdn.net_unicode1985_archive_2007_05_12_1606067.aspx]

[http_blog.csdn.net_unicode1985_archive_2007_05_12_1606067.aspx]: http://blog.csdn.net/unicode1985/archive/2007/05/12/1606067.aspx