浮点数陷阱

川长思鸟来 2022-08-19 08:41 236阅读 0赞

今天在用Hive的时候，发现浮点数比较有个陷阱，即FLOAT类型和DOUBLE类型的比较。

如果我不刻意问的话，大家估计大部分人都认为FLOAT类型的0.2和DOUBLE类型的0.2相等。事实上不是这样的，这是后来我在《Programming Hive》中找到的答案。想知道更多细节，且听我下面细细道来。

比如，我们定义了一个FLOAT类型的变量f = 0.2，和DOUBLE类型的变量 d = 0.2（这里先不针对某种语言，类型统一先用大写）。我们都知道虽然FLOAT和DOUBLE类型不同，但是却可以相互比较，这是因为有一个从FLOAT到大范围类型DOUBLE的转换，即隐式类型转换（借用Scala的概念，更形象）。一般我们这样操作时没问题的，但是，问当FLOAT类型的变量f ，和DOUBLE类型的变量 d都被赋值为同一个数值，如0.2。那么，问题就来了，这时候的比较就失效了，变量f和变量d不相等。

原因是这样的，0.2并不能用FLOAT和DOUBLE进行准确的表示。这里的0.2是最近似于0.2的精确值，且这个精确值略大于0.2，也就是0.2后面若干个0之后还存在非零值。比如说FLOAT类型的0.2实际是0.2000001，而DOUBLE类型的0.2实际是0.200000000001，这是因为一个8字节的DOUBLE值具有更多的小数位。那么，当FLOAT类型的0.2转换成DOUBLE类型的0.2时，就变成了0.200000100000。这样FLOAT类型的0.2，即0.200000100000和DOUBLE类型的0.200000000001并不相等，且前者大于后者。但是，如果你把FLOAT类型的0.2和DOUBLE类型的0.2相减时，得到的结果却不是拿0.200000100000和0.200000000001做差（因语言而异，C语言的结果类似于0.000000，Java和Scala的结果是一个-9次方的错误值）。

大家可能觉得这是个BUG。其实，所有使用IEEE标准进行浮点数编码的系统中都存在这个问题。这个问题几乎影响了现在计算机中所使用的各种各样编程语言编写的软件。所以，它应该是个陷阱。更多详细的介绍可以参考[***Oracle文档***][Oracle]。

规避这个问题的方法也很简单：

1.  牺牲存储，所有的浮点数都定义成DOUBLE类型。
2.  在和FLOAT类型比较前，把浮点数转换成FLOAT类型（可能会导致失真）。

[Oracle]: http://docs.oracle.com/cd/E19957-01/806-3568/ncg_goldberg.html