Java数值精度

秒速五厘米 2024-03-30 14:04 65阅读 0赞

**目录**

1、问题

2、初始化对象

3、格式化

4、比较

5、溢出

--------------------

## 1、问题 ##

当做一些对精度要求比较高的运算时，基本数据类型的double和float可能就不够用了。比如以下例子：

System.out.println(0.1 + 0.2);//0.30000000000000004
            System.out.println(1.0 - 0.8);//0.19999999999999996
            System.out.println(4.015 * 100);//401.49999999999994
            System.out.println(123.3 / 100);//1.2329999999999999
    
            double amount1 = 2.15;
            double amount2 = 1.10;
            System.out.println(amount1 - amount2);//1.0499999999999998

Java中使用了[IEEE754标准][IEEE754]计算浮点数，没有办法精确表示0.1等小数，导致精度丢失。

## 2、初始化对象 ##

当对精度要求比较高时，我们可以使用**BigDecimal，**但在使用时需要注意，初始化对象时需要使用字符串，而不能使用直接的数值，对比如下两组代码：

错误用法：

System.out.println(new BigDecimal(0.1).add(new BigDecimal(0.2)));
    //0.3000000000000000166533453693773481063544750213623046875
    System.out.println(new BigDecimal(1.0).subtract(new BigDecimal(0.8)));
    //0.1999999999999999555910790149937383830547332763671875
    System.out.println(new BigDecimal(4.015).multiply(new BigDecimal(100)));
    //401.49999999999996802557689079549163579940795898437500
    System.out.println(new BigDecimal(123.3).divide(new BigDecimal(100)));
    //1.232999999999999971578290569595992565155029296875

正确用法：

System.out.println(new BigDecimal("0.1").add(new BigDecimal("0.2")));
    //0.3
    System.out.println(new BigDecimal("1.0").subtract(new BigDecimal("0.8")));
    //0.2
    System.out.println(new BigDecimal("4.015").multiply(new BigDecimal("100")));
    //401.500
    System.out.println(new BigDecimal("123.3").divide(new BigDecimal("100")));
    //1.233

## 3、格式化 ##

格式化展示的同样也会出现精度问题。所以最好也使用BigDecimal进行格式化

BigDecimal num1 = new BigDecimal("3.35");
    BigDecimal num2 = num1.setScale(1, BigDecimal.ROUND_DOWN);
    System.out.println(num2);
    BigDecimal num3 = num1.setScale(1, BigDecimal.ROUND_HALF_UP);
    System.out.println(num3);

## 4、比较 ##

BigDecimal的比较方法有两个，分别是equal和compareTo。equal同时比较了小数位数scale和精度precision，而compareTo则是比较值。所以当我们仅需要比较值的时候，最好使用compareTo。

同样的，当需要用到Set去重的时候，要使用TreeSet而不是HashSet，两者的判重方法不同，TreeSet使用compareTo。

## 5、溢出 ##

如果预期可能会出现大数计算，最好使用BigInteger，或者使用Math类，通过溢出报错来做特殊处理。

参考文章：[https://b.geekbang.org/member/course/detail/216778][https_b.geekbang.org_member_course_detail_216778]

[IEEE754]: https://blog.csdn.net/leader_song/article/details/121647097
[https_b.geekbang.org_member_course_detail_216778]: https://b.geekbang.org/member/course/detail/216778