Java中double类型的精度问题

刺骨的言语ヽ痛彻心扉 2022-05-11 12:08 415阅读 0赞

1.在Java中所有输出数的类型默认是int类型,所以当分子除以分母就是1/2结果是0,除非你强制转化为double类型,结果才是0.5.
2.当float或者double类型进行运算如float减去float类型,double减去double类型,如果这相减的数有小数,会有误差,因为是采用二进制存储,float是小数点后7位,double是小数点后16位,当位数不够时会有误差,所以说
要用BigDecimal来进行运算。

发表评论

表情:
评论列表 (有 0 条评论,415人围观)

还没有评论,来说两句吧...

相关阅读

    相关 double精度丢失问题

    double精度丢失问题 从二进制角度考虑问题就会很简单了:把「0.1」转成二进制然后还原成十进制,就能看出问题。 这是二进制与十进制之间的碰撞 这是机器与