0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

BigDecimal使用失误的原因分析

Android编程精选 来源:稀土掘金 作者:Android编程精选 2022-07-10 14:35 次阅读

背景

我们在使用金额计算或者展示金额的时候经常会使用 BigDecimal,也是涉及金额时非常推荐的一个类型。

BigDecimal 自身也提供了很多构造器方法,这些构造器方法使用不当可能会造成不必要的麻烦甚至是金额损失,从而引起事故资损。

事故

接下来我们看下收银台出的一起事故。

问题描述

收银台计算商品金额报错,导致订单无法支付。

事故级别

P0

事故过程

如下:

13:44,接到报警,订单支付失败,支付可用率降至 60%

13:50,迅速回滚上线代码,恢复正常

14:20,review 代码,预发布验证发现问题点

14:58,修改问题代码上线,线上恢复

故障原因

BigDecimal 在金额计算中丢失精度。

原因分析

首先我们先用一段代码复现问题根源,如下所示:

publicstaticvoidmain(String[]args){
BigDecimalbigDecimal=newBigDecimal(88);
System.out.println(bigDecimal);
bigDecimal=newBigDecimal("8.8");
System.out.println(bigDecimal);
bigDecimal=newBigDecimal(8.8);
System.out.println(bigDecimal);
}

执行结果如下:

64b88216-ed69-11ec-ba43-dac502259ad0.png

通过测试发现,当使用 double 或者 float 这些浮点数据类型时,会丢失精度,String、int 则不会,这是为什么呢?

我们点开构造器方法看下源码:

publicstaticlongdoubleToLongBits(doublevalue){
longresult=doubleToRawLongBits(value);
//CheckforNaNbasedonvaluesofbitfields,maximum
//exponentandnonzerosignificand.
if(((result&DoubleConsts.EXP_BIT_MASK)==
DoubleConsts.EXP_BIT_MASK)&&
(result&DoubleConsts.SIGNIF_BIT_MASK)!=0L)
result=0x7ff8000000000000L;
returnresult;
}

问题就处在 doubleToRawLongBits 这个方法上,在 jdk 中 double 类(float 与 int 对应)中提供了 double 与 long 转换,doubleToRawLongBits 就是将 double 转换为 long,这个方法是原始方法(底层不是 java 实现,是 c++ 实现的)。

double 之所以会出问题,是因为小数点转二进制丢失精度。

64db7bf4-ed69-11ec-ba43-dac502259ad0.png

BigDecimal 在处理的时候把十进制小数扩大 N 倍让它在整数上进行计算,并保留相应的精度信息

float 和 double 类型,主要是为了科学计算和工程计算而设计的,之所以执行二进制浮点运算,是为了在广泛的数值范围上提供较为精确的快速近和计算。

并没有提供完全精确的结果,所以不应该被用于精确的结果的场合。

当浮点数达到一定大的数,就会自动使用科学计数法,这样的表示只是近似真实数而不等于真实数。

当十进制小数位转换二进制的时候也会出现无限循环或者超过浮点数尾数的长度。

总结

所以,在涉及到精度计算的过程中,我们尽量使用 String 类型来进行转换。

编辑:黄飞

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 浮点数
    +关注

    关注

    0

    文章

    58

    浏览量

    15792
  • 代码
    +关注

    关注

    30

    文章

    4555

    浏览量

    66746
  • string
    +关注

    关注

    0

    文章

    40

    浏览量

    4637

原文标题:BigDecimal使用不当,造成P0事故!

文章出处:【微信号:AndroidPush,微信公众号:Android编程精选】欢迎添加关注!文章转载请注明出处。

收藏 人收藏

    评论

    相关推荐

    关于镀铜表面粗糙问题原因分析

    本帖最后由 gk320830 于 2015-3-7 10:15 编辑 关于镀铜表面粗糙问题原因分析可能原因如下:  镀铜槽本身的问题  1、阳极问题:成分含量不当导致产生杂质  2、光泽剂
    发表于 11-07 11:21

    电镀镍金板不上锡原因分析

      电镀镍金板不上锡原因分析,请从以下几方面作检查调整:   1. 电
    发表于 04-16 21:56 1940次阅读

    电池膨胀原因分析

    电池膨胀原因分析 一般电池电池膨胀的主要原因是:
    发表于 10-21 10:41 962次阅读

    LED死灯的原因分析探讨

    LED死灯现象的原因有两种情况,本文将详细的说明及分析原因
    发表于 05-20 17:36 1636次阅读

    某型导弹射手失误信号的时频分析研究

    在某型导弹飞行训练中,射手失误后,对信号的处理不能准确得出失误发生的时间、失误的程度、失误原因。针对这个问题,
    发表于 11-14 11:10 29次下载
    某型导弹射手<b class='flag-5'>失误</b>信号的时频<b class='flag-5'>分析</b>研究

    压缩机故障原因分析PDF

    压缩机故障原因分析PDF空调维修技术压缩机故障原因分析PDF空调维修技术压缩机故障原因分析PDF
    发表于 04-28 11:45 5次下载

    导致烟雾报警器失误的主要原因有哪些?详细分析

    安装烟雾报警器主要是为了防止我们在不经意间未能及时发现火灾或者起烟雾将引发火灾的一种防护措施。不过我们偶尔会发现家里安装了有些年头的烟雾报警器会时不时响一下,但是检查有没有发现异常。这是什么原因呢?是什么导致烟雾报警器失误呢?
    的头像 发表于 04-11 16:31 1.4w次阅读

    BigDecimal实际开发的三坑是什么

    采用String 类型的构造参数。如果必须要使用double,则可使用Double.toString(double) 方法转换成String, 再采用Bigdecimal的构造函数.
    的头像 发表于 02-16 14:39 466次阅读

    什么是PFMEA中有效的原因分析呢?

    多数工厂的PFMEA的原因为“违规作业,未按作业指导书作业,新员工,操作失误,没有培训,员工技能不足,原材料不良,设备损坏等”。
    发表于 03-31 11:39 498次阅读

    bigdecimal转string类型

    BigDecimal转换为String类型是在Java编程中常常遇到的一个问题。BigDecimal是Java中用于表示高精度十进制数的类,而String则是用于表示文本字符串的数据类型。在某些
    的头像 发表于 11-30 11:09 3504次阅读

    怎么把bigdecimal转成string

    BigDecimal转换为String是一项常见的任务,在Java的开发中经常会涉及到将数值进行格式化,并在不同的环境中传递。本文将详解以下几个方面的内容: 什么是BigDecimal
    的头像 发表于 11-30 11:11 482次阅读

    bigdecimal转string类型避免空指针

    在Java中,BigDecimal是用于处理高精度数字计算的类。它提供了一种有效的方法来避免使用浮点数的精确度损失问题。然而,在将BigDecimal对象转换为String类型时,需要特别小心以避
    的头像 发表于 11-30 11:12 939次阅读

    bigdecimal转字符串保留两位小数

    BigDecimals是Java中用于表示任意精度的十进制数的类。在许多应用程序中,可能需要将一个BigDecimal转换为字符串并保留两位小数。在本文中,我们将探讨如何使用BigDecimal
    的头像 发表于 11-30 11:18 2203次阅读

    bigdecimal的加减乘除java

    BigDecimal是Java中提供的一个用于精确计算的类,它可以实现浮点数的精确加减乘除运算,避免了在使用浮点数进行计算时可能出现的舍入误差。 首先,我们需要明确一点,浮点数在计算机中是以二进制
    的头像 发表于 11-30 11:19 535次阅读

    bigdecimal是什么数据类型

    BigDecimal是Java编程语言中的一个类,用于表示任意精度的十进制数。它是在数值计算方面提供更高精度和更多功能的一个解决方案。常规的浮点数类型(如float和double)有精度限制,可能会
    的头像 发表于 11-30 11:21 1775次阅读