180615-精度计算BigDecimal

news/2024/6/28 23:14:37

logo

文章链接:https://liuyueyi.github.io/hexblog/2018/06/15/180615-精度计算BigDecimal/

180615-精度计算BigDecimal

目前接触的业务中,对数据的精度要求比较高,因此不再使用基本的float,double,改为用BigDecimal进行存储和相关的计算,端午前的这一篇博文,则简单的介绍下BigDecimal的使用姿势,早点回家早点放假

<!-- more -->

I. 基本使用

1. 构造方法

几个常见的构造方式,将基本类型+String等,转换为BigDecimal对象

public BigDecimal(char[] in);
public BigDecimal(String val);
public BigDecimal(BigInteger val);
public BigDecimal(int val);
public BigDecimal(long val);
public BigDecimal(double val)

2. 加减乘除

public BigDecimal add(BigDecimal value);                        //加法public BigDecimal subtract(BigDecimal value);                   //减法 public BigDecimal multiply(BigDecimal value);                   //乘法public BigDecimal divide(BigDecimal value);                     //除法

从上面的签名上,可以看出操作是属于链式结构(Builder模式),然后一个问题就是执行上面的操作之后,被调用的对象,是否会发生修改? (即下面的测试中的o值是否改变)

@Test
public void testBigDecimal() {BigDecimal o = new BigDecimal(11.1);BigDecimal d = new BigDecimal(1);System.out.println(o.add(d) + "| " + o);
}

输出结果

12.0999999999999996447286321199499070644378662109375| 11.0999999999999996447286321199499070644378662109375

结论: 计算后的结果需要保存,因为不会修改目标对象的值

3. 精度

前面的例子中,输出后面一长串,而这往往并不是我们希望的,所以可以设置下精度

public BigDecimal setScale(int newScale, RoundingMode roundingMode);

一个简单的case如下

@Test
public void testBigDecimal() {BigDecimal o = new BigDecimal(11.1);System.out.println(o.setScale(3, RoundingMode.CEILING) + "| " + o);
}

输出

11.100| 11.0999999999999996447286321199499070644378662109375

从上面的输出,特别是第二列,如果我们选择的精度方式是取下限,会不会有问题呢?

@Test
public void testBigDecimal() {BigDecimal o = new BigDecimal(11.1);System.out.println(o.setScale(1, RoundingMode.FLOOR) + "| " + o);
}

输出结果为:

11.0| 11.0999999999999996447286321199499070644378662109375

所以需要注意的地方就来了,对浮点数进行精度设置时,需要根据自己的业务场景,选择合适的取整方式,不然很容易出问题

取精度的几个参数说明

ROUND_CEILING    //向正无穷方向舍入
ROUND_DOWN    //向零方向舍入
ROUND_FLOOR    //向负无穷方向舍入
ROUND_HALF_DOWN    //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向下舍入, 例如1.55 保留一位小数结果为1.5
ROUND_HALF_EVEN    //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,如果保留位数是奇数,使用ROUND_HALF_UP,如果是偶数,使用ROUND_HALF_DOWN
ROUND_HALF_UP    //向(距离)最近的一边舍入,除非两边(的距离)是相等,如果是这样,向上舍入, 1.55保留一位小数结果为1.6
ROUND_UNNECESSARY    //计算结果是精确的,不需要舍入模式
ROUND_UP    //向远离0的方向舍入

II. 其他

1. 一灰灰Blog: https://liuyueyi.github.io/he...

一灰灰的个人博客,记录所有学习和工作中的博文,欢迎大家前去逛逛

2. 声明

尽信书则不如,已上内容,纯属一家之言,因个人能力有限,难免有疏漏和错误之处,如发现bug或者有更好的建议,欢迎批评指正,不吝感激

  • 微博地址: 小灰灰Blog
  • QQ: 一灰灰/3302797840

3. 扫描关注

blogInfoV2.png


http://lihuaxi.xjx100.cn/news/272555.html

相关文章

计算机视觉中的Transformer

点击上方“视学算法”&#xff0c;选择加"星标"或“置顶”重磅干货&#xff0c;第一时间送达作者丨Cheng He来源丨AI公园编辑丨极市平台Transformer结构已经在许多自然语言处理任务中取得了最先进的成果。Transformer 模型的一个主要的突破可能是今年年中发布的GPT-3…

webform repeater

repeater:由模板构成&#xff0c;解析后模板就不存在了 需要指定数据源进行数据绑定 List<Fruit> list new FruitDA().Select(); // 数据查询 &#xff08;随便查寻的&#xff09; Repeater1.DataSource list; // 赋值 Repeater1…

WF4.0实战(一):文件审批流程

http://www.cnblogs.com/zhuqil/archive/2010/04/13/DocumentApprovalProcess.html转载于:https://www.cnblogs.com/Little-Li/archive/2010/06/01/1749392.html

Python入门难吗?30年前的编程语言,为什么现在这么火?

开发圈内流传着这么一句话“流水的语言&#xff0c;铁打的 Python”&#xff0c;虽然诞生于80年代末、90年代初的 Python 已经不算年轻了&#xff0c;但是丝毫不影响 Python 成为现今再主流不过的编程语言之一。 再过去的很长一段时间&#xff0c; C、C、C# 和 Java 等编程语言…

腾讯提超强少样本目标检测算法,公开1000类检测训练集FSOD | CVPR 2020

作者 | VincentLee来源 | 晓飞的算法工程笔记不同于正常的目标检测任务&#xff0c;few-show目标检测任务需要通过几张新目标类别的图片在测试集中找出所有对应的前景。为了处理好这个任务&#xff0c;论文主要有两个贡献&#xff1a;提出一个通用的few-show目标检测算法&#…

利用OpenCV+ConvNets检测几何图形

点击上方“小白学视觉”&#xff0c;选择加"星标"或“置顶”重磅干货&#xff0c;第一时间送达导读人工智能领域中增长最快的子领域之一是自然语言处理&#xff08;NLP&#xff09;&#xff0c;它处理计算机与人类&#xff08;自然&#xff09;语言之间的交互&#x…

滴滴技术牛逼吗?看它开源了哪些有意思的项目

点击上方“方志朋”&#xff0c;选择“设为星标”回复”666“获取新整理的面试文章作为卓越的一站式移动出行和生活平台&#xff0c;滴滴在亚洲、拉美和澳洲为超过5.5亿用户提供出租车、快车、专车、豪华车、公交、代驾、企业级、共享单车、共享电单车、汽车服务、外卖、支付等…

MIT博士生、北大校友,利用自监督算法,解决了数据集中这一常见的“难题”...

点击上方“视学算法”&#xff0c;选择加"星标"或“置顶”重磅干货&#xff0c;第一时间送达萧箫 转载整理自 杨宇喆 量子位 报道 | 公众号 QbitAI训练模型时&#xff0c;你是否也遭遇过这样的“尴尬”时刻&#xff1a;好不容易找到了自己想要的数据集&#xff0c;结…