首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 软件管理 > 软件架构设计 >

double部类运算精度丢失

2012-11-17 
double类型运算精度丢失前段时间看了一点python入门,写了几个运算的例子,就发现浮点数进行运算的结果并不

double类型运算精度丢失
        前段时间看了一点python入门,写了几个运算的例子,就发现浮点数进行运算的结果并不是期望的,而是接近与期望的一个数。比如期望结果是2.4,那么实际结果可能是2.333333339,当时参考的资料上说不用在意这个,由于是入门,我也就没太在意,就当是python自己的一个问题吧。昨天在网上闲逛,又无疑碰到了这个问题,不过这个是在java下发生的。于是写了点例子,发现这个问题并非与特定语言有关,而是与计算机底层实现有关,下面就说一下这个问题。
        需要注意,如果在java中使用浮点数,则默认为double。如果需要使用float,在浮点数后面加f。

直接输出2.4:2.42.4/0.1:23.999999999999996(2.4-0.2)/0.1:21.999999999999996直接输出2.2:2.22.2/0.1:22.0(2.2+0.2)/0.1:24.0000000000000042.2+0.2:2.4000000000000004


        我们从源代码和输出的结果进行分析。首先从结果可以知道直接输出浮点数2.2和2.4没有问题,一切正常。但是2.4/0.1我们期望应该是输出24,却输出了23.999999999999996;同样的,(2.4-0.2)/0.1期望输出是22,实际输出是21.999999999999996,(2.2+0.2)/0.1也是同样的情况。这些现象说明我们得到了非期望值,一个“错误的结果”,也就是说,在计算过程中发生了精度丢失。
        前面说过,我在python中也有这样的问题,所以这种现象并不针对某种语言,而是计算机的实现造成的。众所周知,计算机只能识别二进制,所以我们的一切数据最后都转化为二进制来实现。我们发现,直接输出2.4和2.2并没有任何问题,但是一旦让其参与运算就会出错,因此精度丢失是发生在”运算“过程中的。
        浮点数由两部分组成,指数和尾数。如果在转换过程中进行了运算,那么所得结果将不可知,不能保证二进制能正好准确转换为十进制。其原理参见其他参考书。
        如何处理这种情况呢,可以用BigDecimal,具体使用参见JavaAPI。

热点排行