首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 数据库 > 其他数据库 >

计算时精度导致的小错误

2012-07-05 
计算时精度导致的小异常今天发生了0.0037775进位为6位的时候,出现了3.377的怪现象。总也查不出来原因无论怎

计算时精度导致的小异常
今天发生了0.0037775进位为6位的时候,出现了3.377的怪现象。
总也查不出来原因无论怎么round都没用。给的还是3.377。

最后发现原来计算的结果精度很高,是0.0037774999999虽然显示的是0.0037775,进位的时候就会发生这种情况。

解决方法是先round 第7位,再round第六位

热点排行