首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 开发语言 > VC/MFC >

关于double类型变量的计算精度有关问题

2012-06-20 
关于double类型变量的计算精度问题double dSmallestDeep dSmallestDeep 1.0825 * 5dSmallestDeep 本来

关于double类型变量的计算精度问题
double dSmallestDeep ;

dSmallestDeep = 1.0825 * 5;

dSmallestDeep 本来应该等于5.4125
四舍五入之后应该是5.413

但是现在的计算结果是dSmallestDeep = 5.412499999996
四舍五入之后成为5.412

请问大虾这种情况应该怎么取到正确的四舍五入之后的值,即5.413

[解决办法]
自己用与5.413相减,然后判断是否在你允许的误差范围月之内.

热点排行