首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > .NET > C# >

c# 四舍五入有关问题

2012-03-09 
c# 四舍五入问题比如说Math.Round(0.00145, 4, MidpointRounding.AwayFromZero),0.00145应该是0.0015和0.0

c# 四舍五入问题
比如说Math.Round(0.00145, 4, MidpointRounding.AwayFromZero),0.00145应该是0.0015和0.0014的中间值,取绝对值较大
值的话,按理应该是0.0015,但是结果却是0.0014,我测试很多数据都是对的,唯独这个数就是不对,是我理解错了还是VS2005的
BUG,求大神分析下~!

[解决办法]
这是因为误差,double型数据不是整数,不绝对精确,所以你的0.00145可能表示成0.00144999999999999,四舍五入就成为0.0014了,

[解决办法]

探讨
这是因为误差,double型数据不是整数,不绝对精确,所以你的0.00145可能表示成0.00144999999999999,四舍五入就成为0.0014了,

热点排行