首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > .NET > .NET >

浮点数运算不精确有关问题怎么解决

2012-02-28 
浮点数运算不精确问题如何解决rt[解决办法]取一个范围,两个数之差在一个范围内就认为它们相等就行了[解决

浮点数运算不精确问题如何解决
rt

[解决办法]
取一个范围,两个数之差在一个范围内就认为它们相等就行了
[解决办法]
if abs(a-b)<1e-6 the
ShowMessge('a=b')
我常用这种办法

热点排行