浮点数运算不精确问题如何解决rt[解决办法]取一个范围,两个数之差在一个范围内就认为它们相等就行了[解决
浮点数运算不精确问题如何解决
rt
[解决办法]
取一个范围,两个数之差在一个范围内就认为它们相等就行了
[解决办法]
if abs(a-b)<1e-6 the
ShowMessge('a=b')
我常用这种办法
浮点数运算不精确问题如何解决
rt
[解决办法]
取一个范围,两个数之差在一个范围内就认为它们相等就行了
[解决办法]
if abs(a-b)<1e-6 the
ShowMessge('a=b')
我常用这种办法