浮点数比较辨析
前一段时间在看《C++反汇编与逆向分析技术揭密》中浮点数类型,谈到浮点数的比较,书中给出了一段浮点数比较的代码。
float fTemp = 0.0001f;
if(fFloat >= -fTemp && fFloat <= fTemp)
{
//fTemp等于0
}
#include <stdio.h>
#include <stdlib.h>
main()
{
float d1, d2, d3, d4;
d1 = 194268.02;
d2 = 194268;
d4 = 0.02;
d3 = d1 - d2;
if (d3 > d4)
printf(">0.02\n");
else if (d3 < d4)
printf("<0.02\n");
else
printf("=0.02\n");
printf("%f - %f = %f \n", d1,d2,d3);
system("pause");
}
<0.02
d4 = 0.020000
194268.015625 - 194268.000000 = 0.015625
1、小数部分使用的长度不一样,可以看到d4的尾数(23位)全部用于表示0.02这个小数,而d3保存的是d1-d2的结果,实际小数部分同d1一样,只占了6位。
2、在这个例子中更关键的是0.02这个十进制数在转换二进制过程中产生了无穷值(就好象三分之一是0.3333.....)。正因为如此,在上面的例子中把float类型改成double类型,不影响结果,d3仍然小于d4。
大家可以换一个值测试,比如d1=194268.0234375;d4=0.0234375;看看结果如何。
[解决办法]
有关浮点数比较,太多的一知半解的结论了
lz这个实验是没问题的,但是实际也推翻了书中给的代码,因为这两个数之差实际是大于0.0001的:
float d1, d2, d3, d4;
d1 = 194268.02;
d2 = 194268;
d4 = 0.02;
d3=d1-d2-d4;
这个时候d3的绝对值是大于0.0001,因此就算你用书上给的这个代码,依然是错的
[解决办法]
用10进制小数不能精确表示某些三进制小数0.1(3)=0.33333333333……(10)
同理,用二进制小数也不能精确表示某些10进制小数。
include\float.h...
#define DBL_DIG 15 /* # of decimal digits of precision */
#define DBL_EPSILON 2.2204460492503131e-016 /* smallest such that 1.0+DBL_EPSILON != 1.0 */
#define DBL_MANT_DIG 53 /* # of bits in mantissa */
#define DBL_MAX 1.7976931348623158e+308 /* max value */
#define DBL_MAX_10_EXP 308 /* max decimal exponent */
#define DBL_MAX_EXP 1024 /* max binary exponent */
#define DBL_MIN 2.2250738585072014e-308 /* min positive value */
#define DBL_MIN_10_EXP (-307) /* min decimal exponent */
#define DBL_MIN_EXP (-1021) /* min binary exponent */
#define _DBL_RADIX 2 /* exponent radix */
#define _DBL_ROUNDS 1 /* addition rounding: near */
#define FLT_DIG 6 /* # of decimal digits of precision */
#define FLT_EPSILON 1.192092896e-07F /* smallest such that 1.0+FLT_EPSILON != 1.0 */
#define FLT_GUARD 0
#define FLT_MANT_DIG 24 /* # of bits in mantissa */
#define FLT_MAX 3.402823466e+38F /* max value */
#define FLT_MAX_10_EXP 38 /* max decimal exponent */
#define FLT_MAX_EXP 128 /* max binary exponent */
#define FLT_MIN 1.175494351e-38F /* min positive value */
#define FLT_MIN_10_EXP (-37) /* min decimal exponent */
#define FLT_MIN_EXP (-125) /* min binary exponent */
#define FLT_NORMALIZE 0
#define FLT_RADIX 2 /* exponent radix */
#define FLT_ROUNDS 1 /* addition rounding: near */
...
[解决办法]
大多数电脑都是用二进制来表示浮点和整数的,在十进制里,0.1是个简单、精确的小数,
但是用二进制表示起来确实一个循环小数0.00011001100……,
所以在对一些二进制无法精确的表示的小数进行赋值或读入,再输出的话,
也就是从十进制转为二进制转为十进制,得到的数值是不一致的,
这是用于编译器二进制/十进制转换例程的精度引起的!