double类型运算的问题,有人遇到过吗
以下程序:
double a=2413.8;
double b=2410.8;
double c=a-b;
调试时发现,c=2.999999995
有人遇到过吗,是怎么解决的? double 小数点 c
[解决办法]
baidu google 一下 计算机浮点数是如何表示的