首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 开发语言 > C++ >

真的需要大牛帮助!基本类型赋值出错! 小弟我们找了3天了

2012-03-09 
真的需要大牛帮助!基本类型赋值出错! 我们找了3天了是这样的,我们出现这样一个问题EG:doublea8/24.0本来

真的需要大牛帮助!基本类型赋值出错! 我们找了3天了
是这样的,我们出现这样一个问题
EG:
double   a   =   8/24.0
本来应该是0.33333333下去,我们在调试过程中,等式右边的表达式在Watch里也是正确的0.333333循环,可是赋值过后,a就是0.33359028等这样的值。

明显不是精度不够产生的。赋值不对等。请问是何种原因造成的!!!???
是寄存器错误么?我们基本排除是寄存器出错了。
内存错误?溢出?还是什么

谁遇见过此类问题???!!!

我们快要疯掉了,公司5个人找了3天原因了

[解决办法]
进 C++ 程序后调用下 _control87( _PC_53, MCW_PC ) 把 FPU 设置成缺省精度...
C# Java 之流稀饭把 FPU 设置成 24 位精度以彰显自己浮点性能能够于 Fortran 媲美...

热点排行