首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 开发语言 > C++ Builder >

floating point overflow怎么解决

2012-03-26 
floating point overflow如何解决? - C++ Builder / Windows SDK/API执行如下代码,产生“floating point ov

floating point overflow如何解决? - C++ Builder / Windows SDK/API
执行如下代码,产生“floating point overflow”异常,注释掉这些代码,无异常。
如何解决呀?
 
for( i = 0 ; i < iVarNum ; i ++ )
  for( j = i ; j < iVarNum ; j ++ )
  pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n;


[解决办法]
pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n; 
这里放个断点调试一下
[解决办法]

探讨
除以n的时候(/n)
這裡的n為0了
在for里 加一個判斷 为0调出来


[解决办法]
木天理啊。

加个断点,单步调试看看,第一次循环时,dTempVar2和dTempVar1的值,分别是多少?

热点排行