floating point overflow怎么解决

2012-03-26

floating point overflow如何解决？ - C++ Builder / Windows SDK/API执行如下代码，产生“floating point ov

floating point overflow如何解决？ - C++ Builder / Windows SDK/API
执行如下代码，产生“floating point overflow”异常，注释掉这些代码，无异常。
如何解决呀？

for( i = 0 ; i < iVarNum ; i ++ )
for( j = i ; j < iVarNum ; j ++ )
pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n;

[解决办法]
pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n;
这里放个断点调试一下
[解决办法]

探讨
除以n的时候(/n)
這裡的n為0了
在for里加一個判斷为0调出来

[解决办法]
木天理啊。

加个断点，单步调试看看，第一次循环时，dTempVar2和dTempVar1的值，分别是多少？