floating point overflow如何解决? - C++ Builder / Windows SDK/API
执行如下代码,产生“floating point overflow”异常,注释掉这些代码,无异常。
如何解决呀?
for( i = 0 ; i < iVarNum ; i ++ )
for( j = i ; j < iVarNum ; j ++ )
pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n;
[解决办法]
pCORR[i][j] = (pCORR[i][j]-pSUM[i]*pSUM [j]/n)/n;
这里放个断点调试一下
[解决办法]