浮点数精度问题C/C++ code#include iostreamusing namespace stdint main(){double i0.123456978cout
浮点数精度问题
- C/C++ code
#include <iostream>using namespace std;int main(){ double i=0.123456978; cout<<i<<endl; return 0;}double型至少可以保证10位有效数字,为什么用VS2010和Qt编译后的结果都是0.123457呢?
[解决办法]
向命令行窗口输出浮点数时若未指定格式,默认输出到小数点后6位
去查cout怎么格式化输出吧
