浮点计算高精度,该怎么解决

2013-12-29

浮点计算高精度大家都知道浮点运算。c语言里float有效位是5或6，现在编写一个浮点程序。比如就计算1+0.1，怎

浮点计算高精度
大家都知道浮点运算。c语言里float有效位是5或6，现在编写一个浮点程序。比如就计算1+0.1，怎么让它自动转换成高精度运算的程序使得输出尽可能精确
[解决办法]
(double)1 + (double)0.1

引用:

大家都知道浮点运算。c语言里float有效位是5或6，现在编写一个浮点程序。比如就计算1+0.1，怎么让它自动转换成高精度运算的程序使得输出尽可能精确

[解决办法]
要求很准确就使用double
或者自定义高精度数
[解决办法]

引用:

(double)1 + (double)0.1

Quote: 引用:

大家都知道浮点运算。c语言里float有效位是5或6，现在编写一个浮点程序。比如就计算1+0.1，怎么让它自动转换成高精度运算的程序使得输出尽可能精确

引用:

要求很准确就使用double
或者自定义高精度数

++++
[解决办法]
用10进制小数不能精确表示某些三进制小数0.1(3)=0.33333333333……(10)
同理，用二进制小数也不能精确表示某些10进制小数。

[解决办法]
转换成 int 类型计算
[解决办法]
有定点数的库。

热点排行

C语言