首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 数据库 > IBM DB2 >

db2 的decimal 和C语言 double的精度有关问题

2012-03-19 
db2 的decimal 和C语言 double的精度问题decimal(20,2)double f_amt可能有经验的都会遇到这个问题,金额如

db2 的decimal 和C语言 double的精度问题
decimal(20,2)
double f_amt;


可能有经验的都会遇到这个问题,金额如果是100.19,update 到数据库中,再查就可能变成100.20.
这是因为100.19在数据库中可能存储的是100.189999.经过多次累计之后,精度发生了变化。


现在高分求解。夜深了在线等,解决了另开贴散分。

[解决办法]
db2的decimal好像存在这个问题,偶尔出现,你可以认为是个BUG吧,以前出过资料没有什么好的解决办法
[解决办法]
这个问题似乎有人问过,
http://topic.csdn.net/u/20091020/19/18d29ae8-890f-48ce-82b0-ba0573500fc7.html
你设置一下数据库配置参数MIN_DEC_DIV_3试试
[解决办法]
没办法。浮点数计算的问题。
[解决办法]
浮点数基本上都会有这样问题的。

就和两个浮点数想减,不一定会是0一样。



[解决办法]
decimal(20,3)试试

热点排行