首页 诗词 字典 板报 句子 名言 友答 励志 学校 网站地图
当前位置: 首页 > 教程频道 > 数据库 > SQL Server >

3.89-3.98=4.44089209850063E-16,该如何解决

2012-03-21 
3.89-3.984.44089209850063E-16在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得

3.89-3.98=4.44089209850063E-16

在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16

[解决办法]
给出具体的测试数据吧
[解决办法]
用decimal做数据类型.
[解决办法]
原因:因为你用的float 数据类型
解决方案:改成decimal
[解决办法]

探讨
在计算的时候 许多列相减..前5列算出结果是3.98 在减最后一列3.98 怎么得出 4.44089209850063E-16

热点排行