javascript中的float运算精度
有人问到一个js问题：
view plainprint?
var i = 0.07;
var r = i*100;
alert(r);
结果为什么是7.0000000000000001?
查了下资料，其实我们知道JavsScript中，变量在存储时并不区分number和float类型，而是统一按float存储。而javascript使用IEEE 754-2008 标准定义的64bit浮点格式存储number，按照IEEE 754的定义： http://en.wikipedia.org/wiki/IEEE_754-2008
decimal64对应的整形部分长度为10, 小数部分长度为16，所以默认的计算结果为“7.0000000000000001”，如最后一个小数为0，则取1作为有效数字标志。
类似地，我们可以想像，1/3的结果应该是0.3333333333333333。
那么如何校正这个值呢？
可以用以下方法：
一、parseInt
var r4=parseInt(i*100);
二、Math.round
var r2=Math.round((i*100)*1000)/1000;
<script type="text/javascript" language="javascript">
alert(1/3);//弹出: 0.3333333333333333
alert(0.09999999 + 0.00000001);//弹出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//弹出: -0.09999999999999999
alert(0.012345 * 0.000001);//弹出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//弹出: 0.009999999999999998
</script>
<script type="text/javascript" language="javascript">
alert(1/3);//弹出: 0.3333333333333333
alert(0.09999999 + 0.00000001);//弹出: 0.09999999999999999
alert(-0.09999999 - 0.00000001);//弹出: -0.09999999999999999
alert(0.012345 * 0.000001);//弹出: 1.2344999999999999e-8
alert(0.000001 / 0.0001);//弹出: 0.009999999999999998
</script>
按正常计算的话，除第一行外(因为其本身就不能除尽)，其他都应该要得到精确的结果，从弹出的结果我们却发现不是我们想要的正确结果。为了解决浮点数运算不准确的问题，在运算前我们把参加运算的数先升级(10的X的次方)到整数，等运算完后再降级(0.1的X的次方)。现收集并整理贴于此，以备后用。
加法
Js代码
//说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。//调用：accAdd(arg1,arg2)//返回值：arg1加上arg2的精确结果function accAdd(arg1,arg2){var r1,r2,m;try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}m=Math.pow(10,Math.max(r1,r2))return (arg1*m+arg2*m)/m}//给Number类型增加一个add方法，调用起来更加方便。Number.prototype.add = function (arg){return accAdd(arg,this);}//说明：javascript的加法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。//调用：accAdd(arg1,arg2)//返回值：arg1加上arg2的精确结果function accAdd(arg1,arg2){var r1,r2,m;try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}m=Math.pow(10,Math.max(r1,r2))return (arg1*m+arg2*m)/m}//给Number类型增加一个add方法，调用起来更加方便。Number.prototype.add = function (arg){return accAdd(arg,this);}减法//说明：javascript的减法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。//调用：accSub(arg1,arg2)//返回值：arg1减上arg2的精确结果function accSub(arg1,arg2){return accAdd(arg1,-arg2);}//给Number类型增加一个sub方法，调用起来更加方便。Number.prototype.sub = function (arg){return accSub(this,arg);}//说明：javascript的减法结果会有误差，在两个浮点数相加的时候会比较明显。这个函数返回较为精确的减法结果。//调用：accSub(arg1,arg2)//返回值：arg1减上arg2的精确结果function accSub(arg1,arg2){return accAdd(arg1,-arg2);}//给Number类型增加一个sub方法，调用起来更加方便。Number.prototype.sub = function (arg){return accSub(this,arg);} //说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。//调用：accMul(arg1,arg2)//返回值：arg1乘以arg2的精确结果function accMul(arg1,arg2){var m=0,s1=arg1.toString(),s2=arg2.toString();try{m+=s1.split(".")[1].length}catch(e){}try{m+=s2.split(".")[1].length}catch(e){}return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)}//给Number类型增加一个mul方法，调用起来更加方便。Number.prototype.mul = function (arg){return accMul(arg, this);}//说明：javascript的乘法结果会有误差，在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。//调用：accMul(arg1,arg2)//返回值：arg1乘以arg2的精确结果function accMul(arg1,arg2){var m=0,s1=arg1.toString(),s2=arg2.toString();try{m+=s1.split(".")[1].length}catch(e){}try{m+=s2.split(".")[1].length}catch(e){}return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)}//给Number类型增加一个mul方法，调用起来更加方便。Number.prototype.mul = function (arg){return accMul(arg, this);} 除法Js代码//说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。//调用：accDiv(arg1,arg2)//返回值：arg1除以arg2的精确结果function accDiv(arg1,arg2){var t1=0,t2=0,r1,r2;try{t1=arg1.toString().split(".")[1].length}catch(e){}try{t2=arg2.toString().split(".")[1].length}catch(e){}with(Math){r1=Number(arg1.toString().replace(".",""))r2=Number(arg2.toString().replace(".",""))return (r1/r2)*pow(10,t2-t1);}}//给Number类型增加一个div方法，调用起来更加方便。Number.prototype.div = function (arg){return accDiv(this, arg);}//说明：javascript的除法结果会有误差，在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。//调用：accDiv(arg1,arg2)//返回值：arg1除以arg2的精确结果function accDiv(arg1,arg2){var t1=0,t2=0,r1,r2;try{t1=arg1.toString().split(".")[1].length}catch(e){}try{t2=arg2.toString().split(".")[1].length}catch(e){}with(Math){r1=Number(arg1.toString().replace(".",""))r2=Number(arg2.toString().replace(".",""))return (r1/r2)*pow(10,t2-t1);}}//给Number类型增加一个div方法，调用起来更加方便。Number.prototype.div = function (arg){return accDiv(this, arg);} 1 楼 Leonhard7 2012-03-01 老实说这些方法根本不行。想想本来就是浮点数运算有问题，方法里面充斥着对浮点数的运算，所以根本行不通。