js中數字計算精度
問題這樣的:
37.5*5.5=206.08 (JS算出來是這樣的一個結果,我四捨五入取兩位小數)
我先懷疑是四捨五入的問題,就直接用JS算了一個結果為:206.08499999999998
怎麼會這樣,兩個只有一位小數的數字相乘,怎麼可能多出這麼小數點出來。
我Google了一下,發現原來這是JavaScript浮點運算的一個bug。
比如:7*0.8
JavaScript算出來就是:5.6000000000000005
網上找到了一些解決辦法,就是重新寫了一些浮點運算的函式。
下面就把這些方法摘錄下來,以供遇到同樣問題的朋友參考:
程式程式碼
//除法函式,用來得到精確的除法結果
//說明:javascript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函式返回較為精確的除法結果。
//呼叫:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精確結果
function
accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//給Number型別增加一個div方法,呼叫起來更加方便。
Number.prototype.div =
function (arg){
return accDiv(this, arg);
}
//乘法函式,用來得到精確的乘法結果
//說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函式返回較為精確的乘法結果。
//呼叫:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精確結果
function
accMul(arg1,arg2)
{
var m=0,s1=arg1.toString(),s2=arg2.toString();
try{m+=s1.split(".")[1].length}catch(e){}
try{m+=s2.split(".")[1].length}catch(e){}
return
Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m)
}
//給Number型別增加一個mul方法,呼叫起來更加方便。
Number.prototype.mul = function (arg){
return accMul(arg, this);
}
//加法函式,用來得到精確的加法結果
//說明:javascript的加法結果會有誤差,在兩個浮點數相加的時候會比較明顯。這個函式返回較為精確的加法結果。
//呼叫:accAdd(arg1,arg2)
//返回值:arg1加上arg2的精確結果
function
accAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2))
return (arg1*m+arg2*m)/m
}
//給Number型別增加一個add方法,呼叫起來更加方便。
Number.prototype.add = function (arg){
return accAdd(arg,this);
}
在你要用的地方包含這些函式,然後呼叫它來計算就可以了。
比如你要計算:7*0.8 ,則改成 (7).mul(8)
其它運算類似,就可以得到比較精確的結果。
------------------------------------------------------------------------------------------------------------------------------------------------------------
以上是在網上一個JS牛人的部落格上轉載的,不過上面只提及了加法、乘法和除法的解決辦法。
這個時候可能很多人就會想,有了加法,減法還不容易?我就是差點讓這個想法給害苦了。
其他的就不多說了,
帖出減法的程式碼:
function
Subtr(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//last modify by deeka
//動態控制精度長度
n=(r1>=r2)?r1:r2;
return
((arg1*m-arg2*m)/m).toFixed(n);
}