js加減乘除需考慮精度問題及方法
javascript:document.write( (11.3-10.1).toFixed(2) )
toFixed()方法不僅僅截去多餘的小數位,同時它還根據擷取位置的下一個小數位進行四捨五入。例如,對於數值10.739,擷取到小數點後的兩位數,結果將是10.74。而對於數值10.732,擷取到小數點後的兩位數,結果將是10.73。
注意,在JavaScript中我們只能擷取小數點之後0位~20位的小數。
toFixed()方法僅被高版本的瀏覽器所支援,所以在使用之前最好先檢查一下瀏覽器是否支援該方法,檢查的程式碼如下所示:
var varNumber = 22.234;
if (varNumber.toFixed)
{
varNumber = varNumber.toFixed(2);
}
else //瀏覽器不支援toFixed()就使用其他方法
{
var div = Math.pow(10,2);
varNumber = Math.round(varNumber * div) / div;
}
這樣可以解決,但你想問,怎麼可能多出這麼小數點出來。
為什麼會出現如此無法理解的答案?
我Google了一下,發現原來這是JavaScript浮點運算的一個bug。
比如:7*0.8 JavaScript算出來就是:5.6000000000000005
網上找到了一些解決辦法,就是重新寫了一些浮點運算的函式。
下面就把這些方法摘錄下來,以供遇到同樣問題的朋友參考:
程式程式碼
//除法函式,用來得到精確的除法結果
//說明:javascript的除法結果會有誤差,在兩個浮點數相除的時候會比較明顯。這個函式返回較為精確的除法結果。
//呼叫:accDiv(arg1,arg2)
//返回值:arg1除以arg2的精確結果
function accDiv(arg1,arg2){
var t1=0,t2=0,r1,r2;
try{t1=arg1.toString().split(".")[1].length}catch(e){}
try{t2=arg2.toString().split(".")[1].length}catch(e){}
with(Math){
r1=Number(arg1.toString().replace(".",""))
r2=Number(arg2.toString().replace(".",""))
return (r1/r2)*pow(10,t2-t1);
}
}
//給Number型別增加一個div方法,呼叫起來更加方便。
Number.prototype.div = function (arg){
return accDiv(this, arg);
}
//乘法函式,用來得到精確的乘法結果
//說明:javascript的乘法結果會有誤差,在兩個浮點數相乘的時候會比較明顯。這個函式返回較為精確的乘法結果。
//呼叫:accMul(arg1,arg2)
//返回值:arg1乘以arg2的精確結果
function accMul(arg1,arg2)
{
var m=0,
以上出自轉載內容。感謝xxq8210。