解決javascript中的浮點數計算不精確問題
阿新 • • 發佈:2019-01-29
在javascript中的浮點數計算不準確。javascript的兩個浮點數演算法結果會有誤差。
加減法
原理:
取小數位多的一個(Math.max(r1,r2))
將加數都乘以10的m次方(變成整數)
相加後再除以m,得出精確資料
乘除法
原理:
將乘數和被乘數轉成字串,計算其小數點後位數的和(m)
將乘數和被乘數去掉小數點(轉成整數)後,轉為Number型別(可以精確乘運算)
相乘後除以10的m次方,得出精確資料
//乘法
第一種方法:
注意的是:try/catch可能會出現些問題 http://www.cnblogs.com/freshmen/p/4424667.htmlfunction accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } Number.prototype.mul = function (arg){ return accMul(arg, this); }
第二種方法:
function Mul2(arg1,arg2){ var r1,r2, m, n,q; if(parseInt(arg1) == arg1){ r1 = 0; }else{ r1 = arg1.toString().split(".")[1].length; } if(parseInt(arg2) == arg2){ r2 = 0; }else{ r2 = arg2.toString().split(".")[1].length; } m = Math.pow(10,r1); n = Math.pow(10,r2); q = m*n; var sum = (((arg1*m) * (arg2*n))/q); return sum; }
//除法
function FloatDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")); r2=Number(arg2.toString().replace(".","")); return (r1/r2)*pow(10,t2-t1); } }
//減法
function FloatSub(arg1,arg2){
var r1,r2,m,n;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
//動態控制精度長度
n=(r1>=r2)?r1:r2;
return ((arg1*m-arg2*m)/m).toFixed(n);
}
//加法
function FloatAdd(arg1,arg2){
var r1,r2,m;
try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}
try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}
m=Math.pow(10,Math.max(r1,r2));
return (arg1*m+arg2*m)/m;
}