1. 程式人生 > 其它 >js常見計算精度問題集合並且綜合解決

js常見計算精度問題集合並且綜合解決

技術標籤:前端相容問題合集js演算法bugjavascript

1.js加法bug

問題:0.1+0.2不等於0.3

引發原因:在二進位制的世界裡面,有的數字在二進位制裡面是無限迴圈的,js數字二進位制的有限的位數,在某個時候就會出現計算錯誤

解決辦法:parseFloat((0.1+0.2).toFixed(10))

————————————————————————————————

2.js parseFloat保留小數,沒有四捨五入

問題:0.435.toFixed(2),理想狀態是等於0.44,實際等於0.43

引發原因:有的數字在二進位制裡面是無限迴圈的,js數字二進位制的有限的位數,所以保留的兩位小數可能就與實際不對。

解決辦法:重寫Number.prototype.toFixed方法(如下程式碼),把他放置在原先載入js的地方


Number.prototype.toFixed=function (d) { 
                var s=this+""; 
                if(!d)d=0; 
                if(s.indexOf(".")==-1)s+="."; 
                s+=new Array(d+1).join("0"); 
                if(new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+(d+1)+"})?)\\d*$").test(s)){
                    var s="0"+RegExp.$2,pm=RegExp.$1,a=RegExp.$3.length,b=true;
                    if(a==d+2){
                        a=s.match(/\d/g); 
                        if(parseInt(a[a.length-1])>4){
                            for(var i=a.length-2;i>=0;i--){
                                a[i]=parseInt(a[i])+1;
                                if(a[i]==10){
                                    a[i]=0;
                                    b=i!=1;
                                }else break;
                            }
                        }
                        s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");
 
                    }if(b)s=s.substr(1); 
                    return (pm+s).replace(/\.$/,"");
                }return this+"";
 
            };