js中小數運算精度丟失問題

阿新 • • 發佈：2019-01-29

在js中做一些計算的時候，如果直接計算有可能造成精度丟失，比如在計算1.79 + 0.12的時候，直接計算的結果就是1.9100000000000001，但是我們知道正確的計算結果應該1.91.我的解決辦法如下（直接放程式碼）

<html>
    <body>
        <input type="button" name="name" value="xxxx" onclick="test()"/>
    </body>
    <script language="javascript">
        function add(num1,num2){
            var r1 
,r2,m,n;
            try{r1=num1.toString().split(".")[1].length}catch(e){r1=0}
            try{r2=num2.toString().split(".")[1].length}catch(e){r2=0}
            m = Math.pow(10,Math.max(r1,r2));
            n = (r1>=r2)?r1:r2;
            return ((num1*m + num2*m)/m).toFixed(n);
        }
        function sub 
(num1,num2){
            var r1,r2,m,n;
            try{r1=num1.toString().split(".")[1].length}catch(e){r1=0}
            try{r2=num2.toString().split(".")[1].length}catch(e){r2=0}
            n = (r1>=r2)?r1:r2;
            m = Math.pow(10,Math.max(r1,r2));
            return ((num1*m - num2*m)/m).toFixed 
(n);
        }
        function mul(num1,num2){
            var m = 0;
            try{m+=num1.toString().split(".")[1].length}catch(e){}
            try{m+=num2.toString().split(".")[1].length}catch(e){}
            return (Number(num1.toString().replace(".",""))*Number(num2.toString().replace(".","")))/Math.pow(10,m)
        }
        function div(arg1,arg2){
            var t1=0,t2=0,r1,r2;
            try{t1=arg1.toString().split(".")[1].length}catch(e){}
            try{t2=arg2.toString().split(".")[1].length}catch(e){}
            r1=Number(arg1.toString().replace(".",""));
            r2=Number(arg2.toString().replace(".",""));
            return (r1/r2)*Math.pow(10,t2-t1);
        }
        function test(){
            var _add = 1.79 + 0.12;
            var _add2 = add(1.79,0.12);
            var _sub = 2.01 - 0.12;
            var _sub2 = sub(2.01,0.12);
            var _mul = 1.01 * 1.3;
            var _mul2 = mul(1.01,1.3);
            var _div = 0.69 / 10;
            var _div2 = div(0.69,10);
            alert("加法：處理前1.79 + 0.12 = " +_add + "  處理後 1.79 + 0.12 = " + _add2 + "\n" +
                  "減法：處理前2.01 - 0.12 = " +_sub + "  處理後 2.01 - 0.12 = " + _sub2 + "\n" +
                  "乘法：處理前1.01 * 1.3 = " +_mul + "  處理後 1.01 * 1.3 = " + _mul2 + "\n" +
                  "除法：處理前0.69 / 10 = " +_div + "  處理後 0.69 / 10 = " + _div2 + "\n"
            );
        }
    </script>
</html>

執行結果如圖
這裡寫圖片描述

js中小數運算精度丟失問題

在js中做一些計算的時候，如果直接計算有可能造成精度丟失，比如在計算1.79 + 0.12的時候，直接計算的結果就是1.9100000000000001，但是我們知道正確的計算結果應該1.91.我的解決

java，js中小數計算精度誤差問題

sys OS 時有無限小數 java sdn 符號位 ava 　　在碰見這個問題之前我完全沒有這個概念，碰見了特此記錄；　　項目js裏面中用到了number*0.2（其中number是一個整數，我測試的時候是259），得到的結果卻是51.800000000000000

java中Double型別的運算精度丟失的問題 (小數點多出99999999999999)

在使用Java，double 進行運算時，經常出現精度丟失的問題，總是在一個正確的結果左右偏0.0000**1。特別在實際專案中，通過一個公式校驗該值是否大於0，如果大於0我們會做一件事情，小於0我們又處理其他事情。這樣的情況通過double計算出來的結果去和0比較

JS中的運算符和JS中的分支結構

-1 amp 算術 res 同時其余字符 3層 fine JS中的運算符 1、算術運算(單目運算符) + 、-、*、 /、 %取余、++自增、--自減 +：兩種作用，鏈接字符串/加法運算。當+兩邊全為數字時，進行加法運算；當+兩邊有任意一

JS中的運算符&JS中的分支結構

eight 類型作用 bool pre script class 多重if parse 一、JS中的運算符 1、算術運算(單目運算符) + 加、- 減、* 乘、/ 除、% 取余、++ 自增、-- 自減 >>> +:有兩種作用，連接字符

JS中的運算符

col 錯誤 == 鏈接 num 代碼 fff 執行邏輯 1、算術運算(單目運算符) +、 -、 *、 /、 % 取余、++ 自增、-- 自減加號有兩種作用：鏈接字符串和加法作用，當+兩邊全為數字時，進行加法運算；當+兩邊有任

js中三元運算符的兩種情況

type post == text 賦值 pos 情況三元一個一、一般情況 <script type="text/javascript"> var b=5; (b == 5) ? a="true" : a="false"; document.write("

JS中邏輯運算符中 == 的問題

否則 style 補充明顯返回對象變量如何總結得到坦白說，js中的==比數學中的==更有深度，不愧是被稱為“最糟糕的特效”之一。查了大量資料，感謝前輩們。在此，為了溫故而知新，總結一下：一.記住 == 運算的規則： (1)undefined == null

JavaScript中解決計算精度丟失的問題

直接浮點數相乘解決而不是 odi class replace 動態 style 在做項目之前老師就給我們封裝好了一個js文件，解決計算中丟失精度的一些函數，直接引用js文件就可以使用。 eg： var numA = 0.1; var numB = 0.2; alert

[Math.js]通過Math.js彌補JavaScript運算精度問題

①首先介紹JavaScript運算精度丟失的背景計算機通過二進位制來儲存並處理數字，不能精確表示浮點數，但是JavaScript沒有封裝的類來處理浮點數，直接計算會使浮點數丟失計算精度。例子一： 0.1=0.0001 1001 1001 10

js浮點運算精度問題和IEEE754

原文連結當我們使用一段時間的JS之後會遇到下面這個問題 0.1 + 0.2 === 0.3 // false 我們可以在控制檯裡面看到0.1+0.2輸出的並不是0.3而是0.30000000000000004。那麼為什麼出現這樣的問題呢。其實

對於double和float型別運算精度丟失，請使用BigDecimal

一、簡介 Java在java.math包中提供的API類BigDecimal，用來對超過16位有效位的數進行精確的運算。雙精度浮點型變數double可以處理16位有效數。在實際應用中，需要對更大或者更小的數進行運算和處理。float和double只能用來做科學計算或者是工程計算，在商業計算中要用java.m

Java中double型別精度丟失問題

　　首先，之所以double浮點數型別中會出現精度不準確這個問題，是因為浮點數在計算機的儲存方法導致的，要想具體瞭解的話，可以檢視《計算機組成原理》這本書，裡面有比較詳盡的解答。　　接下來由一道題來引出接下來要講的這個問題：　　對任意給定的一個doubl

浮點型加減乘除（解決浮點型運算精度丟失問題）

package dealNumber; import java.math.BigDecimal; /** * 進行BigDecimal物件的加減乘除，四捨五入等運算的工具類 * * @author Yuk */ public clas

Spring boot處理Long型別的Json資料，在Js程式碼呼叫時精度丟失的問題

import com.fasterxml.jackson.databind.ObjectMapper; import com.fasterxml.jackson.databind.module.SimpleModule; import com.fasterxml

Java和js中小數和百分數的互相轉換

一、百分數轉小數 Java中： private float changePercentToPoint(String percent) { return new Float(

【GreenDao學習筆記】SQLite資料庫儲存float/double小數型別精度丟失

用GreenDao工具來操作資料庫明顯提高了開發效率，但是也會出現一些小問題，比如儲存小數的時候，加加減減總無可避免精度不準，SQLite的資料型別只有這麼幾種（參考：https://www.sqlite.org/datatype3.html）。BigDecim

JS中浮點數精度計算（轉）

先貼原文地址 http://xieyufei.com/2018/03/07/JS-Decimal-Accuracy.html問題的發現　　總結了一下，一共有以下兩種問題浮點數運算後的精度問題　　在計算商品價格加減乘除時，偶爾會出現精度問題，一些常見的例子如下：12345678

js浮點數運算精度問題

大多數語言在處理浮點數的時候都會遇到精度問題，但是在JS裡似乎特別嚴重，來看一個例子 alert(45.6*13); 結果居然是592.800000000001，當然加法之類的也會有這個問題那這是js的錯誤嗎？當然不是，你的電腦做著正確的二進位制

js中數字計算精度

問題這樣的： 37.5*5.5=206.08 (JS算出來是這樣的一個結果，我四捨五入取兩位小數) 我先懷疑是四捨五入的問題，就直接用JS算了一個結果為：206.08499999999998 怎麼會這樣，兩個只有一位小數的數字相乘，怎麼可能多出這麼小數點出來。我Goo

js中小數運算精度丟失問題

相關推薦