C# double型別變數比較分析
阿新 • • 發佈:2020-12-09
double型別變數
怎麼比較大小
通過使用double.equals(doubale a,double b)進行比較時,發現兩個數值不是相等。
圖中sum為從0加0.1累計到1,按數學計算應該為1.0,但是在計算機中計算為0.9999999999,通過double.equals或者直接用==進行等量判斷時,發現不相同。
這說明double型別不能直接進行等量判斷,那麼怎麼進行比較呢?
型別轉換為decimal
將float模型轉換成decimal可以直接進行判斷了.
可以看出兩個值都是1,這樣就可以直接進行比較了。
綜上所述,在進行數值比較時,如果使用double型別時,不能直接進行等量判斷,需要通過兩值相減小於某個定義的值如0.0000001來判斷兩值相等或者轉換為其他型別進行判斷。
補充知識:c#中Double型別的使用場景
【Double】
double型別在程式中定義變數會經常使用,如果使用不當,會導致實際值精度問題出現,例子如下:
Double d1 = 66.09; Double d2 = 89.943; Double d3 = 156.033; d2 = d1 + d2; //兩個double 型別相加的結果是:156.03300000000002 Console.WriteLine(d2.CompareTo(d3)); //導致最終的結果是d2的值大於d3的值,但是實際看到的值是相等的 Console.ReadLine();
【解決方案】
使用Decimal型別定義後保證小數的精確度,兩個相同型別的decimal相加後可以確保程式不會自動新增進度到結果值中,這樣就能夠避免出現以上情況發生
Decimal d1 = 66.09M; Decimal d2 = 89.943M; Decimal d3 = 156.033M; d2 = d1 + d2; Console.WriteLine(d2.CompareTo(d3)); Console.ReadLine();
以上這篇C# double型別變數比較分析就是小編分享給大家的全部內容了,希望能給大家一個參考,也希望大家多多支援我們。