Mysql 乘法除法精度不一致問題(除法後四位小數)
問題
今天在寫專案功能的時候,有一個統計金額的情況,然後需要進行單位轉換,所以寫下了大概如下功能的語句,但得到的資料為小數點後4位精度,正常我們只需要2位就足夠。
select total_fee / 100 from orders
繼續排查尋找資料,進行精度轉換,找了一圈的資料都不太滿意,繼續進行測試
測試
測試bug和未知情況,我們一定要最小復現,精簡測試 ,防止其他語句對結果產生干擾。
select 1 / 100;
// 得到 0.0100
select 1 * 0.01;
// 得到 0.01
並且在3/4臺裝置上執行,不同mysql版本環境都是這樣子的結果。
所以初步得知Mysql中,乘法和除法對小數點後的精度不一致
在國內的論壇中沒有找到合適的資料,於是到國外論壇尋找,提問,交流。
答案
首先感謝其他前輩對問題的解答和指點,我們也將盡量詳細地記錄問題的排查。
文明之所以能延續,是因為它們有記憶。希望文章也能幫到更多的朋友。
- 除法的精度預設是小數點後4位
- 乘法的精度使用運算元的精度和 的方式來判斷,如例子中的1*0.01 精度分別是小數點後0位和2位,那麼就是0+2 =2 結果也將使用2位精度
測試
select 1.00 * 0.01;
// 結果 0.0100
符合上訴結論。感謝國外前輩指教。
除法使用2位精度
那麼我們的問題 如果是要堅持用除法解決,我們可以使用函式來進行轉換精度,
CAST( @x / @y AS DECIMAL(m,n) )
DECIMAL的引數可以百度看這個,基本建立過表結構的都能明白。
@x和@y就是除數和被除數。
同時我還提出疑問,是否能在mysql裡設定預設除法精度,我們就可以不用每次sql都使用函式計算了。
前輩回覆:如果你不想有時候出現出乎意料的情況,那麼需要每次都強制使用型別轉換。
mysql相關說明文獻
https://dev.mysql.com/doc/refman/8.0/en/arithmetic-functions.html
In division performed with /,the scale of the result when using two exact-value operands is the scale of the first operand plus the value of the div_precision_increment system variable (which is 4 by default). For example,the result of the expression 5.05 / 0.014 has a scale of six decimal places (360.714286).
除法的精度規則
由上面引用的文獻可知:當使用兩個數值進行計算時,結果的精度由第一個運算元的精度 + 系統變數div_precision_increment的值決定 ,如我們例子中的1 精度是0,系統變數精度是4位預設,所以得到的結果是4位精度
set div_precision_increment = 2;
// 再執行select 1 / 100; 得到 0.01 符合想要的結果
所以我們還可以通過修改預設變數,來改變除法的預設精度。
此時我們再測試
select 1.0 / 100;
// 結果 0.010 符合上文所述結論
總結
到此這篇關於Mysql 乘法除法精度不一致,除法後四位小數的文章就介紹到這了,更多相關mysql 乘法除法精度內容請搜尋我們以前的文章或繼續瀏覽下面的相關文章希望大家以後多多支援我們!