1. 程式人生 > >lua中math.floor值偏差的問題

lua中math.floor值偏差的問題

math.floor((1.16-1.0)*100) = 15

math.floor(0.16*100) = 16

考慮到可能是lua中數字都是double型別的原因 所以實驗了下以下

math.floor(1.9999999999999999) = 2

math.floor(0.9999999999999999) = 1

又疑惑了 為什麼判斷出這種結果

目前用了規避方式就是做這種運算的時候先保留6位有效數字 然後再做math.floor