0.1在計算機中不能被精確表示(浮點數的陷阱其實也是二進位制下的陷阱?)
阿新 • • 發佈:2019-01-22
#include<stdio.h> #include<iostream> int main() { double i; /* for (i=0; i != 10;i+=0.1) { printf("%.1lf\n",i);//這樣寫停不下來無限迴圈 } */ /* for (i=0;i-10<0.00000001;i+=0.1) { printf("% .1lf\n",i);//這樣寫是可以停下來的。 //****因為記憶體中的小數是不穩定的,不能直接比較大小,只能是認為相減的差接近於0的時候是相等的 } */ for(i=0; (int) i!=10.0; i += 0.1) //double強轉int 之後小數點去掉i=10.000XXX... X是可能出錯的位 (int)i=10 10就=10.0 就停下來了 { printf("% .1lf\n",i);//這樣寫是可以停下來的。 } system("pause"); return 0; }
//這個問題是在書上看到的~然後百度了一下發現了原因……
0.1 = 1/(2^4) + 1/(2^5) + 1/(2^8) + ...
其中0.1只能無限迴圈下去,這就意味著0.1在計算機中不能被精確表示
---------------------------curiosity-----------------------------
因為0.1無法用二進位制精確表示造成了錯誤,所以用0.25和0.24作為步長分別測試,發現果然0.25可以停止迴圈,而0.24不能停止迴圈。