double值格式化輸出的精度問題解決
不知大家碰到過這個問題沒有,就是當你用兩個double值進行計算後,
當你想將結果輸出時,卻得不到希望的結果。反正與想象的不一樣,
在Windows時提供了API解決此問題:(MFC或標準C++好象都沒找到
簡單的解決辦法)
示例如下:
double d = 5 - 4.99;
d應該是等於0.1吧,跟蹤一下程式,發現不是,顯示的值是0.0099999999999997868
(不知道VC的偵錯程式是如何顯示這個得到的double值的?)
好,我們來開始嘗試輸出:
1:使用 %f
char szBuff[50];
sprintf(szBuff,"%f",d);
cout<<szBuff<<endl;
輸出:
0.010000 顯然不對,加%.2f呢,你咋知道應該是2呢?其它引數呢,不行,因為它是
強制指定精度的。
2:使用 %g
輸出:0.01
對了,不過,別急,你再試試 d = 0.123456789
它的輸出是 0.1234567,後兩位被去掉了。居然連四捨五入都不做。
加引數呢,試試%.15g
輸出:哇:0.00999999999999979
這倒是和VC偵錯程式看到的結果有些相似。
怎麼辦呢?
Windows提供了一個函式,可以處理這個問題:VarFormat
解決方很簡單:
void FormatDouble(double dblValue,CString& sOut)
{
_variant_t var(dblValue);
BSTR bstrOut = sOut.AllocSysString();
::VarFormat(&var, L"0.#############", 0, 0, VAR_FORMAT_NOSUBSTITUTE, &bstrOut);
sOut = bstrOut;
::SysFreeString(bstrOut);
}
//當然,你可以不用_variant_t直接用VARIANT,此處用它只是圖使用方便。
//#應該用多少個呢,我認為應該13,用14不行,因為後面還可能四捨五入一位上來。
這下就可以用了:
double d = 5 - 4.99;
CString sOut(_T(""));
FormatDouble(d,sOut);
cout<<sOut.GetBuffer(0)<<endl;
輸出:0.01
再試試:
FormatDouble(0.12345678901,sOut);
輸出:0.12345678901
VarFormat裡面到底是怎麼做的呢?看不到原始碼,也可能是我所能想到的很笨的辦法
吧,呵,反正,它解決了我的問題。
其實它還有很多用途,它的格式串還是很豐富的,查查MSDN吧
(注意:格式串的解釋需要查VB的Format$函式,直接查VarFormat找不到。)
2004-12-14