浮點數(shù)轉(zhuǎn)整數(shù)疑惑

splitflag

1. 
   
2. #include <iostream>
   
3. using namespace std;
   
4. 
   
5. int main()
   
6. {
   
7.     float value = 1.333;
   
8.     cout<<"value:"<<value<<endl;
   
9.     cout<<"result:"<<(int)(value*1000)<<endl;
   
10.    
    
11.     value = 1.3333;
    
12.     cout<<"value:"<<value<<endl;
    
13.     cout<<"result:"<<(int)(value*10000)<<endl;
    
14.    
    
15.     value = 1.33333;
    
16.     cout<<"value:"<<value<<endl;
    
17.     cout<<"result:"<<(int)(value*100000)<<endl;
    
18.    
    
19.     value = 1.333333;
    
20.     cout<<"value:"<<value<<endl;
    
21.     cout<<"result:"<<(int)(value*1000000)<<endl;
    
22. 
    
23.     return 0;
    
24. }
    
25. 
    

復(fù)制代碼

代碼很簡單，AIX平臺，xlC編譯，運行結(jié)果如下：

1. 
   
2. value:1.333
   
3. result:1332
   
4. value:1.3333
   
5. result:13332
   
6. value:1.33333
   
7. result:133333
   
8. value:1.33333
   
9. result:1333333
   

復(fù)制代碼

為什么前兩個的result最后一位數(shù)字不對了，而后面的兩個result反而是正確的？

tyc611

關(guān)注。。。

BTW，我在VC6.0里運行也是這結(jié)果，不過改為double就OK了。還望高手解答！

mingyanguo

我記得浮點數(shù)的計算與存儲是有IEEE標(biāo)準(zhǔn)(754?)的，如果不嫌麻煩可以找標(biāo)準(zhǔn)看看。
竊以為如果不是想特別深究的話，不用去看這個標(biāo)準(zhǔn)。只要只道計算機對浮點數(shù)的存儲計算精度有限就可以了。

langue

精度問題吧。如果需要非常精確的計算，可以試試 GMP、APFloat 這些庫。

langue

我測試了兩個平臺。先是 MicroVAX 3900：

vax% cat > agd.cc << EOF
> #include <iostream>
> using namespace std;
>
> int main()
> {
>     float value = 1.333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*1000)<<endl;
>
>     value = 1.3333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*10000)<<endl;
>
>     value = 1.33333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*100000)<<endl;
>
>     value = 1.333333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*1000000)<<endl;
>
>     return 0;
> }
> EOF
vax% g++ -o agd agd.cc
vax% ./agd
value:1.333
result:1333
value:1.3333
result:13333
value:1.33333
result:133333
value:1.33333
result:1333333
vax% uname -a
NetBSD vax. 2.0 NetBSD 2.0 (GENERIC) #0: Thu Dec  2 19:18:27 CST 2004  builds@build:/big/builds/ab/netbsd-2-0-RELEASE/vax/200411300000Z-obj/big/builds/ab/netbsd-2-0-RELEASE/src/sys/arch/vax/compile/GENERIC vax
vax%

然后是 Intel 386-compatible：

bash-2.05$ cat > agd.cc << EOF
> #include <iostream>
> using namespace std;
>
> int main()
> {
>     float value = 1.333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*1000)<<endl;
>
>     value = 1.3333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*10000)<<endl;
>
>     value = 1.33333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*100000)<<endl;
>
>     value = 1.333333;
>     cout<<"value:"<<value<<endl;
>     cout<<"result:"<<(int)(value*1000000)<<endl;
>
>     return 0;
> }
> EOF
bash-2.05$ g++ -o agd agd.cc
bash-2.05$ ./agd
value:1.333
result:1332
value:1.3333
result:13332
value:1.33333
result:133333
value:1.33333
result:1333333
bash-2.05$ uname -a
OpenBSD earth 3.0 GENERIC#78 i386
bash-2.05$

可以想到，浮點運算的精度問題還和系統(tǒng)硬件平臺有關(guān)。

P.S. 在 VAX 上編譯程序，真慢呀。

mik

LZ 想了解浮點數(shù)，可以看看我在 blog 里寫的一篇文章，挺詳細(xì)的

http://www.cublog.cn/u/11773/showart.php?id=191100

splitflag

樓上的，我看了你的blog的文章呢，可是還沒有搞明白問題呢。如果是精度限制的話，為什么前兩個result是不對的，而后面有效位長了，result反而是對的了？

splitflag

原帖由 tyc611 于 2006-11-20 18:08 發(fā)表
關(guān)注。。。

BTW，我在VC6.0里運行也是這結(jié)果，不過改為double就OK了。還望高手解答！

沒有人回答啊........

splitflag

頂一下，還望高手解答

lknh17

這沒什么可研究的了，既然不求精度就用float，如果刻意追求若干位精度，完全可自己用高精度算法實現(xiàn)