亚洲av成人无遮挡网站在线观看,少妇性bbb搡bbb爽爽爽,亚洲av日韩精品久久久久久,兔费看少妇性l交大片免费,无码少妇一区二区三区

  免費注冊 查看新帖 |

Chinaunix

  平臺 論壇 博客 文庫
最近訪問板塊 發(fā)新帖
查看: 2787 | 回復(fù): 3
打印 上一主題 下一主題

[數(shù)值計算] awk只能計算出小數(shù)點后48位? [復(fù)制鏈接]

論壇徽章:
0
跳轉(zhuǎn)到指定樓層
1 [收藏(0)] [報告]
發(fā)表于 2013-05-18 09:36 |只看該作者 |倒序瀏覽
[root@localhost files]# awk 'BEGIN{printf"%.64f\n",atan2(1,1)*4}'
3.1415926535897931159979634685441851615905761718750000000000000000
[root@localhost files]# echo "scale=64;a(1)*4"|bc -l
3.1415926535897932384626433832795028841971693993751058209749445920
[root@localhost files]#

是不是我機器的問題?{:3_198:}

論壇徽章:
0
2 [報告]
發(fā)表于 2013-05-19 11:40 |只看該作者

這個結(jié)果就更明顯了,明明應(yīng)該是一個無限循環(huán)小數(shù),awk的計算結(jié)果卻差了很多位。
awk的運算機制是不是有什么特別之處。
昨天百度、Google了很長時間也沒找到相關(guān)解釋,希望有大神為我解惑!

論壇徽章:
145
技術(shù)圖書徽章
日期:2013-10-01 15:32:13戌狗
日期:2013-10-25 13:31:35金牛座
日期:2013-11-04 16:22:07子鼠
日期:2013-11-18 18:48:57白羊座
日期:2013-11-29 10:09:11獅子座
日期:2013-12-12 09:57:42白羊座
日期:2013-12-24 16:24:46辰龍
日期:2014-01-08 15:26:12技術(shù)圖書徽章
日期:2014-01-17 13:24:40巳蛇
日期:2014-02-18 14:32:59未羊
日期:2014-02-20 14:12:13白羊座
日期:2014-02-26 12:06:59
3 [報告]
發(fā)表于 2013-05-19 12:09 |只看該作者
本帖最后由 jason680 于 2013-05-19 12:36 編輯

回復(fù) 2# itssolei

1. please study the IEEE 754 for floating number

http://zh.wikipedia.org/zh-cn/IEEE_754
IEEE二進制浮點數(shù)算術(shù)標準(IEEE 754)是1980年代以來最廣泛使用的浮點數(shù)運算標準,為許多CPU與浮點運算器所采用。這個標準定義了表示浮點數(shù)的格式(包括負零-0)與反常值(denormal number)),一些特殊數(shù)值(無窮(Inf)與非數(shù)值(NaN)),以及這些數(shù)值的“浮點數(shù)運算符”;它也指明了四種數(shù)值舍入規(guī)則和五種例外狀況(包括例外發(fā)生的時機與處理方式)。
...

2. gnu awk user's guide
http://www.gnu.org/software/gawk/manual/gawk.html
15.3 gawk + MPFR = Powerful Arithmetic
http://www.gnu.org/software/gawk/manual/gawk.html#Gawk-and-MPFR
15.4.3 Representing Floating-point Constants
http://www.gnu.org/software/gawk ... 002dpoint-Constants

   

論壇徽章:
0
4 [報告]
發(fā)表于 2013-05-19 18:56 |只看該作者
回復(fù) 3# jason680


    感謝解答!給出的資料很權(quán)威、很詳細!
不過因為是英文資料,只看懂了大概意思,還需要慢慢啃吶!
我的gawk版本比較老了,看來是不支持任意精度算法的原因。
您需要登錄后才可以回帖 登錄 | 注冊

本版積分規(guī)則 發(fā)表回復(fù)

  

北京盛拓優(yōu)訊信息技術(shù)有限公司. 版權(quán)所有 京ICP備16024965號-6 北京市公安局海淀分局網(wǎng)監(jiān)中心備案編號:11010802020122 niuxiaotong@pcpop.com 17352615567
未成年舉報專區(qū)
中國互聯(lián)網(wǎng)協(xié)會會員  聯(lián)系我們:huangweiwei@itpub.net
感謝所有關(guān)心和支持過ChinaUnix的朋友們 轉(zhuǎn)載本站內(nèi)容請注明原作者名及出處

清除 Cookies - ChinaUnix - Archiver - WAP - TOP