 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 查看: 4704 | 回復(fù): 14 | |||
hshx9291銀蟲 (初入文壇)
|
[求助]
Fortran計算10的十次方以上運算結(jié)果不正確，是精度問題嗎？ 已有1人參與
|
| 最近用Fortran進行模擬計算，計算結(jié)果顯示錯誤，往回找某一參數(shù)的計算結(jié)果發(fā)現(xiàn)為0.0000000E+000，后來檢查式子發(fā)現(xiàn)有個10的12次方計算。然后我就另建新項目計算了10的幾次方計算，發(fā)現(xiàn)10的9次方計算結(jié)果是1000000000正常，但是10的十次方計算結(jié)果就成了1410065408,11次方為1215752192,12次方就成了-727379968。一開始懷疑是精度問題，但是設(shè)置成精度為real（8），real（16）結(jié)果計算都是這樣。求問大神是為什么？ |
回復(fù)此樓» 猜你喜歡
北工大宋曉艷教授團隊招收2026年9月入學(xué)博士【學(xué)博和專博名額均有】！
已經(jīng)有1人回復(fù)
-
天津城建大學(xué)理學(xué)院化學(xué)、環(huán)境工程、材料物理等方向接收10人
已經(jīng)有0人回復(fù)
-
物理學(xué)I論文潤色/翻譯怎么收費?
已經(jīng)有122人回復(fù)
-
天津城建大學(xué)理學(xué)院化學(xué)、環(huán)境工程、材料物理等方向接收調(diào)劑，10人
已經(jīng)有0人回復(fù)
-
計算與實驗科學(xué)工程國際會議(8月7-11日,香港) 二維材料分會S5與聲學(xué)換能器分會S8
已經(jīng)有0人回復(fù)
-
0702一志愿吉大B區(qū)求調(diào)劑有論文
已經(jīng)有4人回復(fù)
-
歡迎調(diào)劑到贛南師范大學(xué)智能制造與未來能源學(xué)院
已經(jīng)有28人回復(fù)
-
0702一志愿吉大B區(qū)求調(diào)劑 本科期間發(fā)表一篇Sci
已經(jīng)有4人回復(fù)
-
歡迎調(diào)劑到贛南師范大學(xué)智能制造與未來能源學(xué)院
已經(jīng)有21人回復(fù)
-
0702一志愿吉大B區(qū)求調(diào)劑 本科期間發(fā)表一篇Sci
已經(jīng)有0人回復(fù)
» 本主題相關(guān)價值貼推薦，對您同樣有幫助:
- 求助大神！過年都還在苦逼編程的計算狗呀！Fortran計算里頭文件里定義全局變量出錯
已經(jīng)有3人回復(fù)
- 如何用fortran計算概率密度函數(shù)
已經(jīng)有6人回復(fù)
- 最近碰到的一個Intel visual Fortran 計算精度的問題.大家的機器上是否也是這樣?
已經(jīng)有8人回復(fù)
- fortran計算出來的數(shù)據(jù)，導(dǎo)入origin時候會出現(xiàn)下面情況怎樣解決
已經(jīng)有6人回復(fù)
- 求fortran計算方法指導(dǎo) 14元非線性方程組 之前8元的使用bfs法能解14元解不了呀求指導(dǎo)
已經(jīng)有4人回復(fù)
- fortran計算多未知數(shù)非線性方程出錯 較少未知數(shù)時程序能通過
已經(jīng)有2人回復(fù)
- fortran求助
已經(jīng)有4人回復(fù)
- 如何用Fortran 計算三維曲面的數(shù)據(jù)
已經(jīng)有3人回復(fù)
- Fortran中計算多重積分的VEGAS程序變量
已經(jīng)有2人回復(fù)
- fortran中計算線性積分
已經(jīng)有7人回復(fù)
- Fortran中高效計算矩陣的秩
已經(jīng)有4人回復(fù)
- fortran IDE 4 windows&Linux+Fortran95,2003科學(xué)計算與工程+光盤
已經(jīng)有1人回復(fù)
- 超級計算機運算fortran的問題
已經(jīng)有17人回復(fù)
- 《計算物理》實驗報告（fortran語言）
已經(jīng)有47人回復(fù)
- 配置一臺1萬左右的計算機跑Fortran程序以及高斯的計算
已經(jīng)有8人回復(fù)
- 求助計算機高人，編寫個Fortran程序
已經(jīng)有13人回復(fù)
- 【求助】Fortran程序計算
已經(jīng)有1人回復(fù)
- 【資源】計算C-G系數(shù)的fortran源程序
已經(jīng)有1人回復(fù)
- 【求助】懂Fortran并行計算的高手請進
已經(jīng)有7人回復(fù)
- 【求助】求助個Fortran計算，應(yīng)該不難，半天搞不定，請高手幫忙
已經(jīng)有11人回復(fù)
suyi20466975
至尊木蟲 (正式寫手)
巾幗將軍
- 應(yīng)助: 6 (幼兒園)
- 金幣: 10436.8
- 散金: 47
- 紅花: 48
- 帖子: 703
- 在線: 129.5小時
- 蟲號: 738293
- 注冊: 2009-04-02
- 性別: MM
- 專業(yè): 凝聚態(tài)物性 II ：電子結(jié)構(gòu)
【答案】應(yīng)助回帖
感謝參與，應(yīng)助指數(shù) +1
|
是因為整數(shù)，fortran對整數(shù)的存儲是有極限的，你把做計算的變量定義成雙精度實型，最后它會以科學(xué)計數(shù)法的形式給出結(jié)果。 發(fā)自小木蟲IOS客戶端 |
2樓2016-01-24 17:18:53
virtualzx
木蟲 (著名寫手)
- 應(yīng)助: 263 (大學(xué)生)
- 金幣: 7161.3
- 紅花: 54
- 帖子: 1605
- 在線: 317.6小時
- 蟲號: 2069080
- 注冊: 2012-10-18
- 性別: GG
- 專業(yè): 理論和計算化學(xué)
|
你用的四字節(jié)整數(shù)，就只能到這個數(shù)量級。如果需要更多，可以告訴編譯器使用八字節(jié)整數(shù)(ifort 的flag 是-i8)，可以到二十位數(shù)。再多一般就沒有使用精確數(shù)值的必要了，可以用浮點數(shù)近似代替 發(fā)自小木蟲IOS客戶端 |
3樓2016-01-24 17:56:09
hshx9291
銀蟲 (初入文壇)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 264.5
- 帖子: 10
- 在線: 5.3小時
- 蟲號: 4188722
- 注冊: 2015-11-01
- 性別: GG
- 專業(yè): 燃燒學(xué)
4樓2016-01-24 20:57:00
hshx9291
銀蟲 (初入文壇)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 264.5
- 帖子: 10
- 在線: 5.3小時
- 蟲號: 4188722
- 注冊: 2015-11-01
- 性別: GG
- 專業(yè): 燃燒學(xué)
5樓2016-01-24 20:58:49
virtualzx
木蟲 (著名寫手)
- 應(yīng)助: 263 (大學(xué)生)
- 金幣: 7161.3
- 紅花: 54
- 帖子: 1605
- 在線: 317.6小時
- 蟲號: 2069080
- 注冊: 2012-10-18
- 性別: GG
- 專業(yè): 理論和計算化學(xué)
【答案】應(yīng)助回帖
感謝參與，應(yīng)助指數(shù) +1
|
你這個變量是整數(shù)，不是實型。八字節(jié)整數(shù)定義為integer*8 如果不想改代碼可以用flag讓編譯器自動把所有整形視為長整數(shù)，windows沒用過， 但猜測應(yīng)該是/i8 發(fā)自小木蟲IOS客戶端 |
» 本帖已獲得的紅花（最新10朵）
hshx92916樓2016-01-25 00:35:15
suyi20466975
至尊木蟲 (正式寫手)
巾幗將軍
- 應(yīng)助: 6 (幼兒園)
- 金幣: 10436.8
- 散金: 47
- 紅花: 48
- 帖子: 703
- 在線: 129.5小時
- 蟲號: 738293
- 注冊: 2009-04-02
- 性別: MM
- 專業(yè): 凝聚態(tài)物性 II ：電子結(jié)構(gòu)
7樓2016-01-25 08:54:40
hshx9291
銀蟲 (初入文壇)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 264.5
- 帖子: 10
- 在線: 5.3小時
- 蟲號: 4188722
- 注冊: 2015-11-01
- 性別: GG
- 專業(yè): 燃燒學(xué)
8樓2016-01-25 09:32:38
hshx9291
銀蟲 (初入文壇)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 264.5
- 帖子: 10
- 在線: 5.3小時
- 蟲號: 4188722
- 注冊: 2015-11-01
- 性別: GG
- 專業(yè): 燃燒學(xué)
9樓2016-01-25 09:36:00
virtualzx
木蟲 (著名寫手)
- 應(yīng)助: 263 (大學(xué)生)
- 金幣: 7161.3
- 紅花: 54
- 帖子: 1605
- 在線: 317.6小時
- 蟲號: 2069080
- 注冊: 2012-10-18
- 性別: GG
- 專業(yè): 理論和計算化學(xué)
10樓2016-01-25 11:05:21
相關(guān)版塊跳轉(zhuǎn)
我要訂閱樓主 hshx9291 的主題更新
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 環(huán)境工程297分求調(diào)劑一志愿杭高院 +9 | GENJIOW 2026-03-31 | 9/450 |
|
|---|---|---|---|---|
|
[考研] 288求調(diào)劑 一志愿哈工大 材料與化工 +18 | 洛神哥哥 2026-03-31 | 18/900 |
|
|
|
[考研] 一志愿西交大080500材料學(xué)碩349 +6 | jqx1258 2026-03-31 | 7/350 |
|
|
|
[考研] 349求調(diào)劑 +4 | zwjjjjjj 2026-03-31 | 4/200 |
|
|
|
[考研] 070300化學(xué)279求調(diào)劑 +9 | 哈哈哈^_^ 2026-03-31 | 11/550 |
|
|
|
[考研] 0856求調(diào)劑 +9 | 楒桉 2026-03-28 | 9/450 |
|
|
|
[考研] 求調(diào)劑：085600材料與化工，考材科基，總分319 +16 | 678lucky 2026-03-31 | 20/1000 |
|
|
|
[考研] 江蘇蘇北高校誠邀調(diào)劑同學(xué) +3 | zzll406 2026-03-31 | 3/150 |
|
|
|
[考研] 317求調(diào)劑 +12 | 蛋黃咸肉粽 2026-03-26 | 13/650 |
|
|
|
[考研] 材料專碩調(diào)劑 +13 | 椰椰。 2026-03-29 | 13/650 |
|
|
|
[考研] 081200-11408-276學(xué)碩求調(diào)劑 +4 | 崔wj 2026-03-31 | 4/200 |
|
|
|
[考研] 083000學(xué)碩274求調(diào)劑 +12 | Li李魚 2026-03-26 | 12/600 |
|
|
|
[考研] 285求調(diào)劑 +6 | AZMK 2026-03-29 | 9/450 |
|
|
|
[考研] 0703化學(xué)求調(diào)劑 +6 | 丹青奶蓋 2026-03-26 | 8/400 |
|
|
|
[考研] 材料化工340求調(diào)劑 +3 | jhx777 2026-03-30 | 3/150 |
|
|
|
[考研] 283求調(diào)劑（080500） +14 | A child 2026-03-27 | 14/700 |
|
|
|
[考研] 348求調(diào)劑 +6 | 小懶蟲不懶了 2026-03-28 | 6/300 |
|
|
|
[考研] 本科雙非材料，跨考一志愿華電085801電氣，283求調(diào)劑，任何專業(yè)都可以 +6 | 芝士雪baoo 2026-03-28 | 8/400 |
|
|
|
[考研] 數(shù)一英一271專碩（085401）求調(diào)劑，可跨 +7 | 前行必有光 2026-03-28 | 8/400 |
|
|
|
[考研] 本科新能源科學(xué)與工程，一志愿華理能動285求調(diào)劑 +7 | AZMK 2026-03-28 | 11/550 |
|