 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 5 | 1/1 | 返回列表 |
| 查看: 4665 | 回復(fù): 14 | ||
| 當(dāng)前只顯示滿足指定條件的回帖，點(diǎn)擊這里查看本話題的所有回帖 | ||
hshx9291銀蟲(chóng) (初入文壇)
|
[求助]
Fortran計(jì)算10的十次方以上運(yùn)算結(jié)果不正確，是精度問(wèn)題嗎？ 已有1人參與
|
|
| 最近用Fortran進(jìn)行模擬計(jì)算，計(jì)算結(jié)果顯示錯(cuò)誤，往回找某一參數(shù)的計(jì)算結(jié)果發(fā)現(xiàn)為0.0000000E+000，后來(lái)檢查式子發(fā)現(xiàn)有個(gè)10的12次方計(jì)算。然后我就另建新項(xiàng)目計(jì)算了10的幾次方計(jì)算，發(fā)現(xiàn)10的9次方計(jì)算結(jié)果是1000000000正常，但是10的十次方計(jì)算結(jié)果就成了1410065408,11次方為1215752192,12次方就成了-727379968。一開(kāi)始懷疑是精度問(wèn)題，但是設(shè)置成精度為real（8），real（16）結(jié)果計(jì)算都是這樣。求問(wèn)大神是為什么？ |
回復(fù)此樓» 猜你喜歡
哈爾濱理工大學(xué)物理系招收物理學(xué)考研調(diào)劑
已經(jīng)有7人回復(fù)
-
0702一志愿吉大B區(qū)求調(diào)劑
已經(jīng)有5人回復(fù)
-
物理學(xué)I論文潤(rùn)色/翻譯怎么收費(fèi)?
已經(jīng)有283人回復(fù)
-
求調(diào)劑
已經(jīng)有0人回復(fù)
-
0702一志愿吉大B區(qū)求調(diào)劑有論文
已經(jīng)有0人回復(fù)
-
請(qǐng)問(wèn)還有沒(méi)有用Latex寫(xiě)文章的小伙伴們？
已經(jīng)有0人回復(fù)
-
光學(xué)工程學(xué)碩調(diào)劑信息
已經(jīng)有31人回復(fù)
-
歡迎加入課題組
已經(jīng)有0人回復(fù)
-
散金幣，求好運(yùn)，祝面上順利！
已經(jīng)有68人回復(fù)
-
華東師范大學(xué)芯片設(shè)計(jì)徐瓏真實(shí)水平咋樣
已經(jīng)有1人回復(fù)
-
調(diào)劑
已經(jīng)有0人回復(fù)
» 本主題相關(guān)價(jià)值貼推薦，對(duì)您同樣有幫助:
- 求助大神！過(guò)年都還在苦逼編程的計(jì)算狗呀！Fortran計(jì)算里頭文件里定義全局變量出錯(cuò)
已經(jīng)有3人回復(fù)
- 如何用fortran計(jì)算概率密度函數(shù)
已經(jīng)有6人回復(fù)
- 最近碰到的一個(gè)Intel visual Fortran 計(jì)算精度的問(wèn)題.大家的機(jī)器上是否也是這樣?
已經(jīng)有8人回復(fù)
- fortran計(jì)算出來(lái)的數(shù)據(jù)，導(dǎo)入origin時(shí)候會(huì)出現(xiàn)下面情況怎樣解決
已經(jīng)有6人回復(fù)
- 求fortran計(jì)算方法指導(dǎo) 14元非線性方程組 之前8元的使用bfs法能解14元解不了呀求指導(dǎo)
已經(jīng)有4人回復(fù)
- fortran計(jì)算多未知數(shù)非線性方程出錯(cuò) 較少未知數(shù)時(shí)程序能通過(guò)
已經(jīng)有2人回復(fù)
- fortran求助
已經(jīng)有4人回復(fù)
- 如何用Fortran 計(jì)算三維曲面的數(shù)據(jù)
已經(jīng)有3人回復(fù)
- Fortran中計(jì)算多重積分的VEGAS程序變量
已經(jīng)有2人回復(fù)
- fortran中計(jì)算線性積分
已經(jīng)有7人回復(fù)
- Fortran中高效計(jì)算矩陣的秩
已經(jīng)有4人回復(fù)
- fortran IDE 4 windows&Linux+Fortran95,2003科學(xué)計(jì)算與工程+光盤(pán)
已經(jīng)有1人回復(fù)
- 超級(jí)計(jì)算機(jī)運(yùn)算fortran的問(wèn)題
已經(jīng)有17人回復(fù)
- 《計(jì)算物理》實(shí)驗(yàn)報(bào)告（fortran語(yǔ)言）
已經(jīng)有47人回復(fù)
- 配置一臺(tái)1萬(wàn)左右的計(jì)算機(jī)跑Fortran程序以及高斯的計(jì)算
已經(jīng)有8人回復(fù)
- 求助計(jì)算機(jī)高人，編寫(xiě)個(gè)Fortran程序
已經(jīng)有13人回復(fù)
- 【求助】Fortran程序計(jì)算
已經(jīng)有1人回復(fù)
- 【資源】計(jì)算C-G系數(shù)的fortran源程序
已經(jīng)有1人回復(fù)
- 【求助】懂Fortran并行計(jì)算的高手請(qǐng)進(jìn)
已經(jīng)有7人回復(fù)
- 【求助】求助個(gè)Fortran計(jì)算，應(yīng)該不難，半天搞不定，請(qǐng)高手幫忙
已經(jīng)有11人回復(fù)
hshx9291
銀蟲(chóng) (初入文壇)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 264.5
- 帖子: 10
- 在線: 5.3小時(shí)
- 蟲(chóng)號(hào): 4188722
- 注冊(cè): 2015-11-01
- 性別: GG
- 專業(yè): 燃燒學(xué)
8樓2016-01-25 09:32:38
suyi20466975
至尊木蟲(chóng) (正式寫(xiě)手)
巾幗將軍
- 應(yīng)助: 6 (幼兒園)
- 金幣: 10436.8
- 散金: 47
- 紅花: 48
- 帖子: 703
- 在線: 129.5小時(shí)
- 蟲(chóng)號(hào): 738293
- 注冊(cè): 2009-04-02
- 性別: MM
- 專業(yè): 凝聚態(tài)物性 II ：電子結(jié)構(gòu)
【答案】應(yīng)助回帖
感謝參與，應(yīng)助指數(shù) +1
|
是因?yàn)檎麛?shù)，fortran對(duì)整數(shù)的存儲(chǔ)是有極限的，你把做計(jì)算的變量定義成雙精度實(shí)型，最后它會(huì)以科學(xué)計(jì)數(shù)法的形式給出結(jié)果。 發(fā)自小木蟲(chóng)IOS客戶端 |
2樓2016-01-24 17:18:53
virtualzx
木蟲(chóng) (著名寫(xiě)手)
- 應(yīng)助: 263 (大學(xué)生)
- 金幣: 7161.3
- 紅花: 54
- 帖子: 1605
- 在線: 317.6小時(shí)
- 蟲(chóng)號(hào): 2069080
- 注冊(cè): 2012-10-18
- 性別: GG
- 專業(yè): 理論和計(jì)算化學(xué)
|
你用的四字節(jié)整數(shù)，就只能到這個(gè)數(shù)量級(jí)。如果需要更多，可以告訴編譯器使用八字節(jié)整數(shù)(ifort 的flag 是-i8)，可以到二十位數(shù)。再多一般就沒(méi)有使用精確數(shù)值的必要了，可以用浮點(diǎn)數(shù)近似代替 發(fā)自小木蟲(chóng)IOS客戶端 |
3樓2016-01-24 17:56:09
hshx9291
銀蟲(chóng) (初入文壇)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 264.5
- 帖子: 10
- 在線: 5.3小時(shí)
- 蟲(chóng)號(hào): 4188722
- 注冊(cè): 2015-11-01
- 性別: GG
- 專業(yè): 燃燒學(xué)
4樓2016-01-24 20:57:00
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 一志愿西安交通大學(xué)材料工程專業(yè) 282分求調(diào)劑 +10 | 楓橋ZL 2026-03-18 | 12/600 |
|
|---|---|---|---|---|
|
[考研] 0805 316求調(diào)劑 +3 | 大雪深藏 2026-03-18 | 3/150 |
|
|
|
[考研] 0703化學(xué)297求調(diào)劑 +3 | Daisy☆ 2026-03-20 | 3/150 |
|
|
|
[考研] 336求調(diào)劑 +5 | rmc8866 2026-03-21 | 5/250 |
|
|
|
[考研] 307求調(diào)劑 +3 | wyyyqx 2026-03-17 | 3/150 |
|
|
|
[考研] 332求調(diào)劑 +4 | ydfyh 2026-03-17 | 4/200 |
|
|
|
[考研] 華東師范大學(xué)-071000生物學(xué)-293分-求調(diào)劑 +3 | 研究生何瑤明 2026-03-18 | 3/150 |
|
|
|
[考研] 一志愿西南交大，求調(diào)劑 +5 | 材化逐夢(mèng)人 2026-03-18 | 5/250 |
|
|
|
[考研] 304求調(diào)劑 +7 | 司空. 2026-03-18 | 7/350 |
|
|
|
[考研] 324求調(diào)劑 +5 | lucky呀呀呀鴨 2026-03-20 | 5/250 |
|
|
|
[考研] 290求調(diào)劑 +7 | ^O^乜 2026-03-19 | 7/350 |
|
|
|
[考研] 0817 化學(xué)工程 299分求調(diào)劑 有科研經(jīng)歷 有二區(qū)文章 +22 | rare12345 2026-03-18 | 22/1100 |
|
|
|
[考研] 廣西大學(xué)家禽遺傳育種課題組2026年碩士招生（接收計(jì)算機(jī)專業(yè)調(diào)劑） +3 | 123阿標(biāo) 2026-03-17 | 3/150 |
|
|
|
[考研] 344求調(diào)劑 +6 | knight344 2026-03-16 | 7/350 |
|
|
|
[考研] 293求調(diào)劑 +11 | zjl的號(hào) 2026-03-16 | 16/800 |
|
|
|
[考研] 301求調(diào)劑 +4 | A_JiXing 2026-03-16 | 4/200 |
|
|
|
[考研] 085601求調(diào)劑 +4 | Du.11 2026-03-16 | 4/200 |
|
|
|
[考研] 290求調(diào)劑 +3 | p asserby. 2026-03-15 | 4/200 |
|
|
|
[考研] 318求調(diào)劑 +3 | Yanyali 2026-03-15 | 3/150 |
|
|
|
[考研] 321求調(diào)劑 +5 | 大米飯！ 2026-03-15 | 5/250 |
|