| 5 | 1/1 | 返回列表 |
| 查看: 3897 | 回復(fù): 8 | |||
| 當(dāng)前只顯示滿足指定條件的回帖,點(diǎn)擊這里查看本話題的所有回帖 | |||
liming9398金蟲 (正式寫手)
|
[求助]
fortran中到底該如何比較兩個(gè)實(shí)數(shù)是否相等
|
||
| 如果都是real(4)該如何比較,都是real(8) 又該如何比較?是比較絕對誤差還是相對誤差,哪個(gè)誤差都說要小于一個(gè)比較小的數(shù),到底應(yīng)該選多小呢,不同的書說法不一樣,又說-4次方的,又說-8次方的,還有的用機(jī)器精度(-8次方和-16次方,雙精度表示0.24時(shí),實(shí)際存儲(chǔ)的是0.239999994635582,這個(gè)絕對誤差本身就是-9次方量級啊,顯然不是-16方的量級??)到底哪個(gè)誤差該選多大,有沒有一個(gè)統(tǒng)一的標(biāo)準(zhǔn)或者最好的選擇? |
Ouwen's Greenhouse |
木蟲 (正式寫手)
|
我來吐槽一下對于“精度”的理解應(yīng)該怎樣吧 首先,我們應(yīng)該了解IEEE754標(biāo)準(zhǔn)規(guī)定的單精度和雙精度是怎樣的 關(guān)于IEEE754標(biāo)準(zhǔn):http://en.wikipedia.org/wiki/IEEE754 關(guān)于單精度:http://en.wikipedia.org/wiki/Sin ... oating-point_format 關(guān)于雙精度:http://en.wikipedia.org/wiki/Dou ... oating-point_format 注意:尾數(shù)部分(fraction)是二進(jìn)制表示的! 單精度的尾數(shù)有23位,所以它的最小單位是2的-24次方,約等于5.96E-8;雙精度的尾數(shù)有52位,所以它的最小單位是2的-53次方,約1.11E-16,常說的“機(jī)器精度”是這個(gè)意思 領(lǐng)悟十進(jìn)制轉(zhuǎn)二進(jìn)制的局限性的話,你就知道為啥就連quadruple precision四精度都不可能精確表達(dá)0.1這么簡單一個(gè)十進(jìn)制小數(shù)了【同時(shí),就算是單精度,也能夠精確表達(dá)2^-149這個(gè)如此微小的十進(jìn)制小數(shù)(約1.4E-45)】,樓主最初問題的答案也呼之欲出了:這個(gè)要根據(jù)實(shí)際的需求來定,因?yàn)橐话愕挠?jì)算里面,大部分小數(shù)都不是被精確表示的,不能教條主義地選擇閾值的大小 |
至尊木蟲 (職業(yè)作家)
至尊木蟲 (職業(yè)作家)
木蟲 (正式寫手)
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 343求調(diào)劑085601 +3 | 要努力學(xué)習(xí)x 2026-03-29 | 3/150 |
|
|---|---|---|---|---|
|
[考研] 調(diào)劑考研 +3 | 王杰一 2026-03-29 | 3/150 |
|
|
[考研] 一志愿北化085600材料專碩275|有文章專利|求調(diào)劑 +7 | Micky11223 2026-03-25 | 7/350 |
|
|
[考研] 304求調(diào)劑 +6 | 曼殊2266 2026-03-27 | 6/300 |
|
|
[考研] 求調(diào)劑 +6 | 蘆lty 2026-03-25 | 7/350 |
|
|
[考研] 0703一志愿9,初試成績:338,四六級已過,有科研經(jīng)歷,求調(diào)劑! +4 | Zuhui0306 2026-03-25 | 4/200 |
|
|
[考研]
|
18419759900 2026-03-25 | 8/400 |
|
|
[考研] 316求調(diào)劑 +5 | Pigcasso 2026-03-24 | 5/250 |
|
|
[考研] 314求調(diào)劑 +3 | 溪云珂 2026-03-26 | 3/150 |
|
|
[論文投稿] Journal of Mechanical Science and Technology +3 | Russ_ss 2026-03-25 | 5/250 |
|
|
[考研] 0703化學(xué)338求調(diào)劑! +6 | Zuhui0306 2026-03-26 | 7/350 |
|
|
[考研] 286求調(diào)劑 +4 | lim0922 2026-03-26 | 4/200 |
|
|
[考研] 343求調(diào)劑 +4 | 贈(zèng)我一本書 2026-03-23 | 4/200 |
|
|
[考研]
材料調(diào)劑
5+4
|
想要一壺桃花水 2026-03-25 | 10/500 |
|
|
[考研] 281求調(diào)劑 +3 | 亞克西good 2026-03-26 | 5/250 |
|
|
[考研] 26考研-291分-廈門大學(xué)(085601)-柔性電子學(xué)院材料工程專業(yè)求調(diào)劑 +3 | min3 2026-03-24 | 4/200 |
|
|
[考研] 296求調(diào)劑 +4 | 汪。! 2026-03-25 | 7/350 |
|
|
[考研] 318求調(diào)劑 +3 | plum李子 2026-03-23 | 3/150 |
|
|
[考研] 一志愿南航材料專317分求調(diào)劑 +5 | 炸呀炸呀炸薯?xiàng)l 2026-03-23 | 5/250 |
|
|
[考研] 一志愿國科過程所081700,274求調(diào)劑 +3 | 三水研0水立方 2026-03-23 | 3/150 |
|