| 5 | 1/1 | 返回列表 |
| 查看: 3901 | 回復(fù): 8 | |||
| 當(dāng)前只顯示滿足指定條件的回帖,點(diǎn)擊這里查看本話題的所有回帖 | |||
liming9398金蟲 (正式寫手)
|
[求助]
fortran中到底該如何比較兩個(gè)實(shí)數(shù)是否相等
|
||
| 如果都是real(4)該如何比較,都是real(8) 又該如何比較?是比較絕對誤差還是相對誤差,哪個(gè)誤差都說要小于一個(gè)比較小的數(shù),到底應(yīng)該選多小呢,不同的書說法不一樣,又說-4次方的,又說-8次方的,還有的用機(jī)器精度(-8次方和-16次方,雙精度表示0.24時(shí),實(shí)際存儲的是0.239999994635582,這個(gè)絕對誤差本身就是-9次方量級啊,顯然不是-16方的量級??)到底哪個(gè)誤差該選多大,有沒有一個(gè)統(tǒng)一的標(biāo)準(zhǔn)或者最好的選擇? |
Ouwen's Greenhouse |
木蟲 (正式寫手)
至尊木蟲 (職業(yè)作家)
至尊木蟲 (職業(yè)作家)
木蟲 (正式寫手)
|
我來吐槽一下對于“精度”的理解應(yīng)該怎樣吧 首先,我們應(yīng)該了解IEEE754標(biāo)準(zhǔn)規(guī)定的單精度和雙精度是怎樣的 關(guān)于IEEE754標(biāo)準(zhǔn):http://en.wikipedia.org/wiki/IEEE754 關(guān)于單精度:http://en.wikipedia.org/wiki/Sin ... oating-point_format 關(guān)于雙精度:http://en.wikipedia.org/wiki/Dou ... oating-point_format 注意:尾數(shù)部分(fraction)是二進(jìn)制表示的! 單精度的尾數(shù)有23位,所以它的最小單位是2的-24次方,約等于5.96E-8;雙精度的尾數(shù)有52位,所以它的最小單位是2的-53次方,約1.11E-16,常說的“機(jī)器精度”是這個(gè)意思 領(lǐng)悟十進(jìn)制轉(zhuǎn)二進(jìn)制的局限性的話,你就知道為啥就連quadruple precision四精度都不可能精確表達(dá)0.1這么簡單一個(gè)十進(jìn)制小數(shù)了【同時(shí),就算是單精度,也能夠精確表達(dá)2^-149這個(gè)如此微小的十進(jìn)制小數(shù)(約1.4E-45)】,樓主最初問題的答案也呼之欲出了:這個(gè)要根據(jù)實(shí)際的需求來定,因?yàn)橐话愕挠?jì)算里面,大部分小數(shù)都不是被精確表示的,不能教條主義地選擇閾值的大小 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 291求調(diào)劑 +7 | Y-cap 2026-03-29 | 8/400 |
|
|---|---|---|---|---|
|
[考研] 08工科求調(diào)劑286 +3 | tgs_001 2026-03-28 | 3/150 |
|
|
[考研] 一志愿雙一流機(jī)械285分求調(diào)劑 +4 | 幸運(yùn)的三木 2026-03-29 | 5/250 |
|
|
[考研] 332求調(diào)劑 +8 | 蕉蕉123 2026-03-28 | 8/400 |
|
|
[考研] 調(diào)劑考研 +3 | 王杰一 2026-03-29 | 3/150 |
|
|
[考研] 071000生物學(xué)求調(diào)劑,初試成績343 +7 | 小小甜面團(tuán) 2026-03-25 | 7/350 |
|
|
[考研] 復(fù)試調(diào)劑 +3 | raojunqi0129 2026-03-28 | 3/150 |
|
|
[考研] 299求調(diào)劑 +7 | 嗯嗯嗯嗯2 2026-03-27 | 7/350 |
|
|
[考研] 085701環(huán)境工程,267求調(diào)劑 +16 | minht 2026-03-26 | 16/800 |
|
|
[考研] 081200-314 +3 | LILIQQ 2026-03-27 | 4/200 |
|
|
[考研] 311求調(diào)劑 +3 | 希望上岸阿小楊 2026-03-23 | 3/150 |
|
|
[考研] 材料求調(diào)劑 一志愿哈工大總分298分,前三科223分 +5 | dongfang59 2026-03-27 | 5/250 |
|
|
[考研] 352分 化工與材料 +5 | 海納百川Ly 2026-03-27 | 5/250 |
|
|
[考研] 材料292調(diào)劑 +12 | 橘頌思美人 2026-03-23 | 12/600 |
|
|
[考研] 085600,材料與化工321分調(diào)劑 +4 | 大饞小子 2026-03-27 | 6/300 |
|
|
[考研] 一志愿鄭大085600,310分求調(diào)劑 +5 | 李瀟可 2026-03-26 | 5/250 |
|
|
[考研] 求調(diào)劑,一志愿 南京航空航天大學(xué)大學(xué) ,080500材料科學(xué)與工程學(xué)碩 +4 | @taotao 2026-03-26 | 5/250 |
|
|
[考研] 281求調(diào)劑 +6 | Koxui 2026-03-24 | 7/350 |
|
|
[考研] 334分 一志愿武理-080500 材料求調(diào)劑 +4 | 李李不服輸 2026-03-25 | 4/200 |
|
|
[考研] 【2026考研調(diào)劑】制藥工程 284分 求相關(guān)專業(yè)調(diào)劑名額 +4 | 袁奐奐 2026-03-25 | 8/400 |
|