 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 8 | 1/1 | 返回列表 |
| 查看: 5144 | 回復(fù): 7 | |||
10032119銀蟲 (小有名氣)
|
[求助]
ANSYS Fluent14.5單雙精度問題 已有1人參與
|
Fluent的UserGuide中提到對單精度計算，殘差可降低6個數(shù)量級，而對于雙精度則降低12個？這個降低指的是什么呢？是你設(shè)定的殘差值最低設(shè)置10^-6（單精度），或10^-12（對雙精度），還是什么意思？求解答 捕獲.JPG |
回復(fù)此樓» 猜你喜歡
284求調(diào)劑
已經(jīng)有13人回復(fù)
-
材料科學(xué)與工程調(diào)劑
已經(jīng)有5人回復(fù)
-
346求調(diào)劑 一志愿070303有機(jī)化學(xué)
已經(jīng)有4人回復(fù)
-
329求調(diào)劑
已經(jīng)有8人回復(fù)
-
一志愿南航 335分 | 0856材料化工 | GPA 4.07 | 有科研經(jīng)歷
已經(jīng)有7人回復(fù)
-
322求調(diào)劑
已經(jīng)有8人回復(fù)
-
考研調(diào)劑
已經(jīng)有5人回復(fù)
-
307求調(diào)劑
已經(jīng)有11人回復(fù)
-
292求調(diào)劑
已經(jīng)有9人回復(fù)
-
本科211生物醫(yī)學(xué)工程085409求調(diào)劑339分
已經(jīng)有3人回復(fù)
mycc
專家顧問 (正式寫手)
-
專家經(jīng)驗: +181 - 應(yīng)助: 230 (大學(xué)生)
- 金幣: 2589.6
- 紅花: 35
- 帖子: 531
- 在線: 58.8小時
- 蟲號: 881523
- 注冊: 2009-10-23
- 性別: GG
- 專業(yè): 流體力學(xué)
- 管轄: 仿真模擬
2樓2016-06-22 15:31:42
10032119
銀蟲 (小有名氣)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 250.9
- 散金: 33
- 帖子: 221
- 在線: 53.8小時
- 蟲號: 3038606
- 注冊: 2014-03-11
- 專業(yè): 分離過程
3樓2016-06-22 16:54:29
mycc
專家顧問 (正式寫手)
-
專家經(jīng)驗: +181 - 應(yīng)助: 230 (大學(xué)生)
- 金幣: 2589.6
- 紅花: 35
- 帖子: 531
- 在線: 58.8小時
- 蟲號: 881523
- 注冊: 2009-10-23
- 性別: GG
- 專業(yè): 流體力學(xué)
- 管轄: 仿真模擬
4樓2016-06-22 20:47:09
10032119
銀蟲 (小有名氣)
- 應(yīng)助: 0 (幼兒園)
- 金幣: 250.9
- 散金: 33
- 帖子: 221
- 在線: 53.8小時
- 蟲號: 3038606
- 注冊: 2014-03-11
- 專業(yè): 分離過程
5樓2016-06-23 14:35:55
mycc
專家顧問 (正式寫手)
-
專家經(jīng)驗: +181 - 應(yīng)助: 230 (大學(xué)生)
- 金幣: 2589.6
- 紅花: 35
- 帖子: 531
- 在線: 58.8小時
- 蟲號: 881523
- 注冊: 2009-10-23
- 性別: GG
- 專業(yè): 流體力學(xué)
- 管轄: 仿真模擬
6樓2016-06-23 14:43:39
zhou_ruirui
木蟲 (小有名氣)
- 應(yīng)助: 2 (幼兒園)
- 金幣: 4684.8
- 散金: 25
- 紅花: 2
- 帖子: 298
- 在線: 206小時
- 蟲號: 2350109
- 注冊: 2013-03-15
- 專業(yè): 傳熱傳質(zhì)學(xué)
|
因為雙精度的機(jī)器誤差大概是10^-15，計算中還有舍入誤差等，大概能算準(zhǔn)到10^-12，單精度的精度是一半，也就是能算準(zhǔn)10^-6 發(fā)自小木蟲Android客戶端 |
7樓2016-06-24 18:25:20
zhou_ruirui
木蟲 (小有名氣)
- 應(yīng)助: 2 (幼兒園)
- 金幣: 4684.8
- 散金: 25
- 紅花: 2
- 帖子: 298
- 在線: 206小時
- 蟲號: 2350109
- 注冊: 2013-03-15
- 專業(yè): 傳熱傳質(zhì)學(xué)
|
在MATLAB中節(jié)點(diǎn)數(shù)很多的情況下，誤差會累積，根據(jù)我的計算，可能精度連10^-12都達(dá)不到，大概只有10^-10 發(fā)自小木蟲Android客戶端 |
8樓2016-06-24 18:28:17
相關(guān)版塊跳轉(zhuǎn)
我要訂閱樓主 10032119 的主題更新
| 8 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 085701求調(diào)劑初試286分 +5 | secret0328 2026-03-28 | 5/250 |
|
|---|---|---|---|---|
|
[考研] 297求調(diào)劑 +13 | 田洪有 2026-03-26 | 13/650 |
|
|
|
[考研] 0703一志愿9，初試成績：338，四六級已過，有科研經(jīng)歷，求調(diào)劑！ +5 | Zuhui0306 2026-03-25 | 5/250 |
|
|
|
[考研] 317求調(diào)劑 +10 | 蛋黃咸肉粽 2026-03-26 | 10/500 |
|
|
|
[考研] 281求調(diào)劑 +4 | 亞克西good 2026-03-26 | 6/300 |
|
|
|
[考研] 材料科學(xué)與工程求調(diào)劑 +6 | 深V宿舍吧 2026-03-29 | 6/300 |
|
|
|
[考研] 總分293求調(diào)劑 +8 | 加一一九 2026-03-25 | 11/550 |
|
|
|
[考研] 一志愿雙一流機(jī)械285分求調(diào)劑 +4 | 幸運(yùn)的三木 2026-03-29 | 5/250 |
|
|
|
[考研] 求調(diào)劑，一志愿 南京航空航天大學(xué) ，080500材料科學(xué)與工程學(xué)碩，總分289分 +7 | @taotao 2026-03-29 | 7/350 |
|
|
|
[考研] 調(diào)劑求院校招收 +6 | 鶴鯨鴿 2026-03-28 | 6/300 |
|
|
|
[考研] 330分求調(diào)劑 +5 | qzenlc 2026-03-29 | 5/250 |
|
|
|
[考研] 292求調(diào)劑 +14 | 鵝鵝鵝額額額額?/a> 2026-03-25 | 15/750 |
|
|
|
[考研] 086000調(diào)劑 +3 | 7901117076 2026-03-26 | 3/150 |
|
|
|
[考研] 272求調(diào)劑 +7 | 腳滑的守法公民 2026-03-27 | 7/350 |
|
|
|
[考研]
 一志愿 西北大學(xué) 總分282 英語一62 求調(diào)劑
+7
|
18419759900 2026-03-25 | 8/400 |
|
|
|
[考研] 085600，材料與化工321分調(diào)劑 +4 | 大饞小子 2026-03-27 | 6/300 |
|
|
|
[考研] 325求調(diào)劑 +3 | Aoyijiang 2026-03-23 | 3/150 |
|
|
|
[考研] 環(huán)境專碩324分求調(diào)劑推薦 +5 | 軒小寧—— 2026-03-26 | 5/250 |
|
|
|
[考研] 材料專碩 335 分求調(diào)劑 +4 | 拒絕冷暴力 2026-03-25 | 4/200 |
|
|
|
[考研] 各位老師您好：本人初試372分 +5 | jj涌77 2026-03-25 | 6/300 |
|