| 5 | 1/1 | 返回列表 |
| 查看: 841 | 回復: 4 | |||
[交流]
發(fā)現(xiàn)Matlab中一個有趣的現(xiàn)象 已有2人參與
|
|
發(fā)現(xiàn)Matlab中一個有趣的現(xiàn)象,與大家分享 (不知道原因,但感覺很有意思 )在Matlab 中,設置浮點數(shù)精度是long e 令其顯示10-a的值,有如下發(fā)現(xiàn):(一下現(xiàn)象從10-20開始出現(xiàn)) format long e >> 0.00000000000000000001 ans = 1.000000000000000e-020 10e-20 >> 0.000000000000000000001 ans = 9.999999999999999e-022 10e-21 >> 0.0000000000000000000001 ans = 1.000000000000000e-022 10e-22 >> 0.00000000000000000000001 ans = 1.000000000000000e-023 10e-23 >> 0.000000000000000000000001 ans = 9.999999999999999e-025 10e-24 >> 0.0000000000000000000000001 ans = 1.000000000000000e-025 10e-25 >> 0.00000000000000000000000001 ans = 1.000000000000000e-026 10e-26 >> 0.000000000000000000000000001 ans = 1.000000000000000e-027 10e-27 >> 0.0000000000000000000000000001 ans = 1.000000000000000e-028 10e-28 >> 0.00000000000000000000000000001 ans = 9.999999999999999e-030 10e-29 >> 0.000000000000000000000000000001 ans = 1.000000000000000e-030 10e-30 >> 0.0000000000000000000000000000001 ans = 1.000000000000000e-031 10e-31 >> 0.00000000000000000000000000000001 ans = 1.000000000000000e-032 10e-32 >> 0.000000000000000000000000000000001 ans = 1.000000000000000e-033 10e-33 >> 0.0000000000000000000000000000000001 ans = 9.999999999999999e-035 10e-34 (34-29=5) >> 0.0000000000000000000000000000000000001 ans = 1.000000000000000e-037 10e-37 >> 0.00000000000000000000000000000000000001 ans = 1.000000000000000e-038 10e-38 >> 0.000000000000000000000000000000000000001 ans = 9.999999999999999e-040 10e-39 (39-34=5) 。。。。。。 預計每減小到原來的10-5,就會出現(xiàn)一次這種現(xiàn)象。 |

木蟲 (正式寫手)

| 5 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 281求調(diào)劑(0805) +7 | 煙汐憶海 2026-03-16 | 17/850 |
|
|---|---|---|---|---|
|
[考研] 346求調(diào)劑[0856] +3 | WayneLim327 2026-03-16 | 5/250 |
|
|
[考研] 0703化學 305求調(diào)劑 +4 | FY_yy 2026-03-14 | 4/200 |
|
|
[考研] 330求調(diào)劑 +3 | 小材化本科 2026-03-18 | 3/150 |
|
|
[考研] 344求調(diào)劑 +6 | knight344 2026-03-16 | 7/350 |
|
|
[考研] 一志愿中國海洋大學,生物學,301分,求調(diào)劑 +4 | 1孫悟空 2026-03-17 | 4/200 |
|
|
[考研] 一志愿西南交大,求調(diào)劑 +4 | 材化逐夢人 2026-03-18 | 4/200 |
|
|
[考研] 0703化學求調(diào)劑 總分331 +3 | ZY-05 2026-03-13 | 3/150 |
|
|
[考研] 307求調(diào)劑 +3 | 冷笙123 2026-03-17 | 3/150 |
|
|
[基金申請] 被我言中:新模板不強調(diào)格式了,假專家開始管格式了 +4 | beefly 2026-03-14 | 4/200 |
|
|
[考研] 277調(diào)劑 +5 | 自由煎餅果子 2026-03-16 | 6/300 |
|
|
[考研] 085601求調(diào)劑 +4 | Du.11 2026-03-16 | 4/200 |
|
|
[考研] 302求調(diào)劑 +4 | 小賈同學123 2026-03-15 | 8/400 |
|
|
[考研] 考研調(diào)劑 +3 | 淇ya_~ 2026-03-17 | 5/250 |
|
|
[考研] 304求調(diào)劑 +3 | 曼殊2266 2026-03-14 | 3/150 |
|
|
[考研] 一志愿華中師范071000,325求調(diào)劑 +6 | RuitingC 2026-03-12 | 6/300 |
|
|
[考研] 327求調(diào)劑 +6 | 拾光任染 2026-03-15 | 11/550 |
|
|
[考研] 265求調(diào)劑 +4 | 威化餅07 2026-03-12 | 4/200 |
|
|
[考研] 0856材料與化工301求調(diào)劑 +5 | 奕束光 2026-03-13 | 5/250 |
|
|
[考研] 289求調(diào)劑 +3 | 李政瑩 2026-03-12 | 3/150 |
|