| 5 | 1/1 | 返回列表 |
| 查看: 846 | 回復(fù): 4 | |||
| 當(dāng)前只顯示滿足指定條件的回帖,點(diǎn)擊這里查看本話題的所有回帖 | |||
duchao銅蟲 (小有名氣)
|
[交流]
發(fā)現(xiàn)Matlab中一個(gè)有趣的現(xiàn)象 已有2人參與
|
||
|
發(fā)現(xiàn)Matlab中一個(gè)有趣的現(xiàn)象,與大家分享 (不知道原因,但感覺很有意思 )在Matlab 中,設(shè)置浮點(diǎn)數(shù)精度是long e 令其顯示10-a的值,有如下發(fā)現(xiàn):(一下現(xiàn)象從10-20開始出現(xiàn)) format long e >> 0.00000000000000000001 ans = 1.000000000000000e-020 10e-20 >> 0.000000000000000000001 ans = 9.999999999999999e-022 10e-21 >> 0.0000000000000000000001 ans = 1.000000000000000e-022 10e-22 >> 0.00000000000000000000001 ans = 1.000000000000000e-023 10e-23 >> 0.000000000000000000000001 ans = 9.999999999999999e-025 10e-24 >> 0.0000000000000000000000001 ans = 1.000000000000000e-025 10e-25 >> 0.00000000000000000000000001 ans = 1.000000000000000e-026 10e-26 >> 0.000000000000000000000000001 ans = 1.000000000000000e-027 10e-27 >> 0.0000000000000000000000000001 ans = 1.000000000000000e-028 10e-28 >> 0.00000000000000000000000000001 ans = 9.999999999999999e-030 10e-29 >> 0.000000000000000000000000000001 ans = 1.000000000000000e-030 10e-30 >> 0.0000000000000000000000000000001 ans = 1.000000000000000e-031 10e-31 >> 0.00000000000000000000000000000001 ans = 1.000000000000000e-032 10e-32 >> 0.000000000000000000000000000000001 ans = 1.000000000000000e-033 10e-33 >> 0.0000000000000000000000000000000001 ans = 9.999999999999999e-035 10e-34 (34-29=5) >> 0.0000000000000000000000000000000000001 ans = 1.000000000000000e-037 10e-37 >> 0.00000000000000000000000000000000000001 ans = 1.000000000000000e-038 10e-38 >> 0.000000000000000000000000000000000000001 ans = 9.999999999999999e-040 10e-39 (39-34=5) 。。。。。。 預(yù)計(jì)每減小到原來(lái)的10-5,就會(huì)出現(xiàn)一次這種現(xiàn)象。 |
銅蟲 (小有名氣)

銅蟲 (小有名氣)
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|