| 4 | 1/1 | 返回列表 |
| 查看: 1128 | 回復(fù): 3 | |||
heianzlx銀蟲 (初入文壇)
|
[求助]
BFGS、牛頓法、最速下降法的收斂性問題 已有1人參與
|
| 對于一個非線性無約束優(yōu)化問題,一般來說(即不清楚該目標函數(shù)是否為凸函數(shù)) ,擬牛頓法 是不是比梯度下降法和牛頓法的收斂性要好?能否給出一些相關(guān)的比較的性質(zhì)及其文獻出處?謝謝 |
榮譽版主 (文壇精英)
![]() |
專家經(jīng)驗: +518 |
鐵蟲 (正式寫手)
| 如果目標函數(shù)非凸,這些方法一般只能收斂到局部最優(yōu)點。Newton法的思想是在當(dāng)前點附近的區(qū)域用Tylor二階展開來近似目標函數(shù),如 f(xk + dx) ~= f(xk) + gk'dx + 1/2 * dx'Hdx (1), 而最速下降法則用Tylor一階展開近似:f(xk + dx) ~= f(xk) + gk'dx (2), 一般來說牛頓法要比最速下降法快很多, 特別是Hessian方陣H的條件數(shù)(最大特征根比最小特征根)很大時,最速下降法收斂很慢,但牛頓法不受影響,當(dāng)然牛頓法付出的代價是要儲存并計算H的逆。quasi-Newton法和BFGS法是為了提高牛頓法的計算效率對牛頓的近似處理。具體文獻你可以參考Boyd 2009年的convex optimization. |
鐵桿木蟲 (著名寫手)
工程和科學(xué)數(shù)值計算咨詢
| 4 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 356求調(diào)劑 +4 | gysy?s?a 2026-03-28 | 4/200 |
|
|---|---|---|---|---|
|
[考研] 329求調(diào)劑 +7 | 星野? 2026-03-26 | 7/350 |
|
|
[考研] 321求調(diào)劑 +7 | 璞玉~~ 2026-03-25 | 8/400 |
|
|
[考研] 一志愿哈爾濱工業(yè)大學(xué)材料與化工方向336分 +9 | 辰沐5211314 2026-03-26 | 9/450 |
|
|
[考研] 304求調(diào)劑 +6 | 曼殊2266 2026-03-27 | 6/300 |
|
|
[考研] 339求調(diào)劑,想調(diào)回江蘇 +6 | 烤麥芽 2026-03-27 | 8/400 |
|
|
[考研] 315分求調(diào)劑 +7 | 26考研上岸版26 2026-03-26 | 7/350 |
|
|
[考研]
|
18419759900 2026-03-25 | 8/400 |
|
|
[考研] 材料與化工085600,總分304,本科有兩篇sci參與,求調(diào)劑 +10 | 幸運的醬醬 2026-03-22 | 12/600 |
|
|
[考研] 308求調(diào)劑 +7 | 墨墨漠 2026-03-25 | 7/350 |
|
|
[考研] 325求調(diào)劑 +5 | 李嘉圖·S·路 2026-03-23 | 5/250 |
|
|
[考研] 一志愿河工大 081700 276求調(diào)劑 +4 | 地球繞著太陽轉(zhuǎn) 2026-03-23 | 4/200 |
|
|
[考研] 求b區(qū)院校調(diào)劑 +4 | 周56 2026-03-24 | 5/250 |
|
|
[考研] 284求調(diào)劑 +15 | Zhao anqi 2026-03-22 | 15/750 |
|
|
[考研] 293求調(diào)劑 +7 | 加一一九 2026-03-24 | 7/350 |
|
|
[考研] B區(qū)考研調(diào)劑 +4 | yqdszhdap- 2026-03-22 | 5/250 |
|
|
[考研] 調(diào)劑 +4 | 13853210211 2026-03-24 | 4/200 |
|
|
[考研] 一志愿北化315 求調(diào)劑 +3 | akrrain 2026-03-24 | 3/150 |
|
|
[考研]
|
13659058978 2026-03-24 | 4/200 |
|
|
[考研] 一志愿重慶大學(xué)085700資源與環(huán)境,總分308求調(diào)劑 +7 | 墨墨漠 2026-03-23 | 8/400 |
|