| 4 | 1/1 | 返回列表 |
| 查看: 1125 | 回復: 3 | |||
heianzlx銀蟲 (初入文壇)
|
[求助]
BFGS、牛頓法、最速下降法的收斂性問題 已有1人參與
|
| 對于一個非線性無約束優(yōu)化問題,一般來說(即不清楚該目標函數(shù)是否為凸函數(shù)) ,擬牛頓法 是不是比梯度下降法和牛頓法的收斂性要好?能否給出一些相關的比較的性質(zhì)及其文獻出處?謝謝 |
榮譽版主 (文壇精英)
![]() |
專家經(jīng)驗: +518 |
鐵蟲 (正式寫手)
| 如果目標函數(shù)非凸,這些方法一般只能收斂到局部最優(yōu)點。Newton法的思想是在當前點附近的區(qū)域用Tylor二階展開來近似目標函數(shù),如 f(xk + dx) ~= f(xk) + gk'dx + 1/2 * dx'Hdx (1), 而最速下降法則用Tylor一階展開近似:f(xk + dx) ~= f(xk) + gk'dx (2), 一般來說牛頓法要比最速下降法快很多, 特別是Hessian方陣H的條件數(shù)(最大特征根比最小特征根)很大時,最速下降法收斂很慢,但牛頓法不受影響,當然牛頓法付出的代價是要儲存并計算H的逆。quasi-Newton法和BFGS法是為了提高牛頓法的計算效率對牛頓的近似處理。具體文獻你可以參考Boyd 2009年的convex optimization. |
鐵桿木蟲 (著名寫手)
工程和科學數(shù)值計算咨詢
| 4 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 343求調(diào)劑 +4 | 愛羈絆 2026-03-28 | 4/200 |
|
|---|---|---|---|---|
|
[考研] 081200-11408-276學碩求調(diào)劑 +4 | 崔wj 2026-03-26 | 4/200 |
|
|
[考研] 317分 一志愿南理工材料工程 本科湖工大 求調(diào)劑 +6 | 芋泥小鈴鐺 2026-03-28 | 6/300 |
|
|
[考研] 0856求調(diào)劑 +11 | zhn03 2026-03-25 | 12/600 |
|
|
[考研] 0703本科鄭州大學求調(diào)劑 +3 | nhj_ 2026-03-25 | 3/150 |
|
|
[考研] 一志愿南京航空航天大學材料學碩求調(diào)劑 +3 | @taotao 2026-03-28 | 3/150 |
|
|
[考研] 081200-314 +3 | LILIQQ 2026-03-27 | 4/200 |
|
|
[考研] 一志愿華東理工大學081700,初試分數(shù)271 +6 | kotoko_ik 2026-03-23 | 7/350 |
|
|
[考研] 一志愿吉大071010,316分求調(diào)劑 +3 | xgbiknn 2026-03-27 | 3/150 |
|
|
[考研] 0703化學338求調(diào)劑! +6 | Zuhui0306 2026-03-26 | 7/350 |
|
|
[考研] 276求調(diào)劑。有半年電池和半年高分子實習經(jīng)歷 +10 | 材料學257求調(diào)劑 2026-03-23 | 11/550 |
|
|
[考研] 求調(diào)劑 +6 | 林之夕 2026-03-24 | 6/300 |
|
|
[考研] 324求調(diào)劑 +8 | hanamiko 2026-03-26 | 10/500 |
|
|
[考研] 336材料求調(diào)劑 +7 | 陳瀅瑩 2026-03-26 | 9/450 |
|
|
[考研] 求調(diào)劑 一志愿 本科 北科大 化學 343 +6 | 13831862839 2026-03-24 | 7/350 |
|
|
[考研] 中國科學院深圳先進技術研究院-光纖傳感課題組招生-中國科學院大學、深圳理工大學聯(lián)培 +5 | YangTyu1 2026-03-26 | 5/250 |
|
|
[考研] 347求調(diào)劑 +4 | L when 2026-03-25 | 4/200 |
|
|
[考研] 一志愿武理085500機械專業(yè)總分300求調(diào)劑 +3 | an10101 2026-03-24 | 7/350 |
|
|
[考研] 080500求調(diào)劑 +3 | zzzzfan 2026-03-24 | 3/150 |
|
|
[考研] 求調(diào)劑一志愿武漢理工大學材料工程(085601) +5 | WW.' 2026-03-23 | 7/350 |
|