 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 4 | 1/1 | 返回列表 |
| 查看: 2985 | 回復: 3 | |||
pluiefox新蟲 (初入文壇)
|
[求助]
復合函數(shù)的矩陣求導 已有1人參與
|
 問題如圖。 我看過論壇里其他類似的對矩陣求導的討論，我的問題是：
這個問題，是在求解神經(jīng)網(wǎng)絡的參數(shù)梯度的時候遇到的，為了簡化問題我表述成了上述形式。 因為目標函數(shù)比較復雜，如果按矩陣元素推導會很麻煩，所以我直接對矩陣求導，但是我嘗試寫代碼的時候才發(fā)現(xiàn)了這個無法相乘的問題。 我看到一些文章提到可以利用張量求列向量對矩陣的導數(shù)，但沒有更進一步的解釋了。 如果有描述模糊和不正確的地方，麻煩指正，我會及時修改。謝謝大家了！ |
回復此樓» 猜你喜歡
085600材料與化工調(diào)劑 324分
已經(jīng)有5人回復
-
344求調(diào)劑
已經(jīng)有6人回復
-
266求調(diào)劑
已經(jīng)有9人回復
-
化學工程321分求調(diào)劑
已經(jīng)有18人回復
-
314求調(diào)劑
已經(jīng)有8人回復
-
08工科 320總分 求調(diào)劑
已經(jīng)有5人回復
-
085601專碩，總分342求調(diào)劑，地區(qū)不限
已經(jīng)有5人回復
-
311求調(diào)劑
已經(jīng)有6人回復
-
化工學碩306求調(diào)劑
已經(jīng)有10人回復
-
286求調(diào)劑
已經(jīng)有8人回復
» 本主題相關商家推薦: (我也要在這里推廣)
» 本主題相關價值貼推薦，對您同樣有幫助:
- 考研數(shù)學復習沖刺方法與技巧【轉(zhuǎn)】
已經(jīng)有9人回復
- 【分享】2011考研數(shù)學二大綱
已經(jīng)有9人回復
- 【分享】10年數(shù)2大綱��！
已經(jīng)有13人回復
zaq123321
專家顧問 (著名寫手)
-
專家經(jīng)驗: +342 - 數(shù)學EPI: 6
- 應助: 298 (大學生)
- 貴賓: 0.247
- 金幣: 11336.3
- 紅花: 29
- 帖子: 1221
- 在線: 538.8小時
- 蟲號: 405284
- 注冊: 2007-06-17
- 性別: MM
- 專業(yè): 生物大分子結(jié)構(gòu)與功能
- 管轄: 數(shù)學
2樓2015-11-04 00:09:04
pluiefox
新蟲 (初入文壇)
- 應助: 1 (幼兒園)
- 金幣: 42.8
- 帖子: 10
- 在線: 2.1小時
- 蟲號: 3941496
- 注冊: 2015-06-26
- 專業(yè): 自然語言理解與機器翻譯
|
J 是 [p - [c1 ; c2]] 的二范數(shù)的平方再乘以二分之一，為了簡化問題可以把 J 重新定義為： J = ||p||，即 J 為 p 的一范數(shù)，系數(shù)全為1的p的分量的線性組合。 對于改過的式子，我按元素推導，先得到了{∂J / ∂Wij}，這個結(jié)果可以認為是正確的。接著我按矩陣向量推導（不考慮矩陣求導規(guī)則），結(jié)果是： {∂J / ∂Wij} = ((J/p) * (p/q)） * (q/W)) = [1, 1, ... , 1] * V * [c1;c2] 其中 J/p 表示 J 對 p 求偏導，其余一樣。 并且偏導數(shù) J/p 和 p/q 用的分子布局，所以 J/p 是 2n 維行向量，p/q 是2n x n 矩陣，而 q/W 暫時不考慮正確性和布局形式直接用 [c1;c2] 表示。 然后由于維度不同不構(gòu)成乘法項，我把上面結(jié)果改成： ((J/p) * (p/q))' * c' '表示取轉(zhuǎn)置。然后這樣的結(jié)果就和我按元素推導的結(jié)果相同了。我想知道這樣的做法對不對？因為雖然結(jié)果正確了，但是我在這里還是用了不適用的鏈式法則，而且還以滿足乘法規(guī)則為目的對結(jié)果取轉(zhuǎn)置，這種做法可能只是答案正確而且很偶然。 |
3樓2015-11-04 09:45:10
zaq123321
專家顧問 (著名寫手)
-
專家經(jīng)驗: +342 - 數(shù)學EPI: 6
- 應助: 298 (大學生)
- 貴賓: 0.247
- 金幣: 11336.3
- 紅花: 29
- 帖子: 1221
- 在線: 538.8小時
- 蟲號: 405284
- 注冊: 2007-06-17
- 性別: MM
- 專業(yè): 生物大分子結(jié)構(gòu)與功能
- 管轄: 數(shù)學
4樓2015-11-04 10:32:54
相關版塊跳轉(zhuǎn)
我要訂閱樓主 pluiefox 的主題更新
| 4 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 085601專碩，總分342求調(diào)劑，地區(qū)不限 +5 | share_joy 2026-03-16 | 5/250 |
|
|---|---|---|---|---|
|
[考研] 材料與化工一志愿南昌大學327求調(diào)劑推薦 +8 | Ncdx123456 2026-03-13 | 9/450 |
|
|
|
[考研]
 271材料工程求調(diào)劑
+3
|
.6lL 2026-03-18 | 3/150 |
|
|
|
[考研] 一志愿西南交大，求調(diào)劑 +4 | 材化逐夢人 2026-03-18 | 4/200 |
|
|
|
[考研] 0703化學調(diào)劑 ，六級已過，有科研經(jīng)歷 +10 | 曦熙兮 2026-03-15 | 10/500 |
|
|
|
[考研] 一志愿中國海洋大學，生物學，301分，求調(diào)劑 +3 | 1孫悟空 2026-03-17 | 3/150 |
|
|
|
[考研] 考研求調(diào)劑 +3 | 橘頌. 2026-03-17 | 4/200 |
|
|
|
[考研] 328求調(diào)劑，英語六級551，有科研經(jīng)歷 +3 | 生物工程調(diào)劑 2026-03-16 | 8/400 |
|
|
|
[考研] 302求調(diào)劑 +9 | 負心者當誅 2026-03-11 | 9/450 |
|
|
|
[考研] 化學調(diào)劑0703 +8 | 啊我我的 2026-03-11 | 8/400 |
|
|
|
[基金申請]
今年的國基金是打分制嗎？
 50+3
|
zhanghaozhu 2026-03-14 | 3/150 |
|
|
|
[考研] 304求調(diào)劑 +5 | 素年祭語 2026-03-15 | 5/250 |
|
|
|
[考研] 283求調(diào)劑 +10 | 小樓。 2026-03-12 | 14/700 |
|
|
|
[考研] 中科院材料273求調(diào)劑 +4 | yzydy 2026-03-15 | 4/200 |
|
|
|
[考研] 277材料科學與工程080500求調(diào)劑 +3 | 自由煎餅果子 2026-03-16 | 3/150 |
|
|
|
[考研] 328求調(diào)劑 +3 | 5201314Lsy！ 2026-03-13 | 6/300 |
|
|
|
[考研] 一志愿哈工大材料324分求調(diào)劑 +5 | 閆旭東 2026-03-14 | 5/250 |
|
|
|
[考研] 329求調(diào)劑 +3 | miaodesi 2026-03-12 | 4/200 |
|
|
|
[考研] 307求調(diào)劑 +5 | 超級伊昂大王 2026-03-12 | 5/250 |
|
|
|
[考研] 283求調(diào)劑，材料、化工皆可 +8 | 蘇打水7777 2026-03-11 | 10/500 |
|