 |
 |
 |
 |
 |
 |
||
 |
 |
 |
 |
 |
| 4 | 1/1 | 返回列表 |
| 查看: 2986 | 回復(fù): 3 | |||
pluiefox新蟲 (初入文壇)
|
[求助]
復(fù)合函數(shù)的矩陣求導(dǎo) 已有1人參與
|
 問題如圖。 我看過論壇里其他類似的對矩陣求導(dǎo)的討論，我的問題是：
這個問題，是在求解神經(jīng)網(wǎng)絡(luò)的參數(shù)梯度的時候遇到的，為了簡化問題我表述成了上述形式。 因為目標(biāo)函數(shù)比較復(fù)雜，如果按矩陣元素推導(dǎo)會很麻煩，所以我直接對矩陣求導(dǎo)，但是我嘗試寫代碼的時候才發(fā)現(xiàn)了這個無法相乘的問題。 我看到一些文章提到可以利用張量求列向量對矩陣的導(dǎo)數(shù)，但沒有更進一步的解釋了。 如果有描述模糊和不正確的地方，麻煩指正，我會及時修改。謝謝大家了！ |
回復(fù)此樓» 猜你喜歡
354求調(diào)劑
已經(jīng)有5人回復(fù)
-
材料專業(yè)求調(diào)劑
已經(jīng)有3人回復(fù)
-
求材料調(diào)劑
已經(jīng)有7人回復(fù)
-
一志愿天大材料與化工（085600）總分338
已經(jīng)有3人回復(fù)
-
085600材料與化工
已經(jīng)有5人回復(fù)
-
085600材料與化工調(diào)劑 324分
已經(jīng)有6人回復(fù)
-
286求調(diào)劑
已經(jīng)有9人回復(fù)
-
焦慮
已經(jīng)有12人回復(fù)
-
344求調(diào)劑
已經(jīng)有6人回復(fù)
-
266求調(diào)劑
已經(jīng)有9人回復(fù)
» 本主題相關(guān)商家推薦: (我也要在這里推廣)
» 本主題相關(guān)價值貼推薦，對您同樣有幫助:
- 考研數(shù)學(xué)復(fù)習(xí)沖刺方法與技巧【轉(zhuǎn)】
已經(jīng)有9人回復(fù)
- 【分享】2011考研數(shù)學(xué)二大綱
已經(jīng)有9人回復(fù)
- 【分享】10年數(shù)2大綱�。�
已經(jīng)有13人回復(fù)
zaq123321
專家顧問 (著名寫手)
-
專家經(jīng)驗: +342 - 數(shù)學(xué)EPI: 6
- 應(yīng)助: 298 (大學(xué)生)
- 貴賓: 0.247
- 金幣: 11336.3
- 紅花: 29
- 帖子: 1221
- 在線: 538.8小時
- 蟲號: 405284
- 注冊: 2007-06-17
- 性別: MM
- 專業(yè): 生物大分子結(jié)構(gòu)與功能
- 管轄: 數(shù)學(xué)
2樓2015-11-04 00:09:04
pluiefox
新蟲 (初入文壇)
- 應(yīng)助: 1 (幼兒園)
- 金幣: 42.8
- 帖子: 10
- 在線: 2.1小時
- 蟲號: 3941496
- 注冊: 2015-06-26
- 專業(yè): 自然語言理解與機器翻譯
|
J 是 [p - [c1 ; c2]] 的二范數(shù)的平方再乘以二分之一，為了簡化問題可以把 J 重新定義為： J = ||p||，即 J 為 p 的一范數(shù)，系數(shù)全為1的p的分量的線性組合。 對于改過的式子，我按元素推導(dǎo)，先得到了{(lán)∂J / ∂Wij}，這個結(jié)果可以認(rèn)為是正確的。接著我按矩陣向量推導(dǎo)（不考慮矩陣求導(dǎo)規(guī)則），結(jié)果是： {∂J / ∂Wij} = ((J/p) * (p/q)） * (q/W)) = [1, 1, ... , 1] * V * [c1;c2] 其中 J/p 表示 J 對 p 求偏導(dǎo)，其余一樣。 并且偏導(dǎo)數(shù) J/p 和 p/q 用的分子布局，所以 J/p 是 2n 維行向量，p/q 是2n x n 矩陣，而 q/W 暫時不考慮正確性和布局形式直接用 [c1;c2] 表示。 然后由于維度不同不構(gòu)成乘法項，我把上面結(jié)果改成： ((J/p) * (p/q))' * c' '表示取轉(zhuǎn)置。然后這樣的結(jié)果就和我按元素推導(dǎo)的結(jié)果相同了。我想知道這樣的做法對不對？因為雖然結(jié)果正確了，但是我在這里還是用了不適用的鏈?zhǔn)椒▌t，而且還以滿足乘法規(guī)則為目的對結(jié)果取轉(zhuǎn)置，這種做法可能只是答案正確而且很偶然。 |
3樓2015-11-04 09:45:10
zaq123321
專家顧問 (著名寫手)
-
專家經(jīng)驗: +342 - 數(shù)學(xué)EPI: 6
- 應(yīng)助: 298 (大學(xué)生)
- 貴賓: 0.247
- 金幣: 11336.3
- 紅花: 29
- 帖子: 1221
- 在線: 538.8小時
- 蟲號: 405284
- 注冊: 2007-06-17
- 性別: MM
- 專業(yè): 生物大分子結(jié)構(gòu)與功能
- 管轄: 數(shù)學(xué)
4樓2015-11-04 10:32:54
相關(guān)版塊跳轉(zhuǎn)
我要訂閱樓主 pluiefox 的主題更新
| 4 | 1/1 | 返回列表 |
| 最具人氣熱帖推薦 [查看全部] | 作者 | 回/看 | 最后發(fā)表 | |
|---|---|---|---|---|
|
[考研] 311求調(diào)劑 +6 | 26研0 2026-03-15 | 6/300 |
|
|---|---|---|---|---|
|
[考研] 材料與化工一志愿南昌大學(xué)327求調(diào)劑推薦 +8 | Ncdx123456 2026-03-13 | 9/450 |
|
|
|
[考研] 0817 化學(xué)工程 299分求調(diào)劑 有科研經(jīng)歷 有二區(qū)文章 +7 | rare12345 2026-03-18 | 7/350 |
|
|
|
[考研] 331求調(diào)劑（0703有機化學(xué) +7 | ZY-05 2026-03-13 | 8/400 |
|
|
|
[考研] 0703化學(xué)調(diào)劑 +4 | pupcoco 2026-03-17 | 7/350 |
|
|
|
[考研] 293求調(diào)劑 +11 | zjl的號 2026-03-16 | 16/800 |
|
|
|
[考研] 材料與化工求調(diào)劑 +6 | 為學(xué)666 2026-03-16 | 6/300 |
|
|
|
[考研] 材料專碩326求調(diào)劑 +6 | 墨煜姒莘 2026-03-15 | 7/350 |
|
|
|
[考研] 275求調(diào)劑 +4 | 太陽花天天開心 2026-03-16 | 4/200 |
|
|
|
[考研] 267一志愿南京工業(yè)大學(xué)0817化工求調(diào)劑 +6 | SUICHILD 2026-03-12 | 6/300 |
|
|
|
[考研] 274求調(diào)劑 +5 | 時間點 2026-03-13 | 5/250 |
|
|
|
[考研] 0703化學(xué)調(diào)劑 +6 | 妮妮ninicgb 2026-03-15 | 9/450 |
|
|
|
[考研] 294求調(diào)劑 +3 | Zys010410@ 2026-03-13 | 4/200 |
|
|
|
[考研] 297求調(diào)劑 +4 | 學(xué)海漂泊 2026-03-13 | 4/200 |
|
|
|
[考研] 308 085701 四六級已過求調(diào)劑 +7 | 溫喬喬喬喬 2026-03-12 | 14/700 |
|
|
|
[考研] ［0860］321分求調(diào)劑，ab區(qū)皆可 +4 | 寶貴熱 2026-03-13 | 4/200 |
|
|
|
[考研] 工科278分求調(diào)劑 +5 | 周慢熱啊 2026-03-12 | 7/350 |
|
|
|
[考研] 274求調(diào)劑 +3 | S.H1 2026-03-12 | 3/150 |
|
|
|
[考研] 土木第一志愿276求調(diào)劑，科研和技能十分豐富，求新興方向的導(dǎo)師收留 +3 | 土木小天才 2026-03-12 | 3/150 |
|
|
|
[考研] 283求調(diào)劑，材料、化工皆可 +8 | 蘇打水7777 2026-03-11 | 10/500 |
|