版塊導(dǎo)航: 正在加載中...

應(yīng)《網(wǎng)絡(luò)安全法》要求，自2017年10月1日起，未進(jìn)行實(shí)名認(rèn)證將不得使用互聯(lián)網(wǎng)跟帖服務(wù)。為保障您的帳號(hào)能夠正常使用，請(qǐng)盡快對(duì)帳號(hào)進(jìn)行手機(jī)號(hào)驗(yàn)證，感謝您的理解與支持！

24小時(shí)熱門版塊排行榜

返回列表

mygt_hit

專家顧問 (職業(yè)作家)

專家經(jīng)驗(yàn): +362
數(shù)學(xué)EPI: 3
應(yīng)助: 438 (碩士)
貴賓: 0.019
金幣: 19571.1
散金: 5130
紅花: 135
沙發(fā): 3
帖子: 4938
在線: 990.5小時(shí)
蟲號(hào): 1489764
注冊(cè): 2011-11-13
性別: GG
專業(yè): 結(jié)構(gòu)工程
管轄: 土木建筑

【答案】應(yīng)助回帖

★ ★ ★ ★ ★
tjuxh: 金幣+5, ★★★很有幫助 2016-01-11 09:41:47

引用回帖:

3樓: Originally posted by tjuxh at 2015-12-02 23:17:47
你好，非常感謝你的回答！我看了一些相關(guān)的例子，確實(shí)是按照您所說的這樣進(jìn)行分解。目前的情況是，我可以提取出隨時(shí)間變化的一系列隨機(jī)向量，然后據(jù)此可以得出一個(gè)協(xié)方差矩陣，但是我不知道如何通過此矩陣求出一組 ...

最近又有了一些新收獲，跟樓主交流一下。
KL、POD、PCA思想都是一樣的，最根本的應(yīng)該是KL，離散化之后就是PCA（主成分分析）。和對(duì)稱方陣的特征值分解以及一般矩陣的SVD（奇異值分解）關(guān)系非常密切。
1. 首先以對(duì)稱方陣的特征值分解為例來說明。（特征值按從大到小排列。由于對(duì)稱陣的不同特征值的特征向量正交，故可將特征向量矩陣S標(biāo)準(zhǔn)正交化。）
$A=S\varLambda S^{-1}=S\varLambda S^T$
$\varLambda =diag \left( \lambda _1,\lambda _2,\cdots ,\lambda _d \right) ,\,\,\lambda _1\geq \lambda _2\geq \cdots \geq \lambda _d$
$S=\left( s_1,s_2,\cdots ,s_d \right)$
a) 基變換角度。
AX的變換效果從幾何上可理解為將X旋轉(zhuǎn)(S'作用)——拉伸( $\varLambda$ 作用)——旋轉(zhuǎn)回來（S作用）。因此，S中的每一個(gè)列向量可以理解為原始變量空間（實(shí)際上為A的行空間）的基通過旋轉(zhuǎn)（因?yàn)镾為正交陣）所得的一組新基。第一個(gè)基s1上包含的信息最多（特征值最大），之后的依次減少。所以任給一個(gè)d維列向量X，可通過在矩陣S代表的基上投影，依次提取其第一大分量、第二大分量、……直到第d大分量。根據(jù)實(shí)際需要，選擇前若干個(gè)就可以充分表達(dá)X所包含的信息了，如果選擇全部d個(gè)分量，那就是完全無損表示了。數(shù)據(jù)壓縮、圖像處理、數(shù)據(jù)降維等都是這樣的原理，提取前幾個(gè)較大的分量就可以以較小的損失表示原來的信息。
具體來說，可以定義新的列向量：
$Y=\left( y_1,y_2,\cdots ,y_d \right) ^T=S^TX$
$y_i=s_{i}^{T}X=s_{i1}x_1+s_{i2}x_2+\cdots +s_{id}x_d,\,\,i=1,...,d$
即Y的每一個(gè)分量都是X分量的線性組合，或者理解為將X沿著特征向量展開。選擇前r個(gè)較大特征值對(duì)應(yīng)的Y分量，就可以將原始的d維向量X降為r維向量Y。（注：A的特征向量又稱作主成分，主成分分析PCA大概就是這個(gè)意思，提取最主要的那幾個(gè)成分。）

b) 也可以從對(duì)稱矩陣的譜分解角度理解
$A=\sum_{i=1}^d{s_i\lambda _is_{i}^{T}}$
即對(duì)稱矩陣可表達(dá)為d個(gè)秩1矩陣之和，每個(gè)秩一矩陣的權(quán)重為相應(yīng)特征值。數(shù)據(jù)壓縮就是選擇前少數(shù)幾個(gè)較大特征值對(duì)應(yīng)的秩一矩陣來表示原矩陣A，即
$A=\sum_{i=1}^d{s_i\lambda _is_{i}^{T}}\approx \sum_{i=1}^r{s_i\lambda _is_{i}^{T}},\,\,r\ll d$

2. SVD角度。
假設(shè)數(shù)據(jù)有d個(gè)特征或?qū)傩�，例如d維變量X。假設(shè)觀測N次，得N個(gè)樣本，用N×d矩陣A表示，將A進(jìn)行SVD分解
$A=U\varSigma V^T$
V中所含的A的右奇異向量就是原始數(shù)據(jù)的主成分，根據(jù)奇異值大小排列，也稱作第一主成分、第二主成分、……第d主成分。之所以這么叫，是因?yàn)锳的右奇異向量實(shí)際上是A’A的特征向量
$A^TA=V\varSigma ^T\varSigma V^T=V\varLambda V^T$
而A’A又可看作d維變量X的協(xié)方差矩陣cov(X, X)。如果X均值不為0，可通過平移得到新的零均值變量。令 R = cov(X, X) ，則有
$R=cov\left( X,X \right) =A^TA=V\varLambda V^T$
這里的矩陣V相當(dāng)于第1節(jié)中的矩陣S。前r個(gè)特征向量表示對(duì)X方差貢獻(xiàn)最大的r個(gè)基，即前r個(gè)主成分。類似的，可以定義新向量Y = V'X，提取主成分，壓縮數(shù)據(jù)等等。

3. 小結(jié)
1) 將觀測矩陣A進(jìn)行處理，比如平移使得其變?yōu)榱憔�、�?biāo)準(zhǔn)化處理等;
2) 對(duì)A'A進(jìn)行特征值對(duì)角分解;
3) 定義新向量：Y=V'X。根據(jù)處理能力及實(shí)際需要，選擇前若干個(gè)較顯著的Y分量。

4. 參考資料
淺談對(duì)主成分分析（PCA）算法的理解 http://blog.csdn.net/passball/article/details/24037593
機(jī)器學(xué)習(xí)中的數(shù)學(xué)(4)-線性判別分析（LDA）, 主成分分析(PCA) http://www.cnblogs.com/LeftNotEa ... chine-learning.html
機(jī)器學(xué)習(xí)中的數(shù)學(xué)(5)-強(qiáng)大的矩陣奇異值分解(SVD)及其應(yīng)用 http://www.cnblogs.com/LeftNotEa ... d-applications.html

贊一下

回復(fù)此樓

知其然，知其所以然。

11樓2016-01-09 14:29:52

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

tjuxh

金蟲 (小有名氣)

應(yīng)助: 0 (幼兒園)
金幣: 2082.5
散金: 500
帖子: 111
在線: 98.3小時(shí)
蟲號(hào): 2433642
注冊(cè): 2013-04-24
性別: GG
專業(yè): 燃燒學(xué)

引用回帖:

10樓: Originally posted by 拜星漫月 at 2016-01-09 12:33:36
樓主可以把你的pod資料發(fā)給我看看嗎？謝謝啦啊。我也想學(xué)一下。

參照五樓給的資料，寫的很全面，matlab也有pca分析的工具，可以自己看看，具體公式是princomp（）

贊一下

回復(fù)此樓

一切皆緣分

12樓2016-01-11 09:03:55

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

tjuxh

金蟲 (小有名氣)

應(yīng)助: 0 (幼兒園)
金幣: 2082.5
散金: 500
帖子: 111
在線: 98.3小時(shí)
蟲號(hào): 2433642
注冊(cè): 2013-04-24
性別: GG
專業(yè): 燃燒學(xué)

引用回帖:

11樓: Originally posted by mygt_hit at 2016-01-09 14:29:52
最近又有了一些新收獲，跟樓主交流一下。
KL、POD、PCA思想都是一樣的，最根本的應(yīng)該是KL，離散化之后就是PCA（主成分分析）。和對(duì)稱方陣的特征值分解以及一般矩陣的SVD（奇異值分解）關(guān)系非常密切。
1. 首先以對(duì) ...

你好，看了你的分享，收獲很大。這里有一些不解：
1.你第一點(diǎn)（首先以對(duì)稱方陣的特征值分解為例來說明）說的A矩陣和第二點(diǎn)（SVD角度）的A矩陣不是一個(gè)矩陣吧。這里我們把第二點(diǎn)的A矩陣定義為B，那第一點(diǎn)的矩陣A是不是應(yīng)該是A=B'B。也就是第一點(diǎn)的A矩陣是第二點(diǎn)B矩陣的協(xié)方差矩陣。
2.在第一點(diǎn)中給的這個(gè)Y向量是不是B矩陣的列向量？

贊一下

回復(fù)此樓

一切皆緣分

13樓2016-01-11 09:45:51

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

mygt_hit

專家顧問 (職業(yè)作家)

專家經(jīng)驗(yàn): +362
數(shù)學(xué)EPI: 3
應(yīng)助: 438 (碩士)
貴賓: 0.019
金幣: 19571.1
散金: 5130
紅花: 135
沙發(fā): 3
帖子: 4938
在線: 990.5小時(shí)
蟲號(hào): 1489764
注冊(cè): 2011-11-13
性別: GG
專業(yè): 結(jié)構(gòu)工程
管轄: 土木建筑

引用回帖:

13樓: Originally posted by tjuxh at 2016-01-11 09:45:51
你好，看了你的分享，收獲很大。這里有一些不解：
1.你第一點(diǎn)（首先以對(duì)稱方陣的特征值分解為例來說明）說的A矩陣和第二點(diǎn)（SVD角度）的A矩陣不是一個(gè)矩陣吧。這里我們把第二點(diǎn)的A矩陣定義為B，那第一點(diǎn)的矩陣A是 ...

1. 可能是我沒表達(dá)清楚，你的理解是對(duì)的。
2. Y應(yīng)該是新的列向量，不屬于B。按照你的記號(hào)，B矩陣的每一列為一個(gè)變量或特征或性質(zhì)，一共有d個(gè)，相當(dāng)于d維向量，B矩陣是這d維向量的N個(gè)實(shí)現(xiàn)。Y則是用一個(gè)正交陣左乘該d維向量得到的新向量，特殊的地方在于該正交陣是A（也就是B的協(xié)方差陣）的標(biāo)準(zhǔn)化特征向量矩陣。Y的每一個(gè)分量都是d維向量各分量的線性組合，或者看作d維向量在新坐標(biāo)系、新基（特征向量矩陣所表示）下的表達(dá)。

贊一下

回復(fù)此樓

知其然，知其所以然。

14樓2016-01-11 10:49:47

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

tjuxh

金蟲 (小有名氣)

應(yīng)助: 0 (幼兒園)
金幣: 2082.5
散金: 500
帖子: 111
在線: 98.3小時(shí)
蟲號(hào): 2433642
注冊(cè): 2013-04-24
性別: GG
專業(yè): 燃燒學(xué)

引用回帖:

14樓: Originally posted by mygt_hit at 2016-01-11 10:49:47
1. 可能是我沒表達(dá)清楚，你的理解是對(duì)的。
2. Y應(yīng)該是新的列向量，不屬于B。按照你的記號(hào)，B矩陣的每一列為一個(gè)變量或特征或性質(zhì)，一共有d個(gè)，相當(dāng)于d維向量，B矩陣是這d維向量的N個(gè)實(shí)現(xiàn)。Y則是用一個(gè)正交陣左乘該 ...

哦，關(guān)于第二點(diǎn)我看錯(cuò)了。所以是不是這樣理解的，第一點(diǎn)中的X其實(shí)就是我所標(biāo)記的B矩陣的每一行，B矩陣有多少列，那么X就有多少個(gè)分量。而B矩陣的每一行就是X的一個(gè)sample。這里的Y其實(shí)是原數(shù)據(jù)X在新的坐標(biāo)系下（S）的投影。不知道這樣理解對(duì)不對(duì)。

贊一下

回復(fù)此樓

一切皆緣分

15樓2016-01-12 23:15:38

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

mygt_hit

專家顧問 (職業(yè)作家)

引用回帖:

15樓: Originally posted by tjuxh at 2016-01-12 23:15:38
哦，關(guān)于第二點(diǎn)我看錯(cuò)了。所以是不是這樣理解的，第一點(diǎn)中的X其實(shí)就是我所標(biāo)記的B矩陣的每一行，B矩陣有多少列，那么X就有多少個(gè)分量。而B矩陣的每一行就是X的一個(gè)sample。這里的Y其實(shí)是原數(shù)據(jù)X在新的坐標(biāo)系下（S） ...

對(duì)。

發(fā)自小木蟲Android客戶端

16樓2016-01-12 23:19:37

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

天知道

新蟲 (小有名氣)

應(yīng)助: 0 (幼兒園)
金幣: 663.5
散金: 60
紅花: 1
帖子: 165
在線: 51小時(shí)
蟲號(hào): 6729358
注冊(cè): 2017-06-10
性別: GG
專業(yè): 結(jié)構(gòu)工程

引用回帖:

10樓: Originally posted by 拜星漫月 at 2016-01-09 12:33:36
樓主可以把你的pod資料發(fā)給我看看嗎？謝謝啦啊。我也想學(xué)一下。

您好，能把您學(xué)習(xí)pod的資料發(fā)給我一份嗎，感覺資料比較難找

發(fā)自小木蟲IOS客戶端

贊一下

回復(fù)此樓

17樓2018-01-13 10:51:20

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

jiashuai887

新蟲 (小有名氣)

應(yīng)助: 0 (幼兒園)
金幣: 1142.5
散金: 20
紅花: 2
帖子: 194
在線: 31小時(shí)
蟲號(hào): 6963481
注冊(cè): 2017-07-18
專業(yè): 內(nèi)流流體力學(xué)

您好樓主，感謝您的經(jīng)驗(yàn)分享，收獲很多，在看文獻(xiàn)時(shí)對(duì)一些地方不是很了解，還請(qǐng)點(diǎn)撥一下！我們求出最優(yōu)正交基和相關(guān)時(shí)間系數(shù)，第一模態(tài)，第二模態(tài)分別指的是什么？對(duì)前N節(jié)模態(tài)進(jìn)行重構(gòu)又指的是什么？感謝，感謝

發(fā)自小木蟲Android客戶端

贊一下

回復(fù)此樓

» 本帖已獲得的紅花（最新10朵）

jiashuai887

18樓2018-04-10 09:30:04

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

jiashuai887

新蟲 (小有名氣)

應(yīng)助: 0 (幼兒園)
金幣: 1142.5
散金: 20
紅花: 2
帖子: 194
在線: 31小時(shí)
蟲號(hào): 6963481
注冊(cè): 2017-07-18
專業(yè): 內(nèi)流流體力學(xué)

送紅花一朵

引用回帖:

18樓: Originally posted by jiashuai887 at 2018-04-10 09:30:04
您好樓主，感謝您的經(jīng)驗(yàn)分享，收獲很多，在看文獻(xiàn)時(shí)對(duì)一些地方不是很了解，還請(qǐng)點(diǎn)撥一下！我們求出最優(yōu)正交基和相關(guān)時(shí)間系數(shù)，第一模態(tài)，第二模態(tài)分別指的是什么？對(duì)前N節(jié)模態(tài)進(jìn)行重構(gòu)又指的是什么？感謝，感謝
...

具體代表的意思我明白，不知道如何用最優(yōu)基矩陣和時(shí)間系數(shù)整理出一階模態(tài)，二階模態(tài)，和對(duì)前N階模態(tài)進(jìn)行重構(gòu)？

發(fā)自小木蟲Android客戶端

贊一下

回復(fù)此樓

19樓2018-04-10 09:36:25

已閱回復(fù)此樓關(guān)注TA 給TA發(fā)消息送TA紅花 TA的回帖

相關(guān)版塊跳轉(zhuǎn) 我要訂閱樓主 tjuxh 的主題更新

返回列表

最具人氣熱帖推薦 [查看全部]		作者	回/看	最后發(fā)表

[碩博家園] 湖北工業(yè)大學(xué) 生命科學(xué)與健康學(xué)院-課題組招收2026級(jí)食品/生物方向碩士 +3	1喜春8 2026-03-17	5/250	2026-03-17 17:18 by ber川cool子
[考研] 303求調(diào)劑 +3	睿08 2026-03-17	3/150	2026-03-17 15:24 by 哦哦123
[考研] 0854可跨調(diào)劑，一作一項(xiàng)核心論文五項(xiàng)專利，省、國級(jí)證書40+數(shù)一英一287 +3	小李0854 2026-03-16	3/150	2026-03-17 13:40 by 熱情沙漠
[考研] 289求調(diào)劑 +6	步川酷紫123 2026-03-11	6/300	2026-03-17 10:23 by Sammy2
[論文投稿] 有沒有大佬發(fā)小論文能帶我個(gè)二作 +3	增銳漏人 2026-03-17	4/200	2026-03-17 09:26 by xs74101122
[考研] 278求調(diào)劑 +3	Yy7400 2026-03-13	3/150	2026-03-17 08:24 by laoshidan
[考研] 環(huán)境工程調(diào)劑 +6	大可digkids 2026-03-16	6/300	2026-03-16 17:16 by barlinike
[考研] 326求調(diào)劑 +4	諾貝爾化學(xué)獎(jiǎng)覬?/a> 2026-03-15	7/350	2026-03-16 17:11 by 諾貝爾化學(xué)獎(jiǎng)覬?/a>
[考研] 297一志愿上交085600求調(diào)劑 +5	指尖八千里 2026-03-14	5/250	2026-03-14 17:26 by a不易
[考研] 328求調(diào)劑 +3	5201314Lsy！ 2026-03-13	6/300	2026-03-14 15:31 by hyswxzs
[考研] 一志愿哈工大材料324分求調(diào)劑 +5	閆旭東 2026-03-14	5/250	2026-03-14 14:53 by 木瓜膏
[考研] 279求調(diào)劑 +3	抓著星星的女孩 2026-03-10	3/150	2026-03-13 23:47 by userper
[考研] 復(fù)試調(diào)劑 +9	Copy267 2026-03-10	9/450	2026-03-13 23:45 by userper
[考研] 279求調(diào)劑 +3	Dizzy123@ 2026-03-10	3/150	2026-03-13 23:02 by JourneyLucky
[考研] 四川大學(xué)085601材料工程專碩初試294求調(diào)劑 +4	祝我們好在冬天 2026-03-11	4/200	2026-03-13 21:39 by peike
[考研] （081700）化學(xué)工程與技術(shù)-298分求調(diào)劑 +12	11啦啦啦 2026-03-11	35/1750	2026-03-13 21:25 by JourneyLucky
[考研] 281求調(diào)劑 +9	Koxui 2026-03-12	11/550	2026-03-13 20:50 by Koxui
[考研] 26調(diào)劑/材料科學(xué)與工程/總分295/求收留 +9	2026調(diào)劑俠 2026-03-12	9/450	2026-03-13 20:46 by 18595523086
[考研] 材料301分求調(diào)劑 +5	Liyouyumairs 2026-03-12	5/250	2026-03-13 14:42 by JourneyLucky
[論文投稿] 投稿問題 5+4	星光燦爛xt 2026-03-12	6/300	2026-03-13 14:17 by god_tian