《主成分分析與因子》ppt課件(文件)

　

【正文】 意 fj與 xi是經(jīng)過了標準化的，因此均值為零，標準差為 1）： ?????????ntjtnttinttjtinttjti fxfxfx121211即 恰好是兩個向量 fj與 xi的相關系數(shù)，也就是第 i個變量在第 j個公共因子的負載 aij。除此以外，確定因子值還有其他方法 。同理可說明 右端的矩陣 xTx恰好是 x的相關系數(shù)矩陣 R。 2. 因子值（因子得分）的求法 設第 j個公共因子的因子值 fj，可以由原始變量 x1, x2, …, xk的樣本觀察值計算出來（必須注意，無論是原始變量還是公共因子，都是經(jīng)過了標準化的）。而目的往往是利用得到的公共因子作進一步的分析。 示例 例 某公司請 12名顧客對 5類肉食偏好打分，結果如下表 （ 1）求出相關系數(shù)矩陣如下表 C o r r e l a t i o n M a t r ix1 .0 0 0 . 0 1 6 . 4 2 9 . 3 9 5 . 0 5 3 . 0 1 6 1 .0 0 0 . 1 8 1 . 4 7 3 .5 7 1 . 4 2 9 . 1 8 1 1 .0 0 0 .5 4 5 . 1 4 9 . 3 9 5 . 4 7 3 .5 4 5 1 .0 0 0 . 3 0 1 . 0 5 3 .5 7 1 . 1 4 9 . 3 0 1 1 .0 0 0牛肉魚肉羊肉豬肉雞肉C o r r e la t io n牛肉 魚肉 羊肉 豬肉 雞肉， ， ， ， （ 2）求出 5個特征值為： （ 3）求出負載矩陣 C o m p o n e n t M a t r i xa. 4 7 7 . 6 9 5 . 5 2 3 7 . 5 3 1 E 0 2 9 . 9 5 9 E 0 2. 6 8 2 . 5 6 5 7 . 6 0 3 E 0 2 . 3 0 0 . 3 4 5 . 7 0 3 . 4 3 3 . 4 6 8 . 2 6 2 . 1 7 6 . 8 5 4 . 1 3 4 8 . 3 1 3 E 0 2 . 3 3 2 . 3 6 9. 5 8 0 . 6 2 9 . 1 6 9 . 4 6 3 . 1 5 7牛肉魚肉羊肉豬肉雞肉1 2 3 4 5C o m p o n e n tE x t r a c t io n Me t h o d : P r in c ip a l C o m p o n e n t A n a ly s is .5 c o m p o n e n t s e x t r a ct e d .a . To t a l V a r i a n c e E x p l a i n e d2 .2 5 2 4 5 .0 4 2 4 5 .0 4 2 2 .2 5 2 4 5 .0 4 2 4 5 .0 4 21 .4 0 5 2 8 .0 9 7 7 3 .1 3 9 1 .4 0 5 2 8 .0 9 7 7 3 .1 3 9.5 3 4 1 0 .6 7 1 8 3 .8 1 0 .5 3 4 1 0 .6 7 1 8 3 .8 1 0.4 8 9 9 .7 7 6 9 3 .5 8 6 .4 8 9 9 .7 7 6 9 3 .5 8 6.3 2 1 6 .4 1 4 1 0 0 .0 0 0 .3 2 1 6 .4 1 4 1 0 0 .0 0 0C o mp o n e n t12345T o t a l % o f V a r ia n c e C u mu la t iv e % T o t a l % o f V a r ia n c e C u mu la t iv e %I n it ia l E ig e n v a lu e s E x t r a c t io n S u ms o f S q u a r e d L o a d in g sE x t r a c t io n M e t h o d : P r in c ip a l C o mp o n e n t A n a ly s is .其中前兩個因子對應的特征值大于 1, 因此取前兩個因子 . 它們的累積貢獻率為 %(SPSS計算的結果見上表 ). （ 4）用最大方差法旋轉(zhuǎn)，得到含義明確的負載矩陣 R o t a t e d C o m p o n e n t M a t r i xa . 8 2 2 . 1 8 8 . 1 1 8 . 8 7 8. 8 1 0 . 1 5 8. 7 1 8 . 4 8 07 . 0 5 7 E 0 5 . 8 5 6牛肉魚肉羊肉豬肉雞肉1 2C o m p o n e n tE x t r a c t io n M e t h o d : P r in c ip a l C o m p o n e n t A n a ly s is . R o t a t io n M e t h o d : V a r im a x w it h K a is e r N o r m a li z a t io n .R o t a t io n c o n v e r g e d in 3 it e r a t io n s .a . 于是有 121 特殊因子牛肉 ???? ff221 8 7 1 特殊因子魚肉 ???? ff321 1 5 0 特殊因子羊肉 ??? ff421 特殊因子豬肉 ??? ff5215 特殊因子雞肉 ???? ? ff從表中數(shù)據(jù)看，第一個公共因子 f1（從絕對值角度看）對牛肉、羊肉、豬肉（都屬于大家畜）的影響大， f1應當是消費者對大家畜肉類的某些特征的共同反映。但一般而言，對公共因子的合理解釋建立在對實際問題的深刻理解與把握的基礎之上，是 實踐性很強的藝術 。極端情況是回到原來的變量。 ?方差最大法 (Varimax)：使每個因子上的負載盡可能向 ?1的方向，或 0的方向靠近。 實際上，按照前面的方法得到的負載矩陣 Ak?m所對應的公共因子往往綜合性太強，以致難以看出因子的實際意義，因此 需要通過旋轉(zhuǎn)坐標軸，使負載盡可能向? 0的方向靠近。 這表明 AT也是負載矩陣。 設 Ak?m是一個已經(jīng)得到的負載矩陣。 ?碎石準則 (Scree Test Criterion)：把特征值從大到小，繪在坐標圖上（橫坐標是特征值從大到小的編號，縱坐標是特征根的值），把特征根減小速度變緩的特征根都去掉。 注意： 這一算法只是近似算法 。若 111 ba ??TR 11)( aaX ?接近對角矩陣，則說明剩下的主要是特殊因子的影響了，計算停止。 記 ，可以證明， 若 λ2是 R1*的最大特征根， b2是與之對應的任意一個模長為 1的特征向量，則 就是所求 。 可以證明： ??? εAAX ()( C O VC O V T由于 ε已知，所以 已知，記 ?? εX ()( C O VC O V???? εXAAX ()()(* C O VC O VR T現(xiàn)在的任務是 由已知的 R*(X)來求（ k?m階）矩陣 A。 沒有針對 KMO測度的顯著性檢驗。 因此 KMO越接近 1，越適合于公共因子分析。 （ 1） KMO樣本測度 (KaiserMeyerOlkin Measure of Sampling Adequacy)。所以 在進行因子分析之前，必須先檢驗 X1, X2, …, Xk之間的相關性 。此外 在因子模型中除了公共因子外還存在特殊因子，因此公共因子只能解釋原來變量的部分方差，而主成分能解釋原來變量的所有方差 。 jmimjijiij aaaaaar ???? ?2211（ 3） xi的方差為： 1)()(2 ??? iii eV a rhxV a r其中 22 2212 imiii aaah ???? ? （即負載矩陣第 i行元素的平方和）稱為 公因子方差 (Communality)， 又稱為 公共度 或 公共方差 ，代表了xi的方差中由公共因子決定的部分。 矩陣 ????????????kmkkmmaaaaaaaaa???????212222111211稱為 公共因子的負載矩陣 。 因子分析最初由英國心理學家 C. Spearman提出。 （ 2） 數(shù)據(jù)化簡 通過因子分析可以用所找出的少數(shù)幾個因子代替原來的變量做回歸分析、聚類分析、判別分析等。 321 FFF 、i?因子分析的主要作用： （ 1） 尋求基本結構 在多元統(tǒng)計分析中我們經(jīng)常遇到諸多變量之間存在強相關的問題。 但消費者主要關心的是三個方面，即商店的環(huán)境、商店的服務和商品的價格。它通過研究眾多變量之間的內(nèi)部依賴關系，探求觀測數(shù)據(jù)中的基本結構，并用少數(shù)幾個假想變量來表示其基本的數(shù)據(jù)結構。 （ 2）求 R的特征根 ?1， ?2， … ， ?k（從大到小排列）及一組相互正交的單位特征向量 b1， b2， … ， bk。 ????kiisii11?? 我們進行主成分分析的目的之一是希望用盡可能少的主成分 Y1， Y2， … ， Ys（ s≤k） 代替原來的 k個指標 。 協(xié)方差矩陣 ?的 對角線上的元素之和等于特征根之和 。 如果第一主成分的信息不夠，則需要尋找第二主成分。 而 U恰好是由特征根相對應的單位特征向量所組成的正交陣 。 Yl和 Y2稱為原始變量 X1和 X2的綜合變量。變量 Yl代表了原始數(shù)據(jù)的絕大 部分信息，在研究某經(jīng)濟或管理問題時，即使不考慮變量 Y2也無損大局。顯然，如果只考慮 Xl和 X2 中的任何一個，那么包含在原始數(shù)據(jù)中的經(jīng)濟信息將會有較大的損失。 然后，從 Y1, Y2, …, Yk中選出對方差貢獻最大的部分指標作為主成分。