關于使用eviews進行主成分分析和因子分析方法的ppt講義(編輯修改稿)

　

【文章內容簡介】 i lllZ ?????? 22221)var( ?21222221 imjijimii hllll ????? ???1)var( 2 ??? iii hZ ?44 式（ ）表明， hi2 接近 1時， ?i 接近 0，說明 Zi 包含的幾乎全部信息都可以被公因子解釋；當 hi2 接近 0 時，表明公共因子對 的影響不大，主要由特殊因子描述。因此， hi2 也反映了變量 Zi 對公共因子的依賴程度。與此類似，矩陣 L 的第 j 列元素反映了第 j 個因子 Fj 對所有變量 Z 的影響，記為 () 稱為公共因子 Fj 對原始變量向量 Z 的方差貢獻，是衡量公共因子相對重要性的一個尺度，其值越大反映 Fj 對原始變量向量 Z 的方差貢獻也越大。 ???piijj lg12245 因子載荷的估計方法 因子分析的首要步驟是先確定因子載荷，或估計得到因子載荷矩陣 L，注意在式（ ）和式（ ）中的F1, F2, …, Fm是不可觀測的隨機變量，因此因子載荷矩陣L的估計方法都比較復雜，常用的方法有極大似然法、主成分法、迭代主成分方法、最小二乘法、 ? 因子提取法等。 46 1．極大似然法 如果假設公共因子 F 和特殊因子 ε 服從正態分布，即F～ Nm(0, I)， ? ～ Np(0, ?)， X1, X2, …, Xp 的均值為 ? = (?1, ?2 , …, ?p) ，則觀測值 X1, X2, …, Xp 為來自正態總體 Np(?, ?) 的樣本，可以采用極大似然法估計因子載荷矩陣和特殊方差，似然函數是 ? 和 ? 的函數 L(? , ? )。 由于 ，因此似然函數可以更清楚地表示為 L(? , L, ? )，記 (? , L, ? )的估計量為 ，則有 （ ） ΨLLΣ ??? )???( Ψ,L,μ ),(max)?,?,?( ΨLμΨLμ LL ?47 2．主成分方法 用主成分法確定因子載荷，就是對隨機變量進行主成分分析，把前面幾個主成分作為原始公共因子。其具體過程如下，設有 p 個變量 Z = (Z1, Z2 , …, Zp)?，可以求得從大到小排序的 p 個主成分 Y1， Y2， … ， Yp，根據 內容可知，原始變量與主成分之間存在如下的關系： （ ） ???????????????????????????????????????????ppppppppZZZYYY?????????2121222211121121?????????48 由于 A =(?1, ?, …, ?p)?= (e1, e2, …, ep)? 為正交矩陣，則有 () 如果在式（ ）中僅取前 m個主成分，把其余的 pm 個主成分用特殊因子 ?i 代替，則式（ ）可以表示為 （ ） 式（ ）與式（ ）的形式一致， Yi 表示主成分，因此相互獨立。 YAZ ????????????????????????pmmppppmmmmYYYZYYYZYYYZ????????????????221122222112211221111149 為了使 Yi 符合式（ ）假設的公共因子，需要將主成分 Yi 的方差轉變為 1。由 ，主成分方差為特征根 ?i，只需要將 Yi 除以標準差 即可，令 ， （ ） 則式（ ）轉變為： （ ） 式（ ）已與式（ ）不僅在形式上一致，而且完全符合式（ ）～式（ ）的假設。由此就得到因子載荷矩陣和一組初始公共因子。 i? iii YF ?/? jiiijl ?????????????????????????pmpmpppmmmmFlFlFlZFlFlFlZFlFlFlZ???????221122222121211212111150 3．迭代主成分方法（ Iterated Principal Factors） 迭代主成分方法也叫主因子法，或主軸因子方法 ， 是對主成分法的一種修正。首先對原始變量進行標準化處理，其相關矩陣與協方差矩陣一致，使其因子模型滿足式（ ），根據式（ ）有 () 令 () 稱 R*為調整相關矩陣，或約相關矩陣。不妨設特殊因子 ?i 的方差的初始估計為 ?i*，則有 hi*2 = 1 ?i* ，且相應的樣本相關矩陣為 ，則對應的約相關矩陣為 () ΨLLRΣ ???? LLΨRR ????* ?????????????????2*2122*2121122*1** ??ppppphrrrhrrrh??????ΨRR?51 設 的前 m個特征值依次為 ?1*≥ ?2* ≥ … ≥ ?m* ≥0，相應的正交單位特征向量為 e1* , e2*,…, em*，則對應的因子載荷矩陣 L 的解為 (） 根據式（ ）和式（ ），可以進一步得到特殊因子方差的最終估計量為 , () 如果希望得到擬合程度更好的解，則可以采用迭代的方法，即利用式（ ）得到的特殊因子方差估計量帶入式（ ）重復上述步驟，直到所求解比較穩定為止。 *?R ? ??? ***2*2*1*1 ,? mm eeeL ??? ???????mjijii lh122 ?1?1??pi ,2,1 ??52 下面介紹幾種求特殊因子方差和公共因子方差初始估計的幾種常用方法： （ 1） 復合相關系數 （ squared multiple correlations，簡稱 SMC）方法 SMC是比較常用的一種方法，令 ，其中 rii是 的第 i個對角元素，此時公共因子方差的估計值為 它表示 Xi 與其他 p1 個解釋變量之間的復相關系數。 （ 2） 最大相關系數方法 （ max absolute correlation） 最大相關系數方法是用第 i 個變量 Xi 與其他變量相關系數絕對值的最大值來估計，即令 ，其中 rij 表示第 i 個變量 Xi 與第 j 個變量 Xj 的相關系數。 iii r/1* ??1??R iiii rh /111? *2 ???? ?ijjii rh ?? max? 253 （ 3） 對角線比例方法 （ fraction of diagonals） 該方法使用相關矩陣（或協方差矩陣）對角線元素的固定比例 ?。特殊的可以取 ? =1，此時結果等同于主成分求解得到的結果。 （ 4）分塊的協方差矩陣估計方法 （ partitioned covariance，簡稱 PACE） 由于第 3種方法 PACE的估計量是非迭代的，因此，比較適合為迭代估計方法提供初值。 （ 5） 特殊的直接取 ，則 ?i*=0，此時得到的 也是一個主成分解。 12* ?ih L?54 因子數目的確定方法及檢驗 上述求解過程中重要的是如何確定公因子數目 m，這是因子分析中最重要的一步。本小節將列出其中幾種常用的方法 1．因子數目的確定方法 (1) 最小特征值 （ KaiserGuttman Minimum Eigenvalue） KaiserGuttman規則也叫做“特征值大于 1”方法，是最常用的一種方法。只需要計算離差矩陣（相關矩陣、協方差矩陣）的特征值，特征值超過平均值的個數作為因子個數。特別地，對于相關矩陣，特征值的均值為 1，所以通常取特征值大于 1的數作為公因子數。 55 (2) 總方差比例 （ Fraction of Total Variance） 選擇公因子個數 m使得前 m個特征值的和超過公因子總方差的某一門限值。這種方法多用于主成分分析方法，比較典型的是這些成分構成總方差的 95%（ Jackson, 1993）。 (3) MAP方法 （ Minimum Average Partial） Velicer (1976) 提出的最小平均偏相關 (簡稱 MAP)方法原理是：給定 m個成分（ m = 0， 1， … ， p1），計算偏相關系數平方的平均值，應保留因子的個數是使得平均值最小化的個數 56 (4) 分割線段 （ Broken Stick） 分割線段模型的基本原理是：首先，計算離差矩陣中第 j個最大特征值對方差的貢獻度，然后計算從分割線段分布得到的相應的期望值 。當前者超過后者時，所對應的 j即為應該保留的因子個數（ Jackson, 1993）。 (5) 平行分析 （ Parallel Analysis） 平行分析模擬使用的數據與原始數據有著相同方差和觀測值個數，是由隨機生成器生成的獨立隨機變量數據集。計算模擬數據的 Pearson協方差和相關矩陣及其特征值。只要原始數據的特征值超過模擬數據的對應值，相應的個數將作為保留因子數 57 2．公共因子個數的大樣本檢驗 采用極大似然估計模型時，假設公共因子和特殊因子均服從正態分布，而正態分布的假定，可以幫助我們構造模型充分性的檢驗。設提取 m個公共因子的模型成立，則檢驗 m個公共因子的充分性等價于檢驗 （ ） 對應的備擇假設 H1 為 Σ 是任意其他的正定矩陣。 ΨLLΣ ???:0H58 在原假設成立的條件下可以構造下面的似然比統計量 （ ） 其中 Sn 表示協方差矩陣的極大似然估計； ，其中 和 分別表示 L 和 ? 的極大似然估計量，而 是 的極大似然估計量。式（ ）的統計量服從 ?2分布。 特別的， Bartlett在 1954年證明了 2ln?抽樣分布的 ? 2近似可以用多重因子（ n1 (2p+4m+5)/6）代替式（ ）中的 n。 ?????????????nnSΣ?lnln2ΨLLΣ ???? ???L?Ψ? ΨLLΣ ???? ??? ΨLLΣ ???59 利用 Bartlett修正，只要 n和 n p大，若 （ ） 則在顯著性水平 ? 下拒絕原假設 H0，認為 m 個因子是不充分的。式（ ）表示的 ?2統計量也稱為Bartlett?2統計量。由于式（ ）中的自由度必須大于0，進一步化簡可以得到