畢業(yè)設(shè)計(jì)-主成分分析-文庫(kù)吧

【正文】 形可以較好地反映地震活動(dòng)異常增強(qiáng)的特征。 主成分分析在生命科學(xué)研究中的應(yīng)用。生物樣品特征譜的復(fù)雜多變性，對(duì)生物的每一個(gè)細(xì)小特征都進(jìn)行處理分析已經(jīng)是不現(xiàn)實(shí)的一種方法，因此很多的統(tǒng)計(jì)分析方法自然就被排除了，而主成分分析對(duì)于高維度的分子生物學(xué)數(shù)據(jù)則似乎是一種最恰當(dāng)?shù)姆治龇椒āＶ鞒煞址治鲈诮?jīng)濟(jì)評(píng)價(jià)中的應(yīng)用。在研究較復(fù)雜的經(jīng)濟(jì)問題時(shí),利用多元統(tǒng)計(jì)分析中的主成分分析,可從多個(gè)經(jīng)濟(jì)指標(biāo)中找出起支配作用的共同因素,從而抓住主要矛盾,以較少的變量進(jìn)行定量分析,對(duì)企業(yè)的經(jīng)濟(jì)效益進(jìn)行公正的評(píng)價(jià)。 此外，主成分分析方法已經(jīng)被作為一種科學(xué)的分析方法廣泛地運(yùn)用于工農(nóng)業(yè)生產(chǎn)、環(huán)境保護(hù)、商業(yè)盈利等等，并且主成分分析方法的應(yīng)用領(lǐng)域會(huì)隨著技術(shù)的進(jìn)步越來(lái)越廣闊。所謂模式識(shí)別技術(shù)，是隨著現(xiàn)代科學(xué)技術(shù)的發(fā)展，特別是計(jì)算機(jī)技術(shù)的發(fā)展而形成的一種模擬人的各種識(shí)別能力和方法的技術(shù)。它基本上屬于一種自動(dòng)判別和分類的理論。模式識(shí)別當(dāng)前主要運(yùn)用在地球環(huán)境的調(diào)查研究、生物醫(yī)學(xué)工程、生產(chǎn)管理自動(dòng)化、軍事偵查等領(lǐng)域。模式識(shí)別技術(shù)是在計(jì)算機(jī)上實(shí)現(xiàn)的，而計(jì)算機(jī)只識(shí)別數(shù)字和字符，故所有模式都必須首先數(shù)值化或符號(hào)化，才能進(jìn)行自動(dòng)識(shí)別，也就是說前提是對(duì)模式的特征測(cè)量數(shù)值化。在模式識(shí)別中，被觀測(cè)的每個(gè)對(duì)象成為一個(gè)樣品。對(duì)每個(gè)樣品必須確定一些與識(shí)別有關(guān)的因素，作為研究的根據(jù)；每個(gè)因素成為一個(gè)特征。例如，在研究地震危險(xiǎn)區(qū)域劃分時(shí)，每個(gè)樣品是一塊區(qū)域，與之對(duì)應(yīng)的特征可以取該區(qū)域內(nèi)的各項(xiàng)地質(zhì)地貌特征，如主活動(dòng)斷裂數(shù)，主活動(dòng)斷裂的端點(diǎn)及交匯點(diǎn)個(gè)數(shù)，區(qū)域內(nèi)的最大高程等。又如，在醫(yī)學(xué)診斷中，每個(gè)樣品是一個(gè)患者，特征便可取與診斷有關(guān)的各項(xiàng)病理指標(biāo)等，如體溫、血壓、白血球數(shù)目等。 模式識(shí)別建立在對(duì)模式特征量化的基礎(chǔ)上，也就是說，首先要對(duì)表征模式的各種特征加以量測(cè)或量化，得到每一模式的特征數(shù)值集合或特征向量，然后根據(jù)不同類型模式具有不同的特征數(shù)值集合，進(jìn)行自動(dòng)辨別。 特征的引入通常要經(jīng)過一個(gè)從少到多，又從多到少的過程。所謂從少到多，是指在設(shè)計(jì)識(shí)別方案的初期階段應(yīng)盡量多地列舉出各種可能與分類有關(guān)的特征，這樣可以充分利用各種有用的信息，改善分類效果，這一步驟稱為特征提取或特征抽提，如利用KL變換的分類來(lái)進(jìn)行特征提取。 這里產(chǎn)生的問題是特征數(shù)值向量的分量個(gè)數(shù)很多(或維數(shù)很多)，但是否都能有效地代表各類模式，針對(duì)不同的對(duì)象，是否都需要那么多特征來(lái)進(jìn)行辨別，這是需要考慮的問題。由于模式識(shí)別是由計(jì)算機(jī)自動(dòng)處理的來(lái)完成的，在模式維數(shù)很高的情況下，計(jì)算量太大，且識(shí)別精度并不一定隨著維數(shù)增多而提高，因此就很有必要對(duì)已有的眾多特征進(jìn)行選擇與提取，也就是說需要選擇最有代表性的特征，另外，針對(duì)不同的研究對(duì)象，還需要進(jìn)行不同的特征組合。為了使特征數(shù)目從多到少，需要進(jìn)行所謂的特征選擇。特征選擇通常包括兩方面的內(nèi)容:一方面是對(duì)單個(gè)特征的選擇，即對(duì)每個(gè)特征分別進(jìn)行評(píng)價(jià)，從中找出那些對(duì)識(shí)別作用最大的特征，如KW檢驗(yàn)、直方圖方法、不確定性選擇等等；另一方面是從大量原有特征出發(fā)，構(gòu)造少數(shù)有效的新特征，有時(shí)也稱為降維映射，如主成分分析、對(duì)應(yīng)分析。在模式識(shí)別技術(shù)中最常使用的特征選擇方法就是降維映射方法，而降維對(duì)分方法中所得到的新特征D，D是原有特征X1,X2,X3的二次函數(shù)，因此這種映射稱為非線性映射。目前比較普遍使用的降維映射方法仍然是線性映射，即各個(gè)新特征Yi(i=1,2,…,v,vn)與舊特征X1,X2,…，Xn之間的關(guān)系為 Yi=Ai1+Ai2X2+…+AinXn，i=1,2,…,v 其中各Aij是常數(shù)在本文的免費(fèi)師范生生源多因素分析中，我們采用的是線性映射的主成分分析這一方法來(lái)進(jìn)行特征選擇這一過程。 KL變換 KL變換(KarhunenLoeve Transform)是建立在統(tǒng)計(jì)特性基礎(chǔ)上的一種變換，KL變換的突出優(yōu)點(diǎn)是相關(guān)性好，是均方誤差意義下的最佳變換，它在數(shù)據(jù)壓縮技術(shù)中占有重要地位,但需要先知道信源的協(xié)方差矩陣并求出特征值。求特征值與特征向量并不是一件容易的事，維數(shù)較高時(shí)甚至求不出來(lái)。即使能借助計(jì)算機(jī)求解，也很難滿足實(shí)時(shí)處理的要求，而且從編碼應(yīng)用看還需要將這些信息傳輸給接收端。這些因素造成了KL變換在工程實(shí)踐中不能廣泛使用。人們一方面繼續(xù)尋求解特征值與特征向量的快速算法，另一方面則尋找一些雖不是“最佳”、但也有較好的去相關(guān)與能量集中的性能且容易實(shí)現(xiàn)的一些變換方法。而KL變換就常常作為對(duì)這些變換性能的評(píng)價(jià)標(biāo)準(zhǔn)。設(shè)有一批樣品，假定對(duì)每個(gè)樣品取n個(gè)特征，即X=(x1，x2，……，xn)T,要求構(gòu)造n個(gè)新特征y1，y2，……，yn，并使得它們滿足以下1）、2）、3）3個(gè)條件：1) 每個(gè)新特征是原有各特征的線性組合，即 yi=ui1x1+ui2x2+…+uinxn，i=1,2,…,n， ①或yi=uT iX，ui=(ui1,ui2,…，uin)T,i=1,2,…,n,其中uij是常數(shù)，2) 各個(gè)新變量之間是互不相關(guān)的，即相關(guān)系數(shù)為零，即 r(yi,yj)=0, i,j=1,2,…n； i≠j ②3) u1使y1的方差達(dá)到極大值，u2使y2的方差達(dá)到次大，即 var(y1)≥var(y2)≥…≥var(yn)≥0 ③需要注意的是上述方差達(dá)到極大須加上某種限制，否則線性組合的權(quán)值無(wú)窮大就沒有意義了，實(shí)際問題常規(guī)定ui12 +ui22+…+uin2 =1以方便計(jì)算。滿足以上條件的新特征y1，y2，……，yn，分別稱為樣品點(diǎn)的第…、n個(gè)主成分，其中樣品的數(shù)學(xué)模型如下：X=(x1，x2，……，xn)T=，m為樣品的個(gè)數(shù).由以上的變換可以看出主成分是原變量的線性組合，是對(duì)原變量信息的一種改組，主成分不增加總信息量，也不減少總信息量。怎樣求出樣本數(shù)據(jù)的的主成分y1，y2，……，yn，或者說怎樣求出各個(gè)ui，首先求出全體樣品點(diǎn)特征的協(xié)方差矩陣Sx或者是相關(guān)系數(shù)矩陣R，其表示如下：或R(相關(guān)系數(shù)矩陣R算法見相關(guān)書籍) 通過對(duì)同一原始數(shù)據(jù)的協(xié)方差矩陣和相關(guān)系數(shù)矩陣主成分分析進(jìn)行比較研究,發(fā)現(xiàn)二者的應(yīng)用與研究目的有關(guān),若不加區(qū)別,將會(huì)暴露各自的優(yōu)點(diǎn)與不足。因此,在實(shí)際應(yīng)用中,選擇哪種矩陣進(jìn)行主成分分析,應(yīng)視具體的研究目的而定，下面的問題討論均以協(xié)方差矩陣為例。這里S的下表x表示這是對(duì)應(yīng)于舊特征x1，x2，…，xn的協(xié)方差矩陣，求出的n個(gè)特征值，…，和與之對(duì)應(yīng)的特征向量u1，u2，…，un，每個(gè)是一個(gè)數(shù)，而與之對(duì)應(yīng)的特征向量ui是一個(gè)列向量ui(ui1，ui2，……，uin)T,它們之間的關(guān)系是 Sxui=ui， i=1,2,…,n ④關(guān)于樣品協(xié)方差的定義如下：在N個(gè)樣品中，第i個(gè)特征和第j個(gè)特征的之間的協(xié)方差為，則可以用如下公式求出，Sij= ⑤表示樣品點(diǎn)中第i個(gè)特征的均值，由此協(xié)方差公式可以的出Sx是對(duì)稱矩陣，即，因而在計(jì)算時(shí)只要求出它的上三角形或下三角形部分即可，并且Sx主對(duì)角線元素就是特征的方差。 在求和ui就相當(dāng)于解以上方程，具體解法可在各種計(jì)算方法中找到。如果我們?cè)诮夥匠虝r(shí)還要求正交歸一條件成立，即uT iuj=0且uT iui=1成立，則各個(gè)ui就是唯一確定的。現(xiàn)在我們需要說明的是用以上方法求出的各個(gè)ui就可以滿足前面所說的3個(gè)條件1)、2）、3)。令 yi=uT iX，i=1,2,…,n，則也就是要滿足如下關(guān)系：=或Y=UX ⑥ 于是y1，y2，……，yn就是由x1，x2，……，xn經(jīng)線性變換而得到的新特征。可以證明，當(dāng)經(jīng)過上述形式的線性變換后，如果對(duì)應(yīng)于X的協(xié)方差矩陣是Sx，那么對(duì)應(yīng)于Y的協(xié)方差矩陣就是Sy=USxUT，注意到UT的每列恰好是Sx的一個(gè)特征向量并利用條件④就可以得到：