[工學]第8章主成分分析-免費閱讀

　　

【正文】 relationships X?Y) ? Simca classification ? PLSdiscriminant 判別 analysis (classification) ? Hierarchical 分層，等級 PCA and PLS ? Predictions and classification of new data using any model MVA – SIMCA Road Map Data set = all data。 C o m p o n e n t P l o tC o m p o n e n t 11 . . 0 . 5 1 . 0Component 21 . 0.50 . 0 . 5 1 . 0e n g l i s hh i s t o r yl i t e r a tc h e mp h y sm a t h左面三個點是數學、物理、化學三科，右邊三個點是語文、歷史、外語三科。 比如第一主成分作為數學 、物理 、 化學 、 語文 、 歷史 、 英語這六個原先變量的線性組合 ， 系數 （ 比例 ） 為 , , , , , 。 ? 選擇越少的主成分 ， 降維就越好 。 因此 ，需要尋找橢圓的長短軸 ， 并進行變換 ， 使得新變量和橢圓的長短軸平行 。綜合指標稱為因子或主成分，一般有兩種方法： ?特征值 1 ?累計貢獻率 例：成績數據 ? 100個學生的數學 、 物理 、 化學 、 語文 、歷史 、 英語的成績如下表 （ 部分 ） 。第八章 多元數據分析 主成分分析的概念 主成分分析方法 主成分分析的概念 ? 多變量大樣本為科學研究提供豐富的信息，但也在一定程度上增加了數據采集的工作量，更重要的是在大多數情況下，許多變量之間可能存在相關性而增加了問題分析的復雜性，同時對分析帶來不便。 從本例可能提出的問題 ? 能不能將 6個變量用一兩個綜合變量來表示呢 ？ ? 這一兩個綜合變量包含有多少原來的信息呢 ？ ? 能不能利用找到的綜合變量來對學生排序呢 ？ 這一類數據所涉及的問題可以推廣到對企業 ， 對學校進行分析 、 排序 、 判別和分類等問題 。 ? 如果長軸變量代表了數據包含的大部分信息 ， 就用該變量代替原先的兩個變量 （ 舍去次要的一維 ） ， 降維就完成了 。 什么是標準呢 ？ ? 那就是這些被選的主成分所代表主軸的長度之和占了主軸長度總和的大部分 。 ? 如用 x1,x2,x3,x4,x5,x6分別表示原先的六個變量 ， 而用 y1,y2,y3,y4,y5,y6表示新的主成分 ， 那么 ， 原先六個變量 x1,x2,x3,x4,x5,x6與第一和第二主成分 y1,y2的關系為： x1= + x2= + x3= + x4= + x5= + x6= + ? 這些系數稱為主成分載荷 （ loading） ， 它表示主成分和相應的原先變量的相關系數 。 A typical data analysis situation ? 12 Jams samples were made from berries plucked in various cultivars and seasonal times. ? Several parameters (sensory measurements) were measured on each sample. Data set Raspberry Jams What samples are similar/dissimilar to each other? Sample parison according to 1 variable: Redness What about the 11 other parameters? Sample parison according to 2 variables: Redness and colour What about the 10 other parameters? 456784 5 6 7 8 9 ( R E D N E S S , C O L O U R )C 1 _ H 1C 2 _ H 1C 3 _ H 1C 4 _ H 1C 1 _ H 3C 2 _ H 3C 3 _ H 3C 4 _ H 3C 1 _ H 2C 2 _ H 2C 3 _ H 2C 4 _ H 2E le m e n t s :S l o p e :O f f s e t :C o r r e la t io n :R M S E D :S E D :B i a s : 1 20 . 7 8 6 6 9 21 . 5 6 9 4 0 90 . 9 8 2 5 1 50 . 5 3 0 9 0 70 . 3 9 2 5 4 40 . 3 7 4 9 8 3Sample parison according to 3 variables: Redness, colour and R. Smell What about the 9 other parameters? ( R E D N E S S , C O L O U R , R . S M E L L )3 . 54 . 04 . 55 . 05 . 56 . 03456789 4 5678XY123456789101112Sample parison according to all 12 variables: multivariate model (PCA) 2101233 2 1 0 1 2 3 4 R E SU L T 1 , X e x p l : 5 8 % , 2 8 % C 1 _ H 1C 2 _ H 1C 3 _ H 1C 4 _ H 1C 1 _ H 3C 2 _ H 3C 3 _ H 3C 4 _ H 3C 1 _ H 2C 2 _ H 2C 3 _ H 2C 4 _ H 2P C 1P C 2 S c o re sMap of samples Sample parison according to all 12 variables: multivariate model (PCA) Map of variables 0 . 60 . 40 . 200 . 20 . 40 . 60 . 2 0 0 . 2 0 . 4 0 . 6 0 . 8 R E SU L T 1 , X e x p l : 5 8 % , 2 8 % R ED N E S SC O L O U RS H I N I N E SR . S M EL LR . F L A VS W EE T N ESS O U R N E SSB I T T ER N EO F F F L A VJ U I C I N EST H I C K N E SC H E W . R E SP C 1P C 2 X l o a d in g sSample parison according to all 12 variables: multivariate model (PCA) Map of Samples amp。 Work set = working copy of data 1 . S t a r t a p r o j e c tF i l e N e wR e a d D a t a F i l eS p e c i f y L a b e l C o l s amp。 overview of data) ? Projection to Latent潛在的 Structures (PLS。這個圖叫做載荷圖。是怎么樣的組合呢？ C o m p o n e n t M a t r i xa . 8 0 6 . 3 5 3 . 0 4 0 . 4 6 8 . 0 2 1 . 0 6 8 . 6 7 4 . 5 3 1 . 4 5 4 . 2 4 0 . 0 0 1 . 0 0 6 . 6 7 5 . 5 1 3 . 4 9 9 . 1 8 1 . 0 0 2 . 0 0 3. 8 9 3 . 3 0 6 . 0 0 4 . 0 3 7 . 0 7 7 . 3 2 0. 8 2 5 . 4 3 5 . 0 0 2 . 0 7 9 . 3 4 2 . 0 8 3. 8 3 6 . 4 2 5 . 0 0 0 . 0 7 4 . 2 7 6 . 1 9 7M A T HP H Y SC H E ML I T E R A TH I S T O R YE N G L I S H1 2 3 4 5 6C o m p o n e n tE x t r a c t i o n M e t h o d : P r i n c i p a l C o m p o n e n t A n a l y s i s .6 c o m p o n e n t s e x t r a c t e d .a . ? 這里每一列代表一個主成分作為原來變量線性組合的系數 （ 比例 ） 。 ? 正如二維橢圓有兩個主軸 ， 三維橢球有三個主軸一樣 ， 有幾個變量 ， 就有幾個主成分 。 ? 但坐標軸通常并不和橢圓的長短軸平行 。 ? 主成分分析就是將多個實測變量轉換為少數幾個不相關的綜合指標的多元統計分析方法 主成分分析的概念 ? 綜合指標之間彼此不相關，即各指標代表的信息不重疊。 主成分分析的概念 ? 如果分別分析每個指標，分析又可能是孤立的，而不是綜合的。 ? 本例中的數據點是六維的；即每個觀測點是 6維空間中的一個點 。 ? 橢圓 （ 球 ） 的長短軸相差得越大 ， 降維也越有道理 。 ? 所選的主軸總長度占所有主軸長度之和的大約85%即可 。 ? 比如 x1表示式中 y1的系數為 ， 這就是說第一主成分和數學變量的相關系數為 。 Variables 1 . 00 . 500 . 51 . 0