pca人臉特征提取技術研究畢業論文(編輯修改稿)

　

【文章內容簡介】 給定一個維隨機向量，可將其展開成個維基向量的線性組合 (21)式中，為隨機系數向量。為維的矩陣，即 (22)這里，實際上定義了一個從到的線性變換。KT變換要求，變換后的隨機系數向量中的各個分量是相互正交的，由此可以確定的具體形式。按照以上要求，應有 (23)即 (24)于是，若的自相關矩陣為已知的，則有 (25)若進一步要求為歸一正交矩陣，即 (26)式中為單位陣，可以得到 (27)此即的特征方程，有 (28)其中，是的一個特征值，是對應的特征向量。因此，變換矩陣可由的自相關矩陣的特征向量構成。由于是實對稱且非負定的矩陣，所以能夠滿足以上對的要求，且其所有的特征值都是非負的。由的歸一正交性容易得到以下KL變換式 (29)在KL變換中，用來產生特征向量集合的自相關矩陣稱為生成矩陣，而確定變換性質的矩陣稱為變換矩陣。 特征壓縮以上關于基本變換的討論中，從到的變換過程中，向量的維數并沒有發生變化，下面考慮從的部分分量中重建的問題。將式(21)重寫為 (210)當只取的前個分量，忽略后個分量時，的估計值為 (211)此時的誤差向量為 (212)均方誤差為 (213)可見，使均方誤差最小的選擇應該是使忽略掉的分量對應的特征值之和為最小。于是，可以選擇前個最大的特征值對應的特征向量構成的變換矩陣 (214)利用代替，按照式(29)進行變換，則有 (215)得到的變換域維向量就是向量經過壓縮之后的主成分。理論分析指出，為使均方誤差最小，應該使變換前的隨機向量均值為零向量。 基于PCA算法的人臉特征提取對于計算機中的一幅圖像，用f(x,y)表示。這里x和y指空間的坐標，點(x,y)上的f值正比于該點的亮度。一幅圖像被讀入計算機以后是用矩陣形式存放的，用B(i,j)表示。其行和列標出了圖像上的一個點，而矩陣中的相應元素的值則表示該點的灰度等級。這樣的數字陣列中的元素就叫做象素。一幅wh大小的人臉圖像按列相連而構成一個x=w*h維矢量，它可被視為w*h維空間的一個點。由于人臉結構的相似性，當把很多這樣的人臉圖像歸一化（預處理）之后，這些圖像在這一超高維空間中不是隨機或散亂地分布，而是存在某種規律。因此，可以通過KL變換用一個低維子空間描述人臉圖像，同時又能保存所需要的識別信息。在人臉識別的實踐中，系統給定的是一系列的訓練樣本，即人臉圖像集合。因此，在將KL變換的基本理論用于人臉識別時，還有一些具體問題需要解決。基于PCA的人臉特征提取可以以訓練樣本集的總體散度矩陣作為K一L變換的產生矩陣，也可以是訓練樣本集的類間散布矩陣，即可以采用同一人的數張圖像的平均來進行訓練，這樣可在一定程度上消除光線等的干擾，且計算量可以減少，同時識別率不會下降。 總體散布矩陣的形成對于的幅人臉圖像集，根據圖像在成像過程中的具體情況，通常需要首先進行一定的預處理，這可能包括圖像平滑和灰度增強等圖像處理步驟。然后，一個必要的過程是將矩陣形式的圖像按照行或列展開為維的向量，即 (216)為了使其均值為零，需要減去其均值向量，即 (217)式中叫做訓練樣本矩陣。為的統計均值估計，即 (218)這時，KL變換中的自相關矩陣變成了協方差矩陣，可按下式求其最大似然估計（忽略了常數） (219)該估計又稱為總體散布矩陣，這也就是KL變換的生成矩陣。 維數問題當將的人臉圖像表示為向量時，其維數為，由此得到總體散布矩陣的維數為。例如，若，則總體散布矩陣就是維的，而人臉數據庫中樣本的數目通常要小得多，例如幾千個左右，這就導致總體散布矩陣的秩是由決定的。從式(219)可以看出，在和式的項中，只有項是獨立的，因此，總體散布矩陣的秩通常為，這也是其非零特征值的個數，而零特征值對應的特征向量在人臉圖像的表示中是沒有意義的。綜上所述，在人臉的PCA方法中，所選擇特征向量的數目的上限應為。 變換矩陣的求解及變換的實現求解變換矩陣就是求生成矩陣的特征值和特征向量。按照(27)和(28)式，有 (220)或 (221)通常，該特征方程的求解有以下三種方式：直接求解方式直接求解(220)或(221)式中的代數方程。由于總體散布矩陣的維數通常非常高，所以這種求解方式耗時比較大。在MATLAB中可利用以下函數 (222)以上MATLAB函數對得到的特征值不進行排序。間接求解方式之一不同于直接求解方式，這里不是對直接求特征值和特征向量，而是通過求的特征值和特征向量得到所求。具體地，對求解特征值和特征向量，有如下特征方程 (223)上式兩邊左乘后，有 (224)比較(220)式可見。顯然，的維數是，通常比的維數要低得多。間接求解方式之二通過對訓練樣本矩陣進行奇異值分解（SVD），也可間接求解特征方程。的SVD可以表示為 (225)式中和都為正交矩陣，而為奇異值矩陣，于是，總體散布矩陣可寫為 (226)進一步整理后得到 (227)對比式(220)，有。在MATLAB中可利用以下函數進行奇異值分解 (228)以上MATLAB函數對得到的奇異值將進行排序。一旦求得了特征值和特征向量，就可以按照式(214)的方法，選取前個最大的非零特征值所對應的特征向量構成變換矩陣，并按照下式對所有人臉樣本進行KL變換。 (229) 特征臉我們將特征值從大到小排序：，其對應的特征向量為0, 1,... ，每一幅人臉都可以投影到由0, 1,... m張成的子空間中，因此每一幅人臉圖像對應于子空間中的一個點。同樣，子空間中的一點也對應于一幅圖像。當特征向量0, 1,... m顯示為圖像時，這些圖像很像人臉，所以它們被稱為“特征臉”。有了這樣一個由“特征臉”張成的特征子空間，任何一幅人臉圖像都可以向其作投影并獲得一組坐標系數，這組系數表明了該圖像在子空間中的位置，從而可以作為人臉識別的依據。換句話說，任何一幅人臉圖像都可以表示為這組“特征臉”的線性組合，其加權系數即是KL的展開系數，也可以稱為該圖像的代數特征。 ORL人臉庫的8個人的圖像 特征臉的顯示 PCA算法。PCA算法（Principal Component Analysis Algorithm）描述：基于PCA方法，求出圖像在特征空間的展開系數（坐標）輸入：人臉圖像訓練集人臉圖像測試集輸出：訓練集圖像，測試集圖像在特征空間的展開系數步驟：聯立以下四式求出，求出的特征值和特征向量根據求出的特征值和特征向量對進行排序取前個最大的特征值所對應的特征向量對于圖像屬于訓練集，已求出，由和 求得；若屬于測試集，由和求出返回、 PCA算法的詳細步驟流程 人臉識別的分類準則 相似性測度人臉樣本經過特征提取過程，最終成為特征空間中的點。因此，樣本之間的相似性，通常可以通過計算距離或角度實現。給定向量和，常用的相似性測度有歐氏距離 (230)街區距離 (231)馬氏距離（Mahalanobis） (232)式中為模式的協方差矩陣。有時也可采用以下簡化形式 (233)其中是第個分量的方差。夾角余弦 (234)此外，也有人采用明氏距離（Minkowski Distance，歐氏距離和街區距離的一般化形式）、歐氏距離平方、均方誤差、相關系數以及加權的街區距離、加權的均方誤差和加權的夾角余弦等。 分類器按照距離的分類準則主要有：最近鄰分類器最近鄰（Minimum Distance）分類器是最常用的距離分類器之一，首先需要求己知樣本的類中心（類平均），把待識別樣本歸為與之距離最近的類中心所在的類。最近鄰分類器最近鄰（Nearest Neighbor）分類器也是最常用的距離分類器之一，即把待識別樣本歸為與之距離最近的已知樣本所在的類。K近鄰分類器K近鄰（K Nearest Neighbor）分類器，取待識別樣本的K個近鄰，這K個近鄰中屬于哪一類的己知樣本多，則把待識別樣本歸為哪一類。按照其他相似性測度分類的規則與以上分類規則相似。此外，利用樣本分布的統計特性的分類器主要有：Bayes分類器基于Bayes決策理論的分類方法是統計模式識別中的一個基本方法，考慮到樣本特定概率分布的情況，利用這個方法進行分類時對模式類別有兩個基本要求：一是各類別總體的概率分布是己知的，二是待分類的類別數是一定的。采用最大后驗概率的Bayes判決準則為最小錯誤概率準則，考慮實際中判決錯誤導致的結果后，該準則可以改變為最小平均條件風險判別準則。隱馬爾可夫模型隱馬爾可夫模型（HMM）已經成功地應用于對語音、圖像和視頻中的時域信息進行建模，因此，也在人臉識別中得到了應用。將傳統的一維隱馬爾可夫鏈用于兩維的圖像信號時，需要首先將圖像變換為一維的觀察序列。高復雜度的兩維HMM包括偽兩維HMM、嵌入式HMM和嵌入式Bayes網絡。支持向量機分類器支持向量機（SVM）是在結構風險最小化基礎上，對兩種不同類別的樣本數據找到一個最優分類界面的方法。在人臉識別中，SVM技術通常包括兩個方面：第一是采用核方法將樣本映射到高維空間，并在此空間中找到具有最大保護余量的分類界面（超平面）；第二是由于SVM本來是解決兩類模式的分類問題，因此需要推廣到多類模式的分類。神經網絡分類器神經網絡在能夠實現分類的同時，還具有特征提取的能力。其中，人臉識別中最常用的神經網絡是采用反向傳播（BP）算法的前饋網絡。 PCA的特點及存在問題 特點PCA是人臉識別研究歷史上第一種基于人臉全局視覺特征或圖像特征的方法，其全新的研究思路使人臉識別的研究進入了柳岸花明的境地。在成像條件受控的情況下，其識別性能良好，識別率可達到80%以上。該方法有堅實的數學理論基礎，有很高的可操作性。因此，已經成為繼續探索新的人臉識別方法的一個基石。在訓練樣本的數目和多樣性足夠的情況下，其對光照和姿態等變化具有一定的魯棒性。PCA主要具有以下特點:屬于測量空間的任一模式都有唯一的特征矢量與之對應，這一特性說明模式的變換沒有丟失分類的主要信息。主元具有穩定性。即當輸入矢量有微小變化時，其對應的主元變化將小于輸入模式的變化。這一特性說明對圖像噪聲等因素引起的圖像灰度變化有不敏感性。經過映射隨著