基于vq的大學(xué)生語(yǔ)音識(shí)別算法研究畢業(yè)論文-資料下載頁(yè)

　　

【正文】 硬聚類(lèi)算法是基于迭代搬遷方案。經(jīng)典的K均值算法是基于歐氏距離和基于板倉(cāng)齋藤距離的LindeBuzoGray（LBG）算法。矢量量化技術(shù)的性能取決于代表矢量的碼本的良好的存在。 在本文中，一個(gè)高效的VQ碼本設(shè)計(jì)算法稱(chēng)為改進(jìn)K均值LBG算法。該算法相比傳統(tǒng)的K均值算法和LBG算法具有優(yōu)越的性能。第2節(jié)描述了矢量量化的理論細(xì)節(jié)。第3節(jié)闡述LBG算法。第4節(jié)解釋經(jīng)典的K均值算法。第5節(jié)強(qiáng)調(diào)提出改進(jìn)的K均值LBG算法。實(shí)驗(yàn)工作和結(jié)果將在第6節(jié)和文末提出的結(jié)論性意見(jiàn)進(jìn)行討論。2 矢量量化數(shù)據(jù)壓縮的主要目標(biāo)是減少比特率的傳輸或存儲(chǔ)數(shù)據(jù)，同時(shí)保持必要的數(shù)據(jù)的保真度。特征向量可以表示包括線(xiàn)性預(yù)測(cè)編碼（LPC）系數(shù)在內(nèi)的多個(gè)不同的可能的語(yǔ)音編碼參數(shù)，以便對(duì)倒譜系數(shù)的確定。VQ可以看作標(biāo)量量化的一種矢量量化的概括。VQ編碼器編碼一個(gè)給定的k維數(shù)據(jù)向量與一個(gè)小得多的子集。該子集C被稱(chēng)為碼本，它的元素被稱(chēng)為碼字、碼向量、向量復(fù)制、原型或設(shè)計(jì)樣品。唯一的索引i被發(fā)送到解碼器。該解碼器具有相同的碼本作為編碼器和解碼是由查表程序操作。常用的矢量量化是基于稱(chēng)為最近鄰Voronoi圖或最近鄰矢量量化。無(wú)論是經(jīng)典的K均值算法還是LBG算法都屬于類(lèi)近鄰量化。模式匹配的一個(gè)關(guān)鍵組成部分是兩個(gè)特征向量之間相異的測(cè)量。相異的測(cè)量滿(mǎn)足幾個(gè)性能指標(biāo)，如對(duì)稱(chēng)性和三角不等式性質(zhì)。每個(gè)指標(biāo)有三個(gè)主要特點(diǎn)，如計(jì)算復(fù)雜性，分析性和可追蹤性功能評(píng)估的可靠性。在語(yǔ)音處理中使用的指標(biāo)是閔可夫斯基度量[J. S. Pan et ]。閔可夫斯基度量可以表示為 其中和是矢量，p為度量的順序。歐氏度量和曼哈頓度量是特殊情況的閔可夫斯基指標(biāo)。這些指標(biāo)在失真測(cè)量功能計(jì)算中都是十分必要的。失真度量只是一種滿(mǎn)足相異測(cè)量的正定屬性。有許多種變形的措施，包括歐氏距離，板倉(cāng)失真測(cè)度和似然失真測(cè)量等等。歐氏度量[TzuChuen Lu et al., 2010]是最常用的，因?yàn)樗m合距離或變形的物理意義。在某些應(yīng)用中除法的運(yùn)算不是必需的。為了避免計(jì)算分類(lèi)，平方歐氏度量采用歐氏度量的模式匹配來(lái)代替。二次度量[Marcel R. Ackermann et al., 2010]是歐幾里德度量的一個(gè)重要的概括。加權(quán)倒譜失真測(cè)度是一種quadratec度量。加權(quán)倒譜失真的關(guān)鍵特征是，它均衡的對(duì)倒譜系數(shù)的每個(gè)維度的重要性。在語(yǔ)音識(shí)別中，加權(quán)倒譜失真，可用于平衡不同的說(shuō)話(huà)者識(shí)別器的性能。板倉(cāng)齊藤失真[Arindam Banerjee et al., 2005]通過(guò)使用他們的頻譜密度測(cè)量計(jì)算兩個(gè)輸入向量之間的失真。 矢量量化器的性能可以通過(guò)一個(gè)失真度量D，它是一個(gè)非負(fù)的成本，與量化任何輸入矢量中的再現(xiàn)矢量關(guān)聯(lián)進(jìn)行評(píng)估。通常情況下，歐幾里得失真度量被使用。一個(gè)量化器的性能總是限定輸入矢量和最后再現(xiàn)的載體，其中E表示期望算子之間的平均失真。通常情況下，如果平均失真小，則對(duì)量化器的性能將是一件好事。矢量量化的另一重要因素是該碼字的搜索問(wèn)題。矢量維數(shù)成倍增加，相應(yīng)的搜索復(fù)雜性隨之增加，這是VQ碼字搜索的一個(gè)主要限制。它限制了編碼實(shí)時(shí)傳輸?shù)谋Ｕ娑取Ｒ粋€(gè)完整的搜索算法是應(yīng)用在VQ編碼和識(shí)別中。當(dāng)碼本大小是大的時(shí)候，這是一個(gè)耗時(shí)的過(guò)程。關(guān)于碼字搜索問(wèn)題，分配一個(gè)碼字的測(cè)試向量表示所有碼字之間的碼字和所述測(cè)試向量之間的最小失真。給定一個(gè)代碼字和測(cè)試向量X的k維空間，平方歐幾里德度量的畸變可以表示為如下： 其中和有三種方式產(chǎn)生并設(shè)計(jì)一個(gè)好的碼本，即隨機(jī)法，成對(duì)最近鄰聚類(lèi)和分割方法。各種各樣的變形的功能，如平方歐氏距離，馬氏距離，板倉(cāng)齊藤距離和相對(duì)熵已被用于聚類(lèi)。在VQ中有三個(gè)主要環(huán)節(jié)，即碼本的生成，編碼程序和解碼程序。LBG算法是一種有效的量化聚類(lèi)算法。這種算法要么是基于一個(gè)已知的概率模型或是一個(gè)長(zhǎng)訓(xùn)練序列的數(shù)據(jù)。3 Linde–Buzo–Gray（LBG）算法LBG算法也被稱(chēng)為廣義的勞埃德算法（GLA）。它是用來(lái)作為設(shè)計(jì)標(biāo)量量化器的迭代非變分技術(shù)的簡(jiǎn)易且快速的運(yùn)算法則。這種矢量量化算法通過(guò)尋找分配集和最小失真分割的質(zhì)心而得出一個(gè)好的碼本。在LBG算法中，從所有訓(xùn)練數(shù)據(jù)的應(yīng)用分裂過(guò)程中產(chǎn)生初始質(zhì)心。在每次迭代過(guò)程中所有訓(xùn)練矢量被納入到判別過(guò)程中。GLA算法應(yīng)用于生成的質(zhì)心和質(zhì)心能不隨時(shí)間變化。GLA算法開(kāi)始于一個(gè)集群，然后分離該集群到兩個(gè)、四個(gè)集群，依此類(lèi)推，直至所生成的N個(gè)集群，其中N是群或碼本大小的所需數(shù)量。因此，GLA算法是一個(gè)分裂的聚類(lèi)方法。每個(gè)階段的分類(lèi)使用全搜索算法來(lái)找到每一個(gè)向量最近的質(zhì)心。LBG是一個(gè)局部?jī)?yōu)化過(guò)程，通過(guò)各種方法，如定向搜索二進(jìn)制分解解決，均值距離排序的局部碼本搜索 [Linde et al., 1980, Modha et al., 2003]，提高LBG，基于遺傳算法的算法 [TzuChuen Luet al., 2010, ChinChen Chang et al. 2006]，進(jìn)化為基礎(chǔ)的禁忌搜索算法 [ShihMing Pan et al., 2007]，和碼書(shū)生成算法 [Buzo et al., 1980]。 在語(yǔ)音處理中，矢量量化是用于比特流減少編碼的實(shí)現(xiàn)或基于HMM的任務(wù)。初始化是碼本估算的重要一步。用于初始化的兩種方法是L向量隨機(jī)從訓(xùn)練矢量集選擇的隨機(jī)初始化和由分裂所選擇的載體從一個(gè)較小的碼書(shū)中選擇的選擇初始化。使用未知分布的詳細(xì)LBG算法描述如下：步驟1：設(shè)計(jì)一個(gè)1矢量碼本 SETM= 1。計(jì)算質(zhì)心 其中T是數(shù)據(jù)向量的總數(shù)步驟2：將碼本由分裂的雙重大小 將每個(gè)質(zhì)心變成兩個(gè)親密的載體和。這里δ是一個(gè)小固定攝動(dòng)標(biāo)量。令m=2m。設(shè)定n=0，這里n是迭代次數(shù)。步驟3：最近鄰搜索 找到最近相鄰的每個(gè)數(shù)據(jù)向量。如果是近鄰于，將放入分區(qū)集合。步驟4：查找平均失真 獲得分割后的組 ，設(shè)定n=n+1 計(jì)算總體平均失真 當(dāng)。 步驟5：質(zhì)心更新 通過(guò)查找所有不相交的分區(qū)設(shè)置的質(zhì)心 步驟6：迭代1 如果，請(qǐng)轉(zhuǎn)至步驟3； 否則轉(zhuǎn)到步驟7，ε是一個(gè)門(mén)檻。 步驟7：迭代2 如果m = N，則取碼本作為最后的碼本。否則，請(qǐng)轉(zhuǎn)到步驟2。 這里，N是所述碼本的大小。LBG算法有其局限性，如量化空間沒(méi)有被優(yōu)化在每次迭代中，算法對(duì)初始條件非常敏感。 4 經(jīng)典K均值算法K均值算法是MacQueen在1967年提出的。它是一種眾所周知的迭代過(guò)程用于解決聚類(lèi)問(wèn)題。它也被稱(chēng)為C均值算法或基本ISODATA聚類(lèi)算法。它是一個(gè)無(wú)監(jiān)督的學(xué)習(xí)過(guò)程，可以自動(dòng)根據(jù)該條件的質(zhì)心最小距離為對(duì)象進(jìn)行分類(lèi)。K均值算法中，初始質(zhì)心從訓(xùn)練矢量隨機(jī)選擇的訓(xùn)練向量一次一個(gè)被添加到該訓(xùn)練程序。在訓(xùn)練過(guò)程結(jié)束的最后一個(gè)載體結(jié)合時(shí)。K均值算法用于組數(shù)據(jù)和可以隨時(shí)間變化的群組。該算法可以應(yīng)用于VQ碼本設(shè)計(jì)。K均值算法可以被描述為如下：步驟1：從T訓(xùn)練數(shù)據(jù)向量中隨機(jī)選擇N個(gè)訓(xùn)練數(shù)據(jù)向量作為初始碼向量。步驟2：對(duì)于每個(gè)訓(xùn)練數(shù)據(jù)向量，如果，分配向分區(qū)集合。步驟3：計(jì)算所述劃分集是碼矢量使用的質(zhì)心其中，表示的訓(xùn)練數(shù)據(jù)向量中的分區(qū)集合的數(shù)量。如果在該聚類(lèi)的質(zhì)心沒(méi)有變化，則終止程序。否則，請(qǐng)轉(zhuǎn)到步驟2。也有K均值算法的各種限制。首先，它需要大量的數(shù)據(jù)來(lái)確定集群。其次，集群K的數(shù)量必須事先確定。第三，如果一個(gè)數(shù)據(jù)的個(gè)數(shù)小到最終很難找到實(shí)際的簇群，按照假設(shè)，每個(gè)屬性具有相同的重量同時(shí)很難知道該屬性會(huì)提供更多的分組過(guò)程。該算法進(jìn)行分類(lèi)或基于屬性/功能集成到組的K個(gè)組對(duì)象。K為正整數(shù)。分組是通過(guò)最小化數(shù)據(jù)和相應(yīng)的簇矩心之間的距離的平方的總和進(jìn)行。K均值聚類(lèi)的主要目的是對(duì)數(shù)據(jù)進(jìn)行分類(lèi)。在實(shí)踐中，數(shù)迭代通常比點(diǎn)的數(shù)量要少得多。5 建議改進(jìn)K均值LBG算法該算法的目標(biāo)是克服LBG算法和K均值算法的限制。建議修改的K均值LBG算法是LBG算法和K均值算法的組合優(yōu)勢(shì)。該K均值LBG算法描述為如下：步驟1：隨機(jī)選擇N個(gè)訓(xùn)練數(shù)據(jù)向量作為初始碼向量。步驟2：計(jì)算質(zhì)心的編號(hào)。步驟3：通過(guò)拆分兩倍的碼本的大小。 步驟4：最近鄰搜索。步驟5：查找平均失真。步驟6：更新該重心，直到有一個(gè)在聚類(lèi)質(zhì)心沒(méi)有改變，終止程序，否則轉(zhuǎn)到步驟1。6 實(shí)驗(yàn)與結(jié)果該TI46數(shù)據(jù)庫(kù)[NIST，1991]用于實(shí)驗(yàn)。該16揚(yáng)聲器包含8男揚(yáng)聲器和8女揚(yáng)聲器。每個(gè)人復(fù)制的數(shù)字是26話(huà)語(yǔ)。總數(shù)據(jù)庫(kù)大小是4160句話(huà)的1600樣本被用于訓(xùn)練和剩余樣本用于測(cè)試10個(gè)英文數(shù)字1到9號(hào)的測(cè)試和和0被采樣頻率為8000 Hz。獲得12維的線(xiàn)性特征向量預(yù)測(cè)編碼倒譜系數(shù)并作為輸入提供給矢量量化找到每個(gè)類(lèi)碼字。該5組數(shù)據(jù)示出了利用LBG算法和K均值算法獲得失真度量的比較圖，同時(shí)提出K均值LBG算法。相比K均值算法和LBG算法，通過(guò)該算法得到的失真度量是最小的。相比K均值算法和LBG算法，該提出修改的K均值LBG算法所給出最小的失真度量，提高了系統(tǒng)的性能。該最小的量度給出了優(yōu)異的性能，相比這兩個(gè)算法對(duì)每一個(gè)數(shù)字增加了1%到4%。7 結(jié)論矢量量化技術(shù)有效地應(yīng)用在語(yǔ)音識(shí)別系統(tǒng)的發(fā)展。在本文中，提出了所謂的新的矢量量化算法K均值LBG算法。它被用來(lái)有效地提高語(yǔ)音識(shí)別系統(tǒng)的性能。 相比于K均值和LBG算法，采用K均值LBG算法獲得的識(shí)別精度更好。%，%。 參考文獻(xiàn),[1993],“Fundamentals of Speech Recognition”, PrenticeHall, Englewood Cliffs, .TzuChuen Lu,ChingYun Chang [2010],“A Survey of VQ Codebook Generation”, Journal of Information Hiding and Multimedia Signal Processing, Ubiquitous International, ,.[1986],“Speakerindependent isolated word recognition using dynamic features of speech spectrum”,IEEE Transactions on Acoustic,Speech,Signal Processing, ,.[1994],“An overview of speaker recognition technology”,ESCA Workshop on Automatic Speaker Recognition,Identification and Verification,.,[1987],“A vector quantization approach to speaker recognition”,ATamp。T Technical Journal,.Wiploa J. G. , Rabiner L. R. [1985], “A Modified KMeans Clustering Algorithm for Use in Isolated Word Recognition”, IEEE Transactions on Acoustics, Speech and Signal Processing, Vol. 33 , pp. 587594.Arindam Banerjee, Srujana Merugu, Inderjit S. Dhillon, Joydeep Ghosh [2005], “Clustering with Bregman Divergences”, Journal of Machine Learning Research, Vol. 6, pp. 1705–1749.J. S. Pan, F. R. McInnes and M. A. Jack [1996], “Bound for Minkowski metric or quadratic metric applied to codeword search”, IEEProceedings on Vision Image and Signal Processing, Vol. 143, No. 1, pp. 67–71.Marcel R. Ackermann, Johannes Blomer, Christian Sohler [2010], “Clustering for Metric and Nonmetric Distance Measures”, ACM Transactions on Algorithms, Vol. 6, No. 4, Article 59, pp. 126.ShihMing Pan, KuoSheng Cheng [2007], An evolutionbased tabu search approach to codebook design, Pattern Recognition, Vol. 40, No. 2, pp. 476491.ChinChen Chang, YuChiang Li, JunBin Yeh [2006], Fast codebook search algorithms based on treestructured vector quantization, Pattern Recognition Letters, Vol. 27, No. 10, pp. 10771086.Buzo, A. H. Gray, R. M. Gray, J. D. Markel [1980], “Speech coding based upon vector quantization”, IEEE Transactions on Acoustics, Speech and Signal Processing, Vol. 28, No. 5, pp. 562–574.Y. Linde, A.