數據挖掘概念與技術引言(編輯修改稿)

　

【文章內容簡介】 關注。 42 生物學方法－ 遺傳算法 ? 遺傳算法的研究與生物進化理論和遺傳學密切相關。生命的基本特征包括生長、繁殖、新陳代謝和遺傳與變異。生命是進化的產物，現代的生物是在長期的進化過程中發展起來的。 ? 達爾文提出了用自然選擇來解釋生物的進化過程，該學說包括遺傳、變異、生存斗爭和適者生存三個方面。 ? 生物進化是非常復雜的，它將涉及諸如染色體、脫氧核糖核酸、遺傳因子、種群、基因、進化、選擇、復制、交叉、變異、編碼與解碼等許多名詞術語，而且許多現象尚無法用現有的進化理論來解釋。 43 生物學方法－遺傳算法 ? 遺傳算法的基本思想：從代表問題的可能潛在解集的一個種群開始，一個種群是由經過基因編碼的一定數量的個體組成，每個個體是染色體帶有特征的實體，染色體是多個基因的集合，它決定了個體的形狀和外部表現；通過模擬基因編碼形成初代種群，然后按照適者生存和優勝劣汰的原則逐代演化產生出越來越好的近似解；在每一代，根據問題域中個體的適應度大小進行選擇，并借助遺傳算子進行組合交叉和變異，從而產生出代表新的解集的種群；以上過程將導致種群象自然進化一樣的后代種群比前代種群更加適用于環境，末代種群中的最優個體經過解碼可以作為問題的最優近似解。 44 生物學方法－ 遺傳算法 ? 遺傳算法中的三個基本操作： ? 選擇：即通過適應度的計算確定重組或交叉的個體，并確定被選個體將產生多少個子代個體。 ? 交叉：又稱為基因重組，即結合來自父代種群中的信息產生新的個體。 ? 變異：即交叉之后子代的基因按小概率擾動所產生的變化。 ? 遺傳算法可起到產生優良后代的作用。這些后代需滿足適應值，經過若干代的遺傳，將得到滿足要求的后代（問題的解）。 ? 遺傳算法提供了一種求解復雜系統優化問題的通用框架，它不依賴于問題的具體領域，因此可以應用于函數優化、組合優化、生產調度、自動控制、機器人智能控制、圖像處理、模式識別、機器學習、數據挖掘等眾多領域。 45 信息論方法 ? 信息論是研究信息的測度及其性質、信息傳輸和信息處理系統的一般規律的學科分支。其研究內容主要包括：以編碼理論為中心的所謂狹義信息論，它研究信息的測度、信息的容量、信源特性、信源編碼、信道和信息系統模型等；信號處理技術，它研究信號和噪音分析、信號的過濾與檢測，以及有關理論；以計算機為中心的信息處理技術與理論，例如模式識別、自學習理論、自動機器翻譯等。 ? 在數據挖掘中，決策樹（ decision tree）是一種廣泛使用的圖解法決策分析工具，它把影響各行動的有關因素（自然狀態、概率、損益值等）用樹型圖表示，可直觀形象地表示出各條件和所允許的行動以及各種結果中間的關系。 46 決策樹方法 ? 決策樹：用樹結構表示決策集，這些決策產生規則，用于對數據集進行分類。 ? 決策樹的建立：利用訓練集生成一個測試函數，根據不同取值建立樹的分支，再在每個分支子集中重復建樹的分支的過程，即可建立決策樹。然后對決策樹進行剪枝處理，即可得到規則。 ? 典型的決策樹方法： ID分類回歸樹（ CART）、 。 47 集合論方法－約略集 ? 約略集（ Rough Set）又稱為粗糙集和粗集，是由波蘭華沙理工大學 Z . Pawlak教授等提出的研究不完整數據、不精確知識的表達、學習和歸納的理論與方法。 ? 約略集方法與使用統計學方法或模糊集合論方法處理不精確數據的方法不同，它是以對觀察和測量所得數據進行分類的能力為基礎的，為智能信息處理提供了有效的理論基礎和處理技術。 48 集合論方法－約略集 ? 約略集理論是 1982年在 《 計算機與信息科學 》 國際雜志上發表的論文 “ Rough Sets”中首先提出的一個分析數據的數學理論。在分類的意義下，這個理論定義了模糊性與不確定性的概念，由于最初的研究大多是用波蘭文發表的，因此，這項研究在當時并未引起國際計算機學界的重視，研究地域局限在東歐各國。 ? 到了 80年代末，這個理論引起了世界各國學者的注意，人們對約略集理論的主要興趣在于它恰好反映了人們以不完全信息或知識去處理一些不分明現象的能力，或依據觀察、度量到的某些不精確的結果而進行分類數據的能力。如醫學、藥學、工業、工程技術、控制系統、社會科學、地球科學、開關電路、圖象處理和其他許多方面都已經成功地實現了它的應用。 49 集合論方法－約略集 ? 國際上關于約略集理論和知識發現的會議： ? 1993年在 Banff, Alberta, Canada舉行的 The Int’l Workshop on Rough Sets and Knowledge Discovery ? 1996年在 University of Tokyo舉行的 The Fourth Int’l Workshop on Rough Sets, Fuzzy Sets, and Machine Discovery ? 研究集中在約略集理論的數學性質、拓廣、與其他不確定方法的關系和互補，以及有效算法等方面。 ? 基于 Rough集方法的數據挖掘工具：如ProbRough、 TRANCE、 KDDR、 LERS、DataLogic/R等。 50 精確集與約略集 ? 令 U是全域， X?U，若 X是任意基本集的并，則 X是 R（區分關系） 可定義的，否則是 R不可定義的； R可定義集也稱作 R精確集（ R Exact Sets），它在 U的知識庫中可以被定義，而 R不可定義集不能在該知識庫中定義，稱為 R非精確集（ R Inexact Sets）或 R約略集（ R Rough Sets）。 51 約略集－ 上近似與下近似 ? 約略集的基本觀點：用一個二元關系來建構集合的近似。信息系統 S =（ U， T， V， ?）的不可區分集合 RB(x)（在約略集理論中即等價類[x]?B）是用來近似任何子集 X?U的基石。 ? 如果用屬性 B不能精確地定義集合 X，這時可以考慮用等價關系 ?B導出的等價類近似地定義集合 X，給出集合 X的下近似和上近似的定義。 ? 根據 X的上下近似，可以將 U分為三個區域：正區域，負區域和邊界區域。 52 概念 X的上下近似圖解 53 集合論方法－ 約略集 ? 約略集理論用于分類規則挖掘：發現不精確數據或噪聲數據的內在結構聯系。其基本思想是建立樣本數據內部的等價類，而這些等價類是按照下近似和上近似“ 約略地 ” 定義的。對于每一個等價類可以產生相應的判定規則，對于下近似可建立確定性規則，對于上近似可建立不確定性規則（含可信度），并用判定表表示這些規則。 ? 約略集理論用于特征歸約和相關分析：找出描述給定數據集中所有概念的最小屬性子集。 ? 約略集理論用于屬性化簡及其規則篩選：減少數據庫系統中的冗余屬性，提高數據庫中所隱含知識的可理解性。 54 集合論方法－ 模糊集方法 ? 模糊性是客觀存在的，系統的復雜性越高，精確化能力就越低，也就意味著模糊性越強。 ? 在進行分類規則挖掘時，如果采用精確值作為閾值或邊界是比較苛刻的，引入模糊集的隸屬函數后可以使分類更加接近于現實。基于模糊集理論的分類方法通常需要將屬性值轉換為模糊值，然后使用模糊規則對給定樣本數據進行分類。 ? 模糊集合理論還可以用于對實際問題進行模糊評判、模糊決策、模糊模式識別和模糊聚類分析等。 55 統計學分析方法 ? 在數據挖掘中，統計學可應用于預測、聚類規則挖掘和時序數據的趨勢分析等。 ? 預測是數據分析的一種重要形式，通過建立連續值函數模型，可以預測數據的未來變化趨勢。連續值的預測可以使用統計學中的回歸統計技術建模，如線性回歸、多元回歸、非線性回歸、廣義線性回歸（對數回歸、泊松回歸等）。許多問題可以用線性回歸方法解決，而更多的問題則可以對變量進行變換，使得非線性的問題轉換為線性的問題加以處理。 56 統計學分析方法－ 預測 ? 在數據屬性之間存在兩種關系： ? 函數關系：能用函數公式表示的確定性關系，可以采用回歸分析的方法； ? 相關關系：不能用函數公式表示，但仍是相關確定的關系，可以采用相關分析和主成分分析等方法。 57 統計學分析方法－ 聚類分析 ? 統計學方法還可以應用于基于模型的聚類分析。例如，概念聚類是一種基于模型的聚類方法，它對于一組為標記的對象，產生一個分類模式。這種聚類不僅能夠確定相似對象的分組，還可以發現每一個分組的特征描述，即每一個分組代表了一個概念或類。概念聚類的大多數方法采用了統計學的途徑，在決定概念或聚類時使用概率度量，用概率描述導出的概念。 58 可視化技術 ? 可視化數據分析技術拓寬了傳統的圖表功能，使用戶對數據的剖析更清楚、更直觀。例如，把數據倉庫中的多維數據或者把由數據挖掘獲得的模式和規則變成多種圖形，這對揭示數據的狀況、內在本質及規律性起到了重要的作用。 59 數據挖掘解決的典型商業問題 ? 數據挖掘技術從一開始就是面向應用的，尤其是在如銀行、電信、保險、交通、零售（如超級市場）等商業領域。 ? 解決的典型商業問題包括：數據庫營銷（ Database Marketing）、客戶群體劃分（ Customer Segmentation amp。 Classification）、背景分析（ Profile Analysis）、交叉銷售（ Crossselling）等市場分析行為，以及客戶流失性分析 (Churn Analysis)、客戶信用記分 (Credit Scoring)、欺詐發現 (Fraud Detection)等等。 60 數據挖掘在市場營銷的應用 ? 是以市場營銷學的市場細分原理為基礎， 其基本假定是 “ 消費者過去的行為是其今后消費傾向的最好說明 ” ? 通過收集、加工和處理涉及消費者消費行為的大量信息，確定特定消費群體或個體的興趣、消費習慣、消費傾向和消費需求，進而推斷出相應消費群體或個體下一步的消費行為，然后以此為基礎，對所識別出來的消費群體進行特定內容的定向營銷 61 數據挖掘在市場營銷的應用 ? 與傳統的不區分消費者對象特征的大規模營銷手段相比，大大節省了營銷成本，提高了營銷效果，從而為企業帶來更多的利潤。 ? 基于數據挖掘的營銷對我國當前的市場競爭中也很具有啟發意義，我們經常可以看到繁華商業街上一些廠商對來往行人不分對象地散發大量商品宣傳廣告，其結果是不需要的人隨手丟棄資料，而需要的人并不一定能夠得到。 ? 如果搞家電維修服務的公司向在商店中剛剛購買家電的消費者郵寄維修服務廣告，賣特效藥品的廠商向醫院特定門診就醫的病人郵寄廣告，肯定會比漫無目的的營銷效果要好得多。 62 競技運動中的數據挖掘 ? 美國著名的國家籃球隊 NBA的教練，利用 IBM公司提供的數據挖掘