人工神經網絡bp算法在四川省gdp預測中的應用畢業論文-資料下載頁

　　

【正文】 標進行預處理作為神經網絡的輸入變量 數據的預處理 數據預處理方法 [18]神經網絡由輸入樣本與連到第一隱層的初始權值進行內積運算得到第一隱層神經元的總輸入，經非線性激勵函數的作用后得到輸出，此輸出再作為下一層的輸入，依次計算直至輸出層得到網絡的輸出。但是如果神經元的總輸入與閉值相距太遠，由于各神經元的激勵函數具有飽和非線性特性，會使得神經元的輸出落在飽和區域，這樣網絡的實際輸出要么為激勵函數的最大值，要么為激勵函數的最小值，使得輸出的導數值將很小(趨于零)。從而將導致權值的修改量很小，不但學習速度緩慢，而且網絡很難收斂。同時，小數值信息被有可能被大數值信息所淹沒。因此，在進行神經網絡預測之前，為避免原始數據過大造成網絡麻痹，要對原始數據進行歸一化處理，對于預測值，由于變化幅度較大，也不宜直接作為神經網絡的輸出。1. 歸一化方法（Normalization Method）1）把數變為（0，1）之間的小數主要是為了數據處理方便提出來的，把數據映射到 0～1 范圍之內處理，更加便捷快速，應該歸到數字信號處理范疇之內。2）把有量綱表達式變為無量綱表達式歸一化是一種簡化計算的方式，即將有量綱的表達式，經過變換，化為無量綱的表達式，成為純量。比如，復數阻抗可以歸一化書寫：，復數部分變成了純數量了，沒有量綱。另外，微)/1(RjwLjRz??波之中也就是電路分析、信號系統、電磁波傳輸等，有很多運算都可以如此處理，既保證了運算的便捷，又能凸現出物理量的本質含義。（Normalization Method）數據的標準化是將數據按比例縮放，使之落入一個小的特定區間。由于信用指標體系的各個指標度量單位是不同的，為了能夠將指標參與評價計算，需要對指標進行規范化處理，通過函數變換將其數值映射到某個數值區間。一般常用的有以下幾種方法：(1) 最小最大規范化對原始數據進行線性變換；(2) zscore 規范化也稱零均值規范化；(3) 小數定標規范化。3. 關于神經網絡（matlab）的歸一化由于采集的各數據單位不一致，因而須對數據進行[1，1]歸一化處理，歸一化方法主要有如下幾種：1） 線性函數轉換，表達式如： )/()( MinValueaxleMinVluexy???說明：x、y 分別為轉換前、后的值，MaxValue、MinValue 分別為樣本的最大值和最小值。 2）對數函數轉換，表達式如： )(10logxy?說明：以 10 為底的對數函數轉換。 3）反余切函數轉換，表達式如： PIa/2*)tn(4）關于用 premnmx 語句進行歸一化： Premnmx 語句的語法格式為： ),(]max,in,ax,min,[ TprenxtpTP?其中 P，T 分別為原始輸入和輸出數據，minp 和 maxp 分別為 P 中的最小值和最大值。mint 和 maxt 分別為 T 的最小值和最大值。premnmx 函數用于將網絡的輸入數據或輸出數據進行歸一化，歸一化后的數據將分布在[1,1]區間內。 我們在訓練網絡時如果所用的是經過歸一化的樣本數據，那么以后使用網絡時所用的新數據也應該和樣本數據接受相同的預處理，這就要用到 tramnmx。下面介紹 tramnmx 函數： )max,in,(][ pPtraxn?其中 P 和 Pn 分別為變換前、后的輸入數據，maxp 和 minp 分別為 premnmx 函數找到的最大值和最小值。 數據的處理對于單極型 Sigmoid 函數來說，其輸出在小 1 之間變化，并且只有當輸入為(一 OO，+OO)時，輸出才達到(0，l)，一般提法是將輸入量歸一至(0，l)。本文采用 作為激勵函數，該函數特點是值域為(一 1，l)1)exp(12)(???vvf?對樣本數據進行如下歸一化處理公式為: ()minax??y其中，max 和 min 分別為樣本數據中的最大值和最小值，為原始樣本數據，y 為變換后的數值。這樣不但避免了輸入數據落入飽和區域，也保持了數據的原有特征。當神經網絡處理結束后，再做反歸一化運算。對網絡輸出，對輸出數據采用如下公式使輸出數據與原始數據在同一個區域之內，反歸一化的公式為: min)(ax*???y表 41 數據經公式 歸一化處理的數據如下表：表 42 經標準歸一化數據表年份 GDP x1 x2 x3 x4 x5 x6 x71997 0 0 0 0 0 0 0 1998 1999 02022 2022 2022 2022 2022 2022 2022 2022 1 1 1 1 1 1 1 1 采用標準的歸一化方法將數據規范到[0，1]區間，但是規范后的每個數據序列中至少有一個值為 0，一個值為 1，恰好是 S 型曲線的極小值和極大值，要求連接權足夠大才能使網絡的輸出值與其匹配，從而需要相當多的訓練次數來不斷的修正權值，將區間[0，1]數據規范到[，]區間. 由于 ]))(.([minaxi????e: xx]))(.([39。 minai????[，]之間，從而也可以大大加快網絡的學習速度，數據間的聯系進一步減少.進一步歸一化的數據如下表：表 43 進一步歸一化結果 神經網絡預測方法設計 [19]GDP 神經網絡模型屬于數據驅動的方法，就是利用神經網絡的非線性特性去逼近一個時間序列或一個時間序列的變形，通過神經網絡清晰的邏輯關系，列預測和多變量時間序列預測。 單變量時間序列預測中，設有時間序列 , xi其中歷史數據為 ,對未來 n+m+k(k0) 時刻的取值進行預測，Xmnn??,1?即預測 的值，方法是求出歷史數據 與 的某種Xkmn? Xmnn??,1? kn?非線性函數關系： 。在多變量的時間序列中，),(1mnkmnf????設有時間序列 ),(,),(, 21112121 XXXminnmninninn ???? ???? ）（對未來 n +m +k (k0)時刻的取值進行預測，與單變量時間序列預測類似，用神經網絡來擬合某種非線性函數關系： )},(,),(,{ 21112121 minnmninninnkmnf ?????? ???? ）（無論是單變量時間序列預測還是多變量時間序列預測，常用的方法有 3 種：(1) 單步預測當 k=1 時，即網絡輸入 等 m 個歷史數據，輸出?,1Xn?的值。Xn(2) 多步預測當 k1 時，即網絡輸入 m 個歷史數據，輸出的值。nn,21??(3) ，然后將輸出反饋給輸入端作為網絡輸入的一部分，預測未來 k 時刻的值. 四川省 GDP 預測模型本文選用 軟件 [20]的神經網絡工具箱進行建模。MATLAB 軟件的神經網絡工具箱以人工神經網絡理論為基礎，用 MATLAB 語言構造出典型的神經網絡的激勵函數，如 S 型、線性型、競爭型等激勵函數，使設計者對所選定網絡輸出的計算變成對激勵函數的調用。另外，根據各種典型的修正網絡權值的規則，加上網絡的訓練過程，用 MATLAB 語言編寫出各種網絡設計與訓練的子程序，我們可以根據自己的需要去調用工具箱中有關神經網絡的設計訓練程序，使自己能夠從繁瑣的編程中解脫出來，集中精力去思考問題和解決問題，從而提高效率和解決問題的質量。初始參數的選擇:(1)生成網絡采用 newff 函數可以用來生成 BP 網絡。newff 函數的常用格式為: )},{],[( 121 BTFTPRnewft Snn???其中，PR 為 Rx2 維矩陣，表示 R 維輸入矢量中每維輸入的最小值和最大值之間的范圍。若神經網絡具有 N 層，則 中各元素分別表示各層神經元的],[21Sn?數目。 中各元素表示各層神經元采用的傳遞函數:BTF 表示神},{1FnT?經網絡訓練時所用的訓練函數。 為生成的 BP 網絡對象。newff 在生成 BP 網絡的同時即對網絡的各層的權值和閥值自動進行了初始化，根據不同的需要，一般采用其默認的初始值即可。(2)BP 神經網絡的訓練和仿真在 BP 神經網絡生成和初始化以后，即可以利用現有的“輸入一輸出”樣本矢量數據對網絡進行訓練。BP 網絡的訓練采用 train 函數來完成，在訓練之前有對網絡訓練參數 進行適當的設置。設置完訓練參數后，就可以調用 train 函數對 BP 網絡進行訓練。train 函數的常用格式如下:[,tr]=train(,P,T)其中，P 為輸入樣本矢量集。T 為對應的目標樣本矢量集。等號左右兩側的 分別用于表示訓練得到和訓練以前的神經網絡對象。tr 存儲訓練過程中利用 sim如函數對訓練以后得到的網絡進行仿真，sim 而函數的常用格式如下: [Y,Pf,Af,E,perf]=sim(,P,Pi,Ai,T)輸入 為神經網絡對象，P 為網絡輸入，Pi 為輸入延遲的初始狀態，Ai 為層延遲的初始狀態，T 為目標矢量，Y 為網絡輸出，Pf 為訓練終止時的輸入延遲狀態，Af 為訓練終止時的層延遲狀態，E 為輸出和目標矢量之間的誤差，perf為網絡性能值。（3）網絡層數的確定:BP 網絡可以包含不同的隱層，但理論上已經證明，在不限制隱層節點數的情況下，兩層(只有一個隱層)的 BP 網絡可以實現任意非線性映射。在模式樣本相對較小的情況下較少的隱層節點，可以實現模式樣本空間的超平面劃分，因此，構建兩層 BP 網絡就可以了，當模型樣本數很多時，減小網絡規模，增加一個隱層是必要的，但 BP 網絡隱層數一般不超過兩層。 預測模型實例求解及分析 已經對模型數據進行了歸一化處理，現在我們用 MATLAB 中提供的函數進行學習訓練,詳細程序見附錄。 學習部分程序如下：=newff(threshold,[10,1],{39。tansig39。39。logsig39。},39。traingdx39。)。 =5000。 =100。=。=。_BP=init(_BP)。 _BP=train(_BP,p,t)。學習效果圖如下： 圖 41 隱層為 10 的學習效果圖我們設定的網絡隱層為 10，學習誤差為 ，網絡在學習訓練了 6 次后達到指定的精度。訓練前后的擬合效果圖如下： 圖 42 網絡學習前后的仿真圖及誤差效果圖由上面兩個圖我們可以看出，網絡訓練后誤差達到了我們所要求的范圍內。從預測結果的誤差上來看，用前 10 年的數據預測 2022 年的 GDP，其輸出結果為：，誤差為 ，誤差在我們允許的范圍內。鑒于此實例我們可知神經網絡在預測方面有較高的精確度。 神經網絡預測與傳統預測方法的比較 多元線性回歸模型 [21] 假定被解釋變量 Y 與多個解釋變量 之間具有線性關系，是解Xk,21?釋變量的多元線性函數，稱為多元線性回歸模型。即 ??????Xk?210其中 Y 為被解釋變量， 為 k 個解釋變量，),(jj??為 k+1 個未知參數， 為隨機誤差項。 ),21(kj??被解釋變量 Y 的期望值與解釋變量 的線性方程為：k,21? XE??????10)(稱為多元總體線性回歸方程，簡稱總體回歸方程。 神經網絡預測與回歸模型預測比較根據多元線性回歸模型的原理我們可以設四川省 GDP 預測模型的線性回歸方程為： xy710????再結合前面表 41 的數據，利用 Matlab 工具進行多元回歸擬合，在Matlab 中，多元回歸分析問題主要由函數 stepwise(X,Y)實現，詳細程序見附錄，于是我們可得回歸方程： xxxxy 7654321 ??????? 用此方程我們可以預測 2022 年的 GDP，預測結果為 億元，誤差為 億元，這里我們得到的誤差相對較大，是因為樣本數據過少，但相對神經網絡預測來說，回歸分析的誤差大很多。比較結果如表 44 所示：2022 年原始 GDP 輸出 GDP 誤差BP 算法 回歸分析 表 44 兩種方法結果比較結 論本文介紹了神經網絡的當前研究現狀，分析了四川省近 10 年來的經濟狀況以及對傳統的經濟預測方法進行了總結。然后對四川省 GDP 預測進行了研究，分別采用了人工神經網絡 BP 算法和傳統的多元線性回歸方法對預測模型進行了研究，從實證中我們得出人工神經網絡方法在預測模型中有著一定的優點，比多元線性回歸精度高。人工神經網絡作為高度非線性體系，對經濟系統中的各個變量之間的非線性關系能進行高精度的逼近，從而實現預測功能。通過實例求證我們知道 BP 人