神經網絡反向傳播過程精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經網絡反向傳播過程主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經網絡反向傳播過程范文

關鍵詞：網格；資源調度；人工神經網絡；BP算法

中圖分類號：TP183

Grid resources schedule model based on the BP algorithm

ZHOU Fei-fei，HU Yan-xia

Ministry of Education’s major laboratory of Lanzhou Jiaotong University, Lanzhou,730070

ZhengZhou Urban and Rural Planning Bureau ,Zhengzhou,45000

Abstract: The grid is the main direction of high-performance. The major factor affects the grid functional and the performance is grid resource management and scheduling. Because of the complexity of the grid, its resource management compared with traditional distributed networks becomes more complex. The efficient grid resources management algorithms are hot and difficult of grid study. The neural network has intelligence and can get the best results in complex circumstances. this paper uses BP algorithm to solve the problem of grid resource scheduling. And introduced the concept of grid, back propagation algorithm, and proposed grid scheduling of resources result based on the BP algorithm.

Keywords：grid; resource scheduling；artificial neural network；Back propagation algorithm;

0 引言

網格作為新一代的互聯網，是今后高性能計算的主要方向，而有效的資源調度直接影響到網格的功能和性能，因此，對網格資源調度問題的研究具有重要的理論意義和巨大的實踐價值。人工神經網絡是一種模擬動物神經網絡行為特征，進行分布式并行信息處理的算法數學模型，善于在復雜環境下，快速獲得滿足多種約束條件問題的最優化答案，把神經網絡的思想引入到網格的資源調度當中，將二者有效結合，能夠更好的解決網格的資源調度問題。

1 網格的基本概念

網格又被稱為“下一代互聯網”，用于集成或共享在地理上分布的各種資源(包括計算機系統、存儲系統、通信系統、文件、數據庫、程序等)，使之成為一個邏輯整體，實現資源在網絡中的全面共享。

目前，網格技術已經在科學計算領域得到了廣泛的應用，很好的解決了分布式超級計算、高吞吐率計算、數據密集型計算等問題?？梢灶A見，隨著共享的資源越來越豐富，網格的應用領域將得到更大的拓展。

2 網格中的資源調度

網格中的資源指所有能夠通過網格遠程使用的實體，包括：計算機軟件(比如操作系統、數據庫管理系統、應用軟件、數據等)，計算機硬件(比如CPU、內存、硬盤、光盤感器、磁帶等)，設備和儀器(比如通信介質、天文望遠鏡、顯微鏡、傳感器、PDA、儀器儀表等)等物理資源以及人類資源(人的知識與能力)。【1】

由于網格是一個開放、動態的互聯網并行環境,用戶可以從網格的任何地方向網格平臺提交應用,而且由于網格所固有的分布性、動態性、異構性以及自治性等特征,使得網格資源、可能隨時發生改變。因此，網格資源管理系統是網格的核心組成部分，也是網格的重要研究方向。

2.1 網格資源調度策略

傳統的分布式系統中資源管理的主要任務是將多個用戶提交的程序調度到一個計算集群中以最大化系統的利用率。即將一個復雜的程序中的多個子程序調度到并行的計算機中以提高計算效率，減少運行時間。

而在網格中，由于網格系統的分布性、異構性和動態性，網格資源管理必須為用戶提供可靠的、一致的以及廉價的資源，而不用考慮資源訪問點的物理位置。[2]

我們使用有層的層次模型實現資源調度算法。此模型類似于網絡的五層沙漏模型。在邏輯上分為三層：用戶層、資源管理層及網格資源層。

用戶層是網格資源的使用者。各種應用均在這一層實現，該層的需求即網格系統提供的服務，是網格所要達到的目標。在本層中，用戶或應用系統通過面向服務的視圖向下層中的各種發送用戶請求，描述自愿選擇、任務進程創建和任務控制等。

資源管理層是本模型的核心層。由各種組成，是網格資源管理的執行者。能夠發現、收集和存儲不同領域的資源信息；接收用戶請求，并按分配策略將所需要的資源分配給用戶。

網格資源層是網格系統中的硬件基礎，包括各種資源，它是網格資源管理的對象。其基本功能就是控制區域內的資源，向上提供訪問這些資源的接口。

由以上分析可以看出，網格資源調度的實質，就是將多個相互獨立的任務由各種分配到可用資源上，使得資源得到充分利用并且任務的完成時間最小。

調度算法的目標是將所有的獨立的應用任務通過調度到可獲得的計算資源中去，從可利用的資源中選取最佳的資源，并盡量減少由于網格的動態性而對網格整體性能的影響。不好的資源調度算法，將會增加任務的執行時間并降低整個網格系統的吞吐量。因此，一個好的源調度算法，需要具有高效性和一定的智能性，使網格用戶能夠獲得所需要的資源，并且確保網格用戶不會過量使用資源。

由于神經網絡能夠模擬人腦的思維模式，具有很好的自適應性和學習能力，能夠實現難以用數字計算和技術實現的最優信號處理算法。因此，很適合網格資源調度算法。

3 BP神經網絡原理

神經網絡是一種模擬動物神經網絡行為特征，進行分布式并行信息處理的算法數學模型。這種網絡能根據系統的復雜程度，通過調整內部大量節點之間相互連接的關系，從而達到處理信息的目的。

3.1 神經網絡的概念

國際著名的神經網絡專家Hecht-Nielson給神經網絡的定義是：“神經網絡是一個以有向圖為拓撲結構的動態系統，它通過對連續或斷續式的輸入作為狀態響應而進行信息處理”?！?】

神經網絡系統是由大量的，同時也是很簡單的處理單元（稱為神經元），通過廣泛地互相連接而形成的復雜網絡系統。雖然每個神經元的結構和功能十分簡單，但由大量神經元構成的網絡系統的行為卻是豐富多彩和十分復雜的。

神經網絡適合于解決實際問題，它不僅可以廣泛應用于模式識別、信號處理、知識工程、專家系統、優化組合、機器人控制等工程領域，也可以廣泛應用于醫學、商業、金融和文學領域。隨著神經網絡理論本身以及相關理論、相關技術的不斷發展，神經網絡的應用定將更加深入。[4]

3.2 BP神經網絡的概念

BP (Back Propagation)神經網絡是1986年由Rumelhart和McCelland為首的科學家小組提出，全稱為基于誤差反向傳播算法的人工神經網絡。BP神經網絡是目前研究最多、應用最廣泛的神經網絡模型。

BP神經網絡能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。它使用自適應學習算法，通過反向傳播不斷調整網絡的權值和閾值，使網絡的誤差平方和最小。

BP神經網絡模型拓撲結構包括輸入層（input）、隱含層(hide layer)和輸出層(output layer)。

通過圖可看出，層與層之間的神經元采用全互連的連接方式，通過相應的權系數相互聯系，隱含層內的神經元之間沒有連接。因此BP網絡可以看成是從輸入到輸出的一種高度非線性映射，映射中保持拓撲不變性，如果隱含層中神經元數目足夠多，則BP網絡就能模擬任何有理函數。由于BP網絡可在多個連續的輸入和一個或多個連續的輸出之間建立非線性映射這一特性，它常被用于智能預測。從而，我們使用BP神經網絡模擬網格資源調度過程。

3.2.1 BP神經網絡的工作過程

BP神經網絡由信息的正向傳播和誤差的反向傳播兩個過程組成：

信息的正向傳播過程：

輸入層各神經元負責接收來自外界的輸入信息，并傳遞給隱含層各神經元；隱含層負責信息變換，根據信息變化能力的需求，傳遞到輸出層。各神經元的信息，經進一步處理后，完成一次學習的正向傳播處理過程；輸出層向外界輸出信息處理結果。

誤差的反向傳播過程：

當實際輸出與期望輸出不符時，進入誤差的反向傳播階段。誤差通過輸出層，按誤差梯度下降的方式修正各層權值，向隱含、輸入層逐層反傳。

周而復始的信息正向傳播和誤差反向傳播過程，是各層權值不斷調整的過程，也是神經網絡學習訓練的過程，此過程一直進行到網絡輸出的誤差減少到可以接受的程度，或者達到預先設定的學習次數為止。[5]

4 使用BP神經網絡的網格資源調度模型

由于BP神經網絡算法響應時間較快，適合大規模分布式的網格資源調度。為了能夠最大效率的調用網格資源，我們結合BP神經網絡算法思想，提出了基于BP網絡的網格資源調度模型。

模型流程如下：

(1)將用戶提交的任務請求(包含任務的任務量、通信量、任務提交時間、時間限度等參數)加入到網格中的任務隊列排隊。任務隊列可以根據不同用戶的不同需求(用戶等級、任務時間相應要求等)對進入隊列的任務進行排序。

(2) 調度系統中的計時器，每隔一定時間就從任務隊列中取出待處理的任務，并從監視器中獲得當前系統資源分配列表。

(3) 根據待處理任務及系統資源，使用BP算法產生一個最優化的任務分配表。

(4) 執行任務分配表中的任務。如果任務順利完成，則將任務占有的資源釋，如果任務失敗，則釋放該任務所占有的系統資源，并將失敗的任務插入到任務隊列中，以待下次調度。

(5) 當不能從任務隊列中獲得任務時，表明所有任務都已經完成。

5總結

在網格環境中，資源調度是一項非常復雜且極具挑戰性的工作。計算資源調度的好壞，效率的高低直接關系到網格系統的性能。相對別的網格計算資源調度算法與模型，本文提出使用BP算法的分層資源調度模型。

該模型由調度主程序負責全局資源調度，監控程序監控每個資源任務的完成情況，這種方法在能保證任務完成的前提下，靈活地對網格資源進行配置，充分發揮網格中各節點計算機的計算能力。

參考文獻：

1崔飛.基于市場的網格資源調度算法研究[J].中國科技論文在線

2都至輝，陳渝，劉鵬. 網格計算.[M]. 清華大學出版社, 2002

3黨建武，王陽萍，趙庶旭. 神經網絡理論.[M]. 蘭州大學出版社，2005,9

第2篇：神經網絡反向傳播過程范文

現通過對時用水量變化規律的研究，提出以神經網絡法預測城市短期用水量。

1城市供水管網用水量變化規律

在我國城市供水系統中，用水量一般包括居民生活用水、工礦企業生產用水和公共事業用水等。同一城市在一天內的不同時段，用水量會發生顯著變化。

雖然城市用水量的變化受氣候、生活習慣、生產和生活條件等諸多因素的影響，變化情況也較為復雜，但通過分析不難發現：城市用水量曲線呈現三個周期性的變化，即：一天(24h)為一個周期、一星期(7d)為一個周期、一年(365d)為一個周期，并受增長因素(人口增長，生產發展)的影響。若將預測時段取為1h，則季節因素和增長因素的影響就顯得十分緩慢，因此管網時用水量的變化具有兩個重要特征：隨機性和周期性。

2人工神經網絡模型

采用目前應用最廣泛的多層前饋神經網絡模型(BP模型)來預測用水量。BP網絡由輸入層、輸出層及隱含層組成，隱含層可有一個或多個，每層由若干個神經元組成。最基本的三層BP神經網絡的結構如圖1所示。隱含單元與輸入單元之間、輸出單元與隱含單元之間通過相應的傳遞強度逐個相互聯結，用來模擬神經細胞之間的相互聯結［1～4］。

BP神經網絡采用誤差反饋學習算法，其學習過程由正向傳播(網絡正算)和反向傳播(誤差反饋)兩部分組成。在正向傳播過程中，輸入信息經隱含單元逐層處理并傳向輸出層，如果輸出層不能得到期望的輸出，則轉入反向傳播過程，將實際值與網絡輸出之間的誤差沿原來的聯結通路返回，通過修改各層神經元的聯系權值而使誤差減小，然后再轉入正向傳播過程，反復迭代，直到誤差小于給定的值為止。

假設BP網絡每層有N個處理單元，訓練集包括M個樣本模式對(Xk，Yk)。對第p個訓練樣本p，單元j的輸入總和記為netpj,輸出記為Opj，則：

如果任意設置網絡初始權值，那么對每個輸入模式p，網絡輸出與期望輸出一般總有誤差，定義網絡誤差EP：

式中dPj——對第p個輸入模式輸出單元j的期望輸出

可改變網絡的各個權重Wij以使EP盡可能減小，從而使實際輸出值盡量逼近期望輸出值，這實際上是求誤差函數的極小值問題，可采用梯度最速下降法以使權值沿誤差函數的負梯度方向改變。

BP算法權值修正公式可以表示為：

式中δpj——訓練誤差

t——學習次數

η——學習因子

f′——激發函數的導數

η取值越大則每次權值的改變越劇烈，這可能導致學習過程發生振蕩，因此為了使學習因子的取值足夠大而又不致產生振蕩，通常在權值修正公式中加入一個勢態項［5］，得：

式中α——常數，勢態因子

α決定上一次學習的權值變化對本次權值新的影響程度。

3時用水量預測

3.1方法

利用BP神經網絡預測時用水量分為三大步驟：第一步為訓練樣本的準備和歸一化，第二步為神經網絡的訓練，第三步是利用訓練后的神經網絡對用水量進行預測［6］。

由于用水量的數值較大，應對其進行一定的預處理，一般可采用初值化、極值化或等比變換。通過這些變換可有效地縮短神經網絡訓練時間，從而加快網絡收斂速度。

3.2實例

采用華北某市2000年24h用水量的實測數據進行預測。在應用神經網絡預測模型預測時用水量時，建立了時用水量數據庫，共收集了240個樣本，每個樣本包括24h的時用水量資料。

通過選取不同的輸入樣本數及不同的隱層單元個數來比較其訓練與預測結果的最大相對誤差、均方差、程序運行時間以決定網絡的結構。經過比較，最后決定采用一個隱層、12個隱層單元、24個輸出單元的BP網進行訓練,訓練過程中均采用24h的時用水量作為輸入與輸出節點(即Opi與Opj)。

由于時用水量變化具有趨勢性、周期性及隨機擾動性的特點，故預測樣本的變化規律將直接影響預測結果的變化趨勢，所以在預測時應根據預測對象的情況，選擇適當的樣本進行預測。

①預測次日24h的時用水量(或某一時刻的用水量)

a.如果這一天處于工作日則選取上一工作日的用水量作為輸入樣本進行訓練，然后預測次日的時用水量。預測結果見圖2，與實際用水量的相對誤差為-0.02%～0.01%。

b.如果預測日為周末(即周六或周日)則選取前一周(包括上周周末)的實測數據進行訓練以使預測更加準確，預測結果見圖3。與實際用水量的相對誤差為-2%～1%。

②預測一個月的時用水量

可以選取上個月的數據進行訓練，也可以選取去年或連續幾年同月的時用水量進行預測，不過訓練樣本數越大、訓練時間越長則預測精度越高。預測結果見圖4，與實際用水量的相對誤差在±1%以內。

3.3預測效果比較

為了考察神經網絡模型對城市時用水量的預測效果，同時采用時間序列三角函數分析法、灰色系統理論預測法、小波分析法對上述實例進行了預測，結果表明：時間序列三角函數分析法的預測誤差一般為±5%～±7%；灰色系統理論預測法的預測誤差大一些，為±5%～±50%；小波分析法誤差范圍為0%～±25%；而神經網絡的最大誤差不超過±1%。

可見，神經網絡方法對城市時用水量的預測效果明顯好于其他方法。

4結語

人工神經網絡是一門新興的交叉學科，利用BP網絡進行預測能擬合任意的非線性函數并且具有準確、簡單等特點，實際應用結果表明，用它來預測時用水量是可行的。

參考文獻：

［1］HaganMT,MenhajMB.TrainingfeedforwardnetworkswithMarquartalgorithm［J］.IEEETransonNeuralNetworks,1994,5(6):989-993.

［2］KanadChakraborty,ChilukuriKMohan.Forecastingthebehaviorofmultivariatetimeseriesusingneuralnetworks［J］.NeuralNetworks,1992，(5)：961-970.

［3］SietsmaJ，DowRJF.Backpropagationnetworksthatgeneralize［J］.NeuralNetworks,1999，(12)：65-69.

［4］邵良彬，高樹林.基于人工神經網絡的投資預測［J］.系統工程理論與實踐，1997，17(2)：67-71.

第3篇：神經網絡反向傳播過程范文

Abstract: Tourist quantity prediction has an important role in development of tourist industry, so it is benefit to make development planning and policy of tourist site. Aiming at the defects of BP artificial neural network, combined with Differential Evolution Algorithm, the paper proposes a tourist quantity prediction model based on DE-BP neural network. We analyse and forecast the data change trend of China's inbound tourists, and get satisfactory results.

關鍵詞：差異演化算法；神經網絡；入境游客；預測

Key words: Differential Evolution（DE）；neural network；inbound tourist；prediction

中圖分類號：F59 文獻標識碼：A文章編號：1006-4311（2010）34-0155-01

0引言

在現代旅游管理的研究中，隨著旅游經濟量化水平的不斷提高，使得眾多學者開始利用數學模型對旅游行業的發展趨勢進行預測，客源預測就是其中一個重要的方面。本文在BP神經網絡預測模型[1]中引入差異演化算法[2,3]，構造出基于DE-BP神經網絡的旅游客源預測模型，為旅游客源預測提供一種新的求解途徑。

1BP神經網絡模型和DE算法

BP算法，也稱為反向傳播算法。它是一種具有三層或者三層以上的階層型前向神經網絡（輸入層、中間層、輸出層），其主要思想是從后向前（反向）逐層傳播輸出層的誤差，以間接算出隱層誤差。算法分為兩個階段：第一階段（正向過程）輸入信息從輸入層經隱層逐層計算各單元的輸出值；第二階段（反向傳播過程）輸出誤差逐層向前算出隱層各單元的誤差，并用此誤差修正前層權值，本文采用三層結構網絡。

DE算法是基于實數編碼的演化算法，它的整體結構類似于遺傳算法（GA），與遺傳算法的主要區別在于變異操作上，DE的變異操作是基于染色體的差異向量講行的，其余操作和遺傳算法類似，也包括生成初始種群、變異操作、交叉操作和選擇操作。運用DE對神經網絡權值講行優化，較GA能有效地跳出局部最優值，克服GA的早熟現象。

2DE-BP神經網絡模型及其應用

將DE和BP神經網絡相結合，主要思想是運用DE操作保證搜索是在整個解空間進行的，同時尋優討程不依賴于種群初始值的選擇，將權值和閾值精確到一個很小的范圍，然后用BP操作保證得到精確的網絡權值。

針對我國入境游人數進行預測，采用1995年-2004年的數據[4]作為BP神經網絡的訓練樣本。首先對樣本數據進行學習，預測2005年的入境游人數，然后將訓練樣本向前推進一個，用1996年-2005年的數據進行學習，對2006年的數據進行預測；依次直至預測到2012年為止。

DE-BP神經網絡參數取值為：神經網絡輸入結點數8；中間層結點數6；輸出層結點1；種群大小50；交叉概率0.7；變異概率0.02；最大進化代數100。

采用DE-BP神經網絡的預測結果與BP神經網絡、一元多項式回歸法預測結果對比，如表1所示。

同時，我們采用平均絕對誤差（MAE）、平方差（SSE）、均方差（MSE）和預測精度（PA）等四個指標對不同方法得到的預測數據進行評價，如表2所示。

3結論

在BP人工神經網絡和差異演化算法的基礎上，構造了DE-BP神經網絡預測模型，并采用該算法對旅游客源講行預測，并將預測結果與BP神經網絡以及一元多項式回歸模型預測結果講行對比，表明該算法在預測精度上較其他兩種算法有明顯的提高。本文所提出的DE-BP神經網絡預測模型不僅可以預測旅游客源，還可以對旅游業中其它指標進行預測，同時對于其它行業類似問題也有一定的借鑒意義。

參考文獻：

[1]孫燕平，張琳，呂仁義.旅游客源預測的神經網絡方法[J].人文地理，2002，17（6）：50-52.

[2]張文修.遺傳算法的數學基礎[M].西安：西安交通大學出版社，2003.

第4篇：神經網絡反向傳播過程范文

［關鍵詞］BP神經網絡農業工程農業管理農業決策

一、引言

采用神經網絡算法的信息處理技術，以其較強的計算性和學習性，現如今已經在各工程領域內得到了廣泛應用。隨著科技不斷的發展和研究的不斷深入，農業系統中采用的傳統分析和管理的方法已經不能滿足農業工程領域快速發展的需要。在農業系統中采用神經網絡技術可在一定程度上可彌補傳統方法的不足，現已成為實現農業現代化的一個重要途徑。神經網絡現已在農業生產的各個環節得到廣泛的應用，從作物營養控制、作物疾病診斷、產量預測到產品分級，顯示了巨大的潛力，并正以很快的速度與生產實際相結合。目前應用比較多的BP神經網絡，可通過學習以任意精度逼近任何連續映射，在農業生產與科研中展示出了廣闊的應用前景。

BP人工神經網絡方法。人工神經網絡是對生物神經網絡的簡化和模擬的一種信息處理系統，具有很強的信息存貯能力和計算能力，屬于一種非經典的數值算法。通常可分為前向神經網絡、反饋神經網絡和自組織映射神經網絡。BP神經網絡(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經網絡，可通過連續不斷的在相對于誤差函數斜率下降的方向上計算網絡權值以及偏差的變化而逐漸逼近目標值，每一次數字和偏差的變化都與網絡誤差的影響成正比，并以反向傳播的方式傳遞到每一層，從而實現了神經網絡的學習過程。BP人工神經網絡的結構如圖所示，BP神經網絡可分為輸入層、中間層(隱含層)和輸出層，其中輸入和輸出都只有一層，中間層可有一層或多層。同層的網絡結點之間沒有連接。每個網絡結點表示一個神經元，其傳遞函數通常采用Sigmoid型函數。BP神經網絡相當于從輸入到輸出的高度非線性映射，對于樣本輸入和輸出，可以認為存在某一映射函數g，使得y0=g(xi)，i＝1，2，3，…，m，其中m為樣本數，xi為輸入樣本，yo為輸出結果。

BP神經網絡的一個顯著優點就是其可進行自學習，能夠通過訓練得到預期的效果。其學習過程由正向傳播和反向傳播組成，神經網絡的輸入值經過非線性變換從輸入層經隱含層神經元的逐層處理傳向輸出層，此為正向傳播過程。每一層神經元的狀態將影響到下一層神經元狀態。如果輸出層得到的數值與期望輸出有一定的偏差，則轉入反向傳播過程。神經網絡通過對輸入值和希望的輸出值(教師值)進行比較，根據兩者之間的差的函數來調整神經網絡的各層的連接權值和各個神經元的閾值，最終使誤差函數達到最小。其調整的過程是由后向前進行的，稱為誤差反向傳播BP算法。具體學習過程如下：

（1)隨機給各個權值賦一個初始權值，要求各個權值互不相等，且均為較小的非零數。

（2)輸入樣本集中每一個樣本值，確定相應的網絡實際輸出值。

（3)計算實際的輸出值與相應的樣本集中的相應輸出值的差值。

（4)按極小誤差方式調整權值矩陣。

（5)判斷網絡誤差是否小于訓練前人為設定的一個較小的值，若小于，則跳出運算，此時的結果為神經網絡的最終訓練結果；若大于，則繼續計算。

（6）判斷最大迭代次數是否大于預先設定的數，若小于，返回（2）;若大于，則中止運算，其結果為神經網絡的最終訓練結果。

上述的計算過程循環進行，直到完成給定的訓練次數或達到設定的誤差終止值。

二、BP神經網絡在農業工程領域中的應用

1.在農業生產管理與農業決策中的應用

農業生產管理受地域、環境、季節等影響較大，用產生式規則完整描述實際系統，可能會因組合規則過多而無法實現。神經網絡的一個顯著的優點就是其具有較強的自學習、自適應、自組織能力，通過對有代表性的樣本的學習可以掌握學習對象的內在規律，從而可以在一定程度上克服上述信息量大的問題。神經網絡在農業生產管理方面可用于農作物生長過程中對農作物生長需求進行預測，從而通過對養分、水分、溫度、以及PH值的優化控制達到最優的生長狀況。采用神經網絡預測算法的主要思想可描述為：（1）收集一定規模的樣本集，采用BP算法進行訓練，使網絡收斂到預定的精度；（2）將網絡權值矩陣保存到一存儲介質中，例如文本文件或數據庫中；（3）對于待預測數據的輸入部分，從存儲介質中讀出網絡連接權值矩陣，然后通過BP神經網絡的前向傳播算法計算網絡輸出，輸出結果既是預測出來的數值向量。如霍再林等針對油葵不同階段的相對土壤含鹽濃度對其產量的影響有一定的規律的現象，以油葵的6個成長階段的土壤溶液含鹽的相對濃度為輸入樣本，相對產量為輸出樣本，通過比較發現，訓練后的神經網絡能較好預測油葵產量，采用此方法可補充傳統模型的不足，為今后進一步的研究開辟了新路。

在農業決策方面，主要將農業專家面對各種問題時所采取的方法的經驗，作為神經網絡的學習樣本，從而采用神經網絡建立的專家系統將從一定程度上彌補了傳統方法的不足，將農業決策智能化。如何勇、宋海燕針對傳統專家系統自學習能力差的缺點，利用神經網絡可自我訓練的優點，將神經網絡引入專家系統中。將小麥缺素時的田間宏觀表現，葉部、莖部、果實癥狀及引起缺素的原因這五個方面的可信度值作為神經網絡的輸入量，將農業專家診斷的結論作為輸出量，將這些數據作為神經網絡的訓練數據。實際應用表明此系統自動診斷的結果與專家現場診斷的結果基本一致，從而采用該系統能夠取代專家，實現作物的自我診斷，為農業管理方面提供了極大的幫助。如馬成林等針對于傳統施肥決策方法中非線性關系描述不足的問題，基于數據包分析和BP神經網絡，建立了施肥決策模型，應用表明，在有限的范圍內，模型預測結果較為合理，可以反映玉米的需肥特性。劉鋮等人提出采用神經網絡應用在農業生產決策中，以莜麥播種方式決策為例，通過對產生式規則的分析導出神經網絡輸入、輸出單元數，并通過多次試驗確定隱層單元數，用MATLAB方針結果表明，采用神經網絡作為農業生產決策的方法，取得了較好的效果。譚宗琨提出將基于互聯網環境下的神經網絡應用在玉米智能農業專家系統中，根據農作物發育進程分成若干個發育期，分別對各個發育期建立管理模型，依照作物各發育期進程時間間隔，由計算機系統自動選取相應的模型進行決策。應用分析的結果表明采用神經網絡的玉米智能專家系統已初步接近農業生產的實際。

2.在農產品外觀分析和品質評判

農產品的外觀，如形狀、大小、色澤等在生產過程中是不斷變化的，并且受人為和自然等復雜因素的影響較大。農產品的外觀直接影響到農產品的銷售，研究出農作物外觀受人為和自然的影響因素，通過神經網絡進行生產預測，可解決農產品由于不良外觀而造成的損失。如Murase 等針對西紅柿表皮破裂的現象，西紅柿表皮應力的增長與西紅柿果肉靠近表皮部分水分的增加有關，當表皮應力超過最大表皮強度時，將導致表皮破裂。用人工神經網絡系統，預測在環境溫度下的表皮應力，可通過控制環境變量來減少西紅柿表皮破裂所造成的損失。

在農業科研和生產中，農產品的品質評判大多是依賴于對農產品外觀的辨識。例如對果形尺寸和顏色等外觀判別果實的成熟度，作物與雜草的辨別，種子的外觀質量檢測。由于農業環境的復雜性和生物的多樣性，農產品的外觀不具有較確定的規律性和可描述性，單一采用圖像處理技術辨識農產品的外觀時不宜過多采取失真處理和變換，否則則增加圖像處理的復雜性，特征判別也相對困難。人工神經網絡由于其具有自學習、自組織的能力，比較適宜解決農業領域中許多難以用常規數學方法表達的復雜問題，與圖像處理技術相結合后，可根據圖像特征進行選擇性判別。采用此方法可以部分替代人工識別的工作，提高了生產效率，也有利于實現農業現代化。如Liao等將玉米籽粒圖像用34個特征參數作為神經網絡的輸入變量，將輸出的種粒形態分為5類，經過學習的神經網絡對完整籽粒分類的準確率達到93％，破籽粒分類的準確率達91％。

3.蔬菜、果實、谷物等農產品的分級和鑒定

在農業生產中，蔬菜、果實、谷物等農產品的分級和鑒定是通過對農產品外觀的辨識進行的。傳統的農產品外觀的辨識方法費時費力、預測可靠度很低，而且多采用人工操作，評價受到操作者主觀因素的影響，評判的精度難以保證。利用人工神經網絡技術結合圖像處理技術可部分代替以往這些主要依靠人工識別的工作，從而大大提高生產效率，實現農業生產與管理的自動化和智能化。

利用BP神經網絡技術對農產品果形尺寸和顏色等外觀評判，目前國內外已有不少成果用于實際生產中。何東健等以計算機視覺技術進行果實顏色自動分級為目的，研究了用人工神經網絡進行顏色分級的方法。分別用120個著色不同的紅星和紅富士蘋果作為訓練樣本集對網絡進行離線訓練。兩個品種的蘋果先由人工依據標準按著色度分成4級，對每一個品種分別求出7個模式特征值作為BP網絡的輸入，用訓練好的神經網絡進行分級。結果表明紅富士和紅星果實的平均分級一致率分別為94.2％和94.4％。劉禾等用對稱特征、長寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網絡與人工智能相結合，建立果形判別人工神經網絡專家系統。試驗水果品種為富士和國光。試驗表明系統對富士學習率為80％，對非學習樣本的富士蘋果的果形判別推確率為75％，系統對國光學習率為89％，對非學習樣本的國光蘋果果形判別系統的難確率為82％。

三、未來的發展方向

人工神經網絡的信息處理技術現已在農業工程領域內得到了迅速的應用，采用人工神經網絡算法的農業系統能夠從一定程度上改善控制效果，但此技術在農業范圍內還不夠成熟，有待于進一步的研究。今后科研的方向大體上可以從以下幾方面著手：

1.人工神經網絡算法的改進

人工神經網絡算法由于本身具有一定的缺點，從而采用人工神經網絡的算法的信息處理技術在應用過程中具有一定的局限性。在今后的研究中，可以從人工神經網絡方向著手，改進人工神經網絡算法，從而實現其在農業領域內更好的應用。近年來隨著模糊算法、蟻群算法等算法的相繼出現，將神經網絡與其他算法結合在一起已經成為了研究的熱門話題，也是未來算法研究的主要方向之一。

2.應用領域的擴展

人工神經網絡算法在農業工程方面現已得到了迅速的發展，擴展其在農業工程領域的應用范圍是未來的一個主要研究方向。人工神經網絡由于其具有自學習能力，可對農業系統的非線形特性進行較好的描述，采用人工神經網絡可解決傳統方法的不足，從而實現農業現代化。如何將神經網絡較好地引入到農業系統，解決農業工程中的部分問題，已是今后農業科研中的一個方向。

四、結束語

神經網絡作為一種人工智能范疇的計算方法，具有良好的自學習與數學計算的能力，可通過計算機程序進行模擬運算，現已廣泛用于模式識別、管理決策等方面。隨著計算機硬件和軟件的不斷發展與農業工程方面的研究的不斷深入，神經網絡將在農業管理、農業決策、農作物外觀分類、品質評判等方面充分發揮其自學習能力強，計算能力強的優勢，通過對樣本數據的學習，神經網絡可較好地解決農作物生長過程中的作物分類、預測等非線形的問題。在農業工程領域內，神經網絡擁有廣闊的科研前景。

參考文獻:

[1]余英林李海洲:神經網絡與信號分析[M]. 廣州: 華南理工大學出版社,1996:45

[2]霍再林史海濱孔東等: 基于人工神經網絡的作物水―鹽響應初步研究[J].內蒙古農業大學學報，2003，24（3）：66～70

[3]何勇宋海燕:基于神經網絡的作物營養診斷專家系統[J]. 農業工程學報,2005,21（1）:110～113

[4]馬成林吳才聰張書慧等:基與數據包絡分析和人工神經網絡的變量施肥決策方法研究[J].農業工程學報,2006，20（2）:152～155

[5]劉鋮楊盤洪: 莜麥播種方式決策的BP神經網絡模型[J]. 太原理工大學學報，2006,37(5):119～121

[6]譚宗琨: BP人工神經網絡在玉米智能農業專家系統中的應用[J].農業網絡信息，2004(10):9～1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92～3579

第5篇：神經網絡反向傳播過程范文

關鍵字：小波分析；去噪處理；神經網絡；股票預測

一、引言

從股票產生起，人們就開始對它進行各種各樣的研究，研究表明股票市場是一個極其復雜的動力學系統。高噪聲、嚴重非線性和投資者的盲目任意性等因素決定了股票預測的復雜與困難。針對股票市場表現的不同特點，人們提出了多種多樣的預測方法，常用的預測方法有下面幾種：

1.證券投資分析法。這是分析和預測股價變化方向和趨勢的方法，可分為基本分析法、技術分析法和組合分析法三大類。

2.時間序列分析法。這種方法主要是通過建立股價及綜合指數之間的時間序列相關辨識模型。

3.其它預測方法。如專家評估法和市場調查法等定性方法，季節變動法、馬爾柯夫法和判別分析等定量預測方法。

4.神經網絡預測法。人工神經網絡以其獨特的信息處理特點在許多領域得到了成功應用。它不僅具有強大的非線性映射能力，可以實現復雜的因果關系，而且還具有許多優秀品質，如：自適應、自學習和糾錯性等。BP神經網絡模型作為證券市場預測的基本因果模型，收到良好的效果。

5.小波神經網絡預測法。小波神經網絡是神經網絡的一種改進，它融合了神經網絡和小波的優點。與一般的神經網絡相比它對高頻信號的適應能力更強，預測效果更好[1]-[2]。

由于神經網絡具有可任意逼近非線性連續函數的學習能力和對雜亂信息的綜合能力，國內外眾多學者都曾使用其對股票數據進行預測。White（1992）嘗試用神經網絡來預測IBM普通股每日的收益率；吳華星（1998）根據自組織模式理論建立了基于前饋神經網絡的股票價格預測系統；宋軍等（2007）采用Elman回歸神經網絡分析方法，通過對股票市場的技術指標的建模， 尋求股票價格的變化規律， 實現對股票價格的預測。但是經過研究發現，使用人工神經網絡進行預測一旦陷入局部最小值就會使其預測結果大打折扣。王建偉（2004）運用Haar和dbN小波對鞍山信托的收盤價和成交量進行變換再用神經網絡對股票價格預測取得了較好的預測結果；蘭秋軍等（2004）[4]和鄧凱旭、宋寶瑞（2006）討論了小波變換在金融時間序列中的應用，得出小波方法可有效消除金融時間序列中的噪聲，并能充分保留原信號的特征；李萍（2010）結合小波變換與神經網絡對匯率等一些經濟數據進行預測也收到了很好的效果。[5]可見把小波與神經網絡相結合的分析預測方法在經濟數據預測中能夠收到很好的效果。開盤價是股票當天第一筆成交價格，是市場各方對當天股價的一個預期，對股價的走勢具有一定的預測作用。本文通過小波對股票每日最高價、最低價以及開盤價進行去噪處理，然后用BP神經網絡對開盤價進行預測。避免了非正常價格對股票的影響，提高了預測的精度。

二、小波消噪的基本原理

小波分析方法是一種窗口大小固定但其形狀可以改變，時間窗和頻率都可以改變的時頻局部化分析方法。即在低頻部分具有較高的頻率分辨率和較低的時間分辨率，在高頻部分具有較高的時間分辨率和較低的頻率分辨率，所以被譽為數學顯微鏡，正是這種特性，使小波變換具有對信號的自適應性。小波分析有兩個顯著特點：一是在時域都具有緊支集或近似緊支集；二是正負交替的波動性。小波分析是將信號分解成一系列小波函數的疊加，而這些小波函數都是由一個母小部進行比較，獲取的是信號的高頻部分。小波分析理論有一個重要的特色就是可以進行多分辨率分析。信號可以通過多層次分解為反映高頻信息的細節部分和反映低頻信息的概貌部分，通過這種多分辨率分解，信號和噪聲通常會有不同的表現，從而可達到信噪分離的目的。綜上所述我們可以利用小波函數去除股票價格信息中包含的噪聲因素。

三、BP神經網絡

BP（Back Propagation）網絡是1986年由Rumelhart和McCelland為首的科學家小組提出，是一種按誤差逆傳播算法訓練的多層前饋網絡，是目前應用最廣泛的神經網絡模型之一。BP網絡能學習和存貯大量的輸入-輸出模式映射關系，而無需事前揭示描述這種映射關系的數學方程。它的學習規則是使用最速下降法，通過反向傳播來不斷調整網絡的權值和閾值，使網絡的誤差平方和最小。BP神經網絡模型拓撲結構包括輸入層（input）、隱含層（hide layer）和輸出層（output layer）。它是利用非線性可微分函數進行權值訓練的多層網絡，具有極強的容錯性、自組織和自學習性，有著較好的函數逼近和泛化能力[6]。

BP神經網絡，即誤差反傳誤差反向傳播算法的學習過程，由信息的正向傳播和誤差的反向傳播兩個過程組成。輸入層各神經元負責接收來自外界的輸入信息，并傳遞給中間層各神經元；中間層是內部信息處理層，負責信息變換，根據信息變化能力的需求，中間層可以設計為單隱層或者多隱層結構；最后一個隱層傳遞到輸出層各神經元的信息，經進一步處理后，完成一次學習的正向傳播處理過程，由輸出層向外界輸出信息處理結果。當實際輸出與期望輸出不符時，進入誤差的反向傳播階段。誤差通過輸出層，按誤差梯度下降的方式修正各層權值，向隱層、輸入層逐層反傳。周而復始的信息正向傳播和誤差反向傳播過程，是各層權值不斷調整的過程，也是神經網絡學習訓練的過程，此過程一直進行到網絡輸出的誤差減少到可以接受的程度，或者預先設定的學習次數為止。[7]-[9]

在金融數據分析預測中經常會遇到一些復雜的非線性系統，這些系統狀態方程復雜，難以用數學方法準確建模。在這種情況下，可以建立BP神經網絡表達這些非線性系統。該方法把未知系統看成是一個黑箱，首先用系統輸入輸出數據訓練BP神經網絡，使網絡能夠表達該未知函數，然后就可以用訓練好的BP神經網絡預測系統的輸出。本文將把股票每日的最高價和最低價作為輸入，股票每日的開盤價作為輸出訓練神經網絡，使得訓練后的神經網絡能夠預測股票開盤價的輸出。

四、實例分析與結果

第6篇：神經網絡反向傳播過程范文

關鍵詞：中藥水提液；膜污染；BP神經網絡；隱含層神經元；遺傳算法

DOI：10.3969/j.issn.1005-5304.2017.04.023

中圖分類號：R2-05；R284.2 文獻標識碼：A 文章編號：1005-5304（2017）04-0092-05

Study on Forecasting Ceramic Membrane Fouling in TCM Extracts Based on Improved BP Neural Network DOU Peng-wei， WANG Zhen， SHE Kan-kan， FAN Wen-ling （Institute of Information Technology， Nanjing University of Chinese Medicine， Nanjing 210023， China）

Abstract： Objective To prevent and treat of ceramic membrane purification of membrane fouling process of TCM extracts； To explore new methods of forecasting membrane fouling degree. Methods BP neural network model was improved. Methods to fast determine the optimal number of neurons in the hidden layer and fast algorithm for optimizing the weight and threshold of BP neural network were studied. Data of 207 groups of TCM extracts were under network training and prediction. Results Compared with the models of multiple regression analysis， basic BP neural network and RBF neural network， the error of the improved BP neural network model was less than that of the BP neural network model， and the mean square error was only 0.005 7. In addition， the improved BP neural network model performance was more stable. In the 20 random running experiments， the goal of the success rate achieved up to 95%. Conclusion The improved model has a good network performance， the fitting effect and prediction ability， and can forecast the fouling degree of membrane stably and accurately.

Key words： TCM extracts； membrane fouling； BP neural network； hidden layer neuron； genetic algorithm

中藥水提液的純化技術是中藥制劑前處理中應用最多的工藝方法之一。陶瓷膜因具有耐高溫、化學性質穩定、抗污染性強、機械強度高等優點[1]，被廣泛應用于中藥水提液的純化過程。然而，膜污染是制約陶瓷膜精制中藥的關鍵問題。

膜污染是指由于被過濾液中的微粒、膠體離子、溶質分子與膜存在物理化學作用而引起的各種粒子在膜表面或膜孔內吸附或沉積，造成膜孔堵塞或變小并使膜的透過流量與分離特性產生不可逆變化的一種現象[2]。中藥水提液組成復雜，是一種含有懸浮的固體微粒、膠體粒子和完全溶解溶質分子的復雜混懸體，在分離過濾操作時膜極易被污染，造成膜通量銳減[3-4]。目前，中藥水提液陶瓷膜膜污染機理尚不明確，過濾過程缺乏系統性理論指導及有效的膜污染控制手段。

中藥水提液陶瓷膜膜污染是多種復雜因素綜合作用的結果，具有較強的不確定性，難以采用特定函數模型描述。要實現對膜污染的準確預測，需要建立合理實用的預測模型。BP神經網絡是近年被廣泛應用的一種模擬人腦神經系統結構和功能的人工智能方法，是一種解決非線性、不確定性問題的數學模型，具有連續傳遞函數的多層前饋人工神經網絡，訓練方式為誤差反向傳播算法，并以均方誤差最小化為目標不斷調整網絡的權值和閾值，最終能高精度地擬合數據[5]。BP神經網絡具有較強的學習和適應能力，適合針對中藥水提液復雜系統建模，在處理具有非線性特點的中藥水提液陶瓷膜膜污染預測問題方面，比一般的線性、非線性模型更有優勢。

1 BP神經網絡

1.1 拓撲結構

BP神經網絡是按誤差逆傳播算法訓練的多層前饋網絡，通過訓練樣本來學習和存貯大量輸入-輸出模式映射關系，無需事先揭示及描述映射關系的數學方程。學習規則采用最速下降法，通過誤差反向傳播不斷調整網絡的權值和閾值，使網絡的整體誤差最小[6-8]。

BP神經網絡的拓撲結構包括輸入層、隱含層和輸出層，其中可包含1個或多個隱含層。各層次的神經元之間形成全互連接，同層神經元之間無反饋連接，見圖1。

1.2 基本原理及其缺陷

BP神網絡由信號的正向傳播和誤差的逆向傳播2部分組成[9]。設輸入層神經元為P=[p1，p2，…pi]，隱含層神經元為S=[s1，s2，…sk]，輸出層神經元為A=[a1，a2，…，aj]， 表示輸入層第i個神經元與隱含層第k個神經元之間的連接權值， 表示隱含層第k個神經元與輸出層第j個神經元之間的連接權值；隱含層的激勵函數為f1，輸出層的激勵函數為f2， 表示隱含層中各神經元的閾值， 表示輸出層中各神經元的閾值。

1.2.1 信息的正向傳遞 輸入層各神經元與隱含層各神經元之間以相應的權重連接，隱含層的第1個神經元 ，從輸入層的每個神經元處得到輸出值，加權求和 ，加上閾值 ，通過激勵函數f1，得到該神經元的輸出值為 。

輸出層第1個神經元a1接收隱含層每個神經元輸出值，并加權求和得 ，加上閾值 ，通過激勵函數f2，得到輸出層該神經元的輸出值為 。

1.2.2 誤差的反向傳播 N個數據樣本進入輸入層正向傳播，經過隱含層各神經元處理，傳向輸出層，得到實際輸出值A，將實際輸出值A與期望輸出值T進行誤差分析，比較并計算實際輸出與期望輸出的均方誤差 。

如果MSE未達到精度要求ε，則進入反向傳播過程，把均方誤差信號MSE以梯度形式，按原來正向傳遞的通路逐層進行反向傳播，并將誤差信號MSE分攤給各層的所有神經元，從而獲得各層神經元的誤差信號MSEj（j=1，2，3），將此誤差信號MSEj作為修正各連接權值和閾值的依據，并對其修改。

重復進行網絡信息的正向傳遞和網絡誤差的反向傳播過程，直至均方誤差MSE達到精度要求或者訓練達到最大迭代次數。

BP神經網絡在實際應用中存在一些缺陷[10]，其中在中藥分析領域有2個較明顯的缺陷：第一，BP神經網絡的建模過程必須構造一定的隱含層結構，但尚無合適的方法確定隱含層的神經元數，而隱含層神經元數過少或過多都會造成模型預測結果不準確；第二，BP神經網絡的初始權值和閾值是隨機產生的，權值和閾值的取值情況又決定著數據擬合的效果，因此該模型具有不穩定性。

2 改進的BP神經網絡模型

2.1 隱含層神經元數

利用區間估算方法快速確定BP神經網絡隱含層神經元數。具有單隱層的BP神經網絡模型能夠映射所有連續函數，在不約束隱含層神經元數的情況下，單隱層的BP神經網絡模型能夠實現任意的非線性映射[11]。因此，本研究選用單隱層模型。

隱含層神經元數的確定是BP神經網絡模型中非常關鍵和復雜的問題，目前尚無標準方法來確定最佳隱含層神經元數。如果隱含層神經元數過少，會使得BP神經網絡性能不佳，不能產生足夠的連接權組合來滿足網絡對樣本的學習需求；如果隱含層神經元數過多，極易陷入局部最小值，達不到最優點，出現過擬合現象[12]。許多學者通過試湊法[13-15]歸納出了確定隱含層神經元數目的一些經驗性公式，如 、 、 ，其中k為隱含層神經元數目，n為輸入層神經元數目，m為輸出層神經元數目，a為常數（一般a∈[1，10]）。

實踐表明，最佳隱含層神經元數常介于 和 之間，因此本研究采用區間估算來快速確定BP神經網絡隱含層神經元數的方法。具體步驟：①構建一個單隱層的BP神經網絡結構，網絡輸入層神經元數目為n，輸出層神經元數目為m，初始隱含層神經元數目 ；②初始化BP神經網絡，通過權值直接確定法[16]設置網絡各層的連接權值、閾值，并設置精度要求ε；③網絡訓練，計算均方誤差MSE；④若 ，隱含層增加1個神經元數目，返回步驟③，否則停止運算；⑤比較不同隱含層神經元數下的網絡均方誤差，選擇最小均方誤差所對應的隱含層神經元數作為最佳隱含層神經元數。

2.2 初始權值和閾值

針對BP神經網絡存在的“網絡初始權值和閾值隨機性”問題，本研究采用遺傳算法來優化BP神經網絡的初始權值和閾值。遺傳算法[17-18]是模擬達爾文的遺傳選擇和自然淘汰的生物進化過程的計算模型，是一種通過模擬自然進化過程搜索最優解的方法。遺傳算法從1組隨機產生的初始解（稱為群體）開始搜索過程。群體中的每個個體都是問題的1個解，稱為染色體；染色體在后續迭代中不斷進化，生成下一代染色體。染色體的優劣通過適應度函數衡量。根據適應度的大小從上一代和后代中選擇一定數量的個體作為下一代群體繼續進化，直至發現最好的染色體，即問題的最優解。

遺傳算法的目標是尋找所有進化代中能夠使網絡均方誤差最小的網絡權重，但由于遺傳算法只能朝著使適應度函數值增大的方向進行，所以本研究采用均方誤差的倒數作為適應度函數。當該適應度函數取得最大值時，BP神經網絡獲得最佳權值和閾值。計算公式： 。式中 表示第i條染色體的適應度值；MSEi表示根據第i條染色體確定的BP神經網絡權值和閾值時預測值A與期望值T的均方誤差。

利用遺傳算法進行BP神經網絡模型權值和閾值快速尋優的具體步驟：①通過編碼方式生成初始種群；②設置適應度函數；③計算群體中所有個體的適應值；④選擇適應度高的個體執行遺傳操作；⑤若達到終止條件，則返回最佳個體，即BP神經網絡的初始權值和閾值；若未達到終止條件，則以指定的最大遺傳步數為終止計算準則。基于遺傳算法的BP神經網絡流程圖見圖2。

3 中藥水提液陶瓷膜膜污染預測實驗

3.1 實驗數據

3.1.1 參數體系 根據膜科學原理和經驗規律，中藥水提液中的共性高分子、物理化學性質和阻力分布等情況會對膜過程產生影響，是引起膜污染的重要因素?？紤]到實際測量的可行性，選擇測定5種高分子物質（固含含量、果膠含量、淀粉含量、蛋白含量和鞣質含量）、6種物化性質（pH值、電導率、鹽度、濁度、黏度、密度）及3種阻力分布特征量（膜自身阻力、濃差極化阻力和表面沉積阻力），建立中藥水提液膜過程參數體系。

3.1.2 數據樣本 根據中藥水提液膜過程參數體系，通過實驗測定了207組中藥水提液數據，其中145組數據（70%）作為訓練集，62組數據（30%）作為測試集。

本實驗目的為通過對中藥水提液的共性高分子含量、物化性質和阻力分布特征量的分析來預測膜污染度，因此輸入向量為固含含量等14個屬性值，輸出向量為膜污染度，見表1。

3.1.3 數據歸一化 由于輸入向量的數量級相差較大，直接將原始數據輸入BP神經網絡進行網絡訓練將使網絡性能和收斂性較差，因此需要對輸入向量進行歸一化處理，把數據限定在區間[0，1]。而輸出向量的數值符合該區間，故無需進行歸一化處理。數據歸一化處理公式：X=（X0-Xmin）/（Xmax-Xmin）。其中X為歸一化后的數值，X0為歸一化前的原始數據，Xmax和Xmin分別為該屬性原始數據的最大值和最小值。

3.2 預測模型

3.2.1 網絡結構設計 根據BP神經網絡原理，構建單隱層的網絡模型。由于輸入向量有14個屬性元素，輸出向量是1個屬性元素，故設置網絡輸入層的神經元數為14，網絡輸出層的神經元數為1。采用“2.1”項網絡隱含層神經元數的快速確定方法，估算出隱含層神經元數目區間為3～13。為了確定最佳隱含層神經元數目，設計對比實驗比較不同神經元數目的網絡誤差，實驗偽代碼見圖3，其中P、T、S、O分別為訓練輸入值、訓練目標值、預測輸入值和預測目標值。實驗結果見表2。

表2表明，在其他條件相同的情況下，模型的隱含層神經元數目設置為9時，網絡均方誤差最小，模型的預測效果最佳，即最佳網絡結構為14∶9∶1。

根據遺傳算法原理設計優化模型。遺傳算法的編碼采用實數編碼，編碼串由4個部分組成：輸入層與隱含層的連接權值、隱含層與輸出層的連接權值、隱含層閾值和輸出層閾值。設定種群初始規模為50，最大遺傳代數為100，交叉操作采用單點交叉，變異操作采用均勻變異，交叉因子為0.6，變異因子為0.3。

3.2.2 預測結果分析 根據BP神經網絡訓練特點，設置網絡結構的訓練參數：BP神經網絡的隱含層神經元激勵函數采用S型正切函數，輸出層神經元激勵函數采用S型對數函數。應用模型進行網絡訓練和測試，具體預測結果見表3。

實驗均方誤差僅為0.005 7，表明基于改進BP神經網絡的中藥水提液陶瓷膜膜污染預測模型能夠有效地對膜污染度進行預測。也證明中藥水提液中的共性高分子、物理化學性質和阻力分布特征確實是影響膜污染的重要因素。

為分析模型的精度，將本研究實驗結果與近年來中藥水提液膜污染數據建模相關文獻[19-21]進行對比，見表4。結果表明，與多元回歸分析、基本BP神經網絡和RBF神經網絡比較，改進BP神經網絡具有更好的泛化能力，擬合效果和預測精度均有較大提高。

3.2.3 模型性能評價 由于BP神經網絡的初始權值和閾值是隨機產生的，網絡模型性能與其相關，也是隨機變化的，因此為了對模型進行評價，令基本BP神經網絡模型和改進模型均隨機運行20次，分別考察達到預設目標的情況。設定平均相對誤差為10%，即均方誤差MSE為0.01，進行對比分析，見表5。

表5表明，改進的BP神經網絡穩定性更佳，說明改進算法實現了結構、權值和閾值的同步優化，避免了BP神經網絡初始化的隨機性和盲目性，提高了計算精度和效率。

4 小結

本研究表明，基于改進BP神經網絡的中藥水提液陶瓷膜膜污染預測模型能夠適應中藥水提液陶瓷膜純化過程中采集到的多維、非線性數據，能夠穩定準確地預測膜污染度，為中藥水提液陶瓷膜膜污染的預測和防治提供了有效方法。

參考文獻：

[1] SISKENS C A M. Fundamental of inorganic membrane science and technology[M]. Holland：Elsevier Science B V，1996：619-639.

[2] 劉忠洲，續曙光，李鎖定.微濾超濾過程中的膜污染與清洗[J].水處理技術，1997（4）：3-9.

[3] 樊文玲，郭立瑋，林瑛.不同預處理方法對陶瓷膜澄清中藥水提液過程的影響研究[J].中成藥，2008，30（11）：1709-1710.

[4] 賀立中.藥液超濾過程中的膜污染及其防治[J].膜科學與技術，2000， 20（5）：49-54.

[5] 劉春艷，凌建春，寇林元，等.GA-BP神經網絡與BP神經網絡性能比較[J].中國衛生統計，2013，30（2）：173-176.

[6] HOLLAND J H. Adaptation in natural and artificial systems：an introductory analysis with applications to biology，control， and artificial intelligence[M]. Cambridge：MIT Press，1992：89.

[7] 王元章，譴夯，周笛青，等.基于BP神經網絡的光伏陣列故障診斷研究[J].電力系統保護與控制，2013（16）：108-114.

[8] 張國翊，胡錚.改進BP神經網絡模型及其穩定性分析[J].中南大學學報：自然科學版，2011，42（1）：115-124.

[9] 郝曉弘，段曉燕，李恒杰.基于BP神經網絡的迭代學習初始控制策略研究[J].計算機應用，2009，29（4）：1025-1027，1031.

[10] 夏玫，陳立潮，王新波.一種提高BP神經網絡泛化能力的改進算法[J].計算機技術與發展，2009，19（9）：62-64，68.

[11] CHEN T， CHEN H， LIU R W. Approximation capability in C（Rn） by multilayer feedforward networks and related problems[J].IEEE Transactions on Neural Network，1995，6（1）：25-30

[12] 范佳妮，王振雷，錢鋒.BP人工神經網絡隱層結構設計的研究進展[J].控制工程，2005，12（S1）：109-113.

[13] 沈花玉，王兆霞，高成耀，等.BP神經網絡隱含層單元數的確定[J].天津理工大學學報，2008，24（5）：13-15.

[14] 褚輝，賴惠成.一種改進的BP神經網絡算法及其應用[J].計算機仿真，2007，24（4）：75-77.

[15] 張慶慶，賀興時.BP神經網絡結點數選取的改進方法及其應用[J].西安工程大學學報，2008，22（4）：502-505.

[16] 張雨濃，李巍，蔡炳煌，等.切比雪夫正交基神經網絡的權值直接確定法[J].計算機仿真，2009，26（1）：157-161.

[17] 范青武，王普，高學金.一種基于有向交叉的遺傳算法[J].控制與決策，2009，24（4）：542-546.

[18] 莊健，楊清宇，杜海峰，等.一種高效的復雜系統遺傳算法[J].軟件學報，2010，21（11）：2790-2801.

[19] 洪弘.數據挖掘技術在中藥水提液膜分離中的應用研究[D].南京：南京中醫藥大學，2012.

第7篇：神經網絡反向傳播過程范文

［關鍵詞］人工神經網絡湖南人均GDP預測

GDP反應某地區在核算期內生產活動的最終成果及衡量國民經濟發展規模、速度、結構、效益的代表性指標，也是制定經濟發展戰略目標的主要指標。湖南省作為中部的一個省份，通過對“十一五”期間湖南省人均GDP的預測，可以分析全省的勞動量、資本量和技術知識的存量，利用GDP的存量功能，可以獲得資源與要素的信息，并據此推算湖南省的經濟增長的潛力，從而有利于政府部門制定更合理的經濟政策。

一、問題的分析與模型的建立

經濟預報是一個復雜的非線性系統,且系統的內部時時刻刻在發生變化,我們希望能夠建立一個參數隨預測環境的變化而改變的非線性模型,國內外對經濟的預測進行了大量的研究，提出了許多預測的方法，其中神經網絡被認為是一種較好的非線性預測方法，尤其是BP神經網絡。BP神經網絡結構簡單，非線性處理能力卻很強大。

1.BP網絡模型

BP網絡是一種單向傳播的多層前向網絡，其結構如圖1

BP網絡是一種具有三層或三層以上的神經網絡，包括輸入層、中間層（隱層）和輸出層。上、下層之間實現聯接，而每層神經元之間無聯接。當一對學習樣本提供給網絡后，神經元的激活值，從輸入層經各中間層，向輸出層傳播，在輸出層的各神經元獲得網絡的輸入響應。接下來，按照減少目標輸出與實際值的誤差的方向，從輸出層經過各中間層逐層修正各聯接權值，最后回到輸入層，這種算法稱為“誤差逆傳播算法”，即BP算法。隨著這種誤差逆傳播修正不斷進行，網絡對輸入模式響應的正確率也不斷上升。

圖1為常用的三層BP網絡結構,如果輸入層、隱含層和輸出層的單元個數分別為n、q、m，則該三層網絡可表示BP（n，q，m），利用該網絡可實現n維輸入向量Xn=(X1,X2…Xn)到m維輸出向量Ym=(Y1,Y2…Ym)T的非線性映射。m,n根據具體問題確定，而隱含層單元數q的確定尚無成熟的方法，一般可設定不同的q值，根據訓練結果進行選擇。網絡結構BP（n，q，m）確定后，網絡參數包括輸入層第i單元到隱含層第j單元的權重Wij(i=1...n,j=1...q)，隱層第i單元到輸出層第k單元的權重Wiko（j=1...q,k=1...m）；隱含層第j單元的激活閾值(j=1...q)及輸出層第k單元的激活閾值(k=1...m)，以上權值和閾值的初值在網絡訓練之前隨機生成；假設共有p個訓練樣本，輸入的第p個訓練樣本信息首先向前傳播到隱含層單元上，經過激活函數f(u)的作用得到隱含層的輸出信息: (1)

激活函數f(u)采用s(0,1)型函數，即 (2)

隱含層的輸出信息傳到輸出層，可得到最終輸入結果為

BP算法的基本思想是學習過程由信號的正向傳播與誤差的反向傳播兩個過程組成。以上過程為網絡學習的信息正向傳播過程；如果網絡輸出與期望輸出存在誤差，則將誤差反向傳播，誤差的反射傳播是將輸出誤差以某種形式通過隱層向輸入層逐層反傳，并將誤差分攤給各層的所有單元，從而獲得各層單元的誤差信號，以誤差信號作為修正各單元權值的依據，可以利用（4）來調節網絡權重和閾值。

其中為W(t)次訓練，η,α分別為比例系數和動量系數，E為誤差平方和反復運用以上兩個過程，一直進行到網絡輸出的誤差減少到可接近的程度或進行到預先設定的學習次數為止（）。

通常，經過訓練的網絡還應該進行性能的測試，測試的方面就是選擇樣本向量，將其提供給網絡，檢驗網絡對其分類的正確性，測試樣本向量中應包括今后網絡應用過程中可能的主要典型模式；樣本可以直接測取得到，也可以通過仿真得到，在樣本數據較少或者較難得到時，也可以通過對學習樣本加上適當的噪聲或按照一定的規則插值得到，總之，一個良好的測試樣本集中，不應該包括和學習完全相同的模式。

2.BP神經網絡在經濟預報模型中的應用

采用神經網絡進行經濟預測,以湖南省1978～1999年的經濟數據作為訓練樣本,2000年～2004年GDP進行預測仿真試驗。

GDP預測指標體系就包含第一產業（x1）、第二產業（x2）、第三產業（x3）。在考慮諸年數據的可比性，在應用神經網絡之前，采用如下方法對數據環比處理：

式中，x為指標的環比值；y為指標的原始數據值；w為物價指數，t和t-1分別代表當年度和上年度。采用BP神經網絡進行預測，即用上一年的經濟數據作為輸入，下一年的GDP作為輸出。因此GDP預測模型可以描述為:

y1=f(x1(t-1),x2(t-1),x3(t-1))

設置L―M算法BP神經網絡的計算誤差為10-4，最大計算步數為10000，計算結果見圖2：

預測的結果見下表

從表中預測的結果,可以看出,模型擬合得到的數據與真實值是比較吻合的,預測的效果比較好,完全能滿足實際應用的需要。如果我們對神經網絡訓練的精度作更高的要求，還可進一步降低預測的誤差。

參考文獻：

[1]Martin T.Hagan.神經網絡設計.機械工業出版社,2005

[2]王振龍:時間序列分析.中國統計出版社.2003

[3]伍衛國:數值方法和Matlab實現與應用.機械工業出版社,2004

第8篇：神經網絡反向傳播過程范文

關鍵詞:金融生態;組合賦權;BP神經網絡;層次分析法

金融生態,又可稱之為金融生態體系,是各種金融組織為了生存和發展,與其生存環境之間及內部金融組織相互之間在長期的密切聯系和相互作用過程中,通過分工、合作所形成的具有一定結構特征,執行一定功能作用的動態平衡系統。國內較早系統闡釋金融生態理論的是周小川(2004),他在深刻認識到我國金融改革的艱巨性和復雜性的前提下提出改善金融生態的思想。

本文結合目前區域金融生態評估方法研究的現狀和實際要求,在BP人工神經網絡的基礎上,采用一種基于組合賦權的輸入變量加權分層處理方法。改進后的方法根據層次型指標體系,通過組合賦權法確定原始指標層和子項目層中各元素的相對權重,并以子項目層法治環境、經濟基礎、信用環境、金融運行四個方面作為BP神經網絡的輸入節點,建立加權分層的BP神經網絡模型。

一、基于加權分層的BP神經網絡的區域金融生態組合評估模型的構建

徐諾金(2005)將金融生態概括為各種金融組織為了生存和發展,與其生存環境之間及內部金融組織相互之間在長期的密切聯系和相互作用過程中,通過分工、合作所形成的具有一定結構特征,執行一定功能作用的動態平衡系統。結合區域金融生態的復雜巨系統的特征和評估目的,本文在借鑒湖南省金融生態評價課題組對株洲所轄縣域金融生態評估時構建的金融生態評價指標體系的基礎上,考慮用組合評估方法進行區域金融生態評估。

1.加權分層BP人工神經網絡基本思想

1985年Rumelhart和McCelland等提出的誤差反向傳播(Back Propagation)算法,是目前人工神經網絡理論中最重要的一種學習算法,其學習過程是由信息正向傳播和誤差反向傳播兩個反復交替的過程所組成。在信息正向傳播過程中,輸入信息經隱含單元逐層處理轉向輸出層,可簡單地表征為ykj=fkj(∑n(k-1)i=1Wk-1ijyk-1i-θkj)

j=1,2,…nk, ;k=1,2,…,m

式中,Wk-1ij為第(k-1)層中第i個神經元到第j個神經元的連接權因子;θkj為該神經元的閾值。

如果輸出層不能得到所期望的輸出,則轉入反向傳播過程。將實際值與網絡輸出之間的誤差沿原來的連接通路返回,通過修改各層神經元的連接權重使誤差減少,然后再轉入正向傳播過程。如此反復計算,直至誤差小于設定值為止。該過程可描述為:

E=12∑pp=1∑kk=1(Tpk-Opk)2≤ε

式中Tpk,Opk分別表示輸入訓練樣本為P時輸出節點K的計算輸出和期望輸出;ε為允許的最大誤差。

由于標準化處理后的輸入變量沒有了量綱的區別,每個變量對輸出變量的影響所占比例均等,當各類變量的個數差別較大,變量多的幾類將削弱其它類變量對輸出結果的影響,導致模型評估誤差增大。且只能得到最終的評估值,無法看到金融生態各子系統的狀態分值。

如圖1所示,為提高模型的評估精度,根據層次性區域金融生態評估指標體系,以項目層的四個方面,分別是法治環境、經濟基礎、信用環境、金融運行,作為BP神經網絡的四個輸入節點,取代傳統的直接將48個原始指標作為輸入節點。

2.組合賦權方法的基本原理

指標賦權是評估過程中的重要環節,權重的確定方法主要有兩種:一種是主觀賦權法中,如綜合指數法、專家評價法、AHP法等;另一種是客觀賦權法,即根據各指標之間的相關關系或各項指標值的變異程度來確定權數,如主成分分析法、因子分析法、復相關系數法、熵值法等。為科學、合理地給每個指標賦權,使其具有較好的實際應用效果,本文采用組合賦權法,通過對不同的層次設計不同的賦權方法實現主觀賦權與客觀賦權相結合,具體為:原始指標層因指標個數較多,采用客觀賦權法,子項目層采用主觀賦權法;并且原始指標層的將熵值法和復相關系數法兩種客觀賦權法相結合,既考慮各指標之間的變異程度又考慮各指標的相關性以削減指標間信息重疊現象,以達到最大限度地提取并利用指標數據包含的相關信息。

熵(Entropy)的概念源于熱力學,后來香農(C.E.Shannon)引入信息論。在信息論中,熵是一種不確定性的度量,信息量越大,不確定性就越小,熵也越小;信息量越小,不確定性就越大,熵也越大。一般而言,指標的離散程度越強,熵值就越大;反之,熵值就越小。可以根據各項指標的變異程度,利用信息熵這個工具,計算出各項指標的權數,為多指標綜合評價提供依據。

復相關系數法認為如果某指標與其他指標重復的信息越多,在綜合評價中所起的作用就越小,應賦予較小的權數,反之則賦予較大的權數,即根據指標獨立性大小來分配權數;同時采用指標的復相關系數來衡量與其他指標的重復信息量大小。

層次分析法的基本原理是將所要研究的復雜問題看作一個大系統,根據系統所涉及的因素和所要達到的目標,通過對系統內的因素及其相互關系的分析,劃分出各因素格互聯系的有序層次結構體系,再對結構體系中的每一層次按某一給定的準則,根據專家對每一層次中的各因素所作的較客觀的逐對比較和判斷,相應地給出各因子相對重要性的定量表示,進而建立數學模型,并計算出每一層次全部的相對重要性的權重,并加以排序,最后,根據排序結果進行決策并選擇解決問題的方法。

3.實施步驟

基于加權分層的BP神經網絡模型的區域金融生態評估過程分為三個階段:原始指標同度量化,由原始指標層向項目層的逐層歸總,將項目層分值輸入BP人工神經網絡模型最終得到某區域的金融生態評估值。具體如下:

(1)原始指標數據同度量化

不同的指標是從不同的側面反映區域金融生態,指標之間無法進行比較,因此為了統一評價的有效性,需對各指標進行無量綱化處理。正態化變換(分布打分)是一種非線性變化,使得變換后的分數呈現標準正態分布。

(2)由原始指標層向項目層的逐層歸總

原始指標層采用熵值法與復相關系統數法的組合定權,組合的權重為熵值法和復相關系數法所定的權重的簡均,以此組合權重計算得到各子項目的相對分值;子項目層采用層次分析法定權,計算歸總得到各項目的相對分值。

(3)將項目層分值輸入BP人工神經網絡模型

以法治環境、經濟基礎、信用基礎、金融運行四個項目作為四個輸入節點建立三層BP人工神經網絡,隱層節點為1,輸出節點數為1,即某區域金融生態的最終評估值。利用MATLAB 7.0中的神經網絡工具箱編寫程序,得到各待評區域的金融生態評估值及相對排序。

二、實證分析與比較

以某省某五縣(分別是A縣、B縣、C縣、D縣、E縣)2007年數據為例,說明上述區域金融生態綜合評估方法,并與幾種典型組合方法進行比較,以分析該方法評價結果的準確性和合理性。

由表1知,由組合評價方法一得出的五縣金融生態排名與這五縣實際情況相符;得分上總體得分都不高,有很大改進空間,其中最高分A縣及最低分E縣差距較大,居于中間檔次的B縣、C縣和D縣得分較接近。

表1 六種組合方法結果比較

表2 六種方法結果的描述性分析

極差 最小值 最大值 均值 標準差

方法一24.08 41.28 65.36 53.50 8.54

方法二 22.11 39.87 61.98 51.72 8.67

方法三 25.13 40.98 66.11 52.81 9.02

方法四 22.71 41.70 64.41 54.07 8.39

方法五 24.45 38.22 62.67 51.09 9.32

方法六 19.78 41.52 61..30 52.34 8.074

考察比較所選的六種組合方法,從以下幾個方面:

(1)方法的區分度。由表2知,方法三和方法五的標準差較大,方法一和方法二次之,方法四和方法六的較小。這一差異的原因在于原始指標層的客觀賦權法不同:信息熵權法其本質是利用評價指標樣本集的分布特征確定權重,將指標數據的差異大小作為權重確定的依據,但沒有考慮指標的信息重疊和獨立性;復相關系數法則根據指標的獨立性大小分配權數,而對指標的變異程度沒有涉及。方法三和方法五的原始指標層的客觀賦權法采用信息熵權法,得出的最終分值的差異較大,而方法四和方法六采用復相關系數法,得出的最終分值差異較小,方法三和方法四是信息熵權和復相關系數的組合賦權,綜合考慮了指標的變異程度和獨立性,最終分值差異介于上述兩組之間。

(2)方法的一致性。對標化后的綜合評價值作組間一致性檢驗,檢驗方法采用組內相關系數(ICC)法。利用SPSS軟件Scale下的Reliability Analysis功能對六組得分值作一致性檢驗,ICC=0.9875,ICC的95%的可信區間為0.9645～0.9896,可認為這六組綜合評價值一致性很好,比較貼近五縣金融生態相對優劣的實際。

(3)方法的互補性。每種方法都有其自身的優點和缺點,它們的適用場合也并不完全相同。通過將具有同種性質綜合評價方法組合在―起,就能夠使各種方法的缺點得到彌補,而同時兼有各方法的優點。基于加權分層的BP神經網絡模型通過對各種方法的組合,可以達到取長補短的效果。通過兩組比較,其一為方法一與方法三、方法四,其二為方法二與方法五、方法六,可發現,原始指標層采用組合賦權所得分值介于原始指標層采用熵值法和復相關系數法所得分值之間,更接近于實際。

對某省某五縣2007年度指標數據的實證結果表明,基于熵值法和復相關系數法的層次BP神經網絡模型在方法的區分度、一致性及互補性方面都有較好的表現,能夠有效地綜合各方法的優點,反映這五縣金融生態的真實情況。

三、結論

本文將組合賦權法和神經網絡模型綜合評價有機結合運用在區域金融生態的綜合評估中,不僅結合了區域金融生態影響因素的多層次和復雜性,將以往分別使用的層次分析法與神經網絡綜合評價法結合在一個分析模型中,而且將多層次與復雜性的分析模型首次應用于區域金融生態評估,以便為改善區域金融環境提供可靠的決策依據。

基于加權分層的BP神經網絡模型的區域金融生態評估方法能夠充分利用樣本指標的有關信息,通過高度的非線性映射,揭示區域金融生態狀況與其相關影響因素之間的內在作用機理,從根本上克服傳統線性加權的過于簡化和單一方法的顧此失彼。此方法具有自學習性、自適應性和很強的容錯性,而且整個評價過程和步驟非常容易實現編程并在計算機上進行運算分析,具有較高的合理性和適用性,使評估結果更有效、更客觀。但是樣本數據本身的真實性、層次分析法專家打分、BP神經網絡訓練樣本的選取等問題,也應當引起高度重視。只要能采取有效的措施和算法處理好這幾個問題,那么基于加權分層的BP神經網絡模型的區域金融生態評估方法不失為區域金融生態評估方法中較好的一種。

參考文獻:

[1]白欽先等.金融可持續發展研究導論[M].北京: 中國金融出版社,2001.

[2]周小川.完善法律制度,改進金融生態[N]. 金融時報, 2004,12.

[3]徐諾金.論我國的金融生態問題[J].金融研究,2005,(2).

[4]匡國建.完善金融生態法律制度的思考[J].金融研究,2005,(8).

[5]湖南大學金融管理研究中心. 2007年度株洲市縣域金融生態評估報告[N]. 株洲日報. 2008,09.

[6]李揚等.中國城市金融生態評估[M].北京:人民出版社,2005.

[7]程亞男等.區域金融生態評估指標體系研究[J].金融理論與實踐,2006, (1).[8]

[8]郭金龍.復雜系統范式視角下的金融演進與發展[M].北京:中國金融出版社,2007.

[9]周志平等. 金融生態的層次結構與金融資源均衡配置:張家界個案分析[J]. 金融研究,2005,(11).

[10]杜棟等.現代綜合評估方法與案例精選[M].北京:清華大學出版社,2008.

[11]謝慶健.區域金融生態現狀分析:來自安徽、江西、山東等省的調查報告[J]. 中國金融, 2006,(4).

[12]徐小林.區域金融生態評估方法[J].金融研究,2005,(11).

[13]馬經等.廣東區域金融生態實證研究[J].南方金融,2006,(11)

[14]楊子強,商業銀行要重視對金融生態的研究利用[N].金融時報,2005-01-11.

[15]周小川.法治金融生態[J].中國經濟周刊,2005,(3).[17]

[16]Detragiache, Enrica&Demirguc-Kunt,Asli.Monitoring banking sector fragility: a multivariate logic approach with an application to the 1996 - 1997 banking crises [J].Policy ResearchWorking Paper Series 2085, TheWorld Bank. 1999.

[17]Jiang Yaping,Xu Zuxin,Yin Hailong.STUDY ON IMPROVED BP ARTIFICIAL NEURAL NETWORKS IN EUTROPHICATION ASSESSMENT OF CHINA EASTERN LAKES.Conference of Global Chinese Scholars on Hydrodynamics.

[18]張瑞懷.基于BP神經網絡模型的農村金融生態綜合評估[J].金融理論與實踐,2006,(10) .

[19]張志元等.區域金融可持續發展的城市金融生態研究[J]. 金融研究,2006,(6).

[20]柳林, 楊竹清. MATLAB6.5輔助神經網絡設計. 北京: 電子工業出版社,2003.

第9篇：神經網絡反向傳播過程范文

水工隧洞一般都有過水要求，加上其復雜的地質條件，因此正確的進行圍巖分類后采取相應的支護措施將對保證隧洞穩定性起決定性的作用。圍巖分類是一類非線性的綜合判定問題，用人工神經網絡方法來判別水工隧洞圍巖類別是一種新的嘗試和新的方法。

1．圍巖分類的判定依據

水工隧洞圍巖工程地質分類應以控制圍巖穩定的巖石強度、巖體完整程度、張開度、地下水力狀態和主要結構面產狀等五項因素綜合評分為依據，圍巖強度應力比為限定依據，見表1。

表1圍巖工程地質分類依據

指標名稱評價因素

巖石強度（A1）采用巖塊的單軸抗壓強度（MPa）

巖體完整程度（A2）采用完整性系數Kv

張開度（A3）考慮結構面的連續性、粗糙度和充填物

地下水狀態（A4）考慮地下水的發育程度，用單位洞長單位時間的涌水量

主要結構面產狀（A5）采用結構面走向與洞軸線的夾角

以上五個因素是控制圍巖穩定性的主要因素，圍巖的分類標準見表2。

表2圍巖工程地質分類標準

評價因素圍巖類別

Ⅰ（穩定）Ⅱ（基本穩定）Ⅲ（局部穩定性差）Ⅳ（不穩定）Ⅴ（極不穩定）

A1（MPa）>200100~20050~10025~50<25

A20.9~1.00.75~0.90.5~0.750.25~0.5<0.25

A3（mm）<0.50.5~11~33~5>5

A4(L/min·10m)<2525~5050~100100~125>125

A5(o)90~7575~6060~4545~30<30

2.水工隧洞圍巖分類的人工神經網絡模型

神經網絡系統是由大量的、簡單的處理單元廣泛的互相連接而形成的復雜的網絡系統。人工神經網絡模型最基本的有兩大類：一類是以Hopfield網絡模型為代表的反饋型模型，它具有非線性和動態性；另一類是以多層感知器為基礎的前饋模型。其中BP(BackPropagation)網絡是目前應用最廣泛的多層前饋神經網絡模型。本文采用BP網絡模型。

2．1BP神經網絡模型及其算法

BP神經網絡由輸入層、隱含層和輸出層三層感知器組成，每層由若干個神經元組成。輸入層接受信息，傳入到隱含層，經過作用函數后，再把隱結點的輸出信號傳到輸出層輸出結果。節點的作用函數選用Sigmoid函數，即：

（1）

BP神經網絡采用誤差逆傳播反學習算法。學習過程由正向傳播和反向傳播組成。在正向傳播過程中，輸入信號由輸入層經隱含層處理后傳向輸出層，每一層神經元的狀態只影響下一層神經元的狀態。如果在輸出層得不到一個期望的輸出，則轉向反傳播，將輸出信號的誤差按原來的連接通路返回，通過修改各層神經元的權值，使得誤差信號最小，得到合適的網絡連接權后，便可對新的樣本進行識別。BP網絡學習過程具體步驟如下：

（1）初始化，設置網絡結構，賦初始權值；

（2）為網絡提供一組學習樣本，包括M個樣本對（），輸入向量，輸出向量，n、m分別為輸入層和輸出層神經元個數，；

（3）對每個學習樣本P進行（4）~（8）；

（4）逐層正向計算網絡各節點的實際輸出：

(2)

其中，為神經元i、j之間的權值；為前層第i個神經元的實際輸出，為式（1）給出的函數；

（5）計算網絡輸出誤差：

第P個樣本的輸出誤差為(3)

其中，，分別為輸出層第j個神經元的期望輸出和實際輸出。

網絡總誤差為；(4)

（6）當E小于允許誤差或達到指定迭代次數時，學習過程結束，否則進行誤差逆向傳播，轉向（7）；

（7）逆向逐層計算網絡各節點誤差：

對于輸出層，(5)

對于隱含層，(6)

其中代表后層第個神經元。

（8）修正網絡連接權：，其中為學習次數，為學習因子，值越大，產生的振蕩越大。通常在權值修正公式中加入一個勢態項，變成：

(7)

其中，a稱為勢態因子，它決定上次學習的權值變化對本次權值更新的影響程度。

2．2圍巖分類的BP模型

在以表2中數據為基礎進行網絡訓練前，須對表中指標作如下處理：Ⅰ、Ⅴ類對應的指標取其界限值或平均值；Ⅱ、Ⅲ、Ⅳ類對應的指標取其平均值。作上述處理后，可以得到網絡訓練模型的5個學習樣本，如表3。

表3圍巖類別識別模型的學習樣本

類別樣本類別A1A2A3A4A5

P1Ⅰ2000.950.52582.5

P2Ⅱ1500.8250.7537.567.5

P3Ⅲ750.62527552.5

P4Ⅳ37.50.3754112.537.5

P5Ⅴ250.25512530

以上表中5個類別樣本作為神經網絡的學習樣本，在輸入層和隱含層各設置一個特殊單元作為閾值單元，其值設為1。模型結構如下圖1所示。

圖1圍巖類別分類的BP網絡模型

設圍巖類別為P1、P2、P3、P4、P5這5個類別樣本的預期輸出矢量，各分量定義為

網絡訓練時，當所有樣本在網絡輸出節點的實際輸出與網絡期望輸出之間的最大誤差小于預先給定的常數，即時學習結束。

網絡經過15000次訓練，每個樣本的網絡輸出與期望輸出最大誤差為0.2，絕大部分在0.1之內。應用訓練后的BP模型劃分新的圍巖類別樣本，等判定圍巖類別樣本W經網絡變換后輸出O與各期望輸出比較，設，。

如果，則，，即隧洞圍巖類別樣本屬于級。

3．沙灣隧洞的圍巖分類應用實例

東深供水改造工程沙灣隧洞位于深圳市北東面內15公理處，區域地勢東高西低。工程區域周圍沉積巖、巖漿巖和變質巖三大巖類均有出露。隧洞線路地帶分布的地層，除洞口溝谷部位為第四系松散堆積層外，其余均為侏羅系中統塘夏群碎屑巖，基本為單斜構造，但末端因受深圳斷裂帶影響，巖層產狀較為紊亂，地質條件復雜多變。

隧洞開挖后，測得三種圍巖地段的力學性質和環境條件，取三個樣本為a、b、c。用BP人工神經網絡判定該工程隧洞圍巖類別。

根據水利水電工程地質勘察規范，隧洞圍巖類別分為5級：Ⅰ（穩定）、Ⅱ（基本穩定）、Ⅲ（局部穩定性差）、Ⅳ（不穩定）、Ⅴ（極不穩定）。對照學習樣本各特征變量，用訓練好的BP模型對a、b、c三個樣本進行判定，其結果見表4。

表4沙灣隧洞三組樣本實測指標與圍巖類別判定結果

指標名稱實測指標值

abc

巖石強度（A1）2845100

巖體完整程度（A2）0.220.50.55

張開度（A3）341

地下水狀態（A4）1208025

主要結構面產狀（A5）305060

圍巖類別判定結果ⅤⅣⅢ

4．結論

水工隧洞圍巖類別判定，不僅影響因素多，而且具有很大的模糊性和不確定性。人工神經網絡是一門新興的交叉學科，它具有聯想、記憶功能和判別識別的模糊性等優點，用它來進行圍巖類別分類，不需對輸入輸出指標的關系作任何假設，這種關系是神經網絡從實例中自適應學習而獲得的，大大減少了人為因素的影響，省去了事后的經驗判斷。實踐證明，它在理論和應用上都是可行的和有實際意義的。

參考文獻