如何學習神經網絡精選(九篇)
前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的如何學習神經網絡主題范文，僅供參考，歡迎閱讀并收藏。
第1篇：如何學習神經網絡范文
關鍵詞： 神經網絡；模擬電路；故障智能診斷
Applications of Neural network in analog circuit fault intelligent diagnosis
Huang Qian1 ，Lu Li2
Nanchang institute of technology JiangXi NanChang 330029
Abstract： The article mainly describe development course of neural network simulation circuit and the common method of fault diagnosis of simulation power based on neural network at this stage， the focus analysised BP neural network fault dictionary method and the SOM neural network fault dictionary method and respective of calculation method， and basic thought， and technology difficulties analysis， discussed application problem of neural network method in in analog circuit fault intelligent diagnosis， last talk about development trend of simulation circuit neural network diagnosis method.
Keyword： Neural network；Analog circuits；Intelligent fault diagnosis
引 言
隨著神經網絡等人工智能技術的發展， 模擬電路故障診斷的研究又開辟了一條新路， 基于神經網絡的模擬電路故障診斷方法已經成為新的研究熱點。20世紀80年代末期起有學者研究將人工神經網絡應用到模擬電路的故障診斷中，現階段已經提出多種基于神經網絡的模擬電路故障診斷方法，有些方法如BP（ Error Back Propagation Network）神經網絡故障字典法已經能有效應用于濾波電路、模擬放大電路等非線性容差電路的故障診斷， 效果優于傳統的故障字典法。
1神經網絡故障字典法
神經網絡故障字典法把模擬電路的故障診斷看成是一個分類問題， 利用神經網絡的分類功能來診斷故障。在測前把神經網絡訓練成一部故障字典， 字典的信息蘊含在網絡的連接權值中， 只要輸入電路的測量特征， 就可以從其輸出查出故障。
1.1 BP 神經網絡故障字典法
BP 是一種多層網絡誤差反傳學習算法。
1）初始化，隨機給定各連接權[w]，[v]及閥值θi，rt。
（2）由給定的輸入輸出模式對計算隱層、輸出層各單元輸出
式中：bj為隱層第j個神經元實際輸出；ct為輸出層第t個神經元的實際輸出；wij為輸入層至隱層的連接權；vjt為隱層至輸出層的連接權。
式中：dtk為輸出層的校正誤差；ejk為隱層的校正誤差。
（3）計算新的連接權及閥值，計算公式如下：
（4）選取下一個輸入模式對返回第2步反復訓練直到網絡設輸出誤差達到要求結束訓練。
應用BP 神經網絡故障字典法進行模擬電路故障診斷步驟如下：
（1）確定待測電路的故障集和狀態特征參量， 采用電路仿真或實驗的方法獲取電路每一故障狀態下的狀態特征數據， 經篩選和歸一化處理后構造訓練樣本集。設計BP 神經網絡并進行訓練。
（2）用訓練樣本集中的樣本訓練好網絡， 即完成學習的過程。一般采用3 層BP 神經網絡， 輸入層節點數與電路狀態特征參量的維數相同， 輸出層節點數可與電路待測故障類別數相同，也可小于待測故障類別數， 隱層節點數則需按經驗公式試湊。實際診斷時給被測電路加相同的測試激勵， 將測得的實際狀態特征參量輸入到訓練好的BP 神經網絡， 則其輸出即可指示相應的故障狀態。
1.2 SOM神經網絡故障字典法
SOM （Self - organizing Feature Map）神經網絡是芬蘭教授Kohonen于1981 年提出的一種自組織特征映射神經網絡。這種自組織特征映射神經網絡通過對輸入模式的反復學習，使連接權矢量空間分布密度與輸入模式的概率分布趨于一致， 即連接權矢量的空間分布密度能反映輸入模式的統計特性。
SOM二維網絡拓撲結構圖
SOM 網絡能對輸入模式自動分類，通過輸入模式的自組織學習， 在競爭層將分類結果表示出來。應用SOM 神經網絡建立模擬電路故障診斷字典的具體步驟如下：
（1）確定電路的故障集和激勵信號。通過仿真獲取電路在每一故障狀態下的狀態特征向量， 并進行預處理得到訓練樣本數據。
（2） 確定SOM 網絡結構。 SOM 網絡只有輸入層和輸出層兩層， 沒有隱層，輸入層的形式與BP 網絡相同， 其結點數應與電路狀態特征向量的維數相同。輸出層即競爭層的神經元一般采用二維平面陣結構排列， 也可采用一維線陣或三維柵格陣的結構排列。采用一維線陣時， 輸出層結點數可與電路的故障類別數相同。
（3）經過SOM 訓練形成具有容差的故障字典。SOM 網絡的學習算法可采用標準的Kohonen 算法。可以看出， SOM 網絡法與BP 網絡法構建故障字典的方法步驟完全相似，SOM 網絡法一般適用于交流電路， 以電路響應的頻域參量為狀態特征，它能更有效地克服容差因素對故障定位的影響，SOM 網絡法實際診斷時容易出現模糊故障集， 診斷過程要比BP網絡法復雜。
1.2神經網絡故障字典法難點
同經典的故障字典法相比， 神經網絡故障字典法突出的優點是測后診斷速度快，實時性強，其原因是該方法利用了神經網絡高度并行的信息處理能力。經典的故障字典法需要進行繁瑣的模糊集分割處理， 且一般只能診斷硬故障。而神經網絡故障字典法由于神經網絡的泛化能力，可以診斷容差模擬電路， 而且對軟故障情況也有很好的應用前景。應用該方法難點包括以下幾個方面：
（1）神經網絡的結構和參數等只能依據經驗反復調試， 難以確定所設計的神經網絡是最優的。
（2）數據預處理技術和訓練樣本集的篩選至關重要，神經網絡故障字典法的診斷效果主要依賴于此。如何根據實際電路對原始數據進行預處理以突出故障特征信息及如何優選訓練樣本。
2 神經網絡優化診斷法
傳統的優化診斷法依據被測電路的解析關系， 按照一定的判據（目標函數） ， 估計出最有可能出現故障的元件。優化診斷法是一種測后模擬的逼近法， 可在較少的測量數據下診斷故障，避免元件的容差問題， 可以診斷軟故障和多故障但傳統優化診斷法存在一個復雜的重復過程， 需要多個優化過程和多次電路模擬， 測后計算量很大。
神經網絡優化診斷法對傳統方法進行改進， 利用Hopfield 神經網絡的優化計算功能尋優， 克服了傳統的優化診斷方法測后計算量大、實時性差的缺點。由于該方法最終是通過求解元件參數或參數增量來判定故障元件的。
神經網絡優化診斷法的基本思想是將模擬電路的故障診斷方程轉換為帶約束條件的優化問題， 然后利用Hopfield 神經網絡進行優化問題的求解。將優化問題映射到一種神經網絡的特定組態上， 此組態相應于優化問題的可能解， 然后再構造一個適合于待優化問題的能量函數（對應于目標函數）， 當Hopfield 神經網絡從某一初始狀態沿著能量函數減小的方向運動， 其穩定平衡解即對應于優化問題的解。對于線性電阻電路， 可以以元件參數增量和可測節點電壓變化量建立故障診斷方程， 該診斷方程通常為一組欠定方程。
應用Hopfield 神經網絡求解此類帶約束條件的優化問題的步驟如下：
（1）分析問題： 分析網絡輸出與問題的解相對應。
（2）構造網絡能量函數： 將實際待解決優化問題的目標函數表達成能量函數的相應形式， 能量函數最小值對應問題最佳解。
（3）設計網絡結構： 將能量函數與目標函數相比較， 求出能量函數中的權值和偏流。
（4）運行網絡求出穩定平衡態： 由網絡結構建立網絡的電子線路， 運行該電子線路直至穩定， 所得穩態解即為優化問題所希望的解。
3 其它神經網絡故障診斷法
ART （Adaptive Resonance Theory）神經網絡故障診斷法。ART 神經網絡是一種基于自適應共振理論ART的學習算法， 包括ART1 型、ART2 型和ART3 型三種結構形式。文獻三中的作者探討了一種采用ART1 型神經網絡進行模擬電路故障診斷的方法，將電路的各種故障分出層次，并按一定特征給故障類型進行編碼形成故障數據樣本，將故障數據樣本輸入ART1型神經網絡進行訓練， 訓練完成后該ART 網絡即可用于診斷。ART最大的特點是既能識別已有的故障模式， 又能較好地診斷新發故障。基于神經網絡的網絡撕裂法。網絡撕裂法是一種大規模模擬電路分層診斷的方法， 將網絡撕裂法與神經網絡故障字典法相結合就形成基于神經網絡的網絡撕裂法。
ART的基本思路是， 當電路網絡分解到一定程度后， 電路子網絡繼續分解往往越來越困難， 這時可以引入神經網絡故障字典法， 分別為每一電路子網絡構建一個神經網絡， 則電路子網絡級的診斷采用神經網絡故障字典實現。
與傳統的網絡撕裂法相比， 該方法測后工作量小， 診斷過程更加簡單，診斷速度加快。基于神經網絡求解非線性方程的模擬電路故障診斷方法。
4 模擬電路神經網絡診斷法發展趨勢
近年來， 一個值得重視的現象是神經網絡與專家系統、模糊控制、遺傳算法和小波分析等技術相結合應用于模擬電路的故障診斷領域的研究。如神經網絡與模糊邏輯理論相結合， 即所謂的“模糊神經網絡”用于模擬電路的故障診斷， 其基本思想是在BP 神經網絡的輸入層與輸出層中間增加1到2 層模糊層構造模糊神經網絡，利用神經網絡處理低層感知數據， 利用模糊邏輯描述高層的邏輯框架，其對模擬電路軟故障的診斷效果優于單一的神經網絡分類器。又如小波分析與神經網絡結合應用于模擬電路的故障診斷。
小波與神經網絡的結合有以下兩個途徑：
（1） 輔助式結合， 比較典型的是利用小波分析對信號進行預處理， 然后用神經網絡學習與判別。
（2）嵌套式結合， 即把小波變換的運算融入到神經網絡中去， 其基本思想是用小波元代替了神經元，即激活函數為已定位的小波函數基， 通過仿射變換建立小波變換與神經網絡的聯接，小波神經網絡由于把神經網絡的自學習特性和小波的局部特性結合起來，具有自適應分辨性和良好的容錯性。
參考文獻
[1] 王顯強.談談神經網絡在模擬電路故障診斷中的應用問題[J]
電路技術.2012（06）
[2] 劉華.基于神經網絡的模擬電路故障診斷方法研究[J]微電子學報.2010（03）
[3]董偉.談ART1 型神經網絡進行模擬電路故障診斷方式分析. [J]電路科技. 2012（05）
[4]王承. 基于神經網絡的模擬電路故障診斷方案探究.[J]電路科技. 2013（06）
[5]張宇. 基于神經網絡的模擬電路故障診斷方案探究.[J]計算機測量與控制. 2012（07）
[6]王承. 基于神經網絡的模擬電路故障診斷方案探究.[J]電路故障. 2013（02）
[7]劉盛燦. 神經網絡的模擬電路故障的應用.[J]電路科技. 2013（06）
[8] 萬磊.神經網絡在模擬電路故障診斷中的應用若干問題探討[J]
電路技術.2011（08）
[9] 郭明強.神經網絡在模擬電路故障診斷中的發展歷程分析[J]電路技術.2013（08）
第2篇：如何學習神經網絡范文
關鍵詞：Matlab；BP神經網絡；預測
中圖分類號：TP183文獻標識碼：A文章編號：1009-3044(2008)19-30124-02
Based on Matlab BP Neural Network Application
YANG Bao-hua
(Institute of Information and Computer, Anhui Agricultural University, Hefei 230036, China)
Abstract: BP learning algorithm is a one-way transmission of multi-layer to the network, Matlab toolbox is based on the theory of artificial neural network, based on Matlab toolbox, with watermelon-heavy forecasts, BP neural network forecast the feasibility of re-watermelon is verified, and fast convergence, small error, should be promoted in the forecast crop growth.
Key words: Matlab; BP Neural Networks; Forecast
1 引言
人工神經網絡是人工構造的模擬人腦功能而構建的一種網絡，BP神經網絡是結構較簡單、應用最廣泛的一種模型，BP神經網絡是Rumelhart等在1986年提出的。它是一種單向傳播的多層前向網絡，一般具有三層或三層以上的神經網絡，包括輸入層、中間層（隱層）和輸出層[1]，其模型見圖1所示。
■
圖1 BP網絡模型
Matlab中的神經網絡工具箱是以人工神經網絡理論為基礎，利用Matlab語言構造出許多典型神經網絡的傳遞函數、網絡權值修正規則和網絡訓練方法。網絡的設計者可根據自己的需要調用工具箱中有關神經網絡的設計與訓練的程序，免去了繁瑣的編程過程。
紅籽瓜(Red-seed Watermelon)種子即瓜子富含有蛋白質、脂肪、鈣、磷及多種維生素，含油率達55%左右，營養頗為豐富，經過精細加工，味道鮮美，市場十分暢銷[4]。為了提高瓜子的產量，需要關注很多因素，這些因素的改變會影響瓜子的產量，所以確定哪些因素能預測產量，如何預測是本文研究的內容。本文利用紅籽西瓜的測量數據，以單果重，種子數，千粒重，種子重作為輸入因子，仁重為輸出因子，選擇合適的隱層，構建影響紅籽西瓜種仁重量的BP網絡模型，運用Matlab軟件進行預測。
2 BP神經網絡設計的基本方法
Matlab的NNbox提供了建立神經網絡的專用函數newff()[5]。用newff函數來確定網絡層數、每層中的神經元數和傳遞函數，其語法為：
net=newff(PR,[S1,S2,…,SN],{TF1,TF2,…,TFN},BTF,BLF,PF)
式中：PR表示由每個輸入向量的最大最小值構成的R×2矩陣；Si表示第i層網絡的神經元個數；TF表示第i層網絡的傳遞函數，缺省為tansig，可選用的傳遞函數有tansig，logsig或purelin；BTF表示字符串變量，為網絡的訓練函數名，可在如下函數中選擇：traingd、traingdm、traingdx、trainbfg、trainlm等，缺省為trainlm；BLF表示字符串變量，為網絡的學習函數名，缺省為learngdm；BF表示字符串變量，為網絡的性能函數，缺省為均方差“mse”。
2.1 網絡層數
BP網絡可以包含不同的隱層，但理論上已經證明，在不限制隱層節點數的情況下，兩層（只有一個隱層）的BP網絡可以實現任意非線性映射。
2.2 輸入層節點數
輸入層起緩沖存儲器的作用，它接受外部的輸入數據，因此其節點數取決于輸入矢量的維數。
2.3 輸出層節點數
輸出層節點數取決于兩個方面，輸出數據類型和表示該類型所需的數據大小。在設計輸人層和輸出層時，應該盡可能的減小系統規模，使系統的學習時間和復雜性減小。
2.4 隱層節點數
一個具有無限隱層節點的兩層BP網絡可以實現任意從輸入到輸出的非線性映射。但對于有限個輸入模式到輸出模式的映射，并不需要無限個隱層節點，這就涉及到如何選擇隱層節點數的問題，至今為止，尚未找到一個很好的解析式，隱層節點數往往根據前人設計所得的經驗和自己進行試驗來確定。一般認為，隱層節點數與求解問題的要求、輸入輸出單元數多少都有直接的關系。另外，隱層節點數太多會導致學習時間過長；而隱層節點數太少，容錯性差，識別未經學習的樣本能力低，所以必須綜合多方面的因素進行設計。
隱層節點數的初始值可先由以下兩個公式中的其中之一來確定[2,3]。
1=■+a (1)
或 1=■(2)
式中，m、n分別為輸入結點數目與輸出結點數目，a為1～10之間的常數。
2.5 數據歸一化
因為原始數據幅值大小不一，有時候還相差比較懸殊。如果直接投人使用，測量值大的波動就壟斷了神經網絡的學習過程，使其不能反映小的測量值的變化。所以，在網絡訓練之前，輸人數據和目標矢量都要經過歸一化處理。
根據公式可將數據“歸一化”，即限定在[0,1]區間內。歸一化公式為：
■ (3)
也可以使用歸一化函數Premnmx，及反歸一化函數Postmnmx。
3 BP學習算法及實例
3.1 BP學習算法
1) 初始化網絡及學習參數；
2) 從訓練樣本集合中取一個樣本，并作為輸入向量送入網絡；
3) 正向傳播過程，對給定的輸入樣本，通過網絡計算得到輸出樣本，并把得到的輸出樣本與期望的樣本比較，如有誤差超出限定范圍，則執行第4步；否則返回第2步，輸入下一個樣本；
4) 反向傳播過程，即從輸出層反向計算到第一隱層，修正各神經元的連接權值，使用誤差減小。
3.2 實例
為了提高瓜籽產量，需要關注很多因素，濾去相關度過低的因子，根據經驗確定輸入因子為單果重，種子數，千粒重，種子重，輸出因子為仁重。現以表1所示的2000~2002年測量數據作為訓練樣本進行訓練，對2003年的數據進行預測。輸出層結點代表仁重量，神經網絡的預測模型采用4-4-1，即輸入層4個神經元，根據公式(2)計算隱層神經元數確定為4，1個輸出神經元。設定最大的迭代次數為500次，系統全局誤差小于0.001。傳遞函數為tansig，訓練函數為trainlm。
根據經典的BP算法，采用Matlab編程，樣本訓練結果見圖2，2003的數據作為預測樣本，預測結果如下：
TRAINLM, Epoch 0/500, MSE 0.316381/0.001, Gradient 2.8461/1e-010
TRAINLM, Epoch 4/500, MSE 0.00056622/0.001, Gradient 0.0830661/1e-010
TRAINLM, Performance goal met.
SSE = 0.0102
y = 0.269 0.267 0.27 0.269 0.2679 0.2679
表1 紅籽西瓜數量性狀表
瓜籽仁重實際值為0.265，0.282，0.264，0.269，0.265，0.287，誤差為0.0102，當樣本較少時可以接受的誤差范圍內。并且收斂速度快。
■
圖2訓練函數為trainlm的訓練結果
采用traingd函數進行訓練，則5000次仍未達到要求的目標誤差0.001，說明該函數訓練的收斂速度很慢。見圖3所示。所以訓練函數的選擇也非常關鍵。
■
圖3 訓練函數為traingd的訓練結果
4 結論
用Matlab編編寫的基于BP網絡的仁重預測程序，計算結果表明，誤差較小，預測值與實測值吻合較好，所建立的模型具有較好的實用性，說明單果重，種子數，千粒重，種子重的數據影響瓜子的產量，同時驗證BP算法可以用于瓜仁產量的預測。
目前所進行的預測試驗中數據的樣本較少，且生長動態變化，今后擬建立一個動態預測系統，為紅籽瓜品種培育、提高產量提供新的方法，值得在預測作物生長中推廣。
參考文獻：
[1] 飛思科技產品研發中心.神經網絡理論與Matlab 7實現[M].北京：電子工業出版社.2006:100-105.
[2] 徐廬生.微機神經網絡[M].北京：中國醫藥科技出版社,1995．
[3] 高大啟.有教師的線性基本函數前向三層神經網絡結構研究[J].計算機學報,1998,21(1):80-85．
[4] 欽州農業信息網：.
第3篇：如何學習神經網絡范文
關鍵詞：RBF神經網絡；數據挖掘；遺傳算法
中圖分類號：TP18 文獻標識碼：A 文章編號：1009-3044（2016）07-0151-03
Research on Data Mining Method Based on RBF Neural Network
CAO Jia-jie， YANG Meng， XU Xin-yu
（Beijing Satellite Manufacturing Plant， Beijing 100000， China）
Abstract： The rapid development of Internet technology and database technology is widely used at the same time， human through information technology to collect data is more and more strong， and how to from a lot of data mining valuable information and knowledge has become particularly urgent. In order to solve the above problems， data mining technology arises at the historic moment. It is found that the data mining the data for the nonlinear， messy and the presence of noise data， neural network is by virtue of the degree of fault tolerance， distributed storage， parallel processing， adaptive and robust feature is widely used to deal with some of the data mining problems. Accordingly， in this case， the author first introduces the data mining and RBF neural network of the relevant theoretical knowledge， and then focus on the RBF neural network based on the data mining method for peer reference.
Key words： RBF neural network； data mining； genetic algorithm
數據挖掘是從大量數據中挖掘有價值的信息和知識，以便為管理決策和戰略部署提供數據支撐。數據挖掘作為信息技術發展的結果，其應用前景相當廣泛。數據庫技術主要研究數據的組織、存儲、獲取和處理，而信息技術主要經歷以下發展歷程：數據的簡單收集和數據庫的初期建設數據的存儲與檢索、數據庫的事務處理數據的分析與理解，此時便出現數據挖掘技術。基于上述研究背景，下文首先分別介紹數據挖掘與RBF神經網絡的相關理論知識，并在此基礎上，討論基于RBF神經網絡的數據挖掘方法，目的是為了研究數據挖掘所用到的分類算法。關于神經網絡，作為一種人工智能技術，其一方面可以省去繁瑣的數學建模和數學推理，另一方面在處理含噪聲的非線性數據時表現出無與倫比的優越性。
1 數據挖掘
數據挖掘是非平凡的數據處理過程，即識別數據集中具有潛在價值、新穎有效且最終可被理解的模式，其中潛在價值指的是挖掘出的知識具有實際效用；新穎是指識別出的模式新穎；有效是指識別出的模式在一定程度上是正確的；最終可被理解是指識別出的數據可被用戶理解。圖1所示為數據挖掘的工作流程。
如圖1所示，數據挖掘主要經歷數據準備、模式提取、結果解釋與評估等階段，其中數據準備的步驟為：數據清洗數據選取數據預處理數據表示；數據提取階段又稱數據挖掘階段，其實現步驟為：確定數據挖掘的目標或任務選取適宜的數據挖掘工具或算法進行數據挖掘操作；結果解釋與評估階段主要對所識別的數據進行評估、篩除。一般來講，數據挖掘質量主要與以下影響因素有關：數據挖掘技術的可靠性與有效性；目標數據的數量與質量。總之，數據挖掘是一個反復反饋的過程，而可視化貫穿在數據挖掘的全過程。
數據挖掘的方法一般分為統計型、機械學習型兩大類，而較為常用的算法包括遺傳算法、神經網絡等。遺傳算法是一種以生物進化理論為基礎的優化空間搜尋法，其在數據挖掘中，通常以搜索問題的形式來表述具體的任務，并通過選擇、交叉、變異遺傳等操作尋得最優解。神經網絡是一種與人類大腦重復學習類似的方法，即通過學習和訓練一些事先給出的樣本，產生與樣品有所區別的特征和模式，其中樣本集應具有代表性。研究表明，神經網絡具有準確預測復雜的問題、有效處理存在噪聲的數據等優點。神經網絡一般分為自組織、反饋式和前饋式神經網絡，目前正被廣泛應用于商業領域。
2 RBF神經網絡
RBF網絡結構是一種由輸入層、隱含層和輸出層組成的三層前向網絡，其中輸入層包含信號源結點；隱含層主要由節點數目描述的具體問題而定；輸出層主要響應輸入模式的具體作用。圖2所示為RBF神經網絡的拓撲結構模型。
如圖2所示，RBF網絡由輸入層向隱含層變換的過程具有非線性的特征，而由隱含層向輸入層變化的過程具有線性的特征。據此可知，RBF神經網絡是一種基于前饋網絡的拓撲結構。研究發現，RBF神經網絡拓撲結構會對自身的性能產生影響，而以下因素又會對RBF網絡拓撲結構產生影響：RBF的隱節點數目、中心矢量、徑向基函數寬度和隱含層與輸出層的權值矩陣。
RBF網絡具有較強的非線性逼近性能。得益于此，其目前主要用來實現非線性系統的建模與數據挖掘、貝葉斯規則和連續輸入/出數據對的映射建模。與其他前向神經網絡相比，RBF神經網絡具有以下優點：
1）RBF神經網絡能逼近任意非線性映射，也能處理系統內部的規律性問題。就無噪聲數據而言，RBF神經網絡模型的預測精度高且擬合能力強；而就存在噪聲的數據來講，RBF神經網絡模型的預測誤差和擬合誤差均偏低，且收斂速度相當快。得益于此，RBF神經網絡在時序建模和分析中的應用十分廣泛。
2）RBF神經網絡的拓撲結構加快了學習速度和規避了局部極小的問題。RBF神經網絡采用核函數，特別是高斯函數的使用使得核函數的優點更為突出：表示簡單、光滑性好和解釋性好等。
3）RBF神經網絡的可解釋性好。目前，以下理論均可用于RBF網絡參數和拓撲結構的解釋中：RBF網絡能夠對輸入層轉向輸出層進行映射；核回歸能夠逼近存在噪聲的函數噪聲數據插值能夠逼近輸入缺少函數；規則化可以通過在一般化與精確匹配中尋求平衡；貝葉斯規則可以根據前概率計算出后概率。
3 基于RBF神經網絡的分類數據挖掘
關于RBF神經網絡的研究，其主要表現在以下兩個方面： RBF網絡結構模型； RBF神經網絡學習算法。
3.1 RBF網絡結構模型
在實際應用中，RBF模型的應用范圍更廣，其核函數使用的是高斯函數。但研究發現，在上述結構模型中，訓練算法的優劣會對模型的應用效果和RBF網絡性能的高低產生決定作用。鑒于此，研究人員提出一些具有新特點和新性能的網絡模型，具體包括：
1）高斯型核函數一般化。當隱含層RBF采用以下高斯條函數時，將大大改善RBFN的綜合性能：[Φ?x）=exp-（x-cj?T（x-cj）]/2σ2j]。對于普通高斯函數，其擁有半徑相同的變量軸和超球面狀的函數曲面。但與此相比，高斯條核函數擁有超橢球面狀的函數曲面和半徑不同的變量軸，因此它具有更強的樣本點逼近能力和更大的網絡訓練工作量。
2）WNN（小波神經網絡）。WNN是一種基于小波函數的函數連接型網絡，因此在一定程度上應被看作RBFN的推廣形式。WNN的激活函數為小波函數，具體以仿射變換的方式創建網絡參數與小波變換之間的聯系，因此所表現出的特點與RBFN有所差異。此外，WNN具有極佳的時頻特征，因此被廣泛應用于圖像處理和模式識別等領域。
3）RBPNN（徑向基概率神經網絡）。RBPNN作為RBFNN與PNN綜合發展的結果，其學習收斂速度比RBFN更快，同時也將模式之間的交錯影響考慮其中。關于RBPNN，其結構主要由2個隱含層、1個輸入層、2個輸出層組成，其中第一個隱含層為非線處理層，具體包括隱中心矢量，此乃網絡結構優化的核心對象；在輸出層得出輸入樣本概率密度的估算值，可降低計算的復雜度。
4）GRNN（廣義回歸網絡）。GRNN使用的也是高斯型徑向基函數，一般被看作RBFN的變換形式。GRNN的結構主要由模式層、輸入層、加和層、輸出層組成，其中核函數所包含的平滑因子需采用優化或經驗方法來選定。
3.2 RBF神經網絡學習算法
在RBF網絡設計中，最為核心的問題是如何合理確定中心點的位置、數目和訓練網絡權值。通常情況下，中心點的確定與權值的訓練既可分開實現，又可同時進行。鑒于此，RBF網絡可以采用以下兩類學習算法：
3.2.1 靜態學習算法
靜態學習算法是一種離線學習算法，即在離線設計RBF網絡時，中心點的確定與權值的訓練分開進行。
1）隨機確定RBF中心點，即隨機從訓練數據集中選取RBF中心點。當RBF選取以下高斯函數：[G（X-Cj2=exp（-m/d2maxX-Cj）j=1，2，...，m]，其中，[Cj]――RBF的中心點；[m]――中心數；[dmax]――相鄰中心點最大的間隔距離，因此高斯徑向基函數的寬度[σ=dmax/2m]。利用上述算法，可以避免RBF的形狀出現過平或過陡兩種極端現象。如此一來，便可通過計算線性方程組的方式來確定輸出層與隱含層的連接權值。
2）自組織學習確定RBF中心點。混合學習過程主要包括自組織學習階段、監督學習階段，其中自組織學習階段的任務是采用聚類算法來估計隱含層RBF的中心點；監督學習階段主要通過對輸出層線性權重進行估計來設計網絡，具體采用最小二乘法。輸出層節點的LMS算法與隱含層節點的K-均值聚類同時進行，以加速學習過程。
3）有監督學習確定RBF中心點，即通過有監督學習解得RBF的中心點和自有參數，具體使用牛頓法或梯度下降法等。如果使用梯度下降法，則應從參數空間的某一有效區域開始進行搜索，即先利用RBF網絡得到高斯分類算法，再以分類結果為搜索點，以免學習程收斂至局部極小。
3.2.2 動態學習算法
動態學習算法是一種在線學習算法，其主要在在線數據挖掘環境中使用。由于在在線數據挖掘環境中，通常不會全部給定訓練樣本，因此如果隱含層中心點與單元數目的確定采用靜態學習算法，則解算結果不一定最優，而在線學習算法支持動態刪除或加入隱含層節點，且隱含層中心點的確定和權值的訓練同時進行，因此可以動態構造網絡。
1）以分組優化策略為基礎的在線學習法。訓練神經網絡是約束優化的過程，則需對特定的神經網絡類型進行深入探討。以下內容為在線隱含層單元的確定策略：當輸入的訓練樣本同時滿足以下條件時，則為之分配相應的隱含層但愿你：網絡輸出誤差比誤差的設定閥值大；輸入樣本與隱層中心點之間的距離比距離的設計閥值大。如果在RBF神經網絡在線訓練方式中引入分組優化策略，則網絡輸出與網絡權值之間存在線性關系，同時與隱含層單元的寬度、中心點之間存在非線性關系，表明盡量采取不同的優化方法來處理兩部分的參數。
2）最近鄰聚類算法。最近鄰居類算法作為動態自適應聚類學習算法，由其聚類得出的RBF網絡不僅最優，且支持在線學習。最近鄰聚類算法的實現過程為：
① 設定高斯函數寬度為r，定義矢量A（l）存放輸出矢量的總和，定義計數器B（l）統計樣本數量，其中類別數目為l。
② 對于數據對[（x1，y1）]，于[x1]上創建1個聚類中心，并令[x1=c1]，[y1=A（1）]，[B（1）=1]，那么在RBF網絡中便僅存在1個中心為[c1]的隱含層單元，且隱含層單元與輸出層的權矢量[w1=A（1）/B（1）]。
③ 對于數據對[（x2，y2）]，解得[x2]與[c1]之間的距離[x2-c1]。假設[x2-c1≤r]，那么[x2]的最近鄰聚類為[c1]，假設[A（1）=y1+y2]，[B（1）=B（1）+1]，[w1=A（1）/B（1）]；假設[x2-c1>r]，那么以[x2]為新的聚類中心，同時假設[c2=x2]，[A（2）=y2]，[B（2）=1]。根據上述要求創建的RBF網絡，再在其中加入一個隱含層單元，其與輸出層之間的權矢量[w2=A（2）/B（2）]。
④ 假設第k個數據對[（xk，yk）（k=3，4，...，n）]的聚類中心數為M，相應的中心點為[c1，c2，...，cm]，則由此創建的RBF網絡中便存在M個隱含層單元。據此，解得[xk]與M個聚類中心的間距為[xk-ci，i=1，2，...，M]，假設兩者的減小間距為[xk-ci]，那么[xk]的最近鄰聚類為[ci]。根據第一、二數據對的計算步驟，解得當[xk-ci>r]時，第M個隱含層單元與輸出層之間的權矢量[wM=A（M）/B（M）]；當[xk-ci≤r]時，隱含層單元與輸出層之間的權矢量[wi=A（i）/B（i），i=1，2，...，M]。研究發現，動態自適應RBF網絡的難易程度由r所決定，即聚類數目與r呈負相關，即r越小，聚類數目越多，則計算量越大和精度越高，反之亦然。總之，最近鄰聚類法具有性能優點、計算量小河學習時間短等優點，不僅可以通過確定隱含層來建立RBF神經網絡，還可以在動態輸入模式在線學習中得到有效應用。
綜上，RBF網絡是一種具有最佳擬合和全局逼近性能的前向型神經網絡，其無疑具有廣闊的應用前景，但在實際應用中，應當考慮到局部極小問題的存在，進而保障其應用效果。
參考文獻：
[1] 儲兵，吳陳，楊習貝，等.基于RBF神經網絡與粗糙集的數據挖掘算法[J].計算機技術與發展，2013，23（7）：87-91.
[2] 宮曉曼，滕榮華.基于神經網絡的數據挖掘在煤礦選煤中的應用[J].煤炭技術，2013（9）：127-128.
[3] 魏文軒.改進型RBF神經網絡在股票市場預測中的應用[J].統計與決策，2013（15）：70-72.
[4] 曹東方，王玉恒.數據挖掘在員工考評管理信息系統中的應用[J].河北工業科技，2012，29（5）：323-326.
[5] 姚應水，葉明全.RBF神經網絡與logistic回歸模型的對比研究[J].中國衛生統計，2011，28（4）：397-399.
[6] 張會敏，葉明全，羅永錢等.基于RBF神經網絡的老年癡呆癥智能診斷研究[J].中國數字醫學，2015（6）：38-41.
[7] 習勤，米帥軍.指標篩選技術在神經網絡數據挖掘模型中的應用[J].統計與決策，2011（10）：163-165.
[8] 林濤，葛玉敏，安玳寧等.基于 RBF 神經網絡的鋼構件質量追溯系統研究[J].計算技術與自動化，2015（1）：20-24.
第4篇：如何學習神經網絡范文
關鍵詞：人工神經網絡；教學實踐；教學方法；生物信息學
中圖分類號：G642.0 文獻標志碼：A 文章編號：1674-9324（2014）17-0208-03
人工神經網絡是在神經生理學、生物學、數學、計算機學等學科發展的基礎上提出的，模擬人類大腦的結構和思維方式處理、記憶信息的一門學科。具體來說，早在20世紀40年代，隨著醫學、生物學家們對人腦神經的結構、組成以及信息處理的工作原理的認識越來越充分，有學者提出以數學和物理方法對人腦神經網絡進行抽象，并建立簡化的模型，用以進行信息處理，這種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型，稱之為人工神經網絡ANN（Artificial Neural Network）[1]。
在人工神經網絡中，各種待處理的對象（數據、特征、字符、抽象的模式等等）都可用神經元處理單元表示。這些神經元主要可以分為輸入神經元、隱含神經元和輸出神經元三大類。其作用各不相同，作為輸入神經元的處理單元用來與外界產生連接，接收外界的信號輸入；隱含神經元處于中間層，為信息處理的不可見層；輸出神經元主要實現結果的輸出。神經元之間相互連接，連接的權重反映了各神經元之間的連接強度，神經元之間的連接關系中蘊含著信息的表示和處理。人工神經網絡主要是在不同程度、不同層次上模擬大腦處理信息的風格，具有非程序化、較強的適應性、自組織性、并行分布式等特點，其實現主要是通過網絡的變換和動力學行為，涉及數學、生物學、人工智能、計算機科學、非線性動力學等多個學科[1]。作為一門活躍的邊緣叉學科，在處理信息方面，相比于傳統人工智能方法具有非線性適應性，成功地應用于神經專家系統、模式識別、組合優化、預測等多個領域，尤其在生物信息學領域得到了廣泛的應用。生物信息學是20世紀末發展起來的一極具發展潛力的新型學科。人類的基因中蘊含著大量有用信息，利用神經網絡可以對這些海量的信息進行識別與分類，進而進行相關的生物信息學分析。如利用神經網絡分析疾病與基因序列的關系，基于神經網絡對蛋白質結構的預測，基因表達譜數據的分析，蛋白質互作位點的預測等等，都取得了很好的效果[2]。
因此，在生物信息相關專業的本科生中開設人工神經網絡課程尤為重要。經過多年的研究發展，已經提出上百種的人工神經網絡模型，這就需要教師針對不同的專業背景，不同層次的學生，講授不同模型的核心思想、推導過程、實際應用等等。本文主要根據人工神經網絡在生物信息學相關專業的教學實踐，從以下幾個方面進行探討。
一、引導式教學，激發學生的學習積極性
神經網絡作為一門偏于理論分析的學科，傳統的教學模式，即首先講解模型的起源，接下來介紹模型的核心思想，然后就是一連串的數學公式推導，面對滿黑板的公式，學生很難提起興趣去認真學習相應的模型。所以，如何激發起學生的學習積極性，讓學生重視這門課程，更好地掌握課程內容，掌握相關的模型理論基礎、核心思想，更好地服務于本專業，是人工神經網絡教學者亟待解決的問題。
首先，在導課的時候要生動，以引起學生對將要學習的內容的好奇心，讓學生有興趣投入到課堂學習內容中去。布盧姆說過：“最大的學習動機莫過于學生對所學知識有求知的興趣。”只有在這種動機下的學習，才會提高自身的主動性與自覺性，達到提高教學質量的目的[3]。例如，在講解hopfield神經網絡的時候，通過舉例對蘋果、橘子的質地、形狀、重量等特征的描述，運用“0，1”進行量化描述，然后應用神經網絡就可以進行有效地分類；對于旅行商TSP問題，也可以通過hopfield神經網絡尋找到最優路徑。那么，這些問題是如何解決的呢？就需要大家來一起揭開hopfield神經網絡的神秘面紗。其次，由于神經網絡涉及大量的數學公式與數學方法，學生往往會有畏懼的心理，這就需要教師幫學生澄清思想誤區，現在很多用于數據分析與計算的軟件，如matlab工具箱、R軟件里面都有很成熟的人工神經網絡軟件包，所以，學生只需要理解其工作原理、核心思想，學會使用現成的人工神經網絡軟件包處理數據，在熟練應用程序包的基礎上，對相應的神經網絡模型進行優化，改進，并且與其他的人工智能算法相結合，更好地為本專業服務。第三，在講授人工神經網絡理論內容的時候，要摒棄傳統的呆板式的推導過程，以往的神經網絡教學方法注重理論分析，通常是一連串的公式推導，公式中又涉及大量的符號，計算起來復雜又煩瑣，學生會覺得索然無趣，厭學情緒嚴重。在教學過程中，教師要精心設計，創設出特定的問題環境，將所學內容與本專業相結合起來，多講應用，啟發和誘導學生選取合適的神經網絡模型來解決本專業的實驗數據分析與處理等問題。
二、理論教學與實驗教學相結合
除了在理論課堂上將基本的理論知識傳輸給學生，教師還應該安排若干實驗教學內容，讓學生以實驗為主，將理論課上所學的知識運用到解決實際問題中來，理論聯系實際，主動操作思考，觀察，分析，討論，以培養學生解決問題的能力。一旦學生自己動手處理一些問題后，很自然地就會對人工神經網絡產生一種親切感，并能強烈激發起學生繼續探究下去的興趣。對于同一問題，可以讓學生選取不同的網絡模型，設置不同的參數，甚至可以讓學生自己動手編寫相應的網絡模型程序，并且給予改進，根據得出的結果來評價模型在解決實際問題時的好壞，以及模型改進的效果。作為授課教師，需要不斷優化實驗教學內容，在生物信息學專業開設人工神經網絡課程，實驗教學主要是針對生物信息專業的海量生物數據處理與分析的實際需要，培養學生綜合運用人工神經網絡方法和生物信息學知識，進行信息的分析與處理。除了在實驗課堂上給學生最大的自由發揮空間外，課后作業也盡量以開放式問題的形式給出，比如，可以讓學生選取相應的網絡模型處理本專業的一些實際問題，例如，數據的分類、聚類等等，其中，數據來源可以不同，類型也可自由選取，最后給出相應的模型參數設置、方法的改進、實驗結果，也可以安排學生自己查詢文獻進行學習，并安排學生作報告。這樣，學生可以在世界范圍內了解神經網絡的在本專業的應用情況，又能提高英語的讀寫能力，還能鍛煉學生做科研報告的能力。
三、加強師資隊伍建設以及其他基本條件的建設
由于生物信息學是一門新興的交叉學科[4]，這就要求人工神經網絡的授課教師要熟練掌握生物信息相關專業的知識，教師的業務水平必須得到充分保證，才能給學生以全面透徹的指導。學院應該本著自主培養與重點引進的原則，優化教師隊伍的專業結構和學歷結構，提高教師的自身修養。授課教師要將課堂的理論知識聯系實際生物問題進行講授，讓學生感受到人工神經網絡在本專業的應用，提高學生的學習效率，同時也需要閱讀大量的專業文獻，提高編程技巧和數據庫應用能力，讓自己成為一名合格的復合型教師。同時，人工神經網絡課程的實驗，高度依賴于計算機網絡等設備，因此，相關的軟硬件設施的建設也必不可少，由于，基因組測序技術的發展，目前生物信息學研究所用的數據都是海量的，神經網絡訓練起來所需時間太長，不能用普通的電腦完成，需要專門的服務器來處理，學校有關部門應在條件允許的情況下，配備機房，購買服務器，以及相關的軟件，為學生創造良好的環境，讓學生完成課程內容。
最后，人工神經網絡涉及數學、計算機、人工智能和神經學等專業知識，因此，需要授課教師加強與其他相關專業教師的交流與合作，并滲透到授課過程中去，讓學生在學習人工神經網絡網絡時能將各專業聯系起來，更好地解決生物信息學中的問題，要想成為一名合格的人工神經網絡課程教師，首先要成為一名復合型的教師，不僅要具備教學和科研能力，同時也要具備計算機、生物學、信息學等多學科的知識。
參考文獻：
[1]朱大奇，史慧.人工神經網絡及其應用[M].北京：科學出版社，2006.
[2]朱偉，史定華，王翼飛.人工神經網絡在蛋白質二級結構預測中的應用[J].自然雜志，2003，（3）：167-171.
[3]趙俊，李曉紅.趣味教學法在預防醫學教學中的運用[J].現代醫藥衛生，2005，21（15）：2089-2090.
第5篇：如何學習神經網絡范文
（一）BrainCell
神經網絡基本原理本文主要應用了BrainCell神經網絡軟件來實現B2B電子商務供應鏈協同績效評價模型的計算與分析。BrainCell神經網絡采用誤差反向傳播學習算法，算法從兩個方面（信號的前向傳播和誤差的反向傳播）反復進行迭代學習。其基本原理是輸入層各神經元在接收外接的信息后，傳遞給隱含層的神經元，根據減少目標輸出與實際輸出誤差的方向，從輸入層經過隱含層逐層修正各連接的權值，直到將誤差調整到能夠接受的程度，這不僅是各層權值不斷修正的過程，也是學習訓練神經網絡的過程，若學習樣本的計算輸出提前達到預期的結果，則訓練過程結束，否則將學習到預先設定的學習次數為止，最后由輸出層輸出信息處理的結果，如上圖所示。
（二）BrainCell神經網絡實現步驟
1.網絡層數的確定根據Kolmogrov理論可知，含有一個隱含層的三層神經網絡可以以任意精度逼近一個從輸入到輸出的映射關系。因此，在BrainCell神經網絡中采用含有單隱層的三層神經網絡。2.網絡節點的確定輸入層節點的多少與評價指標個數是相對應的。因此，根據構建好的B2B電子商務供應鏈協同績效評價指標體系，可以將一級指標與二級指標進行合并，作為輸入層的節點數，其指標數如表1所示，因此輸入層節點數為19個。輸出層節點則為1個，在此以B2B電子商務供應鏈協同績效等級結果作為輸出值。3.網絡訓練本文采用的訓練函數為trainscg，將網絡訓練的精度設置為10-4并初始化權值和閾值后，從15個樣本中選取12個作為訓練樣本進行批處理訓練，開啟網絡進行學習訓練。其具體步驟如下。假設訓練樣例是形式（a，b），其中a為輸入向量，b為輸出值。N為輸入節點數，M為輸出層節點數。從單位i到單位j的輸入表示aij，單位i到單位j的權值表示Wij。（1）創建具有N個輸入單位，M個輸出單位的BrainCell神經網絡。（2）用隨機數（0或1）初始化某些數字變量網絡權值Wij。（3）對于第k個訓練樣例（a，b），把輸入跟著網絡前向傳播，并計算網絡中每個單元x的輸出Qx，使誤差沿著反向傳播。（4）對于每個輸出單元u，計算它的誤差項。（5）對于每個隱含單元h，計算它的誤差項。（6）利用誤差項更新調整每個網絡權值。（7）重復（3）到（6），直到完成指定的迭代次數或者是其誤差值達到可接受的范圍。4.網絡檢驗將剩下的3個驗證樣本數據輸入到訓練好的網絡中，將其訓練結果與實際結果相比較，檢驗BrainCell神經網絡得到的輸入與輸出間的關系是否正確，從而反映出該績效評價體系的準確性和可靠性。
二、實證研究與分析
（一）確定績效評價等級
由于各個企業供應鏈自身發展的情況不同，各具特點，其形式、結構各異，因此如何劃分績效評價等級，如何更好地反映績效評價等級至關重要。本文以績效考核成績最好為1，最低為0為臨界值，由高到低劃分5個等級，并通過績效等級系數來體現，見表2所示。
（二）指標數據獲取和處理
本文以天貓商城中某珠寶飾品有限責任公司為例，該公司有比較穩定的供應商，且與多家企業都有長期合作關系。根據公司的實際管理情況，整理出該公司供應鏈協同管理的績效指標評價體系研究的基礎數據，應用BrainCell軟件對這些基本數據進行計算。為使各指標在整個系統中具有可比性，本文利用效應系數將指標在閉區間[0，1]上進行同趨勢化無量綱化和定性指標定量化處理。結果表明，該公司的供應鏈整體績效基本良好，其績效評價等級系數主要都集中在[0.5,0.8]這部分區間內，與該公司所處供應鏈實際情況相符。該公司運作情況基本令人滿意。
三、結語及展望
第6篇：如何學習神經網絡范文
關鍵詞：地形面 自由曲面 神經網絡 BP算法 模擬退火
1 引言
在水利及土木工程中經常會遇到地形面，地形面是典型的空間自由曲面，地形面在給出時，往往只給出一些反映地形、地貌特征的離散點，而無法給出描述地形面的曲面方程。然而有時需要對地形面進行描述，或者當給出的地形面的點不完整時，需要插補出合理的點。以往大多用最小二乘法或其它曲面擬合方法如三次參數樣條曲面、Bezier曲面或非均勻有理B樣條曲面等，這些擬合方法的缺點是：型值點一旦給定，就不能更改，否則必須重新構造表達函數；在構造曲線曲率變化較大或型值點奇異時，容易產生畸變，有時需要人為干預；此外，這些方法對數據格式都有要求。
神經網絡技術借用基于人類智能（如學習和自適應）的模型、模糊技術方法，利用人類的模糊思想來求解問題，在許多領域優于傳統技術。用神經網絡進行地形面構造，只要測量有限個點（可以是無序的），不需要其它更多的地形面信息和曲面知識，當地形面復雜或者是測量數據不完整時，用神經網絡方法更具優勢，而且還可以自動處理型值點奇異情況。
本文提出用BP神經網絡結合模擬退火算法進行地形面的曲面構造。
2 模型與算法的選擇
為了對地形面進行曲面構造，首先要有一些用于神經網絡訓練的初始樣本點，對所建立的神經網絡進行學習訓練，學習訓練的本質就是通過改變網絡神經元之間的連接權值，使網絡能將樣本集的內涵以聯結權矩陣的方式存儲起來，從而具有完成某些特殊任務的能力。權值的改變依據是樣本點訓練時產生的實際輸出和期望輸出間的誤差，按一定方式來調整網絡權值，使誤差逐漸減少，當誤差降到給定的范圍內，就可認為學習結束，學習結束后，神經網絡模型就可用于地形面的構造。
BP網是一種單向傳播的多層前向網絡。網絡除輸入輸出節點外，還有一層或多層的隱層節點，同層節點中沒有任何耦合。輸入信號從輸入層節點依次傳過各隱層節點，然后傳到輸出節點，每一層節點的輸出只影響下一層節點的輸出。其節點單元傳遞函數通常為Sigmoid型。BP算法使神經網絡學習中一種廣泛采用的學習算法，具有簡單、有效、易于實現等優點。但因為BP算法是一種非線性優化方法，因此有可能會陷入局部極小點，無法得到預期結果，為解決BP算法的這一缺點，本文將模擬退火算法結合到BP算法中。
模擬退火算法是神經網絡學習中另一種被廣泛采用的一種學習算法。它的基本出發點就是金屬的退火過程和一般組合優化問題之間的相似性。在金屬熱加工過程中，要想使固體金屬達到低能態的晶格，需要將金屬升溫熔化，使其達到高能態，然后逐步降溫，使其凝固。若在凝固點附近，溫度降速足夠慢，則金屬一定可以形成最低能態。對優化問題來說，它也有類似的過程，它的解空間中的每一個點都代表一個解，每個解都有自己的目標函數，優化實際上就是在解空間中尋找目標函數使其達到最小或最大解。
（如果將網絡的訓練看成是讓網絡尋找最低能量狀態的過程，取網絡的目標函數為它的能量函數，再定義一個初值較大的數為人工溫度T。同時，在網絡的這個訓練過程中，依據網絡的能量和溫度來決定聯結權的調整量（稱為步長）。這種做法與金屬的退火過程非常相似，所以被稱為模擬退火算法。）
模擬退火算法用于神經網絡訓練的基本思想是，神經網絡的連接權值W可看作物體體系內的微觀狀態，網絡實際輸出和期望輸出的誤差e可看作物體的內能，對網絡訓練的目的就是找到恰當的狀態W使其內能e 最小，因此設置一個參數T來類比退火溫度，然后在溫度T下計算當前神經網絡的e與上次訓練的e的差e，按概率exp(-e/T)來接受訓練權值，減小溫度T，這樣重復多次，只要T下降足夠慢，且T0，則網絡一定會穩定在最小的狀態。
模擬退火算法雖然可以達到全局最優，但需要較長時間，BP算法采用梯度下降方式使收斂速度相對較快。為取長補短，我們將兩種算法結合起來，采用BP算法的梯度快速下降方式，同時利用模擬退火算法技術按概率隨機接受一個不成功的訓練結果，使梯度快速下降過程產生一些隨機噪聲擾動，從而既保證了網絡訓練的快速度下降，又保證了訓練結果的最優性。 3網絡結構與學習算法
3.1網絡結構
如何選擇網絡的隱層數和節點數，還沒有確切的方法和理論，通常憑經驗和實驗選取。本文采用的BP網絡結構如圖1所示，輸入層兩個節點，分別輸入點的x坐標和y坐標；兩層隱層，每層10個節點，輸出層一個節點，輸出點的z坐標。
3.2 學習算法
學習算法的具體過程如下：
其中Out_node為輸出神經元集合.
4計算實例
為了檢驗本文算法的有效性， 我們用本文算法對黃河下游河灘地形面進行曲面構造， 地形面數據按截面給出， 我們用奇數截面上的點為學習樣本， 偶數截面上的點用于檢驗本算法的精度. 表1給出了測量值z1與本文算法計算結果z2， z2為本算法經過大約3500次迭代的結果. 由這些數據可以看出，本文算法計算出的值與測量值的誤差大約在0.02左右. 完全可以滿足實際工程要求的精度.
5 結語
用神經網絡進行地形面的曲面構造， 不必求出曲面的方程， 只需知道有限個點即可， 而且這些點可以是散亂點. 與傳統方法相比， 神經網絡方法具有很強的靈活性.
本文將BP算法和模擬退火算法結合起來， 解決了BP算法容易陷入局部極小的致命缺點. 但仍然沒有解決BP算法收斂速度慢的缺點.
NEURAL NETWORK METHOD TO CONSTRUCT TERRAIN SURFACE
Abstract
This paper presents an artificial neural network approach to solve the problem of terrain surface construction. This method takes advantage of the global minimum property of Simulated Procedure on the basis of BP algorithm， thus can jump out of the local minimum and converge to the global minimum..This method were validated by simulating bottomland terrain of Yellow River.
Key words: terrain surface; freeform surface; neural network; BP algorithm; simulated annealing
參考文獻
[1] 王鎧，張彩明. 重建自由曲面的神經網絡算法[J]. 計算機輔助設計與圖形學學報，1998，10（3）：193-199
第7篇：如何學習神經網絡范文
關鍵詞：神經網絡；感興趣區域；自動分割；自組織特征映射；多模態上下文關聯
中圖分類號：TP391文獻標識碼：A文章編號：1009-3044(2011)25-6209-03
An Automatic Segmentation Approach for CT Image Based on Neural Network
CHU Jian, YU Wen-xue
(The Image Technology Laboratory, Southeast University, Nanjing 210096, China)
Abstract: Neural network is hot in pattern recognition theory, and useful for image segment. The way to extracting the region of interest (ROI) from medical images and automatically identifying is difficult. With the in-depth analysis of neural network algorithm, it’s proposed that self-organizing map (SOM) and multi-module contextual (MMC) combined neural network method to achieve automatic segmentation in CT images. Using the prior knowledge of anatomy combined with the image, it sets the feature descriptors and evaluation of criteria, to automatically identify the image region of interest, tissues and organs.
Key words: neural network; region of interest; automatic segmentation; self-organizing map; multi-module contextual
圖像分割是指根據區域內的相似性及區域間的不同，將圖像分成各具特性的區域，并提取出感興趣區域的技術和過程。而醫學圖像分割在醫學和解剖上更具有明確的意義，是當前醫學圖像領域的熱點和前沿課題，也是醫學圖像處理和分析過程中的關鍵技術，更是進行圖像識別、圖譜匹配、可視化、定量分析和計算機輔助診斷等處理的必要前提[1]。目前，醫學圖像分割主要以各種細胞、組織與器官的圖像作為處理的對象。例如磁共振顱腦圖像的分割，其目的就在于清晰地描繪出顱腦各個解剖結構的邊界，如灰質、白質、腦脊液以及MR圖像中的其它組織。如何從醫學圖像中將感興趣區域（病灶、組織器官等）提取出來，是圖像分析和識別首要解決的問題，也是制約醫學圖像處理中其它技術發展和應用的瓶頸。傳統的醫學圖像分割停留在人機交互水平，處理時間較長且受人為因素影響，而自動分割正是解決此問題的方法，也是近年來的研究熱點，代表著醫學圖像分割未來的發展方向[2]。
結合目前熱點研究神經網絡理論，利用其可學習訓練和反饋特性，對醫學圖像像素進行分類，并提取感興趣區域（Region of Interest，ROI）輪廓。而神經網絡方法分割圖像的思想是用訓練樣本集對神經網絡進行訓練以確定節點間的連接和權值，再用訓練好的神經網絡分割新的圖像數據。本文給出一種結合多模態上下文關聯神經網絡(Mutimodule Contextual Neural Network，MMC)算法和Kohonen自組織映射神經網絡（Self-organizing Map，SOM）算法的方法，對目標醫學圖像進行分割，得到可能的組織輪廓。再依據圖像解剖結構的先驗知識，設定判定準則和特征描述子計算，提取出感興趣區域輪廓。本文提出的神經網絡自動分割方法，實現對腹部CT的自動分割，并自動提取感興趣區域組織輪廓。
1 神經網絡自動分割
根據文獻[3-5]中所提出的多模態上下文關聯神經網絡(MMC)算法所描述，可以結合Kohonen自組織映射神經網絡（SOM）方法[6-7]，再利用圖像灰度信息和鄰域相關信息，將圖像像素分類，從而實現感興趣區域分割的方法。下面就這個方法過程進行闡述，并加以改進和實現。
1.1 MMC神經網絡分割
首先，將圖像像素大小設為n，并將其劃分為m個分類。假設n個像素概率向量集合P={P1,P2,…,Pi,…Pn}，其中1≤i≤n，Pi=[pi1,pi2,…,pik,…pim]T。則集合P中向量元素Pi表示為像素i隸屬于m個分類的概率向量，而向量Pi中的元素pik表示像素i隸屬于第k類的概率。根據概率向量歸一性，Pi滿足下式：
（1）
對應于神經網絡，每個神經元即代表某個唯一像素。對于第i個神經元的分類模型k概率值pik(t+1) ，由其當前概率值pik(t)和相鄰神經元的影響值vik(t)所決定，則pik(t+1)的迭代公式可表示如下式：
（2）
其中模型輸出函數f(x)定義成：
（3）
公式（2）中分母滿足歸一化條件，使得結果pik(t+1)在式（1）成立。
同時公式（2）中的vik(t)可由下式獲取：
（4）
其中，表示當前神經元（像素）i的鄰域，l則表示i鄰域神經元的個數。同時，權重矩陣W=[W1,W2,…,Wi,…Wm]T=[wi,j]，1≤i, j≤m ，wi,j即為兩個神經元之間的權重系數。
由公式（4）分析可知，若Wk(1≤k≤m)具有較大的兼容性，則結果會是正值，同時概率向量Pi+δ中的元素 Pi+δ，k的值比較大，那么vik的值將是較大的正數；若Wk只有較小的兼容性，則結果為負，同時概率向量Pi+δ中元素 Pi+δ，k比較大，那么vik的值將是較小的負數。但如果Pi+δ，k偏小，則可以它忽略其對vik的影響。此外，可以簡單的定義權重矩陣為：
（5）
由迭代式2可知，第 k 類的神經元 i 重復迭代，不停接收鄰域神經元的響應，并產生新的輸出pik(t+1)。運用此方法之前，每個像素分類隸屬度應該明確，即初始概率向量Pi(0)在迭代開始之前，就應該計算出來。而下一小節闡述的自組織映射（SOM）神經網絡算法，則可以分析圖像像素灰度的分布情況，并且計算出每個像素隸屬分類的初始概率向量Pi(0)，即作了預分割處理。
1.2 SOM神經網絡分割
經典的SOM算法包含訓練和回調兩個部分，下面給予算法公式和分析。
1）訓練過程。首先，設圖像的灰度值集合A={I1, I2,…,Ii,…In}，其中Ii就是像素i的灰度值，n仍然表示圖像像素大小，即訓練的樣本容量。再將灰度Ii與SOM神經網絡第k個神經元的權重系數表示為Lk (1≤k≤m)，其中m仍為分類數。權重系數Lk也是圖像的模糊聚類中心。則在對圖像進行聚類分析時，SOM神經網絡依據下式進行訓練：
（6）
其中下表索引c即為獲勝神經元（最優匹配）。而獲勝神經元相鄰的權系數由下式進行迭代：
（7）
其中α(t)為訓練學習效率，Nc(t)為獲勝神經元c在當前t時刻的鄰域函數。訓練過程中，α(t) 和Nc(t) 一直在衰減，且0
2）回調過程。由式（6）可知，像素i 對應的獲勝神經元c通過訓練學習可以確定下來。其隸屬于每個分類的初始概率向量Pi(0)，也可以通過高斯分布N(c,σ)進行初始化。Pi(0)的初始化式為：
（8）
其中標準方差σ即是控制初始概率的擴散因子。式中分母則起到歸一化作用，使得pik滿足式（1）。
由式（8）的結果可知，在Pi(0)初始概率向量中，獲勝神經元所代表元素pic的值很大，而其它元素較小，這是由變量σ和|k-c| 的大小所決定。
通過初始概率向量Pi(0)和神經網絡權重矩陣W設置，代入式（2）迭代運算，直到Pi=[pi1, pi2, …, pik,…pim]T滿足如下收斂條件：
（9）
其中ε取值很小，以保證迭代能夠中止。
1.3 圖像解剖結構的先驗知識判定
醫學圖像通過上述神經網絡算法進行輪廓分割后，得到可能的組織輪廓結果。此時利用組織區域的判定特性和相關特征條件，可以從所有輪廓中對比識別感興趣器官或組織。而這些組織器官區域的特征，是由圖像解剖結構的先驗知識所確定的。本文處理圖像是腹部CT，其中重要組織器官特征如下所示[8]：
1) 脊椎：一般位于圖像中底部，且離圖像中心點較近。最突出的是，脊椎屬于骨骼高密度組織，其灰度值最大。故很容易定位和作參考，一般可以用作固定標記點，即切片中描述感興趣區域相對位置的參考點。
2) 脊髓：通常在脊椎內，屬于密度偏小的軟組織，在CT圖像中其灰度值相對脊椎小很多，黑白對比明顯，很容易區分。但部分切片中，脊椎被分成上下兩塊，上一塊較圓，下一塊倒三角形，而脊髓處于條縫里。此時脊髓的分割輪廓分散，通過特殊條件處理才能識別。
3) 腎臟：兩個腎臟恰好分布在脊椎兩側，對應于左腎和右腎。腎臟形狀相對規則，組織區域的緊密度也較大，輪廓邊界清晰。
4) 肝臟：位于右腎的右上方。若切片沒有右腎，則定位于脊椎右上方，且距離脊椎較遠。肝臟的面積和緊密度都比較大，部分切片中肝臟還可能分成數個區域，故位置和組織范圍變化較大，必要時給予區域合并。
上述解剖結構位置和大小，及圖像中的灰度分布情況，可以轉換成組織器官識別的判定準則。針對腹部CT圖像，組織器官識別順序是脊椎，脊髓，腎臟（左腎和右腎），肝臟。
有了組織解剖結構條件做先驗知識判定，再定義一組相關特征描述子來對ROI進行量化分析，常用描述子有相對距離、周長、面積、相對位置、組織密度、緊密度等，這里不再細述。
2 實驗結果及分析
依據上節的理論算法分析，可以給出相應的神經網絡算法實現過程，如圖1。
由上述算法公式和圖1流程圖，通過程序實現單張CT切片神經網絡自動分割。首先，關注實驗過程中的重要參數設置：
a）窗口調節參數：窗寬 W=380，窗位 L=10；
b）圖像像素隸屬分類數：m=7；
c）SOM神經網絡參數（公式6）：Nc(t)神經元作用半徑r=1，學習效率α(t)=0.2，SOM學習迭代次數（最長時間）Epoch=500；
d）MMC神經網絡參數（公式2，6）：高斯分布擴散因子σ=1.5，MMC學習迭代次數nIter=3。
通過上述參數設置，針對單張腹部CT切片進行自動分割識別。先將16位原圖調整窗寬窗位，并壓縮至8位灰度圖，提高學習效率。輸入到神經網絡，先SOM算法進行初始分割，通過訓練回調確定分類中心初始值，再通過MMC算法訓練迭代確定分類概率向量，并由此提取組織輪廓。最后由先驗知識判定規則，實現ROI的自動識別，并對識別組織器官輪廓進行平滑處理。圖2給出完整的單張切片分割識別處理圖（a-d），由圖2（c）可見神經網絡分割所得可能的分類組織輪廓清晰，且邊界光滑，所有分割輪廓數是64；再由圖2（d）所示，顯示輪廓數是5，且成功識別腹部重要器官，并提取組織輪廓。實驗條件在CPU2.40GHZ，內存2G的PC機上執行，算法所耗用時間為10S，適用于臨床使用和輔助治療。
（a）原始16位圖 （b）壓縮8位圖(W=380,L=10)（c）分類組織輪廓 （d）組織器官識別
圖2CT圖像神經網絡自動分割
（W=380,L=10,m=7，r=1，α(t)=0.2，Epoch=500，σ=1.5，nIter=3）
3 結論
本文通過多模態上下文關聯和自組織映射神經網絡相結合的方法，實現對CT圖像的自動分割，并利用解剖先驗知識對分割結果進行組織識別，最終提取感興趣區域組織輪廓。該方法實驗成功，下一步研究將針對神經網絡樣本可學習性，實現序列切片的有效率自動分割。
參考文獻：
[1] 章毓晉. 圖象分割[M].北京:科學出版,2001:1-4.
[2] 姜曉彤,羅立民,汪家旺,等.一種肺部腫瘤CT圖象序列的自動分割方法[J]. 中國圖象圖形學報, 2003,8(9):1028-1033.
[3] Lin W C, Tsao E C K, Chen C T. Constraint satisfaction neural networks for image segmentation[J].Pattern Recognit., 1992,25(7):679-693.
[4] Haring S, Viergever M A, Kok J N. Kohonen networks for multiscale image segmentation[J].Image Vision Comput.,1994,12(6):339-344.
[5] Rosenfeld A, Hummel R A, Zucker S W. Scene labeling by relaxation operations[J].IEEE Trans. Syst., Man, Cybern.,1976,(SMC-6):420-433.
[6] Valli G. Artificial neural networks for t he segmentation of medical images [R].Technical Report No.940702,1994.
第8篇：如何學習神經網絡范文
關鍵詞：瓦斯突出；微粒群算法；RBF神經網絡；MATLAB
中國分類號: TP183；文獻標識碼: A
前言
瓦斯突出的產生機理和預測過程比較復雜， RBF神經網絡在瓦斯突出預測中起到了很重要的作用。煤礦瓦斯突出的影響指標很多，并且各個指標與瓦斯突出之間的關系為非線性的關系，因此要求RBF神經網絡具有很好的非線性逼近能力。
RBF神經網絡是以函數逼近理論為基礎構造的一類前向網絡，網絡結構自適應確定，輸入與初始值無關，結構簡單，訓練簡潔，能夠逼近任意非線性函數，而且在逼近能力、分類能力和學習速度方面均優于BP網絡。RBF神經網絡網絡的設計包括三部分：神經元功能函數的設計，神經元之間的連接形式的確定以及網絡訓練方式的確定。在這三部分中隱單元RBF的設計是比較重要的。RBF函數是一種局部分布的對中心點徑向對稱的非負非線性函數。但是在神經元功能函數的設計中，RBF功能函數的中心ci的確定有很大的難度。
通常使用隨機選取固定中心法，中心的自組織選擇法等，但是由于這些學習訓練方法的局限性，通過這些方法得到的神經網絡適用性和泛化能力比較差，不能滿足瓦斯突出預測的要求。本文利用微粒群算法來計算出通過學習訓練得到的RBF神經網絡的隱單元RBF的中心ci的適應度的方法來確定最后的隱單元RBF的中心ci，并且不斷的在以后的實踐應用中更新學習訓練所用的數據庫，系統根據數據庫的變化，可以優化原有的隱單元RBF的中心ci ，提高了神經網絡的逼近能力，有效的客服了RBF神經網絡局部最優的缺點。
1、微粒群算法
1.1基本微粒群算法
微粒群算法（particle swarm optimization，PSO）是1995年由美國社會心理學家J.Kennedy和電氣工程師R.Heppner共同提出的，其基本思想是受鳥類群體行為研究結果的啟發，并利用了生物學家F.Heppner的生物群體模型[2]。算法原理如下：
微粒群算法主要是使用微粒的適應度大小進行尋找全局最優和優化參數。他將種群中的每個個體看作是N維空間的一個沒有質量和體積的微粒，并且在搜索空間以一定的速度飛行，在飛行過程中不斷根據環境的改變來改變自身的速度和方向，直到找到適應度最好的位置。假設Xi=（xa1，xa2，xa3，……xan為微粒i的當前位置，Vi=（va1，va2，va3，…… van）代表微粒當前的飛行速度，Pi=（pa1，pa2，pa3，……pan）表示微粒經歷的適應度最好的位置，這是局部最優位置。
當f(xi(a+1))≥f(Pi(a)) 時Pi(a+1)= Pi(a)
當f(xi(a+1) ＜f(P(a)) 時Pi(a+1)= Xi(a+1) 所以全局最優位置P（a）=min{f(P0(a) ，P1(a)……Pn(a)}。同時可以得出進化方程為：vij (t+1)=vij (t)+c1v1j(t)[pij (t)-xij (t)]+c2r2j(t)[pgj (t)-xij (t)]
為了更好的確定和優化RBF的中心ci，計算每個數據庫得到的中心ci的均方誤差，計算出每個中心ci的適應度：
E（Xp）=[Yk,p(Xp)-tk,p]
有適應度來確定的適應度函數如下：
f(x)=
1.2帶慣性權重的微粒群算法
在全局搜索過程中，搜索能力和收斂速度是相對立的，如果搜索能力高了，收斂速度就會相對變慢，為了解決這一問題，在速度進化方程中引用了慣性權重，具體公式如下：
vij(t+1)=wvij(t)+c1v1j(t)[pij(t)-xij(t)]+c2r2j(t)[pgj(t)-xij(t)] 式中w稱為慣性權重。
在全局搜索利過程中，慣性權重w可以根據要求按照一定趨勢改變，這樣就既能保證搜索能力又能加快收斂速度。
2、RBF神經網絡
人工神經網絡是對人類大腦系統一階特性的一種描述，有類似人的神經元的處理單元通過各種連接方式連接起來構成，整個網絡同時具有一個或是多個的輸入和輸出，能夠對信息進行并行和分布處理。人工神經網絡主要包括三方面的內容：激活函數，神經元之間的連接形式，網絡的學習或者是訓練。
激活函數為徑向基函數（RBF）的神經網絡為RBF神經網絡，RBF神經網絡是一個單隱層的三層前饋網絡，分別為輸入層，隱含層，輸出層。隱含層的傳遞函數為radbas。徑向基網絡結構如圖1所示。實驗已經證明：徑向基網絡能夠以任意精度逼近任意連續函數。每個RBF的節點有一個“參考”輸入x*i,f是輸入與“參考”輸入的距離d(x*i,xi )的函數，函數中的距離有節點輸出y =f(d(x*i,xi ))來計算。
RBF神經網絡的學習主要有兩種：中心自組織選擇法和中心的監督選擇發。中心的自組織選擇法是一種無導師，也稱非監督學習，是對所有的輸入進行聚類，求得各隱單元RBF的中心ci。中心的監督選擇法是一種有導師的學習，也稱為監督學習算法。主要是通過一個有導師或是有監督的學習過程來確定隱單元RBF的中心ci。
3、RBF神經網絡隱單元RBF的中心ci 的確定和優化的過程
本文利用普通的學習訓練法和帶慣性權重的微粒群算法相結合的方法來進行RBF神經網絡隱單元RBF的中心ci的確定和優化。具體過程如圖1所示。
（1）用一定數量的與瓦斯突出有關信息組成一個數據庫，并且將這個數據庫分為若干個子數據庫.使用這些子數據庫分別對RBF神經網絡進行訓練，得到隱單元RBF的中心c1,c2,c3……。
（2）將上面得到的若干個隱單元RBF的中心作為一個個體（微粒），有這些個體組成一個種群，其中每個個體代表先前計算出的一個隱單元RBF的中心。初始化Gbest和Lbest。
（3）使用帶慣性權重的微粒群算法來確定最后的隱單元中心，通過計算每個微粒適應度來確定中心ci，然后通過適應度函數來優化中心ci，最后形成RBF神經網絡。
（4）把井下測得的數據作為輸入，來進行瓦斯突出預測，并且把井下的信息和預測結果，作為下次更新數據庫和優化隱單元中心的依據。
（5）每進行一次預測，數據庫的信息就根據實際情況和預測結果進行一次更新，根據更新的數據庫，對得到的隱單元中心進行優化，提高了系統的適應能力和自學習能力。
4、帶慣性權重的微粒群算法的Matlab程序設計和瓦斯突出預測
使用Matlab進行程序時所用到的函數如下：
PSO：主函數，用于調用微粒群算法。
DrawSwarm：繪圖函數，主要用來反映每個微粒的進化過程。
psoOption：參數顯示函數，主要用于顯示帶慣性權重的微粒群算法的參數設置情況。
使用多個函數形成函數模塊，實現對隱單元RBF的中心ci的確定和優化。帶慣性權重的微粒群算法進行確定和優化神經網絡隱單元RBF的中心ci的函數模塊為：[fxmin,xmin,Swarm,history]=pso(input,psoOptions);
選取一定量的信息形成數據庫，然后隨機的劃分為若干個子數據庫，通過學習訓練來產生一些中心c1,c2,c3……，然后再組成種群，利用函數模塊來確定和優化RBF的中心。具體實驗數據如下表1所示：
利用Matlab運行該函數模塊來確定和優化RBF神經網絡時，算法程序運行時出現的最優適應度值隨著迭代次數的變化如圖2所示。
當函數模塊算法程序運行時出現的適應度值滿足要求時，說明此時的ci的最優化完成，可以來確定RBF神經網絡。
把上面經過優化神經網絡來進行瓦斯突出預測，需要預測的樣本數據如下表2所示：
其中運行結果用1表示安全，-1表示突出。
運用MATLAB對樣本數據進行測試，測試代碼如下：
pl=[0.809.011.530.2 ]；
p2=[0.153.51.27.3]：
y1=sim(net，p1) ；
y2=sim(net，p2) ；
最后預測結果是y1=-0.9908，y2=1.005；
可見該系統能夠準確的預測出瓦斯突出。
總結
使用RBF神經網絡來進行瓦斯突出預測比其他方式的預測具有很好的效果，但是由于煤礦的環境比較特殊，瓦斯突出產生的機理比較復雜，并且不同煤礦的影響瓦斯突出的因素也不相同，所以要求神經網絡具有很好的適應性和自學習能力。但是RBF神經網絡的隱單元RBF的中心ci的確定是基于數據空間局部的信息，很難都到全局最優，嚴重影響了RBF神經網絡的適應性和自學習能力。本文利用帶慣性權重的微粒群算法來確定和優化RBF神經網絡，慣性權重w能起到保證全局最優和局部搜索能力的平衡的作用，能夠在保證全局最優的前提下，提高搜索全局最優的速度，提高了預測的準確度。
參考文獻
第9篇：如何學習神經網絡范文
關鍵詞 交直流輸電；阻尼調制；神經網絡
中圖分類號TM7 文獻標識碼A 文章編號 1674-6708（2011）49-0186-02
0 引言
電力系統是一個復雜而龐大的非線性動力學系統，它對運行安全、穩定、經濟性要求極高。由于電力系統的龐大與復雜，參數的不確定，頻繁的噪聲與干擾，網絡結構的不斷調整與變化等種種不確定因素嚴重制約了各種確定型或自適應控制的實際控制性能，使已有的控制器始終未能達到理想的效果。基于神經網絡的控制可以根據在線樣本自動調整自身行為，從原理上來本文利用說應具備在線自我調整和不斷自我完善的能力。
本文利用神經網絡學習電力系統逆動態，設計出一種神經網絡在線自學習直流阻尼控制器，并基于MATLAB仿真軟件對其在交直流混合輸電系統的控制效果進行分析與驗證。
1 神經網絡在線自學習的意義
研究基于神經網絡的交直流系統實時控制的在線自學習，具有以下重要意義：
1）對交直流混合輸電系統而言，模型仿真手段無論如何力求精確，也始終無法和實際系統動態行為完全一致，因而離線訓練設計的神經網絡控制器在線運行中性能總會有偏移。在線自學習使神經網絡控制器可以根據控制目標不斷調整自身控制行為，產生越來越好的控制效果；
2）在線自學習可使神經網絡控制器產生不同于最初訓練的控制性能，從而擺脫對于其它控制原理的依賴，擁有自己獨特的品質；
3）在線自學習使基于神經網絡的直流阻尼控制器擁有自我改進，自我完善的能力，從而真正成為智能控制器。
2在線自學習方案的設計
2.1 獲取在線樣本的新思路
很多研究已經表明，已有的在線自學習方案在如何獲取上已經陷入了困境。因此，文獻[4]提出了一種解決該困境的新思路，設計出一種逆動態神經網絡控制器（），如圖1所示，取（y，u ）構成訓練樣本訓練，可以得到相同的訓練效果
2.2控制方案的實現
本文即采用圖2所示的方案來實現逆系統NNHVDC的設計并探討其在線自學習的實現及學習效果。該方案的輸入中包含了控制目標，這樣控制行為將主要由yd的值決定。文獻[4]已經提出了這種模型中控制的實現與在線自學習樣本的生成方案并給予了一定的理論證明。當yd選取得當時，經過不斷的在訓練，網絡的控制輸出將逐步逼近期望輸出yd。因而其控制最終應該是穩定的。
以往研究表明交直流系統逆動態是存在的，而且可以由BP網絡以要求的精度逼近。具體實現如下：采用6-6-1三層BP網絡作為控制主體，選取NN輸入變量集為：
NN的輸出為t時刻的控制信號。如何確定和是獲取NN輸入的兩個關鍵。
本文選擇直流調制中最常用的以兩側交流系統發電機轉速差為調制信號的作為NN的初始訓練器來訓練神經網絡，控制器參數。應此可得到直流調制控制規律為：
本文所采用的參考模型是由同步發電機轉子運動方程推算而得，描述如下：
式中為采樣/控制周期，單位為秒；為功率變化值，可由功率變送器獲得，D為期望的系統阻尼，由用戶根據控制性能的要求設定，取值越大，表明設計者希望有擾動引起的系統振蕩衰減越快，本文取D=0.5。
具體仿真步驟如下：
1）選取任意一種可接受的控制器作為初始訓練器，對IDNNHVDC進行初步的離散訓練，其目的是不至于一開始就生成電力系統不能接受的控制輸出；
2）將離線訓練后的NNHVDC（計為NNHVDC1）置入交直流系統，記錄其在各種擾動的控制性能；
3）對于選定的擾動，以NNHVDC1的控制響應構成在線訓練樣本集，用以訓練NNHVDC得到NNHVDC2；
4）對NNHVDC2重復[step2]～[step 3]的控制過程的NNHVDC3；5）重復（4）直到NNHVDCi的控制響應令人滿意為止。
3 仿真模型的建立
本文基于軟件Matlab/Simulink/ SimPower Systems工具箱搭建一個交直流并聯輸電系統模型，示意圖如圖3所示。系統包括兩個區域，發電機M1區域由兩條交流輸電線路和一條直流線路向發電機M2區域輸電。發電機M1、M2包含有勵磁控制,機端電壓為13.8kV，通過升壓變壓器變成500kV，向系統供電。區域間的距離為500km，在M2區域包括一個5000mW的負載，由M1和M2供電。另外系統中還包含三相斷路器，可以模擬交流系統故障。
直流系統的額定傳輸容量為1000MW，兩側額定電壓為500kV，濾波電抗器為0.5H，直流線路長為500km。在換流站設置的無功補償和濾波裝置包
括一個500 Mvar的電容器和150 Mvar的11 次濾波器、13次濾波器和高通濾波器。
4仿真結果與分析
根據第3節仿真步驟進行仿真計算，系統模型如圖4所示，選取以下擾動來訓練神經網絡：整流側發電機機端發生2s時三相短路故障，2.3s后故障切除。以上小節介紹的作為初始訓練器，用以上故障時的系統狀態變量根據式（1）構成NN的輸入集，離線訓練后得到IDNNHVDC1，仿真結果表明，按step1到step5的步驟經過僅僅五次自學習之后，所得NNHVDC5的控制性能已經遠遠超過了常規直流調制CHVDC，達到了令人滿意的程度。
選取以下2個擾動來測試所設計的IDNNHVDC的控制性能：
擾動一：t=2s時一交流線路首端發生三相短路，0.1s后保護動作切除該回路，0.2s后重合閘合并恢復到雙回線運行。
擾動二：t=2s時一條交流線路首端三相短路，0.3s后故障排除；t=6s時該回交流線路中端又發生三相短路，0.1s后故障排除。
通過IDNNHVDC和CHVDC作用下發電機功角的變化過程的對比，結果表明，經過五次訓練后IDNNHVDC的控制效果已遠遠優于常規CHVDC控制，從而進一步證實了IDNNHVDC的優越性能，通過以上仿真結果可得出以下幾個結論：
1）隨著訓練次數的增加，該NN控制器控制性能不斷改善，由此表明，該控制器具有很好的在線自學習能力;
2）IDNNHVDC控制器能有效增強直流系統兩側交流系統的阻尼，很好的抑制直流兩側交流系統振蕩。對各種大、小擾動均表現出明顯的抑制作用，具有很強的魯棒性;
3）通過在線訓練后的IDNNHVDC在各擾動下的控制性能表明，圖2所示以逼近受控系統逆動態為目標的神經網絡控制方案在交直流混合輸電系統實時控制中是可行的。
5 結論
本文利用神經網絡學習電力系統逆動態，由參考模型產生期望控制響應，實時采樣值構成在線訓練樣本的在線訓練方案。由于在純交流系統電力系統穩定器的運用中，該方案的的控制效果已經得到很好的驗證，而其在直流阻尼調制的運用與研究中尚屬空白。因此，筆者把該方案運用于交直流系統直流阻尼調制之中，設計出雙CPU神經網絡在線自學習直流阻尼控制器。不僅從理論上分析證明了該方案的有效性，而且仿真結果表明，所設計的IDNNHVDC控制器能有效增強直流系統兩側交流系統的阻尼，很好的抑制直流兩兩側交流系統振蕩。在在線自學習調整過程中，該NN控制器控制性能不斷改善，對各種大、小擾動均表現出明顯的抑制作用
參考文獻
[1]管霖，程時杰，陳德樹.神經網絡電力系統穩定器的設計與實現[J].中國電機工程學報，1996，16(6)：384-387.
