人工神經網絡的缺點精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的人工神經網絡的缺點主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：人工神經網絡的缺點范文

關鍵詞：人工神經網絡 礦山 安全狀態 評判能力

中圖分類號：TD77；TP181 文獻標識碼：A 文章編號：1007-9416（2015）04-0206-01

通過改變神經網絡訓練樣本等方式，對神經網絡不同訓練樣本的反應能力進行對比分析，從而探討人工神經網絡對礦山安全程度評價的適應性。為了有效的提高人工神經網絡對礦山安全程度評價的能力，可以通過改變神經網絡的神經元數目以及初值賦值的方式來測試不同的結構，從而得出不同參數下神經網絡對相同訓練樣本的評價結論，以便提高其評價能力，在礦山安全狀態評判中充分發揮出人工神經網絡的作用。

1 人工神經網絡中的網絡結構設計與原始數據的準備

本文中主要采取如1所示的神經網絡結構，根據測試目的的差異性，其測試過程中神經網絡的部分性能也就不同，但是對整個網絡結構的性能不會改變。

這種神經網絡的主體結構是單輸入、三層式BP的網絡結構，輸出連接、目標連接、輸入權重連接、偏置連接以及層權連接等是其主要的連接方式。各層神經元的分類包括：第一隱含層有8個正切S型神經元，第二隱含層有8個對數S型的神經元，輸入層有4個元素，輸出層有一個線性神經元。其網絡函數主要包括訓練函數、初始化函數、性能函數以及各網絡層的層初始化函數。其訓練函數需要采取TRAINLM回轉方法來運算；初始化函數需要采取逐層初始化的方法運算；性能函數需要采取均方誤差法來計算；各網絡層的層初始化函數需要采取優化規則的方式計算，有的時候還需要采取INITWB的方式進行運算。各個權閾值的初始化需要采用RANDS方法來計算。在人工神經網絡訓練的原始樣本數據以及期望值中，這些數據主要是用來評價地質因素對礦山安全影響程度的原始數據。當訓練完成之后，需要對其各種數據進行仿真測試，以便評斷這種人工神經網絡結構在礦山安全狀態中的應用價值與能力，并對其不足之處以及缺陷問題等進行分析，以便尋找出更加優化的方案，從而提高人工神經網絡在礦山安全狀態中的評判作用與能力。

2 人工神經網絡對礦山安全狀態評判能力的訓練以及仿真測試

對礦山安全評價的方法較多，但是能夠較好的應用于礦山安全評價的方法卻很少，例如事故樹分析法、概率風險評價法以及事件樹分析法等，這些方法均由于基本事件的發生概率的確定方面存在一定的困難，從而導致運用于礦山過程中的安全評價效率不高。另外，在礦山安全狀態評價的過程中，其安全檢查表、專家評價方法等存在一定的缺點與不足，其在評價的過程中，主觀性較強，受到個人意識的影響較大。綜合指標評價法由于其指標間的邏輯關系，指標的權值與指標的量化等問題，從而導致該方法難以在礦山安全狀態中進行準確的評價。只有能夠更好的適應這種復雜的動態系統的安全評價方法，才能夠將其更好的應用在礦山安全狀態評價中[1]。

其中人工神經網絡在處理無法使用簡單規則或公式進行描述的大量的原始數據的問題時，以及在處理規律不清楚的問題時，其具有較大的優勢。也正是由于這種方法能夠對復雜的非線性動力學系統的適應，才能夠使其在礦山安全狀態評價中得到引進與推廣。將人工神經網絡對礦山安全狀態評價能力的訓練進行仿真實驗，在每次實驗檢測之前，都需要對同一神經網絡進行重新初始化，之后需要運用相同的訓練樣本數據對神經網絡進行訓練，以便達到訓練要求后對網絡進行仿真測試，訓練性能函數的誤差需要保持在10以內。其神經網絡的訓練過程是網絡在初始權閾值的基礎上，對其權閾值進行不斷的修改，以便尋找出它們之間的某種聯系，使得輸入的整個訓練樣本集數據經過網絡的運算之后，其輸出與相應的目標數據差別能夠滿足性能函數的要求。因此，在人工網絡對礦山安全狀態進行評判的時候，即使所有數據與性能均符合要求，但是由于在訓練的時候就被賦予了不同的權閾值，訓練之后得到的權閾值的最終組合也會存在較大的差異。通過神經網絡對礦山進行安全評判的目的在于運用神經網絡總結分析數據，對礦井各個致災的貢獻率進行分析，進而對礦山的安裝狀態進行評判。從神經網絡的角度來分析，通過運用網絡的運算功能對訓練樣本的數據進行統計分析，并從中找出滿足目標值以及性能要求的權閾值組合形式，從而通過仿真方式來評價礦山的安全狀態。

3 結語

通過對人工神經網絡在礦山安全狀態的評判能力進行訓練以及仿真測試后，發現人工神經網絡與人類評判方法存在一定的差異性，在今后的發展過程中，還需要對人工神經網絡在礦山安全狀態中的評判能力進行不斷的優化與改進，以便更好的適應礦山安全狀態的評判，在礦山安全狀態的評判中充分發揮出人工神經網絡的作用，從而更好的確保礦山生產與經營的安全性。

第2篇：人工神經網絡的缺點范文

Abstract: The technology of affecting the output accuracy of artificial neural network model has affected widespread ettention,and influence researches of sample quality to neural network output accuracy are very few,and the majority of these researcher about neural network structure. This paper analyses the influence of the sample to the output of artificial neural network,having important significance to improve accuracy of neural network output.

關鍵詞: 人工神經網絡;局部影響;BP神經網絡;算法

Key words: artificial neural networks;local influence;BP neural network;algorithm

中圖分類號:TP393.092 文獻標識碼:A文章編號:1006-4311(2010)07-0144-02

0引言

神經網絡應用到預測有許多問題需要解決, 其中最為突出的問題就是沒有一個確定的最合適的神經網絡結構的標準方法,由于影響神經網絡預測能力的參數很多,本文針對最為常用的BP神經網絡,對影響神經網絡預測精度的樣本質量進行了詳細分析和研究, 并在此基礎上,給出優化樣本后的具體例子。

1樣本質量對網絡的影響

用于神經網絡的樣本分為訓練樣本和測試樣本,訓練樣本的質量在一定程度上決定著預測精度。首先,訓練樣本和待預測樣本的均值存在較大差異, 預測誤差會隨著長時間的訓練而增大。其次,訓練誤差會隨著訓練樣本和待預測樣本均值間差異的增大而增大。再次,訓練誤差會隨著訓練樣本和待預測樣本方差間差異的增大而增大[1]。下面是文獻[1]對樣本質量分析的方法。

文獻[1]的人工神經網絡預測誤差為e=em+et+er,其中,e為預測誤差;em為模型誤差,它由所建回歸模型與實際系統的差異引起的;et為最終的訓練誤差;er為人工神經網絡訓練和預測過程中引入的隨機誤差。et和er的存在是不可避免的,而em為:em=ef+ed,式中ef為實際輸出值與預測輸出值之間的誤差,它反映了樣本質量;為由不正確的嵌入維數引起的誤差, 它可通過選擇合適的輸入神經元數來消除。

為了評價訓練樣本質量,根據ef提出“一致度”的指標。文獻[1]定義了偽距離DCTP-D,但計算偽距離是相當復雜的,難于實現對樣本質量的分析和應用。下面用協方差比統計量分析訓練樣本對預測精度的影響。

設訓練樣本為θ,是神經網絡的輸出,i是從θ中剔除第i個數據點的神經網絡輸出。則剔除第i個數據點的協方差比統計量CR=cv()cv()表明了剔除第個數據點對神經網絡輸出精度的影響,從精度方面刻畫了第i個數據點的重要程度。CRi-1的值越大,對預測精度(神經網絡輸出)的影響越大。在使用PB神經網絡預測時先對訓練樣本進行篩選,剔除對網絡輸出結果影響小的樣本點。

樣本精簡:矩陣初等行變換能保持矩陣列向量之間的線性關系,利用這個結論我們可以用來進行樣本數據的精簡,這樣精簡后的樣本數據能夠保持各屬性字段之間的線性關系。神經網絡的訓練實際上是一個通過給定樣本實時調整網絡連接權重的過程,樣本預處理的結果對于網絡訓練的收斂性起到關鍵的作用。

2實例分析

本文采用麻省理工大學林肯實驗室的測試數據KDDCUP99,它是專門用來進行入侵檢測評估的。我們采用數據集上的一個子集10%作為實驗數據源,它一共包含有494021條網絡連接,其中正常連接97277 條,異常連接396744條。

下面我們針對DOS攻擊類型數據(DOS攻擊類型編碼為“0 0 0 1”)進行分析。

設A為樣本數據矩陣,其中每一行向量表示一條樣本數據,則該行向量含34個數據,假設有a條樣本,則A為a行34列矩陣;由于每條樣本數據輸入網絡后都會有一條對應的輸出,加上本實例為DOS攻擊類型以編碼“0 0 0 1”表示,則期望輸出矩陣B為a行4列矩陣(暫時先不考慮閾值,只考慮權重問題)。本文BP神經網絡的輸入節點數為34個,隱含層節點數為15個,輸出層節點數為4個雖然神經網絡的連接權重可以用一個實數串進行表示,但在進行網絡的訓練時,還需要將實數串分為兩部分,設輸入層到隱含層的連接權重矩陣為W1,則W1為34行15列矩陣;同理,隱含層到輸出層的連接權重矩陣W2為15行4列矩陣。于是我們可以得到公式(1)。

AWW=B(1)

如式(2)所示,A和B是系數矩陣 ,C是增廣矩陣。經過帶約束初等行變換后如式(3)所示。

C=[AB](2)

C=[AB]A′B′C D(3)

式(3)中,C、D為零矩陣,經過處理以后,由原先的A對應輸出B變成了現在的A′對應輸出B′,通過這樣的處理,我們就可以將大樣本變為小樣本,從而使計算更加快速,樣本數據更加精簡。 為了能使樣本應用于本文提出的分類檢測器同步檢測模型,我們將樣本數據先進行歸類合并,分別構造出DOS、PROBE、U2R、R2L四大類攻擊樣本數據集,這樣四個檢測器分別檢測四大類攻擊。為了降低可疑攻擊數,即四大攻擊類型數據集之間的重疊記錄數要少。精度過大會增加計算量,從而會降低學習速度;精度過小,會使記錄重疊數增加,從而造成可疑攻擊數增加,影響訓練結果。

對訓練樣本用上述方法進行優化后,利用矩陣初等行變換能保持矩陣列向量之間的線性關系這個結論,我們可以進一步對樣本數據的精簡,這樣精簡后的樣本數據能夠保持各屬性字段之間的線性關系。神經網絡的訓練實際上是一個通過給定樣本實時調整網絡連接權重的過程,樣本預處理的結果對于網絡訓練的收斂性起到關鍵的作用。

3結論

(1)分析神經網絡進行非線性預測多變量預測的優越性以及神經網絡用于預測的缺點所在。

(2)提出了影響網絡預測能力的五個重要參數:樣本質量、樣本歸一化、輸人層節點數、隱層節點數及網絡訓練允許誤差目標值。

(3)在一定允許訓練誤差的情況下,研究了無個參數對網絡預測精度的影響,發現存在一個最優的樣本、輸入層節點數和隱層節點數,這樣的網絡具有較強的預測能力。

(4)本文用遺傳算法構造了同時優化影響神經網絡預測精度的參數(輸入層節點數、隱層節點數及樣本允許訓練誤差)的算法, 得到了較優的網絡預測模型最后, 用算例驗證了本文分析結果的正確性。

參考文獻:

[1]陳果.神經網絡模型的預測精度影響因素分析[J].北京: 模式識別與人工智能,2005,18(5):528-533.

[2]蔣林,陳濤,屈梁生.訓練樣本質量對人工神經網絡性能的影響[J].北京:中國機械工程,1979,8(2):50-53.

[3]李敏強,徐博藝,寇紀淞.遺傳算法與神經網絡的結合[J].北京:系統工程理論與實踐,1999(2).

[4]吳懷宇,宋玉階.非線性回歸分析中的神經網絡方法[J].武漢:武漢冶金科技大學學報,1998,21(1):90-93.

第3篇：人工神經網絡的缺點范文

關鍵詞 礦井提升機；模糊理論；神經網絡；小波變化；智能診斷

中圖分類號：TD534 文獻標識碼：A 文章編號：1671—7597（2013）051-041-01

礦井提升機是集械、電、液于一體的大型設備。礦井提升機在煤礦生產過程中主要擔負著提升人員、生產設備、煤炭和矸石等任務。礦井提升機一旦發生故障，輕則導致礦山停產停工，嚴重時則有可能造成人員傷亡事件。為了確保礦井提升機能夠安全運行避免礦山事故的發生，國內外相關科技工作者也進行了大量的探討和研究，其中礦井提升機的故障診斷技術是一個重要方面。礦井提升機故障診斷技術的成功應用對煤礦的安全生產起到了積極的作用，為煤礦企業也會產生巨大的經濟效益。

1 礦井提升機故障分類

礦井提升機的故障可分為機械故障與電氣故障兩類。機械故障是指礦井提升機設備上的某些參數超過了正常運行時的額限，是一種提升機設備的外在表現形式，主要解決方法是給提升機設備增加一些保護裝置，防止機械故障發生。電氣故障需要測量和檢測提升機設備上的工況參數和數據信息，并將這些工礦參數和數據信息進行數據處理和綜合分析才能診斷出提升機設備的故障位置、故障問題和原因。由于礦井提升機的電氣故障往往與很多的設備變量和參數有關聯，從而降低了提升機故障診斷的準確率。如果電氣故障不能有效而快速的得到解決，也會導致提升機設備機械故障的發生。

2 礦井提升機故障診斷存在的問題

目前關于提升機故障診斷研究還相對較少，現有的提升機故障診斷系統也存在一些不足和缺陷。比如，當提升機控制系統中的傳感器或執行器發生故障問題， 將會嚴重影響提升機系統的安全可靠運行；對礦井提升機系統中的工礦參數和數據信息處理準確度不高，提升機設備智能化程度相對較低，也是目前礦井提升機故障診斷中存在的問題；對于以開發的礦井提升機智能故障診斷系統還存在自適應能力弱，實時性不強等缺點。

3 礦井提升機智能故障診斷技術及發展趨勢

提高礦井提升機的安全可靠性，通常有2種方法。一種是設計高可靠的礦井提升機制動系統，二是對礦井提升機的制動系統進行故障診斷。目前對于礦井提升機的智能故障診斷的研究成果很多，下面主要介紹幾種常見的智能故障診斷技術以及提升機故障診斷技術未來的發展趨勢。

3.1 基于模糊理論的礦井提升機故障診斷方法

礦井提升機的模糊診斷法是將數學集合論的概念應用到提升機設備的故障診斷中，進行模糊推理，實現礦井提升機的故障診斷，從而解決提升機設備征兆與故障間的不確定關系。該診斷方法模糊推理邏輯嚴謹，但是由于較難確定礦井提升機故障的模糊關系，模糊診斷知識獲取困難等原因，因此礦井提升機的模糊診斷法還缺乏一定的準確性。

3.2 基于神經網絡的礦井提升機故障診斷方法

人工神經網絡具有容錯能力、自學習和自適應能力以及并行處理信息能力強等特點。由于人工神經網絡具有以上特點，目前將人工神經網絡應用到礦井提升機故障診斷的研究也逐漸增多，主要研究有基于BP神經網絡或基于Elman神經網絡的礦井提升機故障診斷方法。該方法的主要思想是將礦井提升機的故障特征向量作為人工神經網絡的輸入，將礦井提升機的故障分類模式向量作為人工神經網絡的輸出。輸入特征信號的提取方法主要有：時域特征法、頻域特征法以及幅值域特征法；時間序列法；小波變換特征提取法等。

3.3 基于小波變換的礦井提升機故障診斷方法

小波變換是時間頻率的局部化分析，它通過平移伸縮運算對信號進行多尺度細化，從而達到在信號低頻處頻率細分，高頻處時間細分，進而可以觀察到信號的任意特性細節。其最顯著的特點是能夠進行信號的多分辨率分析，對于正常信號中夾帶的瞬態反常現象，不僅能檢測出來，還能夠展示該反常信號的成分，因此基于小波變換技術在礦井提升機的故障診斷中得到了廣泛應用。利用小波變換對礦井提升機的動態系統的故障檢測與診斷也具有很好的效果，為礦井提升機的智能故障診斷技術提供了一種強而有力的分析手段。

3.4 基于人工智能的礦井提升機故障診斷方法

基于免疫粒子群算法的礦井提升機故障診斷方法是將人工免疫模型和離散粒子群進化算法相結合的一種礦井提升機故障診斷方法。該方法提高了礦井提升機故障診斷的執行效率，并且能夠適應提升機故障診斷過程中出現的不確定性，還可以實現多種提升機故障診斷。

基于遺傳神經網絡算法的礦井提升機故障診斷方法是將遺傳算法和人工神經網絡相結合的一種新的提升機故障診斷方法。該方法將遺傳算法的全局特性和神經網絡的并行處理信息能力強等優點相接合，能夠有效的克服人工神經網絡收斂速度慢以及容易陷入局部極小等缺點，從而更加準確的建立礦井提升機故障診斷系統，快速地判斷出礦井提升機的故障。

4 結束語

隨著現代科技的發展，越來越多的新型智能診斷理論開始應用于礦井提升機的故障診斷，如小波分析、人工神經網絡、免疫算法以及遺傳算法等。開展對礦井提升機的智能故障診斷的研究，將會極大地提高提升機運行的安全可靠性，避免礦井事故的發生，減少不必要的損失， 為礦井提升機設備的經濟、高效以及安全運行提供強而有力的技術支持。

參考文獻

[1]張平.礦用機電設備常見故障及其解決策略[J].硅谷，2012（6）：88.

[2]羅永仁，晏飛.故障智能診斷技術及其在礦井提升機上的應用研究[J].2006（11）：117-119.

[3]吳艦，吳楠.基于小波分析的煤礦機電設備故障檢測關鍵技術應用研究[J].自動化與儀器儀表，2011（5）：85-86.

[4]汪楚嬌，夏士雄，牛強.免疫粒子群算法及其在礦井提升機故障診斷中的應用[J].電子學報，2010：94-98.

作者簡介

第4篇：人工神經網絡的缺點范文

關鍵詞性能對比感知器BP網絡霍普菲爾德網絡字符識別

1引言

人工神經網絡是在人類對其大腦神經網絡認識理解的基礎上人工構造的能夠實現某種功能的神經網絡。 它是理論化的人腦神經網絡的數學模型，是基于模仿大腦神經網絡結構和功能而建立的一種信息處理系統。因其自組織、自學習能力以及具有信息的分布式存儲和并行處理，信息存儲與處理的合一等特點得到了廣泛的關注，已經發展了上百種人工神經網絡。

一般來說，人工神經網絡從結構上可分為兩種:前向網絡和反饋網絡。典型的前向網絡有單層感知器、BP網絡等，反饋網絡有霍普菲爾德網絡等[1]。

人工神經網絡已經被廣泛應用于模式識別、信號處理、專家系統、優化組合、智能控制等各個方面，其中采用人工神經網絡進行模式識別具有一些傳統技術所沒有的優點:良好的容錯能力[2j、分類能力、并行處理能力和自學習能力，并且其運行速度快，自適應性能好，具有較高的分辨率。單層感知器、BP網絡和霍普菲爾德網絡均可以用于字符識別。

本文通過具體采用感知器網絡、BP網絡和霍普菲爾德反饋網絡對26個英文字母進行識別的應用，通過實驗給出各自的識別出錯率，通過比較，可以看出這3種神經網絡的識別能力以及各自的優缺點。

2 字符識別問題描述與網絡識別前的預處理

字符識別在現代日常生活的應用越來越廣泛，比如車輛牌照自動識別系統[3，4]，手寫識別系統[5]，辦公自動化等等[6]。畢業論文 本文采用單層感知器、BP網絡和霍普菲爾德網絡對26個英文字母進行識別。首先將待識別的26個字母中的每一個字母都通過長和寬分別為7×5的方格進行數字化處理，并用一個向量表示。其相應有數據的位置置為1，其他位置置為O。圖1給出了字母A、B和C的數字化過程，其中最左邊的為字母A的數字化處理結果所得對應的向量為:IetterA~「00100010100101010001111111000110001〕’，由此可得每個字母由35個元素組成一個向量。由26個標準字母組成的輸人向量被定義為一個輸人向量矩陣alphabet，即神經網絡的樣本輸人為一個35×26的矩陣。其中alphabet=[letterA，letterB，lettere，……letterZj。網絡樣本輸出需要一個對26個輸人字母進行區分輸出向量，對于任意一個輸人字母，網絡輸出在字母對應的順序位置上的值為1，其余為O，即網絡輸出矩陣為對角線上為1的26×26的單位陣，定義target=eye(26)。

本文共有兩類這樣的數據作為輸人:一類是理想的標準輸人信號;另一類是在標準輸人信號中加上用MATLAB工具箱里的噪聲信號，即randn函數。

3 識別字符的網絡設計及其實驗分析

3.1單層感知器的設計及其識別效果

選取網絡35個輸人節點和26個輸出節點，設置目標誤差為0.0001，最大訓練次數為40。設計出的網絡使輸出矢量在正確的位置上輸出為1，在其他位置上輸出為O。醫學論文 首先用理想輸人信號訓練網絡，得到無噪聲訓練結果，然后用兩組標準輸入矢量加上兩組帶有隨機噪聲的輸人矢量訓練網絡，這樣可以保證網絡同時具有對理想輸人和噪聲輸人分類的能力。網絡訓練完后，為保證網絡能準確無誤地識別出理想的字符，再用無噪聲的標準輸入訓練網絡，最終得到有能力識別帶有噪聲輸人的網絡。下一步是對所設計的網絡進行性能測試:給網絡輸人任意字母，并在其上加人具有平均值從。~0.2的噪聲，隨機產生100個輸人矢量，分別對上述兩種網絡的字母識別出錯率進行實驗，結果如圖2所示。其中縱坐標所表示的識別出錯率是將實際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對值和的一半再除以26得到的;虛線代表用無噪聲的標準輸人信號訓練出網絡的出錯率，實線代表用有噪聲訓練出網絡的出錯率。從圖中可以看出，無噪聲訓練網絡對字符進行識別時，當字符一出現噪聲時，該網絡識別立刻出現錯誤;當噪聲均值超過0.02時，識別出錯率急劇上升，其最大出錯率達到21.5%。由此可見，無噪聲訓練網絡識別幾乎沒有抗干擾能力。而有噪聲訓練出的網絡具有一定的抗干擾能力，它在均值為。~0.06之間的噪聲環境下，能夠準確無誤地識別;其最大識別出錯率約為6.6%，遠遠小于無噪聲訓練出的網絡。

3.2BP網絡的設計及其識別效果

該網絡設計方法在文獻[lj中有詳細介紹。網絡具有35個輸人節點和26個輸出節點。目標誤差為0.0001，采用輸人在(0，l)范圍內對數S型激活函數兩層109519/109519網絡，隱含層根據經驗選取10個神經元。和單層感知器一樣，分別用理想輸人信號和帶有隨機噪聲的輸人訓練網絡，得到有噪聲訓練網絡和無噪聲訓練網絡。由于噪聲輸人矢量可能會導致網絡的1或o輸出不正確，或出現其他值，所以為了使網絡具有抗干擾能力，在網絡訓練后，再將其輸出經過一層競爭網絡的處理，使網絡的輸出只在本列中的最大值的位t為1，保證在其他位置輸出為O，其中網絡的訓練采用自適應學習速率加附加動量法，在MATLAB工具箱中直接調用traingdx。在與單層感知器相同的測試條件下對網絡進行性能測試，結果如圖3所示。其中虛線代表用無噪聲訓練網絡的出錯率，實線代表用有噪聲訓練網絡的出錯率。從圖中可以看出，在均值為o一0.12之間的噪聲環境下，兩個網絡都能夠準確地進行識別。在0.12~0.15之間的噪聲環境下，由于噪聲幅度相對較小，待識別字符接近于理想字符，故無噪聲訓練網絡的出錯率較有噪聲訓練網絡略低。當所加的噪聲均值超過。.15時，待識別字符在噪聲作用下不再接近于理想字符，無噪聲訓練網絡的出錯率急劇上升，此時有噪聲訓練網絡的性能較優.

轉貼于 3.3離散型，霍普菲爾德網絡的設計及其識別效果

此時網絡輸人節點數目與輸出神經元的數目是相等的，有r=s=35，采用正交化的權值設計方法。在MATLAB工具箱中可直接調用函數newh叩.m。要注意的是，由于調用函數newhoP.m，需要將輸人信號中所有的。英語論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設計離散型霍普菲爾德網絡進行字符識別，只需要讓網絡記憶所要求的穩定平衡點，即待識別的26個英文字母。故只需要用理想輸人信號來訓練網絡。對于訓練后的網絡，我們進行性能測試。給網絡輸入任意字母，并在其上加人具有平均值從。~0.5的噪聲，隨機產生100個輸人矢量，觀察字母識別出錯率，結果如圖4所示。從圖中可以看出，在均值為0~0.33之間的噪聲環境下，網絡能夠準確地進行識別。在0.33~0.4之間的噪聲環境下，識別出錯率不到1%，在0.4以上的噪聲環境下，網絡識別出錯率急劇上升，最高達到大約10%。可以看出，該網絡穩定點的吸引域大約在0.3~。.4之間。當噪聲均值在吸引域內時，網絡進行字符識別時幾乎不出錯，而當噪聲均值超過吸引域時，網絡出錯率急劇上升。

4結論

本文設計了3種人工神經網絡對26個英文字母進行了識別。可以看出，這3種人工神經網絡均能有效地進行字符識別，并且識別速度快，自適應性能好，分辨率較高。由圖2和圖3可以看出，單層感知器的有噪聲訓練網絡在均值為O~0.06之間的噪聲環境下可以準確無誤的識別，而有噪聲訓練的BP網絡可以在o~0.12之間的噪聲環境下準確無誤的識別，故BP絡網絡容錯性比單層感知器的容錯性好;此外，噪聲達到0.2時，單層感知器的有噪聲訓練網絡的識別出錯率為6.6%，而有噪聲訓練的BP網絡的識別出錯率為2.1%，故BP網絡比單層感知器識別能力強。另外，由圖2、圖3和圖4可以看出，這3種網絡中霍普菲爾德網絡識別率最高，它在噪聲為0.33以前幾乎不會出錯，BP網絡次之，感知器最差。

通過設計、應用與性能對比，我們可得單層感知器網絡結構和算法都很簡單，訓練時間短，但識別出錯率較高，容錯性也較差。BP網絡結構和算法比單層感知器結構稍復雜，但其識別率和容錯性都較好。霍普菲爾德網絡具有設計簡單且容錯性最好的雙重優點。因此，我們應根據網絡的特點以及實際要求來選擇人工神經網絡對字符進行識別。 參考文獻

[1]叢爽.面向MATLAB工具箱的神經網絡理論與應用「M.合肥:中國科學技術大學出版社，2003.

[2]武強，童學鋒，季雋.基于人工神經網絡的數字字符識別[J].計算機工程，2003，29(14):112一113.

[3]廖翔云，許錦標，龔仕偉.車牌識別技術研究[J].徽機發展，2003，13:30一35.

[4]李中凱，王效岳，魏修亭.BP網絡在汽車牌照字符識別中的應用[J].東理工大學學報，2004，18(4):69一72.

第5篇：人工神經網絡的缺點范文

關鍵詞：電力系統超短期負荷預測人工神經網絡外推法

中圖分類號：F407文獻標識碼： A

1 負荷預測概述[1]

負荷的大小與特性對于電力系統設計和運行都是極為重要的因素。對負荷的變化與特性有一個事先的估計是電力系統運行、控制和規劃不可缺少的一部分。

指導調度員控制聯絡線交換功率在規定范圍，一般需5～15min 的負荷數據。預防性控制和緊急狀態處理需要10min至1h的預測值[2] 。這也是本文的主要研究方向。

2 電力系統負荷預測方法簡介

長期以來，國內外學者對負荷預測的理論和方法做了大量的研究，提出了各種各樣的預測方法，這些方法大致可分為兩大類:一類是以時間序列法為代表的傳統方法，另一類是以人工神經網絡為代表的新型人工智能方法。傳統方法中主要有時間序列法、多元線性回歸法及傅立葉展開法等。人工智能方法中主要有專家系統法、模糊邏輯法、人工神經網絡法及小波分析法等。由于電力負荷的變化有其不確定性，如氣候變化、意外事故的發生等對電力負荷造成隨機干擾，因此，每種方法均有一定的適應場合，并需要不斷的完善。

2.1 回歸分析法

回歸分析法又稱統計分析法,回歸模型有一元線性回歸、多元線性回歸、非線性回歸等回歸預測模型；其中，線性回歸用于中期負荷預測。優點是：預測精度較高，適用于在中、短期預測使用。缺點是：1.規劃水平年的工農業總產值很難詳細統計；2.用回歸分析法只能測算出綜合用電負荷的發展水平，無法測算出各供電區的負荷發展水平，也就無法進行具體的電網建設規劃。

2.2 彈性系數法

彈性系數是電量平均增長率與國內生產總值之間的比值，根據國內生產總值的增長速度結合彈性系數得到規劃期末的總用電量。彈性系數法是從宏觀上確定電力發展同國民經濟發展的相對速度，它是衡量國民經濟發展和用電需求的重要參數。電力彈性系數可以用下面的公式來表示：

(2-1-1)

式中：為電力彈性系數；為為電力消費年平均增長率；為國民經濟年平均增長率

在市場經濟條件下，電力彈性系數已經變得捉摸不定，并且隨著科學技術的迅猛發展，節電技術和電力需求側管理，電力與經濟的關系急劇變化，電力需求與經濟發展的變化步伐嚴重失調，使得彈性系數難以捉摸，使用彈性系數法預測電力需求難以得到滿意的效果。2.3 時間序列法

時間序列法是短期負荷預測的經典方法，是根據負荷的歷史資料，設法建立一個數學模型，用這個數學模型一方面來描述電力負荷這個隨機變量變化過程的統計規律，另一方面在該數學模型的基礎上再確立負荷預測的數學表達式，對未來的負荷進行預報。就一般地時間序列預測方法而言，人們總是先去識別與實際預測目標序列相符合的一個隨機模型，并估計出隨機模型中的未知參數，再對隨機模型進行考核，當確認該隨機模型具有適用價值后，再在此基礎上建立預測表達式進行預報。它利用了電力負荷變動的慣性特征和時間上的延續性，通過對歷史數據時間序列的分析處理，確定其基本特征和變化規律，預測未來負荷。

2.4 負荷求導法

每天的負荷大小（高低）有差別，但其負荷的變化率是有一定的規律。只要找出一個適當函數來擬合每天的負荷曲線，對這個函數進行一次求導，即可得出一天的負荷變化率。雖然每天的負荷大小變化難以準確預測，但對負荷曲線求導后，得出的負荷變化率有一定的穩定性。因此，利用負荷的變化率來進行超短期負荷預測將會使精確度提高。負荷求導法預測的公式是：

(2-1-2)

式中對第i+1點的負荷預測值；

第i點的實際負荷值；

第i點的預測負荷變化率值。

2.5 專家系統法

專家系統預測法是對數據庫里存放的過去幾年甚至幾十年的，每小時的負荷和天氣數據進行分析，從而匯集有經驗的負荷預測人員的知識，提取有關規則，按照一定的規則進行負荷預測。實踐證明，精確的負荷預測不僅需要高新技術的支撐，同時也需要融合人類自身的經驗和智慧。因此，就會需要專家系統這樣的技術。專家系統法，是對人類的不可量化的經驗進行轉化的一種較好的方法。但專家系統分析本身就是一個耗時的過程，并且某些復雜的因素（如天氣因素），即使知道其對負荷的影響，但要準確定量地確定他們對負荷地區的影響也是很難的。專家系統預測法適用于中、長期負荷預測。此法的優點是：1.能匯集多個專家的知識和經驗，最大限度地利用專家的能力；2.占有的資料、信息多，考慮的因素也比較全面，有利于得出較為正確的結論。

2.6 外推法

根據負荷的變化趨勢對未來負荷情況作出預測。電力負荷雖然具有隨機性和不確定性，但在一定條件下，仍存在著明顯的變化趨勢，例如農業用電，在氣候條件變化較小的冬季，日用電量相對穩定，表現為較平穩的變化趨勢。

外推法有線性趨勢預測法、對數趨勢預測法、二次曲線趨勢預測法、指數曲線趨勢預測法。趨勢外推法的優點是：只需要歷史數據、所需的數據量較少。缺點是：如果負荷出現變動，會引起較大的誤差。

2.7 人工神經網絡法

人工神經網絡理論最早出現于20世紀40年代，經過幾十年的發展，已廣泛的用于電力系統短期負荷預測。在現有的各種神經網絡的計算方法中，由Ponelhert和Mcclelland提出的BP算法是應用得最多的一種。BP算法的模型為前向多層網絡，由輸入層、隱含層、輸出層組成，每層都包含若干節點，同一層的節點間沒有相互的連接，而僅僅在前后不同層之間有節點的連接。BP算法的學習過程由正向傳播和反向傳播組成，正向傳播過程的輸入樣本從輸入層經隱含層處理后傳向輸出層，每一層神經元的狀態只影響下一層神經元的狀態。如果在輸出層得不到期望值，則轉入反向傳播，將誤差信號沿原連接通路返回，通過修正各神經元的權系數，使誤差信號減小，達到給定的精度，從而完成了其學習過程。這樣，當在網絡的輸入端加入一新的信號時，就能從其輸出端得到相應的結果。

3 預測算例

通過前述對各種預測方法的分析，采用神經網絡法和外推法對山東某地區一個變電站的2005年8月8日負荷進行預測。在實際應用中，預測最小間隔為5min，預測長度為1h。目前15min預測間隔為最常用。負荷采樣間隔為5分鐘，一天24個小時為288個數據，預測為提前15分鐘的預測，預測結果如下：

圖1 基于BP神經網絡的負荷預測曲線

預測的平均相對誤差為2.3089%，本文在建立超短期負荷模型時，未考慮天氣變化和突發事件對負荷的影響，這在一定程度上影響了預測的精度。當天氣變化顯著或者有突發事件時，這個預測模型的精度會變差。但總的來說，所得預測結果比較令人滿意。

圖2 外推法負荷預測曲線

預測的平均相對誤差為2.3059%，與神經網絡法預測結果相差不大。

4 結論

本文對各種負荷預測方法進行了分析，并且在短期及超短期負荷預測方面，針對于兩種目前比較常用的負荷預測方法――人工神經網絡法和負荷外推法進行了重點的仿真研究。得出：在超短期負荷預測方面兩種方法得出結果相差并不是很大。負荷外推法方法簡單，要求的歷史數據較少，運算速度較快，可滿足系統在線分析的實時要求，比較適合在工程中應用。人工神經網絡法算法比較復雜，而且存在訓練時間較長、收斂性等問題。但是在短期負荷預測方面(例如提前24小時的預測)神經網絡法存在著比負荷外推法明顯的優勢。因此，在工程應用等方面線性外推法還是具有較強的實用性。

參考文獻

[1]劉晨暉.電力系統負荷預報理論與方法[M].中國:哈爾濱工業大學出版社，1987年 .20-60.

[2]張峰 吳勁暉 張怡 胡若云.基于負荷趨勢的新型超短期負荷預測法[J]. 電網技術,2005,vol.28 No.19

[3]吳熳紅 楊繼旺.幾種電力負荷預測方法及其比較[J].廣東電力,2001,vol.17 No.1

[4]陳霞 安伯義 陳廣林.電力負荷預測理論與方法[J].農村電氣化,2004.7

[5]吳勁暉 王冬明 黃良寶 孫維真.一種超短期負荷預測的新方法-負荷求導法[J]. 浙江電力,2000,6

[6]張國忠 熊偉 向求新 黃曉明 劉亞. 應用人工神經網絡預測電力負荷[J].電力自動化設備,2002,22

[7]S.H.Ling Frank H.F.Leung H.K.Lam Peter K.S.Tam Short-Term Electric Load Forecasting Based on a Neural Fuzzy Networks[A]. IEEE Transactions on Industrial electronics vol.50 no.6

[8]閆承山 劉永奇.人工神經網絡在華北電網負荷預測中的應用[J].電網技術,1998,22

[9] 馬文曉 白曉民 沐連順.基于人工神經網絡和模糊推理的短期負荷預測方法[J].電網技術,2003,27

[10]D.C.Park M.A.El-Sharkawi R.J.Marks II L.E.Atlas and M.J.Damborg. Electric Load Forecasting Using An Artificial Neural Network [A].IEEE Transcaction on Power Systems vol.6 no.2 May 1991

[11]Lee K.Y.，Cha Y.T. Park J.H.，Short-term load forecasting using an artificial neutral network[J]. Power Systems, IEEE Transactions on , Volume: 7 , Issue: 1 , Feb. 1992

[12]姜勇.電力系統短期負荷預測的模糊神經網絡方法[J]. 繼電,2002，30(7)

[13]Shan Shao, Yaming Sun, Short-term load forecasting using fuzzy neural network. Advances in Power System Control, Operation and Management, 1997. Fourth International Conference on (Conf. Publ. No. 450) Vol. 1 Nov 1997

[14]楊洪明 白培林.基于遺傳算法的人工神經網絡負荷預報模型[J].湖南電力，2000 20

作者簡介

陳曉東 男 碩士 工程師電力系統穩定 山東電機工程學會

第6篇：人工神經網絡的缺點范文

關鍵詞：食品安全與衛生管理 研究性學習 創新性實驗 人工神經網絡

在大學生研究性和創新性科研項目中，要改變由指導老師一步一步發指令由學生被動完成任務，還是科研小組同學主動學習、主動定方案（方向）、定任務后，再由指導老師和全組同學商討，小組同學分別完成相應工作任務，再學習，再研討，再實驗…，直到項目完成。這是研究性和創新性項目培養和提高同學自主管理能力和科技創新能力非常關鍵的環節。在這個環節上，老師不再是“司令員”，而是科研小組中的普通一員。下面以“水培蝦、南美白對蝦、斑節對蝦氨基酸紫外可見光譜人工神經網絡定量測定及營養學分析”大學生科技創新項目為例，說明一些具體作法。

1.組織小組同學展開調研， 明確科研與生產實際相結合， 培養社會調查能力

“水培蝦、南美白對蝦、斑節對蝦氨基酸紫外可見光譜人工神經網絡定量測定及營養學分析”項目小組成員來自學校中三個專業不同年級的同學，自愿組合而成。首先在老師的主持下由小組同學選出2名學習好、責任心強、實踐操作能力強的同學組成項目小組管理核心。然后小組負責同學則將同學分成二個調查組，分別到海產品養殖場和海產品銷售市場展開調研。二個小組調查完畢，通過匯總與討論，大家明確了目前舟山人工養殖蝦體主要有三大代表品種：水培蝦、斑節對蝦和南美白對蝦。這三種蝦適應范圍廣，產量高，是目前我國東海養殖的主要特色品種。其營養豐富，口感鮮美，市場需求量大，經濟價值較高，具有良好的市場前景。因此，必須依靠通過對這三種蝦的優良品種的選育、飼料配料的組合和篩選及其營養價值的分析等工作進一步提高其質和量。而這些工作的開展必須進行氨基酸的測定。可見，蝦體肌肉中氨基酸含量的測定具有十分重要的意義。于是同學們經充分討論后認為：開展“蝦體氨基酸檢測”的創新性實驗，不但具有重要的實際意義，而且可行性強。不但可加深同學們的專業基礎知識，還可拓展同學們知識視野，培養科技創新能力。

2.組織同學學習相關背景知識， 提高自主學習能力， 加深對基礎課程知識的理解

項目小組管理核心下一步則是組織科研小組成員復習《生物化學》、《營養學》、《食品分析與檢驗》等基礎及專業課程，首先是進一步加深同學對蝦體中氨基酸的認識。氨基酸是人體必不可少的營養成分之一，而有些氨基酸是不能在人體內自行合成必需要從食物中獲取，如異亮氨酸、亮氨酸、甲硫氨酸（蛋氨酸）、賴氨酸、蘇氨酸、苯丙氨酸和纈氨酸，它們稱為必需氨基酸[1]。因此蝦體中氨基酸的檢測分析主要就是針對這些必需氨基酸。必需氨基酸的含量高，蝦的營養價值就大，商業價值就高。而養殖對蝦蝦體中氨基酸含量的傳統檢測方法存在費用高、樣品用量大、檢測方法費時繁瑣等問題，不適于養殖生產控制特別是蝦體氨基酸含量的快速分析。結合《現代儀器分析》課程中的知識，同學們提出用最簡單的紫外-可見光譜法結合人工神經網絡用于三種對蝦主要氨基酸（必需氨基酸和鮮味氨基酸）的不經分離定量測定。光譜數據在BP人工神經網絡實現對蝦肌肉中氨基酸定量分析的基礎上[2], 進一步試驗采用較新的具有較強自適應能力和較好預測效果的極限學習機（Extreme Learning Machine,ELM）神經網絡模型完成定量分析和預測，嘗試為對蝦蝦肉中氨基酸多組分分析提供一種不需貴重儀器的簡易新方法。

3.組織同學自主檢索查閱文獻，學習人工神經網絡方法，拓展知識視野

方向任務明確以后，項目小組管理核心則組織小組同學自主檢索相關文獻，自主學習相關知識，開拓知識視野，重點組織小組同學學習人工神經網絡方法。經過項目小組全體成員的多次學習與探討，大家都清楚的知道了人工神經網絡現在已經是解決化學問題的一種重要的化學計量學方法。是模擬人腦神經元的工作原理來建立模型進行分類與預測的一種化學計量學手段[3]。目前，人工湖神經網絡應用于氨基酸混合液測定中主要是誤差反向傳播 ( Back propagation,BP)人工神通網絡（BP是由輸入層, 輸出層以及若干隱含層節點間互連而成的一種多層網絡）。但它存在一些無法克服的缺點，如：訓練速度慢；訓練過程可能不穩定；容易陷入局部極小點，無法達到全局最小；而且可見-紫外光譜所含的波長數據點多，具有多重共線性，會造成建模時間長等問題。經過小組學習探討和老師的指導，大家提出針對海產品對蝦氨基酸溶液光譜測定中波長數據點多的問題，我們可以試用極限學習機完成對蝦體肉中必需（主要）氨基酸含量測定并與BP神經網絡等方法進行分析對比。進一步的學習與探討，小組同學明確了極限學習機（Extreme Learning Machine,ELM）神經網絡是南洋理工大學G. B. Huang 等人在2006年提出的一種人工神經網絡模型訓練新算法,與傳統的誤差反向傳播 ( Back propagation,BP)人工神通網絡方法相比，極限學習機有泛化性能好、訓練學習速度快等優點[4]。

4.組織同學主動聯系藥品試劑市場， 鍛煉社會人際交往能力

在購買所實驗所需的試劑與材料方面，項目小組管理核心同學認識到，本項目所需主要儀器為紫外可見分光光度計和氨基酸分析儀，但實驗試劑則不同于以往的實驗課，老師配好實驗用試劑后供同學直接使用。現在是需要通過小組同學自己去市場聯系，同學自己購買，買來后還需同學自己配制，因此這是一個培養同學社會人際交往能力的好機會。項目小組管理核心則首先組織同學上網查找相關試劑的供應商的信息，然后讓同學比較這幾家商家的報價及其產品的可靠性，從中挑選出合乎條件的2-3家商家，最后由項目小組管理核心負責聯系著2-3家商家，并與小組成員討論比較后進行購買。

5.組織與分配小組同學各自完成相應的具體實驗項目，培養實驗實際操作能力

在儀器使用等方面老師則重點指導這幾個同學，即他（她）們同時也就成為這個項目小組的“指導老師”。如由他（她）們負責實驗試劑的配制或指導同學配制，負責指導同學進行儀器操作，負責分配或指導同學完成相應的具體實驗項目，輔助或指導實驗小組同學完成實驗設備的具體配置等等。如以下取同齡期、同體長、同體重的南美白對蝦、竹節蝦（日本對蝦）和水培蝦稱重，勻漿機勻漿10min，真空干燥箱在50℃下真空干燥，制成粉。分別稱取水培蝦粉、南美白對蝦粉，竹節蝦粉加鹽酸水解24h這些實驗過程，均在項目小組管理核心同學的安排下有條不紊地完成。

在指導老師的輔導下，項目小組管理核心組織小組同學分別取三種蝦的水解液稀釋成9個濃度，用L-8800型氨基酸分析儀分別測定三種蝦體9個濃度水解液的氨基酸含量。用紫外-可見分光光度計分別對三種蝦體9個濃度的水解液進行光譜掃描[5]，獲取一系列光譜數據。再取未知氨基酸濃度的三種蝦體3個不同濃度的水解液同樣進行光譜掃描獲取光譜數據。然后用已知氨基酸濃度的光譜數據訓練神經網絡并對未知濃度蝦水解液進行氨基酸含量預測。結果見圖1和圖2。通過對測定結果的分析進一步加深了小組同學對《現代儀器分析》課程中光譜掃描和吸收光譜曲線概念和幾種人工神經網絡模型的理解和認識。

6.老師和小組同學一起學習討論人工神經網絡方法，分析測定結果，培養科學分析能力

在對測定結果的分析中，項目小組全體同學分成3個學習小組，每個小組對照參考資料，根據所得測定數據結果與數據可視化圖形（如圖1、圖2等），先進行分析討論，有了初步的認識后，指導老師和全體小組成員在一起再進行充分的分析與探討。最后大家得出結論：紫外-可見光譜數據結合三種人工神經網絡（①誤差反向傳輸神經網絡，BP。②徑向基函數神經網絡，RBF。③極限學習機神經網絡，EML）對氨基酸溶液中氨基酸濃度的測定，徑向基函數神經網絡（RBF）的預測結果比誤差反向傳輸神經網絡（BP）好，但極限學習機神經網絡（EML）的預測效果要好于誤差反向傳輸神經網絡（BP）和徑向基函數神經網絡（RBF）。同時大家進一步認識到，氨基酸溶液（如蝦肉水解液）中氨基酸的定量分析, 一般都是用比較昂貴的分析儀器如高效液相色譜儀等儀器來完成，而且操作復雜、費時、費勁。所以，如果是使用普通的紫外-可見光譜儀結合計算機數值方法來完成蝦肉中的氨基酸測定，所用儀器簡單普遍，且分析樣品不經分離。推廣開去，不但可用于對蝦肌肉中氨基酸含量測定及品質評判，也可用于其他水產品和肉類食品中氨基酸含量的分析，即在食品質量分析方面有一定的意義[6]。

7.結論

從以上討論分析可見，紫外-可見光譜結合人工神經網絡方法測定氨基酸溶液中氨基酸濃度具有一定的科學研究價值和經濟價值。

再說在本次研究性和創新性實驗中，指導老師的指導工作著力于以下幾個方面，首先是：輔導學生建一個工作能力較強的項目小組管理核心。有了這個項目小組管理核心，所以以下工作都是在項目小組管理核心的配合下順利完成的。第一，指導學生完成實驗相關背景知識和基礎課程學習；第二，引導學生思考如何查閱檢索所須文獻，提高學生獲取有效信息的能力。第三，引導學生獨立購買所需實驗試劑，提高學生社會交往能力。第四，指導學生自行完成實驗試劑的配制，培養同學的動手操作能力。第五，參與小組討論學習，幫助學生提高分析問題和解決問題的能力。

通過此次研究性學習，本科學生作為科研創新實驗的主體，不僅加深了對基礎課程知識的理解，還拓展了知識面（如人工神經網絡、化學計量學等方面的知識）。不但提高了儀器操作方面的實際操作使用能力，還提高了計算機技術方面的能力（如人工神經網絡建模、數值計算等等），從而激發了同學們的創新性思維和創新意識，全面提升了科技創新能力。

參考文獻：

[1]高國全主編，生物化學[M]，北京，人民衛生出版社，2008年4月第2版：116-117

[2]鐘雷鳴，江王棟，石樂明等，六種氨基酸混合物溶液的紫外光譜的人工神經元網絡定量分析研究[J]，生物物理學報，1992，8（4）：706-710

[3]許祿主編，化學計量學[M]，北京，科學出版社，2004年2月第1版：88-120

[4]Guang-Bin Huang,，Hongming Zhou，Xiaojian Ding，et al，Extreme Learning Machine for Regression and Multiclass Classification，IEEE Transactions on Systems, Man,and Cybernetics-Part B：Cybernetics，2012，42（2）：513-529

[5]李大東著，檢驗醫學計算機數值方法[M]，杭州，浙江大學出版社，2011年4月：43-46

第7篇：人工神經網絡的缺點范文

關鍵詞： FPGA； BP神經網絡； 線性擬合； 非線性擬合； 自適應訓練

中圖分類號： TN702.2?34； TP183 文獻標識碼： A 文章編號： 1004?373X（2016）15?0115?04

Abstract： Using software for neural network has the disadvantages of low parallelism and slow speed， the hardware design resource utilization of the traditional neural network is high， and the network training is uncontrollable. To solve these problems， a new FPGA?based design method of back propagation （BP） neural network is proposed. The method can realize the Sigmoid excitation function through piecewise linear fitting and nonlinear fitting based on symmetry， and uses the finite state machine （FSM） to accomplish the training times adaption based on error. The Verilog HDL language is used to design the 1?3?1 BP neural network to approximate the function [y=cosx.] The resource occupancy of the network is 2 756 LEs， the training times are 1 583， the average relative error of the network test sample is 0.6%， and the maximum clock frequency is 82.3 MHz. The verification results show that the neural network designed with the method has the advantages of less resource occupancy， high accuracy and fast running speed， and can control the network training automatically.

Keywords： FPGA； BP neural network； linear fitting； nonlinear fitting； adaptive training

0 引 言

人工神經網絡（ANNs）[1]通常都是采用基于軟件的方法實現。但作為一個并行計算系統，軟件實現的方法存在速度慢的缺點，而硬件方式具有高并行性的特點，適合于人工神經網絡。FPGA作為一種通用的硬件設計平臺，其內部分布式的資源與神經網絡的結構非常契合，是一個實現神經網絡硬件化設計的良好選擇。

資源占用是FPGA設計的一個重要考量因素，而網絡訓練是神經網絡功能實現的基礎。已有的神經網絡硬件設計工作在這兩方面還存在巨大的空間。例如，薛維琴等利用FPGA實現了BP神經網絡[2]，該網絡經過訓練能夠描述非線性函數，但沒有提出BP神經網絡的激勵函數和訓練控制模塊的具體硬件實現方法。李利歌等提出了直接利用查找表實現神經網絡激勵函數的方法[3]，但是查找表存在占用資源大，運行速度慢的缺點。張海燕等采用基于查找表的STAM算法實現神經網絡激勵函數[4]，且文中也沒有提到訓練控制模塊。Javier Valls等提出利用CORDIC算法實現神經網絡的激勵函數[5]，資源利用率低，但是存在精度不足的問題。劉培龍利用分段擬合實現激勵函數[6]，但是激勵函數資源占用較多。

基于這一現狀，本文通過對Sigmoid函數基于對稱性分段擬合以及基于誤差的訓練自適應技術，提出了一種新的神經網絡FPGA設計方法。該方法設計的神經網絡資源占用少，網絡訓練自適應，同時還具有精度高，運行速度快的優點。

1 BP神經網絡的FPGA設計

根據BP神經網絡的結構，本文將網絡劃分為神經元模塊、激勵函數模塊、誤差計算模塊，權值更新模塊、權值存儲模塊以及自適應網絡訓練模塊。圖1給出了不同功能模塊之間的連接和訓練過程。其中，權值存儲模塊和輸入神經元將輸入層的權值以及訓練的樣本輸入到隱含層神經元進行乘累加運算，其結果輸入到激勵函數模塊得到激勵函數輸出，該輸出和隱含層的權值作為輸出層神經元的輸入得到本次訓練結果。該結果再經過誤差計算模塊計算誤差值和權值改變量。權值改變量在權值更新模塊中得到新權值存入到權值存儲模塊。誤差值輸入到自適應網絡訓練模塊判斷網絡訓練是否達到最優。網絡訓練達到最優前，該過程循環，當網絡訓練達到最優，自適應訓練模塊控制網絡停止訓練。

系統中神經元模塊、誤差計算模塊、權值更新模塊按照BP網絡算法規則可調用加、乘、乘累加等功能模塊，權值存儲模塊可調用RAM模塊。激勵函數模塊和自適應訓練模塊關乎系統資源占用及訓練過程的實現，是本文BP神經網絡FPGA設計的重點。

1.1 激勵函數模塊設計

激勵函數模塊是影響整個神經網絡資源利用的主要因素之一，在保證誤差足夠小的前提下，激勵函數模塊資源占用越小越好。

式中含有指數運算，較難在FPGA 中直接實現。利用Sigmoid函數具有對稱性以及較好的線性區域和非線性區域分界的特點，本文提出一種資源占用小、精度高的基于對稱性分段擬合的激勵函數硬件實現的方法。

考慮到Sigmoid函數的對稱性，只需完成[x>0]的區域硬件實現，根據對稱性即可求出[x0]區域，根據Sigmoid函數線性區域和非線性區域分界良好的特點，分別采用線性擬合和非線性擬合的方法分段逼近。具體而言，如圖2所示，將整個激勵函數模塊分為預處理模塊、函數逼近模塊以及最終輸出模塊三個子模塊。

1.1.1 預處理模塊

激勵函數的輸入[x]為16位定點數，最高位為符號位，中間五位為整數部分，后十位為小數部分。當[x]輸入到激勵函數模塊時，首先進行預處理。截取二進制輸入[x]的最高位判斷[x>0]或者[x0]時，[x=x，]將[x]輸入到后續處理模塊，若判斷出[x

1.1.2 函數逼近模塊

基于對輸入[x]的預處理，此子模塊只需要對[x>0]的情況做線性擬合和非線性擬合。分段逼近函數如表1所示。

1.1.3 最終輸出模塊

最終輸出模塊由預處理模塊輸出的控制信號控制。若[x>0，]則控制信號控制最終輸出模塊直接輸出函數逼近模塊中[x]對應的輸出[fx；]若[x

1.1.4 激勵函數模塊分析

按照上述設計方法完成激勵函數模塊的設計后，對激勵函數模塊進行功能仿真和誤差分析。從-8～8以0.001為間隔生成測試數據輸入到激勵函數模塊，得到的ModelSim仿真結果如圖3所示，其各區間絕對誤差如表2所示。從中可以看出，各區間的誤差值均很小且誤差分布較為平均，體現出良好的逼近效果。

1.2 自適應訓練模塊設計

網絡訓練是神經網絡功能實現的基礎。神經網絡隨著訓練的進行，權值逐漸改變，誤差逐漸減小，但如果網絡訓練不能適時結束，造成過度訓練，則網絡性能會變差。然而對網絡訓練的控制在硬件上并不易設計，故很多工作未討論這一點或簡單的以固定周期來完成訓練。本文提出了一種基于可容忍誤差值的自適應網絡訓練硬件設計方法，可有效的自動控制神經網絡訓練過程。

分析神經網絡的訓練過程，每一次輸入樣本值都會在本次訓練完成時得到一個誤差值，當誤差在可以容忍的范圍內可以認為網絡已經訓練完成。認為在給定的可容忍誤差值的情況下，如果連續兩次整個樣本集輸入得到的誤差絕對值都要比給定的可容忍誤差值要小，則該神經網絡訓練已經達到最優。根據這個思想，提出利用有限狀態機實現自適應網絡訓練。

如圖4所示，有限狀態機的狀態數是樣本集中樣本數的兩倍，狀態機初始為零狀態。當某一次訓練得到的誤差絕對值小于可容忍誤差值時，狀態機進入第一個狀態。若緊鄰的下一次訓練得到的誤差絕對值也小于可容忍誤差值，狀態機進入下一個狀態，否則狀態機狀態回到第0個狀態。當狀態機跳轉到最后一個狀態時，網絡訓練完成，此時輸出控制信號控制權值存儲模塊停止權值更新，提示信號提示訓練完成。該模塊的分析需要結合網絡中的其他模塊，故測試結果在下一節中給出。

2 驗證和分析

2.1 驗證平臺

根據上述方法，設計了一個1?3?1三層BP神經網絡驗證其性能。驗證平臺為Altera公司的EP2C70F896C6。

以[y=cosx]函數為學習對象，從[0～2π]之間以[0.062 5π]為間隔選取33個樣本組成樣本集，隨機選取其中25個作為訓練樣本，剩下8個作為測試樣本。神經網絡的初始權值和閾值的選取具有一定的隨機性，根據網絡需要逼近的函數數值大小，輸入層到隱含層的初始權值矩陣[W1=[2.5，0.5，-0.3]，]隱含層到輸出層的初始權值矩陣[W2=[0.35，0.4，0.3]，]隱含層閾值選為[0.2，0.3，0.4]，輸出層閾值選為[0.3]。隱含層的學習率設為0.4，輸出層的學習率設為0.3，容忍誤差設為0.01。

2.2 結果分析

ModelSim仿真得到的結果如圖5所示，從圖5中可以看出該BP神經網絡的訓練是自適應的。當網絡訓練到最優時，產生一個控制信號和一個提示信號以及網絡訓練的次數，此時權值存儲器的值不再變化，訓練完成。

25個訓練樣本集訓練的平均誤差為0.003，分析8個測試樣本集的誤差，如表3所示。從表3中可以看出，其誤差與訓練數據的誤差大體相當且均很小。計算測試樣本的平均相對誤差為0.6%，小于1%，說明該方法實現的基于FPGA的BP神經網絡精度較高。

將該網絡下載至Altera公司EP2C70F896C6的FPGA中，其最高時鐘頻率為82.3 MHz，可見該方法具有運行速度快的優點。將該神經網絡資源占用情況與已有相關工作的資源占用情況作對比，如表4所示。雖然其中各設計的規模和平臺有所差異（如1 Slice≈4 LEs），但仍可估算出即便添加了自適應訓練模塊，本設計對資源的占用依然較低。

從表5中可以看到，當學習對象不同時，網絡訓練的次數也不同，實現了訓練過程的自適應。由此亦可推至，若采用傳統的預設固定次數的方式完成訓練，則對于不同學習對象難免會造成訓練不充分或過度訓練的情況，從而影響網絡的性能。因此，該表也進一步證明了該設計自適應訓練的優越性。

3 結 論

本文以典型的BP神經網絡為例，提出了一種自適應訓練的神經網絡FPGA設計方法。通過對Sigmoid激勵函數基于對稱性做分段擬合減少了資源占用，使用基于可容忍誤差完成了網絡訓練自適應。該方法設計的神經網絡具備訓練可控、資源占用低、精度高的優點。此方法不僅適合于 BP網絡，也可推廣至采用Sigmoid函數及需要訓練控制的其他類型的神經網絡。

注：本文通訊作者為常勝。

參考文獻

[1] 蔣宗禮.人工神經網絡導論[M].北京：高等教育出版社，2001：15?16.

[2] 薛維琴，李莉華，戴明.基于FPGA的人工神經網絡系統的實現方法[J].電子設計工程，2010，18（9）：151?154.

[3] 李利歌，閻保定，侯忠.基于FPGA的神經網絡硬件可重構實現[J].河南科技大學學報（自然科學版），2009，30（1）：37?40.

[4] 張海燕，李欣，田書峰.基于BP神經網絡的仿真線設計及其FPGA實現[J].電子與信息學報，2007，29（5）：1267?1270.

[5] VALLS J， KUHLMANN M， PARHI K K. Evaluation of CORDIC algorithms for FPGA design [J]. Journal of VLSI signal processing， 2002， 32（3）： 207?222.

第8篇：人工神經網絡的缺點范文

[關鍵詞] Spiking神經網絡 學習模型 股市預測

一、引言

隨著經濟的增長，對于股市的預測將變得越來越重要，也成為經濟理論研究中的一個重要課題。股票市場的變化有很多因素，是一個復雜的非線性系統，而人工神經網絡能夠從大量復雜的數據中找到數據間的內在聯系，具有良好的自我學習和抗干擾能力，在股票預測領域中取得了顯著的效果。本文應用一種更接近于生物神經系統的Spiking神經網絡，采用基于粒子群算法的學習模型，構建了滬市上證綜合指數的學習預測模型，并用實際數據進行了分析實驗。

二、Spiking神經網絡及其學習模型

Spike神經元模型是更接近生物神經元的一個數學模型，由Spike神經元構成的人工神經網絡稱為Spiking神經網絡。在Spiking神經網絡中，一個Spike神經元在t時刻接收來自于父突觸神經元的多個post-synaptic potential（PSP）信號，不斷改變自己的膜電壓。當它的膜電壓超過閾值時，產生一個spike，并通過突觸連接向外發送PSP信號。用于描述PSP信號的spike響應函數定義為：

三、上證綜合指數的預測

滬市上證綜合指數是上海證券交易所編制的，以上海證券交易所掛牌上市的全部股票為計算范圍，以發行量為權數綜合，上證綜指反映了上海證券交易市場的總體走勢，所以對上證綜指的預測具有重要的意義。文中選取了2006年6月～2007年7月共286個工作日的滬市上證綜合指數作為研究的原始數據，利用滑動窗口技術，通過前6天收盤時的上證指數來預測第7天收盤時的上證指數。

我們構建了具有6個輸入神經元、4個隱含層神經元和1個輸出節點的前向全連接Spiking神經網絡，并利用以上的Spiking神經網絡學習模型進行測試。選取了原始數據中的前276個數據構成神經網絡的訓練集，后10個數據用于測試。在實驗前，我們對原始數據進行歸一化的處理轉換為[0，1]之間的值。把歸一化后的前6天收盤時的上證指數分別作為6個輸入神經元的spike時間加入到Spiking神經網絡中進行學習和計算，獲得神經網絡輸出節點的spike時間，該時間對應于第7天的收盤指數。按本文式（3）計算獲得Spiking神經網絡的學習誤差，通過粒子群算法不斷調整神經網絡的參數使誤差最小化。獲得了最優的Spiking神經網絡后，用測試集的數據對其性能進行了測試。經Spiking神經網絡學習預測后的上證指數變化如圖。

結果表明，與傳統BP算法相比，基于粒子群算法的Spiking神經網絡具有較快的運算速度和逼近性能， 同時可以克服SpikeProp算法陷入局部最優解和對權值有約束的缺點，可以較好地處理股票類非線性數據的學習和預測。

四、結論

股票市場的不確定因素太多，是一個復雜的非線性系統，而神經網絡具有自我學習的能力，能很好地解決不明確環境中的非線性應用問題。Spiking神經網絡作為一種新型的動態的神經網絡，其利用動態的spike時間進行信息編碼和計算的特點與股票市場中動態的時間序列相吻合。文中對應用Spiking神經網絡預測國內股票市場做了初步的探討，獲得了較好的擬合效果。進一步改進原始數據的處理方式，提高Spiking神經網絡的自適應能力，將能得到更好的預測效果。

參考文獻:

[1]Sander M:Bohte, Spiking Neural Networks [D].ISBN 90-6734-167-3, 2003

[2]Gerstner W, Kistler W. Spiking Neuron Models: Single Neurons, Populations, Plasticity [M]. Cambridge University Press, 2002

[3]韓文蕾王萬誠:概率神經網絡預測股票市場的漲跌[J].計算機應用與軟件，2005，22(11):133～135

第9篇：人工神經網絡的缺點范文

關鍵詞： 邊坡安全； 穩定性； 評價方法

中圖分類號： U416.14 文獻標識碼： A 文章編號： 1009-8631（2012）07-0053-01

1 引言

邊坡安全穩定問題一直是巖土工程的一個重要研究內容，而邊坡穩定性評價結果的正確與否直接關系到邊坡工程的成敗。目前邊坡穩定性評價方法多種多樣，但由于邊坡穩定受多方面因素影響，而各因素具有不確定性（模糊性、隨機性、信息不完全性和未確定性）和復雜性，故傳統的確定性分析方法如極限平衡理論用于邊坡分析，結果不是十分理想。但不論是確定性分析如蒙特-卡洛模擬法、一次二階矩法，還是不確定性方法如模糊數學、灰色理論、數量化理論和信息模型法等，其用于邊坡穩定性評價的準確性與實際情況仍有差距。對于邊坡穩定性評價方法的綜合認識，早在1999年丁恩保教授等就已進行過分類，他們主要根據各種方法對邊坡穩定性評價的量化程度為依據，分為定性分析法、定量分析法、非確定性分析法、物理模型法和現場監測分析法等五種。綜合來看，目前邊坡安全穩定評價方法主要集中在四個方面。

2 邊坡穩定評價方法

2.1人工神經網絡和遺傳算法評價法

在人工神經網絡方面，邢愛國等應用改進的BP神經網絡模型對國道107線清連一級公路部分高危邊坡進行穩定性評價研究。于子國等采用非線性理論研究邊坡的變形破壞機理，建立穩定性評價模型，用遺傳-神經網絡從中獲取穩定性評價和判斷的知識進而構建系統，對各類邊坡穩定狀態做出評價。趙健將Kohonen神經網絡應用于邊坡穩定性分析，建立評價邊坡穩定狀態的網絡模型。姜德義等結合重慶地區的地質條件和高速公路建設實踐，分析影響重慶地區高速公路土質和巖質邊坡穩定性的主要因素，運用人工神經網絡方法，以重慶地區大量高速公路邊坡實例為樣本對其進行學習和預測。

綜合來看，人工神經網絡是依據人腦結構的基本特征發展起來的一種信息處理體系或計算體系，是對神經系統的數學抽象和粗略的逼近和模仿。研究表明，在巖土邊坡工程系統分析領域內采用神經網絡具有獨特的優勢，利用神經網絡理論，可以盡可能多地將各種影響因素作為輸入變量，建立這些定性或定量影響因素同邊坡安全系數和變形量之間的高度非線性映射模型，然后用模型來預測和評價邊坡的安全性。毛謙等將遺傳算法引入三維邊坡穩定分析中，用7個控制參數模擬生成滑裂面，再運用遺傳算法來搜索滑坡最不利滑裂面，對于存在確定滑裂面的滑坡，將此滑裂面作為整體滑裂面計算其整體穩定安全系數，然后在整體穩定的基礎上，運用遺傳算法搜索滑坡內部最不利滑裂面，得出滑坡最小的穩定安全系數。

綜合分析可知，遺傳算法不受搜索空間限制性假設的約束（如連續性、導數存在等），克服了傳統方法容易陷入局部極小值的缺點，從一群點開始搜索，能從離散的、多極值的和含有噪音的高維問題中以很大的概率找到全局最優解，且適用于大規模并行計算。

2.2范例推理評價法

在范例推理評價方面，劉沐宇等運用模糊相似優先概念，構造基于模糊相似優先的邊坡范例檢索模型，對每一個邊坡穩定性的影響因素，分別建立邊坡的目標范例與源范例之間的模糊相似優先關系，經過影響因素之間的兩兩比較，獲得不同影響因素下邊坡的目標范例與源范例之間的相似性序列，從而最終找出與目標范例最相似的源范例，實現邊坡的穩定性評價。劉沐宇等建立基于神經網絡的邊坡范例檢索模型，通過邊坡范例的神經網絡學習，建立當前邊坡和邊坡范例之間相似性計算關系，實現當前邊坡的穩定性評價。高德彬等利用大量公路黃土路塹高邊坡實例，構建基于范例推理的邊坡穩定性預測模型，通過源范例和邊坡范例之間的相似度計算，得到目標范例與源范例之間的相似性序列，找出與目標邊坡范例最相似的源范例，實現黃土路塹高邊坡的穩定性預測。

綜合來看，范例推理方法以范例為基礎，范例的獲取比規則獲取要容易，從而大大簡化知識獲取。對于邊坡安全穩定性評價這樣的復雜問題，其知識獲取本身就是一件非常不容易的事情，故范例推理原理為邊坡穩定性評價提供了一條可行的新途徑。

2.3模糊綜合評價法

在模糊綜合評價方面，周軍霞等針對影響公路邊坡穩定性因素的模糊性和隨機性，選擇影響公路邊坡穩定性的10個主要因素，并分為兩個層次，利用模糊數學綜合評判方法，采用專家方法和經驗公式法賦予影響因素的隸屬函數和隸屬值，建立公路邊坡穩定性分析的二級綜合評判模型，得到公路邊坡穩定性的預測結果。孟衡采用判斷矩陣分析法確定評價因子的權重，用二級模糊評判對某工程實例進行計算分析，結果表明用該法確定權重簡便，亦能較好反映邊坡所處狀態。歐國林等運用模糊數學方法提出模糊穩定系數的概念和描述方法，建立路基邊坡穩定性分析的模糊綜合評價模型，通過確定個體因素等級標準和權重得出模糊穩定系數，使路基邊坡穩定分析更接近客觀實際。

總體來看，模糊綜合評價方法為多變量、多因素影響的邊坡穩定性分析提供了一種行之有效的手段，用隸屬函數代替確定論中非此即彼的特征函數來描述具有模糊性的影響因素，用模糊變換原理實現多因素、多層次的邊坡穩定性分析與評價。其不足之處在于相關因素及各因素邊界值的不易確定以及在隸屬函數的確定和因素權重的分配上均含有相當多的人為主觀因素。

2.4灰色系統評價法

在灰色系統評價方面，魏星等將復雜巖體邊坡系統視為一個灰色系統，在綜合分析巖體邊坡影響因素基礎上，采用表征邊坡巖體穩定性的復合指標作為評判其穩定性的因素，給出一種基于復合指標的邊坡巖體穩定性灰色系統類比預測模型。趙靜波等提出以控制因素變化的階段性來劃分時間數據序列，建立階段時間序列灰色預測模型，對邊坡的發展變化情況進行預測。王利等提出一種基于卡爾曼濾波的GM預測模型，即先用卡爾曼濾波法對原始變形監測數據進行濾波處理，再建立GM模型進行灰色預測。何習平等針對單點模型背景值取值方法的不足，提出一種動態定權方法，建立加權多點灰色預測模型。

總體來講，利用灰色理論分析方法，可在不完全的信息中，通過一定的數據處理，找出它們的關聯性，確定邊坡穩定性各影響因素的影響程度，進而利用多因素疊加分析評估邊坡的穩定性。

參考文獻：