神經網絡主要存在的問題精選(九篇)

前言：一篇好文章的誕生，需要你不斷地搜集資料、整理思路，本站小編為你收集了豐富的神經網絡主要存在的問題主題范文，僅供參考，歡迎閱讀并收藏。

第1篇：神經網絡主要存在的問題范文

關鍵詞： 神經網絡； 入侵檢測模型； 網絡安全； 漏報率； 誤報率

中圖分類號： TN711?34 文獻標識碼： A 文章編號： 1004?373X（2015）21?0105?04

Application of neural network technology in network

intrusion detection model and system

ZHAN Muqing

（Jingdezhen Ceramic Institute， Jingdezhen 333403， China）

Abstract： The network intrusion detection model and system including neural network module are studied mainly. The defects of the traditional intrusion detection system and the advantages of neural network technology applied in intrusion detection are analyzed， and the network intrusion detection system including misuse and abnormal detection based on neural network was established. A large number of intrusion detection tests were carried out by using this system. The test results show that the established model has low missing alarm rate and false alarm rate， can detect a variety of network intrusion types better， and improve the safety performance of the network greatly.

Keywords： neural network； intrusion detection model； network security； missing alarm rate； false alarm rate

0 引 言

最近十年，隨著互聯網技術的迅速發展，網絡安全越來越受到人們的重視，各種利用網絡漏洞和病毒入侵的手段層出不窮，極大地威脅著網絡安全。而傳統的殺毒軟件和防火墻技術面對端口掃描和新型木馬等網絡攻擊顯得力不從心。在此背景下，作為一種積極主動的安全防護策略，網絡入侵檢測技術得到了人們廣大的關注，獲得了廣泛的應用。但是隨著網絡入侵技術的進化，傳統的入侵檢測技術暴露出諸多缺陷，因此，本文引入了神經網絡技術對傳統入侵檢測系統進行升級，以提高系統的檢測性能。

目前國內外有許多學者和機構都進行了基于神經網絡的網絡入侵檢測系統的研究和探索。美國國防部為了提高計算機網絡系統的防入侵能力，從20世紀90年代開始陸續起草了一系列的建議草案和標準，從結構體系上規定了計算機網絡入侵防御的相關技術標準，并資助MIT了KDDCUP99入侵檢測測試集，為相關研究提供了研究樣本； 美國學者L Tony等采用單隱含層的簡神經網絡構建了一個IDES的入侵檢測專家系統，實現了對局域網內幾種典型入侵行為的判斷，開啟了利用神經網絡對網絡入侵行為進行判斷的新途徑。隨著網絡技術，特別是網絡入侵技術和大數據技術的迅速發展，國外的網絡安全提供商分別推出了自己完善的反網絡入侵解決產品，如：思科的IDS?4250T和Internet Security的 Realsecure等[1]。

我國的網絡入侵檢測技術研究起步于20世紀90年代，哈爾濱工程大學的唐立力教授采用KDDCUP99入侵檢測測試集作為研究樣本，利用RBF神經網絡作為判斷模塊，根據知識庫中已經定義好的網絡攻擊方式來判斷是否發生入侵行為，通過網絡訓練，對常見的四大類型的入侵行為進行了很好的判斷；華中科大的周毅等采用遺傳算法對BP網絡輸入參數進行優化，建立了GA?BP的診斷網絡，大大提高了對網絡入侵行為的診斷精度和速度，提高了網絡的使用安全性[2]。雖然國內外對神經網絡技術在入侵檢測中的研究有著許多亮點，也取得了很多成績，但是從目前的研究情況來看，大多學者采用的方法存在的普遍問題有：一是構建的網絡入侵檢測模型缺乏泛化能力，模型穩定差，當系統加入新的入侵類型時，模型診斷精度較低；二是除了國外少數商業軟件巨頭，其他研究者并未建立有效的基于檢測模型的防入侵檢測系統，即相關研究的實際用途有待進一步提高；三是檢測系統的可擴展性和檢測效率低。

1 入侵檢測系統的組成

1.1 常見的兩種入侵檢測方法

在目前常見的入侵檢測系統中，根據其檢測方法的不同，可分為異常檢測和誤用檢測兩種方法。

異常檢測的基礎是建立一個安全行為的數據庫，在此數據庫外的操作會被進行比對，當其嚴重偏離安全行為時即被判斷為入侵行為。此方法的優點是對未知的入侵行為有較好的檢測效果，漏報率較低；缺點是容易將一些未定義的正常行為判定為入侵行為，即誤報率較高。

誤用檢測則是一種基于入侵行為數據庫的檢測，該數據庫是多種已知入侵行為及特征的集合，且數據庫是實時更新的。誤用檢測工作時，會對網絡行為與數據庫中的信息進行比對，以判定其是否屬于入侵行為。誤用檢測的優勢是可以快速有效地判斷常見入侵形式；缺點是數據庫需要快速和持續的進行更新，隨著數據庫規模的持續增大，可能影響檢測的速度。

本文研究了兩種檢測法的優缺點，決定在本文所構建的系統中同時采用這兩種檢測法，并以神經網絡技術作為其實現的基礎。

1.2 現有入侵檢測系統存在的問題

一般來說，目前常見的入侵檢測系統具有以下一些問題：

（1） 檢測效率較低。不管是誤用檢測還是異常檢測都很難快速檢測具有欺騙性的入侵行為；異常檢測的正常運行需要系統維護記錄的實時更新，誤用檢測則需要復雜的專家系統shell來編碼和解釋，需要耗費大量的系統資源，因此其效率較低。

（2） 維護性和系統更新能力較低。一個入侵檢測系統需要實時維護及更新，目前廣泛存在的系統在維護和更新時往往要求操作者了解專家系統規則語言，使得操作者的學習成本大大提高。

（3） 漏報和誤報問題。目前常見的入侵檢測系統普遍存在漏報率和誤報率偏高的問題，這極大的影響了系統的性能。

1.3 將神經網絡技術應用于入侵檢測系統的優勢

將神經網絡技術應用到入侵檢測研究中。主要有以下優勢：

（1） 誤警率低。現有系統的一大缺點就是誤報率較高，這是由于其采用的模式匹配模塊缺乏自學習能力導致的，神經網絡模型有較高的自適應和自學習能力，可以很好的解決這一問題。

（2） 自適應性好。傳統的入侵檢測系統需要對每種已知的攻擊行為制定專家系統shell來編碼和解釋。當新的攻擊類型出現時，需要重新進行編碼和解釋，這極大的增加了系統的更新和維護成本。而基于神經網絡技術的系統則不依靠信號的模式匹配，其具有很強的自適應性，當需要對系統進行更新時，也不會造成太大的學習成本。

（3） 漏報率低。傳統入侵檢測系統，特別是采用誤用檢測法的系統對于新的攻擊行為會有較高的漏報率，而采用神經網絡技術則可以有效解決這一問題。

1.4 基于神經網絡的入侵檢測模型

本文借鑒文獻[3?4]，結合神經網絡的相關特點，建立了如圖1所示的檢測模型。

在圖1的入侵檢測系統中，神經網絡訓練模塊1在發現新的攻擊類型后會將相關信息輸入到神經網絡訓練模塊2中進行訓練，從而擴充誤用檢測庫的數量，極大地提高了該系統的實用性，該系統主要分為以下幾個模塊：

（1） 數據采集模塊

數據采集模塊采用Winpcap來捕獲網絡中的數據包和處理系統日志并送入預處理模塊。Winpcap體系結構利用的Packet.dll和Wpcap.dll兩個API為用戶提供支持。

（2） 數據預處理模塊

對Winpcap采集到的數據進行篩選和處理，檢查其格式，并調用不同的分析程序段對包中不同協議類型的內容進行分析，以轉化為神經網絡所能識別的標準格式。

（3） 神經網絡模塊

本系統建立了分別基于誤用和異常檢測庫的神經網絡模型。該網絡首先需要一定樣本的訓練，然后即可以對相關的入侵行為進行識別，并把確定的行為報送給入侵響應模塊。

（4） 報警響應模塊

該模塊的功能主要有兩個：一是記錄入侵行為的時間日志，以便復查、分析及作為證據，并保證這些記錄不能被擦除或遠程銷毀；二是及時報警，通知網絡管理人員及時采取相應措施以阻止網絡入侵行為。

2 系統的試驗過程及結果分析

2.1 實驗環境

本次實驗的硬件平臺為Intel i5 3.2 GHz，8 GB內存和1 TB硬盤的計算機，實驗在Windows 8平臺上用Matlab語言編程實現。

2.2 試驗數據源的選取

本文所采用的分析數據是目前入侵檢測研究中常用的KDD Cup 1999 Data數據集，該數據集包含了近500萬條模擬網絡環境中的各種攻擊和正常訪問鏈接的記錄。其中入侵行為主要包含4種常見的攻擊類型和1種新的攻擊類型，它們分別是拒絕服務攻擊（Denial of Service，DOS）、本地用戶權限提升攻擊（User to Root，U2R）、遠程攻擊（Remote to Local，R2L）、探測攻擊（Probe）和新類型攻擊（Other）[5]，這5種攻擊類型中包含的18種具體的攻擊名稱如表1所示。

由圖4可知，當訓練經過23次迭代之后達到了滿意的期望誤差限。

2.5 結果分析

為了表征入侵檢測系統的性能，本文采用漏報率和誤報率來作為其性能指標，其值按下式計算：

[漏報率=錯誤標示為正常的異常數據測試樣本集中的異常數據總和]

[誤報率=錯誤標識為異常的正常數據測試本集中的正常數據總和]

經計算各個樣本的漏報率和誤報率如表4所示。

從表4可以知道，本文構建的入侵檢測模型不管是對于已知入侵類型或新的攻擊類型的檢測都有較好的檢測效果，可以起到提高系統安全的作用。

3 結 語

本文主要對神經網絡技術在網絡入侵檢測中的應用進行了研究，分析了傳統入侵檢測系統存在的檢測效率低和漏報、誤報率高等問題，指出了將神經網絡運用于入侵檢測系統可以有效降低漏報、誤報率，提高系統自適應性和減去數據過載等優勢。本文構建的系統共有數據采集、數據預處理、神經網絡和報警響應四個模塊組成。通過利用該系統進行的仿真實驗表明，采用神經網絡技術的網絡入侵檢測系統具有較高的檢測精度，可以有效提高網絡的安全性。

參考文獻

[1] KOZIOL J.Snort入侵檢測實用解決方案[M].吳溥峰，孫默，許誠，譯.北京：機械工業出版社，2005.

[2] 危勝軍，胡昌振，姜飛.基于BP神經網絡改進算法的入侵檢測方法[J].計算機工程，2005，31（13）：154?155.

[3] GHOSH A K， SEHWARTZBARD A. A study in using neural networks for anomaly detection And misuse detection [C]// Proceeding of 2009 the 8th Usenix Security Symposium. [S.l.]： ACM， 2009： 534?537.

[4] 李恒華，田捷，常b，等.基于濫用檢測和異常檢測的入侵檢測系統[J].計算機工程，2003（10）：14?16.

第2篇：神經網絡主要存在的問題范文

關鍵詞：神經網絡；計算機網絡安全評價；應用探析

現如今，人們的日常生活和工作都已經離不開計算機，但各類安全風險也屢次出現在使用過程中，給用戶帶來很多的擔憂和不便。神經網絡在多個方面都具有智能人工算法技術，如組織能力和適應能力等，能為計算機網絡安全評價起到了極大的作用。

1 神經網絡的概念

（一）神經網絡的發展

神經網絡（neural network，NN）是對神經單元通過大量處理，而組建的網絡復雜結構，具有簡化和模擬人體大腦的功能。在儲存信息上，神經網絡的學習能力和適用能力都很強大，并具有十分可觀的容錯能力，是傳統信息算法的有效突破，可以將處理信息的方式按照人體大腦思維模式來進行。人工神經網絡于20世紀40年代開始初步研究，同時對MP神經元模型有了認識。到了20世紀50年代末，研究者們通過MP神經元模型將感知器這一實物進行了設計。美國國防部于20世紀90年代初對神經網絡的各個應用領域進行了進一步開發，第一是地震信號監測；第二是識別目標；第三是識別和處理聲吶信號等，并具有很大的進展。神經網絡技術在中國的起步開始于20世紀80年代末，雖然起步較落后于其它國家，但在研究成果上也有很大的成效。

（二）神經網絡的特點

神經網絡的特點可以分為四點，第一是學習能力；第二是分布式；第三是并行性；第四是非線性等。首先，較好的學習能力是神經網絡的主要特點，其可以根據抽象訓練而得到樣本的相關數據特征，這不僅說明神經網絡的智能運用，更是充分體現了強大的網絡計算機適應功能。其次，分布式在傳統計算機中是串行運行的，在不同的單元中儲存信息，如果其中一個存儲單元遭到破壞都將對整個信息存儲造成影響。但在神經網絡中，其是通過神經元來分散儲存信息，連接權值和單獨的神經元必須進行組織才能發揮作用。如果損壞到連接權值或是單一神經元，不會影響到整體信息，這是神經系統具有強大穩定性和容錯能力的表現。同時，在外界干擾下輸入信號，不會產生較大畸變的輸出信號。再次，神經網絡的聯想能力通^分布式的結構來實現，其主要體現在對人體大腦結構通過網絡來進行模擬。在信息被神經元接收并進行處理時，每個神經元都是單獨的，對接收信息進行分別處理再各自輸出，這是神經網絡的并行性，其具有極高效率的信息處理能力。最后是神經網絡的非線性，其能對輸入和輸出的非線性映射有效實現，輸入與輸出的分線性關系通過神經網絡，可以對大部分無模型的非線性關系加以模擬，是研究非線性系統的主要途徑。

2 計算機所存在的網絡安全問題

計算機所面對的網絡安全問題大致可以分為幾類，第一是病毒危害；第二是黑客攻擊；第三是IP地址盜用等。網絡安全有保密性、完整性、可用性、可控性、可審查性等五個方面的特點。網絡安全問題中，計算機病毒是最常見的，具有極大的破壞性和隱蔽性，并具有高傳播速度。常見的計算機病毒有蠕蟲和震網等，其能嚴重破壞計算機網絡，要對其進行清除也有很大難度。近年來，黑客攻擊頻率也在不斷增加，且具有一定的目的性，這些黑客為了窺探他人隱私，對用戶計算機隱私進行竊取。部分黑客的目的是為了報復或抗議某些事件，對公共網絡和政府網絡進行大肆攻擊，企圖對網頁內容進行篡改，造成一定的社會負面影響。另外，IP地址盜用也是計算機網絡安全中的主要問題，對用戶IP進行盜取，并騷擾和破壞使用用戶的個人信息等，給用戶的個人信息安全帶來了極大隱患。

3 計算機網絡安全評價中神經網絡的應用

（一）安全評價體系的建立

計算機網絡安全評價對于計算機相關安全隱患都有所包含，其可以通過神經網絡來對網絡安全評價體系進行建立，預防潛在威脅對計算機網絡造成的破壞。第一步需要對安全評價指標進行確立，其應當具有最基本的幾項原則，第一是獨立；第二是準確；第三是可靠。在進行評價時，應當選擇評價對象強層分明的代表性。第二步是對評價指標進行各項標準化和取值。由于每個評價指標具有不同對象的評價，所以每個評價指標的標準和取值也是有差別的。第三步是評價結果庫的建立，其完整的建立應當根據不同評價指標的不同特點來進行參考。如要對網絡安全級別進行結果評價，可以分為幾個等級，第一是安全；第二是比較安全；第三是不安全；第四是嚴重危害等，并對每個評價做出詳細的說明，使計算機網絡安全形成的原因、結果和評價得到用戶的清楚認識。要對網絡安全評價體系進行建立，可以通過幾個原則來進行，第一是準確性；第二是完整性；第三是獨立性；第四是簡要性。

（二）BP神經網絡的應用

在計算機網絡的應用中，使用最為廣泛的是BP（Back Propagation）神經網絡。BP神經網絡具有學習、記憶和自適應等能力，能夠有效處理非線性、不確定性或模糊關系。BP神經網絡通過對樣本信號不斷傳播和訓練，保證最低限度的誤差傳播，其在實際應用過程中，具有很大的安全作用。在識別對象和分類上，BP神經網絡的靈敏度都十分優越，可以對網絡安全中心進行快速的診斷和監督。但是，BP神經網絡的缺陷在于魯棒性和容錯率相對較低，在快速實現安全監測的同時，難以保證準確度。另外，收斂效果不佳也是BP神經網絡算法存在的問題，其缺少標準統一的網絡隱層節點。安全評價模型依靠BP神經網絡來建立，首先要使神經元接數量在輸入層設計中達到評價指標。然后利用單層結構來設計隱層含，對選取的節點數量進行網絡綜合考量。最后是安全評價結果利用輸入層來進行設計，以保證精確性的安全評價。

（三）ART神經網絡的應用

ART（Adaptive Resonance Theory）神經網絡，即自適應共振理論神經網絡，是一種自組織神經網絡結構，是無教師的學習網絡。ART能自組織地產生對環境認識編碼。ART神經網絡適用的網絡安全評價包括有謠言散播和攻擊他人等一些非安全性操作。在功能上來講，ART主要對語音、圖像、文字等進行識別，對其安全程度進行判斷，并通過搜索大量數據來對模式建立固定的安全評價模型。ART神經網絡的優勢在于穩定性強、聚類效果好，其適應能力能在多變復雜的環境進行轉變，且算法相對簡單。但是，ART的缺陷在于是對模型和參數進行確定，還需學習和優化其網絡結構。ART神經網絡可以有效監測對信息數據的傳播，然后通過模型庫來對比傳播信息的安全程度，并作出相對應的處理程序。所以，ART可以為用戶的網絡環境起到凈化作用，帶來安全良性的網絡空間。

4 結束語

在計算機網絡的快速發展中，網絡安全是使用者們最為擔心的障礙。神經網絡通過高科技技術手段，可以對計算機網絡安全評價體系做出全面優化，保證網絡安全的精確性和穩定性。

參考文獻

[1]李忠武，陳麗清. 計算機網絡安全評價中神經網絡的應用研究[J]. 現代電子技術，2014，10：80-82.

[2]岳陽. 基于BP神經網絡的計算機網絡安全評估[J]. 電腦知識與技術，2013，18：4303-4307.

[3]孫立權，楊素錦. 計算機網絡安全評價中神經網絡的應用[J]. 信息系統工程，2015，01：81.

第3篇：神經網絡主要存在的問題范文

【關鍵詞】BP算法 蟻群優化算法 放大因子 神經網絡

伴隨著近年來對于人工智能（Artificial Intelligence）研究的不斷深入，其中一項重要的分支內容也越來越引起人們的重視，即人工神經網絡，這一技術研究現已經廣泛的應用到了信息處理、車輛檢測、價格預測等多個領域當中。而BP網絡神經算法則是應用普及程度最高的一項神經網絡內容，然而這一傳統的神經網絡算法卻存在有一些較為顯著的缺陷性，如局部不足、收斂緩慢、缺乏理論指導等，因此有必要對傳統的算法進行改進。據此本文主要就通過對于上述問題的分析，提出了引入放大因子以及應用蟻群優化算法兩項改進手段，并通過將改進后的算法應用到瓦斯濃度檢驗中，有效的驗證了這一算法的科學性。

1 傳統BP算法的缺陷

1.1 收斂緩慢

因為BP神經網絡的誤差函數的曲面圖像十分復雜，因此極有可能會有一些相對較為平坦曲面的存在，在起初之時的網絡訓練收斂值較大，然而伴隨著訓練的進行，在訓練行進到平坦曲面位置時，依據梯度下降法，便極有可能會發生盡管誤差值較大，然而誤差梯度值卻較小，進而也就導致權值的可調整值變小，最終僅能夠采取加多訓練次數的方式來逐漸退出目標區域。

1.2 局部不足

盡管BP算法能夠促使均方誤差達到最小化權值與閾值，然而因為多層網絡結構的均方誤差存在有極大的復雜性特點，既有可能導致多項局部極小值情況的出現，從而使得算法在斂收之時，無法準確的判定出是否求得最優解。

1.3 缺乏理論指導

由于僅在接近于連續函數的情況時才需多層隱含層，但是在實際情況下往往是選用單層隱含層，這就會導致一個十分明顯的問題，即隱含層神經元的數量大小是對網絡計算的復雜性是具有直接性影響的，從理論層面來說神經元數量越多，所得到的求值才能夠越精確，然而現實情況往往都是依據經驗公式，以及大量的實驗驗證來明確出相應的隱含層神經元數量，這必須要借助于大量的運算處理才能實現。

2 算法改進

2.1 放大因子的引入

在精確性允許的前提下，為了獲得更大的幾何間隔，可放寬容錯性，為閾值增添以一定的松弛變量。但還在BP神經網絡的學習過程當中，因為樣本所出現的隨機性改變，在通過歸一化處置后，于初期學習階段，樣本的訓練誤差較大，收斂較快，然而伴隨著訓練的持續進行，特別是在樣本訓練結果無限趨近于1/0之時，這是訓練便會達到平臺期，也就是相對停滯階段。

在將放大因子運用到實際訓練當中，對隱含層與輸出層當中的權值采取調整，所產生的神經網絡訓練結果影響，要明顯超過輸入層和隱含層當中權值調整所造成的影響，因而在本次研究當中，將放大因子應用在了隱含層和輸出層權值的調整之中。

2.2 應用蟻群優化算法

蟻群優化算法是一種對離散優化問題進行求解的通用型框架。在某條具體路徑當中所經過的螞蟻數量越多，相應的信息條件密集性也就越大，從而這一路徑被選取的概率也就越大，其呈現出的是一種正反饋的現狀情況。每一只螞蟻在僅穿過任一節點一次的情況之時，對被選用的權值節點進行明確的記錄，從而該區域之中的節點也就組成了一組候選權值，在所有螞蟻均完成了首次選擇后，依據全局更新策略來對信息素的密度進行更新。直至滿足于最大進化代數，也就得到了最佳的權值組合。

3 實驗分析

3.1 變量選取

考量到瓦斯濃度影響因素所具備的的不確定性，因此可對各類因素予以篩選，在對短期預測不造成影響的情況下，來選擇出影響力最大的因子。在瓦斯濃度監測的特征變量中主要包括有風速、溫度、負壓、一氧化碳濃度、瓦斯濃度。

3.2 參數選擇

依據上述特征變量內容，此實驗的BP神經網絡結構便可明確為輸入層4項：風速、溫度、負壓、一氧化碳濃度，輸出層1項：瓦斯濃度。針對以上特征變量依次選用傳統BP算法與改進后的算法進行測量，隱含網絡層均為1個。隱含層節點可通過下列公式予以驗證：

m=0.618*（input+output）

在這一公式當中input與output即為輸入層與輸出層節點數量。BP神經網絡算法的訓練數共1100，預計誤差值為0.0011，其中隱含層應用Sig mod函數，在輸出層之中應用線性函數。蟻群優化模型最終其規模明確為600，權值區間取[-1，1]，迭代次數取1100次。

3.3 結果分析

在考量到具體運用時的科學性，可編寫一項測試軟件，針對數據內容予以計算處理，并將多次試驗所得數據信息予以對比，改進之后的BP神經網絡和傳統BP網絡其檢測精確性如表1所示。

通過觀察表1，能夠明顯的發現，經過改進的BP神經網絡算法其訓練擬合度相較于傳統BP神經網絡算法而言更高，同時準確率也顯著提升了3.82%，收斂速度也有了顯著的提升，權值選取也有了理論性的指導。

4 結束語

總而言之，傳統的BP神經網絡算法存在收斂速度較慢、且容易陷入到局部不足以及缺乏理論指導的設計陷阱，本文主要通過對放大因子的引入，使得BP神經網絡算法在實際訓練時的權值調整方式發生了轉變，進而通過應用蟻群優化算法來實現了對于BP神經網絡權值的選擇，并構建起了相應的神經網絡模型以及改進后的訓練方法。最終將此改進之后的BP神經網絡算法應用到瓦斯濃度預測領域之中，其效果明顯優于傳統的BP神經網絡算法。

參考文獻

[1]楊紅平，傅衛平，王雯等.結合面法向和切向接觸剛度的MPSO-BP神經網絡算法的建模[J].儀器儀表學報，2012（08）.

[2]陳樺，程云艷.BP神經網絡算法的改進及在Matlab中的實現[J].陜西科技大學學報（自然科學版），2014（02）：45-47.

第4篇：神經網絡主要存在的問題范文

關鍵詞 神經網絡；BP；優化算法

中圖分類號：TP183 文獻標識碼：A 文章編號：1671-7597（2014）13-0066-01

1 人工神經網絡模型

人工神經網絡簡稱ANN，它是一種將人類大腦的組織結構和運行機制作為其研究基礎來模擬人類大腦內部結構和其智能行為的處理系統。人工神經網絡中的神經元細胞將其接收到的所有信號進行處理，如加權求和等操作，進行操作后經軸突輸出。

2 人工神經網絡的分類

2.1 前饋型神經網絡

前饋型神經網絡通過對其網絡中的神經元之間的連接關系進行復合映射，因此這種網絡模型具有非常強的非線性處理的能力。如圖1所示，在這里前饋型神經網絡模型被分為三層，分別為輸入層、輸出層和隱含層，一般常用的前饋型神經網絡有BP神經網絡、RBF神經網絡、自組織神經網絡等。

圖1 前向神經網絡模型

2.2 反饋型神經網絡

反饋型神經網絡其結構，在這個模型中我們假設網絡總的神經元個數為N，則每個神經元節點都有N個輸入值及一個輸出值，每個神經元節點都如此，節點之間相互聯系。現在被大量使用的反饋型神經網絡一般有離散Hopfield神經網絡模型、Elman神經網絡模型等等。

3 BP神經網絡

3.1 BP神經網絡簡介

1986年，Rumelhant和McCelland提出了BP神經網絡的一般模型，BP神經網絡是一種具有多層網絡的反向傳播學習算法。BP神經網絡模型的基本思想是：整個過程主要由信號的正向傳播和誤差的反向傳播兩個過程組成。目前，BP神經網絡的應用范圍為數據壓縮、數據分類、預測分析和模式識別等領域。

3.2 BP神經網絡的結構

如圖2所示，這里是BP神經網絡的一種模型結構，在這種模型結構中輸入信號量為m，具有隱含層的數量為j，輸出信號量為q的模型結構。

BP神經網絡一般具有一個或多個隱含層單元，其差別主要體現在激活函數的不同。針對BP神經網絡所使用的激活函數一

圖2 BP神經網絡模型結構

般采用S型對數函數或者采用正切激活函數，而輸出層則一般采用線性函數作為激活函數。

3.3 BP神經網絡的改進方法

BP神經網絡作為當今對研究電力負荷預測應用最多的一種神經網絡，但標準的BP神經網絡算法存在的一些缺陷，這里就對一些經常使用的典型改進方法進行描述。

1）增加動量項。在一般的BP神經網絡算法中，其模型中的各層權值在進行更新的過程中，是按照t時刻誤差曲線進行梯度下降方式進行調整的，在這里并沒有考慮其之間的梯度下降的方向，如果使用這種方式進行調整則會造成訓練的過程不穩定，容易發生振蕩，導致收斂過程緩慢的結果。因此有些學者就為了使網絡訓練的速度提高，收斂過程加快，就在一般網絡模型的權值更新環節添加了一個動量項因子即：

（1）

在這個式子中，W表示BP神經網絡中每一層的權值矩陣，O則表示神經網絡中每一層的輸出向量矩陣，α則被稱為該神經網絡的動量系數因子，其取值范圍在0到1之間，在該網絡在進行訓練的過程中，如果其誤差梯度網線出現了局部極小值現象，雖然在這里的第一項會趨摟于零，但是這一項，

這樣就會使該訓練過程避免了限入局部極小值區域的形勢，從而加快了其訓練速度，使該神經網絡收斂速度加快，因此這種帶有動量項因子的BP神經網絡算法應用到了很多的BP網絡中。

2）學習速度的自適應調節方法。學習速度η在一個標準的BP神經網絡中是以一個常數出現的我們也稱為之步長，而在實際的運算過程中，很難找到一個數值作為最優學習速度。我們從誤差曲面圖形中可以看出，當曲面中區域處于一個平坦區域時，我們需要設置一個比較大的η值，使它能夠跳出這個平坦的區域；而當曲面中的區域處于變化比較很大的區域時，這時的η的數值我們又需要將其進行減小或者增大操作。自適應調整學習速度η則可以根據網絡的總誤差來進行自我調整，在網絡經過多次調整后，如果E總繼續上升，則表明這里的調整是無效的，且η=βη， ；而經常調整這里的E總下降了，則表明這里的調整是有效果的，且η=αη，。

3）引入陡度因子（防止飽和）。在網絡訓練的過程中，由于其誤差曲面具有平坦區，當處于這個區域時，由于S型激活函數有飽和特性，促使權值的調整速度放慢，從而影響了調整的速度。在訓練的過程中，如果算法調整進入了這個區域，我們可以減小神經元的輸入量，使其輸出值迅速脫離激活函數的飽和區域，這里誤差函數的數值則會隨之發生改變，其權值的調整也就脫離了該平坦區。想要實現以上思路則需要在激活函數中引入一個陡度因子λ。

（2）

當趨近于0時，而數值較大時，調整其進入誤差曲面中的平坦區，此時λ的值應選擇大于1的數值；而當調整脫離平坦區域后，再設置λ大于1，使激活函數能夠恢復到原始數值。

4 總結

綜上所述，設計一個人工神經網絡應用到實際問題中，可以歸結為網絡自身權值參數的學習與合理的設計網絡拓撲結構這兩大類優化問題。由于人工神經網絡的訓練是一個非常復雜的問題，使用傳統的學習算法進行訓練則要花費很長的時間，BP算法用到了梯度下降法，才只能在一定范圍內找到合適的參數值及其模型結構。因此，為了更好的提高神經網絡的泛化能力，及將網絡拓撲結構設計的更加合理，大量關于神經網絡的優化算法相繼產生。

參考文獻

第5篇：神經網絡主要存在的問題范文

關鍵詞：負荷預測 RBF 神經網絡 電力系統

0 引言

負荷預測是實現電力系統優化運行的基礎，對于電力系統的安全性、可靠性和經濟性都有著顯著影響。負荷預測是指從已知的經濟、社會發展和電力系統需求出發，考慮政治、經濟、氣候等相關因素，通過對歷史數據的分析和研究，探索事物之間的內在聯系和發展規律，以未來經濟和社會發展情況的預測結果為依據，對未來的電力需求做出估計和預測[1]。相關研究工作已在國內廣泛開展，其研究成果已經廣泛應用到電力系統實際運行維護當中，并取得了良好的經濟效益。

負荷預測的方法主要分為兩大類，分別是基于參數模型預測法和基于非參數模型預測方法。基于參數模型的預測方法主要有單耗法、負荷密度法、電力彈性系數法、回歸模型預測法、趨勢外推預測法、時間序列預測法等；基于非參數模型預測方法主要有專家系統法、模糊預測法、灰色預測法、人工神經網絡預測法、小波分析預測法等[2]。

RBF神經網絡具有良好的函數逼近功能，在函數回歸上表現出較好的性能，已被廣泛應用到人工智能領域。在負荷預測方面，RBF也得到了廣泛的應用。本文的主要工作是整理了主要的基于RBF的電力負荷研究內容，對存在的問題進行了分析，并對未來的發展進行了展望。

本文接下來的內容安排如下，第二章介紹了RBF神經網絡的基本原理，第三章對基于RBF的電力負荷研究進行了綜述，最后給出了總結。

1 RBF神經網絡基本原理

RBF網絡的結構與多層前向網絡類似，如圖1所示，它由三層組成：第一層為輸入層，第二層為隱含層，第三層為輸出層[3]。

假設RBF神經網絡的輸入向量為n維，學習樣本為 （X，Y），其中，X=（X1，X2，…XN），為輸入向量，Xi=（Xi1，Xi2，…，XiN）T，1≤i≤Nj；Y=（y1，y2，…，yN），為期望輸出；N為訓練樣本個數。當神經網絡輸入為Xi時，隱含層第j節點的輸出如式（1）所示[4]。

對于全體輸入學習樣本，RBF神經網絡的輸出如式（2）所示。

2 基于RBF負荷預測相關研究

文獻[4]通過建立徑向基（RBF）神經網絡和自適應神經網絡模糊系統（ANFIs）相結合的短期負荷預測模型來應對實時電價對短期負荷的影響。由于固定電價時代的預測方法在電價敏感環境下效果不理想，文章根據近期實時電價的變化應用ANns系統對RBF神經網絡的負荷預測結果進行修正，提高預測效果。

文獻[5]研究了基于RBF神經網絡的多變量系統建模。文章將正規化正交最小二乘算法引入多輸入多輸出系統，進行相關研究，建立了基于RBF神經網絡的多變量系統的模型。對電廠單元機組負荷系統進行建模仿真研究的結果表明，用該方法建立的多變量熱工系統的非線性模型是有效的，具有較高的辨識精度和較好的泛化能力。

文獻[6]提出了一種基于交替梯度算法的RBF神經網絡，并將之應用到負荷預測領域，取得較好的效果。通過使用交替梯度算法來優化RBF輸出層權值和中心與偏差值來得到改進的RBF算法。與傳統梯度下降算法相比，改進的RBF算法具有更高的預測精度和更快的收斂速度。模型綜合考慮了氣象數據、日類型等影響負荷變化的多種因素，實驗結果表明改進的RBF網絡算法具有更優的性能。

文獻[7]將RBF神經網絡和專家系統相結合，在深入研究天氣和特殊事件對電力負荷的影響的基礎上，提出了新的負荷預測模型。利用RBF神經網絡的非線性逼近能力預測出日負荷曲線，然后利用專家系統根據天氣因素或特殊事件對負荷曲線進行修正，使其在天氣突變等情況下也能達到較高的預測精度。表1為文獻[7]的實驗結果對比表。

文獻[8]將模糊聚類分析中的隸屬度應用到負荷預測應，通過隸屬度原理得到一批與預測日在樣本信息上類似的歷史日。采用模糊聚類分析獲得的樣本作為RBF神經網絡的訓練樣本，并應用改進的RBF神經網絡進行訓練，在不需大量訓練樣本的前提下實現對短期負荷的預測。

影響電網負荷預測的因素很多，而地區電網負荷易受氣象因素影響，文獻[9]針對電網負荷預測以上特點，把氣象因素作為影響負荷的主要因素，采用模糊規則控制的徑向基神經網絡（RBF）算法，對某地區電網的日負荷數據進行預測，實驗證明采用這種預測方法可以提高負荷預測的速度和精度。表2給出了文獻[9]的實驗結果表。

3 結束語

本文針對基于RBF神經網絡負荷預測進行了綜述，但由于文章篇幅的原因，不能將所有的方法列舉出來，只列舉了具有代表性的方法，希望能起到拋磚引玉的作用。

參考文獻：

[1]肖國泉，王春，張福偉.電力負荷預[M].北京：中國電力出版社，2001.

[2]李昀.電力系統中長期負荷預測方法研究與應用[D].2011.

[3]張師玲.基于RBF神經網絡與模糊控制的電力系統短期負荷預測[D].江蘇大學，2010.

[4]雷紹蘭，孫才新，周等.基于徑向基神經網絡和自適應神經模糊系統的電力短期負荷預測方法[J].中國電機工程學報，2005.

[5]劉志遠，呂劍虹，陳來九等.基于RBF神經網絡的單元機組負荷系統建模研究[J].控制與決策，2003.

[6]郭偉偉，劉家學，馬云龍等.基于改進RBF網絡算法的電力系統短期負荷預測[J].電力系統保護與控制，2008.

[7]張濤，趙登福，周琳等.基于RBF神經網絡和專家系統的短期負荷預測方法[J].西安交通大學學報，2001.

第6篇：神經網絡主要存在的問題范文

關鍵詞:公路工程 造價估算 模糊數學 神經網絡 模糊神經網絡

中圖分類號:F540.34 文獻標識碼:A 文章編號:1672-3791(2012)04(c)-0053-01

1 公路工程造價估算概述

1.1 公路工程造價估算的重要性

公路工程造價估算作為公路工程管理的重要組成部分其重要性主要體現在如下幾個方面。

第一,公路工程造價的估算是實現工程成本控制的基礎。其中工程施工前期造價估算、施工前的編制預算以及施工圖設計階段的編制預算等環節作為工程造價估算的核心,同樣是公路工程施工成本控制的起點,因此,實現公路工程造價的合理估算是實現工程成本控制的重要前提條件。第二,公路工程造價的估算可以為施工企業成本控制計劃方案的制定提供重要的參考依據。施工企業通過工程造價的估算可以尋找到降低工程成本的有效途徑,從而為工程施工過程中施工成本的控制提供正確的方向。第三,公路工程造價的估算可以幫助施工企業在進行設計招標前可以確定工程的大致造價。這樣一來,施工企業在招標的過程中就可以有效避免中間商的欺詐以及保標等惡意行為的發生。

1.2 傳統公路工程造價估算中存在的問題

盡管工程造價估算在公路工程建設中越來越受到人們的重視,但是由于受各方面因素的影響,在傳統公路工程造價估算中還存在一系列的問題,其中我國傳統公路造價估算中主要存在如下幾個方面的問題:一是相關規章制度的限制,造價估算結果往往與投標報價相差懸殊;二是預算結果與概算結果差距較大,不利于工程實際造價的控制和確定;三是缺少對工程造價估算的有效監督機制,從而使最終的造價結果變的十分不確定;四是由于各參與方利益的問題,在進行工程造價估算時很難早到平衡點,以至于造價估算精度不能得到有效的保證。

2 認識模糊神經網絡

2.1 模糊數學概述

(1)模糊數學的概念,我們通常說的模糊就是指一些模棱兩可的、即可能又不可能、即是又不是的概念。而模糊數學就是要用數學的方法來表示那些模糊概念發生的可能性的大小,換句話講就是明確那些模糊概念所處的狀態,從而利用數學的思想來解決那些模棱兩可的、不確定的實際問題。(2)模糊數學的數學描述,一般模糊數學的數學描述,多采用的是類似與集合的數學表示方法。與集合的區別就在于模糊數學在表示集合元素時需要附帶一個稱為隸屬函數值的參數,其中該參數的值是隸屬函數與元素的值進行運算的結果。

2.2 神經網絡概述

(1)神經網絡的概念,所謂的神經網絡是一個借鑒物理和生物技術來實現的用來模仿人類大腦神經細胞結構和功能的系統,與人類的大腦結構相似,它也由大量的模擬神經元所組成的,而且這些神經元之間相互連接,并行工作,作為一個系統協同完成一系列復雜的信息處理活動。(2)神經網絡的基本原理,神經網絡在結構和功能上都是模擬人腦的神經系統來進行設計和實現的,它同時作為模擬生物神經元的一種計算方法,其基本原理是這樣的,與生物神經元的基本原理相似,用那些具有突的網絡結點來接受信息,并不斷的將接受到的信息累加起來,這些信息有些是抑制神經元,有些則是激發神經元,對于那些激發神經元,一旦積累到一定的閾值后,相應的神經元便會被激活,被激活的神經元就會沿其稱為軸突的部件向其它神經元傳遞信息,并完成信息的處理。

2.3 模糊神經網絡概述

模糊神經網絡是模糊數學和神經網絡有效結合的應用研究成果。其中在模糊神經網絡中模糊數學的應用體現在它可以根據那些假定的隸屬函數以及相應的規律,用邏輯推理的方法去處理各種模糊的信息。

3 模糊神經網絡在公路工程造價估算中的應用

3.1 基于模糊神經網絡的公路工程造價估算方法的實現

基于模糊神經網絡的公路工程造價估算方法的實現過程如下。

第一,構建已施工公路工程的造價信息庫,其中包括應經施工的公路工程的各種特征因素以及工程造價等其他各方面的材料。

第二,結合擬建工程的施工需求來確定其包括評價指標等在內的各種特征因素的數據取值。

第三,按照模糊數學的思想法在已施工公路工程的造價信息庫中選取若干個(至少三個)與擬建工程最相似的已施工的工程,將其作為神經網絡進行學習和訓練的基礎數據。其中,將信息庫中公路工程的各種特征因素值的隸屬度作為神經網絡的輸入向量,信息庫中公路工程的造價值作為神經網絡的輸出向量。

第四,將擬建公路工程的各種特征因素值的隸屬度作為神經網絡的輸入向量,通過神經網絡的學習后所得到的輸出向量即為擬建公路工程的造價估算值。

第五,建立公路施工工程造價信息數據,編制神經網絡學習的算法通用程序。將學習訓練的基礎數據輸入神經網絡,然后合理設計學習率,經過一定次數的迭代運算,有效提高公路工程造價估算結果的精度。

3.2 基于模糊神經網絡的公路工程造價估算方法的優點

該方法的優點可以概括為如下幾點。

第一,模糊神經網絡中所采用的模糊數學可以對公路工程造價估算中的模糊信息進行有效的處理,通過對已竣工的公路工程和計劃施工的公路工程的相似度進行定量化描述,從而使模糊的公路工程造價問題得以模型化。

第二,基于模糊神經網絡的公路工程造價估算方法的估算結果科學合理,因為該方法采用的是基于數學模型的數學計算分析,所以其結果受人為因素的影響較小。

第三,模糊神經網絡中所采用的神經網絡模型對公路工程造價的估算具有很好的適應性,與傳統的造價估算方法相比,該方法能更好的適應公路工程造價的動態變化。

第四,基于模糊神經網絡的公路工程造價估算方法是借助計算機來完成的,所以還具有運算速度快和運算精度高的優點。

4 結語

由于影響公路工程造價的因素比較多,而且各因素的構成比較復雜,計算相對繁瑣,所以公路工程的造價估算具有很大的模糊性。對于使用傳統的工程造價估算方法而言,公路工程造價的估算將是一項非常復雜的工作。然而結合模糊數學和神經網絡的理論思想,利用工程之間所存在的相似性,使用基于模糊神經網絡的公路工程造價估算方法可以迅速的得出精確的工程造價估算結果。

第7篇：神經網絡主要存在的問題范文

早在1992年度，Kiang和Tam就開始利用三層的BP神經網絡開始進行網絡訓練。他們訓練的主要方法是把先前輸入到網絡中的一些樣本作為基礎，然后提供一套權重，在通過BP神經網絡對網絡進行訓練之后，就可以根據系統把任何新輸入的公司自動劃分為非破產公司和破產公司。通過諸多實驗表明，神經網絡這一方法在預測和評估銀行的風險狀態時，是非常科學、合理和有效的，在預測的適應性、精確度和穩健度來講，它都遠遠超過其他形式的銀行風險預警方法。

2005年，王秀珍和張美戀研究了在商業銀行的安全系統中運用了徑向基神經網絡的預警模式。通過對現今商業銀行在安全評價系統上的基本特點的研究，他們從中選擇了12個具有代表性的指標進行研究。對這12個指標，他們對每一個指標可能存在的風險程度都進行了非常準確的推斷和評估，然后在此基礎之上，對每一個指標所存在的具體風險進行了準確的風險等級的評分。通過這些方式，建立了RBF系統，該系統是一個安全評價系統，可以對相關系統進行精確的安全風險評估。王秀珍和張美戀在基于他們所構建的RBF系統上再進行了示范性的仿真實驗，通過這些實驗也證明了該系統在安全評估系統上的合理性和有效性。

2007年，牛源對商業銀行安全狀況的評估進行了改進。在評估商業銀行的安全狀態時，牛源采用了把專家系統和神經網絡相結合的方式。在他的研究過程中，首先，他選擇的研究對象為中國大陸的一家商業銀行，然后整理該銀行在過去10年間的數據。在這十組數據當中，對前八組數據進行再一次的整理，然后將這些數據作為今后學習的樣本，對其分別輸入向量組P，剩下的兩組數據主要用于預測。對這兩組數據的預測結果發現，運用神經網絡的方法來建立相應系統然后對商業銀行的安全狀況進行評估的準確性非常高。在對商業銀行的風險等非常復雜的非線性問題上，神經網絡系統建立起來的系統有著非常強的逼近和預測能力。

同年，MchmedOzkan等人使用了人工神經網絡的方法對商務銀行的風險進行了預測。在整個實驗過程當中，他們選取了一家土耳其的破產銀行為樣本，進行實驗。經過了他們的實驗，他們巧妙地發現，在財務數據的模式分類上，人工神經網絡起到了非常重要的作用。人工神經網絡對其進行分類，這種分類方法可以運用在預測商務銀行的危機上，除此用途之外，人工神經網絡還可以檢測出商業銀行各種潛在的危機。根據這些危機，銀行就可以采取一定的措施保障其安全。通過眾多專家對BP神經網絡的一系列研究不難發現，BP神經網絡在處理經濟數據時與其他的處理方式相比有諸多的優勢。BP神經網絡可以通過自身的學習，可以從各種數據中發現其潛在的規律，因此它能夠處理各種數據。神經網絡是一種非線性的自然的建模過程，因此它并沒有復雜的傳統過程的分析，也就不存在辨別何種非線性關系。在實際操作中，對于一些傳統的方法，要分清屬于何種非線性關系會給后續的分析和建模帶來非常大的不便和困難。

二、設置商業銀行風險預警體系和確定閥值

對于一個完善而又健全的商業銀行風險預警指標體系來講，其一方面要滿足機構內部各個層次之間相互配合的基本要求，另一方面又要是對宏觀經濟基本走勢的綜合反映。從宏觀的方向來看，宏觀預警要考慮到諸如貨幣流通風險、房地產泡沫等方面的風險因素，主要是考慮外部條件對整個銀行業的影響。從微觀上來講，主要是考慮包括資本性風險、盈利能力等方面的風險，微觀方面的因素主要考慮是考慮銀行機構的風險。

1.宏觀上的預警指標體系對于整個銀行業風險來說它會受到整體宏觀經濟的影響。宏觀經濟中存在的問題都會對銀行業產生不同程度的影響。經濟增長率也就是俗稱的GDP增長率，它是對一個國家在經濟上的發展狀況的具體體現。反映的是相較于前一年，GDP的增長。對一個國家在經濟上發展的基礎條件的主要反映在固定資產投資額的增長率上。在泡沫經濟當中，房地產占據了相當重要的席位。在經濟環節中所爆發的各種銀行清償力危機、信用危機等都是由房地產行業危機產生的。國房景氣指數是衡量房地產行業的一個重要指標，它可以反映整個房地產行業的變化程度和發展趨勢，通常用百分制的方式來表示。

2.微觀上的預警指標體系對于一個銀行來講，它本身的資產是獲取資金的重要保障，當然除此之外，銀行業可以通過負債的方式來經營。要衡量銀行在風險抵御和經營方面的穩定性可以從銀行的核心資本充足率和資本充足率來進行衡量，這兩個因素可以比較綜合地反映一個銀行的資產方面的信息。對于商業性銀行來講，流動性風險也是其不得不面對的一個風險因素。它是所有風險因素當中最直接的風險因素，也是在各種風險都發生了之后，最終表現出來的風險因素。存貸款比例和資產流動性比例是在基于中國的現實條件之下而建立起來的針對各個銀行的流動性風險預警的兩個指標。商業銀行在資產流動性方面的強弱可以通過資產流動性比例反映出來。流動性資產與流動性負債之間比例就是資產流動性比例。

3.確定商業銀行的閥值在確定了指標體系的前提下，對于一定范圍內預警指標的數據是否會引發危機的產生可以通過閥值來確定。在閥值問題的確定上，本文主要是通過對相關的國際通用標準來進行最終的確定，對于有的閥值由于其并沒有非常明確的國際通用指標值，因此，在對這些閥值的確立工作上，主要參考了相關的專家在這一領域的研究成果和若干歷史數據。

三、對于商業銀行在操作風險預警方面的應用和建議

大多數商業銀行通過matlab神經網絡工具箱進行編程工作，以此對銀行在操作風險預警系統方面的數據進行處理。在分析了各種銀行操作風險的特點之后，盡量選擇時間序列的數據，在這些數據的選擇上，盡可能選擇時間跨度較小，或者以月或者日為基準的數據，通過對這些數據的研究可以使得預警的在時間上的間隔盡可能地小。與一般的風險評估系統相比，BP神經網絡對于商業銀行在操作風險預警系統上的分析并不是出于主觀的因素，整個網絡系統具有高度的客觀性，同時它還具有高度的預測精準度和非常優秀的非線性處理能力。BP神經網絡所具備的種種特點都使得它與其他的系統相比，最大化地避免了人為因素引起的失誤，可以想象，BP網絡系統會在未來商業銀行風險的管理和預測上有非常大的用途和現實意義。

在實際對銀行的預警系統的控制工作中，由于很多因素都可以直接或者間接地影響到操作風險，并且有一部分的影響因素從一些人力資源系統和商業銀行業務系統中都很難獲取，因此，對于這一部分的統計計算就需要用手工的方法在事后進行統計計算。通過這種方式，才能夠使得操作系統在判斷上能夠有效、準確。除卻相關的風險預警系統，商業銀行自身還應該完善其銀行業務的各類信息系統。銀行在完善這類信息系統的同時，要考慮多方的因素，不應該僅僅停留在對關鍵風險指標等因素的計算上，對于其他能夠影響操作風險的所有因素都要進行考慮，并且歸納到信息管理系統當中。各種科學風險預警系統的有效運用，能夠使得商業銀行在風險預警方面居于有利地位，為各銀行在操作風險上提供有效的措施和幫助。

第8篇：神經網絡主要存在的問題范文

【關鍵詞】信用風險評估 判別分析 Logit模型 BP人工神經網絡模型

一、引言

銀行在現代經濟體系中發揮著非常重要的作用，尤其是在創造貨幣存款、實現金融政策效率、社會投資實現等方面都起到了舉足輕重的核心作用。信用風險評估是銀行信用風險管理的關鍵環節，關系到銀行自身的生存和經濟社會的穩定和繁榮，世界上所有國家都非常重視對銀行信用風險的監管和評估，特別是發達國家更是對此關注度極高。我國商業銀行和金融市場仍處在轉軌和新興發展階段，信用風險管理方法和技術比較落后，因此加快我國信用風險評估方法研究顯得尤為必要和迫切。

信用風險評估方法的研究可以追溯到上世紀30年代，大致經歷了比例分析、統計分析和人工智能三個階段。本文試圖通過闡述統計模型和人工智能模型中的典型代表來分別闡述其實現條件和過程，分析各種方法的不足，并對我國銀行信用風險評價方法給出評價和建議。

二、兩類銀行信用風險評估方法介紹

（一）傳統統計方法概述

傳統的統計分析方法主要是基于多元統計分析方法，其基本思路是根據已經掌握的歷史上每個類別的若干樣本，從中分析出分類的規律，建立判別公式，用于新樣本的分類，典型的代表有多元判別分析（MDA）和Logit模型分析。

1.多元判別分析（MDA）。數理統計理論中判別分析模型主要有三類，分別是距離判別法、Bayes判別分析法、Fisher判別分析法；在三種判別分析方法中，距離判別法是根據個體到總體間的距離進行判別；Bayes判別是在已知總體分布的條件下求得平均誤判概率最小的分類判別函數；Fisher判別是在未知總體分布函數的條件下，根據Fisher準則得到的最優線性判別函數，Fisher準則的基本思想就是利用一元方差分析思想，導出線性判別函數。

2.Logistic模型的提出。由于多元判別分析模型（MDA）在應用的過程中要求有正態分布的假定，而在現實經濟生活中常無法滿足，所以當涉及到一些樣本數據不同分布于正態分布時，應用MDA模型所得到的研究結果缺乏可信度，從而探索非同分布的方法就十分必要，其中最常見的一種方法就是應用Logistic模型，Logit分析與MDA分析最本質的差異就在于Logit分析不需要樣本滿足正態分布或同方差，其判別正確率高于判別分析結果。Logit模型采用logistic函數，函數形式如下：

Y=,η=с0+cixi；

其中xi（1≤i≤p）表示第i個指標，ci是第i個指標的系數，Y是因變量，因為Y∈（0,1），所以Y也可以理解為屬于某一類的概率。

由于logit分析無需假定任何的概率分布，所以就不需要類似于判別分析那樣先進行檢驗而是可以直接應用樣本數據計算，以得到logit模型。

（二）人工智能模型（AI）概述

1.人工神經網絡及BP神經網絡概述。人工神經網絡是一種具有模式識別能力的計算機制，它具有自組織、自適應和自學習三大特點，它的編碼可以用于整個的權值網絡，不僅可以呈現分布式存儲，而且具有相當大的容錯能力。在人工神經網絡中，下面提到的BP神經網絡技術是算法最成熟且應用最廣泛的一種。

2.BP神經網絡的基本原理和算法。第一，BP神經網絡的基本原理。

BP神經網絡屬于前向三層即前饋式神經網絡的一種典型分支代表，主要是由以下三個部分組成即輸入層、隱含層和輸出層組成。

第二，BP神經網絡的基本算法。

BP學習算法的基本思想是通過由輸入層輸入的信息，傳導至隱層分析后再由輸出層輸出，如果輸出層的結果未達到期望值要求則計算每個神經元的誤差值并且將這些誤差值重新反向傳遞到隱層的神經元，根據誤差值調整各個神經元的連接權值，直到誤差值達到了期望值的要求。

BP神經網絡技術一般運用傳遞函數來反映下層的輸入對上層節點的刺激脈沖強度，因此傳遞函數又稱為刺激函數，通常情況下取（0，1）內連續取值Sigmoid函數。

Sigmoid函數函數可以表示為：

該函數可以用于計算和反映出實際的計算輸出與期望輸出間的誤差大小。

三、兩類方法存在問題的分析

（一）統計分析方法存在的問題

傳統統計分析模型是以歷史數據作為分析和建立模型的基礎，這些數據僅以會計賬面價值為原始來源，沒有將銀行貸款者的非財務因素納入模型當中，并且這些會計賬面數據屬于離散和非連續性的數據類型，因此很難捕捉到這些銀行貸款者信用狀況細微和快速的變化，無法對貸款者的信用狀況做出比較全面的評價。另外，該類模型處理速度慢且數據的準確性較差，屬于靜態模型沒有自主的調整能力。

（二）人工智能模型存在的問題

人工智能模型最大的缺陷在于指標和加權值的確定帶有很大的主觀性和不確定性，造成在網絡結構確定方面存在較大困難，另外該模型的訓練效率比較低，解釋能力也比較差，在建模過程中經常出現組合爆炸和過度擬合等問題。其典型代表神經網絡系統的缺陷主要有以下幾個方面，第一，所謂“黑箱子”問題，即神經網絡沒有辦法確定輸入變量之間的具體的函數關系，也無法產生有效的統計規則來解釋模型的具體運行過程，這使得模型在應用時缺乏透明度和可信度；第二，在指標選取方面，神經網絡模型對于非線性的方法沒有統一具體的成熟方法進行分析指標選取；第三，模型結構的問題，神經網絡模型在應用過程中效果表現的好壞和預測結果的精確程度主要決定于系統結構的設計是否合理和科學，但是如果想要得到一個比較好的神經網絡結構通常會消耗大量的人力和時間，這些在實際的建模過程中經常無法同時滿足。

四、對我國銀行信用風險評估的啟示

（一）我國銀行信用風險評估存在的問題

我國商業銀行信用風險評估方法的主要缺陷可以概括為以下幾個方面，首先，在商業銀行信用風險評估中，大部分采用的仍然是專家系統機制，即通過個別專家系統的經驗和個別風險分析人員提供的信息來對信貸的風險進行評估和決策，這就導致信用風險評估效果較低且銀行無法及時地應對金融市場的即時變化；其次，國內對銀行信用風險評價方法的研究中大都缺乏定性分析和定量分析相結合的探索，片面的停留在定性分析和定量分析的兩個極端，第三，在現今的銀行信用風險評估指標體系方面，沒有形成客觀、科學、有效的指標體系，大多數信用風險模型選取的都是財務性指標而缺乏那些影響信用風險的非財務指標；最后，由于我國金融市場的發展起步較晚，銀行業各種運作機制存在很多的問題尚待完善和發展，其中很重要的一點就是我國商業銀行在客戶資料收集、整理和存儲方面存在很大的不足，未能建立有效的風險評估數據庫系統，不能為風險評估模型的運用提供很好的樣本基礎，成為制約我國風險評估方法發展的一大瓶頸。

（二）對我國銀行信用風險評估的啟示

雖然我國商業銀行信用風險評估的方法和理論得到了不斷地發展，但其中仍存在需要改進的地方。在我國，大多數先進的銀行信用風險評估方法是建立在西方發達國家商業銀行對歷史數據的統計分析和經驗總結的基礎上，還不能夠直接應用到我國商業銀行信用風險評估當中，因此我國商業銀行在研究和探索信用風險評估方法時必須考慮到我國自己的基本國情、金融市場發展的現狀以及銀行業自身發展的客觀現實等。

針對以上分析的國內信用風險評估方法發展的現狀，我們可以通過從以下幾個方面來改善和提高。一方面，商業銀行應該建立切實有效的企業信貸風險管理數據庫系統，加強對企業各類違約風險評估數據的收集、整理和管理，及時更新和加強數據庫的建設。另一方面，商業銀行需要建立自身內部的信用評價體系，為現代信用風險評估的運用創造適宜的條件和基礎，將定性方法和定量方法相結合，進一步推動我國銀行信用風險評估方法的發展。最后，任何完善的信用風險評估方法都離不開高素質的專業風險管理人才，因此加強信用風險評評價的人才隊伍建設也是一個刻不容緩的課題，商業銀行應該加快培養高素質信用風險評估人才的步伐，同時要在全球范圍內大量吸納那些已經具備信用風險評估專業知識和技術的優秀人才，為推動我國信用風險評估方法的進步不斷尋求突破。

參考文獻

［1］柯孔林，周春喜.商業銀行信用風險評估方法研究述評［J］.商業經濟與管理，2005(6)

［2］王建新，于立勇.基于信用風險度的商業銀行風險評估模型研究［J］.管理工程學報，2007(4)

［3］徐曉霞，李金林.基于決策樹法的我國商業銀行信用風險評估模型研究［J］，北京理工大學學報，2006, 8(3)

［4］王莉，鄭兆瑞，郝記秀.BP神經網絡在信用風險評估中的應用［J］.太原理工大學學報，2005,36(2)

［5］韓崗.國外信用風險度量方法及其使用性研究［J］，國際金融研究，2008

［6］閆曉麗，徐建中.商業銀行信用風險評估模型比較研究［J］，哈爾濱工業大學學報（社會科學版），2007,9(2)

［7］鄭毅，藺帥.遺傳神經網絡在商業銀行信用風險評估中的應用［J］.社會科學家，2008,(1)

第9篇：神經網絡主要存在的問題范文

關鍵字：數控機床；機械故障；專家系統；神經網絡；網絡化

1 引言

由于數控機床具有提高零件的加工精度、穩定產品的質量、提高產品的生產率、可適應不同品種及尺寸規格零件的自動加工等優點，因此其運用越來越廣泛，已經成為一個國家工業水平和綜合科技水平的重要標志。數控機床對大中型企業來說，是其最重要的設備，如果其任何部分出現故障，其就會導致精度減低，嚴重的話，使企業停頓，企業的經濟損失更大，進而對相關人員的安全造成危害。在一方面，數控機床特點就是先進、復雜和智能化，當其出現故障后，維修也相對困難，因此對數控機床機械故障診斷進行分析研究就顯得非常迫切。

2 診斷故障系統的網絡化管理

2.1專家系統和神經網絡內涵

1）專家系統的基本原理；具有獲取、處理、存儲和使用知識的特點的系統叫做專家系統（可以進行知識處理），其主要包括知識庫、推理機、數據庫、知識獲取模塊、解釋程序和人機接口等方面組成。

2）專家系統和神經網絡的結合；盡管在運用方面，專家系統取得了不小的成就，但是，其在模擬人類抽象思維方面也有著明顯的缺陷，這些缺陷主要有：（1）存在“瓶頸”問題；（2）推理能力弱；（3）自學習能力差；（4）存在“窄臺階效應”。

3）神經網絡的基本結構；神經網絡的基本結構主要有以下七部分組成，具體如：（1）一組處理單元（讓相關單元可以激活）；（2）輸出函數（由處理單元進行輸送）；（3）銜接模式（主要處理單元之間的鏈接問題）；（4）一定規則進行傳遞；（5）一定規則進行激活（輸入處理單元和當前狀態結合規則）；（6）一定的學習規則（根據經驗進行聯接）；（7）系統所需要的環境。

2.2專家系統和神經網絡的結合

2.2.1對專家系統和神經網絡進行比較

根據其二者不同的定義、結構及工作原理，神經網絡與專家系統是兩種截然不同的技術：其主要區別有：（1）知識獲取不同；（2）知識表示不同；（3）推理形式不同。

2.2.2 對專家系統和神經網絡的相關性進行分析

二者存在的特點各不相同，神經網絡和專家系統在其各自的領域都運用較為廣泛，但同時在滿足設備故障診斷任務方面又各自存在著的局限性，因此就需要讓其二者有效結合起來，其結合方式主要有：（1）神經網絡與專家系統共存于一個系統中；（2）使用神經網絡來構造專家系統。

2.3 神經網絡的類型選擇及結構設計

2.3.1 神經網絡不同選擇類型

由于徑向基函數網絡具有確定自適應、輸出與初始權值無關等各種優點，因此其在擬合多維曲面、重構自由曲面和故障診斷等方面有著巨大的運用。因此認為徑向基函數神經網絡是最好的。

2.3.2 隱層神經元的設計

提取并存儲內在規律，使每個隱層神經元都有不同的權值，同時每個權值都相對應著一個參數（增強網絡映射能力）。

2.4基于web的神經網絡專家系統

對現代信息傳輸載體（比如Internet）進行有效利用，可以較快地傳遞和收集相關故障信息，高效提高診斷故障的能力，使數控機床設計者和使用者更好地參與進來，以期得到更合理的措施。

3 系統的總體設計原則

3.1網絡化專家系統的設計原則

其設計的原則主要有以下幾方面，具體如下：（1）模塊化原則。（2）實用性原則。（3）可擴充原則。（4）安全性原則。（5）統一性與簡單性原則。

3.2專家系統的功能模塊設計

新用戶首次登陸必須要通過注冊模塊先進行注冊，老用戶可以直接登陸，登陸又分為管理員和普通用戶登陸，只有管理員有權利處理系統的數據庫。通過故障診斷模塊對相應故障進行診斷，其功能模塊主要主軸、進給系統、刀庫刀和輔助裝置等幾部分組成。

3.3系統運行的環境

1）Web服務器的選取；通過Windows操作系統，發揮在PC界的優勢，推出的IIS成為目前運用最廣泛的服務器，經過驗證，也是目前用戶最好的選擇。

2）后臺數據庫的選取；通過分析研究，同時結合Access的特性、相關程序的匹配性和開發者的業務水平，本文的系統選取Access最為合適。

3.4系統的軟件開發環境

3.4.1 服務器相應的軟件環境

操作系統：Windows XP Server/Professional；服務器：IIS6.0；數據訪問：ADO -ActiveX Data Objects；數據庫系統：ACCESS

3.4.2 客戶自己機器所對應的軟件

操作系統：Windows 98/2000/xp，瀏覽器：IE5.0以上，MATLAB6.5以上版本。

3.5開發相應工具分析

目前開發工具主要有以下兩種形式：（1）網絡化專家系統開發工具：具體采用FrontPage。（2）徑向基函數神經網絡開發工具：具體采用MATLAB程序控制。

4 系統的研究與實施

4.1總體結構設計

該系統的總體結構主要采用一個并列協調式（神經網絡和專家系統并存）。兩者分別處理各自不同的知識，管理著不同的模塊，分別處理各自不同的功能，但是也可以進行聯合診斷。

4.2知識庫的設計與實現

本系統直接把數據庫和數據庫管理系統作為知識庫的重要組成部分，一方面通過數據對象來處理知識，另一方面，用數據庫來對相關知識的存儲、編輯、刪改、更新查詢和安全保護等功能進行有效管理。

4.3推理機的研究與實實施

通過模擬專家的思維模式，對相應問題進行控制和研究，這是推理機的主要功能。結合目前已知的事實，通過知識庫，按照一定的規則和方法，進行推理分析，再對其修正，得到最終的結果。

4.4解釋模塊及人機界面

解釋功能作為數控機床機械故障診斷系統最主要的功能，其主要具有向用戶、遠程用戶、領域專家和知識工程師解釋相關的問題的優點。目前的人機界面都需要通過ASP編程來實現，主要采用中文視窗的的模式，這樣比較簡單明了，更容易實現人機交互。

4.5徑向基函數神經網絡故障診斷

當專家系統部分得出的初期診斷結果不能使用戶滿意那么就需要進行進一步的深層次診斷。采用徑向基函數神經網絡進行深層次的定量診斷。

5 結論

由于現在數控機床的技術和水平的快速提高，其相應結構復雜程度進一步提高，功能也越來越多，這樣就是的設備出現的問題概率大大增加，因此針對數控機床存在的機械故障進行分析研究，提出采用網絡化對其故障進行控制的方法，以期更好地服務相關公司，為之后出現的機械故障提供一定的參考。

參考文獻

（1） 李曉峰.數控機床遠程故障診斷專家系統的研究（D）.遼寧：沈陽工業大學，2005.

（2） 趙中敏.數控機床故障診斷技術的發展和關鍵診斷技術（J）.中國設備工程，2007 6： 5152.

（3） 朱文藝，李斌.基于Internet的數控機床遠程故障診斷系統的研究（J）.機床與液壓，2005-9：176178.