公務員期刊網 精選范文 神經網絡隱含層數的確定范文

    神經網絡隱含層數的確定精選(九篇)

    前言:一篇好文章的誕生,需要你不斷地搜集資料、整理思路,本站小編為你收集了豐富的神經網絡隱含層數的確定主題范文,僅供參考,歡迎閱讀并收藏。

    第1篇:神經網絡隱含層數的確定范文

    根據對江蘇地區農村住宅建筑節能的分析,并通過統計大量文獻中對農村住宅建筑節能指標的描述,可將江蘇地區農村住宅建筑節能評價指標歸納為建筑外形設計、圍護結構、設備節能、新能源的利用這四個主要方面進行評價。對這四個指標做進一步分解,可以得出19個子指標,

    2江蘇地區農村住宅建筑節能的綜合評價方法

    2.1信息熵方法對建筑節能評價指標的篩選

    為了從已經構建的初始評價指標中提取主要評價指標,可以采用信息熵法剔除其中對評價影響不大的指標。具體操作步驟及方法如下:第一步:將初始的指標矩陣進行標準化處理。假定所選的評估對象有N個,初始的指標有M個,則可以構建N×M階的矩陣,定義為矩陣A。按照式(1)進行標準化后的矩陣為A′。a′ij=(1)第二步:熵值的求取。令pj表示熵值,則,Πij=pj=-ΠijlnΠij(2)第三步:熵權的確定。Wj表示求出的熵權的大小,則,Wj=(3)第四步:確定某個評價指標的具體權重。權重值用Qj表示,則,Qj=(4)第五步:將第三步求出的熵權與第四步求出的具體權重進行結合,剔除冗余指標,確保評價的穩定性。

    2.2BP神經網絡方法對農村住宅建筑節能的綜合評價

    BP神經網絡可以用于逼近任意的一個非線性的函數,同時具有超強的自適應以及存儲能力。采用BP神經進行評價時,其運行的主要思想就是將搜集到數據輸入到該系統中,然后系統進行自我訓練,擬合各指標間的最優關系,并自動記憶、存儲所選指標對綜合評價對象的影響權值,繼而對類似對象做出客觀的評價。在進行BP神經網絡訓練之前需要構建BP神經網絡結構,主要需要以下參數。

    (1)BP神經網絡的節點數與層數的確定BP神經網絡結構的確定需先確定輸入、輸出層節點數、隱含層的層數以及隱含層節點。輸入層節點數為指標個數,輸出層節點數為建筑節能綜合評價指標。在規模不大的情況下,常采用一個隱含層。隱含層節點數可根據式(5)確定。Ny=(5)其中,Ny表示隱含層節點數;Ni表示輸入層節點數;No表示輸出層節點數;NP表示訓練樣本個數。

    (2)BP神經網絡相關參數的確定確定BP神經網絡結構后,需要確定網絡函數的選取、初始權重的確定、期望誤差、學習速率、訓練次數等相關參數。

    3江蘇農村住宅建筑節能的綜合評價

    首先對初始建立的評價指標進行篩選,剔除其中可能對評價結果有干擾的影響因素。聘請10位專家對初始的評價指標進行打分,然后依據信息熵方法進行處理,最終得出的綜合評價指標包括b11、b12、b13、b14、b21、b22、b23、b24、b25、b31、b32、b33、b41、b45、b46這15個評價指標。采用三層BP神經網絡模型,即輸入層、隱含層、輸出層各一層,輸入節點數為選定的評價指標數15,根據式(5)確定隱含層的節點數為7,輸出節點數為1。函數采用Sigmoid函數,初始權值為[0,1]區間的較小的數,誤差期望為0.01,學習速率為0.001,訓練次數為10000次。筆者選取了江蘇省某地區的6個農村住宅建筑作為評價對象,以其中的5個作為訓練樣本。數據主要是通過調查得到并做歸一化處理,聘請相關專家對這幾個樣本進行綜合評分,用t表示。經過訓練,將第六個樣本作為評價對象,采用該模型進行綜合評價,各指標的初始值見表3。采用經訓練后的BP神經網絡模型進行綜合評價,得出的最終評價結果為0.932,這與通過專家打分法得出的評價值0.927相比,誤差為0.005,相對誤差為0.5%。這充分說明采用BP神經網絡模型進行綜合評價是可行的,且其評價的精度比較高。

    4結語

    第2篇:神經網絡隱含層數的確定范文

    [關鍵詞]人工神經網絡;旅游物流;需求預測

    [DOI]1013939/jcnkizgsc201538051

    1引言

    旅游物流對廣西地區經濟的發展至關重要,準確把握、預測旅游物流需求有助于有關部門制定合理的旅游物流規劃、促進國民經濟可持續發展、提高居民生活水平。國內學者通過一定的方法和模型確定了影響旅游物流能力的關鍵要素,為旅游物流需求的預測提供了一定的理論基礎,而在物流需求預測方面也提出了很多如時間序列模型、灰色預測、回歸分析等具有創新性和實踐意義的方法。由于旅游物流具有的獨特性和負責性使得這些模型及分析方法在前提條件、適用范圍和側重點的選取方面具有一定的困難,因此在實際應用中各有利弊。人工神經網絡可以將定量或定性的信息等勢的分布貯存于網絡內的各神經元,有很強的魯棒性和容錯性,通過建立基于人工神經網絡的預測模型,利用Braincell軟件進行計算以期達到精確預測旅游物流需求的目的。

    2旅游物流的需求界定

    經過多年的發展,關于旅游物流需求的定義至今仍沒有一個令各方滿意的結論。物流服務貫穿了整個旅游活動過程中,旅游物流可以看作為了使旅游消費者獲得更好地滿足感和旅游體驗,與旅游相關的主體提供讓旅游消費者更為暢通流動的旅游服務,與此相應的旅游物流的能力指提供的旅游服務內容以及相關主體使用物流設施對旅游物流活動進行計劃、組織、協調和控制的能力,到旅游物流的具體環節,可以從涉及旅游者的吃、住、行、購、游、娛等方面界定旅游相關主體運用物流設施為游客提供旅游服務的能力。文中對旅游物流需求的預測可以從往年的旅游物流能力方面進行預測,通過準確的預測旅游物流需求可以較好地規劃未來年份旅游業發展方向,對物流設施和設備進行準確的投入,減少資源的浪費及設施投入不足的狀況。

    旅游物流能力是指旅游服務主體向旅游消費者從“吃、住、行、購、游、娛”6個方面提供服務的能力,旅游物流需求可根據這6方面來選取指標,但是旅游物流需求預測的準確性不僅受到旅游物流的獨特性的制約,還受到一些客觀性條件的影響。如物流統計制度不健全,目前,我國仍沒有建立系統全面的物流統計制度,更沒有涉及旅游物流領域;物流統計沒有涉及物流活動的全過程;物流統計指標過于單一。此外,國內只有基本的貨物運輸量和貨物周轉量統計,其他與物流相關的指標沒有公開的統計資料,也沒有權威的統計方法和基礎數據,致使物流需求預測不能通過直接指標來衡量需求規模的大小。

    3基于神經網絡的旅游物流需求預測模型的建立

    神經網絡具有非線性、曲線擬合能力、學習能力和抗干擾能力,是一種通用的非線性函數逼近工具。通過對BP神經網絡的訓練,特別適用于構造非線性預測函數,而且精度可達到預定的要求。

    31預測領域中的BP神經網絡模型簡介

    BP神經網絡通過正向輸入,反向傳播誤差不斷迭代的學習過程,直到誤差減到可以接受的程度。一般包括輸入層、隱含層和輸出層的單隱含層網絡就能以任意精度表示并揭示任何連續函數所蘊含的非線性關系。其中:

    (1)工作信號正向傳播。輸入信號從輸入層經過隱含層,傳向輸出層,在輸出端產生輸出信號,這是工作信號的正向傳播。在信號的正向傳播過程中網絡的權值是固定不變的,上一層神經元的只影響下一層神經元的狀態,即正向影響。如果在輸出層不能得到期望的輸出,則轉入誤差信號反向傳播。

    (2)誤差信號反向傳播。網絡的實際的輸出與所期望的輸出之間差值即為誤差信號,誤差信號由輸出端開始逐層向前傳播,即誤差信號的反向傳播。在誤差信號反向傳播中,神經網絡的權值根據誤差的反饋進行調節。通過不斷地對權值的修正,使實際輸出更加接近期望輸出。

    (3)預測神經網絡流程。通過了解工作信號與誤差信號的傳播方向,可以清楚地了解預測神經網絡的工作流程。預測開始時神經網絡讀入樣本、權值,通過計算輸入層的輸入得出結果傳遞到輸出層,在輸出層進行計算,最后在計算輸出值與期望值的誤差。若誤差小于確定值則計算結束,若誤差大于確定值則繼續回到前兩層進行權值調整,把調整后的權值重新輸入到模型中,直到誤差小于設定的確定值。

    本文應用Braincell神經網絡軟件來實現神經網絡的計算與分析。

    32BrainCell軟件及實現

    321BrainCell 神經網絡基本原理

    BrainCell 神經網絡采用誤差反向傳播學習算法,算法從兩個方面(信號的前向傳播和誤差的反向傳播)反復進行迭代學習,與神經網絡預測模式基本原理相同。

    322BrainCell 神經網絡實現步驟

    (1)數據的預處理和后處理。為方便的計算減少誤差,保證數據同一量綱,需要將數據歸一化為區域[0,1]之間數據。在實際的預測模型中當數據接近0或1的時候訓練效果會明顯下降。因此,為了避免數據落入最大飽和區,保持數據的原有特征,根據經驗將數據規范到[015,085]來進行修正。模型中采用反歸一化處理輸出數據。

    (2)網絡層數目的確定。由Kolmogorov定理可知,含有一個神經元隱含層的三層神經網絡可以從任意精度逼近一個從輸入到輸出的映射關系,因此在Braincell神經網絡中采用含有單隱層的三層神經網絡[2]。

    (3)網絡節點的確定。輸入層節點的多少與評價指標個數是相對應的。

    (4)網絡訓練。假設訓練樣例是形式(x,y),其中x為輸入向量,y為輸出值。N為輸入節點數,M為輸出層節點數。從單位i到單位j的輸入表示xij,單位i 到單位j的權值表示Wij。一是創建具有N 個輸入單位,M 個輸出單位的BrainCell 神經網絡;二是用隨機數(0 或1)初始化某些數字變量網絡權值Wij;三是對于第k個訓練樣例(a,b),把入跟著網絡前向傳播,并計算網絡中每個單元x的輸出Qx,使誤差沿著反向傳播;四是對于每個輸出單元u,計算它的誤差項;五是對于每個隱含單元h,計算它的誤差項;六是利用誤差項更新調整每個網絡權值;七是重復三到六點,直到完成指定的迭代次數或者是其誤差值達到可接受的范圍。

    33神經網絡的旅游物流需求預測模型的建立

    331模型中數據指標確定

    目前我國仍沒有健全的物流統計制度,因此實際工作中收集旅游物流需求數據十分困難。這里采用間接指標法――利用與旅游物流需求相關的經濟指標來建立旅游物流需求的經濟指標體系,通過數學的方法進行總結與推導,確定旅游物流需求模型。

    旅游物流需求是一種派生需求,這種需求的大小與其本身發展有著密切的關系。從宏觀層面上考慮主要有內外兩部分因素:旅游業自身發展的狀況及外部環境的影響。從微觀層面來說,旅游業自身發展的狀況是旅游物流需求的關鍵因素。旅游業產值越高,旅游物流需求增長隨之增加,反之亦然。由此,本文選取旅游總收入和接待人數作為預測旅游物流需求的指標。其次,影響旅游物流的其他關鍵因素就是旅游行業本身所投入的設施、人員、公路鐵路旅客周轉量等因素。根據旅游物流能力的理解從“吃、住、行、購、游、娛”等方面進行指標的選取,如“吃、住”方面使用餐飲住宿從業人數、星級飯店數目衡量;“行”使用公路、鐵路旅客的周轉量來衡量等;“游”則使用旅行社從業人數等方面來衡量。這些因素都對行業的產值有較大的影響。因此,在模型中可將這些相關經濟指標作為旅游物流需求規模的影響因素。由此可選擇如下輸入層指標:星級飯店數X1、接待入境旅游者平均每人消費額X2、餐飲住宿業從業人數X3、旅行社從業人數X4、鐵路旅客周轉量X5、公路旅客周轉量X6、旅游部門游船年末實有船數X7,旅游部門旅游客車年末實有數X8,共有8個。而把旅游業的年收入Y1與年接待入境旅游者人數Y2作為物流需求預測的目標。

    332數據來源

    本文選取的數據資料來源于廣西壯族自治區歷年統計年鑒、中國統計年鑒、中國旅游年鑒,如表1所示。根據樣本數據選取原則,將2005年和2012年的數據作為網絡測試樣本,最后用訓練好的神經網絡預測2014―2016年的物流需求規模。

    333廣西旅游物流需求的BP人工神經網絡模型

    (1)樣本數據的歸一化處理。選取X1,X2,X3,X4,X5,X6,X7,X8作為廣西旅游物流需求預測BP人工神經網絡模型的輸入,Y1,Y2為BP網絡的輸出。根據BP 的本身特點,對輸入層數據進行歸一化時,采用如下公式:y=log[JB((]x[JB))]/10。對輸出層數據則使用歸反一化處理,公式如下:P=log[JB((]tT[JB))]/10。

    (2)網絡節點的確定。根據構建好的評價指標體系,可以確定輸入層的節點數為8,輸出層的指標數為2。

    (3)網絡訓練。以traindx作為訓練函數,利用matlab計算。可知在最大訓練次數為200次,目標誤差為001,學習率設置為003,誤差曲線收斂于目標001,進過45次迭代后,網絡達到目標要求,訓練誤差圖見下圖。

    訓練誤差圖

    通過設置的數據,使用Braincell軟件對數據進行訓練,選取全部數據作為樣本數據組,2010―2013年的樣本作為將預測樣本,輸入模型可得2010―2013年的預測值見表2。

    據表3可以看出,預測效果較好,一般來說,對于經濟指標的預測,誤差能夠控制在3%以內就算比較準確。因此,基于與旅游物流相關的其他經濟數據來建立BP神經網絡模型預測旅游物流需求有一定的實用價值。

    4結論

    根據人工神經網絡理論建立的旅游物流需求預測模型,通過Braincell神經網絡的自學習特征,運用traindx函數進行訓練,在訓練過程中對權值進行不斷修正,誤差比率控制合適的在范圍內,使網絡的實際輸出向量逐漸地接近期望的輸出值。最后把仿真的預測結果與真實量進行初步比較分析,得出的結果能夠證明使用神經網絡模型對旅游物流的預測精度較高。因此可以得出以下的結論:用BP神經網絡建立模型,可以準確地把與旅游物流相關的經濟數據與目標本身的需求量進行結合,可得到較為精準的旅游物流需求預測值。由此可以推斷,人工神經網絡作為高度的非線性體系,能夠對經濟系統中個變量之間的非線性關系進行高精度的預測,將其運用在物流領域中的應用具有更加廣闊的發展潛力。

    參考文獻:

    [1]王新利,趙琨基于神經網絡的農產品物流需求預測研究[J].農業技術經濟,2010(2):64-66

    [2]秦立公,韋金榮等基于BrainCell 的B2B 電子商務供應鏈協同績效評價體系[J].中國集體經濟,2014(15):112-113

    [3]張圣楠,郭文義,等基于MATLAB的BP神經網絡的設計與訓練[J].內蒙古科技與經濟,2005(17):96-98

    [4]熊勛人工神經網絡在環境質量評價和預測中的應用研究[D].武漢:華中科技大學,2009

    [5]白平,陳菊紅基于旅游物流能力的西部旅游發展研究[J].新疆大學學報,2013(41):16-17

    [6]秦立公,王東,等旅游景區物流能力優化研究[J].現代商業,2010(24):47

    第3篇:神經網絡隱含層數的確定范文

    1模型介紹

    1.1BP神經網絡預測模型神經網絡是由大量簡單的神經元相互連接構成的復雜網絡系統,其對非線性系統具有很強的模擬能力。BP神經網絡即誤差反向傳播網絡是目前應用最為廣泛的網絡算法,學習過程由信息的正向傳遞與誤差的反向傳播2個過程組成,3層(輸入層、隱含層、輸出層)的前向BP神經網絡可以任意精度逼近任意非線性函數,且運用神經網絡只需建立輸入和輸出之間的網絡關系就可對目標值進行模擬預測,所以用BP神經網絡對大型機電設備備件需求進行預測是十分有效的。研究采用3層網絡模式對大型機電設備備件需求進行模擬預測,這里選擇為n個樣本的輸入點,對應1個輸出值。其網絡拓撲結構如圖1所示。BP神經網絡預測模型參數(如隱含層數,最大訓練次數,學習精度,隱節點數,初始權值、閾值等)的確定要靠網絡訓練來實現。實現算法的軟件載體為MAT2LAB6.5.1。訓練步驟可表述如下:1)樣本數據和測試數據進行歸一化。使用歸一化函數PREMNMX;2)取-1~1間的隨機數作為初始的權值和閥值并給定精度ε,有ε>0;3)對n個訓練樣本順序輸入神經網絡,計算;4)計算E(n)的值,并與給定精度ε比較,若E(n)<ε則停止訓練,否則繼續;5)比較連續兩次的誤差值,調整學習率δ。輸入層與隱含層、隱含層與輸出層的權數與閥值分別調整為:已知輸出層的神經元Y,對Y反歸一化(反歸一化函數POSTMNMX),即得到預測的需求數據。

    1.2馬爾科夫鏈預測模型馬爾科夫鏈是一種特殊的隨機過程(馬爾科夫過程),其可以根據系統當前時刻的狀態推求下一時刻的狀態概率分布,進而得到下一時刻的狀態。其基本原理是:按照某個系統的發展,時間可離散為n=0,1,2,3,對每個系統的狀態可用隨機變量表示,并且對應一定的概率,稱為狀態概率。當馬爾科夫過程由某一時刻狀態轉移到另一時刻狀態時,在這個轉移過程中存在著概率的轉移,稱為轉移概率。馬爾科夫鏈預測的理論基礎是馬爾科夫過程。對其運動變化的分析,主要是通過研究鏈內有限個馬爾科夫過程的狀態及其相互關系,進而預測鏈的未來發展狀況。馬爾科夫鏈預測的結果為一取值范圍,適合于對隨機波動性較大的預測問題進行修正描述。馬爾科夫鏈預測模型可表示為。

    1.3基于馬爾科夫鏈修正的BP神經網絡預測模型BP神經網絡的優勢在于短期預測,缺點在于其對長期預測和波動較大數據序列的擬合較差。神經網絡模型具有局部逼近的特性和較強的非線性映射能力,能夠很好地模擬具有較強非線性變化特點的大型機電設備備件需求預測問題,其缺點在于收斂速度慢、訓練時間長且易陷入局部極小問題。馬爾科夫鏈預測的對象是一個隨機變化的動態系統,且能夠縮小預測區間,對長期預測和隨機波動較大數據序列的預測效果較好。但是采用馬爾科夫鏈預測時,要求預測對象具有平移過程。因此,采用馬爾科夫鏈修正BP神經網絡,形成基于馬爾科夫鏈修正的組合BP神經網絡預測模型,不僅能揭示數據序列的發展變化總趨勢,又能得到預測區間的狀態變化規律,提高模型的預測精度。根據BP神經網絡的預測結果,選取適當的標準(這里采用預測結果的相對誤差)將預測數據序列劃分為若干個狀態區間;計算其一步轉移矩陣,求得一步轉移概率矩陣;確定預測的狀態向量,代入(5)即可求得基于馬爾科夫鏈修正的預測值。馬爾科夫鏈修正的BP神經網絡預測模型流程如圖2所示。將所提及的預測方法應用于某風力發電設備的供應商。選擇該供應商在2011年5月至2012年12月某型號風力發電設備相關的備件需求的時間序列數據作為研究對象。

    2實例驗證

    2.1BP神經網絡備件需求預測在對樣本試驗前,首先將樣本分成獨立的兩部分訓練集和測試集。其中訓練集用來估計模型,確定神經網絡的大概層次和節點數的大致范圍,以2011年5月至2012年5月的需求數據作為分析對象。測試集則檢驗最終選擇的組合模型的性能,以2012年6月至2012年12月的需求數據為驗證對象。BP神經網絡中相關參數設置為:輸入層為5個結點、隱含層為1層(包含10個結點)、輸出層為1個結點,即表示在滾動預測中n=5,k=1;最大訓練次數為1000次,最大循環間隔數為50次;訓練收斂誤差為0.001。經計算,BP神經網絡預測值見表1。

    2.2馬爾科夫鏈修正誤差殘值根據實際值與BP網絡預測值之間相對誤差的大小和分布密度,將其劃分為4個狀態,見表2。根據表2可以確定訓練樣本相對誤差所處的狀態,結果見表2。根據表1和表2,由式(5)和式(6)可以計算出一步狀態轉移矩陣為:根據表1和表2,由式(5)和式(6)可以計算出一步狀態轉移矩陣為。由表1中各年的狀態劃分結果確定對應的狀態向量,結合P(1)代入式(5),得基于馬爾科夫鏈修正的BP神經網絡預測模型的預測結果表3所示。從修正結果可以看出,馬爾科夫修正BP神經網絡模型可以提高預測精度,使得修正值更接近于實際值。

    3結論

    第4篇:神經網絡隱含層數的確定范文

    關鍵詞:Elman神經網絡;松散回潮;出口含水率;預測

    中圖分類號 S572 文獻標識碼 A 文章編號 1007-7731(2016)08-118-03

    1 引言

    在卷煙制造過程中,制葉絲的過程含水率控制是制絲生產中的關鍵參數,在烘絲前的含水率控制主要通過松散回潮工序中加水比例調節。不同的加水比例下松散回潮機的出口片煙含水率不同,最終將導致烘絲入口葉絲含水率的差異。因此,調節松散回潮加水比例控制松散回潮出口含水率在制絲過程中具有重要意義。董偉等[1]采用PID反饋控制修正加水量,曹正良[2]將反饋控制改進為前饋控制方式,二者均從控制的角度出發,優化控制算法,調節加水比例。李秀芳等[3-5]則采用過程參數優化的方式,通過過程參數優化,調節加水比例。以上2種方法均對松散回潮機出口片煙含水率的調節作出了一定優化,但2種方法均從內部角度考慮,而忽略了環境溫濕度等外部條件對出口片煙含水率的影響。

    為此,本研究通過對歷史生產數據的分析,采用基于雙隱含層的Elman神經網絡建立松散回潮機加水比例預測模型,然后再獲取當前環境溫濕度下,通過大量模擬加水比例輸入,找出相應輸出中與設定出口含水率設定值最接近的加水比例作為生產過程參考加水比例,利用該加水比例進行生產,保障出口片煙含水率與設定值的誤差得到改善。

    2 Elman神經網絡算法

    Elman神經網絡是J.L. Elman于1990年首先提出來一種典型的局部回歸網絡[6]。Elman網絡是一個具有局部記憶單元和局部反饋連接的前向神經網絡。Elman神經網絡的網絡結構如圖1所示,由輸入層、中間層(隱含層)、承接層和輸出層構成,其中輸入層、中間層和輸出層和傳統BP神經網絡相同,但Elman神經網絡多了一個承接層,用于保存上次輸入后中間層的狀態連同輸出數據[7-9]。增加承接層后,Elman網絡比傳統BP神經網絡具有更復雜的動力學特性,因而具有更強的計算能力,穩定性也優于BP神經網絡。隱層的傳遞函數仍為某種非線性函數,一般為Sigmoid函數,輸出層為線性函數,承接層也為線性函數[10]。

    3 基于雙隱含層Elman神經網絡的松散回潮出口含水率控制預測模型

    3.1 網絡參數選擇 以松散回潮加水比例、相應環境溫濕度為輸入,出口煙葉含水率為輸出,設定訓練目標0.05,訓練速度0.01,最大訓練步數100,以Sigmoid函數為傳遞函數,進行神經網絡訓練。對于Elman神經網絡的神經元個數及隱含層個數的確定,首先通過對不同神經元個數分別進行10次運行,結果如表1,選取10次運行對應的決定系數平均值作為評價標準,從結果可知選取8個隱含節點的測試集決定系數平均值最大。再對不同層數的隱含層各進行10次運行,結果如表2,同樣采用10次運行對應的決定系數平均值作為評價標準,從結果可知選取2個隱含層的測試集決定系數平均值最大。

    3.2 模型預測效果檢驗 采用該神經網絡對松散回潮機出口煙葉含水率進行預測,預測結果如圖3。由圖3可知,采用該神經網絡模型預測120個樣本的松散回潮機出口煙葉含水率預測曲線和實際數據曲線吻合度較高。且從誤差數據計算可知,預測誤差為0.149%。所有預測結果誤差均控制在0.5%以內,準確預測(誤差在±0.3%)比例為89.171%,能滿足松散回潮工序出口含水率為(設定值±0.5)%的允差要求。

    3.3 與多元回歸分析擬合模型相比較 圖4為采用多元回歸分析方法建立的松散回潮機出口片煙含水率線性模型,用于預測的效果。預測誤差為0.268%,大于本文方法的0.149%,存在個別預測誤差大于0.5%,且準確預測比例為77.5%低于本方法的89.171%。

    3.4 松散回潮加水比例預估方法 建立松散回潮出口含水率預測模型后,由于神經網絡模型為非顯性模型,因此可以考慮采用逼近法,不斷嘗試不同加水比例輸入,比較輸出與設定值的誤差,取滿足要求的加水比例作為加水比例預測結果即可,方法如圖5。

    4 結論

    采用基于Elman神經網絡模型建立松散回潮機出口片煙含水率預測模型,該方法建立的預測模型預測效果優于傳統多元回歸分析建立線性模型的預測效果。再通過逼近法給出了當前環境溫濕度下,指定松散回潮機出口含水率所對應的加水比例預測值。采用該方法所確定的松散回潮加水比例生產,提高了松散回潮機片煙出口含水率的控制效果。

    參考文獻

    [1]董偉,李坤,王健,等.HAUNI松散回潮滾筒含水率控制系統的改進[J].煙草科技,2012(11):20-22.

    [2]曹正良.片煙松散回潮含水率控制方式的改進[C]//2010年中國煙草學會工業專業委員會煙草工藝學術研討會論文集,2010.

    [3]李秀芳.煙片松散回潮關鍵工藝參數過程控制系統的優化設計[J].中國煙草學報,2015(3):34-41.

    [4]俞仁皓,宋家海,王建,等.松散回潮工序回風溫度PID控制參數的優化[J].煙草科技,2010(7):8-10.

    [5]趙國慶,米強,鐘青,等.因素篩選試驗在松散回潮和篩分加料工序質量評價中的應用[J].煙草科技,2007(11):24-27.

    [6]王俊松.基于Elman神經網絡的網絡流量建模及預測[J].計算機工程,2009,35(9):190-191.

    [7]錢家忠,呂純,趙衛東,等.Elman與BP神經網絡在礦井水源判別中的應用[J].系統工程理論與實踐,2010,30(1):145-150.

    [8]周云龍,陳飛,劉川,等.基于圖像處理和Elman神經網絡的氣液兩相流流型識別[J].中國電機工程學報,2007,27(29):108-112.

    [9]王宏偉,楊先一,金文標,等.基于Elman網絡的時延預測及其改進[J].計算機工程與應用,2008,44(6):136-138.

    [10]范燕,申東日,陳義俊,等.基于改進Elman神經網絡的非線性預測控制[J].河南科技大學學報(自然科學版),2007,28(1):41-45.

    第5篇:神經網絡隱含層數的確定范文

    【關鍵詞】數據挖掘 異常數據挖掘 人工智能

    1 引言

    人工智能用于異常數據檢測的方法很多,傳統的如基于統計(statistical-based)的方法、基于距離(distance-based)的方法 [1]、基于密度(density-based)的方法[2],基于聚類的方法[3]等。但這么傳統的異常數據檢測方法仍然存在著一些缺陷與不足。基于統計的數據檢測方法要求預先知道被檢測數據的分布情況,基于距離的方法中距離函數與參數的選擇存在較大的困難,基于密度的數據檢測方法方法時間復雜度較高,這些問題極大地限制了異常數據挖掘算法在現實中的應用。本文重點論述人工智能方法用于異常數據挖掘的發展史,分析和比較各自的優缺點。

    2 常用于異常數據挖掘的幾種人工智能方法的分析

    2.1 神經網絡方法

    神經網絡模型主要由三層結構組成,主要包括輸入層、隱含層和輸出層。第一層為輸入層,輸入層的節點代表多個預測變量,輸出層的節點代表多個目標變量,位于輸入層和輸出層之間的是隱含層,神經網絡模型的復雜度取決于隱含層的層數和節點數。每一層的節點都允許有多個。神經網絡模型主要用于解決回歸和分類兩類問題,其結構圖如下圖所示。

    從上圖可得,節點X1,X2,X3作為神經元的輸入,代表多個預測變量,它可以是來自神經網絡的信息,也可以是另一個神經元的輸出;W1,W2,……,Wn是神經元的權值,表示各個神經元的連接強度。通過神經網絡模型的結構圖可知,該方法的實現過程:首先將每個訓練樣本的各屬性取值同時賦給第1層即輸入層;各屬性值再結合各自的權重賦給第2層(隱含層的第1層),第1層隱含層再結合各自的權重輸出又作為下一隱含層的輸入,最后一層的隱含層節點帶權輸出賦給輸出層單元,輸出層最終給出各個訓練樣本的預測輸出。

    2.2 蟻群聚類算法

    在數據挖掘中,聚類是一個活躍的研究領域,涉及的范圍較廣。許多計算機學者們通過模仿生物行為提出一系列解決問題的新穎方法。螞蟻搜索模式樣本所歸屬的聚類中心的概率計算公式如式(1)。

    (1)

    其中,α,β為參數,初始聚類中心為隨機選取的k個模式樣本點。τ(i,j)為樣本Xj到聚類中心mj之問的信息素i=1,2, …,n,j=1,2, …,k ;η(i,j)為啟發函數,其表達式如式(2)所示。

    (2)

    其中,dj為模式樣本Xj到聚類中心mj的歐氏距離為(i=1,2, …,n,j=1,2, …,k)。

    螞蟻搜索整個模式樣本空間,形成一個聚類結果后,聚類中心mj各分量的值為該類Cj中模式樣本各屬性的均值,計算公式如(3)。

    (3)

    2.3 基于知識粒度的異常數據挖掘算法

    粒計算是人工智能領域新發展起來的一個研究方向,該方法針對不確定性信息進行處理。它主要包括三種模型,分別是粗糙集模型、模糊集模型與商空間模型。該方法的基本思想是利用不同粒度上的信息進行問題求解。該理論在多個領域得到了廣泛的應用,如數據挖掘、決策支持與分析和機器學習等。知識粒度為異常數據挖掘處理不確定性數據提供一種新的解決方法。基于知識粒度的異常數據挖掘算法,該算法不需要預先知道數據的分布情況,并且采用知識粒度度量各個對象間的距離與異常度時,能有效挖掘出異常數據。

    3 各方法的比較

    通過以上各種方法的分析,各種方法具有各自的優點以及不足之處。基于聚類的數據挖掘方法側重與于聚類的問題,該問題極大地限制了該算法在實際生活中的應用。神經網絡方法用于數據挖掘,是人工智能中較早應用于數據挖掘領域的方法之一,能夠較好的進行異常數據的挖掘,但是該方法的層數的確定比較困難,同時該方法的時間復雜度比較高;蟻群聚類算法是在聚類算法的基礎上改進推廣而得,能夠達到異常數據檢測的目的,但該算法的收斂速度慢,而且算法存在隨機移動而延長聚類時間。

    4 結束語

    異常數據挖掘研究是一個有價值的研究問題,近年來引起越來越多的學者關注和研究,從而使得異常數據挖掘算法取得了新的進展,在生態系統分析、公共衛生、氣象預報、金融領域、客戶分類、網絡入侵檢測、藥物研究等方面得到了廣泛的應用。希望本論文中的方法可以給讀者提供更多異常數據挖掘方面的思路,并且能夠很好的將人工智能中的方法運用異常數據挖掘中,克服各種方法不足,讓人們能夠更好的應用。

    參考文獻

    [1]Knorr E. Alothms for Mining Distance based Outliers in Large Datasets[C] //Very Large Databases(VLDB’98). New York: Proc of Int Conf, 1998: 392-403.

    [2]Breunig M M, Kriegel H P. Sander, LOF: Identifying Density-Based Local Outliers[C]// ACM SIGMODC onference Proceedings. [S.I]:[s.n.],2000.

    [3]王鑫等.數據挖掘中聚類方法比較研材[D].濟南:山東師范大學管理學院,2006.

    [4]魏海坤,徐嗣鑫,宋文忠.神經網絡的泛華理論和泛化方法[J].自動化學報, 2001,27(6):806-814.

    [5]龐勝利,吳瑰麗.人工神經網絡在大型橋梁健康監測系統中應用研究[J].石家莊鐵道學院學報,2002,15(2):63-65.

    [6]金微. 蟻群聚類算法分析[J].計算機光盤軟件與應用,2011,(13):199, 202.

    [7]陳玉明,吳克壽,孫金華.基于知識粒度的異常數據挖掘算法[J].計算機工程與應用,2012, 48(4):118-121.

    [8]苗奪謙,王國胤,劉清等.粒計算:過去、現在與展望[M].北京:科學出版社, 2007.

    [9]苗奪謙,范世棟.知識的粒度計算及其應用[J].系統工程理論與實踐,2002, 22(1):48-56.

    第6篇:神經網絡隱含層數的確定范文

    【關鍵詞】 數據挖掘 信用風險 決策樹 支持向量機

    一、引言

    我國上市公司是整個國民經濟整體的一個有機組成部分,甚至可以說是整個國民經濟的核心所在。至2008年底,滬深兩市的股票總市值在縮水62.9%的情況下仍達到12.13萬億,占GDP的48.6%。從這些數據可以看出,上市公司在我國經濟中占有主體地位,因此,上市公司的優劣存亡將關系到整個國民經濟的發展。然而,我國上市公司所積累的信用風險已經非常巨大,在深交所的誠信檔案里僅主板市場就列出了20頁的違規通報批評和處分決定。就國有企業而言,信用危機依然存在,突出的表現就是惡意拖欠逃債現象。企業信用風險狀況直接關系到我國金融市場的健康發展和國民經濟的持續穩定。可見,對上市公司信用風險的管理是非常必要和迫在眉睫的,而上市公司信用風險評估模型的建立是防范信用風險的重要手段。因此,研究上市公司信用風險評估這一課題,已經成為我國目前經濟生活中亟待解決的一個重要問題。

    目前許多定量技術和支持工具、軟件已付諸商業應用,繼傳統的比例分析之后,統計方法得到了廣泛的應用,如判別分析和Logistic回歸等。信用等級評估是通過對企業或個人的某些單一財務指標進行加權平均確定的,該方法最大的缺陷在于指標和加權值的確定帶有很大的主觀性,使得評估結果和實際狀況有很大的出入。因此,需要引入科學方法來確定有效評估指標,并建立準確的定量模型來解決信用等級評估的問題。近年來,信息技術得到了迅速發展,如數據挖掘技術等能從海量數據中智能發現有用的規則和知識,再加上我國上市公司信息披露制度的不斷完善,使得我們的研究能夠得到的數據資料也不斷的增多,這些有利條件的出現使得我們對基于數據挖掘的上市公司信用風險評估模型的研究有了數據基礎和技術基礎。

    二、基于數據挖掘的信用風險評估模型比較綜述

    1、決策樹

    決策樹方法于20世紀60年代起源于對概念學習建模;20世紀70年代后期Quinlan發明用信息增益作為啟發策略的ID3算法,從樣本中學習構造專家系統;1993年Quinlan在ID3算法基礎上研究出了改進的決策樹歸納包(C4.5),這是目前被普遍采用的數據分類方法。其思想是一個類似于流程圖的樹結構,其中每個內部結點表示在一個屬性熵的測試,每個分支代表一個測試輸出,而每個樹葉節點代表類或類分布。決策樹通過把實例從根節點排列到某個葉子節點來分類實例,葉子節點即為實例所屬的分類,樹上每個節點說明了對實例的某個屬性的測試,節點的每個后繼分支對應于該屬性的一個可能值。決策樹分類模型之所以被廣泛應用于信用風險評估,主要是因為決策樹具有以下優點:(1)與神經網絡或貝葉斯分類等其他分類模型相比,決策樹的分類原理簡單易懂,很容易被使用人員理解和接受。在決策樹分類過程中,一般不需要人為設定參數,更適合于知識發現的要求;(2)決策樹的學習算法具有建立速度快、計算量相對不是很大、可以處理連續值和離散值屬性;(3)決策樹能使用信息原理對大量樣本的屬性進行信息量分析,計算各屬性的信息量,找出反映類別的重要屬性(可以清晰的顯示哪些屬性對分類比較重要);(4)決策樹分類方法與其他分類模型相比,易于生成可理解的規則。決策樹方法對記錄數越大的數據庫,它的效果越明顯,這就是它顯著的優點。

    研究表明,一般情況下,樹越小則樹的預測能力越強。要構造盡可能小的決策樹,關鍵在于選擇恰當屬性。而屬性選擇依賴于各種對例子子集的不純度度量方法。其中,基于數據挖掘中決策樹C4.5算法的分析框架建立的上市公司信用風險評估模型,對數據分布無任何要求,應用于上市公司信用風險評估的效果比較好,因此具有良好的發展前景,值得我們深入研究。

    2、神經網絡

    BP網是面向映射變換的神經網絡中應用最廣泛的一種,其結構如圖1所示。典型的BP網有三個層次:輸入層、隱含層和輸出層,相鄰層次神經元間采用全互連形式,同層神經元間則不相連。其思路是:當給網絡提供一個輸入模式時,該模式由輸入層傳到隱含,經隱含層神經元作用函數處理后傳送到輸出層,再經由輸出層神經元作用函數處理后產生一個輸出模式。如果輸出模式與期望的輸出模式有誤差,就從輸出層反向將誤差逐層傳送到輸入層,把誤差“分攤”給各神經元并修改連接權,使網絡實現從輸入模式到輸出模式的正確映射。對于一組訓練模式,可以逐個用訓練模式作為輸入,反復進行誤差檢測和反向傳播過程,直到不出現誤差為止。這時,BP網完成了學習階段,具備所需的模式分類(識別)能力。

    20世紀80年代末,西方發達國家將人工智能引入銀行業,協助銀行進行貸款決策,這其中,尤其以人工神經網絡最為突出,其在企業財務分析中顯示了巨大的優勢和潛力。而在我國,無論是用統計方法還是用神經網絡技術來研究信用風險,目前都尚處于起步階段。王春峰等(1999)用神經網絡技術進行商業銀行信用風險評估;郝麗萍等(2001)研究了商業銀行信貸風險分析的人工神經網絡模型;柳炳祥、盛昭翰(2003)利用粗神經網絡對企業財務危機進行了分析;龐素琳等(2003)利用BP算法對我國某商業銀行2001年120家貸款企業進行3類模式(“信用好”、“信用一般”、“信用差”)分類,分類準確率達到83.34%;張德棟、張強(2004)建立了基于BP神經網絡的企業信用3層神經網絡評估模型,實驗結果證明,該模型用于企業信用評估,減少了企業信用評估傳統的定性方法中權重確定的人為因素,評估正確率達到了92.12%;王凱、黃世祥(2007)建立起基于BP神經網絡的行業間信用評估模型,并代入2003年度全國農業和工業的部分行業數據進行實證。

    神經網絡由于其自身優勢已經在各個領域得到了廣泛的應用,近幾年來,經濟學和管理學方面的學者將其運用到經濟領域,特別是在信用風險評估方面取得了很好的成效。尤其BP神經網絡在商業銀行信用風險評估上應用的可行性,其優點主要體現在:(1)BP神經網絡模型具有高速信息處理能力。信用風險評價是一個非常復雜的系統,簡單的信用風險打分模型不能很好地表述這種關系,同時結果與實際也有較大的差別。而神經網絡是由大量的神經元廣泛互連而成的系統,并行處理能力很強,得到的模型能對實際作出很好的預測。(2)BP神經網絡模型具有很強的不確定性信息處理能力。由于神經網絡中神經元個數眾多以及整個網絡存儲信息容量巨大,使得它具有很強的對不確定性信息的處理能力。而信用風險本身就有一種不確定性,信用風險評價指標體系涉及指標眾多,這些變量本身就具有一種動態性和不穩定性。運用BP神經網絡模型進行預測可以很好地解決這種不確定性。(3)BP神經網絡模型是一個具有高度非線性的系統。神經網絡同現行的計算機不同,它是一種非線性的處理單元,因此神經網絡是一種具有高度非線性的系統。在信用風險評估運用上,它突破了傳統信用風險評估方法以線性處理為基礎的局限性,能更有效、更精確地處理復雜信息。但是,神經網絡也存在明顯的不足。首先,當神經網絡的輸入維數高時,隱含規則呈幾何級數增加,致使網絡結構龐大,同時神經網絡學習速率固定,存在局部最小點問題,因此網絡收斂速度慢,需要很長的訓練時間,甚至可能發生網絡癱瘓;其次,網絡結構復雜,導致網絡的輸入節點單元數、隱含層數的確定缺乏理論依據。盡管存在一些遺憾,神經網絡方法作為一門嶄新的信息處理科學方法仍然吸引著眾多領域的研究者。

    3、支持向量機

    支持向量機(Support Vector Machine,SVM)是根據統計學習理論得出的一種新的機器學習算法,它用結構風險最小化原則替代經驗風險最小化原則,較好地解決了小樣本學習問題,是一種通用的前饋網絡類型。支持向量機的實現是通過某種事先選擇的非線性映射(核函數)將輸入向量映射到一個高維特征空間,在這個空間中構造最優分類超平面。使用SVM進行數據集分類工作的過程首先是通過預先選定的一些非線性映射將輸入空間映射到高維特征空間,它使得在高維屬性空間中有可能對訓練數據實現超平面的分割,避免了在原輸入空間中進行非線性曲面分割計算。SVM數據集形成的分類函數具有這樣的性質:它是一組以支持向量為參數的非線性函數的線性組合,因此分類函數的表達式僅和支持向量的數量有關,而獨立于空間的維度。

    隨著機器學習理論的不斷發展,支持向量機作為一種專門針對小樣本學習的算法被引入到了信用風險評估中。在我國,張秋水、羅林開等(2006)通過SVM與傳統的多元線性回歸(Multi Linear Regression,MLR)和Logit分析(Logit Analysis,LA)的實證對比和模型分析,得出SVM在20組測試樣本集上的平均誤判率是最低的,顯著優于MLR,也優于LA。吳沖等(2009)建立了基于模糊積分的支持向量機集成方法,該方法綜合考慮了子支持向量機的輸出重要性并與單個支持向量機和最多投票原則的支持向量機集成進行比較,實證結果表明,該方法具有更高的分類精度。與BP神經網絡相比,SVM方法的優缺點是:(1)模型的準確率。SVM是通過解一個凸二次規劃來得出結果的,因此找到的解是全局最優解,且精度高,利用支持向量機進行上市公司信用風險評估,根據有限的訓練樣本,建立了非線性映射關系,解決了維數問題,這種算法具有簡單、準確率高的優點,很適合推廣。(2)泛化能力。SVM通過結構風險最小化原則實現了經驗風險和置信范圍的良好折衷,避免了過擬合現象,而人工神經網絡是基于經驗風險最小化原理。(3)模型的適用性。SVM方法通過對不同的核函數和參數的選擇,可以優化評估結果,不同的核函數可以滿足不同的需求,模型的適用范圍更廣。(4)對數據要求。SVM可以避免小樣本和“維數災難”問題,對有限數量和維數較高的樣本評估精度較高;而BP神經網絡模型由于數據較少,易產生過擬合現象,因而使用范圍受限制。(5)核函數也需要人為的確定,尚未有理論證明決定應選擇的核函數。

    三、結束語

    隨著信息技術的發展,數據挖掘方法被廣泛應用于金融、經濟領域,在信用風險方面也受到越來越多的重視。在我國,對上市企業的信用風險評估還是一個很具有挑戰性的領域,不僅體現在其信用風險變化的復雜性,還在于評估所面臨的巨大工作量。上市企業的信用狀況是構成整個社會體系不可缺少的重要部分,因此,解決其信用風險評估問題的首要任務是要建立簡單可操作的模型,并充分發揮計算機處理信息等的優勢作用。

    (注:本文系華東交通大學校立科研基金資助課題《基于數據挖掘的上市公司信用風險評估模型研究》的部分研究成果,課題編號:09GD02。)

    【參考文獻】

    [1] Qualian JR,C4.5: Programs for Machine Learning [J],San Mateo, CA:Morgan Kaufmann Publishers,1993.

    [2] Virongrong Tesprasit,Paisarn Charoenpornsawat ,Virach Sornlertlamvanich,A Context-Sensitive Homograph Disambiguation in Thai Text-to-Speech Synthesis,Proceedings ofHuman Language Technology Conference,2003.

    [3] 周松林、吳銘:滬深兩市總市值全年縮水62.9%[J].金融界,2009(1).

    [4] 王春峰、萬海暉、張維:基于神經網絡技術的商業銀行信用風險評估[J].系統工程理論與實踐,1999(9).

    [5] 郝麗萍、胡欣悅、李麗:商業銀行信貸風險分析的人工神經網絡模型研究[J].系統工程理論與實踐,2001(5).

    [6] 柳炳祥、盛昭翰:基于粗神經網絡的企業危機預警系統設計[J].信息與控制,2003(1).

    [7] 龐素琳、王燕鳴、黎榮舟:基于BP算法的信用風險評價模型研究[J].數學的實踐與認識,2003(8).

    [8] 張德棟、張強,基于神經網絡的企業信用評估模型[J].北京理工大學學報,2004(11).

    [9] 王凱、黃世祥:基于BP神經網絡的行業間中小企業信用評估模型及應用[J].數學的實踐與認識,2007(24).

    第7篇:神經網絡隱含層數的確定范文

    關鍵詞 基本藥物 采購行為 BP神經網絡

    中圖分類號:F713.54 文獻標識碼:A 文章編號:1006-1533(2013)05-0047-05

    2009年國家基本藥物制度實施后,國家將執行基本藥物集中采購作為實施基本藥物制度的評價標準之一,于是各省將原有的藥品集中采購分為基本藥物和非基本藥物兩類。2010年11月,國務院《建立和規范政府辦基層醫療衛生機構基本藥物采購機制的指導意見》,旨在對現階段較為無序的藥品采購行為進行規范,推行科學合理的采購模式,對基本藥物采購方面的研究開始得到關注。

    現行采購模式是省集中采購平臺通過統計各基層醫院上報的用藥需求之后,再統籌面向中標企業進行集中采購。但是,作為基本藥物集中招標采購體系中繼招標過程之后的重要環節,采購過程并未得到足夠的重視,基于基本藥物采購行為的微觀研究的理論和文獻更是少之又少。在缺乏科學理論和方法支持下的采購決策,容易受主觀如采購主體尋租以及客觀如廠商合謀等因素干擾而不穩定,這種不穩定帶來的滯后效應會掣肘社區衛生服務中心對基本藥物的需求預測,繼而帶來后續基本藥物的供需矛盾。除此之外,采購量錯誤統計或填寫不夠準確的偶然誤差將會進一步加劇這個矛盾。基本藥物集中招標采購體系下的基本藥物采購在執行過程中有必要加強監督管理和調控。因此,尋找合理與靈活的理論和方法來保證基本藥物的采購決策行為的穩定性就成為關注點。

    由于BP (Back Propagation)神經網絡模型尚未在基本藥物招標采購體系中進行相關的理論研究和應用探索,未能發揮其在其他領域中發揮出的功效。本文針對這一環節進行探索,擬在建立BP 神經網絡模型的基礎上,統計分析社區衛生服務機構的藥品使用等特征后,將BP神經網絡模型運用到社區醫療機構的需求預測中來,使采購主體在決策時能有更多的支持信息,實現采購數量科學化,從而保證社區醫療機構對基本藥物的供應充足,以期從這一環節上減輕民眾對基本藥物的獲取負擔,使整個基本藥物的供應實現資源優化配置,也可為基本藥物集中采購的理論和方法提供借鑒和參考。

    1 BP神經網絡預測功能的研究

    由于人工神經網絡是非線性、非局域性和非定常性的復雜網絡系統,具有并行分布的信息處理結構和自適應的腦模式的信息處理的本質與能力,它可以通過“自學習”或“訓練”掌握大量的知識,完成特定的工作。人工神經網絡對建立預測模型十分有效,它能從數據樣本中自動學習以前的經驗而無需復雜的查詢和表述過程,并自動地逼近那些最佳的數據蘊含的規律,它在時間序列預測方面,尤其是高復雜度的非線性時間序列方面明顯優于傳統的預測方法。在預測方面,目前應用最廣泛且較為成功的是前向神經網絡。

    1.1 BP神經網絡基本理論

    BP神經網絡也稱誤差反向傳播神經網絡,為有監督的學習,是梯度下降法在多層前饋網絡中的應用。它有一個輸入層、一個輸出層、一個或多個隱含層。每一層上包含若干個節點,每個節點代表一個神經元。同一層上的各節點之間無連接關系,相鄰層采取全互連。信息從輸入層開始在各層之間單向傳播,依次經過各隱含層,最后到達輸出層。

    BP算法的學習過程是一個反復迭代的過程,由正向傳播和反向傳播組成。其算法的基本思想是根據網絡輸出層的誤差,從輸出層開始反過來調整網絡的權值和閥值,最后使得輸出的均方誤差最小。經過對一定數量樣本進行反饋學習后,網絡所持的權值便是網絡通過自適應學習得到的正確的內部表示。這時將待識別樣本的特征數據輸入訓練好的網絡,則網絡就可以對樣本的屬性進行自動推理和識別。在非線性建模方法中,神經網絡理論證明了在選擇適當的隱層數及相應的神經元數目下,前饋神經網絡能以任意精度逼近任意非線性函數[1]。

    1.2 BP神經網絡在預測領域的實現

    由于BP學習算法本質上是一個非線性優化問題,網絡模型的確立分為兩個階段:學習階段和檢驗階段。學習階段是通過對歷史資料的學習,使己有的模式以權系數的方式存儲于網絡之中,這實質上是一個擬合的過程;檢驗階段是將已有歷史數據輸入網絡之中,檢驗網絡輸出與實測值的誤差是否達到一定的精度要求,如果滿足要求,則BP網絡可以被用于預測。采用BP網絡學習方法進行模擬分析,構造BP網絡的基本步驟是:

    1) 確定BP網絡的輸入向量、輸出向量的維數和隱含層數及節點數;

    2) 確定隱含層傳遞函數和輸出層傳遞函數關系;

    3) 將網絡學習樣本劃分為學習段和檢驗段;

    4) 訓練網絡,擬合學習段時間序列,使其誤差平方和達到最小;

    5) 用檢驗段數據檢驗訓練好的網絡模型,利用該模型對未來進行預測。

    1.3 BP神經網絡在醫藥行業的應用

    BP神經網絡在醫藥行業的應用包括藥品采購資金管理、醫療器材需求和藥品銷售預測3個方面。據文獻報道[2-3],出于降低庫存,提高管理有效性和運作靈活性的目的,運用BP神經網絡對研究對象的歷史數據進行分析,得出預測值,并與經驗性的實際值進行對比,發現基于BP神經網絡進行預測,可以有效節約采購和生產安排的不穩定性,降低庫存,從而節約成本,提高效益。

    2 BP神經網絡在湖北省基本藥物采購量預測中的應用

    2011年3月13日,湖北省政府辦公廳印發《湖北省基層醫療衛生機構基本藥物集中采購管理辦法(試行)》,標志著該省建立和規范基本藥物統一招標采購新機制的出臺[4]。在該辦法中,實行以省為單位集中采購、統一配送,與藥品生產企業簽訂購銷合同,一次完成采購全過程,最大限度地降低采購成本,促進基本藥物生產和供應。

    2.1 湖北省基本藥物采購量預測模型的建立

    2.1.1 研究對象及數據準備

    湖北省每月采購的基本藥物品種有1 000種之多,從理論上來說,為了更好地估計湖北省的基本藥物采購量的預測值,需要將每種藥物根據其歷史采購量來建立預測模型,如此一來會帶來巨大的工作量。因此,應選擇使用頻率比較高、采購比較頻繁、使用特點具有相似性的一大類藥物品種來進行研究。綜合對湖北省每月采購通報的分析,選定藥物大類為抗生素類。樣本納入標準為統計期內的采購時間是連續的,并且屬于同一大類的不同規格。

    本文建模對象及數據見表1。

    2.1.2 基本藥物采購量神經網絡預測模型的實現

    在進行神經網絡預測之前,為避免原始數據過大造成網絡麻痹,要對原始數據進行歸一化處理,對于預測值,由于變化幅度較大,也不宜直接作為神經網絡的輸出。對于單極型Sigmoid函數來說,應用如下歸一化處理公式對樣本數據進行歸一化處理:

    2.2 實證檢驗

    湖北省基本藥物采購量神經網絡模型就是利用神經網絡的非線性特性去逼近一個時間序列或一個時間序列的變形,通過神經網絡清晰的邏輯關系,利用過去時刻的值去表達未來時刻的值。本文以湖北省部分基本藥物品種采購量為數據,以月度基本藥物采購量為預測目標,用上述的建模方法建立月度基本藥物采購量預測模型。

    第一步,建立預測模型,對歸一化的數據用MATLAB中提供的函數進行學習(圖1),學習程序如下:

    net=newff(minmax(P), [8 1], {'tansig', 'purelin'}, 'traingdx', 'learngdm');

    net.trainparam.epochs=10 000;

    net.trainparam.goal=0.005;

    net.trainparam.show=500;

    [net, tr]=train(net, P, T);

    首先,我們設定的隱層節點數為8,目標誤差為0.005,學習率設置為0.01,網絡經過222次迭代之后達到了指定精度,誤差為0.004 966 8。再分別設定隱層節點數為:6,8,12,15,20;目標誤差不變,仍為0.005,學習結果如表2所示。

    結合學習次數和誤差的比較,可以得出在隱層節點數設為15時,學習效果較好。

    由17個月樣本藥品的采購量數據P為訓練值,以第17個月的采購量為目標值,進行訓練。由于2012年12月的采購量未知,如果要預測第18個月采購量則無法用實際的數據進行檢驗。因此在預測值調整為第17個月的采購量數據。測試程序如下:B=sim(net, T)。

    誤差為[0.024 9, -0.118 5, -0.170 7, -0.242 2, -0.040 5, 0.143 9, -0.047 5, 0.078 3, -0.066 6, -0.057 3, -0.036 6, 0.003 2, -0.043 6, -0.009 9, 0.020 5, -0.031 0, -0.016 8, 0.057 3, -0.025 1, 0.018 0, 0.036 4, -0.218 0, -0.159 0, -0.112 9, -0.014 81, -0.120 8, 0.134 9, -0.043 6]。誤差均在可接受的范圍內,認可數據已得到很好的訓練,具備較好的仿真能力。

    學習的誤差基本上在我們可以接受的范圍內,其學習效果如圖2所示。通過前面己經驗證,該網絡的學習能力以及預測能力有很大的優越性。

    2.3 預測結果分析

    通過反歸一化公式:得到第17個月即2012年11月各藥品的采購值。將2012年11月的實際采購量與實證檢驗建立模型后所得到的預測中結果進行比較,結果見表3。

    從表3中我們可以看出,除了個別品種誤差較大以外,如注射用苯唑西林鈉為530.21%、硫酸奈替米星注射液為52.60%,阿莫西林膠囊為42.89%,BP神經網絡模型對基本藥物的采購量的預測誤差率大多數在10%以下,經Excel數據分析工具中成對雙樣本均值t檢驗分析,結果見表4。

    因為P > 0.05,故預測值與實際值均值差異無統計學意義。

    模型預測結果是比較令人滿意的。由于在本次研究中藥品采購量的變化是在時間序列上面進行的,所采取的預測方法是單步預測,每月的藥物采購量還要受很多因素影響,不可能做到預測結果與實際的數據完全一致。除此之外,基本藥物制度實施的時間并不長,在湖北省基本藥物集中采購平臺上所獲取采購量的數據時間范圍也不長,所以個別藥品誤差的較大偏倚也在預料之中。

    根據計算得出的結果,可以很好地預測一個月或幾個月內內湖北省的基本藥物采購量,相關基本藥物生產企業可以根據預測結果做好生產計劃安排和原料采購等工作,提高企業生產運作效率和經濟效益;基本醫療機構可以根據情況調整藥物儲備和使用量,以使基本藥物的利用率和可及性都能得到很好的保障。

    3 總結與展望

    本文對湖北省2011年5月-2012年11月抗生素大類的部分基本藥物品種的采購量預測進行了定量分析,主要采用了BP神經網絡法進行預測的實證研究,不僅簡化了網絡結構,而且提高了預測精度。結果比較理想,說明本文所建立的基于BP神經網絡預測模型具有較好的預測能力和推廣潛力。

    1) 采購決策行為是由主觀因素及客觀因素相互影響共同構成,具有動態性和復雜性等特點。人工神經網絡作為高度非線性體系,能夠對影響采購行為的各變量之間的非線性關系進行高精度的逼近,從而實現預測功能。

    2) 實證表明,人工神經網絡雖然存在不足,但其優勢還是顯而易見的。人工神經網絡是一個高度自動化的系統,只要有基本藥物的歷史采購量,通過神經網絡的訓練和仿真,達到滿意精度后即可輸出特定時間點的采購量,為基本藥物采購決策提供科學的信息支持。但由于影響基本藥物采購的各因素并不明了,難以對基藥采購量的波動情況進行解釋,無法提供有意義的干預措施。

    3) 由于社區衛生服務機構長期以來缺乏對藥品使用數據的收集,在對其藥品需求分析時沒有足夠多的信息予以支持,所以在對BP神經網絡的推廣應用中,需要保證社區醫療機構對藥品使用數據的收集、整理與統計,從而增加預測的準確性。

    4) 加強有關基本藥物采購分析的理論研究。基本藥物不同于一般商品,其供需關系雖然較為穩定,但是在現存醫患信息極不對稱的情況下,由于誘導需求、道德風險等問題造成劣品驅逐良品的現象,而對基本藥物的可及性和供需帶來不必要的風險。現行的有關基本藥物采購理論還需進一步完善。

    5) 對基本藥物采購量分析方法的探索。本文運用BP神經網絡在基本藥物采購量短期預測上面進行一次有益的探索,結論雖然具備理論指導意義和實際應用價值。但是由于BP神經網絡無法探知對變量造成波動的影響因素,若從現實意義進行指導,還需要結合其他的分析方法如多元回歸分析、主成分分析等方法來相互補充,揚長避短。

    參考文獻

    [1] 王維, 賀京同, 張建勛, 等. 人工神經網絡在非線性經濟預測中的應用[J]. 系統工程學報, 2000, 15(2): 202-207.

    [2] 劉衛紅, 崔振霞. 基于BP神經網絡的藥品采購資金管理研究[J]. 中國鄉鎮企業會計, 2012, 20(1): 70-71.

    [3] 張俊才, 黃萬杰. BP神經網絡在醫療器材需求預測中的應用[J]. 醫療衛生裝備, 2004, 25(4): 8-9.

    第8篇:神經網絡隱含層數的確定范文

    關鍵詞:小額信貸;信用風險;BP神經網絡

    中圖分類號:F830.51 文獻標識碼:A 文章編號:1009-9107(2012)02-0078-06

    引言

    農戶小額信貸是指農村信用社基于農戶的信譽,在核定的額度和期限內向農戶發放的不需抵押、擔保的貸款。1993年,中國社科院農村發展研究所將小額信貸項目第一次借鑒到中國,我國政府給予了大力支持。自2000年開始,為加大支農力度,緩解農戶貸款難問題,在中國人民銀行推動下,農村信用社作為正規金融機構全面試行并推廣農戶小額信貸。據有關數據顯示,截至2009年3月末,全國農戶小額信用貸款余額2518.6億元,同比增長17.5%,增速同比增加1.9個百分點;農戶聯保貸款余額為2006.3億元,同比增長33.6%,增速同比增加13.4個百分點。農戶小額信貸在解決農戶貸款難問題、促進農民增收、支持農村經濟發展等方面發揮了重要作用。

    然而,由于農民控制風險能力有限,農村信用基礎薄弱,農戶小額信貸不需抵押、擔保的特點使得農村信用社在小額信貸實施過程中面臨較大的信用風險。農戶違約現象時有發生,導致農戶小額信用貸款的不良率居高不下,影響農村信用社的整體貸款質量,阻礙了農村信用社的健康發展和小額信貸的可持續發展。銀監會監管部主任楊家才在“2009中國農村金融論壇”上指出,目前涉農貸款不良率是7.4%,工業貸款不良率是2.29%,大企業貸款不良率是1.15%,中小企業貸款不良率是4.5%,涉農貸款的不良率大大高于其他類貸款。另有資料顯示,截至2009年初,廬江農村信用合作聯社農戶小額信用貸款余額1941萬元,不良貸款金額719.8萬元,不良率達37.1%。因此,有效控制農戶信用風險、提高信貸質量已成為農村信用社面臨的重要任務。

    目前,農戶小額信用貸款采取“等級管理,分級定額,隨用隨貸,余額控制,周轉使用”的管理辦法。在農戶資信等級評定時,一般是通過信貸員、村委會的主觀意見或使用評分表打分來確定。這些方法雖簡單易行,但主觀性大且執行過程不規范,沒有借助量化的數學模型,容易導致農戶信用狀況評價不準,不能完全滿足農村信用社信用風險管理的需要。本研究嘗試利用BP神經網絡建立農戶信用風險評估模型,以此來識別農戶在小額信貸中的信用風險,嚴把貸款出口關,提高農戶小額信貸質量,促進小額信貸的可持續發展。

    一、BP神經網絡介紹

    人工神經網絡(Artificial Neural Network,簡稱ANN),是一種旨在模仿人腦結構及其功能的腦式智能信息處理系統,是由大量處理單元相互連接構成的高度并行的非線性系統,具有高度的非線性映射能力,良好的容錯性和聯想記憶功能,自適應能力較強。神經網絡特有的這些性能,加之其對數據分布沒有嚴格要求,也無需詳細描述自變量和因變量間的函數關系,并且分類精度較高,使其在信用風險分析領域得到廣泛應用。神經網絡對信用風險的評估是通過其分類功能實現的,即先找出一組對信用分類有影響的因素作為網絡輸入,再通過有教師或無教師訓練建立信用風險評估模型,當輸入新樣本時該模型即可對其信用風險進行判別分類。

    Rumelhart和Mc Celland于1986年對具有非線性連續變換函數的多層感知器的誤差反向傳播(Error Back Proragation,BP)算法進行了詳盡的分析,實現了多層感知器的設想。采用BP算法的多層感知器是至今為止應用最廣泛的神經網絡,通常將其稱為BP網絡。BP網絡是一種單向傳播的多層前饋網絡,由輸入層、隱含層和輸出層組成,一個三層的BP網絡可完成由任意n維輸入空間到m維輸出空間的非線性映射。BP算法的思想是,學習過程由信息的正向傳遞和誤差的反向傳播這兩個過程組成。在正向傳遞過程中,輸入樣本信息從輸入層經隱含層逐層計算后傳向輸出層,若輸出層實際輸出和期望輸出不符,則計算輸出層誤差值,然后轉入誤差的反向傳播階段。在誤差反向傳播過程中,輸出誤差經隱含層向輸入層逐層反傳,并將誤差攤分給各層所有單元,各層單元的誤差就作為修正其權值的依據。這種不斷調整權值的過程,即是網絡的訓練學習過程。當達到規定的誤差或一定的訓練次數,訓練結束。其網絡結構如下圖1所示。

    二、實證研究

    (一)樣本選擇與分組

    本研究所用樣本來自2009年陜西省楊凌區3家農村信用社提供的資料。按照五級分類標準,逾期3個月以上的貸款為不良貸款,本研究也按此標準來確定農戶是否違約。在樣本選擇過程中考慮到樣本類別的均衡,盡量使違約類樣本數量和不違約類樣本數量大致相等,在按時還貸的農戶中隨機挑選了112戶,在未按時還貸的違約農戶中隨機挑選了106戶,總計218戶。刪除24個部分數據有缺失值的不合格樣本后,最終確定有效樣本為194個,其中不違約樣本有102個,違約樣本92個。

    BP神經網絡分為訓練和工作兩個階段,網絡模型性能的好壞主要看其是否具有較好的泛化能力,即對新樣本正確處理的能力。一般將總樣本隨機分成訓練集樣本和測試集樣本兩部分,對模型泛化能力的測試應當用測試集樣本數據進行檢驗。有的資料認為訓練集樣本規模一般應達到有效樣本的75%-80%,本研究將194個樣本分成訓練樣本和測試樣本兩組:利用SPSSl6.0軟件在102個不違約樣本中隨機抽取78個,在違約樣本中隨機抽取72個,將這150個樣本數據作為訓練樣本集,而將其余的24個不違約樣本和20個違約樣本共44個樣本作為測試樣本集。

    (二)指標確定

    本研究初始選取的指標來自農村信用社農戶小額信用貸款資信等級評定表和農戶借款申請書等檔案,選取了戶主年齡、戶主性別、家庭人口數、家庭勞動力數、耕地面積、農業收入、非農收入、年總支出、信用社入股金額、房屋價值、機械價值、其他資產價值、貸款數額、貸款用途、貸款月利率共15個指標。在以上指標中,戶主的性別和借款用途兩個變量是語言變量,需要轉換為離散的數值量。在本研究中,戶主的性別為男時賦值為0,性別為女時賦值為1;當貸款用途為用于種植業、養殖業等農業基本生產時賦值為1,用于加工、運輸、經商等個體經營時賦值為2,用于生活用品、建房、治病、上學等一般消費時賦值為3。

    為了選擇對違約農戶和非違約農戶區分能力最

    強的指標變量以及消除變量間的多重共線性問題,對以上所選取的15個指標用SPSSl6.0軟件分別進行正態性檢驗、參數及非參數檢驗和指標變量之間的多重共線性檢驗。

    1.正態性檢驗。在進行樣本差異性檢驗之前,采用單樣本K-S檢驗即Kolmogorov-Smirnov檢驗法,對每一個變量分別進行正態性檢驗。檢驗結果表明,在0.05的顯著性水平下,變量戶主年齡的概率P值為0.179,大于0.05,而其余14個變量的概率P值均為0,說明除變量戶主年齡服從正態分布以外,另外14個變量都不服從正態分布。

    2.差異性檢驗。兩獨立樣本T檢驗。兩獨立樣本T檢驗的前提是樣本來自的總體應服從或近似服從正態分布,本研究對服從正態分布的變量戶主年齡采用兩獨立樣本T檢驗。T檢驗結果的F統計量觀察值的概率P值為0.098,大于顯著性水平0.05,認為兩總體方差無顯著差異;對應的T統計量觀察值的概率P值為0.027小于0.05,認為兩總體均值存在顯著差異。

    兩獨立樣本K-S檢驗。對除變量戶主年齡外的其他不服從正態分布的變量采用兩獨立樣本K-s檢驗。在K-s檢驗結果中,耕地面積、農業收入、非農收入、年總支出、房屋價值、貸款數額、貸款用途幾個變量的概率P值小于0.05,認為這幾個變量在兩總體的分布間存在顯著差異,其他幾個變量在兩總體間則不存在顯著差異。因此可以認為戶主年齡、耕地面積、農業收入、非農收入、年總支出、房屋價值、貸款數額、貸款用途這8個變量在違約組和非違約組之間的差異顯著,在模型建立過程中可只保留差異顯著的8個變量,而將其他7個變量予以易II除。

    3.共線性檢驗。BP神經網絡具有很強的非線性映射能力和自適應能力,輸入變量之間是否存在共線性問題對網絡的處理結果影響不大,但為使網絡的訓練效果更佳,本文使用方差擴大因子法進行變量問的多重共線性檢驗。VIF值越大,多重共線性問題就越嚴重,一般認為VIF值不應大于5,但也可適當放寬標準至不大于10。當VIF值大于10時,可認為變量之間存在嚴重的共線性。檢驗結果顯示,變量非農收入的方差擴大因子VIF值最大,但也僅為2.974,小于5,表明所選擇的8個變量之間并不存在多重共線性問題,可以將這8個變量直接作為建立BP網絡模型的輸入變量。

    (三)數據處理

    為消除數據量綱和變量自身變化大小的影響,加快網絡訓練的收斂速度,在模型建立之前,采用最小一最大標準化法對變量進行歸一化即標準化處理,將網絡的輸入、輸出數據限制在[0,1],從而使各輸入分量在網絡訓練開始時處于同等重要的地位。計算公式如下:

    (四)BP神經網絡信用風險評估模型的實現

    1.BP網絡結構設計。(1)隱含層確定。單隱層BP網絡能完成由任意n維到m維的映射,與一個隱層相比,采用兩個隱層并無助于改善網絡性能,但隨隱層層數的增加,訓練時間將急劇增加,且在訓練過程中往往容易陷入局部最小誤差而無法收斂。通過調節網絡隱層神經元數目可提高其誤差精度,且訓練效果也比增加層數更明顯。因此本研究以一個隱層建立單隱層的三層BP神經網絡。(2)輸入層和輸出層確定。輸入參數的合理與否對網絡的性能有重要影響。選擇輸入量的基本原則一是變量對輸出有較大影響且能夠提取或檢測,二是各變量之間互不相關或相關性很小。輸入層節點數目取決于輸入數據的維數。通過前述指標篩選,最終有8個指標對農戶是否違約影響較大且變量間不存在相關性,可以作為建立BP網絡模型的輸入變量,因此本研究確定BP網絡輸入層的神經元個數為8個。輸出層的選擇相對容易,其節點數取決于輸出數據類型和表示該類型所需數據的大小兩個方面。當BP網絡用于模式分類問題時,可用二進制數表示輸出結果,其節點數可根據待分類類別數確定。本研究將農戶信用風險分為違約和不違約兩類,因此可定義1個輸出節點,用1表示違約類農戶,0表示不違約類農戶。(3)隱層節點數的確定。隱層節點數太少,網絡提取樣本信息的能力差,將不足以反映訓練集的樣本規律。若隱層節點數太多,又可能會提取出樣本中非規律性的內容如噪聲等,造成“過度吻合”,降低網絡的泛化能力,另外還會增加網絡的訓練時間。對于隱層節點數的確定,至今沒有準確的理論和規則,需要的往往是更多的經驗。在具體設計時,可先根據經驗公式初步確定隱含層節點數,然后通過對不同節點數的網絡進行訓練對比,再最終確定節點數。本研究采用公式作為計算隱層節點數的參考公式,得出隱節點數為17個。在網絡訓練過程中不斷改變隱層節點數,通過比較不同隱節點數下網絡的訓練誤差精度及對兩類樣本的判別準確率,在滿足網絡的訓練誤差精度的前提下,選取判別準確率最高時的節點數作為網絡模型最終的隱層節點數。經過多次測試,最終確定隱層的節點數為14,由此構成了一個8-14-1型的BP神經網絡模型,在滿足誤差精度的情況下,此時模型對兩類樣本的判別準確率最高。(4)傳遞函數的選取。BP網絡常用的傳遞函數有對數S型logsig函數、雙曲正切S型tansig函數和線性函數purelin。由于BP神經網絡的非線性映射能力是通過S型傳遞函數所體現的,所以隱層一般采用S型傳遞函數,而輸出層傳遞函數可以采用s型或線性。當用s型傳遞函數作為輸出層的傳遞函數時,其非線性逼近速度快于線性傳遞函數。本研究將隱層傳遞函數確定為tansig函數,從而將隱層輸出值控制在(-1,+1)之間;因為網絡的輸出值為0或1,所以輸出層傳遞函數采用iogsig函數。(5)訓練函數的確定。對網絡的訓練本研究采用L-M改進算法和批處理的訓練模式。L-M改進算法的收斂速度最快,并且適用于中小型網絡。對于L-M算法,MATLAB神經網絡工具箱提供了批處理模式下的訓練函數trainlm。本研究將選擇trainlm作為網絡的訓練函數。

    2.訓練參數設置。(1)學習率。學習率決定網絡每一次訓練中所產生的權值變化量,其選擇合理性是網絡穩定的關鍵,太大可能導致系統不穩定,太小會導致收斂速度慢、訓練時間過長,不過能保證收斂于某個極小值。一般情況下,傾向于選取較小的學習速率以保證網絡系統的穩定性,其選取范圍通常在0.01-0.8之間。當前都是根據經驗來選擇,并沒有合理的解釋與推導。可以通過觀察網絡訓練的誤差變化曲線來判斷選取的學習率是否合理.曲線下降較快說明學習率比較合適,若出現較大的振蕩則說明學習率偏大。經過反復測試,本研究最終確定學習率為0.4。(2)訓練次數。訓練次數將直接影響網絡的準確性和泛化能力,次數過小不能完成訓練所設定的目標誤差,次數過大則容易造成“過度學習”現象,使得網絡在對測試樣本進行仿真測試時的準確度不高。本研究將最大訓練次數確定為10000,當訓練時間超過該設定時,學習過程自動終

    止。(3)訓練目標誤差。MATLAB中默認目標誤差為0,但實際情況中訓練樣本集很難達到。本研究輸出值設為0和1兩種情況,屬于二分類問題,對訓練精度要求不是特別高,將目標誤差設為0.001。

    3.網絡訓練。在網絡訓練時需要注意的是將兩類樣本交叉輸入,因為集中輸入同一類樣本將使網絡在訓練時只建立與該類樣本相適應的映射關系,而集中輸入另一類樣本時,網絡權值的調整又轉向新的映射關系而否定前面訓練的結果。當網絡的隱含層節點數為14時,網絡根據訓練樣本進行訓練的誤差變化曲線圖如圖2所示。

    BP網絡模型對訓練集樣本的判別分類準確率達到100%,判定結果如表l所示。

    4.網絡測試。在訓練誤差達到要求后,根據測試集樣本的網絡模型輸出與期望輸出的誤差,判斷網絡的泛化性能。當網絡的隱含層節點為14時,測試集樣本的網絡模型輸出見表2。

    BP網絡模型對測試集樣本的分類準確率如表3所示。

    通過測試樣本集網絡輸出結果表2可以看出,1號、5號、10號、11號、29號、30號及31號樣本的網絡輸出結果與期望輸出不符,判別分類出現錯誤。通過對測試樣本的判別分類表3可以看出,BP網絡模型對違約樣本分類識別的正確率達到了90%,對不違約樣本分類識別正確率為79.17%,整體的分類識別正確率為84.09%,取得了較好的評估結果,證明了所建BP網絡模型的精確性和有效性。

    本研究將違約類農戶誤判為非違約類農戶稱為第一類錯誤,將非違約類農戶誤判為違約類農戶稱為第二類錯誤。顯然,對于金融機構來說,第一類錯誤的危害性遠比第二類錯誤嚴重,犯第二類錯誤頂多是沒有將貸款發放出去而損失一筆利息收入,而犯第一類錯誤則會造成貸出的款項無法收回而形成果賬。Ahman曾經得出這樣一個研究結論,犯第一類錯誤造成的損失是第二類錯誤造成的損失的20倍至60倍。因此,應盡量避免第一類錯誤的發生。本研究所建立的BP網絡模型對違約類樣本識別的準確率達到90%,犯第一類錯誤的概率僅為10%,能夠較好的避免第一類錯誤的發生,因而可認為是一個較好的信用風險評估模型,可以將其作為農村信用社識別農戶信用風險的工具。

    三、結論及政策建議

    (一)結論

    隨著小額信貸的發展,如何有效控制農戶信用風險、提高信貸質量以促進小額信貸的可持續發展已成為農信社面臨首要任務。農戶小額信貸信用風險的評估研究對于完善農戶小額信貸業務,實現小額信貸的可持續發展有著重要的意義。

    1.本文利用陜西省楊凌區3家農村信用社提供的數據資料,借助SPSSl6.0軟件對樣本數據分別進行正態性檢驗、參數及非參數檢驗和多重共線性檢驗,選擇出對違約農戶和非違約農戶區分能力最強的指標變量,消除變量間的多重共線性問題,在信息量不減少的情況下減少變量的個數,從而減少了神經網絡模型的輸入單元個數,降低網絡模型的復雜程度,提高了訓練速度。

    2.利用MATLAB7.0軟件對農戶小額信貸信用風險進行實證研究,建立了8-14-1結構的BP神經網絡模型。模型對訓練集樣本的識別正確率達100%,對測試樣本集違約類農戶的識別正確率達90%,總正確率達84.09%,雖然網絡模型對測試樣本集未違約類農戶的識別準確率只有79.17%,但農村信用社在一定程度上可以容忍此類錯誤發生所帶來的機會損失。因而,BP網絡模型能夠為農村信用社識別和預測農戶信用風險提供較好的依據。

    3.BP神經網絡是一種非參數模型,具有較強的非線性映射能力、容錯能力和魯棒性,對數據的分布要求不嚴格,分類精度較高,并且可以很容易地繼承現有領域知識,不斷接受新樣本、新經驗對模型進行調整。另外,BP神經網絡模型中的權重通過網絡對樣本訓練形成,不需要對各項指標確定權重,克服了由人工評價帶來的主觀性及模糊隨機性的影響,保證了結果的準確性和客觀性。

    (二)政策建議

    第9篇:神經網絡隱含層數的確定范文

    關鍵詞:BP算法;經營狀況;指標體系;評價模型

    中圖分類號:F27文獻標志碼:A文章編號:1673-291X(2010)31-0036-03

    前言

    企業的經營狀況越來越多受到投資者的關注,它也是企業經濟活動中的很重要的問題,因此如何做企業的經營狀況評價問題也就是企業面臨的一個十分重要的問題。只有真正建立起適應企業經濟發展的評價模型,才能使企業在激烈的市場競爭中立于不敗之地。

    常用的評價模型很多,主要有統計方法和神經網絡方法等。統計方法如層次分析法評價模型[1]、模糊綜合評價模型[2]、Logistic回歸模型[3]、Bayes判別信用評價模型[4]、因子分析法[5]、聚類分析法[6~7]和主成分分析法等,雖然這些方法已得到了廣泛的應用,但他們或多或少存在著一些欠缺:有些模型只能應用于線性場合,對于非線性場合不適用;有些模型對于數據的分布要求很嚴格;有些模型的建立依賴于個人經驗,有些模型難以應用于多因素場合。統計方法需要描述自變量與因變量之間的函數關系,當狀況較為復雜,用統計方法不易解決的時候,神經網絡可以成功的解決這一類問題。由于人工神經網絡具有并行處理、魯棒性和自組織等特點而被廣泛應用[8~9]。下面采用BP神經網絡建立企業經營狀況評價模型。

    一、網絡設計與訓練

    將中國2008年的64家公司作為訓練樣本,其中經營正常的公司有39家,經營差的公司有25家,測試樣本采用2009年的17家公司,其中經營正常的公司9家,經營差的公司有8家。

    1.網絡層數的確定

    構造一個2層的BP網絡來解決本節提出的兩類模式分類問題。

    2.輸入維數、輸出層節點的確定

    對兩類模式分類問題,財務指標選取4個財務指標x1=每股收益, x2=每股凈資產,x3 =凈資產收益率, x4=主營利潤增長率, 用“0” 代表經營差的企業,用“1” 代表經營正常的企業.所以輸入維數為4,輸出層選取1個節點。

    3.隱層節點的確定

    一般狀況下,隱含層的結點數較難確定,因而采用試湊法。在能正確反映、實現輸入輸出映射的基礎上,盡量選取較少的隱層結點數,從而使網絡模型盡可能的簡單。為了使數據更加精準,先將數據進行歸一化處理,隱層分別選取節點為3,4,5,利用上述訓練樣本對網絡進行訓練。當隱層選取3個節點時,訓練誤差變化曲線(如圖1);當隱層選取4個節點時,訓練誤差變化曲線(如圖2);當隱層選取5個節點時,訓練誤差變化曲線(如圖3)。

    圖1

    圖 2

    圖 3

    從訓練誤差曲線圖可以看出,當隱層選取3個節點時,當訓練到第11步時,訓練誤差達到0.001,當隱層選取4個節點時,當訓練到第5~6步時,訓練誤差達到0.001,當隱層選取5個節點時,當訓練到第10~11步時,訓練誤差達到0.001,因而,當隱節點為4時,所需要的訓練步驟最少,所以隱層節點選為4。

    二、基于BP神經網絡的經營狀況評價模型

    當隱層節點選為4時,各層的連接權值和閾值分別為:

    w=3.33852.09120.1425- 0.3756- 0.1848 2.27941.5118- 2.85743.0057- 2.4902 0.5163- 0.4217- 1.0658 - 2.3104 - 0.8535 - 2.9116

    B1=- 3.9598 1.3199 1.3199- 3.9598

    V=[- 1.6817 2.9964 2.2098 3.8302] B2=- 3.6774

    則由此得到BP神經網絡的信用評價模型為:

    y=gVjgXjixi+B1j+B2

    其中:第一個g為logsig函數,第二個g為logsig函數,Vj為輸出權值,Wj為輸入權值,B1為輸入閾值,B2為輸出閾值。

    三、網絡的仿真

    1.訓練樣本的網絡仿真

    利用所建立的信用評價模型對64個訓練樣本(經營差的企業25個,序號為1-25,經營正常的企業39個,序號為26-64)進行兩類模式分類。仿真結果(見表1),從表1可以看出有25個網絡輸出值接近于0,序號為1-25,有39個網絡輸出值接近于1,序號為26-64,這表明在訓練樣本中經營正常的企業的正確識別個數為39,經營差的企業正確識別個數為25(見表2),因此該評價模型對訓練樣本的正確識別率達到100%。

    2.測試樣本的網絡仿真

    推廣能力是衡量神經網絡性能好壞的重要標志,因而,為了檢驗網絡的推廣能力,將2009年第一季度的17家上市公司作為測試樣本,經營差的企業有8家,經營正常的企業有9家,測試樣本的網絡輸出結果如下(見表3):

    從表3可以看出序號為1-8的網絡輸出值接近于0(0.9924),所以經營正常的企業正確識別了9家,從表4可以看出,該評價模型對測試樣本的正確識別率也達到了100%。

    總結

    采用中國2008年的64家上市公司和2009年的17家公司的財務數據,考慮上市公司經營狀況的4 個主要財務指標:每股收益、每股凈資產、凈資產收益率、主營利潤增長率。通過matlab 軟件,利用2008年的64家公司的數據建立了基于BP算法的經營狀況評價模型,并利用該模型對2009年的17家公司的經營狀況進行了評價。仿真結果表明,訓練后的網絡模型對訓練樣本和測試樣本的正確識別率為100%。因此,基于BP算法的經營狀況評價模型能夠正確的對兩類模式進行分類,具有潛在的應用價值。

    參考文獻:

    [1]汪勇,魏巍.電子商務網站的層次分析法評價模型構建[J].湖北大學學報,2010,(1):50-61.

    [2]林斌,吳貴生,王劍.地方政府投融資管理體制發展趨勢探析――基于模糊綜合評價法[J].運籌與管理,2010,(l):139-144.

    [3]陳立文,孟苓閣.房地產上市公司Logistic預警模型研究[J].價值工程,2010,(8):34-36.

    [4]林杰新,羅偉其,龐素琳.Bayes判別信用評價模型及其應用研究[J].統計與決策,2005,(1):22-25.[5]毛春元,張月,黃萍.基于因子分析法的小康社會綜合評價模型[J].淮海工學院學報,2010,(1):67-70.

    [6]鞏芳,常青,白布赫,等.基于聚類分析的內蒙古草原生態經濟系統綜合評價[J].內蒙古大學學報:哲學社會科學版,2010,(2):27-32.

    [7]高新才,魏麗莉.中國區域城鄉協調發展評價模型與案例分析[J].西北師大學報,2010,(1):91-96.

    [8]朱國強,劉厚泉.基于聚類的神經網絡分類模型研究[J].微計算機信息,2008,(3):223-224.

    [9]柳平,趙巖,王軍.基于非線性特征提取的EEG信號支持向量分類器[J].汕頭大學學報,2009,(1):69-74.

    An Evaluation Model of Enterprises’s Business Status Based on BP Algorithm

    WANG Xiao-dong1,XUE Hong-zhi2,YANG Wen1

    (1. School of Science, Xi’an Polytechnic University,Xi’an 710048,China;2. School of Science, Chang’an University Xi’an 710064,China)

    相關熱門標簽
    主站蜘蛛池模板: 91成人免费在线视频| 一级成人a毛片免费播放| 国产成人a人亚洲精品无码| 成人免费观看视频高清视频| 成人欧美一区二区三区的电影 | 成人18免费网站在线观看| 成人欧美精品大91在线| 成人av鲁丝片一区二区免费| 国产成人综合久久| 久久久噜噜噜www成人网| 成人综合婷婷国产精品久久蜜臀| 成人怡红院视频在线观看| 国产成人欧美一区二区三区| 成人片黄网站A毛片免费| 国产精品成人自拍| 久久久99精品成人片中文字幕| 成人精品免费视频在线观看| 亚洲2022国产成人精品无码区| 国产精品成人无码免费| 欧美亚洲国产成人高清在线| 亚洲精品国产成人| 国产成人精品男人的天堂网站 | 国产成人综合久久综合| 69成人免费视频无码专区| 免费的成人a视频在线观看| 成人毛片18女人毛片免费| 78成人精品电影在线播放| 久久婷婷成人综合色| 国产成人精品免费视频软件| 欧美成人午夜影院| 久久亚洲国产精品成人AV秋霞| 国产成人无码a区在线观看视频 | 国产成人高清精品免费软件| 欧美日韩国产成人精品| 青青国产成人久久激情91麻豆| 久久成人国产精品免费软件| 久久国产精品成人片免费| 亚洲精品成人片在线播放| 亚洲国产精品成人精品小说| 四虎国产精品成人免费久久| 亚洲精品成人区在线观看|