神經網絡的實現過程范文

時間:2024-04-16 17:23:41

導語:如何才能寫好一篇神經網絡的實現過程,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公務員之家整理的十篇范文,供你借鑒。

神經網絡的實現過程

篇1

【關鍵詞】人工神經網絡 路徑規劃 移動機器人

1 引言

在移動機器人導航技術應用過程中,路徑規劃是一種必不可少的算法,路徑規劃要求機器人可以自己判定障礙物,以便自主決定路徑,能夠避開障礙物,自主路徑規劃可以自動的要求移動機器人能夠安全實現智能化移動的標志,通常而言,機器人選擇的路徑包括很多個,因此,在路徑最短、使用時間最短、消耗的能量最少等預定的準則下,能夠選擇一條最優化的路徑,成為許多計算機學者研究的熱點和難點。

2 背景知識

神經網絡模擬生物進化思維,具有獨特的結構神經元反饋機制,其具有分布式信息存儲、自適應學習、并行計算和容錯能力較強的特點,以其獨特的結構和信息處理方法,在自動化控制、組合優化領域得到了廣泛的應用,尤其是大規模網絡數據分析和態勢預測中,神經網絡能夠建立一個良好的分類學習模型,并且在學習過程中優化每一層的神經元和神經元連接的每一個節點。1993年,Banta等將神經網絡應用于移動機器人路徑規劃過程中,近年來,得到了廣泛的研究和發展,morcaso等人構建利用一個能夠實現自組織的神經網絡實現機器人導航的功能,并且可以通過傳感器訓練網絡,取得更好的發展,確定系統的最佳路徑。神經網絡拓撲結構模型可以分為:

2.1 前向網絡

網絡中各個神經元接受前一級的輸入,并輸出到下一級,網絡中沒有反饋,可以用一個有向無環路圖表示。這種網絡實現信號從輸入空間到輸出空間的變換,它的信息處理能力來自于簡單非線性函數的多次復合。網絡結構簡單,易于實現。反傳網絡是一種典型的前向網絡。

2.2 反饋網絡

網絡內神經元間有反饋,可以用一個無向的完備圖表示。這種神經網絡的信息處理是狀態的變換,可以用動力學系統理論處理。系統的穩定性與聯想記憶功能有密切關系。Hopfield網絡、波耳茲曼機均屬于這種類型。

3 基于人工神經網絡的移動機器人路徑規劃算法

神經網絡解決移動機器人路徑規劃的思路是:使用神經網絡算法能夠描述機器人移動環境的各種約束,計算碰撞函數,該算法能夠將迭代路徑點集作為碰撞能量函數和距離函數的和當做算法需要優化的目標函數,通過求解優化函數,能夠確定點集,實現路徑最優規劃。神經網絡算法在移動機器人路徑規劃過程中的算法如下:

(1)神將網絡算法能夠初始化神經網絡中的所有神經元為零,確定目標點位置的神經元活性值,并且能夠神經網絡每層的神經元連接將神經元的值傳播到出發點;

(2)動態優化神經網絡,根據神經網絡的目標節點和障礙物的具置信息,在神經網絡拓撲結構中的映射中產生神經元的外部輸入;

(3)確定目標值附件的神經元活性值,并且使用局部側的各個神經元之間,連接整個神經網絡,并且在各個神經元中進行傳播。

(4)利用爬山法搜索當前鄰域內活性值最大的神經元,如果鄰域內的神經元活性值都不大于當前神經元的活性值,則機器人保持在原處不動;否則下一個位置的神經元為鄰域內具有最大活性值的神經元。

(5)如果機器人到達目標點則路徑規劃過程結束,否則轉步驟(2)。

4 基于人工神經網絡的移動機器人路徑規劃技術展望

未來時間內,人工神經在機器人路徑規劃過程中的應用主要發展方向包括以下幾個方面:

4.1 與信息論相融合,確定神經網絡的最優化化目標解

在神經網絡應用過程中,由于經驗值較為難以確定,因此在神經網絡的應用過程中,將神經網絡看做是一個貝葉斯網絡,根據貝葉斯網絡含有的信息熵,確定神經網絡的目標函數的最優解,以便更好的判斷機器人移動的最佳路徑。

4.2 與遺傳算法想結合,確定全局最優解

將神經網絡和遺傳算法結合起來,其可以將機器人的移動環境設置為一個二維的環境,障礙物的數目、位置和形狀是任意的,路徑規劃可以由二維工作空間一系列的基本點構成,神經網絡決定機器人的運動控制規則,利用相關的神經元的傳感器作用獲未知環境的情況,將障礙信息和目標點之間的距離作為神經網絡的輸入信息,使用遺傳算法完成神經網絡的權值訓練,神經網絡的輸出作為移動機器人的運動作用力,實現一個可以在未知環境中進行的機器人運動路徑規劃。

4.3 與蟻群算法相結合,降低搜索空間,提高路徑規劃準確性

為了提高神經網絡的搜索準確性和提高效率,可以將蟻群算法與神經網絡相互結合,蟻群算法的路徑規劃方法首先采用柵格法對機器人工作環境進行建模,然后將機器人出發點作為蟻巢位置,路徑規劃最終目標點作為蟻群食物源,通過螞蟻間相互協作找到一條避開障礙物的最優機器人移動路徑。

5 結語

隨著移動機器人技術的發展,路徑規劃作為最重要的一個組成部分,其得到了許多的應用和發展,其在導航過程中,也引入了許多先進的算法,比如神經網絡,更加優化了移動的路徑。未來時間內,隨著神經網絡技術的改進,可以引入遺傳算法、信息論、蟻群算法等,將這些算法優勢結合,將會是路徑規劃更加準確和精確。

參考文獻

[1]朱大奇,顏明重,滕蓉. 移動機器人路徑規劃技術綜述[J].控制與決策,2010,25(7): 961-967.

[2]劉毅.移動機器人路徑規劃中的仿真研究[J].計算機仿真,2011,28(6): 227-230.

[3]熊開封,張華.基于改進型 FNN 的移動機器人未知環境路徑規劃[J].制造業自動化,2013,35(22): 1-4.

[4]柳長安,鄢小虎,劉春陽.基于改進蟻群算法的移動機器人動態路徑規劃方法[J].電子學報,2011,39(5).

[5]范浩鋒,劉俊.基于 BP 神經網絡的紅外目標識別技術[J].計算機與數字工程,2013,41(4): 559-560.

篇2

建筑工程的系統性和復雜性提升了工程造價估算的難度,基于神經網絡的工程造價估算方法能夠提升工程造價估算的準確性。本文從傳統的工程造價估算方法入手,對基于神經網絡的工程造價估算方法及其Excel實現進行研究。

【關鍵詞】神經網絡 工程造價 估算方法 Excel實現

在建筑行業不斷發展的背景中,建筑企業面臨的競爭壓力越來越大。對于建筑企業而言,通過建筑工程成本的有效控制,實現所獲經濟效益的提升能夠對自身市場競爭力的提升產生相應的促進作用。選擇合理的工程造價估算方法具有一定的必要性。

1 傳統的工程造價估算方法

應用傳統工程造價估算方法進行估算,要求建筑工程的成本函數是一個具有確定性特點的數學形式,并且這個成本函數應該是對可利用歷史數據的最佳擬合。這些要求對傳統工程造價估算方法的精確度產生了不良影響,進而對該方法的實際應用產生相應的限制。

2 基于神經網絡的工程造價控制估算方法及其Excel實現

2.1 神經網絡的優點和應用

神經網絡是由一定數量的并行處理單元組成的系統,不同處理單元的實際處理方式和連接強度是影響神經網絡功能的主要因素。在神經網絡中,不同神元之間的相互作用可以實現處理信息的目的。神經網絡具有時間連續性、高度非線性以及規模大的特點,神經網絡包含優化計算、處理知識以及聯想記憶等多種功能。神經網絡在電子科技領域中的應用主要集中在圖像和信號處理以及模式識別中。以某個500字符的代碼段為例,該代碼段可能是Python、Java或者C++。當需要通過程序的構造對該代碼段進行識別編寫時,構造神經網絡的方法更加有效。

2.2 基于神經網絡工程造價控制估算方法的合理性

神經網絡的優勢在于,它可以近似實現任意空間的數學映射。神經網絡的這種特點使得它在需要辨識數據模式的困難任務中得到了廣泛應用。神經網絡可以分別對實時數據和歷史資料進行訓練,這種特點為神經網絡在工程造價估算中的應用提供了可能。

2.3 神經網絡電子表格模擬程序

神經網絡電子表格模擬程序主要包括以下幾個步驟:

2.3.1 輸入輸出信息模塊

在該模型中,主要包含基礎基礎類型、結構類型、建造年份、工期、建址、層高、層數、內、外裝修門窗共9個輸入單元,還包含每平方米造價這一輸出單元,以及4個測試樣本和6個訓練樣本。為了將輸入單元、輸出單元的數據更好地展示出來,可以在Excel中建立一個表格。

2.3.2 輸入數據初始化

當表格構建完成之后,可以將相關數據輸入進行,為了便于神經網絡對數據進行合理處理,需要將表格中第一個模塊中的輸入數據調整至[-1,1]范圍中。當第一個模塊構造完成之后,為了簡化第二個模塊的構造時間和步驟,可以利用線性公式對第一個模塊的參數值進行合理調整,這個過程中使用的線性公式如下所示。

2.3.3 構建權重模塊I

就輸出節點、輸入節點以及隱層節點之間的數目關系而言,輸出節點與輸入節點數量之和的一般是隱層節點的實際設置數目。在權重模塊中,需要將所有的數值初始化為1.0。

2.3.4 當權重模塊I構建完成之后

需要考慮隱層節點的輸出模塊。這個步驟主要需要根據神經網絡的操作模型進行。

2.3.5 構建權重模塊II

該模塊的構建步驟與第三步中的做法相同,但在這個模塊中,需要在單一的輸出節點和隱層節點之間建立連接。

2.3.6 神經網絡的最終輸出

這個步驟與第四步類似。

2.3.7 對神經網絡的輸出值進行反調整,并對誤差進行有效計算

神經網絡輸出值的反調整范圍集中在初始賦值范圍中。

2.4 神經網絡的訓練過程

當神經網絡電子表格模擬完成之后,需要對神經網絡進行訓練,也可以將這個過程看成是權值的優化過程。由于權值優化過程具有一定的復雜性特點,因此可以將Excel中的Solver程序應用到這種預測方法中,與其他算法相比,這種算法的優勢表現為可以直接在表格中運行,簡化了操作步驟,實現該預測方法掌握難度的有效降低。運用這種預測方法進行操作可以發現,網絡運行結果滿意,應用這種預測方法的預測誤差小于0.4%。

2.5 分析參數變化對模型預測結果的敏感性

用戶通常無法確定能夠對特定工程進行精確描述的特征因素是什么,因此,為了保證模型的實用性,需要對參數變化對模型預測結果的敏感性進行有效測定。測定參數變化對模型預測結果敏感性的較為復雜,首先,用戶需要將工程中無法肯定的某一特征因素或幾個特征因素的組合選擇出來,然后使用戶選取的參數在初始值周圍逐漸變動,并將參數變動范圍控制在25%之內,為了更好地對參數對模型預測結果的敏感性進行分析,需要對樣本資料的數量進行合理控制。分析參數對模型預測結果名感性的界面如圖1所示。在實際分析過程中,需要將第一個模塊公式變為分別對多個分析資料進行計算,結合計算結果得出計算結果的標準差和平均值,并將估計成本與標準差和平均值進行比較。就平均值而言,在選定參數發生變化的情況下,可以通過敏感性分析對模塊中輸入參數的實際重要性進行有效判斷,通過不同參數的分別變化,分別對其進行敏感性分析,將所得標準差和平均值與最初估計進行比較,進而得出模塊中輸入參數的實際重要性判斷結果。

3 結論

隨著建筑企業面臨競爭壓力的不斷增大,建筑企業對建筑工程成本控制越來越重視。有效工程造價估算方法的使用可以幫助建筑企業獲得更多的經濟效益,傳統的工程造價估算方法精確度較低,基于神經網絡的工程造價估算方法可以保證工程造價估算結果的準確性。

參考文獻

[1]孫金麗,鄭立群,張世英.基于神經網絡的工程造價估算方法及其Excel實現[J].基建優化,2003(01):38-40.

[2]吳子燕.基于人工神經網絡的高校建筑工程造價預測系統的研究與應用[D].西安:西北工業大學,2006.

[3]趙欣.基于BP神經網絡的地鐵土建工程造價估算方法研究[D].北京:北京交通大學,2008.

篇3

關鍵詞:人工神經網絡;Hopfield神經網絡;聯想記憶

DOIDOI:10.11907/rjdk.161853

中圖分類號:TP391

文獻標識碼:A文章編號文章編號:16727800(2016)009014603

基金項目基金項目:

作者簡介作者簡介:余洋(1994-),男,湖北隨州人,四川理工學院自動化電子信息學院碩士研究生,研究方向為智能控制;傅成華(1958-),男,四川富順人,四川理工學院自動化與電子信息學院教授、碩士生導師,研究方向為先進控制與系統優化、神經網絡與非線性信息處理。

0引言

Hopfield于1982年提出了一種新型的神經網絡――Hopfield網絡模型。它采用了與層次型人工神經網絡完全不一樣的結構特征和學習方法來模擬生物神經網絡的記憶機理,首次使用“能量函數”的概念,并且說明了此神經網絡與動力學之間的關系,使得判斷神經網絡在工作過程中的穩定性有了非常簡便和可靠的依據。該神經網絡非常利于人們理解學習,也可以比較方便地在集成電路中實現。Hopfield神經網絡根據網絡輸入輸出的不同分為兩種形式:離散型Hopfield神經網絡和連續型Hopfield神經網絡,兩種形式的神經網絡應用領域也各不相同。本文使用離散型Hopfield神經網絡實現聯想存儲器設計。

1離散型Hopfield神經網絡

離散型Hopfield神經網絡是由n個神經元相互連接而成的二值神經網絡[12],并且各神經元之間的連接是雙向的,連接強度用權值表示。網絡的全互聯結構如圖1所示。神經元的輸出為離散值0(或-1)和1,分別代表神經元的抑制和激活狀態。由于神經網絡的時間離散特性,因而其被稱為離散型Hopfield神經網絡[3]。

這種連接方式使得離散型Hopfield神經網絡中每個神經元的輸出均通過神經元之間的連接權值反饋到同一層次的其它神經元,并作為該神經元的輸入,從而使各神經元之間相互制約,保證離散型Hopfield神經網絡在沒有外部輸入的情況下也能進入穩定狀態。

兩個互聯神經元之間的連接權值相同(wij=wji),每個神經元到其自身的連接權值為0,即wii =0。

1.1處理單元模型

離散型Hopfield神經網絡的單個神經元結構如圖2所示,單個神經元采用M-P模型進行信息處理,假設神經網絡有n個神經元,以xj表示神經元j的輸出(也稱為神經元的狀態),wij表示神經元i與神經元j之間的連接權值,θj表示神經元j的閾值。

神經元j的凈輸入sj=∑ni=1xiwij-θj(1)

神經元j的輸出 xj=f(sj)=sgn(sj)=1sj>0-1sj≤0(2)

1.2網絡狀態及運行規則

離散型Hopfield神經網絡的狀態由網絡所有(n個)神經元的狀態集合構成,在任意一個給定的時刻t,離散型Hopfield神經網絡的狀態表示為:

X(t)=(x1 ,x2 ,…,xn )(3)

離散型Hopfield神經網絡是全互聯反饋式的連接結構,每個神經元都會接收到全部神經元的反饋信息,故當網絡中的各神經元狀態改變時,整個網絡狀態也隨之變化。當網絡中各神經元的輸出狀態都不再改變時就表示網絡達到穩定狀態(即xj (t+1)=xj (t)=f(sj (t)))。神經網絡要達到穩定狀態需要經過反復更新,學習訓練。

離散型Hopfield神經網絡的工作過程就是網絡狀態的動態演化過程,即從網絡初始狀態沿能量遞減的方向不斷演化的過程,直到達到網絡的穩定狀態,這時網絡的穩定狀態就是網絡的輸出。離散型Hopfield神經網絡工作時有以下運行步驟:①對網絡進行初始化;②從網絡中隨機選取一個神經元i;③按照式(1)計算神經元i在t時刻的凈輸入si (t);④按照式(2)計算神經元i在t+1時刻的輸入xi(t+1),此時網絡中除i以外的其它神經元j的輸出保持不變,即xj(t+1)=xj(t)其中i ≠j;⑤按照式xj(t+1)=xj(t)=f(sj(t))判斷網絡是否達到了穩定狀態,如果未達到穩定狀態就轉到②繼續進行,如果網絡達到穩定狀態則網絡的工作過程終止。

1.3離散型Hopfield神經網絡的能量函數

Hopfield神經網絡的一大特點就是引入了“能量函數”,它表明了神經網絡與動力學之間的關系。上文也提到,網絡運行時在網絡狀態不斷變化過程中,網絡的能量值不斷遞減,直到達到穩定狀態。這說明網絡的能量值與網絡的穩定狀態有著十分密切的關系。能量函數定義為:

E=-12∑ni=1∑nj=1wijxixj+∑ni=1θixi(4)

Hopfield神經網絡實際上是一個非線性動力系統,網絡按動力學方式運行,網絡狀態的變化過程實際上是使能量極小化的過程:每次神經元狀態改變時,整個網絡的能量應單調遞減,即能量與以前相同或下降。證明如下:

設任一神經元j由式(4)得神經元j的能量為:

Ej=-12∑ni=1wijxixj+θjxj(5)

該式可變換為:

Ej=-12xj∑ni=1wijxi+θjxj(6)

由t時刻到t+1時刻神經元j的能量變化為:ΔEj=Ej(t+1)-Ej(t)= -Δxj(∑ni=1wijxi-θj)+12Δxj∑ni=1wijxi(7)

由于在t+1時刻只有神經元j調整狀態,并且各神經元不存在自反饋,式(7)可簡化為:

ΔEj= -Δxj(∑ni=1wijxi-θj)(8)

在t+1時刻共有以下3種可能情況來分析ΔEj的大小從而論證網絡能量值的改變方向:①如果神經元j的狀態不發生變化,即xj (t+1)=xj (t),則Δxj=0,由式(8)可知ΔEj=0;②如果神經元j的狀態發生變化,是從-1變為1,則Δxj=2,此時由式(1)和式(2)可知∑ni=1wijxi-θj>0,再由式(8)得ΔEj

綜上可知,從t時刻到t+1時刻,無論神經元j的狀態如何變化,其能量的改變量均為ΔEj≤0。由于神經元j是網絡中任意一個神經元,而網絡中的神經元又都是按照同一規則來更新狀態的,因而整個網絡的能量一直向減少的方向進行。網絡變化的過程就是網絡能量的極小化過程,因為能量函數是有界的,故網絡一定會趨于穩定狀態,該穩定狀態就是網絡的輸出。離散型Hopfield神經網絡能量函數的變化曲線如圖3所示,能量函數的變化過程可以看作是下坡的過程,當網絡的狀態隨時間改變時,整個網絡的能量沿著下降最快的方向改變,最終停在整個網絡能量的極小點[4]。這些極小點有全局極小點c,也有局部極小點a、b,最終落入哪種極小點取決于網絡的初始狀態。網絡能量函數變化曲線如圖3所示。

1.4關于離散型Hopfield神經網絡聯想記憶的連接權值設計

離散型Hopfield神經網絡可以應用于聯想記憶[5],其聯想記憶的基本原理是利用能量函數的極值點,網絡將記憶的樣本信息存儲在不同的能量極值點上,當網絡輸入某一種模式時,網絡工作到穩定狀態后能夠“聯想記憶”出與其相關的其它存儲樣本,從而實現聯想記憶。并且神經網絡都有很好的容錯性能,即使是對一些不全的、破損的、變形的輸入信息,網絡也能夠很好地將其恢復成比較完整的原型信息。記憶是聯想的前提,必須先將信息存儲起來,才能按照某種方式或規則再取出相關信息,能量極值點存儲記憶模式,而網絡的連接權值和閾值決定這些極值點的分布,因此網絡聯想記憶的關鍵就是根據能量極值點和需要被記憶的模式設計一組恰當的網絡連接權值和閾值。

網絡在沒有記憶之前是空白狀態,只有設計了恰當的連接權值和閾值才會使網絡具有知識,連接權值的設計調整過程就是網絡的學習過程。離散型Hopfield神經網絡一般用Hebb規則的外積和法來設計權值。方法具體如下:

假設網絡共有n個節點,W是網絡的連接權矩陣,如果網絡一共處理m個兩兩正交的模式樣本,則網絡的學習記憶集合為xk=(xk1,xk2,…,xkn)(k=1,2,…,m)。

(1)若m=1只有一個學習模式,學習記憶集合為X1,對于輸入模式X1,如果網絡達到穩定狀態,有:

X1=sgn(XW),即x1j=sgn(∑ni=1wijx1i)j=1,2, …,n(9)

由sgn函數的特點可知,若滿足x1j(∑ni=1wijx1i)>0,即若連接權值wij正比于x1jx1i,則式(9)成立。綜合可得,網絡的連接權值與輸入模式向量的每個分量之間滿足關系:

wij=αx1jx1iα為常數而且大于零(10)

(2)如果有多個學習模式,則可將式(10)進行推廣有:

wij=α∑mk=1xkjxkiα為常數而且大于零(11)

由wii=0可將式(11)改寫為:

W=α∑mk=1[(Xk)TXk-I]α為常數而且大于零,I為nxn的單位矩陣(12)

在設計好網絡連接權矩陣后,網絡就處于正常工作狀態,加載輸入模式向量時,網絡可以進行模式的記憶及聯想。

2聯想記憶功能實現證明

聯想記憶的過程分為兩個階段:第一階段是記憶階段(也稱存儲階段、學習階段),它是聯想記憶的關鍵,其處理過程是將記憶模式作為網絡的穩定狀態,并通過設計或學習獲得需要的網絡連接權值;第二階段是聯想階段(也稱回憶階段),此階段是利用網絡進行回憶,將給定的輸入模式作為網絡的初始狀態,網絡按照既定的運行規則不斷演化,一直演化到網絡的穩定狀態,此時網絡的穩定狀態就是回憶出的記憶模式。下面舉例證明離散型Hopfield神經網絡是如何實現聯想記憶功能。設有一個4神經元的離散型Hopfield神經網絡,各神經元的閾值為0,其中存儲了兩個模式,模式一X1為(1,1,1,1),模式二X2為(-1,-1,-1,-1),每個存儲模式由兩部分組成:名稱和顏色。前兩神經元存儲的是名稱,后兩個神經元存儲的是對應的顏色。模式一表示“藍色的天空”,前兩個1表示天空,后兩個1表示藍色的;模式二表示“綠色的樹”,前兩個-1表示樹,后兩個-1表示綠色的,當網絡上加載信息不全或錯誤地輸入模式三X3=(1,1,-1,1)時,讓網絡聯想記憶輸出模式X1。若想讓網絡聯想輸出模式X1,必須首先設計網絡的連接權值,讓網絡記憶模式一和模式二,然后讓網絡加載輸入模式三運行到穩定狀態。將網絡要存儲的模式一和模式二設計為網絡的兩個穩定狀態,由此設計網絡的連接權值。根據式(12),設α=1得網絡的連接權矩陣為;

W=(X1)TX1+(X2)TX2-2I=0222202222022220

設計好連接權值后,將模式三加載至網絡,然后按照網絡運行規則讓網絡運行:

t=0:網絡的初始狀態X(0)=(1,1,-1,1);

t=1:選取節點1,節點1的狀態為x1(1)=sgn[1×0+1×2+(-1)×2+1×2]=sgn[2]=1

網絡狀態X(1)=(1,1,-1,1);

t=2:選取節點2,節點2的狀態為x2(2)=sgn[1×2+1×0+(-1)×2+1×2]=sgn[2]=1

網絡狀態X(2)=(1,1,-1,1);

t=3:選取節點3,節點3的狀態為x3(3)=sgn[1×2+1×2+(-1)×0+1×2]=sgn[6]=1

網絡狀態X(3)=(1,1,1,1);

t=4:選取節點4,節點4的狀態x4(4)=sgn[1×2+1×2+1×2+1×0]=sgn[6]=1

網絡狀態X(4)=(1,1,1,1);………

按此規則循環運行下去直到網絡狀態不再改變,網絡處于穩定狀態,網絡的輸出就是(1,1,1,1),也即網絡存儲的記憶模式一X1=(1,1,1,1)。同理,當網絡加載模式四X4=(-1,-1,1,-1)時,網絡也可聯想記憶輸出模式二。從而證明了離散型Hopfield神經網絡具有聯想記憶功能。

3結語

神經網絡的聯想記憶功能雖然很強,但是也存在一些缺陷。由于聯想記憶能力受到了記憶容量和樣本差異的制約,當記憶的模式較多且容易混淆時,網絡不能夠很好地辨別出正確模式,而且達到的穩定狀態也往往不是記憶住的模式。并且,所有記憶模式不是以同樣的記憶強度回想出來的。

參考文獻參考文獻:

[1]周非.基于RBF網絡和逆模型的汽油機瞬態空燃比控制[D].成都:西華大學,2006.

[2]于樂斐.兩類時滯細胞神經網絡的穩定性分析[D].青島:中國海洋大學,2008.

[3]夏松.Hopfield神經網絡構造的聯想記憶存儲器實現與研究[D].合肥:安徽大學,2010.

篇4

關鍵詞:BP神經網絡;VHDL;模擬與仿真

一、人工神經理論基礎

神經網絡又被稱為鏈接模型,其本身是模仿動物的神經網絡,并根據其行為特征分布式進行算法數學模型處理。在計算機上,人們可以利用并行或者串行的模式模擬仿真,實現人們自身的神經網絡模型算法。在特定應用情況下,進行神經網絡研究的目標則是高性能專用的神經網絡硬件。

神經元是人工神經網絡的基本單元,具有一定的信息處理方面的能力。對于輸入的內容,神經元可以簡單進行處理,能根據學習規則做好加權求和,并根據權值來獲取神經元的狀態輸出,以便對刺激進行處理。還可建立基于VHDL語言的神經網絡元件庫,它包括基本單元、控制單元兩個部分。

二、 BP神經網絡結構模型

BP神經網絡由輸入層、隱含層和輸出層組成,相鄰層之間的各個神經元實現全連接,每層各個神經元之間沒有連接。

BP算法正向傳播過程:輸入信號從輸入層輸入,經過隱含層傳向輸出層。如果輸出層的實際輸出與期望輸出一致,那么學習算法結束。基本控制單元用于建立隱含層和輸出層的神經元,主要解決信號運算后權值存儲問題,它主要包括加權乘法、神經元輸入信號的累加、非線性激勵函數的實現、權值存儲等基本模塊。

圖1中xi代表第i個輸入,wij代表輸入i和神經元j之間的權值(weight),yj是第j個輸出。如圖1所示可以得到:

y1=f(x1.w11+x2.w21+x3.w31 ) 2-1

y2=f(x1.w11+x2.w22+x3.w32) 2-2

y3=f(x1.w11+x2.w23+x3.w33) 2-3

其中f( )是激化函數(如線性閾值的sigmoid函數等)。

三、神經網絡模型與仿真

clk產生脈沖信號,輸入端x1,x2,x3 分別置為011,100,101,權值初值設為0000,通過9個脈沖周期一次遞增到1000,將權值與輸入值進行運算,得出結果。在權值固定時,輸出取決于輸入,不同的輸入得到不同的輸出結果。而在權值變化時,輸出就由輸入和權值決定。

為了仿真的結果更直觀,代碼采用的每個神經元的3個輸入信號以及權值的位寬都為4,且帶有符號。權值共設了9個,采用9個時鐘周期將權值移入值。模擬與仿真的結果如圖2所示。

結果分析:模擬結果與結果一致,此仿真成功。

四、結語

基于VHDL編程實現簡單神經網絡的軟件模擬與仿真,從算法的提出到模型的建立,完整地體現神經網絡的可用性與優越性。文中所提的神經網絡模型是對單個神經網絡的模擬與仿真,以及基于二維數組的多個輸入輸出的大規模神經網絡的模擬。由于VHDL語言編程的靈活性,可以將編程下載到芯片用硬件實現對神經網絡的模擬,以提高系統運算的速度和可靠性。

參考文獻:

篇5

關鍵詞:計算機網絡模型;神經網絡算法;分析

中圖分類號:TP393 文獻標識碼:A 文章編號:1009-3044(2016)35-0212-02

計算機網絡是人們多年研究科技進步最重要的成果,其被廣泛運用到教育、工作、科學等方面,也具有良好的成就。目前,基于服務器的集線式網絡具有實現網絡互連的功能,但也成為了網絡進一步發展的阻礙。雖然大量的信息能夠豐富網絡中的內容,但是其中的多媒體技術發展卻使網絡運行力不從心,比如圖像、聲音等,全面優化計算機網絡整體性能是其發展的必要途徑。將神經網絡算法與計算機網絡相結合,能夠有效解決大規模復雜性的問題。

1淺析神經網絡算法

1.1神經網絡算法內涵

思維界認為,人類大腦思維包括靈感思維、邏輯思維、形象思維三種方式,神經網絡模擬的就是人類思維的形象思維,是一種非線性動力學系統。神經網絡算法指的是邏輯性思維根據邏輯規則推理的過程。神經網絡的內容目前被廣泛研究,包括建立理論模型、生物原型研究、建立網絡模型與算法研究、人工神經網絡應用系統等。

優化網絡的神經網絡主要是Hopfield神經網絡,是1982年由美國物理學家提出的,它能夠模擬神經網絡的記憶機理,是全連接的神經網絡。Hopfield神經網絡中的每個神經元都能夠信號輸出,還能夠將信號通過其他神經元為自己反饋,那么其也稱之為反饋性神經網絡。

1.2神經網絡優化的基礎

Hopfield神經網絡其實是一個分線性動力系統演變的過程,通過能量函數分析系統的穩定性,將能量函數看做需要優化的問題目標函數。將能量函數的初始狀態轉變為穩定點這一過程,就成為求解優化問題過程,這個過程也可以稱為在計算機聯想記憶基礎上解決優化問題的過程。

1.3神經網絡優化模型的算法

反饋網絡的聯想記憶和優化是相對的,通過優化計算得知W,其目的就是為了找出E的最小穩定狀態;聯想記憶的穩定狀態是特定的,要通過一些過程才能夠找到適合的W。這個過程中的關鍵就是將問題的目標函數通過二次型能量函數進行表達。如下式所述:

Hopfield神經網絡比較常見的類型有DHNN(離散型)和CHNN(連續性)兩種,他們的動態方程分e為:

DHNN(離散型)動態方程:ui=fi(v1,v2,...,vN)

Vi=g(ui),vi∈{0,1},i=1,2,...,N

式子中的gi表示為階躍函數,vi=g(ui)[(1, ui>0)(0, ui

CHNN(連續性)動態方程:dui/dt=fi(v1,v2,...,vN)

Vi=gi(ui),i=1,2,...,N

式子中的gi表示為常用函數sigmoid,vi=gi(ui)=1/2[1+tanh(ui/u0)],u0表示的為可控函數的斜率,當u0=0的時候,gi就為階躍函數。【1】

1.4神經網絡算法的優化步驟

其一,通過合適的問題將方法表述出來,使神經網絡的輸出和這一問題的解相互對應;

其二,創建有效的能量函數,要求問題的最優解能夠對應最小值;

其三,使用有利條件和能量函數創建網絡參數;

其四,創建對應的動態方程和神經網絡;

其五,使用有效的初值,要求網絡根據動態方程進行驗算,直到收斂。

2基于神經網絡算法的網絡流優化模型

網絡流優化模型的關鍵就是最小切割、圖的劃分和最大流問題,下面一一描述:

最小切割:最小切割是指尋找使隔集容量達到最小的切割。圖的切割是指劃分一個N―n1Un2,一個隔集為一組弧(i,j),i∈n1,j∈n2,隔集弧的權值總和為它的容量。使N=(W,T)是T=0的網絡,要求能量最小為N圖的最小切割。

圖的劃分:圖的劃分指的是將圖劃分為K個部分,要求每個部分中的節點數都相等。

最大流問題。要求有向圖G(v,e)中的開始點為S,結束點為Z,邊容量為Cij。如果每條邊都有非負數fij,并且每條邊為fij≤Cij且除了S和Z之外具有∑fij=∑fki。當S和Z有∑fsi=∑fiz=W的時候,W的最大值≤任何切割的容量。【2】

3基于神經網絡算法的動態路由選擇模型

通信網中的物理網絡的連接一般是點到點,其可以用無向圖G=(v,e)來表示,將交換節點表示為頂點,通路表示為邊,每一邊都有最大容量,為了能夠滿足網絡中點和點能夠相互通信,還E能夠根據網絡業務的量和用戶呼叫為基礎進行路由安排。現在一般使用的都是靜態方式,能夠提供給動態路由一些可能性,其的優化模型是:

如果網絡圖是G=(v,e),而且對網絡中的邊進行編號,路徑經過的邊表示為1,路徑不經過的邊表示為0,L*M神經元表示為L需要這多個路由,將備選的路由數量表示為M,如果通信網中具有N個節點,那么目標函數就是E=E1+E2+E3。【3】

4結束語

基于神經網絡算法的優化網絡模型有著簡單、穩定、快速、規范的優勢,其與其他算法相結合,能夠較大程度的提高計算機網絡模型的整體性能。但是Hopfield神經網絡算法中的優化網絡模型并不嚴格,它有著核心策略下降的缺點,那么在使用過程中會出現網絡收斂的最優解呈局面狀態、網絡收斂解不可行、網絡參數的不正當選擇會導致偏差等,所以在今后就要深入研究計算機網絡模型中的神經網絡算法,使其更加完善。

參考文獻:

[1]丁建立.基于神經網絡算法的計算機網絡優化模型研究[J].洛陽師范學院學報,2003, 22(2):59-62.

篇6

(江蘇建筑職業技術學院,徐州 221116)

摘要: 針對建筑工程特點,提出了基于RBF神經網絡的建筑工程投標報價方法,建立建筑工程投標報價標高率數學模型。應用MATLAB計算軟件,以實例驗證了該模型的正確性及實用性。

關鍵詞 : RBF神經網絡;標高率;報價

中圖分類號:TU723.3 文獻標識碼:A 文章編號:1006-4311(2015)26-0049-03

作者簡介:陳紅杰(1986-),女,河南睢縣人,助教,碩士,研究方向為工程造價、市政工程;李高鋒(1987-),男,河南杞縣人,助教,碩士,研究方向為項目管理、工程造價。

0 引言

神經網絡在建設工程領域應用越來越廣泛,BP神經網絡會出現局部最小化問題和“過擬合”現象,徑向基函數(radial basis function,RBF)神經網絡的逼近能力、分類能力、學習速度等方面都優于BP網絡。所以,文章將徑向基函數神經網絡用于標高率決策模型的建立,較BP神經網絡有一定的進步與提升。

1 徑向基函數神經網絡原理

1.1 徑向基函數神經網絡基本結構

徑向基函數神經網絡是徑向基函數(radial basis function,RBF)與人工神經網絡相結合形成的一種局部逼近網絡,可以任意精度逼近任意連續函數。

RBF神經網絡一般為三層結構,如圖1,包含輸入層、隱含層和輸出層,每層都有其特定作用。

1.2 徑向基函數神經網絡訓練過程

具體訓練過程如圖2。

1.3 徑向基函數神經網絡的實現

徑向基函數神經網絡一般采用MATLAB軟件中的神經網絡工具箱對其進行模擬。MATLAB軟件的神經網絡工具箱為RBF神經網絡提供了很多工具箱函數,通過合理調用函數,能設計出符合要求的RBF神經網絡。

RBF神經網絡一般采用newrb函數作為設計函數,在創建過程中newrb函數可以特定方式完成權值和閾值的選取和修正。文章采用newrb函數創建徑向基函數神經網絡,訓練過程如下:

①輸入樣本數據(不包括測試數據),建立newrb神經網絡;

②找出均方差最大的一個樣本數據;

③依據均方差最大的樣本,網絡自動增加一個徑向基神經元,其權值等于該樣本輸入向量的轉置;閾值b=[-log(0.5)]1/2/spread,spread為徑向基函數的擴展系數,默認值為1.0;

④以輸入樣本數據和輸入層及隱含層之間的權值的點積為徑向基神經元輸出,此點積作為線性網絡層神經元的輸入,重新設計線性網絡層,使均方差最小;

⑤當均方誤差未達到規定的誤差性能指標,且神經元數目未達到規定的上限值時,重復以上步驟,直到滿足上述任一條件為止。

newrb函數設計徑向基函數神經網絡的格式:

net1=newrb

[net1,tr]=newrb(P,T,goal,spread,MN,DF)

其中:

net1:更新了權值和閾值的神經網絡;

tr:訓練記錄;

P:訓練樣本輸入;

T:目標輸出;

goal:徑向基網絡輸出的總平均誤差方差;

MN:最大神經數目;

DF:增加的神經元數目。

對神經網絡仿真采用sim函數,格式如下:

Y=sim(net1,P_test)

其中:

P_test為網絡的測試樣本。

2 標高率模型的建立

標高金概念國外應用較早,包括報價中除直接成本以外的開辦費、管理費、利潤和不可預見費等。考慮到我國的實際情況,文章將標高金定義為投標企業的盈利部分,包括利潤和不可預見費(風險費用)。

標高率決策模型僅用于確定標高金,工程成本部分采用其他方法確定。標高金的數額一般與工程規模相關,而采用標高率可以避免這一影響。基于此,文章應用徑向基函數神經網絡建立標高率預測模型,報價中的工程成本部分可以利用現有的工程定額系統和工程計價軟件如廣聯達和神機妙算等來進行快速、準確的估算。

2.1 標高率影響因素分析

考慮到我國建設市場的特點及現狀,文章從以下五個方面考慮標高率的影響因素,包括:項目因素,項目所在地社會因素,業主因素,承包商自身因素,競爭對手因素。項目因素包括工程復雜性、工程規模、合同條件、工期要求和質量要求五項因素;社會因素包括材料設備人員可得性、基礎設施、政策環境和市場前景四項因素;業主因素包括管理能力、業主信譽、資金力量、招標規范性四項因素;自身因素包括類似工程經驗、施工能力、任務飽滿度三項因素;對手因素包括競爭對手數量、相對優勢兩項因素。

2.2 模型指標體系的建立

界定上述18項影響因素取值范圍,如表1所示。以這18項影響因素作為輸入變量,以標高率(%)作為唯一輸出變量Y,構成模型的變量體系。

2.3 RBF神經網絡構建

文章設計的徑向基函數神經網絡模型共有三層:輸入層、隱含層和輸出層。其中,輸入層有18個神經元,與輸入變量(X1,X2,…,X18)相對應。隱含層神經元個數文章設定上限為30個。輸出層有唯一神經元,即標高率。通過該模型建立一個由(X1,X2,…X18)到Y的映射結構。

3 實例分析

文章選取某一建筑工程承包公司的26個以往中標項目的報價實例作為原始數據用于模型訓練,其中X1—X18代表影響因素的取值,Y代表實際標高率。樣本數據X2(建筑面積)和X17(競爭對手數量)進行歸一化處理,計算公式為Xl=(Xl-Xmin)/(Xmax-Xmin),其變量取值如表2所示。

利用MATLAB7.8軟件實現編程,建立投標報價RBF神經網絡模型,前22個項目數據作為訓練集,后四個項目作為測試集,利用newrb函數對網絡進行創建和訓練,即:

[net1,tr]=newrb(P,T,goal,spread,MN,DF)

令:

Goal=0.001

MN=30

DF=1

spread=0.991

所建立的徑向基函數模型結構如表3所示。

經過模型訓練,得出網絡的訓練誤差曲線為圖3。由圖可知,經過20次訓練后,模型輸出結果的誤差達到10-3,具有很高的精確度。測試集網絡測試結果與實際評估結果比較如表4,平均誤差為0.0153,滿足工程實際需要。可見,徑向基函數神經網絡在標高率報價預測方面,具有很好的應用價值。

4 結語

文章分析了對投標報價決策有重要影響的眾多因素,參考國內外的研究成果,確定了影響標高率的18個主要因素,與實際標高率一起組成標高率預測模型的指標體系。選取投標報價實例數據作為樣本對模型進行訓練和檢驗,通過MATLAB軟件neural network toolbox,建立了用于投標報價標高率預測的徑向基函數神經網絡模型,文章通過實證研究,取得了良好的效果。

參考文獻:

[1]任宏.神經網絡在工程造價和主要工程量快速估算中的應用研究[J].土木工程學報,2005(8):135-138.

[2]喬姍姍.基于遺傳算法優化的BP神經網絡在建筑工程投標報價中應用的研究[D].揚州:揚州大學,2012.

篇7

關鍵詞:模擬電路;故障診斷;BP神經網絡;Elman神經網絡

中圖分類號:TP183文獻標識碼:A文章編號:1009-3044(2011)17-4170-03

Application of BP Neural Network and Elman Neural Network in Fault Diagnosis of Analog Circuit

YANG Chen, SHI Bao-jun

(Department of Electronics and Information Engineering,Lanzhou Jiaotong University, Lanzhou 730070, China)

Abstract: This article studies the method of fault diagnosis of analog circuit based on the neural network, by analyzing the basic structure and the algorithm of BP neural network and Elman neural network. Then it contrastive analysis the diagnosis ability of BP neural network andElman neural network through simulation. The results shows that BP neural network's convergence rate is relatively slow, and the training time is long; Elman neural network's parameter is simple to adjust, the training time is short, stable performance, and it is more suitable to solve the questions like tolerance, non-linear and so on in fault diagnosis of analog circuit.

Key words: analog circuit; fault diagnosis; BP neural network; elman neural network

由于模擬電路中廣泛存在著容差、非線性等問題,導致模擬電路的故障診斷較為復雜。神經網絡作為一種模式識別技術,擁有強大的自學習、自組織和自適應性[1],能夠很好的滿足模擬電路故障診斷的要求。而在神經網絡的各種模型中,應用較為廣泛的是BP神經網絡和Elman神經網絡。本文針對模擬電路中的軟故障,建立基于BP神經網絡和Elman神經網絡的智能診斷模型,并通過仿真實例對兩種神經網絡的性能進行對比和評價。

1 BP神經網絡和Elman神經網絡基礎理論

1.1 BP神經網絡

BP神經網絡是一種多層前饋神經網絡,其網絡結構的模型如圖1所示。

由圖1所示,BP神經網絡是一種具有三層或三層以上神經元的神經網絡,包括輸入層、隱含層和輸出層[2]。其中,輸入節點為xi,隱含層輸出節點為yj,輸出節點為ok,wjk,vij分別為隱含層到輸出層,輸入層到隱含層的連接權值。f(?)為神經元的激活函數,網絡的期望輸出為dk,輸出誤差為E,網絡的各層輸出關系為:[3]

輸出層: (1)

隱含層: (2)

輸出誤差: (3)

1.2 Elman神經網絡

與BP神經網絡不同,Elman神經網絡是一種反饋神經網絡,該神經網絡的結構模型如圖2所示。

Elman神經網絡由4層結構組成,包括輸入層、隱含層、承接層和輸出層。其中輸入層節點為ur,隱含層輸出節點為xn,承接層輸出節點為xc,輸出層節點為ym,w3,w2,w1分別為隱含層到輸出層、輸入層到隱含層、承接層到隱含層的連接權值,g(?)為輸出神經元的激活函數,f(?)為隱含層神經元的激活函數[4],網絡的期望輸出為dk,輸出誤差為E,在k時刻各層之間的輸出關系為:[5]

輸出層: (4)

隱含層: (5)

承接層: (6)

輸出誤差: (7)

2 神經網絡在模擬電路故障診斷中的實現方法

采用神經網絡進行模擬電路故障診斷的過程是把故障特征空間向量映射到故障模式空間,從而解決模擬電路故障的識別和分類問題。其診斷步驟如下:

1) 構造訓練樣本集:根據被測模擬電路的特點,選擇合適的激勵信號和測試點,利用PSpice仿真軟件中的靈敏度分析找到對電路工作性能影響較大的元器件,并通過蒙特卡羅分析,針對這些元器件的正常狀態和各種故障狀態進行多次仿真,得出電路各測試點對應各種狀態的輸出數據,這些數據經過歸一化等適當的處理后作為神經網絡的訓練樣本集。

2) 神經網絡的結構設計及訓練:通過分析仿真得出的訓練樣本集數據及模擬電路的各種工作狀態,設計出合適神經網絡結構。其中網絡中間層神經元個數的選擇是決定網絡性能好壞的關鍵,通常是根據以往的經驗以及不斷的訓練調整,最終確定理想的中間層神經元個數。將處理過的訓練樣本集輸入已經設計好的神經網絡中,通過訓練算法對其進行訓練。

3) 神經網絡的測試:對電路施加相同的激勵信號,得到神經網絡的測試樣本。將其輸入到訓練好的神經網絡中,進行相應的故障模式識別。并將實際輸出的結果與期望診斷的結果進行對比,判斷是否達到神經網絡的性能要求。

3 實驗仿真

待測電路如圖3所示,實驗針對電路中的單個電阻或電容發生的軟故障進行診斷。使用PSpice9.2軟件對該電路的正常和不同的故障情況分別進行仿真分析。各元器件標稱值如圖中所示,其中電阻和電容的容差分別5%和10%。通過靈敏度分析發現,元器件R1,R2,R3,R4,R6和C1的取值發生變化時,對電路輸出Vout的波形影響最為顯著。

3.1 訓練樣本集的構建

在電路輸入端施加2V的正弦激勵, 當電路發生故障時,選擇其中幾個最能反映輸出響應波形曲線波動的采樣點,從而構成各種故障模式的特征向量,此處選取的采樣頻率分別為60Hz ,120Hz ,150Hz ,180Hz,250 Hz,300Hz。其中Vout為輸出測試點,實驗假定電阻和電容在偏離其標稱值的±50 %時發生軟故障。結果將故障分成兩類: R ,R 和C ,C ,加上電路的正常工作狀態共計13種故障模式,并采用二進制編碼表示。為了提高實驗的精度,分別對上述13種工作狀態進行30次的蒙特卡羅(MC)分析,得到電路的30個故障樣本,其中20個作為樣本集進行神經網絡的訓練,其余的10個作為神經網絡的測試樣本。部分訓練樣本經過歸一化處理后如表1所示。

3.2 BP神經網絡結構的確定與訓練

1) BP神經網絡結構的確定:通過分析待測電路各種故障模式的特征向量,實驗建立一個具有三層網絡結構的BP神經網絡,其中隱含層神經元個數n2和輸入層神經元個數n1之間有以下近似關系:

n2=2n1+1

由于神經網絡的輸入層神經元的個數為6個,輸出層神經元的個數為4個,可得出隱含層的神經元個數近似為13個。隱含層的神經元個數不是固定的,需要經過多次訓練進行調整,實驗最終選取隱含層神經元個數為12比較理想。

2) BP神經網絡訓練:將20組的訓練樣本輸入到BP神經網絡,隱含層神經元的傳遞函數為S型正切函數tansig,輸出層神經元傳遞函數采用S型對數函數logsig,誤差為0.01,學習率為0.1,訓練的誤差變化曲線如圖4所示,在經過135次訓練后,神經網絡的性能達到了要求。

3.3 Elman神經網絡結構的確定與訓練

1) Elman神經網絡結構的確定:實驗采用單隱層的Elman神經網絡,其中由于輸入故障特征向量的維數為6,則其輸入層神經元的個數為6;而輸出向量的維數為4,則輸出層神經元的個數為4。為了使網絡的診斷誤差最小,經過多次訓練檢驗,將隱含層神經元的個數設定為15,能夠很好的滿足網絡的性能要求。

2) Elman神經網絡訓練:將20組的訓練樣本輸入到BP神經網絡,傳遞函數取tansig,誤差為0.01。訓練的誤差變化曲線如圖5所示,在經過75次訓練后,網絡的性能達到了要求。

3.4 BP神經網絡和Elman神經網絡的檢測結果與對比分析

抽取3組測試樣本對訓練好的BP神經網絡和Elman神經網絡進行測試,測試結果如表2所示。

檢測結果顯示BP神經網絡3次測試的誤差分別為0.0382、0.0213和0.0676,Elman神經網絡3次測試的誤差分別為0.0871、0.0369和0.0846。對比兩種神經網絡的訓練過程及檢測結果,可以得出BP神經網絡收斂速度相對較慢、訓練時間長,而且有可能收斂于局部極小值;Elman神經網絡的參數調整簡單、訓練時間短、與BP神經網絡相比診斷誤差要大一些,但這并不影響其檢測的預期結果;另外,Elman神經網絡的訓練誤差曲線要比BP神經網絡平滑,性能更加穩定。因此,經過多次訓練后,Elman神經網絡更適合存在容差、非線性等問題的模擬電路故障診斷。

4 結論

模擬電路的故障診斷問題較為復雜,本文研究了基于BP神經網絡和Elman神經網絡的模擬電路故障診斷方法。并通過仿真實例對比驗證了兩種神經網絡的訓練過程及檢測結果。最后分析得出相對于BP神經網絡,Elman神經網絡具有結構參數調整簡單、訓練時間短、性能穩定等優勢,更適合存在容差、非線性等問題的模擬電路故障診斷。

參考文獻:

[1] 韓力群.人工神經網絡理論、設計及應用[M].北京:化學工業出版社,2007:18-19.

[2] 葛哲學,孫志強.神經網絡理論與MATLABR2007實現[M].北京:電子工業出版社,2007:208-109.

[3] 施彥,韓力群,廉小親.神經網絡設計方法與實例分析[M].北京:北京郵電大學出版社,2009:23-24.

[4] 張良均,曹晶,蔣世忠.神經網絡實用教程[M].北京:機械工業出版社,2008:53-54.

篇8

關鍵詞:神經網絡;計算機網絡;安全管理;應用

中圖分類號:TP393.08

進入到信息時代,便捷的計算機網絡技術不僅給人們的生活帶來了極大的便利,但同時也容易遭到蠕蟲病毒、木馬病毒等破壞性極強的程序病毒攻擊留下便利的通道,使得計算機網絡安全面臨巨大的威脅。鑒于此,要對計算機網絡安全所面臨的風險進行科學、合理以及準確的分析、評估,同時要采取相應的措施對面臨的風險有效的進行防范,盡可能的減少由于計算機網絡安全管理問題所帶來的損失。另外,計算機網絡安全受到很多種因素的影響,主要有病毒的入侵以及系統漏洞,更重要的是這些因素之間有很強的關聯性,這也就導致計算機網絡安全管理的問題逐漸趨于復雜化,在這種情況下,就必須要求計算機網絡系統的管理者以及使用者對網絡的安全進行有效的管理,更要對網絡的安全性有清楚的認識和了解,切實的掌握影響計算機網絡安全的因素。為了更好的解決計算機網絡安全管理問題,神經網絡逐漸被應用到計算機網絡安全管理之中,使得對計算機網絡安全管理更加準確和有效。

1 計算機網絡安全管理概述

一般而言,計算機網路安全管理指的是計算機在連接網絡后進行信息的交換、瀏覽以及下載的過程中,對信息安全進行有效的管理,防止信息被他人竊取或者破壞。隨著信息時代的到來,越來越多的人對計算機產生了很強的依賴,從兒童到老年人,計算機的影響無處不在,隨著計算機的普及,人們在使用計算機的過程中對其安全性就有了顧忌。對于計算機網絡,只要連接互聯網,隨時都存在被攻擊的可能,相對而言,沒有任何計算機是絕對的安全或者是不受到任何的攻擊。運用計算機網絡技術進行攻擊或者盜取個人信息或者是企業信息的事件幾乎每年都會發生,計算機網絡存在嚴重的安全隱患。所以,要及時的認識以及了解計算機網絡面臨的安全隱患,積極的采取相應的措施加強對計算機網絡安全的管理。

2 神經網絡在計算機網絡安全管理應用的現狀

2.1 對神經網絡在計算機安全管理運用中的重視程度不夠

計算機網絡安全是因特網發展的最基礎的目的,但與此同時近乎所有的計算機網絡在開創以及不斷的發展過程中都趨向于實用以及便利,相反卻在一定程度上沒有重視對計算機的安全管理,更沒有將神經網絡技術運用到計算機的安全管理中,進而對計算機網絡的安全管理留下了嚴重的隱患。另外,神經網絡在計算機網絡安全管理中主要是對計算機的網絡安全進行評估,然而由于不重視對神經網絡在計算機網絡安全管理中的運用,使得沒有建立良好的計算機網絡安全評價標準體系。

2.2 對神經網絡在計算機網絡安全評價模型的設計和實際運用不夠合理

一般來說,神經網絡在計算機網絡安全管理中主要是對計算機網絡安全進行一定的評估,在對其進行評估的過程中,就需要設計一定的計算機網絡安全評價模型,主要包含對輸入層、輸出層以及隱含層的設計;但是,目前神經網絡在計算機網絡安全管理中對于評價模型的設計還沒有將這三方面有效的聯系起來。除此之外,對神經網絡在計算機網絡安全管理的實際運用中,不能科學、合理的實現計算機網絡安全管理評價模型運用,不注重對評價模型的學習以及不關注對評價模型進行有效的驗證。

3 加強神經網絡在計算機網絡安全管理中的應用采取的措施

3.1 神經網絡在計算機網絡安全管理中要科學、合理的設計網絡安全評價模型

神經網絡在計算機網絡安全管理中要科學、合理的設計網絡安全評價模型,以便更好的實現計算機網絡安全、高效的運行。為此,計算機網絡安全評價模型需要進行一下設計:首先是對輸入層的設計,一般來說,神經網絡在計算機網絡安全管理運用中,對于輸入層考慮的是神經元的節點數以及評價指標的數量,盡可能的使這兩者數量保持一致。其次是對隱含層的設計,對于隱含層的設計需要注意的是若某個連續函數在任意的閉區間中,可以通過在隱含層里的神經網絡來靠近,大多數情況下,神經網絡通常運用的是單隱含層。最后是輸出層的設計,神經網絡的輸出層設計主要是獲得計算機網絡安全管理評價的最終結果,例如可以設置計算機網絡安全管理評價的輸出層節點數為2,那么相應的輸出結果(1,1)指的是非常安全、(0,1)指的是較不安全、(1,0)指的是基本安全以及(0,0)指的是非常的不安全。

3.2 神經網絡在計算機網絡安全管理運用中要對評價模型進行有效的驗證

需要注意的是,神經網絡在計算機網絡安全管理運用中要對評價模型進行有效的驗證,一般體現在一下幾方面:首先是要關注評價模型的實現,為了實現神經網絡在計算機網絡安全管理中的良好運用,就要依據客戶滿意的評價模型,運用計算機網絡技術創建設置含有輸入層、隱含層以及輸出層的神經網絡模型,然后再對網絡安全進行檢驗。其次是要注意對評價模型的學習,在對計算機網絡安全進行評價之前,需要對神經網絡進行標準化的處理,才能盡可能的減少對計算機網絡安全管理評價中的誤差。最后要注意對評價模型進行驗證,當神經網絡經過標準化處理以及在計算機網絡安全評價之后,就需要對輸出的結果進行一定的驗證,以便確定神經網絡對計算機網絡安全的評價輸出結果是否與期望的評價結果相一致,進一步驗證神經網絡在計算機網絡安全管理中安全評價模型的準確與否。

3.3 重視神經網絡在計算機網絡安全管理運用以及建立健全安全評價標準體系

神經網絡在計算機網絡安全管理運用中主要的任務是對計算機網絡的安全進行一定的評價,并且將評價的結果準確、及時的反饋給用戶,所以就應該對其在計算機網絡安全管理中的應用引起高度的重視,為此就應該建立健全計算機網絡安全管理的評價標準體系。一方面是評價指標的建立,計算機網絡安全管理是復雜的過程,同時影響計算機網絡安全的因素比較多。因此,建立科學、合理以及有效的計算機網絡安全管理評價標準,對于神經網絡高效的開展評價工作有很大的關聯。另一方面是對評價標準的準確化,影響計算機網絡安全管理的因素非常的多,就應該對各種評價標準進行細化,以達到評價的準確。

4 結束語

綜上所述,通過神經網絡對計算機網絡安全的評價,可以有效的對計算機網絡安全進行管理。運用神經網絡技術手段,提高了計算機網絡安全管理的效率,并且在運用神經網絡的過程中建立健全安全評價標準體系、注重對評價模型進行有效的驗證以及加強對計算機網絡安全評價模型的設計,切實的提升計算機網絡安全管理水平。

參考文獻:

[1]毛志勇.BP神經網絡在計算機網絡安全評價中的應用[J].信息技術,2008(06).

[2]周忠.神經網絡技術在網絡安全中的應用[J].科技致富向導,2010(32).

[3]趙冬梅,劉海峰,劉晨光.基于BP神經網絡的信息安全風險評估[J].計算機工程與應用,2007(01).

[4]樓文高,姜麗,孟祥輝.計算機網絡安全綜合評價的神經網絡模型[J].計算機工程與應用,2007(32).

[5]沈宗慶,劉西林.基于BP神經網絡的分銷商績效指標評價及應用[J].華東交通大學學報,2007(04).

篇9

關鍵詞 BP神經網絡 數據挖掘 最速下降法 函數逼近 模式識別

中圖分類號:TP391 文獻標識碼:A

1研究背景

BP神經網絡是一種多層的前饋網絡而且它的學習算法是一種誤差逆向傳播算法。BP神經網絡是目前研究最為成熟、應用最為廣泛的人工神經網絡模型之一。由于其結構簡單、可操作性強、具有較好的自學習能力、能夠有效地解決非線性目標函數的逼近問題等優點,因此被廣泛應用于自動控制、模式識別、圖像識別、信號處理、預測、函數擬合、系統仿真等學科和領域中。

2 BP神經網絡原理

2.1概述

BP神經網絡是一種反向傳播誤差算法然后訓練的一個多層前饋網絡,簡稱為BP算法,它應用在已被開發出來的神經網絡中,到目前為止是應用最為廣泛的網絡模型之一。BP神經網絡可以學習并且存儲非常多的輸入模式與輸出模式之間的映射關系,卻無需在學習和存儲前事先揭示并描述輸入輸出間的映射關系的一種數學方程。它使用最速下降法,通過對輸出誤差的反向傳播,獲得不斷調整網絡連接權系數和閾值的信息,最終使神經網絡的平方誤差最小,達到期望要求。

2.2 BP神經網絡結構

BP神經網絡模型是一個三層網絡,它的拓撲結構可被劃分為:輸入層、輸出層、隱含層。其中輸入層與輸出層具有更重要的意義,因此它也可以為兩層網絡結構(把隱含層劃入輸入層或者把隱含層去掉)。每層都由許多簡單的能夠執行并行運算的神經元組成,這些神經元與生物系統中的那些神經元非常類似,但其并行性并沒有生物神經元的并行性高。BP神經網絡是一個前饋網絡,因此它具有前饋網絡所具有的特性:相鄰兩層之間的全部神經元進行互相連接,而處于同一層的神經元不能進行聯接。

2.3 BP算法原理

BP神經網絡的基本原理是把一個輸入矢量經過隱含層的一系列變換,然后得到一個輸出矢量,從而實現輸入數據與輸出數據間的一個映射關系。輸入信息的正向傳播,以及輸出誤差的反向傳播,構成了 BP網絡的信息循環。BP算法根據輸出誤差來修改各神經元連接的連接權系數,其目的是使輸出誤差達到預計范圍內。BP網絡需要實際輸出與期望輸出之間的誤差來確定是否要修改神經元連接的連接權系數。其中,期望輸出便是該網絡意義上的“導師”。BP網絡具有對稱性的網絡結構,在輸出端的每一個處理單元基本上都具有一個相同的激勵函數。

BP算法由正向傳播和反向傳播兩部分組成。在正向傳播過程中,輸入信息從輸入層經隱層單元處理后,傳至輸出層。每一層神經元的狀態只影響下一層神經元的狀態。如果在輸出層得不到期望輸出,就轉為反向傳播,即:把誤差信號沿連接路徑返回,并通過修改各層神經元之間的連接權值,使誤差信號最小。

具體的算法步驟可概括如下:

第一步,選取初始權值、閾值。

第二步,重復下述過程直至滿足性能要求為止:

(1)對于學習樣本P=1到N

①計算每層各節點j的輸出yj,netj和的值(正向過程);

②對各層從M層到第二層,對每層各節點反向計算%]j(反向過程);

(2)修改權值

具體推導過程見參考文獻4。

3基于BP神經網絡設計的實例

3.1函數逼近

我們設計一個簡單的BP網絡,實現對非線性函數的逼近。通過改變該函數的參數以及BP網絡隱層神經元的數目,來觀察訓練時間以及訓練誤差的變化時間。將要逼近的非線性函數設為正弦函數,其頻率參數k可以調節。假設頻率參數k=2,繪制此函數的曲線。如圖1。

(1)網絡建立:用MATLAB編程建立BP網絡結構,為二層BP神經網絡。隱層神經元數目n 可以改變,暫時設為n=10,輸出層有一個神經元。網絡訓練采用Levenberg-Marquardt算法trainlm。

分析:因為建立網絡時,權值和閾值的初始化是隨機的,所以網絡輸出結果很差,根本達不到函數逼近的目的,并且每次運行的結果也有所不同。

(2)網絡訓練:在MATLAB里應用train()函數對網絡進行訓練之前,需要預先設置訓練參數。將訓練時間設置為50,訓練精度設置為0.01,其余參數用默認值。

(3)網絡測試:對于訓練好的網絡進行仿真,繪制網絡輸出曲線,并與原始非線性函數曲線相比較,結果如下圖2。

由此可看出,得到的曲線和原始的非線性函數曲線很接近。這說明經過訓練后,BP網絡對非線性函數的逼近效果非常好。

(4)討論分析:改變非線性函數的頻率和BP網絡隱層神經元的數目,對于函數逼近的效果有一定的影響。網絡非線性程度越高,對BP網絡的要求越高,則相同的網絡逼近效果要差一些;隱性神經元的數目對于網絡逼近效果也有一定的影響,一般來說隱形神經元數目越多,則BP網絡逼近非線性函數的能力越強,同時網絡訓練所用的時間相對來說也要長一些。

參考文獻

[1] 閆志忠.BP神經網絡模型的改進及其應用研究[D].吉林大學,2003.

[2] 李友坤.BP神經網絡的研究分析及改進應用[D].安徽理工大學,2012.

[3] 吳昌友.神經網絡的研究及應用[D].東北農業大學, 2007.

篇10

【關鍵詞】小波神經網絡;建筑工程項目工期風險;預測

0.引言

在工程項目的施工過程中,工期是三大控制中重要的控制目標之一,工期的拖延或者壓縮,都會直接影響到成本和質量[1]。如果項目工期得不到有效控制,必然導致人力、物力、財力的浪費,甚至會影響到工程的質量、安全乃至項目總體目標的實現。工程項目工期風險管理已成為工程項目管理的核心問題。工程項目的不確定因素處于動態變化之中,由于信息的滯后性,作好工期風險管理需要對工期計劃中未來可能發生的風險作出準確的識別和預測,因此,對工期風險進行預測具有重要意義。

目前,對于工程項目工期風險預測的研究較少,已應用的方法主要有專家打分法、模糊綜合評價法、層次分析法、灰色關聯法等。但這些方法人為主觀因素多,手工計算復雜繁瑣,且研究尚不夠深入。人工神經網絡憑借其強大的樣本自學習、自適應能力,已被逐漸應用到工程項目風險分析與預測領域,它可以充分利用專家經驗和有限的歷史數據,能夠大大提高工程項目風險預測的客觀性和精確性[2]。1986 年D.E.Runelhart 和J.L.McCelland 及其研究小組提出的誤差反向傳播算法(BP 算法),已成為至今影響最大、引用最廣的一種網絡學習算法[3]。結合BP 神經網絡的特點和我國工程項目風險預測的需要,國內一些學者開始將BP 神經網絡應用到工程項目的風險評價之中,但卻尚未應用于工期風險的預測領域。

1.小波神經網絡模型

小波神經網絡(Wavelet Neural Networks,縮寫WNN), 是近幾年國際上新興的一種數學建模分析方法,是結合最近發展的小波變換良好的時頻局域化性質與傳統人工神經網絡的自學習功能力而形成的。最早是由法國著名的信息科學研究機構IR ISA 的Q inghua Zhang 等于1992 年提出的, Y C Pat i等對離散仿射小波神經網絡進行了研究.小波神經網絡是通過小波分解進行平移和伸縮變化后而得到的級數,具有小波分解的一般逼近函數的性質與分類特征。并且由于它引入了兩個新的參變量,即伸縮因子和平移因子,所以小波神經網絡具有比小波分解更多自由度,從而使其具有更靈活有效的函數逼近能力,更強的模式識別能力和容錯能力。由于其建模算法不同于普通神經網絡的BP算法,故可有效地克服普通人工神經網絡模型所固有的缺陷。

小波神經網絡是基于小波分析而構成的一類新型前饋網絡,也可以看作是以小波函數為基底的一種新型函數連接神經網絡,其信號的表達式通過將所選取得小波基疊加來實現的等。在信號分類中,子波空間可作為模式識別的特征空間,通過將小波基與信號向量的內積進行加權和來實現信號的特征提取,然后將這些特征輸入到分類器中,它結合了小波變換良好的時頻局域化性質及神經網絡的自學習功能,因而具有良好的逼近與容錯能力[4]。

2.基于小波神經網絡的建筑建筑工程項目工期風險預測

2.1數據的選取

本文引用文獻[6]中的15 組數據作為樣本數據,將其中12 組數據作為訓練樣本,3 組數據作為檢測樣本。樣本數據如表1 所示,表中數據為由20位有經驗的現場管理人員對各工程項目的風險因素進行評價得出的風險因素值。

表1 樣本數據

2.2小波神經網絡(WNN)預測模型預測結果

確定BP 網絡輸入樣本的維數為4,因此將管理、公共關系、技術、社會風險4 個風險指標作為BP 網絡的輸入節點;將預測得出的工程項目工期風險分數作為網絡的輸出,即設置1 個輸出節點;隱層單元數取12(經驗證,當隱層節點數為12 時網絡預測的相對誤差最低),構建三層BP 神經網絡。在設計網絡時采用三層網絡模型,這樣比采用四層網絡不易陷入局部極小值。采用此結構對上面歸一化的中房指數數據進行預測。并將整個過程運用Matlab進行編程實現將數據分為兩組,前一組用于訓練網絡,后一組用作檢驗。用小波神經網絡(WNN)預測模型進行預測,并將結果與BP神經網絡預測結果進行比較,結果如表2所示。

表2 小波神經網絡預測結果比較

3.實例分析

選取紹興市某擬建工程項目,運用本模型對其工期風險進行預測,以便在該項目決策前期準確地預測出工期風險大小,為項目管理人員提供可靠依據,更加科學合理地對工期風險進行應對,有效控制項目工期。針對該工程項目,首先邀請10 位相關領域專家對該工程項目的主成分風險指標進行打分,對專家的打分結果按照本文前述方法進行處理并整理得到表4。

表4 實例數據

工期風險預測模型對該項目的工期風險進行預測,計算出該工程項目的工期風險分數為0.3200,說明該工程項目存在的工期風險屬中等風險。項目管理人員應根據項目實際情況,合理安排人力、物力、財力,不能盲目縮短工期,也不可疏于控制致使工期拖延。應從項目宏觀角度出發,統籌考慮質量、費用和工期之間的關系,制定合理的工期風險應對計劃,以較高的效率保證項目總體目標的實現。

4.小結

小波神經網絡是結合最近發展的小波變換良好的時頻局域化性質與傳統人工神經網絡的自學習功能而形成的,具有深厚的數學基底,被廣泛應用于各個領域。本文在介紹小波神經網絡的同時,建立起了一種小波神經網絡預測模型,并將其應用于建筑工程工期風險的預測當中。

【參考文獻】

[1]趙冬梅,王曉強,侯麗娜.工程項目工期延誤的關鍵風險研究[J].技術經濟與管理研究,2009(5):48-51.

[2]張俊玲,陳立文,尹志軍等.工程項目投資風險評價模型研究[J].基建優化,2004,25(1):11-14.

[3]JU Q,YU Z B,HAO Z C,et al.Division-basedrainfall-runoff simulations with BP neural networks and Xinanjiang model[J].Neuro computing,2009,72(13):2873-2883.

[4]Dutta R K,S Paul,Chattopadhyay.Applicability ofmodified back propagation algorithm in tool condition monitoring for faster convergence[J].Mater ProcessTechnol,2000,98(3):299-309.