人工神經網絡的實際應用范文
時間:2024-04-01 11:31:14
導語:如何才能寫好一篇人工神經網絡的實際應用,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公務員之家整理的十篇范文,供你借鑒。
篇1
關鍵詞性能對比感知器BP網絡霍普菲爾德網絡字符識別
1引言
人工神經網絡是在人類對其大腦神經網絡認識理解的基礎上人工構造的能夠實現某種功能的神經網絡。 它是理論化的人腦神經網絡的數學模型,是基于模仿大腦神經網絡結構和功能而建立的一種信息處理系統。因其自組織、自學習能力以及具有信息的分布式存儲和并行處理,信息存儲與處理的合一等特點得到了廣泛的關注,已經發展了上百種人工神經網絡。
一般來說,人工神經網絡從結構上可分為兩種:前向網絡和反饋網絡。典型的前向網絡有單層感知器、BP網絡等,反饋網絡有霍普菲爾德網絡等[1]。
人工神經網絡已經被廣泛應用于模式識別、信號處理、專家系統、優化組合、智能控制等各個方面,其中采用人工神經網絡進行模式識別具有一些傳統技術所沒有的優點:良好的容錯能力[2j、分類能力、并行處理能力和自學習能力,并且其運行速度快,自適應性能好,具有較高的分辨率。單層感知器、BP網絡和霍普菲爾德網絡均可以用于字符識別。
本文通過具體采用感知器網絡、BP網絡和霍普菲爾德反饋網絡對26個英文字母進行識別的應用,通過實驗給出各自的識別出錯率,通過比較,可以看出這3種神經網絡的識別能力以及各自的優缺點。
2 字符識別問題描述與網絡識別前的預處理
字符識別在現代日常生活的應用越來越廣泛,比如車輛牌照自動識別系統[3,4],手寫識別系統[5],辦公自動化等等[6]。畢業論文 本文采用單層感知器、BP網絡和霍普菲爾德網絡對26個英文字母進行識別。首先將待識別的26個字母中的每一個字母都通過長和寬分別為7×5的方格進行數字化處理,并用一個向量表示。其相應有數據的位置置為1,其他位置置為O。圖1給出了字母A、B和C的數字化過程,其中最左邊的為字母A的數字化處理結果所得對應的向量為:IetterA~「00100010100101010001111111000110001〕’,由此可得每個字母由35個元素組成一個向量。由26個標準字母組成的輸人向量被定義為一個輸人向量矩陣alphabet,即神經網絡的樣本輸人為一個35×26的矩陣。其中alphabet=[letterA,letterB,lettere,……letterZj。網絡樣本輸出需要一個對26個輸人字母進行區分輸出向量,對于任意一個輸人字母,網絡輸出在字母對應的順序位置上的值為1,其余為O,即網絡輸出矩陣為對角線上為1的26×26的單位陣,定義target=eye(26)。
本文共有兩類這樣的數據作為輸人:一類是理想的標準輸人信號;另一類是在標準輸人信號中加上用MATLAB工具箱里的噪聲信號,即randn函數。
3 識別字符的網絡設計及其實驗分析
3.1單層感知器的設計及其識別效果
選取網絡35個輸人節點和26個輸出節點,設置目標誤差為0.0001,最大訓練次數為40。設計出的網絡使輸出矢量在正確的位置上輸出為1,在其他位置上輸出為O。醫學論文 首先用理想輸人信號訓練網絡,得到無噪聲訓練結果,然后用兩組標準輸入矢量加上兩組帶有隨機噪聲的輸人矢量訓練網絡,這樣可以保證網絡同時具有對理想輸人和噪聲輸人分類的能力。網絡訓練完后,為保證網絡能準確無誤地識別出理想的字符,再用無噪聲的標準輸入訓練網絡,最終得到有能力識別帶有噪聲輸人的網絡。下一步是對所設計的網絡進行性能測試:給網絡輸人任意字母,并在其上加人具有平均值從。~0.2的噪聲,隨機產生100個輸人矢量,分別對上述兩種網絡的字母識別出錯率進行實驗,結果如圖2所示。其中縱坐標所表示的識別出錯率是將實際輸出減去期望輸出所得的輸出矩陣中所有元素的絕對值和的一半再除以26得到的;虛線代表用無噪聲的標準輸人信號訓練出網絡的出錯率,實線代表用有噪聲訓練出網絡的出錯率。從圖中可以看出,無噪聲訓練網絡對字符進行識別時,當字符一出現噪聲時,該網絡識別立刻出現錯誤;當噪聲均值超過0.02時,識別出錯率急劇上升,其最大出錯率達到21.5%。由此可見,無噪聲訓練網絡識別幾乎沒有抗干擾能力。而有噪聲訓練出的網絡具有一定的抗干擾能力,它在均值為。~0.06之間的噪聲環境下,能夠準確無誤地識別;其最大識別出錯率約為6.6%,遠遠小于無噪聲訓練出的網絡。
3.2BP網絡的設計及其識別效果
該網絡設計方法在文獻[lj中有詳細介紹。網絡具有35個輸人節點和26個輸出節點。目標誤差為0.0001,采用輸人在(0,l)范圍內對數S型激活函數兩層109519/109519網絡,隱含層根據經驗選取10個神經元。和單層感知器一樣,分別用理想輸人信號和帶有隨機噪聲的輸人訓練網絡,得到有噪聲訓練網絡和無噪聲訓練網絡。由于噪聲輸人矢量可能會導致網絡的1或o輸出不正確,或出現其他值,所以為了使網絡具有抗干擾能力,在網絡訓練后,再將其輸出經過一層競爭網絡的處理,使網絡的輸出只在本列中的最大值的位t為1,保證在其他位置輸出為O,其中網絡的訓練采用自適應學習速率加附加動量法,在MATLAB工具箱中直接調用traingdx。在與單層感知器相同的測試條件下對網絡進行性能測試,結果如圖3所示。其中虛線代表用無噪聲訓練網絡的出錯率,實線代表用有噪聲訓練網絡的出錯率。從圖中可以看出,在均值為o一0.12之間的噪聲環境下,兩個網絡都能夠準確地進行識別。在0.12~0.15之間的噪聲環境下,由于噪聲幅度相對較小,待識別字符接近于理想字符,故無噪聲訓練網絡的出錯率較有噪聲訓練網絡略低。當所加的噪聲均值超過。.15時,待識別字符在噪聲作用下不再接近于理想字符,無噪聲訓練網絡的出錯率急劇上升,此時有噪聲訓練網絡的性能較優.
轉貼于 3.3離散型,霍普菲爾德網絡的設計及其識別效果
此時網絡輸人節點數目與輸出神經元的數目是相等的,有r=s=35,采用正交化的權值設計方法。在MATLAB工具箱中可直接調用函數newh叩.m。要注意的是,由于調用函數newhoP.m,需要將輸人信號中所有的。英語論文 變換為一1。如letterA~[一1一11~1-1一11一11一l一11一11一11一1一1一11111111一l一l一111一1一1一11〕’。設計離散型霍普菲爾德網絡進行字符識別,只需要讓網絡記憶所要求的穩定平衡點,即待識別的26個英文字母。故只需要用理想輸人信號來訓練網絡。對于訓練后的網絡,我們進行性能測試。給網絡輸入任意字母,并在其上加人具有平均值從。~0.5的噪聲,隨機產生100個輸人矢量,觀察字母識別出錯率,結果如圖4所示。從圖中可以看出,在均值為0~0.33之間的噪聲環境下,網絡能夠準確地進行識別。在0.33~0.4之間的噪聲環境下,識別出錯率不到1%,在0.4以上的噪聲環境下,網絡識別出錯率急劇上升,最高達到大約10%。可以看出,該網絡穩定點的吸引域大約在0.3~。.4之間。當噪聲均值在吸引域內時,網絡進行字符識別時幾乎不出錯,而當噪聲均值超過吸引域時,網絡出錯率急劇上升。
4結論
本文設計了3種人工神經網絡對26個英文字母進行了識別。可以看出,這3種人工神經網絡均能有效地進行字符識別,并且識別速度快,自適應性能好,分辨率較高。由圖2和圖3可以看出,單層感知器的有噪聲訓練網絡在均值為O~0.06之間的噪聲環境下可以準確無誤的識別,而有噪聲訓練的BP網絡可以在o~0.12之間的噪聲環境下準確無誤的識別,故BP絡網絡容錯性比單層感知器的容錯性好;此外,噪聲達到0.2時,單層感知器的有噪聲訓練網絡的識別出錯率為6.6%,而有噪聲訓練的BP網絡的識別出錯率為2.1%,故BP網絡比單層感知器識別能力強。另外,由圖2、圖3和圖4可以看出,這3種網絡中霍普菲爾德網絡識別率最高,它在噪聲為0.33以前幾乎不會出錯,BP網絡次之,感知器最差。
通過設計、應用與性能對比,我們可得單層感知器網絡結構和算法都很簡單,訓練時間短,但識別出錯率較高,容錯性也較差。BP網絡結構和算法比單層感知器結構稍復雜,但其識別率和容錯性都較好。霍普菲爾德網絡具有設計簡單且容錯性最好的雙重優點。因此,我們應根據網絡的特點以及實際要求來選擇人工神經網絡對字符進行識別。 參考文獻
[1]叢爽.面向MATLAB工具箱的神經網絡理論與應用「M.合肥:中國科學技術大學出版社,2003.
[2]武強,童學鋒,季雋.基于人工神經網絡的數字字符識別[J].計算機工程,2003,29(14):112一113.
[3]廖翔云,許錦標,龔仕偉.車牌識別技術研究[J].徽機發展,2003,13:30一35.
[4]李中凱,王效岳,魏修亭.BP網絡在汽車牌照字符識別中的應用[J].東理工大學學報,2004,18(4):69一72.
篇2
[關鍵詞]BP神經網絡農業工程農業管理農業決策
一、引言
采用神經網絡算法的信息處理技術,以其較強的計算性和學習性,現如今已經在各工程領域內得到了廣泛應用。隨著科技不斷的發展和研究的不斷深入,農業系統中采用的傳統分析和管理的方法已經不能滿足農業工程領域快速發展的需要。在農業系統中采用神經網絡技術可在一定程度上可彌補傳統方法的不足,現已成為實現農業現代化的一個重要途徑。神經網絡現已在農業生產的各個環節得到廣泛的應用,從作物營養控制、作物疾病診斷、產量預測到產品分級,顯示了巨大的潛力,并正以很快的速度與生產實際相結合。目前應用比較多的BP神經網絡,可通過學習以任意精度逼近任何連續映射,在農業生產與科研中展示出了廣闊的應用前景。
BP人工神經網絡方法。人工神經網絡是對生物神經網絡的簡化和模擬的一種信息處理系統,具有很強的信息存貯能力和計算能力,屬于一種非經典的數值算法。通常可分為前向神經網絡、反饋神經網絡和自組織映射神經網絡。BP神經網絡(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經網絡,可通過連續不斷的在相對于誤差函數斜率下降的方向上計算網絡權值以及偏差的變化而逐漸逼近目標值,每一次數字和偏差的變化都與網絡誤差的影響成正比,并以反向傳播的方式傳遞到每一層,從而實現了神經網絡的學習過程。BP人工神經網絡的結構如圖所示,BP神經網絡可分為輸入層、中間層(隱含層)和輸出層,其中輸入和輸出都只有一層,中間層可有一層或多層。同層的網絡結點之間沒有連接。每個網絡結點表示一個神經元,其傳遞函數通常采用Sigmoid型函數。BP神經網絡相當于從輸入到輸出的高度非線性映射,對于樣本輸入和輸出,可以認為存在某一映射函數g,使得y0=g(xi),i=1,2,3,…,m,其中m為樣本數,xi為輸入樣本,yo為輸出結果。
BP神經網絡的一個顯著優點就是其可進行自學習,能夠通過訓練得到預期的效果。其學習過程由正向傳播和反向傳播組成,神經網絡的輸入值經過非線性變換從輸入層經隱含層神經元的逐層處理傳向輸出層,此為正向傳播過程。每一層神經元的狀態將影響到下一層神經元狀態。如果輸出層得到的數值與期望輸出有一定的偏差,則轉入反向傳播過程。神經網絡通過對輸入值和希望的輸出值(教師值)進行比較,根據兩者之間的差的函數來調整神經網絡的各層的連接權值和各個神經元的閾值,最終使誤差函數達到最小。其調整的過程是由后向前進行的,稱為誤差反向傳播BP算法。具體學習過程如下:
(1)隨機給各個權值賦一個初始權值,要求各個權值互不相等,且均為較小的非零數。
(2)輸入樣本集中每一個樣本值,確定相應的網絡實際輸出值。
(3)計算實際的輸出值與相應的樣本集中的相應輸出值的差值。
(4)按極小誤差方式調整權值矩陣。
(5)判斷網絡誤差是否小于訓練前人為設定的一個較小的值,若小于,則跳出運算,此時的結果為神經網絡的最終訓練結果;若大于,則繼續計算。
(6)判斷最大迭代次數是否大于預先設定的數,若小于,返回(2);若大于,則中止運算,其結果為神經網絡的最終訓練結果。
上述的計算過程循環進行,直到完成給定的訓練次數或達到設定的誤差終止值。
二、BP神經網絡在農業工程領域中的應用
1.在農業生產管理與農業決策中的應用
農業生產管理受地域、環境、季節等影響較大,用產生式規則完整描述實際系統,可能會因組合規則過多而無法實現。神經網絡的一個顯著的優點就是其具有較強的自學習、自適應、自組織能力,通過對有代表性的樣本的學習可以掌握學習對象的內在規律,從而可以在一定程度上克服上述信息量大的問題。神經網絡在農業生產管理方面可用于農作物生長過程中對農作物生長需求進行預測,從而通過對養分、水分、溫度、以及PH值的優化控制達到最優的生長狀況。采用神經網絡預測算法的主要思想可描述為:(1)收集一定規模的樣本集,采用BP算法進行訓練,使網絡收斂到預定的精度;(2)將網絡權值矩陣保存到一存儲介質中,例如文本文件或數據庫中;(3)對于待預測數據的輸入部分,從存儲介質中讀出網絡連接權值矩陣,然后通過BP神經網絡的前向傳播算法計算網絡輸出,輸出結果既是預測出來的數值向量。如霍再林等針對油葵不同階段的相對土壤含鹽濃度對其產量的影響有一定的規律的現象,以油葵的6個成長階段的土壤溶液含鹽的相對濃度為輸入樣本,相對產量為輸出樣本,通過比較發現,訓練后的神經網絡能較好預測油葵產量,采用此方法可補充傳統模型的不足,為今后進一步的研究開辟了新路。
在農業決策方面,主要將農業專家面對各種問題時所采取的方法的經驗,作為神經網絡的學習樣本,從而采用神經網絡建立的專家系統將從一定程度上彌補了傳統方法的不足,將農業決策智能化。如何勇、宋海燕針對傳統專家系統自學習能力差的缺點,利用神經網絡可自我訓練的優點,將神經網絡引入專家系統中。將小麥缺素時的田間宏觀表現,葉部、莖部、果實癥狀及引起缺素的原因這五個方面的可信度值作為神經網絡的輸入量,將農業專家診斷的結論作為輸出量,將這些數據作為神經網絡的訓練數據。實際應用表明此系統自動診斷的結果與專家現場診斷的結果基本一致,從而采用該系統能夠取代專家,實現作物的自我診斷,為農業管理方面提供了極大的幫助。如馬成林等針對于傳統施肥決策方法中非線性關系描述不足的問題,基于數據包分析和BP神經網絡,建立了施肥決策模型,應用表明,在有限的范圍內,模型預測結果較為合理,可以反映玉米的需肥特性。劉鋮等人提出采用神經網絡應用在農業生產決策中,以莜麥播種方式決策為例,通過對產生式規則的分析導出神經網絡輸入、輸出單元數,并通過多次試驗確定隱層單元數,用MATLAB方針結果表明,采用神經網絡作為農業生產決策的方法,取得了較好的效果。譚宗琨提出將基于互聯網環境下的神經網絡應用在玉米智能農業專家系統中,根據農作物發育進程分成若干個發育期,分別對各個發育期建立管理模型,依照作物各發育期進程時間間隔,由計算機系統自動選取相應的模型進行決策。應用分析的結果表明采用神經網絡的玉米智能專家系統已初步接近農業生產的實際。
2.在農產品外觀分析和品質評判
農產品的外觀,如形狀、大小、色澤等在生產過程中是不斷變化的,并且受人為和自然等復雜因素的影響較大。農產品的外觀直接影響到農產品的銷售,研究出農作物外觀受人為和自然的影響因素,通過神經網絡進行生產預測,可解決農產品由于不良外觀而造成的損失。如Murase 等針對西紅柿表皮破裂的現象,西紅柿表皮應力的增長與西紅柿果肉靠近表皮部分水分的增加有關,當表皮應力超過最大表皮強度時,將導致表皮破裂。用人工神經網絡系統,預測在環境溫度下的表皮應力,可通過控制環境變量來減少西紅柿表皮破裂所造成的損失。
在農業科研和生產中,農產品的品質評判大多是依賴于對農產品外觀的辨識。例如對果形尺寸和顏色等外觀判別果實的成熟度,作物與雜草的辨別,種子的外觀質量檢測。由于農業環境的復雜性和生物的多樣性,農產品的外觀不具有較確定的規律性和可描述性,單一采用圖像處理技術辨識農產品的外觀時不宜過多采取失真處理和變換,否則則增加圖像處理的復雜性,特征判別也相對困難。人工神經網絡由于其具有自學習、自組織的能力,比較適宜解決農業領域中許多難以用常規數學方法表達的復雜問題,與圖像處理技術相結合后,可根據圖像特征進行選擇性判別。采用此方法可以部分替代人工識別的工作,提高了生產效率,也有利于實現農業現代化。如Liao等將玉米籽粒圖像用34個特征參數作為神經網絡的輸入變量,將輸出的種粒形態分為5類,經過學習的神經網絡對完整籽粒分類的準確率達到93%,破籽粒分類的準確率達91%。
3.蔬菜、果實、谷物等農產品的分級和鑒定
在農業生產中,蔬菜、果實、谷物等農產品的分級和鑒定是通過對農產品外觀的辨識進行的。傳統的農產品外觀的辨識方法費時費力、預測可靠度很低,而且多采用人工操作,評價受到操作者主觀因素的影響,評判的精度難以保證。利用人工神經網絡技術結合圖像處理技術可部分代替以往這些主要依靠人工識別的工作,從而大大提高生產效率,實現農業生產與管理的自動化和智能化。
利用BP神經網絡技術對農產品果形尺寸和顏色等外觀評判,目前國內外已有不少成果用于實際生產中。何東健等以計算機視覺技術進行果實顏色自動分級為目的,研究了用人工神經網絡進行顏色分級的方法。分別用120個著色不同的紅星和紅富士蘋果作為訓練樣本集對網絡進行離線訓練。兩個品種的蘋果先由人工依據標準按著色度分成4級,對每一個品種分別求出7個模式特征值作為BP網絡的輸入,用訓練好的神經網絡進行分級。結果表明紅富士和紅星果實的平均分級一致率分別為94.2%和94.4%。劉禾等用對稱特征、長寬特征、寬度特征、比值特征等一系列特征值來描述果形。采用BP網絡與人工智能相結合,建立果形判別人工神經網絡專家系統。試驗水果品種為富士和國光。試驗表明系統對富士學習率為80%,對非學習樣本的富士蘋果的果形判別推確率為75%,系統對國光學習率為89%,對非學習樣本的國光蘋果果形判別系統的難確率為82%。
三、未來的發展方向
人工神經網絡的信息處理技術現已在農業工程領域內得到了迅速的應用,采用人工神經網絡算法的農業系統能夠從一定程度上改善控制效果,但此技術在農業范圍內還不夠成熟,有待于進一步的研究。今后科研的方向大體上可以從以下幾方面著手:
1.人工神經網絡算法的改進
人工神經網絡算法由于本身具有一定的缺點,從而采用人工神經網絡的算法的信息處理技術在應用過程中具有一定的局限性。在今后的研究中,可以從人工神經網絡方向著手,改進人工神經網絡算法,從而實現其在農業領域內更好的應用。近年來隨著模糊算法、蟻群算法等算法的相繼出現,將神經網絡與其他算法結合在一起已經成為了研究的熱門話題,也是未來算法研究的主要方向之一。
2.應用領域的擴展
人工神經網絡算法在農業工程方面現已得到了迅速的發展,擴展其在農業工程領域的應用范圍是未來的一個主要研究方向。人工神經網絡由于其具有自學習能力,可對農業系統的非線形特性進行較好的描述,采用人工神經網絡可解決傳統方法的不足,從而實現農業現代化。如何將神經網絡較好地引入到農業系統,解決農業工程中的部分問題,已是今后農業科研中的一個方向。
四、結束語
神經網絡作為一種人工智能范疇的計算方法,具有良好的自學習與數學計算的能力,可通過計算機程序進行模擬運算,現已廣泛用于模式識別、管理決策等方面。隨著計算機硬件和軟件的不斷發展與農業工程方面的研究的不斷深入,神經網絡將在農業管理、農業決策、農作物外觀分類、品質評判等方面充分發揮其自學習能力強,計算能力強的優勢,通過對樣本數據的學習,神經網絡可較好地解決農作物生長過程中的作物分類、預測等非線形的問題。在農業工程領域內,神經網絡擁有廣闊的科研前景。
參考文獻:
[1]余英林李海洲:神經網絡與信號分析[M]. 廣州: 華南理工大學出版社,1996:45
[2]霍再林史海濱孔東等: 基于人工神經網絡的作物水―鹽響應初步研究[J].內蒙古農業大學學報,2003,24(3):66~70
[3]何勇宋海燕:基于神經網絡的作物營養診斷專家系統[J]. 農業工程學報,2005,21(1):110~113
[4]馬成林吳才聰張書慧等:基與數據包絡分析和人工神經網絡的變量施肥決策方法研究[J].農業工程學報,2006,20(2):152~155
[5]劉鋮楊盤洪: 莜麥播種方式決策的BP神經網絡模型[J]. 太原理工大學學報,2006,37(5):119~121
[6]譚宗琨: BP人工神經網絡在玉米智能農業專家系統中的應用[J].農業網絡信息,2004(10):9~1
[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92~3579
篇3
人工神經網絡(AartificialNeuralNetwork,下簡稱ANN)是模擬生物神經元的結構而提出的一種信息處理方法。早在1943年,已由心理學家WarrenS.Mcculloch和數學家WalthH.Pitts提出神經元數學模型,后被冷落了一段時間,80年代又迅猛興起[1]。ANN之所以受到人們的普遍關注,是由于它具有本質的非線形特征、并行處理能力、強魯棒性以及自組織自學習的能力。其中研究得最為成熟的是誤差的反傳模型算法(BP算法,BackPropagation),它的網絡結構及算法直觀、簡單,在工業領域中應用較多。
經訓練的ANN適用于利用分析振動數據對機器進行監控和故障檢測,預測某些部件的疲勞壽命[2]。非線形神經網絡補償和魯棒控制綜合方法的應用(其魯棒控制利用了變結構控制或滑動模控制),在實時工業控制執行程序中較為有效[3]。人工神經網絡(ANN)和模糊邏輯(FuzzyLogic)的綜合,實現了電動機故障檢測的啟發式推理。對非線形問題,可通過ANN的BP算法學習正常運行例子調整內部權值來準確求解[4]。
因此,對于電力系統這個存在著大量非線性的復雜大系統來講,ANN理論在電力系統中的應用具有很大的潛力,目前已涉及到如暫態,動穩分析,負荷預報,機組最優組合,警報處理與故障診斷,配電網線損計算,發電規劃,經濟運行及電力系統控制等方面[5]。
本文介紹了一種基于人工神經網絡(ANN)理論的保護原理。
1、人工神經網絡理論概述
BP算法是一種監控學習技巧,它通過比較輸出單元的真實輸出和希望值之間的差別,調整網絡路徑的權值,以使下一次在相同的輸入下,網絡的輸出接近于希望值。
在神經網絡投運前,就應用大量的數據,包括正常運行的、不正常運行的,作為其訓練內容,以一定的輸入和期望的輸出通過BP算法去不斷修改網絡的權值。在投運后,還可根據現場的特定情況進行現場學習,以擴充ANN內存知識量。從算法原理看,并行處理能力和非線是BP算法的一大優點。
2、神經網絡型繼電保護
神經網絡理論的保護裝置,可判別更復雜的模式,其因果關系是更復雜的、非線性的、模糊的、動態的和非平穩隨機的。它是神經網絡(ANN)與專家系統(ES)融為一體的神經網絡專家系統,其中,ANN是數值的、聯想的、自組織的、仿生的方式,ES是認知的和啟發式的。
文獻[1]認為全波數據窗建立的神經網絡在準確性方面優于利用半波數據窗建立的神經網絡,因此保護應選用全波數據窗。
ANN保護裝置出廠后,還可以在投運單位如網調、省調實驗室內進行學習,學習內容針對該省的保護的特別要求進行(如反措)。到現場,還可根據該站的干擾情況進行反誤動、反拒動學習,特別是一些常出現波形間斷的變電站內的高頻保護。
3、結論
本文基于現代控制技術提出了人工神經網絡理論的保護構想。神經網絡軟件的反應速度比純數字計算軟件快幾十倍以上,這樣,在相同的動作時間下,可以大大提高保護運算次數,以實現在時間上即次數上提高冗余度。
一套完整的ANN保護是需要有很多輸入量的,如果對某套保護來說,區內、區外故障時其輸入信號幾乎相同,則很難以此作為訓練樣本訓練保護,而每套保護都增多輸入量,必然會使保護、二次接線復雜化。變電站綜合自動化也許是解決該問題的一個較好方法,各套保護通過總線聯網,交換信息,充分利用ANN的并行處理功能,每套保護均對其它線路信息進行加工,以此綜合得出動作判據。每套保護可把每次錄得的數據文件,加上對其動作正確性與否的判斷,作為本身的訓練內容,因為即使有時人工分析也不能區分哪些數據特征能使保護不正確動作,特別是高頻模擬量。
神經網絡的硬件芯片現在仍很昂貴,但技術成熟時,應利用硬件實現現在的軟件功能。另外,神經網絡的并行處理和信息分布存儲機制還不十分清楚,如何選擇的網絡結構還沒有充分的理論依據。所有這些都有待于對神經網絡基本理論進行深入的研究,以形成完善的理論體系,創造出更適合于實際應用的新型網絡及學習算法[5]。
參考文獻
1、陳炳華。采用模式識別(智能型)的保護裝置的設想。中國電機工程學會第五屆全國繼電保護學術會議,[會址不詳],1993
2、RobertE.Uhrig.ApplicationofArtificialNeuralNetworksinIndustrialTechnology.IEEETrans,1994,10(3)。(1):371~377
3、LeeTH,WangQC,TanWK.AFrameworkforRobustNeuralNetwork-BasedControlofNonlinearServomechannisms.IEEETrans,1993,3(2)。(3):190~197
篇4
Abstract: Financial management decision support system (hereinafter referred to as the DSS) is to assist decision-makers at various levels realize financial management. It achieves scientific management through mainly the man-machine interactive way and the use of a lot of financial data and numerous model. Neural network is a complicated nonlinear network system, and it mainly consists of many processing units which are similar to neuron. The combination of financial management and neural network and decision support system can realize the automation of adaptive, associating and reasoning, and data mining, and make the financial management, decision-making, and execution more scientific, standardized, and intelligent.
關鍵詞: 財務管理;神經網絡;決策支持系統;專家系統
Key words: financial management;nerve network;decision support system (DSS);expert system
中圖分類號:F275 文獻標識碼:A 文章編號:1006-4311(2012)03-0126-02
0 引言
DSS是80年代迅速發展起來的新型計算機科學。它是一個有著廣泛應用背景的十分熱門的交叉科學。神經網絡是一個具有高度非線性的超大規模連續時間的動力系統。結合神經網絡的智能決策支持系統是目前研究的前沿之一,它極具理論和使用價值。
財務管理的信息化、數字化是財務規范和科學管理的趨勢。與DSS的結合將更加有利于數據標準的統一,有利于數據采集的模塊化,有利于決策支持的科學化,有利于財務公開的透明化。
1 財務管理決策支持系統的研究現狀
決策支持系統經過二十多年的發展,形成了如圖1所示公認的體系結構。它把模型并入信息系統軟件中,依靠管理信息系統和運籌學這兩個基礎逐步發展起來。它為解決非結構化決策問題提供了相應的有用信息,給各級管理決策人員的工作帶來了便利。
從圖1可以看出決策支持系統體系結構可劃分為三級,即語言系統(LS)級、問題處理系統(PPS)級和知識系統(KS)級。其中問題處理系統級包括推理機系統(RS)、模型庫管理系統(MBMS)、知識庫管理系統(KBMS)及數據庫管理系統(DBMS)。知識系統級包括模型庫(MB)、知識庫(KB)及數據庫(DB)。
九十年代中期,興起了三個輔助決策技術:數據倉庫(DW)、聯機分析處理(OLAP)和數據挖掘(DM)。聯機分析處理是以客戶/服務器的方式完成多維數據分析。數據倉庫是根據決策主題的需要匯集大量的數據庫,通過綜合和分析得到輔助決策的信息。數據挖掘顧名思義,是為了獲得有用的數據,在大量的數據庫中進行篩選。人工智能技術建立一個智能的DSS人機界面,可進行圖、文、聲、像、形等多模式交互,人機交互此時變得更為自然和諧,人們能沉浸其中,進行合作式、目標向導式的交互方法。
從目前情況來看,財務決策支持系統的研究還處于初級發展階段,財務數據的保密性、特殊性決定了財務決策不能全部公開化、透明化,但隨著中央及國務院相關部門財務預決算數據的公開,財務決策系統及其支持系統和過程也將隨之公開,這就要求決策者充分利用財務知識和決策支持系統的知識“聰明”決策、合理決策、科學決策、規范決策。
2 財務管理神經網絡智能決策支持系統總體研究框架
2.1 神經網絡運行機制 神經網絡的著眼點是采納生物體中神經細胞網絡中某些可利用的部分,來彌補計算機的不足之處,而不是單單用物理的器件去完整地復制。
第一,神經網絡中的鏈接的結構和鏈接權都可以通過學習而得到,具有十分強大的學習功能;第二,神經網絡所記憶的信息是一種分布式的儲存方式,大多儲存在神經元之間的權中;第三,神經網絡部分的或局部的神經元被破壞后,仍可以繼續進行其他活動,不影響全局的活動,因此說,神經網絡的這種特性被稱作容錯性;第四,神經網絡是由大量簡單的神經元組成的,每個神經元雖然結構簡單,但是它們組合到一起并行活動時,卻能爆發出較快較強的速度來。
我們可以利用神經網絡的上述特點,將之應用于模式識別、自動控制、優化計算和聯想記憶、軍事應用以及決策支持系統中。
2.2 財務管理神經網絡集成智能財務DSS的必然性 在企業經營管理、政府機構財務活動中,人們時常面臨著財務決策。人們往往需要根據有關的理論及經驗制定出一系列的衡量標準。這種評價是一個非常復雜的非結構化決策過程,一般都是由內行專家根據一定的專業理論憑經驗和直覺在收集大量不完全、不確定信息基礎上建立起多級指標體系。但在這種指標體系中,各種指標之間的關系很難明確,而且還受評價者的效用標準和主觀偏好所左右。因此,很難在指標體系和評價目標間建立起準確的定量或定性模型。因此,我們需要采用一種可處理不確定性、不完全性信息的評價方法以支持決策。自然,利用人工神經網絡構造系統模式來支持這類評價決策問題是目前財務管理智能決策支持系統的一種發展趨勢和必然趨勢[4]。
2.3 財務管理神經網絡集成智能DSS系統框架 神經網絡智能決策支持系統主要以知識、數據和模型為主體,結合神經網絡進行推理與數據開采。圖2給出了神經網絡智能決策支持系統研究框架[2]。研究中有兩個重點,即神經網絡推理系統和神經網絡數據開采系統。
2.3.1 神經網絡數據開采系統 神經網絡數據開采時利用神經網絡技術協助從數據中抽取模式。數據開采有五項基本任務:相關分析、聚類、概念描述、偏差監測、預測。
常用的前饋式神經網絡,如BP網絡,可用于進行概念描述及預測。對向傳播(Counter Propagation,簡稱CP)神經網路可用來進行統計分析和聚類。
CP網絡是美國神經計算專家Robert Hecht-Nielsen提出的一種新型特征映射網絡,其網絡結構分輸入、競爭、輸出三層。該網絡吸取了無教師示教型網絡分類錄活、算法簡練的優點,又采納了有教師示教型網絡分類精細、準確的好處,使兩者有機地結合起來。由競爭層至輸出層,網絡按基本競爭型網絡學習規則得到各輸出神經元的實際輸出值,并按有教師示教的誤差校正方法調整由競爭層至輸出層的鏈接權。經過這樣反復地學習,可以將任意輸入模式映射為輸出模式。
2.3.2 財務管理神經網絡推理系統 財務管理神經網絡推理系統主要利用神經網絡的并行處理機制來解決傳統推理方法中存在的“組合爆炸”、“無窮遞歸”,等問題。在神經網絡系統中,計算與存儲時完全合二為一的,即信息的存儲體現在神經元互連的分布上,并以大規模并行方式處理。流動的過程就是從部分信息找到全部信息的過程,這就是聯想記憶的基本原理。若視動力系統的穩定吸引子為系統計算能量函數的極小點,系統最終會流向期望的最小點,計算也就在運動過程中悄悄地完成了。因而,可用雙向聯想記憶(BAM)網絡或CP網絡實現并行推理。CP網絡具有特殊的聯想推理映射功能。將輸入學習模式和期望輸出模式取為同一模式,且將之分為X和Y兩部分。網絡通過提供的樣本對進行充分的學習后,就可用來進行模式間的聯想推理。
3 財務管理神經網絡智能DSS研究展望
當前世界上最熱門的研究課題,是模仿人類的思維方式來解決實際問題。專家系統和人工神經網絡是比較常用的技術,但由于自身的局限性,它們都側重于人類思維方式的某一方面。平時解決簡單的問題的時候還好,但真遇到解決復雜的問題的時候,它就顯得力不從心了,所以,這個時候我們可以將兩種技術結合起來解決,除了它們要自身不斷發展和完善外,還要注重兩者的協調配合,神經網絡DSS未來的發展趨勢就是依靠這兩種技術不斷結合,從而能幫助我們解決更多的實際問題。
3.1 財務管理神經網絡支持專家系統 常見的財務管理神經網絡支持專家系統主要包括幾個方面:知識維護、知識表示、知識獲取、推理等,我們針對各個步驟展開討論。
3.1.1 知識維護。如果知識是通過人工神經網絡來獲取的,我們就可以同樣利用人工神經網絡,來讓維護工作變得更加方便快捷,維護可以通過人工神經網絡來自動完成,我們需要做的只是重新運行網絡模塊,或者重新訓練網絡模塊,又或是增加新的網絡模塊。
3.1.2 推理。一般的專家系統只是求解專門性問題,應用的領域非常狹窄,同時由于控制策略不靈活,推理方法簡單,容易出現一些這樣或那樣的問題,推理效率低、速度慢。人工神經網絡可以解決這一問題,從根本上提升工作效率,提高工作速度,它可以拓展知識空間,不只局限在狹窄的領域。
3.1.3 知識表示。很多專家知識事實上很難用規則表示出來,但在現實工作中,我們大部分財務管理專家卻都采取這種方式,無論是直接的還是間接的。其它的知識表示方法也存在著同樣的問題。為了解決這一問題,我們可以采用人工神經網絡系統來將知識提供給專家系統,這樣做就可以避免這一問題,當專家系統需要相應知識時,就不需要用規則來表示知識,直接調用人工神經網絡就可以了。
3.1.4 知識獲取。人工神經網絡可以幫專家系統來獲取知識,知識獲取是通過人機對話的形式進行的。首先,專家系統向專家提出問題,人工神經網路則負責對這些信息進行收集、處理,在人工神經網絡的聯結權值中已經具有通用的知識,所以這一步驟會很方便,之后再產生相應的數據結果。接著,專家系統在對這些數據進行進一步的分析。在這一過程中,專家系統只運用很少的規則就可以獲得相關的知識,大大提高了工作效率。
3.2 財務管理專家系統支持神經網絡 財務管理專家主要通過三種方式來對神經網絡提供必要的支持:第一,提供相應的必要的解釋;第二,進行預處理;第三,聯合應用。
3.2.1 解釋。作為專家系統的人工神經網絡,它做不到同其他專家系統那樣,具體詳細地跟蹤問題求解的過程,以獲得答案的原因,它只能依靠增加一個小型的專家來解決這一問題,以獲得答案的原因,這個專家系統可以反向推理,從結果到初始輸入,系統提供具體的解決方法。
在這種模式中,經過訓練的人工神經網絡來解決問題。當用戶要求解釋的時候,就可以通過網絡輸入一個并行的專家系統。
3.2.2 預處理。對于人工神經網絡來說,處理數據這項工作比較難。專家系統可以幫助人工神經做好這些工作:選擇合適的收斂算法,確定訓練神經網絡的樣本的數量,選擇合適的神經網絡。收集正確數據的工作,對于人工神經網絡來說至關重要,事先對它們進行預處理,可以確保各項工作順利的完成。
3.2.3 聯合應用。將一個復問題分解為幾個子問題,如下圖3所示,再將各個子問題來逐個解決,這就是我們所常說說的聯合應用方法。它可以直接采用人工神經網絡、專家系統以及其種可能的方法來解決問題,指導實際應用。
我們當前計算機所要解決的主要問題,是如何解決半結構化和非結構化的決策等問題,它是人們在日常生活中所經常遇到的,在財務活動中會大量存在。如何更科學、更合理地處理這些問題是我們當前工作的主要方向。運用人工神經網絡技術處理半結構化和非結構化的決策是一種智能化的求解方式。但是此種方式并不是完美無缺的,它還存在著一定程度上的缺點,我們只有改善這種技術上的不成熟,將智能化研究進行到底,才能讓神經網絡決策支持系統的研究出現新的進展。
參考文獻:
[1]陳文偉.智能決策技術.電子工業出版社,1998年.
[2]鐘義信.智能理論與技術——人工智能與神經網絡.人民郵電出版社,1992年.
篇5
關鍵詞:水動力模型,ANN神經網絡系統,模型數據,缺失數據模擬
中圖分類號:G250.72 文獻標識碼:A
我國大多數的城市管網建設滯后于水廠建設,給水管網的鋪設會隨城市的發展不斷地鋪設延長,與之相對應的是用水量的急劇增長,與老管線的協調規劃問題等等,這一切的問題都使地下管線的管理成為一個極其復雜的問題。構建水動力模型,可以實時的看到管網的薄弱環節,并且通過分析得知造成管網問題的原因。水動力模型可以應用于并的給水系統的規劃,設計及改擴建;管網改造優先性評估;管網改造并行方案的的成本分析,運行情況;指導和幫助安排管網檢漏工作等。
建立水動力模型是一項復雜并且富有難度的工程,需要將給水管道的的信息,包括管道的管徑、材質、管齡,粗糙系數等如實的反應到模型中,運行模型后要選擇管網中具有典型代表性的節點,得到這些節點的節點流量與節點壓力模擬值,將這些曲線與實際中該節點的流量與壓力曲線進行對比。通過調整管網的粗糙系數,節點流量分配等核心數據使模擬曲線與實測曲線相吻合,這個過程稱之為模型校核。校核后的模型才能應用于實際的工程工作中。
模型搭建和校核的過程中需要許多數據,而在現有國內的自來水公司,極少有完備的數據,而這些數據的檢測和整理是一項復雜并且耗費財力的工程。當有所需的數據缺失時,根據現有的數據搭建ANN(人工神經網絡)模型,模擬出缺失的數據曲線,從而用于水動力模型的校核工作中。譬如,節點流量曲線、節點壓力曲線、節點的化學物質殘留量曲線等等。
1 人工神經網絡的概念
人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型,是一種運算模型,由大量的節點(或稱神經元)和之間相互聯接構成。每個節點代表一種特定的輸出函數,稱為激勵函數(activation function)。每兩個節點間的連接都代表一個對于通過該連接信號的加權值,稱之為權重,這相當于人工神經網絡的記憶。網絡的輸出則依網絡的連接方式,權重值和激勵函數的不同而不同。而網絡自身通常都是對自然界某種算法或者函數的逼近,也可能是對一種邏輯策略的表達。人工神經網絡是數學統計學方法的一種實際應用,通過統計學的標準數學方法我們能夠得到大量的可以用函數來表達的局部結構空間,通過統計學的方法,人工神經網絡能夠類似人 一樣具有簡單的決定能力和簡單的判斷能力,這種方法比起正式的邏輯學推理演算更具有優勢。因為它不需要全面的數據。實踐證明只要中間的隱含層個數足夠多,ANN神經網絡無限逼近任何連續函數。
圖1 3層ANN(BP)網絡結構
Fig. 1 Three level ANN model’s structure
2基于ANN人工神經網絡的節點壓力模型的建立
人工神經網絡是一個能夠學習,能夠總結歸納的系統,也就是說它能夠通過已知數據的實驗運用來學習和歸納總結。人工神經網絡通過對局部情況的對照比較,它能夠推理產生一個可以自動識別的系統。人工網絡系統之所以能夠推理,基礎是需要有一個推理算法則的集合。在本次的實例檢驗過程中使用相關系數和確定性系數來衡量模型的準確性,如果確定性系數越大,預測值和實測值的相關系數越大,誤差就越小,模型的計算結果就越好。通過對模型精度的分析,判斷節點壓力曲線是否可以用于水動力模型的,模型校核工作中。
其實人工神經網絡就是一個黑箱子,它所建立的模型不是基于實際的物理聯系,而是基于我們所記錄數據和所得值之間的函數關系(這種函數關系在運算的過程中不得而知),對于人工神經網絡的計算過程我們不關心也不必去了解它計算過程的細節。人工神經網絡在做出預測之前是使用記錄數據的學習過程,之后的使用就是在上面的學習過程之后,人工神經網絡會擬合出一個比較準確的函數關系從而會根據所給數據預測出我們所關心變量的結果。
本文以節點壓力曲線的模擬為例子,闡述ANN模型的搭建,以及模擬結果的精確性。
已有的數據為給水管網中8個節點的壓力曲線,靠近泵站的一個節點的壓力缺失某幾個小時的數據,現利用已知數據搭建ANN模型,模擬出此時,一個小時后,兩個小時后,4個小時后的模擬壓力曲線。通過對模型結果的分析,得出其結果是否能用于水動力模型校核工作。
2.1 訓練模式對的準備工作
對于管網中的節點壓力來講,他們之間具有相關性,因為在預測未知點的壓力曲線時,其他管網中的節點都是未知節點的重要影響因子。因此在搭建模型時要在輸入層配置相應的單元用來模擬未知節點的壓力曲線。
目標節點預見期壓力=F{(某時間點NODE1水位),(某時間點NODE2水位),(某時間點NODE3水位)…(某時間點NODE8水位)}某時間點指的是預見期之前某個相應的時間點。
整個模型從數據輸入到結果分析的過程可以用流程圖表示出來。數據輸入->數據編輯->模型參數確立->運行模型->模型結果分析。
2.2 目標函數(確定性系數)的確立
R= 式-1
式中 R為確定性系數
為該城市實測河流水位
為實測河流水位的平均值
為模型預測水
為模型預測水位的平均值
R越接近于1,說明模擬結果與實際測量結果越一致,也即模型越精確。
2.3 模型的結構參數的確立
人工神經網絡模型中關鍵的參數有學習率,中間層的神經元數,動量因子,終止學習條件,本文利用設定最大平均誤差來終止模型運行。其中的學習率和動量因子會影響到模型的收斂速度。學習率和動量因子的取值范圍都在[0,1]之間。學習率越大運算速度越大但是如果取過大的值會導致模型不收斂,由于模型的運算速度比較快為了得到更加精確的結果取學習率為0.02.動量因子根據經驗取0.1,中間層的神經元數取30。
3 實例分析
我們擁有管網中9個節點的壓力曲線值,但是某個時間段節點9的壓力曲線缺失,管網中9個節點的具置見圖2.
圖2 管網中的9個節點
Fig. 2 The 9 nodes in the network
示意圖中觀測站一為模型下游目標站的位置,本文所討論的預測站也就是目標站。
建立模型之后對該城市城市管網中的節點9,此時以及未來1-4小時的節點壓力進行預測。根據該中的8個節點和目標節點的的壓力曲線數據為基礎進行訓練,并且對預測的結果進行分析。來判斷時候可以將模擬的數據直接用于模型校核。
表1 預見期分別為0-4h的模型精確度參數
Table 1 Model’s forecast precision in 0-4hours
圖3 同時刻節點壓力的模擬值與實測值
Fig. 4 Forecast water level the same time with measured data
圖4 預見期為1h時的節點壓力曲線
Fig. 5 Forecast water level 1 hour later
圖5 預見期為4h時的節點壓力曲線
Fig. 5 Forecast water level 4 hour later
圖6 預測同時刻的各個節點與目標節點的相關貢獻系數
Fig. 6 Relative contribution coefficient between observation station and objective node on the same
time
圖7 預測4h之后的各個觀測節點與目標節點的相關貢獻系數
Fig. 7 Relative contribution coefficient between and objective station when the forecast stage 4 hours
表2不同預見期的絕對誤差
通過研究神經網絡模型的結果可見:
(1)通過圖6、圖7可以得知使用人工神經網絡模型,各個節點的實測數據對于最后的目標節點影響是不同的。節點3的對與目標站的相關系數性較小,在實際工作中可以舍棄此地數據的采集,從而減少人力物力的投入。隨著預測時間的不同其相關系數亦會發生變化。
(2)預見期越長,其最后結果的可靠性越差。確定性系數,和絕對誤差可以反映之,預見期為0h、1h時,其誤差很小,當延長其預見期時,其誤差會相應變大。當模擬結果用于水動力模型校核時,目標節點的模擬結果與輸入節點為同時刻時,模擬數據與實測數據高度吻合,說明該結果可以輸入水動力模型,進行校核。隨著預見期變長,其模擬結果也越來越不準確。預見期為4小時時,其結果不能作為水動力模型的輸入數據進行模型校核。
(3)在水動力模型校核過程中,可以將ANN的預測結果也就是預見期的目標節點壓力曲線用于在水動力模型中。從而解決了原始數據缺失的問題。
4 結論
本文采用ANN(人工神經網絡)建立了節點壓力的預測模型,其預測結果可以應用于水動力模型中,用模型校核的原始輸入值。從而為搭建城市的給水管網水動力模型提供科學的依據。也節約了大量人力,物力和財力的消耗。
參考文獻
嚴熙世, 趙洪賓. 給水管網系統理論與分析. 中國建筑工業出版社, 2003.9
陶建科, 劉遂慶, 建立微觀動態水力模型標準方法研究.給水排水, 2000, 26(5):4~8
Maier H R, Dandy G C. The use of artificial neural networks for the prediction of water quality parameters. Water Resources, 1996 ,32 (4) :1013 - 1022.
篇6
【關鍵詞】神經網絡 手寫 識別系統 應用
隨著計算機技術的快速發展,其在人們的辦公學習和日常生活成了不可替代的工具。鍵盤已經幾乎完全替代了筆在人們生活中的地位,隨之而來的后果就是人們越來越少的區書寫漢字,導致越來越多的中國人甚至都忘記了漢字該如何書寫,這種現象在很多研究和報道中都有體現。計算機和鍵盤是由西方國家發明的,其符合西方國家的語言習慣,對于中國人來說,用字母、符號去完成方塊漢字的輸入就需要使用者非常熟悉漢語拼音或者五筆編碼,對于文化程度較低的使用者來說,這些都限制著他們使用計算機。鑒于計算機鍵盤的這些缺陷,聯機手寫輸入法應運而生,這為計算機的輸入帶來了新的發展機遇和挑戰。
1 聯機漢字手寫識別的意義及難點
聯機漢字識別是用書寫板代替傳統紙張,筆尖通過數字化書寫板的軌跡通過采樣系統按時間先后發送到計算機中,計算機則自動的完成漢字的識別和顯示。
1.1 聯機漢字手寫識別的意義
聯機手寫漢字識別的誕生具有非常重要的意義。首先這種輸入方法延續了幾千年中華文明的寫字習慣,實現用戶的手寫輸入,對于長時間不提筆寫字的用戶來說能夠加強其對漢字書寫方面的認識,防止“提筆忘字”現象的繼續惡化。其次,手寫漢字輸入不需要學習和記憶計算機的漢字編碼規則,其完全符合中國人的寫字習慣,使人機之間的交流更人性化,更方便快捷。另外,隨著移動智能終端的不斷普及,聯機漢字手寫識別的應用范圍將進一步擴大,以適用于不同層次人群對信息輸入的需要,具有較大的市場發展前景。
1.2 聯機手寫漢字識別問題的難點
手寫漢字識別是光學字符讀出器中最難的部分,也是其最終的目標,手寫漢字識別的應用主要依賴于其正確識別率和識別速度[1]。手寫漢字識別系統的問題具有其特殊性:
(1)中國漢字量大。我國目前的常用漢字大概在4000個左右,在實際應用中的漢字識別系統應該能夠完全識別這些常用的字才能夠滿足需要,由于超大的漢字量,使得手寫識別的正確率和識別速度一直不高。
(2)字體多,結構復雜。漢字的手寫字體豐富多彩,且漢字的筆畫繁多,以及復雜的結構,再加上漢字中的形近字頗多,這些都為漢字識別系統的發展造成了很大的困難。
(3)書寫變化大。不同用戶在進行手寫輸入時其字體的變化是很大的,這種變化因人而異,對漢字識別造成了很大的干擾,增加了漢字匹配的難度。
2 人工神經網絡概述
人工神經網絡是一種應用類似于大腦神經突觸聯接的結構進行信息處理的數學模型,通常簡稱為神經網絡,是一種仿生物神經的信號處理模型。在二十世紀四十年代初人們開始進行神經網絡的研究,經過幾十年的發展,神經網絡也產生了一系列的突破,目前應用最多的是Hopfield模型和BP算法。
神經網絡的一般模型一般包括十個方面:環境、處理單元、傳播規則、神經網絡的狀態、互聯模式、穩定狀態、操作模式、活躍規則、活化函數和學習算法。其中,神經元、互聯模式、學習算法是神經網絡模型中的三個關鍵因素。神經網絡的一個重要內容就是學習,其學習方式可以分為監督學習和無監督學習,其學習過程一般遵循Hebb規則,誤差修正學習算法以及勝者為王的學習規則,其中Hebb規則是神經網絡學習中最基本的規則。
人工神經網絡具有獨特的優越性。首先其具有主動學習的功能,在漢字識別過程中,先將漢字模板及可能的識別結果輸入到神經網絡中,神經網絡能夠通過其自身的學習過程來實現對漢字的識別,自學功能對于神經網絡的預測功能具有非常重要的意義。其次,神經網絡系統具有聯想存儲功能,其反饋功能能夠實現這種聯想。另外,通過計算機的高速運算能力,神經網絡具有高速尋找優化解的能力。
3 人工神經網絡在聯機手寫識別系統中的應用
漢字識別屬于大類別模式識別,人工神經網絡可以通過函數逼近、數據分類、數據聚類三種作用方式以及“聯想”的特殊模式對漢字進行識別。Hopfield神經網絡作為反饋網絡的一種,其自聯想記憶網絡可以使系統不需要通過大量的訓練即可對漢字進行識別,因此Hopfield神經網絡對于漢字識別來說具有獨特的優勢。其中的離散型Hopfield神經網絡能夠通過串行異步和并行同步的工作方式,使其反饋過程具有非常好的穩定性,而網絡只有通過不斷的演變穩定在某一吸引子狀態時,才能夠實現正確的聯想。
聯機手寫識別可以分為訓練階段和識別階段。訓練階段流程依次為:標準書寫字符圖像預處理,提取特征并建立特征庫,建立Hopfield網絡模型,訓練網絡,保存權值。識別階段的流程為:坐標序列轉化為bmp圖像,預處理測試樣本,提取特征,送入網絡運行,運行網絡到平衡狀態,分析結果值。根據聯機手寫識別的工作流程以及Hopfield網絡模型的理論,基于Hopfield神經網絡的聯機手寫識別系統在Matlab環境下得到了仿真模擬,效果非常理想。
4 總結
手寫識別系統能夠彌補普通鍵盤的不足,在提高漢字書寫頻率的同時,能夠滿足不同層次人群對計算機應用的技術需要。基于Hopfield神經網絡的聯機手寫識別系統一起自身獨特的性能,不僅能夠滿足手寫漢字識別的正確率,而且其識別過程速度非常快。因此它對于實現聯機手寫識別以及圖像識別具有非常重要的意義。
參考文獻
[1]俞慶英.聯機手寫漢字識別系統的研究與實現[D].安徽大學,2005(5).
[2]郭力賓.交叉點的神經網絡識別及聯機手寫字符的概率神經網絡識別初探[D].大連理工大學,2003(03).
[3]趙蓉.基于神經網絡的聯機手寫識別系統研究與實現[D].西安電子科技大學,2011(01).
作者簡介
周珍娟(1979-), 女,江西撫州人。計算機專業碩士。現為江蘇城市職業學院講師。主要研究方向為網絡安全,模式識別。
篇7
[關鍵詞]人工神經網絡;旅游物流;需求預測
[DOI]1013939/jcnkizgsc201538051
1引言
旅游物流對廣西地區經濟的發展至關重要,準確把握、預測旅游物流需求有助于有關部門制定合理的旅游物流規劃、促進國民經濟可持續發展、提高居民生活水平。國內學者通過一定的方法和模型確定了影響旅游物流能力的關鍵要素,為旅游物流需求的預測提供了一定的理論基礎,而在物流需求預測方面也提出了很多如時間序列模型、灰色預測、回歸分析等具有創新性和實踐意義的方法。由于旅游物流具有的獨特性和負責性使得這些模型及分析方法在前提條件、適用范圍和側重點的選取方面具有一定的困難,因此在實際應用中各有利弊。人工神經網絡可以將定量或定性的信息等勢的分布貯存于網絡內的各神經元,有很強的魯棒性和容錯性,通過建立基于人工神經網絡的預測模型,利用Braincell軟件進行計算以期達到精確預測旅游物流需求的目的。
2旅游物流的需求界定
經過多年的發展,關于旅游物流需求的定義至今仍沒有一個令各方滿意的結論。物流服務貫穿了整個旅游活動過程中,旅游物流可以看作為了使旅游消費者獲得更好地滿足感和旅游體驗,與旅游相關的主體提供讓旅游消費者更為暢通流動的旅游服務,與此相應的旅游物流的能力指提供的旅游服務內容以及相關主體使用物流設施對旅游物流活動進行計劃、組織、協調和控制的能力,到旅游物流的具體環節,可以從涉及旅游者的吃、住、行、購、游、娛等方面界定旅游相關主體運用物流設施為游客提供旅游服務的能力。文中對旅游物流需求的預測可以從往年的旅游物流能力方面進行預測,通過準確的預測旅游物流需求可以較好地規劃未來年份旅游業發展方向,對物流設施和設備進行準確的投入,減少資源的浪費及設施投入不足的狀況。
旅游物流能力是指旅游服務主體向旅游消費者從“吃、住、行、購、游、娛”6個方面提供服務的能力,旅游物流需求可根據這6方面來選取指標,但是旅游物流需求預測的準確性不僅受到旅游物流的獨特性的制約,還受到一些客觀性條件的影響。如物流統計制度不健全,目前,我國仍沒有建立系統全面的物流統計制度,更沒有涉及旅游物流領域;物流統計沒有涉及物流活動的全過程;物流統計指標過于單一。此外,國內只有基本的貨物運輸量和貨物周轉量統計,其他與物流相關的指標沒有公開的統計資料,也沒有權威的統計方法和基礎數據,致使物流需求預測不能通過直接指標來衡量需求規模的大小。
3基于神經網絡的旅游物流需求預測模型的建立
神經網絡具有非線性、曲線擬合能力、學習能力和抗干擾能力,是一種通用的非線性函數逼近工具。通過對BP神經網絡的訓練,特別適用于構造非線性預測函數,而且精度可達到預定的要求。
31預測領域中的BP神經網絡模型簡介
BP神經網絡通過正向輸入,反向傳播誤差不斷迭代的學習過程,直到誤差減到可以接受的程度。一般包括輸入層、隱含層和輸出層的單隱含層網絡就能以任意精度表示并揭示任何連續函數所蘊含的非線性關系。其中:
(1)工作信號正向傳播。輸入信號從輸入層經過隱含層,傳向輸出層,在輸出端產生輸出信號,這是工作信號的正向傳播。在信號的正向傳播過程中網絡的權值是固定不變的,上一層神經元的只影響下一層神經元的狀態,即正向影響。如果在輸出層不能得到期望的輸出,則轉入誤差信號反向傳播。
(2)誤差信號反向傳播。網絡的實際的輸出與所期望的輸出之間差值即為誤差信號,誤差信號由輸出端開始逐層向前傳播,即誤差信號的反向傳播。在誤差信號反向傳播中,神經網絡的權值根據誤差的反饋進行調節。通過不斷地對權值的修正,使實際輸出更加接近期望輸出。
(3)預測神經網絡流程。通過了解工作信號與誤差信號的傳播方向,可以清楚地了解預測神經網絡的工作流程。預測開始時神經網絡讀入樣本、權值,通過計算輸入層的輸入得出結果傳遞到輸出層,在輸出層進行計算,最后在計算輸出值與期望值的誤差。若誤差小于確定值則計算結束,若誤差大于確定值則繼續回到前兩層進行權值調整,把調整后的權值重新輸入到模型中,直到誤差小于設定的確定值。
本文應用Braincell神經網絡軟件來實現神經網絡的計算與分析。
32BrainCell軟件及實現
321BrainCell 神經網絡基本原理
BrainCell 神經網絡采用誤差反向傳播學習算法,算法從兩個方面(信號的前向傳播和誤差的反向傳播)反復進行迭代學習,與神經網絡預測模式基本原理相同。
322BrainCell 神經網絡實現步驟
(1)數據的預處理和后處理。為方便的計算減少誤差,保證數據同一量綱,需要將數據歸一化為區域[0,1]之間數據。在實際的預測模型中當數據接近0或1的時候訓練效果會明顯下降。因此,為了避免數據落入最大飽和區,保持數據的原有特征,根據經驗將數據規范到[015,085]來進行修正。模型中采用反歸一化處理輸出數據。
(2)網絡層數目的確定。由Kolmogorov定理可知,含有一個神經元隱含層的三層神經網絡可以從任意精度逼近一個從輸入到輸出的映射關系,因此在Braincell神經網絡中采用含有單隱層的三層神經網絡[2]。
(3)網絡節點的確定。輸入層節點的多少與評價指標個數是相對應的。
(4)網絡訓練。假設訓練樣例是形式(x,y),其中x為輸入向量,y為輸出值。N為輸入節點數,M為輸出層節點數。從單位i到單位j的輸入表示xij,單位i 到單位j的權值表示Wij。一是創建具有N 個輸入單位,M 個輸出單位的BrainCell 神經網絡;二是用隨機數(0 或1)初始化某些數字變量網絡權值Wij;三是對于第k個訓練樣例(a,b),把入跟著網絡前向傳播,并計算網絡中每個單元x的輸出Qx,使誤差沿著反向傳播;四是對于每個輸出單元u,計算它的誤差項;五是對于每個隱含單元h,計算它的誤差項;六是利用誤差項更新調整每個網絡權值;七是重復三到六點,直到完成指定的迭代次數或者是其誤差值達到可接受的范圍。
33神經網絡的旅游物流需求預測模型的建立
331模型中數據指標確定
目前我國仍沒有健全的物流統計制度,因此實際工作中收集旅游物流需求數據十分困難。這里采用間接指標法――利用與旅游物流需求相關的經濟指標來建立旅游物流需求的經濟指標體系,通過數學的方法進行總結與推導,確定旅游物流需求模型。
旅游物流需求是一種派生需求,這種需求的大小與其本身發展有著密切的關系。從宏觀層面上考慮主要有內外兩部分因素:旅游業自身發展的狀況及外部環境的影響。從微觀層面來說,旅游業自身發展的狀況是旅游物流需求的關鍵因素。旅游業產值越高,旅游物流需求增長隨之增加,反之亦然。由此,本文選取旅游總收入和接待人數作為預測旅游物流需求的指標。其次,影響旅游物流的其他關鍵因素就是旅游行業本身所投入的設施、人員、公路鐵路旅客周轉量等因素。根據旅游物流能力的理解從“吃、住、行、購、游、娛”等方面進行指標的選取,如“吃、住”方面使用餐飲住宿從業人數、星級飯店數目衡量;“行”使用公路、鐵路旅客的周轉量來衡量等;“游”則使用旅行社從業人數等方面來衡量。這些因素都對行業的產值有較大的影響。因此,在模型中可將這些相關經濟指標作為旅游物流需求規模的影響因素。由此可選擇如下輸入層指標:星級飯店數X1、接待入境旅游者平均每人消費額X2、餐飲住宿業從業人數X3、旅行社從業人數X4、鐵路旅客周轉量X5、公路旅客周轉量X6、旅游部門游船年末實有船數X7,旅游部門旅游客車年末實有數X8,共有8個。而把旅游業的年收入Y1與年接待入境旅游者人數Y2作為物流需求預測的目標。
332數據來源
本文選取的數據資料來源于廣西壯族自治區歷年統計年鑒、中國統計年鑒、中國旅游年鑒,如表1所示。根據樣本數據選取原則,將2005年和2012年的數據作為網絡測試樣本,最后用訓練好的神經網絡預測2014―2016年的物流需求規模。
333廣西旅游物流需求的BP人工神經網絡模型
(1)樣本數據的歸一化處理。選取X1,X2,X3,X4,X5,X6,X7,X8作為廣西旅游物流需求預測BP人工神經網絡模型的輸入,Y1,Y2為BP網絡的輸出。根據BP 的本身特點,對輸入層數據進行歸一化時,采用如下公式:y=log[JB((]x[JB))]/10。對輸出層數據則使用歸反一化處理,公式如下:P=log[JB((]tT[JB))]/10。
(2)網絡節點的確定。根據構建好的評價指標體系,可以確定輸入層的節點數為8,輸出層的指標數為2。
(3)網絡訓練。以traindx作為訓練函數,利用matlab計算。可知在最大訓練次數為200次,目標誤差為001,學習率設置為003,誤差曲線收斂于目標001,進過45次迭代后,網絡達到目標要求,訓練誤差圖見下圖。
訓練誤差圖
通過設置的數據,使用Braincell軟件對數據進行訓練,選取全部數據作為樣本數據組,2010―2013年的樣本作為將預測樣本,輸入模型可得2010―2013年的預測值見表2。
據表3可以看出,預測效果較好,一般來說,對于經濟指標的預測,誤差能夠控制在3%以內就算比較準確。因此,基于與旅游物流相關的其他經濟數據來建立BP神經網絡模型預測旅游物流需求有一定的實用價值。
4結論
根據人工神經網絡理論建立的旅游物流需求預測模型,通過Braincell神經網絡的自學習特征,運用traindx函數進行訓練,在訓練過程中對權值進行不斷修正,誤差比率控制合適的在范圍內,使網絡的實際輸出向量逐漸地接近期望的輸出值。最后把仿真的預測結果與真實量進行初步比較分析,得出的結果能夠證明使用神經網絡模型對旅游物流的預測精度較高。因此可以得出以下的結論:用BP神經網絡建立模型,可以準確地把與旅游物流相關的經濟數據與目標本身的需求量進行結合,可得到較為精準的旅游物流需求預測值。由此可以推斷,人工神經網絡作為高度的非線性體系,能夠對經濟系統中個變量之間的非線性關系進行高精度的預測,將其運用在物流領域中的應用具有更加廣闊的發展潛力。
參考文獻:
[1]王新利,趙琨基于神經網絡的農產品物流需求預測研究[J].農業技術經濟,2010(2):64-66
[2]秦立公,韋金榮等基于BrainCell 的B2B 電子商務供應鏈協同績效評價體系[J].中國集體經濟,2014(15):112-113
[3]張圣楠,郭文義,等基于MATLAB的BP神經網絡的設計與訓練[J].內蒙古科技與經濟,2005(17):96-98
[4]熊勛人工神經網絡在環境質量評價和預測中的應用研究[D].武漢:華中科技大學,2009
[5]白平,陳菊紅基于旅游物流能力的西部旅游發展研究[J].新疆大學學報,2013(41):16-17
[6]秦立公,王東,等旅游景區物流能力優化研究[J].現代商業,2010(24):47
篇8
關鍵詞:移動機器人;BP神經網絡;軌跡跟蹤控制
引言
人工神經網絡使非線性系統的描述成為可能,并且在學習、記憶、計算和智能處理方面表現出了很強的優越性。人工神經網絡具有如下特點:(1)可以按照指定的精度無限逼近幾乎各種復雜的非線性系統,解決了非線性系統的建模問題;(2)信息采用分布式存儲和處理方式,使得神經網絡具有很高的運算效率和很強的容錯性和魯棒性; (3)可以自行調節參數和結構實現自學習的目的以完成某項任務。(4)人工神經網絡具有強魯棒性和適應性,高可靠性以及智能性,為解決高維數、非線性、強干擾、時滯和不確定系統問題開辟了新思路并提供了方法,它在控制領域將具有舉足輕重的地位。
1 BP神經網絡
BP網絡的學習過程分為兩個階段:第一個階段是輸入已知學習樣本,通過設置的網絡結構和前一次迭代的權值和閾值,從網絡的第一層向后計算各神經元的輸出。第二階段是對權值和閾值進行修改,從最后一層向前計算各權值和閾值對總誤差的影響(梯度),據此對權值和閾值進行修改。以上兩個過程反復交替,直到達到收斂為止。由于誤差逐層往回傳遞,以修正曾與層間的權值和閾值,所以稱該算法為誤差反向傳播算法。這種誤差反傳學習算法可以推廣到若干個中間層的多層網絡,因此該多層網絡常稱之為BP網絡。
BP神經網絡根據每次的訓練樣本對權值進行修正,即使是在訓練樣本差別不大的情況下,各個神經元之間的連接權值也要重新經過計算進行修正。這在訓練樣本維數不大的情況下計算時間不會有很大差別,但是在實際應用中,往往所要訓練的數據都是極為復雜和龐大的,神經元個數也許是幾十個或幾百個,如果每個新的樣本數據都要重新經過計算進行權值修正,尤其在兩個樣本數據整體均方誤差和很小或絕大部分數據完全一樣個別數據差別較大的情況下,這樣就會增加重復的不必要的計算量,大大浪費計算時間,降低權值調整效率,難以滿足實時性要求。針對以上問題,提出了一種改進的BP神經網絡。它通過把傳統BP神經網絡根據其規模分割成若干更小的子網分別進行訓練來達到提高計算效率的目的
2 基于改進的BP神經網絡的軌跡跟蹤
移動機器人的控制器設計問題可以描述為:給定參考位置和參考速度,為執行力矩設計一個控制法則,控制機器人移動,使其平穩地跟蹤速度輸入和參考位置。
2.1基于后退算法的運動學控制器設計
根據移動機器人的運動學方程來選擇用于實現跟蹤的速度控制輸入,表示如下:
(1)
其中, ,均為設計參數。
速度控制信號的導數為:
(2)
控制信號誤差為:
(3)
由李雅普諾夫理論可以得知,所設計的運動學控制器能使系統的跟蹤誤差收斂。
2.2 基于改進BP神經網絡的動力學控制器設計
如果一個向量僅是一個變量的函數,那么就可以用靜態神經網絡來建模。即:
(4)
式中,和是GL向量,它們各自元素分別為和。是模型誤差向量,其元素是。其中,來表示一般向量或矩陣, 和“”分別表示GL 矩陣及其乘積算子。
由移動機器人動力學方程式知,僅是的函數,是和的函數,所以,可得:
(5)
(6)
式中,,和是GL矩陣,其各自元素分別為: ,,和。其中,和 是矩陣,其模型誤差元素為:和。
3 結論
改進的BP神經網絡應用于移動機器人軌跡跟蹤控制具有正確性、高效性、實用性和智能性等優勢,把神經網絡分割成若干子網分別進行訓練獲取了更高計算效率的方法,使BP神經網絡避免了不必要的權值調整,提高了網絡的訓練效率。
參考文獻:
[1]韓光信,陳虹. 約束非完整移動機器人軌跡跟蹤的非線性預測控制. 吉林大學學報(工學版),2009,39(01):177-18
篇9
[關鍵詞] 機器學習 遺傳算法 人工神經網絡 支持向量機
當前人工智能研究的主要障礙和發展方向之一就是機器學習。包括學習的計算理論和構造學習系統。機器學習與計算機科學、心理學、認知科學等都有著密切的聯系,涉獵的面比較廣,有許多理論及技術上的問題尚處于研究之中。
一、什么是機器學習
機器學習就是要使計算機能模擬人的學習行為,自動地通過學習獲取知識和技能,重新組織已有的知識結構,不斷改善自身的性能,實現自我完善。即機器學習研究的就是如何使機器通過識別和利用現有知識來獲取新知識和新技能。它是人工智能的核心,是使計算機具有智能的根本途徑。該門科學起源于心理學、生理學、生物學、醫學等科學,研究發展過程中涉及到數學、物理學、計算機科學等領域。機器學習主要圍繞學習機理、學習方法、面向任務這三個方面進行研究,其應用幾乎遍及自然科學的各個領域。其中最多的是模式識別、通訊、控制、信號處理等方面。
二、機器學習系統
學習是建立理論、形成假設和進行歸納推理的過程。為使計算機系統具有某種程度的學習能力,使它能夠通過學習獲取新知識,以改善性能,提高智能水平,需要建立相應的學習系統。學習系統一般由環境、學習環節、知識庫、執行與評價組成,整個過程包括信息的存儲、知識的處理兩大部分。機器學習系統模型如圖1所示。
圖1 機器學習模型
框架圖中的箭頭表示知識的流向;環境是指外部信息源;學習環節是指系統通過對環境的搜索獲取外部信息,然后經過分析、綜合、類比、歸納等思維過程獲得知識并將獲得知識存入知識庫;知識庫用于存儲由學習得到的知識,在存儲時要進行適當的組織,使它既便于應用又便于維護;執行部分用于處理系統面臨的現實問題,即應用學習到的知識求解問題。另外從執行到學習必須有反饋信息,學習將根據反饋信息決定是否要進一步從環境中搜索信息進行學習,以修改、完善知識庫中的知識。這是機器學習系統的一個重要特征。機器學習系統是對現有知識的擴展和改進。
三、機器學習的主要策略
學習是一項復雜的智能活動,學習過程與推理過程緊密相連。按照學習中使用的推理的多少,機器學習所采用的策略主要可分為機械學習、通過傳授學習、類比學習和通過實例學習等。學習中所用的推理越多,系統的能力越強。本文主要介紹以下三種機器學習方法,即遺傳算法、人工神經網絡模型及支持向量機。
1、遺傳算法
遺傳算法是一類借鑒生物界的進化規律(適者生存,優勝劣汰遺傳機制)演化而來的隨機化搜索方法。其主要特點是直接對結構對象進行操作,不存在求導和函數連續性的限定;具有隱并行性和更好的全局尋優能力;采用概率化的尋優方法,能自動獲取和指導優化的搜索空間,自適應的調整搜索方向,不需要確定的規則。
由于遺傳算法的整體搜索策略和優化搜索方法,在計算時是不依賴于梯度信息和其他輔助信息,而只需要影響搜索方向的目標函數和相應的適應度函數,所以遺傳算法提供了一種求解復雜問題的通用框架,它不依賴于問題的具體領域,對問題的種類有很強的魯棒性,所以廣泛應用于自動控制、計算科學、工程設計、智能故障診斷、管理科學和社會科學等領域,適用于解決復雜的非線性和多維空間尋優問題。
2、人工神經網絡模型
神經網絡基本模型是在現代神經科學的基礎上提出和發展起來的,旨在反映人腦結構及功能的一種抽象數學模型(見圖3)。
圖3 神經網絡基本模型
一個人工神經網絡是由大量神經元節點經廣泛互連而組成的復雜網絡拓撲,用于人類進行知識和信息表示、存儲和計算行為。神經元模型如圖4所示。
每一個細胞處于兩種狀態。突觸聯接有強度。多輸入單輸出。實質上傳播的是脈沖信號,信號的強弱與脈沖頻率成正比。
在神經網絡中,大量神經元的互連結構及各連接權值的分布就表示了學習所得到的特定要領和知識。在網絡的使用過程中,對于特定的輸入模式,神經網絡通過向前計算,產生一個輸出模式,并得到節點代表的邏輯概念, 通過對輸出信號的比較與分析可以得到特定解。神經元之間具有一定的冗余性,并且允許輸入模式偏離學習樣本,因此神經網絡的計算行為具有良好的并行分布、容錯和抗噪能力。
神經網絡模型包括前饋型網絡、反饋型網絡、自組織競爭人工神經網絡等。
圖4神經元模型
(1)前饋型網絡(BP)
前饋型網絡,最初稱之為感知器(包括單層感知器和多層感知器),是應用最廣泛的一種人工神經網絡模型。前饋網絡結構是分層的,信息只能從下一層單元傳遞到相應的上一層單元,上層單元與下層所有單元相聯接。轉移函數可以是線性閾值的。多層感知器也被稱為BP網絡。多層感知器的輸入輸出關系與單層感知器完全相同。前一層的輸出是下一層的輸入。
(2)反饋型網絡(Hopfield)
反饋型網絡,它是一種動態反饋系統,所有計算單元之間都有聯接。比前饋網絡具有更強的計算能力。
(3)自組織競爭人工神經網絡
在實際的神經網絡中,存在一種側抑制的現象。即一個細胞興奮后,通過它的分支會對周圍其他神經細胞產生抑制。這種側抑制在脊髓和海馬中存在,在人眼的視網膜中也存在。
自組織映射模型是由Kohonen提出來的。模型是以實際神經細胞中的一種特征敏感的細胞為模型的。各個細胞分別對各種輸入敏感,可以代表各種輸入,反映各種輸入樣本的特征。如果在二維空間上描述這些細胞,則,功能相近的細胞聚在一起,靠得比較近。功能不同的離得比較遠。開始是無序的,當輸入樣本出現后各個細胞反映不同,強者依照“勝者為王”的原則,加強自己的同時對周圍細胞進行壓抑。使其對該種樣本更加敏感,也同時對其他種類的樣本更加不敏感。此過程的反復過程中,各種不同輸入樣本將會分別映射到不同的細胞上。
人工神經網絡以其具有自學習、自組織、較好的容錯性和優良的非線性逼近能力,受到眾多領域學者的關注。在實際應用中,80%~90%的人工神經網絡模型是采用誤差反傳算法或其變化形式的網絡模型(簡稱BP網絡),目前主要應用于函數逼近、模式識別、分類和數據壓縮或數據挖掘。 但不適合高精度計算;學習問題沒有根本解決,慢;目前沒有完整的設計方法,經驗參數太多。
3、支持向量機(SVM)
支持向量機是一種基于統計的學習方法,它是對結構風險最小化歸納原則的近似。它的理論基礎是Vapnik創建的統計學習理論。
SVM就是首先通過用內積函數K(xi,xj)定義的非線性變換將輸入空間變換到一個高維空間,在這個空間中求(廣義)最優分類面。SVM分類函數形式上類似于一個神經網絡,輸出是中間節點的線性組合,每個中間節點對應一個支持向量。
由于統計學習理論和支持向量建立了一套較好的有限樣本下機器學習的理論框架和通用方法,既有嚴格的理論基礎,又能較好地解決小樣本、非線性、高維數和局部極小點等實際問題,因此成為20世紀90年代末發展最快的研究方向之一,其核心思想就是學習機器要與有限的訓練本相適應。
學習是人類智能的主要標志和獲得智慧的基本手段,機器學習的研究就是希望計算機能像人類那樣具有從現實世界獲取知識的能力,同時進一步發現人類學習的機理和揭示人腦的奧秘。機器學習涉及到連接理論、認知理論、行為科學、神經科學等多門科學。因此,對于機器學習的研究,只有采用計算機科學、控制論、人工智能、認知科學、神經科學、心理學等多學科交叉的方法,才可望取得機器學習研究的更大進展。
機器學習是一個十分活躍、充滿生命力的研究領域,同時也是一個比較困難、爭議頗多的研究領域,雖然取得了一些令人矚目的成就,但還存在許多尚未解決的問題。目前人工智能研究的主要障礙和發展方向之一就是機器學習,因此,機器學習有著廣闊的研究前景。
參考文獻:
[1] 張景繪,動力學系統建模[M].北京:國防工業出版社,2000.
[2] 楊義勇等,機械系統動力學[M].北京:清華大學出版社,2009.
篇10
關鍵詞:智能控制;感知器;教案設計;教學實踐
作者簡介:黃從智(1982-),男,湖北浠水人,華北電力大學控制與計算機工程學院,副教授;白焰(1954-),男,遼寧沈陽人,華北電力大學控制與計算機工程學院,教授。(北京 102206)
基金項目:本文系北京高等學校青年英才計劃項目(項目編號:YETP0703)、北京市共建項目專項資助的研究成果。
中圖分類號:G642.0 文獻標識碼:A 文章編號:1007-0079(2014)14-0095-02
智能控制是自動化專業本科高年級必修課程,智能控制課程涵蓋專家系統、模糊控制、神經網絡、進化計算等四大主要模塊,是一門跨學科課程,基本概念和教學內容極其豐富,應用范圍十分廣泛。[1]該課程一般以“自動控制理論”、“現代控制理論”、“線性代數”為先修課程,作為研究生課程的學科前沿類概論課程,其主要目的是引導學生掌握智能控制理論的基本概念、思想方法,了解其能解決的實際問題,培養學生實際動手能力,提高分析、解決實際問題的能力。[2-5]為使學生在有限課堂時間內在理論學習和仿真實現兩個方面都有所收獲,筆者結合近幾年的教學實際,從學生實際出發,貼近工業過程控制實際,不斷優化課堂教學內容和教學方式,在理論教學內容和教學方式等方面進行了一系列持續的探索和研究,在教學實踐中不斷反復總結教學經驗優化教案,根據學生實際情況不斷改進教學方式,取得了較好的教學效果。
感知器是最簡單也最基本的人工網絡模型,掌握好感知器的基本數學模型對于學習掌握人工神經網絡具有非常重要的意義。[6]本文以“感知器”這堂課的教案設計優化與教學實踐為例,力圖在智能控制教學方面做出一些有益的探索,為培養工程化創新實踐型人才做出應有貢獻。
一、感知器的模型
首先通過人工神經網絡早期的發展歷史引入感知器的模型。早在1943年,美國神經生理學家麥卡洛克(McCulloch)和皮茲(Pitts)就提出了第一個人工神經元模型――MP模型。MP模型的提出,標志著人工神經網絡研究的開始。但是,在MP模型里,它的模型參數必須事先人為設定不能調整,因而缺乏與生物神經元類似的學習能力。
在MP模型的基礎上,引入了學習能力就是本節課要學習的感知器,這是美國學者羅森布拉特在1958年提出的第一個人工神經網絡模型。感知器的提出是人工神經網絡發展史上的重要轉折點,它標志著人工神經網絡從此有了智能的特性,此后進入了第一個發展。基于這段發展歷史,開始介紹感知器的數學模型。
單層單神經元感知器的基本模型如圖1所示。
由圖1可知,單層單神經元感知器是一個閾值加權和模型,有n個輸入變量x1,x2,…,xn,它們對應的權值分別是w1,w2,…,wn,加權求和后與閾值θ相比較,得到u,即。
如果把閾值并入權值的話,那么把它看作是第0個輸入,x0=1,權值為w0=-θ。這樣就可以把它改寫為加權求和的形式,。輸入特征向量就是[x0,x1,x2,…,xn],對應的權值為[w0,w1,w2,…,wn],然后u經過激勵函數f變換為輸出y。一句話,感知器的運算法則就是:加權、求和、取函數。這個函數稱為激勵函數(Activation Function)。早期的激勵函數采用硬限幅函數Hard-limiting,當輸入u大于或等于0時,輸出y為1;否則y為0。由于其輸出只能是0或1,它主要用于兩個模式的分類問題。有時可能要求輸出能在0到1之間連續取值,比如模糊控制中模糊隸屬度的輸出是個概率估計值,這時可采用Sigmoid函數,當輸入u在(-∞,+∞)之間變化時,輸出y在[0,1]之間連續取值。
單層單個神經元的感知器主要用于兩類模式的分類問題,比如說要區分一個水果到底是蘋果還是桔子?可根據水果的一些特征來進行判斷,一看外形,圓形的定義輸入為0,橢圓形的就為1;二看顏色,黃色為0,紅色為1;三看質地,光滑為0,粗糙為1。這樣就得到三個不同的輸入,其值可能為0或1。蘋果一般認為是圓形、紅色、光滑的,就定義其輸入為[0,1,0],而桔子一般認為是橢圓形、黃色、粗糙的,就定義其輸入為[1,0,1]。按照這三個不同的特征將水果分為蘋果和桔子兩種不同的類別,可定義輸出0為蘋果,輸出1為桔子。因此可采用一個三輸入一輸出的單層單個感知器網絡,只要選擇合適的權值和閾值,就能實現從[0,1,0]到0、從[1,0,1]到1的一一映射,解決這樣最簡單的兩個模式分類問題。實際生活中常見的人臉識別、虹膜識別都是模式識別的范疇,都可采用類似方法解決,有興趣的同學將來可在模式識別與智能系統碩士專業繼續深造。
進一步地,如還要區分桃子、梨子、西瓜、葡萄等多種水果,則需用感知器分類多個模式,要求感知器有多個輸出,就需要用到更復雜的多層多神經元感知器。
二、感知器的應用――邏輯函數實現
除模式分類外,感知器還可用于邏輯函數實現,以下結合兩個實例說明。
1.實例分析1:如何用感知器實現邏輯運算“與”、“或”、“非”
從邏輯“與”真值表可知,只有當兩個輸入同為1時,輸出才為1,否則輸出為0。可以用2輸入1輸出的單層單神經元感知器,激勵函數采用硬限幅函數。以兩個輸入x1和x2為坐標軸畫出分類示意圖,(0,0)、(0,1)、(1,0)、(1,1)分別表示四種可能的輸入模式,那怎么將它們區分開呢?如采用直線x1+x2-1.5=0就容易將其輸出分為兩類即0和1。直線上方對應的u大于0,輸出y為1;直線下方對應的u小于0,輸出y為0。對比下,就能確定感知器的權值均為1,閾值為1.5,這樣就實現了邏輯“與”功能。
類似地,也可用一個這樣的感知器來實現邏輯“或”,這很容易通過類比方法解決,留給學生課后思考。而邏輯“非”呢,更簡單了,它只有一個輸入一個輸出,采用單輸入單神經元感知器就可實現了。它的分界線就是直線-x1+0.5=0,正好把0和1這兩類區分開來。
既然感知器能實現邏輯“與”、“或”、“非”功能,那它能不能實現邏輯“異或”呢?這也是本節課要介紹的第二個實例。
2.實例分析2:如何用感知器實現邏輯運算“異或”
由真值表可知,邏輯運算“異或”定義為:兩個輸入x1和x2同為0或1時,輸出y為0,否則y為1。根據邏輯運算“與”的實現經驗知,要實現邏輯運算“異或”,只需一個2輸入1輸出的感知器。在二維平面上對應的四個點(0,0)、(0,1)、(1,0)和(1,1),其中(0,0)、(1,1)這兩個點對應的輸出為0,(0,1)、(1,0)這兩個點對應的輸出為1。關鍵問題在于:這個平面上能否找到一條分界線將(0,0)、(1,1)這兩個點和(0,1)、(1,0)這兩個點區分開來?無論怎么找都找不到,實際上這樣的直線是不存在的。
美國麻省理工大學(MIT)的Minsky教授在1969年出版的《感知器》一書中發出感慨:感知器連最簡單的異或都實現不了,研究人工神經網絡還有什么前途?Minsky是1969年圖靈獎獲得者,而圖靈獎是計算機領域的諾貝爾獎,由于他在人工智能領域當時是絕對的學術權威,這個悲觀的論調無疑給當時的神經網絡研究潑了一盆冷水,直接導致美國和前蘇聯幾乎中止了這方面的研究。那么,感知器到底能不能實現“異或”呢?它有四個可能的輸入,兩類可能的輸出,采用什么分界線可以區分這兩類不同模式的輸出呢?用直線不能區分,那么用其他圖形呢?此時啟發學生積極思考,主動采用發散性思維方式創造性解決問題。以(0,0)和(1,1)為焦點畫個橢圓,就可以區分它們了,如圖2所示。
如圖2(a)所示,橢圓方程為:,對應的單層非線性感知器如圖2(b)所示,其輸入是x1和x2,經過非線性處理再加權求和后得到u,再經過硬限幅激勵函數f運算得到輸出y。顯然,當x1和x2同為0或為1時,u為-1,再經f運算得y為0;當x1和x2不同時,u為15,再經f運算得輸出y為1,正好實現了邏輯運算“異或”功能。
如圖2所示的橢圓可將這四個點對應的兩類輸出區分出來,那么是不是還有其他方法呢?此時啟發學生再提出其他所有可能的解決方案。其中一種可行的解決思路如下:考慮用兩條直線圍成的帶狀區域作為分界線,如圖3所示。
如圖3(a)所示,如分界線采用這個帶狀區域,也可以將它們對應的輸出劃分為兩類。其對應的是如圖3(b)所示的多層線性感知器,這里采用了兩層:1個隱含層有2個神經元,1個輸出層有1個神經元。具體論證過程讓學生課后自己驗證。
通過以上分析,讓學生獨立自主發現問題、分析問題、解決問題,得出結論:單層線性感知器的確無法實現邏輯運算“異或”功能,但是換個角度,采用一個單層非線性感知器或多層線性感知器就能實現邏輯運算“異或”功能。通過介紹這段歷史,啟迪學生一個道理:同學們在學習的時候,不要盲目地迷信一些學術權威或書本,要學會獨立思考、大膽懷疑,要有發散思維,要用發展變化的觀點去分析問題和解決問題,換個角度思考很可能就會柳暗花明又一村。
三、課堂內容總結及第二課堂設計
總結一下本堂課的講課內容,主要介紹了感知器的數學模型,并結合實例分析了它在模式識別和邏輯函數功能實現中的實際應用。作為下次課程的引子,可以將“關于感知器如何學習,它的權值和閾值如何調整”這一問題拋給學生在后續課程中繼續學習。
課程雖然結束了,但有很多后續問題可留給學生課后思考,所以在第二課堂設計中增加了如下問題讓學生積極思考,主動去尋找這些問題的答案:
問題一:除課堂中介紹的兩種方法之外,還有沒有其他方法也可以設計一個感知器實現邏輯運算“異或”功能呢?
問題二:既然感知器可以解決邏輯運算“異或”功能,那么如何用感知器實現邏輯運算“同或”功能呢?
問題三:根據課程內容,如何利用MATLAB或C語言編寫程序設計感知器,研究分別實現邏輯運算“與”、“或”、“非”、“異或”、“同或”功能?[7]
問題四:進一步地,如何利用MATLAB或C語言編寫程序設計BP神經網絡,研究分別實現邏輯運算“與”、“或”、“非”、“異或”、“同或”功能?
四、教學效果
通過在本科智能控制課程四大模塊之一的人工神經網絡“感知器”部分課堂教學實踐中實際應用上述優化后的教案,極大地激發了學生濃厚的學習興趣。教學實踐表明,學生普遍由此對人工神經網絡的課程內容產生了較大的學習興趣,部分同學針對所學內容提出了一些很有新意的解決思路,并通過自行編程實現了所提出的解決方案。學生在學習過程中充分發揮了主體作用,充分利用發散性思維能力,提高了綜合分析問題、解決問題的能力和創新能力。
參考文獻:
[1]劉金錕.智能控制[M].第2版.北京:電子工業出版社,2009.
[2]蔡自興.智能控制導論[M].北京:中國水利水電出版社,2007.
[3]蔡自興.智能控制原理與應用[M].北京:清華大學出版社,2007.
[4]韋巍,何衍.智能控制基礎[M].北京:清華大學出版社,2008.
[5]李少遠,王景成.智能控制[M].北京:機械工業出版社,2009.