神經網(wǎng)絡的訓練流程范文
時間:2024-03-27 18:03:00
導語:如何才能寫好一篇神經網(wǎng)絡的訓練流程,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公務員之家整理的十篇范文,供你借鑒。
篇1
關鍵詞: 圖像檢索; 特征提??; 神經網(wǎng)絡; 機器學習; 相關反饋
中圖分類號: TN711?34; TM417 文獻標識碼: A 文章編號: 1004?373X(2016)21?0078?05
Design and development of image retrieval platform based on artificial neural network
ZHANG Weihua, GAO Ang
(Department of Information Engineering, Zhengzhou Chenggong University of Finance and Economics, Gongyi 451200, China)
Abstract: Since the difference exists between the high?level abstract semantics and underlying feature of the user?description image, the retrieval system based on the image content feature can′t accurately accomplish the user′s retriecal task. To solve the above problem, an image matching calculation method based on neural network is proposed. The correct mapping from image low?level feature to image classification is formed by means of sample automatic learning and user feedback learning. The neural network after learning can classify and retrieve the image automatically. This method is combined with the image low?layer feature description and user high?level semantics feedback to effectively recover the semantic gap. The whole process of neural network learning and image retrieval was realized by integrating the Web front end, image extraction module, neural network module and database module.
Keywords: image retrieval; feature extraction; neural network; machine learning; relevance feedback
在利用神經網(wǎng)絡進行圖像檢索的過程中,圖像的大小、精度及細節(jié)越來越豐富,信息含量相應的也越來愈多,當使用大量的信息進行神經網(wǎng)絡的構建和訓練時,所需的時間和成本都大大增加,并且神經網(wǎng)絡的檢索效率也會降低,這就使得其滿足不了用戶準確搜索圖像的需求[1]。同時,隨著神經網(wǎng)絡技術的發(fā)展,可以利用各種改進技術提高神經網(wǎng)絡的學習效率和預測準確率,使得利用神經網(wǎng)絡來模擬人腦對圖像的分類和檢索可以得到更好的效果。
1 圖像特征的提取
系統(tǒng)使用圖像分割方法對圖像的形狀特征進行描述,提取圖像中各個部分的形狀特征。
1.1 形狀特征的提取
使用K?均值聚類分割算法進行圖像的分割。將圖像分割后,由于每個簇中的像素在視覺特征上具有很強的相似性,因此對每一區(qū)域的特征進行簡單的描述,提取相應的圖像特征然后保存結果,并將其作為圖像檢索系統(tǒng)的區(qū)域特征庫。系統(tǒng)針對不同的圖像特征選取不同的方法進行描述:
(1) 區(qū)域顏色特征,提取該區(qū)域中像素點在Lab顏色空間中的均值來描述。
(2) 區(qū)域位置特征,提取該區(qū)域中像素點在二維空間中的坐標的平均值來描述。
(3) 區(qū)域紋理特征,提取該區(qū)域中像素的平均對比度及平均各向異性來描述。
(4) 區(qū)域形狀特征,提取該區(qū)域的封閉輪廓,并將其分解為可由若干橢圓重構的由橢圓參數(shù)組成的序列,然后通過傅里葉描述符來描述該封閉曲線[2]。
1.2 顏色特征的提取
由于顏色直方圖的限制,選擇顏色相關圖進行圖像顏色的提取。圖像的顏色相關圖就是由所有顏色對進行索引的表,在表中[(i, j)]的第[m]個條目表示找到與顏色為[i]的一個像素點距離為[m]的顏色為[j]的一個像素點的幾率。在計算顏色相關圖時需采用一些并行計算,這樣可以提高計算效率。
1.3 紋理特征的提取
通過對比基于Tamura紋理特征算法的檢索程序、基于灰度?梯度共生矩陣算法的檢索程序和基于Gabor小波變換算法,基于Tamura紋理特征提取算法的檢索程序的查詢準確率要比后兩者都高,且其查詢使用的時間也要少很多,因此系統(tǒng)選擇采用Tamura紋理特征提取算法。
2 BP神經網(wǎng)絡模型的搭建
2.1 BP神經網(wǎng)絡特點
選擇BP神經網(wǎng)絡作為圖像的神經網(wǎng)絡分類器,其將[n]維圖像底層視覺特征映射為圖像的分類。通過實驗對BP神經網(wǎng)絡進行一些改進和優(yōu)化,使其能有效地完成圖像檢索的任務。典型樣本集的選擇、學習復雜性、網(wǎng)絡結構的選擇、輸入特征向量的選擇、預測能力的極限都是需要在搭建BP神經網(wǎng)絡時需要考慮的問題[3]。
2.2 BP神經網(wǎng)絡的原理及拓撲結構
基于BP神經網(wǎng)絡相關原理的學習與分析,確定了系統(tǒng)中BP神經網(wǎng)絡的結構和構建過程:首先定義輸入層、隱含層和輸出層的神經元數(shù)目分別為[n,l]和[m,]則[(x1,x2,…,xn)]為網(wǎng)絡的輸入矢量,[(h1,h2,…,hl)]為隱含層神經元的輸出矢量,[(y1,y2,…,ym)]為網(wǎng)絡的實際輸出矢量,同時定義[(d1,d2,…,dm)]為訓練樣本所對應的預期輸出矢量。然后定義輸出層神經元[i]與隱含層神經元[j]的連接權值為[Vij,]隱含層神經元[j]與輸出層神經元[k]的連接權值為[Wjk,]隱含層神經元[j]的閾值為[b,]輸出層神經元[k]的閾值為[c。]由于傳遞函數(shù)需要表示具有線性特性的輸入信號與輸出信號的聯(lián)系,又根據(jù)BP神經網(wǎng)絡要求傳遞函數(shù)必須連續(xù)可導,因此其一般使用在(0,1)之間連續(xù)并可導的Sigmoid函數(shù)作為傳遞函數(shù),該函數(shù)公式為:
[f(x)=11-e-x] (1)
實際輸出矢量與預期輸出矢量的誤差計算公式為:
[E=12j=1m(dk-yk)2] (2)
隱含層神經元輸出矢量的計算公式為:
[hj=fj=1N-1Vijxi+?j] (3)
輸出層神經元輸出矢量的計算公式為:
[yk=fj=0L-1Wjkhj+θk] (4)
BP神經網(wǎng)絡通過反向傳播算法調整權值,其權值修正公式為:
[Wij(n+1)=Wij(n)+ηδjx′i] (5)
在式(5)中,[Wij(n)]表示第[n]次學習后的神經元[i]與神經元[j]之間的連接權值,信號輸出的神經元為[i,]信號輸入的神經元為[j,][Xi]為神經元[i]的實際輸出,[η]為網(wǎng)絡的學習速率,[δj]為神經元[j]的學習誤差。
系統(tǒng)中BP神經網(wǎng)絡的構建流程如下:
(1) 初始化網(wǎng)絡的連接權值和閾值,其值為均勻分布的隨機數(shù)。
(2) 對網(wǎng)絡使用一組樣例數(shù)據(jù)進行訓練。
(3) 網(wǎng)絡搭建完成,將輸入矢量輸入網(wǎng)絡可仿真輸出符合預期的輸出矢量[4]。
2.3 BP神經網(wǎng)絡的學習過程
通過對相關反饋算法的學習,提出了一種基于BP神經網(wǎng)絡進行學習的圖像檢索方法,它包含兩種學習過程:
(1) 自動樣例學習,首先通過包含高層語義標注的樣例圖像的學習構建圖像高層語義的分類器,其中對于圖像的每種語義分別構造一個分類器,輸入樣例圖像后使系統(tǒng)提取圖像的底層特征作為神經網(wǎng)絡的輸入,然后經過一定時間的學習可以得到網(wǎng)絡的解,使分類器能夠初步完成分類任務;
(2) 用戶交互學習,首先通過用戶的指導,將初步檢索結果進行分類,然后系統(tǒng)將用戶的反饋整理為學習樣本,同樣使用自動樣例學習過程進行學習,最后得出網(wǎng)絡最新的解,使分類器能更精確地完成分類任務。系統(tǒng)中BP神經網(wǎng)絡的學習流程如圖1所示。
2.4 BP算法的改進
使用附加動量法可以使網(wǎng)絡在修正連接權值時,不只考慮誤差在其梯度上的變化趨勢,還考慮誤差在其曲面上的變化趨勢。在沒有附加動量的情況中,網(wǎng)絡在訓練過程中有可能陷入局部極小狀態(tài),通過使用附加動量則可以在一定程度上繞過這些極小值,避免進入極小狀態(tài)[5]。附加動量法在反向傳播過程中,在每一個神經元的連接權值及閾值的當次訓練的變化量上附加一個正比于上次訓練后的連接權值及閾值的變化量的項,根據(jù)新的變化量計算出新的連接權值及閾值。添加了附加動量因子的連接權值和閾值的變化量計算公式分別為:
[Δwij(k+1)=(1-mc)ηδjpj+mcΔwij(k)] (6)
[Δbj(k+1)=(1-mc)ηδj+mcΔbij(k)] (7)
式中:[k]表示第[k]次訓練;[mc]表示動量因子,[mc]的取值一般在0.95附近。
在結合附加動量法的網(wǎng)絡訓練過程中,需要根據(jù)不同條件判斷何時使用動量因子來修正權值,其判斷條件為:
[mc=0,E(k)>E(k-1)×1.040.95,E(k)
式中[E(k)]為第[k]步的誤差平方和。
自適應學習速率的調整公式為:
[η(k+1)=1.05η(k),E(k+1)E(k)×1.04η(k),etc] (9)
式中[E(k)]為第[k]步的誤差平方和。
動量法可以幫助BP算法正確找到全局最優(yōu)解,自適應學習速率法可以幫助BP算法縮短訓練時間,通過這兩種方法的使用,可以有效地提高神經網(wǎng)絡的學習效果。
2.5 實驗結果分析
實驗目的為確定系統(tǒng)中BP神經網(wǎng)絡分類器的隱含層神經元數(shù)目。首先根據(jù)研究獲得的圖像特征向量的元素個數(shù)構建神經網(wǎng)絡分類器的學習樣例,此處每個樣例的輸入向量的元素個數(shù)為165個,因此構建16組含有165個元素的輸入向量,4個一組劃分為一種類別,最終形成含有4種類別的16組訓練樣本,以此方法再生成該4種類別的4組測試樣本。然后根據(jù)經驗公式獲得合適隱含層神經元數(shù)目的取值范圍,此處為9~17個。最后將訓練樣本及測試樣本先后輸入隱含層神經元數(shù)目不同的網(wǎng)絡中進行訓練和測試,記錄數(shù)據(jù)。
表1記錄了隱含層神經元數(shù)目及對應的訓練誤差和測試誤差的數(shù)據(jù),由其數(shù)據(jù)可以看出,隨著隱含層神經元數(shù)目的增加訓練誤差總體上逐漸減小,當個數(shù)超過15后訓練誤差出現(xiàn)一定程度的波動,出現(xiàn)小幅的增加,雖然不影響網(wǎng)絡的學習效果,但是過多的神經元個數(shù)會增加學習時間,而此時測試誤差還是處于降低的趨勢。綜合分析實驗結果,本系統(tǒng)確定采用較合適的15個隱含層神經元。
3 檢索系統(tǒng)的設計與實現(xiàn)
3.1 系統(tǒng)結構分析
3.1.1 系統(tǒng)結構
系統(tǒng)的結構如圖2所示,圖中除了與用戶交互的Web前端,其余的圖像特征提取模塊、神經網(wǎng)絡模塊及數(shù)據(jù)庫都在服務器端,這種瀏覽器?服務器結構平臺搭建后,用戶可以通過不同客戶端的Web瀏覽器進行圖像檢索的功能,而不必安裝本地應用程序,同時將主要的核心功能集中到服務器上,不僅大大簡化了系統(tǒng)的開發(fā)和維護流程,降低了成本,還增強了系統(tǒng)的擴展性。
3.1.2 系統(tǒng)流程
系統(tǒng)針對不同的功能需求設計了相應的不同流程,這些流程包括系統(tǒng)樣例學習流程、用戶反饋學習流程、用戶查詢流程。
如圖3所示,在系統(tǒng)的樣例學習過程中,系統(tǒng)接收到樣例數(shù)據(jù)后會先對數(shù)據(jù)進行分析,然后交給神經網(wǎng)絡進行學習,最終生成對應類別的分類器,這些分類器會在用戶檢索時對數(shù)據(jù)庫中的圖像進行分類,查找到符合用戶需求的圖像[6]。樣例學習的流程是本系統(tǒng)學習分類知識的關鍵步驟,在該步驟中用戶并不參與系統(tǒng)的學習過程,整個學習過程均為系統(tǒng)自動進行,因此需提供大量被正確標注的清晰圖像樣例,通過對這些優(yōu)質樣例的學習,系統(tǒng)會自動生成針對圖像各種分類所對應的分類器,且經過長時間的學習,這些分類器的準確率會不斷上升,最終使查詢結果更符合用戶需求。
如圖4所示,在系統(tǒng)的用戶查詢流程中,用戶的查詢條件為圖像特征的語義描述,系統(tǒng)最終返回為包含該描述特征的圖像集,這個過程利用神經網(wǎng)絡分類器學習的高層描述語義與低層圖像特征之間的映射,因此隨著神經網(wǎng)絡學習時間的增大,這種映射也就越精確,系統(tǒng)完成的查詢也就越符合用戶要求。
3.1.3 圖像特征提取模塊
如圖5所示,當圖像輸入到圖像特征提取模塊中時,圖像會進行K?均值聚類分割算法處理、顏色相關圖算法處理及Tamura紋理特征算法處理,這三個處理過程并行進行。
經過K?均值聚類分割算法處理,圖像被分割為若干塊區(qū)域,每個區(qū)域中的像素都具有相似的屬性,對于每個區(qū)域,會提取其簡單的區(qū)域特征,如顏色特征、位置特征、紋理特征及形狀特征等;經過顏色相關圖算法處理,生成當前圖像的顏色自相關圖;經過Tamura紋理特征算法處理,計算出圖像的粗糙度、對比度、方向度、線性度等數(shù)值。將經過三個算法處理后得到的數(shù)值整理后得到圖像的特征向量[7]。
3.1.4 神經網(wǎng)絡模塊
系統(tǒng)中的圖像神經網(wǎng)絡分類器由三層組成,分別為輸入層、隱含層及輸出層,其中輸入層的神經元個數(shù)與歸一化后的圖像特征向量的個數(shù)相同,為固定值;隱含層的神經元個數(shù)通過前文中的實驗得出,適合于本系統(tǒng)中神經網(wǎng)絡的要求;輸出層只有一個神經元進行分類,設定1為屬于該分類的學習期望,設定0為不屬于該分類的學習期望,但是實際運行時需要設定1為0.9,0為0.1,這是因為Sigmoid函數(shù)無法經過有限的連接權值計算得到1與0的值[8]。
3.1.5 Web 平臺模塊
系統(tǒng)的Web界面包括用戶查詢輸入框、用戶圖像上傳框、查詢結果瀏覽框等。
3.2 實驗結果分析
為了檢驗圖像檢索平臺的性能,首先將系統(tǒng)設置為學習模式,然后從圖像庫中選取1 000幅已進行人工標注的樣例集輸入系統(tǒng),最后當系統(tǒng)發(fā)出已訓練完畢信號后,對系統(tǒng)已學習的分類當作查詢輸入系統(tǒng)進行檢索,記錄系統(tǒng)檢索結果。
檢索結果可知經過人工指導學習,系統(tǒng)可以仿真模擬更符合人類視覺感知的分類方式,并將其記憶于相應的神經網(wǎng)絡分類器中,經過不斷的學習,系統(tǒng)可以返回更準確的符合用戶需求的檢索結果。
4 結 論
本文主要研究包括基于內容的圖像檢索技術及人工神經網(wǎng)絡技術兩個方面。首先使用K?均值聚類分割算法、顏色相關圖算法及Tamura紋理特征提取算法提取圖像相應的形狀、顏色及紋理特征,通過整合形成可以完整描述圖像信息的特征向量。同時,針對基于內容的圖像檢索系統(tǒng)中用戶高層語義與圖像底層特征之間存在的問題,通過樣例自動學習和用戶反饋學習兩種學習方式,BP神經網(wǎng)絡通過反向傳播學習算法調節(jié)網(wǎng)絡權值,從而形成圖像底層特征到圖像分類的正確映射,學習后的神經網(wǎng)絡通過這種映射可以進行圖像的自動分類及檢索,該方法結合了圖像的底層特征描述及用戶的高層語義反饋,有效地彌補了語義鴻溝。
參考文獻
[1] KHERFI M L, ZIOU D. Relevance feedback for CBIR: a new approach based on probabilistic feature weighting with positive and negative examples [J]. IEEE transactions on image processing, 2006, 15(4): 1017?1030.
[2] TRAINA A J M, MARQUES J. Fighting the semantic gap on CBIR systems through new relevance feedback techniques [C]// Proceedings of 2011 the 21th IEEE International Symposium on Computer?Based Medical Systems. [S.l.]: IEEE, 2006: 881?886.
[3] 周資云.基于內容的圖像檢索系統(tǒng)研發(fā)與應用[J].華章,2012(29):22.
[4] 劉麗,匡綱要.圖像紋理特征提取方法綜述[J].中國圖象圖形學報,2013,14(4):622?635.
[5] KANUNGO T, MOUNT D M, NETANYAHU N S, et al. An efficient k?means clustering algorithm: analysis and implementation [J]. IEEE transactions on pattern analysis and machine intelligence, 2002, 24(7): 881?892.
[6] WILLIAMS A, YOON P. Content?based image retrieval using joint correlograms [J]. Multimedia tools and applications, 2007, 34(2): 239?248.
篇2
上海市作為國家云計算服務創(chuàng)新試點城市之一,“十二五”期間將在五大領域推進云計算的示范應用,其中包括以云計算、物聯(lián)網(wǎng)等信息服務系統(tǒng)來支撐上海建設“智慧城市”的交通管理。面對傳統(tǒng)交通信息來源有限、可靠性差、滯后等缺陷,急需借助于云計算環(huán)境來研究多源交通信息的融合機理,催生多源交通信息服務模式的改變。本文著力構建多源信息云智能交通系統(tǒng)自適應服務模型,篩選年鑒數(shù)據(jù)為樣本,通過SPSS軟件仿真,最終驗證此模型的可行性。
模型構建
1、處理流程云計算環(huán)境下智能交通系統(tǒng)中多源信息渠道得到的原始數(shù)據(jù)具有典型無組織性。本文構建多源信息云智能交通系統(tǒng)自適應服務模型,處理流程如圖1所示。多源信息云智能交通系統(tǒng)自適應服務模型全流程均在云計算環(huán)境下進行,實時信息至歷史信息的傳遞過程體現(xiàn)本模型處理過程的動態(tài)性。此模型中自適應性體現(xiàn)在:(1)通過Newton多元參數(shù)優(yōu)化法實現(xiàn)樣本降維處理;(2)通過前饋神經網(wǎng)絡訓練過程得到云智能交通系統(tǒng)信息服務最優(yōu)拓撲結構,即確定前饋神經網(wǎng)絡中隱藏層邏輯結構,通過前饋神經網(wǎng)絡訓練過程得到最優(yōu)層間權重和最優(yōu)迭代參數(shù),從而得到最優(yōu)神經網(wǎng)絡;(3)通過有限混合分布擬合前饋神經網(wǎng)絡正向輸出數(shù)據(jù),得到更具靈活性的全局分布。2、多元參數(shù)優(yōu)化多元參數(shù)優(yōu)化目的旨在尋找維元參數(shù)向量的標量評分函數(shù)的最小值。在多源信息神經網(wǎng)絡自適應服務模型中,實驗樣本維數(shù)通常比較大,而多維空間中局部最小值現(xiàn)象突出,如果在多源數(shù)據(jù)預處理過程中找到局部最小值,則能剔除非最小值空間,從而有效將樣本數(shù)據(jù)降維。多元參數(shù)優(yōu)化運用迭代的思想,直至找到局部最小值。局部迭代一般過程為:其中,是第步迭代時的估計參數(shù),是下一步迭代移動方向的維向量。神經網(wǎng)絡中的反饋思想運用的是最陡峭下降算法,最陡峭下降的梯度不一定指向最小值,理論上經過有限次迭代可以找到對應的,但并不是優(yōu)選迭代法。Newton方法定義局部迭代過程為:其中,是在點處二階導數(shù)矩陣的逆矩陣(),為函數(shù)的一階導數(shù),為矩陣中元素,幫助判定并剔除迭代過程中非指向局部最小值的點。3、前饋神經網(wǎng)絡多層前饋神經網(wǎng)絡包括輸入層、若干隱藏層和輸出層。訓練樣本反饋入輸入層,輸入層與隱藏層、隱藏層與輸出層之間加權全連接,和分別為其權重,如圖2所示。多層前饋神經網(wǎng)絡層數(shù)取決于隱藏層個數(shù),若隱藏層個數(shù)為3,則有4層輸出單元,則此多層前饋神經網(wǎng)絡為四層神經網(wǎng)絡。神經網(wǎng)絡結構越復雜,則多層前饋神經網(wǎng)絡的層數(shù)越多,需要權重參數(shù)參與數(shù)越多,自適應系統(tǒng)訓練能力也就越強。確定最優(yōu)系統(tǒng)的隱藏層個數(shù)沒有確定的規(guī)則可以遵循,多層前饋神經網(wǎng)絡最優(yōu)結構的確定與網(wǎng)絡層間最優(yōu)參數(shù)的確定一樣,都是重復訓練過程,訓練結果直接影響神經網(wǎng)絡自適應系統(tǒng)的準確性。估計的準確性為本模型重要精度指標。4、有限混合分布一般地,多源數(shù)據(jù)集數(shù)據(jù)為異質數(shù)據(jù)集,代表數(shù)據(jù)來自不同的小組,而非單一同質組。通常,異質數(shù)據(jù)可能反映不同內在現(xiàn)象,簡單處理異質數(shù)據(jù)將人為導致數(shù)據(jù)信息沉沒。引入權重處理有限源數(shù)據(jù)集的數(shù)據(jù)異質性,使得混合分布模型比單一擬合分布模型在分析和預測上更具靈活性和靈敏性。假設全局分布為:其中,為隨機變量的值,為隨機變量在分量上的分布函數(shù),是分量上的參數(shù)向量,為分布函數(shù)的權重,全局混合度有限,為。
仿真與結果
1、樣本選擇本次仿真樣本來源于2003年至2011年的《上海年鑒》以及2001年至2011年的《上海統(tǒng)計年鑒》,抽取2000年至2010年間4組大類8組小類共32個屬性(如圖3)驗證本文中多源信息云智能交通系統(tǒng)自適應服務模型的可行性。樣本數(shù)據(jù)從旅客出行行為出發(fā),對不同交通出行模式和支付方式數(shù)據(jù)依次進行預處理、優(yōu)化處理、前饋神經網(wǎng)絡訓練、混合分布擬合。2、前饋神經網(wǎng)絡訓練結果本次仿真在進行神經網(wǎng)絡訓練之前,運用SPSS軟件對維度為11×32維數(shù)據(jù)進行預處理,首先通過區(qū)間估算方法處理統(tǒng)計過程中的缺省數(shù)據(jù),其次統(tǒng)一所有數(shù)據(jù)量綱,最后Newton法優(yōu)化為11×19維。優(yōu)化結果顯示,{{旅客發(fā)送量,公路},{{“市民信箱”累計注冊用戶“,付費通”業(yè)務平臺交易量“,付費通”業(yè)務平臺交易額,交通卡銷售額,銀行卡交易額},{個人信用報告累計出具數(shù)量}},{{軌道運營車輛,軌道行駛里程,軌道客運總量},{高架道路長度}},{{公交線路長度,公交線路條數(shù),公交客運總量},{出租運營車輛數(shù),出租載客車次量,出租運營里程},{輪渡乘客人數(shù)}}}被保留進入神經網(wǎng)絡訓練進程。本次仿真取100%樣本作為訓練數(shù)據(jù)集,運用SPSSClementine軟件進行神經網(wǎng)絡訓練,對隱藏層數(shù)為1、2、3三種情況分別做訓練,結果如表1所示。結果顯示,本次樣本訓練得到2個隱藏層的神經網(wǎng)絡為本次最優(yōu)神經網(wǎng)絡,估計的準確性可達90.188%。同時證明Newton法預優(yōu)化原始數(shù)據(jù)一方面縮短神經網(wǎng)絡訓練時間,另一方面控制神經網(wǎng)絡具有較高估計準確性??梢哉J為,本多源信息云智能交通系統(tǒng)自適應服務模型基本可行。3、混合分布擬合結果本次仿真運用SPSS軟件擬合混合分布。擬合結果如圖4所示。X軸為時間軸,Y軸為數(shù)量軸,X軸下方19個屬性代號,代表混合分布由19個簡單分布混合擬合得到。綜上證明,源信息云智能交通系統(tǒng)自適應服務模型具有可行性。
篇3
【關鍵詞】 遺傳算法 BP神經網(wǎng)絡 結構參數(shù) 優(yōu)化
一、引 言
傳統(tǒng)的濾波器設計需要大量繁瑣計算和曲線查找,在商用電磁仿真軟件出現(xiàn)后,微波濾波器的設計得到了很大的改善,但是在實際操作中對經驗依賴性還是很強。如何快速準確的設計出符合要求的濾波器,是傳統(tǒng)的濾波器設計方法和目前的商用電磁仿真軟件難以有效解決的。針對以上問題,本文將遺傳算法和BP神經網(wǎng)絡結合[1],在MATLAB環(huán)境下實現(xiàn)了對腔體濾波器結構參數(shù)的設計。
二、遺傳神經網(wǎng)絡優(yōu)化
BP神經網(wǎng)絡尤其適用在有大量實驗數(shù)據(jù),而數(shù)據(jù)間的內在關系很難用明確的表達式的非線性系統(tǒng)中,但在實際應用中神經網(wǎng)絡存在學習時間長,容易陷入局部極小點等弊端。因為該算法從本質上來說屬于局部尋優(yōu)算法,為此利用遺傳算法全局搜索能力強的特點,結合神經網(wǎng)絡的局部尋優(yōu)能力,可以更好的實現(xiàn)對非線性系統(tǒng)的預測,其基本思想是通過遺傳算法得到更好的網(wǎng)絡初始權重。
2.1算法實現(xiàn)過程
遺傳神經網(wǎng)絡分為BP神經網(wǎng)絡結構確定、遺傳算法優(yōu)化和BP神經網(wǎng)絡預測3個部分。本文是以三腔體濾波器為例,將濾波器的頻率f和耦合系數(shù)c作為輸入向量
其次,使用改進的遺傳算法對網(wǎng)絡初始權重進行優(yōu)化,將初步得到的權重賦給尚未開始訓練的BP神經網(wǎng)絡。然后,設置訓練參數(shù),開始訓練網(wǎng)絡,將 90組數(shù)用于網(wǎng)絡訓練,10組作為測試樣本。最后將預測結果反歸一化,觀察得到的誤差值,其流程圖如圖1所示。
2.2 優(yōu)化結果
采用上述遺傳神經網(wǎng)絡算法對腔體濾波器的結構參數(shù)進行優(yōu)化,均方誤差為5.0972×10-5, 時間為1.056s;BP網(wǎng)絡的均方誤差為2.8871×10-4,時間為2.103s,可以看出遺傳神經網(wǎng)絡優(yōu)化值更加精確,速度快。
三、結論
本文針對遺傳算法和神經網(wǎng)絡的優(yōu)缺點,將遺傳算法與BP神經網(wǎng)絡有機地結合在一起,應用在腔體濾波器結構參數(shù)的優(yōu)化中,優(yōu)化結果表明此方法可以在較短的時間內達到精度范圍內的優(yōu)化值,為腔體濾波器的結構參數(shù)優(yōu)化設計提供了一種新方法。
篇4
關鍵詞:粒子群 徑向基 神經網(wǎng)絡 語音識別
中圖分類號:TP391 文獻標識碼:A 文章編號:1007-9416(2013)04-0109-02
近年來,語音識別作為一種便捷的人機交互方式被大量研究,并在日常生活中得到廣泛應用。大體上講,語音識別就是在給定的語料庫中找出與待識別詞語相同的語料,其識別方法的選擇對識別效果至關重要。語音識別的方法主要有3種:基于語音特征和聲道模型的方法、模板匹配的方法和人工神經網(wǎng)絡[1]。第1種方法出現(xiàn)較早,但由于其模型過于復雜,并未得到實際應用。第2種方法較為成熟,主要通過動態(tài)時間規(guī)整(DTW)、隱馬爾可夫模型(HMM)和矢量量化(VQ)技術實現(xiàn)[2]。第3種方法充分利用人工神經網(wǎng)絡較強的分類能力和輸入——輸出映射能力,非常適合解決語音識別這類難以用算法描述而又有大量樣本可供學習的問題[3]。
因此,本文將智能領域廣泛使用的RBF神經網(wǎng)絡運用到語音識別中,針對RBF神經網(wǎng)絡隱層基函數(shù)的中心值和寬度隨機確定的缺陷,運用具有全局尋優(yōu)能力的粒子群算法(PSO)進行優(yōu)化,來提高網(wǎng)絡的泛化能力和收斂速度,從而提高識別率。實驗結果表明,粒子群優(yōu)化的RBF神經網(wǎng)絡用于語音識別,能夠顯著提升識別性能。
1 粒子群優(yōu)化RBF神經網(wǎng)絡
1.1 RBF神經網(wǎng)絡
1.2 粒子群優(yōu)化RBF網(wǎng)絡算法
因此,RBF神經網(wǎng)絡隱層基函數(shù)中心值和寬度的優(yōu)化過程就是PSO算法依據(jù)輸入樣本進行聚類的過程,其基本流程為:
(1)參數(shù)初始化,包括粒子速度、位置,個體最優(yōu)位置和全局最優(yōu)位置;
(2)據(jù)(5)式計算慣性權重;
(3)據(jù)(3)(4)式更新粒子的速度和位置;
(4)據(jù)(6)式計算各粒子適應度值,并更新個體最優(yōu)位置和全局最優(yōu)位置;
(5)用全局最優(yōu)粒子代替本次迭代適應度差的粒子;
(6)反復迭代,直到最大迭代次數(shù)則停止,得聚類中心。
2 PSO優(yōu)化RBF語音識別系統(tǒng)
語音識別過程主要包括信號預處理、特征提取、網(wǎng)絡訓練及識別[6]。預處理主要對語音進行分幀、預加重和加窗處理。特征提取用于提取語音中反映聲學特征的相關參數(shù),本文采用的是過零峰值幅度(ZCPA)。網(wǎng)絡訓練是在識別之前從語音樣本中去除冗余信息,提取關鍵參數(shù),再按照一定規(guī)則對數(shù)據(jù)加以聚類,形成模式庫。網(wǎng)絡識別是通過已訓練好的網(wǎng)絡,計算測試樣本數(shù)據(jù)與模式庫之間的相似度,判斷出輸入語音所屬的類別。粒子群優(yōu)化RBF神經網(wǎng)絡的語音識別系統(tǒng)原理框圖如圖1所示。
PSO優(yōu)化RBF神經網(wǎng)絡進行語音識別的實驗步驟如下:
第1步:提取特征。
首先對用于訓練和識別的各種信噪比的語音文件進行ZCPA特征提取。語音信號的采樣頻率為11.025kHz,每幀為256個采樣點,經過時間和幅度歸一化處理后,得到256維特征矢量序列。
第2步:網(wǎng)絡訓練。
網(wǎng)絡訓練的過程就是調整RBF神經網(wǎng)絡基函數(shù)的中心和寬度以及隱層到輸出層之間的連接權值。實驗中,類別數(shù)為待識別的詞匯數(shù),如對10個詞進行識別,則隱層節(jié)點數(shù)、輸出層節(jié)點數(shù)和聚類中心均為10,如對20個詞進行識別,則隱層節(jié)點數(shù)、輸出層節(jié)點數(shù)和聚類中心均為20,以此類推,本文對10詞、20詞、30詞和40詞分別進行訓練識別。利用PSO優(yōu)化算法通過聚類獲取隱層基函數(shù)的中心值和寬度,網(wǎng)絡輸出權值使用偽逆法得到。在PSO算法中,種群大小為20,最大進化迭代次數(shù)為40。
第3步:網(wǎng)絡識別。
RBF神經網(wǎng)絡訓練好后,將測試集中的樣本輸入網(wǎng)絡進行識別測試。每輸入一個單詞的特征矢量,經過隱層、輸出層的計算后可得一個單詞分類號,將這個分類號與輸入詞自帶的分類號進行對比,相等則認為識別正確,反之,識別錯誤。最后將識別正確的個數(shù)與所有待識別單詞數(shù)的比值作為最終的識別率。
3 實驗仿真分析
本文運用matlab在PC機上仿真實現(xiàn)了PSO優(yōu)化RBF神經網(wǎng)絡的孤立詞語音識別系統(tǒng),選用在不同高斯白噪聲條件下(包含15dB、20dB、25dB和無噪聲),18個人分別錄制40詞各三次,形成實驗語音數(shù)據(jù),實驗時選其中10人的10詞、20詞、30詞、40詞語音數(shù)據(jù)分別作為訓練樣本,另外8個人對應的10詞、20詞、30詞、40詞語音數(shù)據(jù)分別作為測試樣本進行實驗,得到了不同噪聲和詞匯量下的粒子群優(yōu)化RBF神經網(wǎng)絡的語音識別結果。
表1所示為在不同詞匯量和不同SNR下,分別基于PSO優(yōu)化RBF神經網(wǎng)絡和標準RBF神經網(wǎng)絡采用ZCPA語音特征參數(shù)的語音識別結果。由表中識別率的變化可知,基于PSO優(yōu)化的RBF神經網(wǎng)絡的識別率在不同詞匯量和不同信噪比下都比標準RBF神經網(wǎng)絡的高,正確識別出的詞匯量明顯增多,這充分證明改進后的RBF神經網(wǎng)絡具有自適應性和強大的分類能力,縮短網(wǎng)絡訓練時間的同時,提高了系統(tǒng)的識別性能,尤其在大詞匯量的語音識別中表現(xiàn)出更加明顯的優(yōu)勢。
4 結語
本文采用粒子群優(yōu)化算法來聚類RBF神經網(wǎng)絡隱層基函數(shù)中心值和寬度,并將PSO改進的RBF神經網(wǎng)絡用于語音識別中。通過仿真實驗,得出了其與標準RBF神經網(wǎng)絡在不同詞匯量和不同SNR下的語音識別結果。通過分析比較,證明了PSO優(yōu)化后的RBF神經網(wǎng)絡有較高的識別率,且訓練時間明顯縮短,表明神經網(wǎng)絡方法非常適宜求解語音識別這類模式分類問題。
參考文獻
[1]Edmondo Trentin, Marco Gori. A survey of hybrid ANN/HMM models for automatic speech recognition[J].Neurocomputing,2001,(37):91-126.
[2]王凱.免疫粒子群改進LBG的孤立詞語音識別算法研究[J].數(shù)字技術與應用,2013,(1):111-113.
[3]夏妍妍,黃健,尹麗華.基于徑向基函數(shù)神經網(wǎng)絡的語音識別[J].大連海事大學學報,2007,(S1):157-159.
[4]孟艷,潘宏俠.PSO聚類和梯度算法結合的RBF神經網(wǎng)絡優(yōu)化[J].自動化儀表,2011,(02):6-8.
篇5
人工神經網(wǎng)絡是在非線性經濟預測領域應用較為廣泛的一種方法。它是模擬人的大腦的一種非線性映射,不僅具有很強的容錯性,而且能夠從大量的歷史數(shù)據(jù)中進行學習,從而揭示大量復雜數(shù)據(jù)中隱含的重要信息。神經網(wǎng)絡方法已經在很多領域得到了成功的應用,在煤炭行業(yè),煤炭生產成本預測、煤炭需求量的預測、煤炭企業(yè)可持續(xù)發(fā)展的評價、煤炭建設項目投資估算、煤炭成漿濃度預測、煤炭調運的優(yōu)化等很多方面都有神經網(wǎng)絡模型成功應用的案例。但是,在實際應用中由于缺乏問題的先驗知識,往往很難找到理想的網(wǎng)絡結構,這就影響了神經網(wǎng)絡的泛化能力。神經網(wǎng)絡的泛化能力是指學習后的神經網(wǎng)絡對測試樣本做出正確反應的能力,神經網(wǎng)絡是否成功不在于對訓練樣本本身擬合誤差的大小,而關鍵在于其泛化效果。本文探討了神經網(wǎng)絡集成的框架模型,并對煤炭企業(yè)的可持續(xù)發(fā)展評價進行了實證研究,以期在提高神經網(wǎng)絡泛化能力的同時讓這種技術更加有效地應用于煤炭領域。
二、神經網(wǎng)絡集成
1990年,Hansen和Salamon開創(chuàng)性地提出了神經網(wǎng)絡集成,為解決神經網(wǎng)絡泛化能力提高的問題提供了一個簡易可行的方法。使用這種方法,可以簡單地通過訓練多個神經網(wǎng)絡并將其結果進行合成顯著地提高學習系統(tǒng)的泛化能力。1996年,Sollich和Krogh為神經網(wǎng)絡集成下了一個定義,即“神經網(wǎng)絡集成是用有限個神經網(wǎng)絡對同一個問題進行學習,集成在某輸入實例下的輸出由構成集成的各神經網(wǎng)絡在該實例下的輸出共同決定”。目前這個定義已被廣泛接受。
1 神經網(wǎng)絡集成個體生成方法
在生成集成個體網(wǎng)絡方面,目前最重要的技術是Boosting和Bagging。這兩種技術本身并非專為神經網(wǎng)絡集成設計,可用于多種學習模型。
Boosting是一大類算法的總稱,通過這種方法可以產生一系列神經網(wǎng)絡,各網(wǎng)絡的訓練集決定于在其之前產生的網(wǎng)絡的表現(xiàn),被已有網(wǎng)絡錯誤判斷的實例將以較大的概率出現(xiàn)在新網(wǎng)絡的訓練集中。這樣,新網(wǎng)絡將能夠很好地處理對已有網(wǎng)絡來說很困難的實例。另一方面,雖然Boosting方法能夠增強神經網(wǎng)絡集成的泛化能力,但是同時也有可能使集成過分偏向于某幾個特別困難的實例。因此,該方法不太穩(wěn)定,有時能起到很好的作用,有時卻沒有效果。
Bagging的基礎是可重復取樣。在該方法中,各神經網(wǎng)絡的訓練集由從原始訓練集中隨機選取若干實例組成,訓練實例允許重復選取。這樣,原始訓練集中某些實例可能在新的訓練集中出現(xiàn)多次,而另外一些實例則可能一次也不出現(xiàn)。Bagging方法通過重新選取訓練集增加了神經網(wǎng)絡集成的差異度,從而提高了泛化能力。
2 神經網(wǎng)絡集成結論生成方法
當神經網(wǎng)絡集成用于分類器時,集成的輸出通常由個體網(wǎng)絡的輸出投票產生。通常采用絕對多數(shù)投票法(某分類成為最終結果當且僅當有超過半數(shù)的神經網(wǎng)絡輸出結果為該分類)或相對多數(shù)投票法(某分類成為最終結果當且僅當輸出結果為該分類的神經網(wǎng)絡的數(shù)目最多)。理論分析和大量試驗表明,后者優(yōu)于前者。因此,在對分類器進行集成時,目前大多采用相對多數(shù)投票法。
三、神經網(wǎng)絡集成的框架模型
為了增強神經網(wǎng)絡模型的泛化能力,筆者使用了如下圖所示的神經網(wǎng)絡集成框架模型,模型使用了對訓練樣本利用得比較充分的Bagging技術來產生個體神經網(wǎng)絡,即通過Bagging從初始訓練集中隨機抽取出多個規(guī)模相同的訓練集,然后為每一個訓練集訓練出一個神經網(wǎng)絡個體,再結合具體應用實際使用相應的結論生成方法將上述多個神經網(wǎng)絡的輸出進行合成從而得到最初問題的結論。
四、用于煤炭企業(yè)可待續(xù)發(fā)展評價
煤炭資源屬不可再生資源,煤炭開采必然受到礦區(qū)剩余儲量的制約,煤炭企業(yè)遲早要面臨資源衰竭。因而,煤炭企業(yè)的可持續(xù)發(fā)展問題日益突出,國內外學術界和決策部門為此進行了大量的探索,特別是在煤炭企業(yè)可持續(xù)發(fā)展水平評價上,開展了不少的研究。應用神經網(wǎng)絡集成模型對煤炭企業(yè)可持續(xù)發(fā)展水平進行評價,可以避免復雜的數(shù)學推導,在樣本缺損和參數(shù)漂移的情況下,仍能保證得到穩(wěn)定的結果,同時,也有效回避經典的可持續(xù)發(fā)展評價方法(如層次分析法、模糊數(shù)學和主成分分析法等)無法回避的經驗知識以及決策者個人主觀意向所起的作用,集成學習的方法也保證了模型的泛化能力,這對解決煤炭企業(yè)全局性的決策規(guī)劃是大有裨益的。
實際操作中,可以先按照煤炭企業(yè)可持續(xù)發(fā)展的涵義和指標體系設計的原則結合已有的研究成果構建評價指標體系;然后根據(jù)所評價的問題,結合具體的神經網(wǎng)絡算法建立煤炭企業(yè)可持續(xù)發(fā)展神經網(wǎng)絡評價模型;接下來對訓練樣本采用Bagging方法進行處理,然后為每個訓練樣本訓練出一個神經網(wǎng)絡模型,對這些訓練好的神經網(wǎng)絡模型的輸出采用相應的結論生成方法進行合并,最后得到模型輸出的最終評價結果。
1 煤炭企業(yè)可持續(xù)發(fā)展評價指標體系
對于煤炭企業(yè)可持續(xù)發(fā)展評價指標體系的建立,目前有不少科研機構和學者進行了大量的研究,但煤炭企業(yè)可持續(xù)發(fā)展的度量和評估還未達成共識,還需有較大的改善。但作為煤炭企業(yè),在研究其可持續(xù)發(fā)展時,應該包括生態(tài)持續(xù)、經濟持續(xù)和社會持續(xù)等方面內容,并從煤炭企業(yè)的實際需要和可能出發(fā),我們把煤炭企業(yè)可持續(xù)發(fā)展評價指標體系劃分為三個層次,即目標層、準則層和指標層,如表1所示。
經過訓練學習,評價網(wǎng)絡可以輸出衡量可持續(xù)發(fā)展水平的評價值O,為明確煤炭企業(yè)可持續(xù)發(fā)展水平,設可持續(xù)發(fā)展狀態(tài)分為四級:一級為可持續(xù)發(fā)展;二級為初級可持續(xù)發(fā)展;三級為由傳統(tǒng)發(fā)展向可持續(xù)發(fā)展過渡,四級為傳統(tǒng)發(fā)展。
2 煤炭企業(yè)可持續(xù)發(fā)展評價神經網(wǎng)絡集成模型
(1)神經網(wǎng)絡評價模型的建立
設可持續(xù)發(fā)展評價時采用的指標集合為I,評價企業(yè)的非空有限集合為U,Iu,表示評價企業(yè)u在指標集I上的取值,Ou表示評價企業(yè)u對應的可持續(xù)發(fā)展評價結果,則Ou是在一定的可持續(xù)發(fā)展評價準則下獲得的,即:
Ou=EVA(Iu)
對所有的評價企業(yè)而言,上式可以表達為:
O=EVA(I)
由上式構造BP神經網(wǎng)絡模型,以I為輸入向量,O為輸出向量,即為IO映射模型。本文中設置神經網(wǎng)絡的輸出神經元個數(shù)為2,分別以[0,0]、[0,1]、[1,0]、[1 11]代表企業(yè)可持續(xù)發(fā)展的四級狀態(tài)。通過大量煤炭企業(yè)可持續(xù)發(fā)展評價的實例數(shù)據(jù)的收集,用樣本(I,O)對其進行訓練,BP神經網(wǎng)絡即可學習煤炭企業(yè)可持續(xù)發(fā)展的評價準則,在給定的誤差要求下,當網(wǎng)絡學習完成后,仟意給定煤炭企業(yè)可持續(xù)發(fā)展評價的指標值向量I,神經網(wǎng)絡評價模型將給出其可持續(xù)發(fā)展結論O,從而完成對煤炭企業(yè)可持續(xù)發(fā)展的評價。
(2)神經網(wǎng)絡評價模型的訓練
本文將所獲得的煤炭企業(yè)可持續(xù)發(fā)展評價的數(shù)據(jù)按訓練數(shù)據(jù)集和測試數(shù)據(jù)集分為兩部分,應用Matlab 7中神經網(wǎng)絡工具箱提供的函數(shù)對建立的訓練數(shù)據(jù)集進行訓練,I和O分別表示訓練數(shù)據(jù)集的輸入和輸出,測試數(shù)據(jù)集的輸入和輸出分別為I′和O′,網(wǎng)絡訓練完成后,將I′輸入該網(wǎng)絡,Ol為模型識別后的輸出結果。設定訓練終止次數(shù)為100次,訓練終止誤差為10-2,訓練函數(shù)為TRAINLM,經反復試驗網(wǎng)絡在隱層神經元個數(shù)為26個、經68次訓練達到誤差要求。然后將O+與O′進行比較,選取均方差MSE、隱層結點數(shù)Nh總評價錯誤率做為檢驗模型的指標。表2所示為訓練完成的神經網(wǎng)絡評價模型N的檢驗指標。
(3)神經網(wǎng)絡集成評價模型
在神經網(wǎng)絡集成識別模型中,個體神經網(wǎng)絡的輸入、輸出向量的維數(shù)相同,結論合成方法采用相對多數(shù)投票法。先生成10個BP網(wǎng)絡作為神經網(wǎng)絡集成的個體網(wǎng)絡,這些網(wǎng)絡的輸出神經元分別表示可持續(xù)發(fā)展評價的結論。通過Matlab對神經網(wǎng)絡集成識別模型進行仿真,神經網(wǎng)絡集成評價模型的檢驗指標如表3所示。
按圖1的流程利用訓練好的神經網(wǎng)絡集成對測試集進行識別,總評價錯誤率為9.2%,這個指標遠遠優(yōu)于表2中的單一神經網(wǎng)絡。實證研究的結果表明神經網(wǎng)絡集成學習的評價模型可以在很大程度上提高神經網(wǎng)絡模型的泛化能力。
篇6
[關鍵詞]人工神經網(wǎng)絡;旅游物流;需求預測
[DOI]1013939/jcnkizgsc201538051
1引言
旅游物流對廣西地區(qū)經濟的發(fā)展至關重要,準確把握、預測旅游物流需求有助于有關部門制定合理的旅游物流規(guī)劃、促進國民經濟可持續(xù)發(fā)展、提高居民生活水平。國內學者通過一定的方法和模型確定了影響旅游物流能力的關鍵要素,為旅游物流需求的預測提供了一定的理論基礎,而在物流需求預測方面也提出了很多如時間序列模型、灰色預測、回歸分析等具有創(chuàng)新性和實踐意義的方法。由于旅游物流具有的獨特性和負責性使得這些模型及分析方法在前提條件、適用范圍和側重點的選取方面具有一定的困難,因此在實際應用中各有利弊。人工神經網(wǎng)絡可以將定量或定性的信息等勢的分布貯存于網(wǎng)絡內的各神經元,有很強的魯棒性和容錯性,通過建立基于人工神經網(wǎng)絡的預測模型,利用Braincell軟件進行計算以期達到精確預測旅游物流需求的目的。
2旅游物流的需求界定
經過多年的發(fā)展,關于旅游物流需求的定義至今仍沒有一個令各方滿意的結論。物流服務貫穿了整個旅游活動過程中,旅游物流可以看作為了使旅游消費者獲得更好地滿足感和旅游體驗,與旅游相關的主體提供讓旅游消費者更為暢通流動的旅游服務,與此相應的旅游物流的能力指提供的旅游服務內容以及相關主體使用物流設施對旅游物流活動進行計劃、組織、協(xié)調和控制的能力,到旅游物流的具體環(huán)節(jié),可以從涉及旅游者的吃、住、行、購、游、娛等方面界定旅游相關主體運用物流設施為游客提供旅游服務的能力。文中對旅游物流需求的預測可以從往年的旅游物流能力方面進行預測,通過準確的預測旅游物流需求可以較好地規(guī)劃未來年份旅游業(yè)發(fā)展方向,對物流設施和設備進行準確的投入,減少資源的浪費及設施投入不足的狀況。
旅游物流能力是指旅游服務主體向旅游消費者從“吃、住、行、購、游、娛”6個方面提供服務的能力,旅游物流需求可根據(jù)這6方面來選取指標,但是旅游物流需求預測的準確性不僅受到旅游物流的獨特性的制約,還受到一些客觀性條件的影響。如物流統(tǒng)計制度不健全,目前,我國仍沒有建立系統(tǒng)全面的物流統(tǒng)計制度,更沒有涉及旅游物流領域;物流統(tǒng)計沒有涉及物流活動的全過程;物流統(tǒng)計指標過于單一。此外,國內只有基本的貨物運輸量和貨物周轉量統(tǒng)計,其他與物流相關的指標沒有公開的統(tǒng)計資料,也沒有權威的統(tǒng)計方法和基礎數(shù)據(jù),致使物流需求預測不能通過直接指標來衡量需求規(guī)模的大小。
3基于神經網(wǎng)絡的旅游物流需求預測模型的建立
神經網(wǎng)絡具有非線性、曲線擬合能力、學習能力和抗干擾能力,是一種通用的非線性函數(shù)逼近工具。通過對BP神經網(wǎng)絡的訓練,特別適用于構造非線性預測函數(shù),而且精度可達到預定的要求。
31預測領域中的BP神經網(wǎng)絡模型簡介
BP神經網(wǎng)絡通過正向輸入,反向傳播誤差不斷迭代的學習過程,直到誤差減到可以接受的程度。一般包括輸入層、隱含層和輸出層的單隱含層網(wǎng)絡就能以任意精度表示并揭示任何連續(xù)函數(shù)所蘊含的非線性關系。其中:
(1)工作信號正向傳播。輸入信號從輸入層經過隱含層,傳向輸出層,在輸出端產生輸出信號,這是工作信號的正向傳播。在信號的正向傳播過程中網(wǎng)絡的權值是固定不變的,上一層神經元的只影響下一層神經元的狀態(tài),即正向影響。如果在輸出層不能得到期望的輸出,則轉入誤差信號反向傳播。
(2)誤差信號反向傳播。網(wǎng)絡的實際的輸出與所期望的輸出之間差值即為誤差信號,誤差信號由輸出端開始逐層向前傳播,即誤差信號的反向傳播。在誤差信號反向傳播中,神經網(wǎng)絡的權值根據(jù)誤差的反饋進行調節(jié)。通過不斷地對權值的修正,使實際輸出更加接近期望輸出。
(3)預測神經網(wǎng)絡流程。通過了解工作信號與誤差信號的傳播方向,可以清楚地了解預測神經網(wǎng)絡的工作流程。預測開始時神經網(wǎng)絡讀入樣本、權值,通過計算輸入層的輸入得出結果傳遞到輸出層,在輸出層進行計算,最后在計算輸出值與期望值的誤差。若誤差小于確定值則計算結束,若誤差大于確定值則繼續(xù)回到前兩層進行權值調整,把調整后的權值重新輸入到模型中,直到誤差小于設定的確定值。
本文應用Braincell神經網(wǎng)絡軟件來實現(xiàn)神經網(wǎng)絡的計算與分析。
32BrainCell軟件及實現(xiàn)
321BrainCell 神經網(wǎng)絡基本原理
BrainCell 神經網(wǎng)絡采用誤差反向傳播學習算法,算法從兩個方面(信號的前向傳播和誤差的反向傳播)反復進行迭代學習,與神經網(wǎng)絡預測模式基本原理相同。
322BrainCell 神經網(wǎng)絡實現(xiàn)步驟
(1)數(shù)據(jù)的預處理和后處理。為方便的計算減少誤差,保證數(shù)據(jù)同一量綱,需要將數(shù)據(jù)歸一化為區(qū)域[0,1]之間數(shù)據(jù)。在實際的預測模型中當數(shù)據(jù)接近0或1的時候訓練效果會明顯下降。因此,為了避免數(shù)據(jù)落入最大飽和區(qū),保持數(shù)據(jù)的原有特征,根據(jù)經驗將數(shù)據(jù)規(guī)范到[015,085]來進行修正。模型中采用反歸一化處理輸出數(shù)據(jù)。
(2)網(wǎng)絡層數(shù)目的確定。由Kolmogorov定理可知,含有一個神經元隱含層的三層神經網(wǎng)絡可以從任意精度逼近一個從輸入到輸出的映射關系,因此在Braincell神經網(wǎng)絡中采用含有單隱層的三層神經網(wǎng)絡[2]。
(3)網(wǎng)絡節(jié)點的確定。輸入層節(jié)點的多少與評價指標個數(shù)是相對應的。
(4)網(wǎng)絡訓練。假設訓練樣例是形式(x,y),其中x為輸入向量,y為輸出值。N為輸入節(jié)點數(shù),M為輸出層節(jié)點數(shù)。從單位i到單位j的輸入表示xij,單位i 到單位j的權值表示W(wǎng)ij。一是創(chuàng)建具有N 個輸入單位,M 個輸出單位的BrainCell 神經網(wǎng)絡;二是用隨機數(shù)(0 或1)初始化某些數(shù)字變量網(wǎng)絡權值Wij;三是對于第k個訓練樣例(a,b),把入跟著網(wǎng)絡前向傳播,并計算網(wǎng)絡中每個單元x的輸出Qx,使誤差沿著反向傳播;四是對于每個輸出單元u,計算它的誤差項;五是對于每個隱含單元h,計算它的誤差項;六是利用誤差項更新調整每個網(wǎng)絡權值;七是重復三到六點,直到完成指定的迭代次數(shù)或者是其誤差值達到可接受的范圍。
33神經網(wǎng)絡的旅游物流需求預測模型的建立
331模型中數(shù)據(jù)指標確定
目前我國仍沒有健全的物流統(tǒng)計制度,因此實際工作中收集旅游物流需求數(shù)據(jù)十分困難。這里采用間接指標法――利用與旅游物流需求相關的經濟指標來建立旅游物流需求的經濟指標體系,通過數(shù)學的方法進行總結與推導,確定旅游物流需求模型。
旅游物流需求是一種派生需求,這種需求的大小與其本身發(fā)展有著密切的關系。從宏觀層面上考慮主要有內外兩部分因素:旅游業(yè)自身發(fā)展的狀況及外部環(huán)境的影響。從微觀層面來說,旅游業(yè)自身發(fā)展的狀況是旅游物流需求的關鍵因素。旅游業(yè)產值越高,旅游物流需求增長隨之增加,反之亦然。由此,本文選取旅游總收入和接待人數(shù)作為預測旅游物流需求的指標。其次,影響旅游物流的其他關鍵因素就是旅游行業(yè)本身所投入的設施、人員、公路鐵路旅客周轉量等因素。根據(jù)旅游物流能力的理解從“吃、住、行、購、游、娛”等方面進行指標的選取,如“吃、住”方面使用餐飲住宿從業(yè)人數(shù)、星級飯店數(shù)目衡量;“行”使用公路、鐵路旅客的周轉量來衡量等;“游”則使用旅行社從業(yè)人數(shù)等方面來衡量。這些因素都對行業(yè)的產值有較大的影響。因此,在模型中可將這些相關經濟指標作為旅游物流需求規(guī)模的影響因素。由此可選擇如下輸入層指標:星級飯店數(shù)X1、接待入境旅游者平均每人消費額X2、餐飲住宿業(yè)從業(yè)人數(shù)X3、旅行社從業(yè)人數(shù)X4、鐵路旅客周轉量X5、公路旅客周轉量X6、旅游部門游船年末實有船數(shù)X7,旅游部門旅游客車年末實有數(shù)X8,共有8個。而把旅游業(yè)的年收入Y1與年接待入境旅游者人數(shù)Y2作為物流需求預測的目標。
332數(shù)據(jù)來源
本文選取的數(shù)據(jù)資料來源于廣西壯族自治區(qū)歷年統(tǒng)計年鑒、中國統(tǒng)計年鑒、中國旅游年鑒,如表1所示。根據(jù)樣本數(shù)據(jù)選取原則,將2005年和2012年的數(shù)據(jù)作為網(wǎng)絡測試樣本,最后用訓練好的神經網(wǎng)絡預測2014―2016年的物流需求規(guī)模。
333廣西旅游物流需求的BP人工神經網(wǎng)絡模型
(1)樣本數(shù)據(jù)的歸一化處理。選取X1,X2,X3,X4,X5,X6,X7,X8作為廣西旅游物流需求預測BP人工神經網(wǎng)絡模型的輸入,Y1,Y2為BP網(wǎng)絡的輸出。根據(jù)BP 的本身特點,對輸入層數(shù)據(jù)進行歸一化時,采用如下公式:y=log[JB((]x[JB))]/10。對輸出層數(shù)據(jù)則使用歸反一化處理,公式如下:P=log[JB((]tT[JB))]/10。
(2)網(wǎng)絡節(jié)點的確定。根據(jù)構建好的評價指標體系,可以確定輸入層的節(jié)點數(shù)為8,輸出層的指標數(shù)為2。
(3)網(wǎng)絡訓練。以traindx作為訓練函數(shù),利用matlab計算??芍谧畲笥柧毚螖?shù)為200次,目標誤差為001,學習率設置為003,誤差曲線收斂于目標001,進過45次迭代后,網(wǎng)絡達到目標要求,訓練誤差圖見下圖。
訓練誤差圖
通過設置的數(shù)據(jù),使用Braincell軟件對數(shù)據(jù)進行訓練,選取全部數(shù)據(jù)作為樣本數(shù)據(jù)組,2010―2013年的樣本作為將預測樣本,輸入模型可得2010―2013年的預測值見表2。
據(jù)表3可以看出,預測效果較好,一般來說,對于經濟指標的預測,誤差能夠控制在3%以內就算比較準確。因此,基于與旅游物流相關的其他經濟數(shù)據(jù)來建立BP神經網(wǎng)絡模型預測旅游物流需求有一定的實用價值。
4結論
根據(jù)人工神經網(wǎng)絡理論建立的旅游物流需求預測模型,通過Braincell神經網(wǎng)絡的自學習特征,運用traindx函數(shù)進行訓練,在訓練過程中對權值進行不斷修正,誤差比率控制合適的在范圍內,使網(wǎng)絡的實際輸出向量逐漸地接近期望的輸出值。最后把仿真的預測結果與真實量進行初步比較分析,得出的結果能夠證明使用神經網(wǎng)絡模型對旅游物流的預測精度較高。因此可以得出以下的結論:用BP神經網(wǎng)絡建立模型,可以準確地把與旅游物流相關的經濟數(shù)據(jù)與目標本身的需求量進行結合,可得到較為精準的旅游物流需求預測值。由此可以推斷,人工神經網(wǎng)絡作為高度的非線性體系,能夠對經濟系統(tǒng)中個變量之間的非線性關系進行高精度的預測,將其運用在物流領域中的應用具有更加廣闊的發(fā)展?jié)摿Α?/p>
參考文獻:
[1]王新利,趙琨基于神經網(wǎng)絡的農產品物流需求預測研究[J].農業(yè)技術經濟,2010(2):64-66
[2]秦立公,韋金榮等基于BrainCell 的B2B 電子商務供應鏈協(xié)同績效評價體系[J].中國集體經濟,2014(15):112-113
[3]張圣楠,郭文義,等基于MATLAB的BP神經網(wǎng)絡的設計與訓練[J].內蒙古科技與經濟,2005(17):96-98
[4]熊勛人工神經網(wǎng)絡在環(huán)境質量評價和預測中的應用研究[D].武漢:華中科技大學,2009
[5]白平,陳菊紅基于旅游物流能力的西部旅游發(fā)展研究[J].新疆大學學報,2013(41):16-17
[6]秦立公,王東,等旅游景區(qū)物流能力優(yōu)化研究[J].現(xiàn)代商業(yè),2010(24):47
篇7
人臉識別是指利用計算機分析人臉圖像,在安全系統(tǒng)、刑偵方面有非常大的應用空間,本文主要分析基于子圖分割和BP神經網(wǎng)絡的人臉識別研究,證明該方法運行速度快、效果好,具有使用價值。
【關鍵詞】人臉識別 子圖分割 BP神經網(wǎng)絡
當前人臉識別已經發(fā)展到三維的復雜背景的人臉識別,所涉及的背景也是更加復雜,在人臉識別的的研究中存在不少的困難,本文主要基于子圖分割思想和BP神經網(wǎng)絡的開發(fā),構建人臉識別流程,希望能為人臉識別提供一些參考。
1 子圖分割和BP神經網(wǎng)絡概述
子圖分割思想是將原始的人臉圖像轉化為灰度矩陣,把分割的子圖進行奇異值分解變化,進而歸一化處理。神經網(wǎng)絡有很多簡單單元組成,屬于并行的分布式系統(tǒng),具有自組織學習的優(yōu)點。BP算法主要是推算前導層的誤差,進而得到其他各層的誤差估計,BP神經網(wǎng)絡當前存在些問題,理論研究還不夠完善,想要提高人臉圖像的識別率,還需要進行改進和完善。
2 基于子圖分割和BP神經網(wǎng)絡的人臉識別方法構建
基于子圖分割和BP神經網(wǎng)路的人臉識別框架圖包括訓練過程和識別過程,主要包括人臉圖像的載入、預處理、特征圖像的提取以及識別等步驟。
2.1 試驗環(huán)境
試驗硬件主要是1.6GHzCPU,內存512MB,編程工具為Matlab7.0平臺,這種編程平臺語法結構簡單,圖像功能比較完善,方便開展神經網(wǎng)絡訓練。
人臉圖像樣本庫采用劍橋大學的ORL人臉數(shù)據(jù)庫,實驗者拍攝不同的圖像,由于拍攝的時間不同,各個圖像之間在光照、臉部以及面部表情等方面存在很多的不同。在本研究中采用200幅圖像作為樣本庫。
2.2 特征提取
為控制神經網(wǎng)絡的輸入層節(jié)點數(shù),對人臉圖像進行壓縮,在提取人臉特征時先將人臉圖像轉化為灰度矩陣,選擇子圖的最大奇異值,歸一化處理。依照子圖分割影響,將人臉圖像分割成16維、32維、48維。經過子圖分割后,圖像矩陣大小相等,組合每個子圖矩陣的最大奇異值,歸一化處理組合后的向量。
在設計中將BP神經網(wǎng)絡作為識別分類器,輸入層節(jié)點由特征向量的維數(shù)決定,試驗研究中輸入層節(jié)點數(shù)根據(jù)上文確定的人臉分割圖像維度分別為16、32、48。在隱含層數(shù)的選擇中,增加隱含層可以進一步降低誤差,但是也會導致神經網(wǎng)絡更加復雜化。增加隱含層節(jié)點數(shù)也會提高訓練的誤差精度,更加易于觀察和調整。BP神經網(wǎng)絡的隱含層的選擇也會影響神經網(wǎng)絡的性能,若是節(jié)點過少,可能訓練不出來,若是節(jié)點過高,會增加一次訓練的時間,降低神經網(wǎng)絡分類器的推廣,在本試驗中層內節(jié)點數(shù)設定為40、60、80。
確定訓練數(shù)據(jù)和拓撲結構后,就能確定傳遞函數(shù),由于神經網(wǎng)絡是非線性的,若是初始權值過大,會導致導數(shù)過小,一般情況下,要求初始加權后的神經元都不接近零。因此神經網(wǎng)絡的初始權值確定為[-1,1]。神經網(wǎng)絡在學習訓練中受到學習速率η影響,若是速率較小,時間就會比較長,若是速率過大,就難以得到恰當?shù)闹?。在本實驗中設定學習速率為0.01,得到較快的收斂速度。
傳遞函數(shù)設定為雙曲面正切S型函數(shù),若是輸入向量不合適,會導致輸出函數(shù)斜率無線接近零,若是無法得到最優(yōu)值會使得訓練結束。權值大小與幅值無關的修正值密切相關,本試驗中采用彈性梯度下降算法,增量因子和減量因子分別設置為1.2和0.5.人臉識別程序主要代碼包括讀入人臉圖像M=double(imread(e)),根據(jù)特征矩陣對抽樣訓練集進行歸一化處理,構建BP神經網(wǎng)絡,num_train=5;func_hidden=tansig,調用MATLAB神經網(wǎng)絡工具箱,構建BP神經網(wǎng)絡[netl,trl]=train(net,pnl,tl),用訓練好的神經網(wǎng)絡進行識別result _test=sim(net2,pnewn),[C,I]=max(result_test)確定測試集圖像數(shù)目count_test=count_test+1;計算識別率Test_reg=conut_test/total_test。
2.3 試驗結果
對不同輸入層特征向量個數(shù)和隱含層節(jié)點數(shù)進行試驗,訓練集數(shù)目、測試集數(shù)目均為5,隱含層到輸入層的傳遞函數(shù)為purelin,BP神經網(wǎng)絡訓練目標為0.001,學習效率為0.01,結果表示輸入層特征向量32個,人臉識別率最高為86.5%,增加特征向量的個數(shù)能夠提高人臉識別率,增加神經網(wǎng)絡的隱含層節(jié)點數(shù),能夠提高人臉識別率。
3 結束語
綜上所述,本文主要分析構建子圖分割和BP神經網(wǎng)絡的人臉識別方法,試驗表明該方法人臉識別率比較好,由于研究時間比較短,基于ORL人臉圖像樣本庫,范圍比較小,還不能很好的解決光照強弱等問題,會受到網(wǎng)絡參數(shù)很大的影響,這些還需要人們更多的研究。
參考文獻
[1]馮玉涵.BP神經網(wǎng)絡在人臉識別中的應用研究[J].計算機光盤軟件與應用,2014(02):152+154.
[2]吳岸雄.基于RBF神經網(wǎng)絡的人臉識別方法[J].肇慶學院學報,2014(02):27-31.
[3]許S. 基于子圖分割和神經網(wǎng)絡的人臉識別研究[D].中山大學,2010.
作者簡介
唐守軍(1980-),男 ,山東省淄博市人?,F(xiàn)為廣東開放大學、廣東理工職業(yè)學院講師。主要研究方向為神經網(wǎng)絡、數(shù)據(jù)庫性能優(yōu)化、人臉識別。
作者單位
篇8
是以研究以模擬人體神經系統(tǒng)的運動行為,建立神經網(wǎng)絡基本特征的一種神經網(wǎng)絡系統(tǒng)運算算法。這種算法可在計算機上,通過硬件與軟件的相互配合來實現(xiàn),也可以在神經網(wǎng)絡計算機上更加快捷的實現(xiàn),最終可以實現(xiàn)智能計算機終端智能運算的目標。神經網(wǎng)絡系統(tǒng)是由大量的神經元--簡單的信息處理單元,按特定的配對方式相互構成,神經元之間的信息傳遞和儲存,依照一定的規(guī)則進行,網(wǎng)絡連接規(guī)則以及數(shù)據(jù)存儲方式有一定的穩(wěn)定性與匹配性,即具有學習和訓練的特定效果。
1.1神經網(wǎng)絡系統(tǒng)模型與應用范圍
有反饋網(wǎng)絡模型。有反饋網(wǎng)絡也稱回(遞)歸網(wǎng)絡,在這這當中,多個神經元互聯(lián)以組成一個互連神經網(wǎng)絡。有些神經元的輸出被反饋至同層或前層神經元,因此,信號能夠從正向和反向流通。
1.2神經網(wǎng)絡的設計
在決定采用神經網(wǎng)絡技術之前,應首先考慮是否有必要采用神經網(wǎng)絡來解決問題。一般地,神經網(wǎng)絡與經典計算方法相比并非優(yōu)越。只有當常規(guī)方法無法解決或效果不佳時神經網(wǎng)絡才能顯示出其優(yōu)越性。尤其是當問題的機理等規(guī)律不甚了解,或不能用數(shù)學模型表示的系統(tǒng),神經網(wǎng)絡往往是最有力的工具。另一方面,神經網(wǎng)絡對處理大量原始數(shù)據(jù)而不能用規(guī)劃或公式描述的問題,表現(xiàn)出極大的靈活性和自適應性。
2建筑管理模式
建筑管理模式是在TFV理論基礎上構筑的。建筑管理模式在國外,對精益建造的理論和應用研究已取得了很多成果,但國內對于精益建造,未能給予足夠重視。數(shù)據(jù)處理技術在企業(yè)的逐步成功應用,企業(yè)積累了大量的生產科研相關和業(yè)務數(shù)據(jù),但面對浩如煙海的企業(yè)數(shù)據(jù),決策人員常常難以及時獲得足夠信息,提出決策的現(xiàn)狀,許多企業(yè)已經構建了完善的數(shù)據(jù)庫.并且通過聯(lián)機分析處理的方式技術,可以使決策人員更快捷的從數(shù)據(jù)倉庫中提取精良信息。
3建筑管理模式
3.1任務制度管理
任務制度管理是從生產管理轉換的角度管理生產制造,雖然本質依然是硬性管理,但管理的內容為與適應建造相關用戶的合理配合安排,主要依據(jù)顧客需求設計來配編生產系統(tǒng),最后一招合同流程來實現(xiàn)。
3.2流程過程管理
流程過程管理是從流程的角度管理數(shù)據(jù)模型,其本質為軟性數(shù)據(jù)管理。流程管理的目標是不但要有高效率可預測數(shù)據(jù)目標的綜合流程,而且要做好建設項目的相關單位,現(xiàn)場數(shù)據(jù)工作人員之間的相互協(xié)調工作。
3.3價值趨向管理
價值趨向管理是從數(shù)據(jù)價值的角度管理生產,它是以一種更加柔性的方式來體現(xiàn)顧客消費價值和一種硬性的方式完成生產預訂目標的的趨向性管理。
4數(shù)據(jù)倉庫概論
數(shù)據(jù)倉庫,就是一個更完全面支持企業(yè)組織的決策分析處理數(shù)據(jù)的面向主題的總成的,不可隨時間不斷變化持續(xù)更新的數(shù)據(jù)倉庫體系結構,美國哈佛大學計算機科學系的專門小組,通過長期對數(shù)據(jù)技術的研究,提出了數(shù)據(jù)倉庫技術的完善概念,該概念是在體系結構整體上對數(shù)據(jù)倉庫進行了描述,從各個數(shù)據(jù)源收集所需數(shù)據(jù),并與其他數(shù)據(jù)源的數(shù)據(jù)銜接,將集成的總體數(shù)據(jù)存入數(shù)據(jù)倉庫終端,用于用戶直接從數(shù)據(jù)倉庫中訪問相關數(shù)據(jù),用于理論和實踐應用的案例.運用這種建筑管理模式,可以提高生產率,降低成本和增加顧客滿意度,在建筑業(yè)中有廣闊的應用前景。
5結語
篇9
關鍵詞:光伏發(fā)電;發(fā)電量預測;BP神經網(wǎng)絡;果蠅算法
中圖分類號:TM615;TP39 文獻標識碼:A 文章編號:2095-1302(2017)04-00-02
0 引 言
隨著全球經濟的不斷發(fā)展,人類對能源需求不斷增長,不可再生能源不斷減少,使得發(fā)展并利用新能源迫在眉睫。研究和實踐表明,太陽能是資源最豐富的可再生能源,是人類社會未來能源的基石。由于光伏發(fā)電具有較強的隨機性和波動性,光伏電站并網(wǎng)勢必會造成電網(wǎng)的不穩(wěn)定,因此準確預測光伏發(fā)電量具有重要意義。
目前,國內外對光伏發(fā)電量預測已有相關研究,一些相關人工智能算法也被應用到預測模型中,如馬爾科夫鏈,神經網(wǎng)絡,灰色理論,粒子群,遺傳算法等。考慮到神經網(wǎng)絡具有很強的非線性擬合、學習規(guī)則簡單,但收斂速度慢且易陷入局部最優(yōu)等缺點,同時考慮到果蠅算法與其他算法相比具有全局尋優(yōu)能力強、計算復雜度小、精度高、收斂速度快等優(yōu)點,故本文提出一種果蠅算法結合神經網(wǎng)絡的混合算法。此混合算法能很好的結合兩者的優(yōu)點。
1 光伏發(fā)電量預測模型
1.1 BP神經網(wǎng)絡模型
神經網(wǎng)絡(Neural Network)是模擬人大腦學習知識的過程而提出的一種人工智能算法。神經網(wǎng)絡分為單層前饋網(wǎng)絡(LMS學習算法)、多層前饋網(wǎng)絡(BP神經網(wǎng)絡)、后饋網(wǎng)絡等。其中BP神經網(wǎng)絡是目前研究最為成熟、廣泛的預測網(wǎng)絡模型之一。預測模型分為輸入層、隱含層以及輸出層,如圖1所示。
(1)輸入層
針對本文的預測模型,輸入變量為光伏發(fā)電系統(tǒng)各個時段的平均溫度、平均光照。
(2)隱含層
本文模型采用雙隱含層。多層前向網(wǎng)絡是單層感知器的推廣,解決了非線性可分問題。隱含層由神經元組成,神經元決定了各輸入變量權值以及各輸出變量權值。
(3)輸出層
本文預測模型的輸出變量為當日各時段的光伏發(fā)電量。文中將光伏發(fā)電預測模型分為24小時/天,每一個小時為一個計算單位。輸入層中的每個結點作為激勵信號,組成下一層的輸入信號,而該層輸出信號又作為下層的輸入信號,以此類推。神經網(wǎng)絡具有很好的非線性擬合性,學習規(guī)則簡單。
1.2 果蠅算法
果蠅優(yōu)化算法(Fruit Fly Optimization Algorithm, FOA)是一種基于果蠅覓食行為的人工智能仿生算法,是由臺灣潘文超教授于2011年6月提出的。果蠅可以使用嗅覺和視覺來尋找食物及同伴,具有很好的群體智能性。
果蠅尋找食物時飛行線路具有一定的隨機性,為了尋找食物,果蠅會根據(jù)空間中的食物氣味濃度進行判定,向濃度高的方向飛行。其算法流程如下所示:
(1)在搜索空間中隨機產生果蠅種群。隨機產生個體果蠅的位置及各自飛行方向向量。
(2)各果蠅分別沿預定方向移動一定的步長,計算各果蠅所在位置的濃度。
(3)找出種群中濃度最高的果蠅的位置,保存為Piter,然后所有果蠅飛向濃度最高的位置。
(4)計算移動后各果蠅所處位置的濃度,若Piter,i比Piter濃度更高,則更新Piter,再轉到步驟(2),直到找到食物位置。
Piter表示第iter代的濃度最高的位置;Piter,i表示第i個果蠅第iter代的位置。
1.3 FOA-BP算法
榻餼鏨窬網(wǎng)絡收斂速度慢以及容易陷入局部最優(yōu)的缺點,本文提出一種果蠅算法結合神經網(wǎng)絡的混合算法,該混合算法具有較強的全局搜索能力、不易陷入局部最優(yōu)、收斂快等優(yōu)點。本文主要利用果蠅算法來優(yōu)化神經網(wǎng)絡權值以達到優(yōu)化的目的?;旌纤惴鞒倘缦滤荆?/p>
(1) 初始化。初始化種群規(guī)模S,最大迭代次數(shù)iter,隨機生成各果蠅的位置、移動方向、移動步長及神經元權值等。
(2) 讀取數(shù)據(jù)。讀取光伏發(fā)電系統(tǒng)訓練樣本數(shù)據(jù),包括各時段的平均溫度、平均光照強度以及光伏發(fā)電量,對樣本數(shù)據(jù)進行歸一化處理。
(3)通過神經網(wǎng)絡樣本進行訓練,得到相應的權值,并利用果蠅算法對權值進行修正與優(yōu)化。果蠅個體向預定方向移動一定的步長,計算濃度,此時濃度即預測值,若預測值Pbest更優(yōu),則保留,繼續(xù)迭代,直到達到預測精度為止。
(4)輸出種群中果蠅所處濃度最高的位置,即神經網(wǎng)絡的最優(yōu)權值。輸出預測結果。FOA-BP算法流程如圖2所示。
2 實驗結果與分析
本模型采用武漢某發(fā)電企業(yè)發(fā)電機組1的發(fā)電數(shù)據(jù)進行試驗。時間段選取6:00-19:00。訓練樣本選取6月份的數(shù)據(jù)120組,其中輸入量是各時段的平均光照強度、平均溫度,輸出量是各時段的發(fā)電量。預測樣本是6月6日6:00-19:00各時段的數(shù)據(jù)。神經網(wǎng)絡激勵函數(shù)采用單極性sigmod激勵函數(shù)g(x)=1/(1+e-x),神經網(wǎng)絡結構為雙隱含層,隱含層神經元個數(shù)為25,預測樣本各時段的平均溫度以及平均光照,分別如圖3,圖4所示。
預測發(fā)電量與實際發(fā)電量的對比如圖5所示。預測誤差如圖6所示。
由圖6的預測曲線圖可知,大部分時段的預測誤差都在15%內,在第6、第10時段誤差較大,總體來看發(fā)電量預測曲線能很好的與實際發(fā)電量曲線擬合。
3 結 語
本文提出的FOA-BP算法能應用到光伏發(fā)電量預測模型,使得輸出結果具有較強的準確性、收斂速度快以及尋優(yōu)能力強等特點。本模型算法可以有效為光伏發(fā)電廠的選址以及電廠維護提供理論依據(jù),從而為發(fā)電企業(yè)帶來更多的利益。準確的光伏發(fā)電量預測能夠為公共電網(wǎng)的維護和電力的再分配提供有力的理論支持。
參考文獻
[1]李春鵬,張廷元,周封.太陽能光伏發(fā)電綜述[J].電工材料,2006(3):45-48.
[2]孟杰,李庚銀.含風光電站的電力系統(tǒng)動態(tài)經濟調度[J].電網(wǎng)與清潔能源,2013,29(11):70-75.
[3]潘文超.果蠅最佳化演算法[M].臺北:滄海書局,2011.
[4]景亞平,張鑫,羅艷.基于灰色神經網(wǎng)絡與馬爾科夫鏈的城市需組合預測水量[J].西北農林科技大學學報(自然科學版),2011,39(7):229-234.
[5]陳勇,劉洲,李伏麟,等.人工神經網(wǎng)絡在貨運預測系統(tǒng)中的應用[J].物聯(lián)網(wǎng)技術,2016,6(1):42-43.
[6]劉瑞葉,黃磊.基于動態(tài)神經網(wǎng)絡的風電場輸出功率預測[J].電力系統(tǒng)自動化,2012,36(11):19-22.
篇10
焦孟孟
(中國71320部隊66分隊,河南 開封 475000)
【摘要】本文利用仿真分析軟件采集電路各種故障模式的特征數(shù)據(jù),后將采集到的數(shù)據(jù)構造多層次的神經網(wǎng)絡來進行診斷,最后使用虛擬儀器LabVIEW完成對整個流程的編程與控制,通過實際驗證故障診斷正確率非常好。
關鍵詞 BP神經網(wǎng)絡;多級構架;Labview
【Abstract】Characteristics of the data we use simulation software acquisition circuit failure mode analysis, the neural network structure of multi-level data collected for diagnosis, finally, using the virtual instrument LabVIEW to complete the programming and control of the whole process, through the actual verification accuracy of fault diagnosis is very good.
【Key words】BP Multilevel;Framework;Labview
0引言
模擬電路故障診斷研究在軍事領域率先興起,隨后在通訊、自動控制、電氣化網(wǎng)絡等領域掀起研究熱潮,引起廣大學者的興趣,至今與電網(wǎng)分析和電網(wǎng)綜合一起作為網(wǎng)絡理論的重要分支[1]。國內外學者已提出的故障診斷理論和方法包括:神經網(wǎng)絡、螞蟻算法、主元分析、遺傳算法、馬氏距離、及其他故障診斷方法[2]。根據(jù)實際工作中對裝備故障排除的方法與經驗,本文在提出多級神經網(wǎng)絡構造的思路上,并最終使用LabVIEW完成系統(tǒng)設計。
1多級神經網(wǎng)絡的模型
模擬電路的故障診斷可以看作是故障分類問題。BP神經網(wǎng)絡用于故障診斷的原理是:通過分析確定電路故障集,選擇電路測試點對某一或多種特征參數(shù)進行測量,根據(jù)得到的數(shù)據(jù)進行BP神經網(wǎng)絡訓練,經過訓練的網(wǎng)絡即可對故障數(shù)據(jù)進行判斷,識別故障類型,但是往往會存在這樣的問題,故障集內總有幾個故障非常類似,只有少量參數(shù)有所區(qū)別,造成網(wǎng)絡對這類故障的識別率不高,本文針對這種問題提出多級神經網(wǎng)絡的來解決。
1.1軟件平臺實現(xiàn)功能介紹
首先利用Pspice軟件對電路進行器件靈敏度分析,找出器件故障時影響最大的參數(shù),一般根據(jù)電路特性選擇即可,如放大電路選擇節(jié)點電壓或信號幅值,鎖相環(huán)電路選擇節(jié)點電壓或輸出頻率值等,然后利用蒙特卡羅分析功能(抵消器件容差的影響)對電路進行分析,輸出故障數(shù)據(jù)到輸出文件。
其次在Matlab設計程序對Pspice軟件生成的數(shù)據(jù)進行讀取,讀取后的數(shù)據(jù)進行預處理后利用BP神經網(wǎng)絡進行訓練,訓練完成后,利用訓練好的網(wǎng)絡對檢驗樣本進行檢驗,利用診斷結果對故障模式進行再分類,組建成多個神經網(wǎng)絡,以故障類型最多的神經網(wǎng)絡為主網(wǎng)絡,少的為子網(wǎng)絡,并將子網(wǎng)絡中的故障做為一類在主網(wǎng)絡中進行體現(xiàn)。
最后,在Labview中利用MathScript節(jié)點實現(xiàn)對Matlab程序的調用,并通過圖形化程序完成對多級神經網(wǎng)絡的控制。
1.2多級神經網(wǎng)絡構建步驟
第一步:對樣本數(shù)據(jù)進行神經網(wǎng)絡訓練。
第二步:用測試樣本檢驗是故障診斷結果。
第三步:若診斷結果無錯誤則結束訓練。若存在錯誤,對診斷錯誤的故障類型進行分析,找出差異特征參數(shù)集M,和共同參數(shù)集N。
第四步:將診斷錯誤的故障類型合為一類與其它故障類型組成主網(wǎng)絡故障集,特征參數(shù)使用N,診斷錯誤的故障類型使用參數(shù)集M組成子網(wǎng)絡,分別進行訓練。
第五步:若診斷結果無錯誤則結束訓練,對主網(wǎng)絡及子網(wǎng)絡進行參數(shù)記錄。若仍有錯誤,返回第一步。
2故障診斷實例
本文采用的一個典型負反饋放大器電路,如圖1所示。電阻的容差范圍取5%,信號源采用幅值0.1V,頻率10Mhz的固定信號頻率(與實際測試電路相符),V2為12V直流電壓,R1=500k,R2=1k,R3=l0k,R4=2k,R5=0.5,R6=3k,R7=1k,R8=9k,R9=5k。
按照器件不同的故障類型,使用蒙特卡洛分析方法,對所有器件故障狀態(tài)響應數(shù)據(jù)進行采集并分析數(shù)據(jù),找到電路故障時比較靈敏的特征參數(shù),同時確定電路故障集,最終找出確定14種故障模式:正常狀態(tài),R2開路,R3開路,R4開路,R5增大50%,R6開路,R7開路,R8開路,C4短路,Q4基極與發(fā)射極短路,Q5基極與發(fā)射極短路,Q4基極開路,Q5基極開路。
對樣本數(shù)據(jù)進行BP神經網(wǎng)絡進行分析后發(fā)現(xiàn),故障11、12難以分辨故合為一類,差異主元為V2頻率幅度值,3、8、14難以分辨故合為一類,差異主元無,另選主元Q5基極電壓。最終主網(wǎng)絡共有10類故障模式,其中有兩個代表多種模式,其余為單故障模式。分別對網(wǎng)絡進行訓練后,利用測試樣本進行診斷,結果為100%,樣本與診斷結果見表1。
3診斷系統(tǒng)的實現(xiàn)
若要對多級網(wǎng)絡在Matlab中實現(xiàn),程序過于繁瑣,因此本文采用虛擬儀器Labview對程序的控制進行實現(xiàn),本文是通過Labview軟件實現(xiàn)的其程序圖與前界面如圖2所示。
其程序流程為:輸入相關測試參數(shù),對主元參數(shù)通過Matlab節(jié)點進行網(wǎng)絡訓練,輸出分10路,每一路都于0.9進行比較,若某一輸出大于0.9則認為某一故障為真,故障燈亮。若子網(wǎng)絡判定條件為真,則開始子網(wǎng)絡訓練,對子網(wǎng)絡模式進行識別。
4結束語
本文提出一種基于優(yōu)化類間間距的方法,通過實際驗證與文獻相比,故障模式多5種,故障診斷率卻上升到100%,顯然大提高了診斷正確率,最后通過Labview軟件完成系統(tǒng)的實現(xiàn),界面直觀,自動化診斷,具有很大的實際運用價值。該方法對于大型模擬電路同樣具有研究價值,只需將大型電路撕裂成分電路即可,為大規(guī)模電路的診斷研究提出了一種可行的方法。
參考文獻
[1]楊士元.模擬系統(tǒng)的故障診斷與可靠性設計[M].北京:清華大學出版社,2001,11.