人工神經(jīng)網(wǎng)絡改進范文

時間:2024-04-12 17:55:38

導語:如何才能寫好一篇人工神經(jīng)網(wǎng)絡改進,這就需要搜集整理更多的資料和文獻,歡迎閱讀由公務員之家整理的十篇范文,供你借鑒。

篇1

關鍵詞:人工神經(jīng)網(wǎng)絡;教學實踐;教學方法;生物信息學

中圖分類號:G642.0 文獻標志碼:A 文章編號:1674-9324(2014)17-0208-03

人工神經(jīng)網(wǎng)絡是在神經(jīng)生理學、生物學、數(shù)學、計算機學等學科發(fā)展的基礎上提出的,模擬人類大腦的結構和思維方式處理、記憶信息的一門學科。具體來說,早在20世紀40年代,隨著醫(yī)學、生物學家們對人腦神經(jīng)的結構、組成以及信息處理的工作原理的認識越來越充分,有學者提出以數(shù)學和物理方法對人腦神經(jīng)網(wǎng)絡進行抽象,并建立簡化的模型,用以進行信息處理,這種應用類似于大腦神經(jīng)突觸聯(lián)接的結構進行信息處理的數(shù)學模型,稱之為人工神經(jīng)網(wǎng)絡ANN(Artificial Neural Network)[1]。

在人工神經(jīng)網(wǎng)絡中,各種待處理的對象(數(shù)據(jù)、特征、字符、抽象的模式等等)都可用神經(jīng)元處理單元表示。這些神經(jīng)元主要可以分為輸入神經(jīng)元、隱含神經(jīng)元和輸出神經(jīng)元三大類。其作用各不相同,作為輸入神經(jīng)元的處理單元用來與外界產(chǎn)生連接,接收外界的信號輸入;隱含神經(jīng)元處于中間層,為信息處理的不可見層;輸出神經(jīng)元主要實現(xiàn)結果的輸出。神經(jīng)元之間相互連接,連接的權重反映了各神經(jīng)元之間的連接強度,神經(jīng)元之間的連接關系中蘊含著信息的表示和處理。人工神經(jīng)網(wǎng)絡主要是在不同程度、不同層次上模擬大腦處理信息的風格,具有非程序化、較強的適應性、自組織性、并行分布式等特點,其實現(xiàn)主要是通過網(wǎng)絡的變換和動力學行為,涉及數(shù)學、生物學、人工智能、計算機科學、非線性動力學等多個學科[1]。作為一門活躍的邊緣叉學科,在處理信息方面,相比于傳統(tǒng)人工智能方法具有非線性適應性,成功地應用于神經(jīng)專家系統(tǒng)、模式識別、組合優(yōu)化、預測等多個領域,尤其在生物信息學領域得到了廣泛的應用。生物信息學是20世紀末發(fā)展起來的一極具發(fā)展?jié)摿Φ男滦蛯W科。人類的基因中蘊含著大量有用信息,利用神經(jīng)網(wǎng)絡可以對這些海量的信息進行識別與分類,進而進行相關的生物信息學分析。如利用神經(jīng)網(wǎng)絡分析疾病與基因序列的關系,基于神經(jīng)網(wǎng)絡對蛋白質(zhì)結構的預測,基因表達譜數(shù)據(jù)的分析,蛋白質(zhì)互作位點的預測等等,都取得了很好的效果[2]。

因此,在生物信息相關專業(yè)的本科生中開設人工神經(jīng)網(wǎng)絡課程尤為重要。經(jīng)過多年的研究發(fā)展,已經(jīng)提出上百種的人工神經(jīng)網(wǎng)絡模型,這就需要教師針對不同的專業(yè)背景,不同層次的學生,講授不同模型的核心思想、推導過程、實際應用等等。本文主要根據(jù)人工神經(jīng)網(wǎng)絡在生物信息學相關專業(yè)的教學實踐,從以下幾個方面進行探討。

一、引導式教學,激發(fā)學生的學習積極性

神經(jīng)網(wǎng)絡作為一門偏于理論分析的學科,傳統(tǒng)的教學模式,即首先講解模型的起源,接下來介紹模型的核心思想,然后就是一連串的數(shù)學公式推導,面對滿黑板的公式,學生很難提起興趣去認真學習相應的模型。所以,如何激發(fā)起學生的學習積極性,讓學生重視這門課程,更好地掌握課程內(nèi)容,掌握相關的模型理論基礎、核心思想,更好地服務于本專業(yè),是人工神經(jīng)網(wǎng)絡教學者亟待解決的問題。

首先,在導課的時候要生動,以引起學生對將要學習的內(nèi)容的好奇心,讓學生有興趣投入到課堂學習內(nèi)容中去。布盧姆說過:“最大的學習動機莫過于學生對所學知識有求知的興趣?!敝挥性谶@種動機下的學習,才會提高自身的主動性與自覺性,達到提高教學質(zhì)量的目的[3]。例如,在講解hopfield神經(jīng)網(wǎng)絡的時候,通過舉例對蘋果、橘子的質(zhì)地、形狀、重量等特征的描述,運用“0,1”進行量化描述,然后應用神經(jīng)網(wǎng)絡就可以進行有效地分類;對于旅行商TSP問題,也可以通過hopfield神經(jīng)網(wǎng)絡尋找到最優(yōu)路徑。那么,這些問題是如何解決的呢?就需要大家來一起揭開hopfield神經(jīng)網(wǎng)絡的神秘面紗。其次,由于神經(jīng)網(wǎng)絡涉及大量的數(shù)學公式與數(shù)學方法,學生往往會有畏懼的心理,這就需要教師幫學生澄清思想誤區(qū),現(xiàn)在很多用于數(shù)據(jù)分析與計算的軟件,如matlab工具箱、R軟件里面都有很成熟的人工神經(jīng)網(wǎng)絡軟件包,所以,學生只需要理解其工作原理、核心思想,學會使用現(xiàn)成的人工神經(jīng)網(wǎng)絡軟件包處理數(shù)據(jù),在熟練應用程序包的基礎上,對相應的神經(jīng)網(wǎng)絡模型進行優(yōu)化,改進,并且與其他的人工智能算法相結合,更好地為本專業(yè)服務。第三,在講授人工神經(jīng)網(wǎng)絡理論內(nèi)容的時候,要摒棄傳統(tǒng)的呆板式的推導過程,以往的神經(jīng)網(wǎng)絡教學方法注重理論分析,通常是一連串的公式推導,公式中又涉及大量的符號,計算起來復雜又煩瑣,學生會覺得索然無趣,厭學情緒嚴重。在教學過程中,教師要精心設計,創(chuàng)設出特定的問題環(huán)境,將所學內(nèi)容與本專業(yè)相結合起來,多講應用,啟發(fā)和誘導學生選取合適的神經(jīng)網(wǎng)絡模型來解決本專業(yè)的實驗數(shù)據(jù)分析與處理等問題。

二、理論教學與實驗教學相結合

除了在理論課堂上將基本的理論知識傳輸給學生,教師還應該安排若干實驗教學內(nèi)容,讓學生以實驗為主,將理論課上所學的知識運用到解決實際問題中來,理論聯(lián)系實際,主動操作思考,觀察,分析,討論,以培養(yǎng)學生解決問題的能力。一旦學生自己動手處理一些問題后,很自然地就會對人工神經(jīng)網(wǎng)絡產(chǎn)生一種親切感,并能強烈激發(fā)起學生繼續(xù)探究下去的興趣。對于同一問題,可以讓學生選取不同的網(wǎng)絡模型,設置不同的參數(shù),甚至可以讓學生自己動手編寫相應的網(wǎng)絡模型程序,并且給予改進,根據(jù)得出的結果來評價模型在解決實際問題時的好壞,以及模型改進的效果。作為授課教師,需要不斷優(yōu)化實驗教學內(nèi)容,在生物信息學專業(yè)開設人工神經(jīng)網(wǎng)絡課程,實驗教學主要是針對生物信息專業(yè)的海量生物數(shù)據(jù)處理與分析的實際需要,培養(yǎng)學生綜合運用人工神經(jīng)網(wǎng)絡方法和生物信息學知識,進行信息的分析與處理。除了在實驗課堂上給學生最大的自由發(fā)揮空間外,課后作業(yè)也盡量以開放式問題的形式給出,比如,可以讓學生選取相應的網(wǎng)絡模型處理本專業(yè)的一些實際問題,例如,數(shù)據(jù)的分類、聚類等等,其中,數(shù)據(jù)來源可以不同,類型也可自由選取,最后給出相應的模型參數(shù)設置、方法的改進、實驗結果,也可以安排學生自己查詢文獻進行學習,并安排學生作報告。這樣,學生可以在世界范圍內(nèi)了解神經(jīng)網(wǎng)絡的在本專業(yè)的應用情況,又能提高英語的讀寫能力,還能鍛煉學生做科研報告的能力。

三、加強師資隊伍建設以及其他基本條件的建設

由于生物信息學是一門新興的交叉學科[4],這就要求人工神經(jīng)網(wǎng)絡的授課教師要熟練掌握生物信息相關專業(yè)的知識,教師的業(yè)務水平必須得到充分保證,才能給學生以全面透徹的指導。學院應該本著自主培養(yǎng)與重點引進的原則,優(yōu)化教師隊伍的專業(yè)結構和學歷結構,提高教師的自身修養(yǎng)。授課教師要將課堂的理論知識聯(lián)系實際生物問題進行講授,讓學生感受到人工神經(jīng)網(wǎng)絡在本專業(yè)的應用,提高學生的學習效率,同時也需要閱讀大量的專業(yè)文獻,提高編程技巧和數(shù)據(jù)庫應用能力,讓自己成為一名合格的復合型教師。同時,人工神經(jīng)網(wǎng)絡課程的實驗,高度依賴于計算機網(wǎng)絡等設備,因此,相關的軟硬件設施的建設也必不可少,由于,基因組測序技術的發(fā)展,目前生物信息學研究所用的數(shù)據(jù)都是海量的,神經(jīng)網(wǎng)絡訓練起來所需時間太長,不能用普通的電腦完成,需要專門的服務器來處理,學校有關部門應在條件允許的情況下,配備機房,購買服務器,以及相關的軟件,為學生創(chuàng)造良好的環(huán)境,讓學生完成課程內(nèi)容。

最后,人工神經(jīng)網(wǎng)絡涉及數(shù)學、計算機、人工智能和神經(jīng)學等專業(yè)知識,因此,需要授課教師加強與其他相關專業(yè)教師的交流與合作,并滲透到授課過程中去,讓學生在學習人工神經(jīng)網(wǎng)絡網(wǎng)絡時能將各專業(yè)聯(lián)系起來,更好地解決生物信息學中的問題,要想成為一名合格的人工神經(jīng)網(wǎng)絡課程教師,首先要成為一名復合型的教師,不僅要具備教學和科研能力,同時也要具備計算機、生物學、信息學等多學科的知識。

參考文獻:

[1]朱大奇,史慧.人工神經(jīng)網(wǎng)絡及其應用[M].北京:科學出版社,2006.

[2]朱偉,史定華,王翼飛.人工神經(jīng)網(wǎng)絡在蛋白質(zhì)二級結構預測中的應用[J].自然雜志,2003,(3):167-171.

[3]趙俊,李曉紅.趣味教學法在預防醫(yī)學教學中的運用[J].現(xiàn)代醫(yī)藥衛(wèi)生,2005,21(15):2089-2090.

篇2

>> 基于MATLAB的BP神經(jīng)網(wǎng)絡算法在多元非線性系統(tǒng)建模中的應用 改進的求解非線性方程組的迭代神經(jīng)網(wǎng)絡算法 基于非線性粒子群算法與神經(jīng)網(wǎng)絡的天氣預測 演化算法在非線性方程求解方面的應用 基于BP神經(jīng)網(wǎng)絡的非線性函數(shù)擬合 非線性倒立擺系統(tǒng)的神經(jīng)網(wǎng)絡辨識 基于遺傳小波神經(jīng)網(wǎng)絡的非線性動態(tài)自治網(wǎng)絡故障診斷仿真算法 一種基于正交基神經(jīng)網(wǎng)絡的非線性衛(wèi)星信道預失真補償算法 神經(jīng)網(wǎng)絡在電路故障診斷方面的應用 神經(jīng)網(wǎng)絡在鋼鐵企業(yè)質(zhì)量預測方面的應用 BP神經(jīng)網(wǎng)絡在坐標轉(zhuǎn)換方面的應用 人工神經(jīng)網(wǎng)絡在電渦流傳感器非線性補償中的應用研究 基于神經(jīng)網(wǎng)絡的通用非線性神經(jīng)自適應控制研究 基于BP神經(jīng)網(wǎng)絡的非線性網(wǎng)絡流量預測 改進的基于神經(jīng)網(wǎng)絡的非線性多元回歸分析 基于徑向基神經(jīng)網(wǎng)絡的非線性系統(tǒng)辨識 基于OBF神經(jīng)網(wǎng)絡的溫度傳感器非線性補償方法 基于RBF神經(jīng)網(wǎng)絡的非線性控制系統(tǒng) 群智能算法優(yōu)化神經(jīng)網(wǎng)絡在網(wǎng)絡安全的應用 淺談基于BP神經(jīng)網(wǎng)絡的水源熱泵在建筑節(jié)能方面的應用 常見問題解答 當前所在位置:中國 > 教育 > 神經(jīng)網(wǎng)絡算法非線性優(yōu)化方面的應用 神經(jīng)網(wǎng)絡算法非線性優(yōu)化方面的應用 雜志之家、寫作服務和雜志訂閱支持對公帳戶付款!安全又可靠! document.write("作者: 方達 胡忠剛")

申明:本網(wǎng)站內(nèi)容僅用于學術交流,如有侵犯您的權益,請及時告知我們,本站將立即刪除有關內(nèi)容。 摘 要:文章通過神經(jīng)網(wǎng)絡算法對一類非線性優(yōu)化方面的問題進行了分析,得到了應用神經(jīng)網(wǎng)絡非線性優(yōu)化算法求解該類問題的具體步驟和算法方案,并給出了實例進行驗證,證明了神經(jīng)網(wǎng)絡非線性優(yōu)化算法是有效的,具有理論意義和實用價值。 關鍵詞::神經(jīng)網(wǎng)絡算法;MTLAB;非線性優(yōu)化最優(yōu)化

中圖分類號:G622 文獻標識碼:B 文章編號:1002-7661(2014)22-002-01

人工神經(jīng)網(wǎng)絡是由簡單的處理單元所組成的大量并行分布的處理機,這種處理機具有儲存和應用經(jīng)念知識的自然特性,它與人腦的相似之處概括兩個方面:一是通過學習過程利用神經(jīng)網(wǎng)絡從外部環(huán)境中獲取知識;二是內(nèi)部神經(jīng)元(突觸權值)用來存儲獲取的知識信息。

一、神經(jīng)網(wǎng)絡非線性優(yōu)化求解鐵路空車調(diào)度組合優(yōu)化問題

目前鐵路局對空車調(diào)度計劃是利用表上作業(yè)法,采用計算機輔助統(tǒng)計,要經(jīng)過分局管內(nèi)各主要站和各區(qū)段的車種別空車調(diào)度,分局間分界站車種別交接空車數(shù)的確定;局間分界站車種別交接空車數(shù)的確定來編制整個鐵路局的空車調(diào)度計劃.下面用神經(jīng)網(wǎng)絡優(yōu)化方法解決該問題。

空車調(diào)度問題一般指的是:設有個空車發(fā)送站,個空車到達站數(shù)的距離為,設空車產(chǎn)生站 到空車需求站的空車數(shù)為,由發(fā)出的空車數(shù)為,則應滿足

空車需求站接受到的空車數(shù)為,則應滿足

假設空車產(chǎn)生數(shù)等于空車的需求數(shù),即平衡運輸,則

總的空車走行公里數(shù)為

由于神經(jīng)元的輸出值在之間,而空車數(shù)目是大于1的數(shù),則將( )作為實際空車數(shù),這樣就可以保證在( )之間,求為在中所占的百分比,為了用Hopfield神經(jīng)網(wǎng)絡求解空車調(diào)度問題,建立能量函數(shù)如下

式中

表示空車發(fā)送站的空車數(shù)應等于的約束,當且僅當發(fā)車數(shù)為時,該項為0; 表示空車到達站所需的空車數(shù)應等于的約束,當且僅當?shù)竭_的空車數(shù)為時,該項為0;

表示對空車調(diào)度的總體約束;

表示對目標項的約束;

表示懲罰項系數(shù),為目標項系數(shù).

當計算能量函數(shù) 達到最小時,對應于空車調(diào)整計劃的一個最佳計劃方案.其算法如下

則動態(tài)迭代過程為

其中 ,分別代表迭代次數(shù),選取0.001.

二、結束語

篇3

關鍵詞:BP算法;神經(jīng)網(wǎng)絡;工業(yè)品出廠價格指數(shù)

中圖分類號:TP183 文獻標識碼:A文章編號:1006-4311(2012)08-0112-02

0引言

工業(yè)品出廠價格指數(shù)(PPI)是衡量工業(yè)企業(yè)產(chǎn)品出廠價格變動趨勢和變動程度的指數(shù),是反映某一時期生產(chǎn)領域價格變動情況的重要經(jīng)濟指標,也是制定有關經(jīng)濟政策和國民經(jīng)濟核算的重要依據(jù)。

工業(yè)品出廠價格指數(shù)的調(diào)查范圍是工業(yè)企業(yè)出售給本企業(yè)以外所有單位的各種生產(chǎn)資料和直接出售給居民用于生活消費的各種生活資料。其中,生產(chǎn)資料包括原材料工業(yè)、采掘工業(yè)和加工工業(yè)3類;生活資料包括一般日用品、食品、衣著和耐用消費品4類。在PPI的結構中,生產(chǎn)資料所占的權重較大,超過了70%;生活資料所占的權重只有不到30%。因此PPI在很大程度上反映的是工業(yè)企業(yè)生產(chǎn)成本的高低。目前我國PPI覆蓋了全部39個工業(yè)行業(yè)大類,涉及186個種類,4000多種產(chǎn)品。

我國現(xiàn)行的工業(yè)品價格指數(shù)是采用算術平均法編制的。其中除包括工業(yè)企業(yè)售給商業(yè)、外貿(mào)、物資部門的產(chǎn)品外,還包括售給工業(yè)和其他部門的生產(chǎn)資料以及直接售給居民的生活消費品。通過工業(yè)生產(chǎn)價格指數(shù)能觀察出廠價格變動對工業(yè)總產(chǎn)值的影響。工業(yè)品出廠價格指數(shù)的計算公式為:工業(yè)品出廠價格指數(shù)=工業(yè)總產(chǎn)值總指數(shù)/工業(yè)總產(chǎn)量總指數(shù)×100%。我國目前編制的工業(yè)品出廠價格指數(shù)的4種分組:①輕、重工業(yè)分組;②生產(chǎn)資料和生活資料分組;③工業(yè)部門分組;④工業(yè)行業(yè)分組。權數(shù)計算資料來源于工業(yè)經(jīng)濟普查數(shù)據(jù)。工業(yè)品出廠價格指數(shù)的權數(shù)確定,采用分攤權數(shù)。

在市場經(jīng)濟活動中,資源配置是通過價格漲跌引導市場主體的經(jīng)濟活動來完成的。因此,價格的波動對經(jīng)濟運行會有很大的影響,價格總水平的波動也是一個重要的宏觀經(jīng)濟現(xiàn)象。通常認為PPI反映的是工業(yè)品進入流通領域的最初價格,是制定工業(yè)品批發(fā)價格和零售價格的基礎,而CPI反映的是居民購買消費品的價格。

為抑制通貨膨脹,中央銀行需要準確把握通貨膨脹的先行指標,從而正確把握經(jīng)濟和物價的未來走勢并進行前瞻性調(diào)控。根據(jù)價格傳導規(guī)律,PPI對CPI有一定的影響。研究表明PPI引導了CPI變動,其原因是生產(chǎn)資料價格指數(shù)、生活資料價格指數(shù)和原材料、燃料和動力價格指數(shù)都引導了CPI變動,PPI可以作為我國通貨膨脹的先行指標,政府和學者可以利用PPI預測通貨膨脹[1-2]。PPI是一個非常復雜的、受諸多因素影響的非線性系統(tǒng)。如果采用傳統(tǒng)的計量經(jīng)濟模型無法很好地提高預測精度。

目前對PPI預測的研究較少,鑒于PPI的時間序列是是非線性的,為了準確和客觀地預測PPI,采用人工神經(jīng)網(wǎng)絡預測方法。人工神經(jīng)網(wǎng)絡是目前一種有效的預測方法,大量的仿真實驗和理論研究已經(jīng)證明BP算法是一種有效的神經(jīng)網(wǎng)絡學習算法,它具有很強的處理非線性問題的能力,近年來已經(jīng)廣泛應用到經(jīng)濟領域中。但在實際應用中,BP算法也暴露出一些自身的缺點,如算法容易陷入局部極值點,收斂速度慢等,這使得BP算法只能解決小規(guī)模的問題,求得全局最優(yōu)的可能性較小,這樣限制了BP算法在實際中的應用。因此應用改進BP算法的人工神經(jīng)網(wǎng)絡模型預測PPI。

1PPI預測模型的建立

人工神經(jīng)網(wǎng)絡是理論化的人腦神經(jīng)網(wǎng)絡的數(shù)學模型,是基于模仿大腦神經(jīng)網(wǎng)絡結構和功能而建立的一種信息處理系統(tǒng)。其信息的處理是通過學習動態(tài)修改各神經(jīng)元之間的連接權值閾值來實現(xiàn)的。根據(jù)某一學習規(guī)則,通過修改神經(jīng)元之間的連接權值和閾值,存儲到神經(jīng)網(wǎng)絡模型中,建立輸入層神經(jīng)元與輸出層神經(jīng)元之間的高度非線性映射關系,并通過學習后的神經(jīng)網(wǎng)絡來識別新的模式或回憶過去的記憶。在各種神經(jīng)網(wǎng)絡模型中,80%-90%的模型采用誤差反向傳播神經(jīng)網(wǎng)絡(簡稱BP神經(jīng)網(wǎng)絡)或它的變化形式。BP神經(jīng)網(wǎng)絡是前饋網(wǎng)絡的核心部分,體現(xiàn)了人工神經(jīng)網(wǎng)絡最精華的部分。1989年Robert Hecht-Nielson證明了對于任何的連續(xù)函數(shù)映射關系都可以用含有一個隱含層的BP神經(jīng)網(wǎng)絡來逼近。

BP神經(jīng)網(wǎng)絡具有非局域性、非線性、非定常性和非凸性,在信息處理方面具有如下顯著特點:BP神經(jīng)網(wǎng)絡具有自適應和自組織能力,通過與外界環(huán)境的相互作用,從外界環(huán)境中獲取知識,把環(huán)境的統(tǒng)計規(guī)律反映到自身結構上來,并能有機地融合多種信息。當外界環(huán)境發(fā)生變化時,只需輸入新的資料讓模型再學習即可很快跟蹤環(huán)境的變化,可操作性強。BP神經(jīng)網(wǎng)絡模型的建立不需要有關體系的先驗知識,主要依賴于資料,只需給網(wǎng)絡若干訓練實例,BP神經(jīng)網(wǎng)絡就可以通過自學習來完成,完全能夠發(fā)現(xiàn)其隱含的信息,并有所創(chuàng)新。BP神經(jīng)網(wǎng)絡作為一個高度的非線性動態(tài)處理系統(tǒng),具有很強的容錯功能。由于神經(jīng)元之間的高維、高密度的并行計算結構,神經(jīng)網(wǎng)絡具有很強的集體計算能力,完全可以進行高維數(shù)據(jù)的實時處理,同時也可以進行分布式聯(lián)想存儲。

工業(yè)品出廠價格指數(shù)(PPI)數(shù)據(jù)來源于《中國統(tǒng)計年鑒(2009年)》,PPI數(shù)據(jù)時間范圍為1990年-2008年。在實際應用中,由于所采集的數(shù)據(jù)跨度較大,為提高訓練速度和靈敏性以及有效避開Sigmoid函數(shù)的飽和區(qū),一般要求輸入數(shù)據(jù)的值在0-l之間。再有,為保證建立的模型具有一定的外推能力,最好使數(shù)據(jù)預處理后的值在0.2-0.8之間,把0-0.2和0.8-1.0的空間預留。下面是數(shù)據(jù)預處理和反預處理算法:①數(shù)據(jù)預處理法:y=(0.8-0.2)*(x-min(x))/ (max(x)-min(x))+0.2。②反預處理算法:x=(y-0.2)*(max(x)-min(x))/(0.8-0.2)+min(x)。其中:x是工業(yè)品出廠價格指數(shù)原始數(shù)據(jù);y是預處理后的工業(yè)品出廠價格指數(shù)數(shù)據(jù);max(x)和min(x)分別是工業(yè)品出廠價格指數(shù)原始數(shù)據(jù)取值范圍的最大值與最小值。

我國歷年PPI數(shù)據(jù)按順序構成一組時間序列,利用時間序列分析方法對我國歷年PPI數(shù)據(jù)時序進行檢驗識別,可知PPI數(shù)據(jù)服從4階自回歸模型AR(4),由此模型輸入層單元數(shù)為4個,輸出層單元數(shù)為1個。

適當?shù)碾[層數(shù)目及節(jié)點數(shù)決定于多種因素。如訓練樣本的多少、樣本噪音的大小以及所面對問題的復雜程度。隱層在BP神經(jīng)網(wǎng)絡中起著很重要的作用,它具有高度的抽象功能,并可從輸入單元中提取特征。隱層層數(shù)的選擇與問題的復雜性有關,為了確保訓練后人工神經(jīng)網(wǎng)絡模型的泛化能力和預測能力,應在滿足精度要求的前提下取盡可能緊湊的網(wǎng)絡結構。一個三層人工神經(jīng)網(wǎng)絡模型就可解決一般函數(shù)的擬合、逼近問題。因此三層人工神經(jīng)網(wǎng)絡能滿足預報要求。由于BP網(wǎng)絡在確定隱層單元數(shù)的問題上還沒有成熟的理論可依,大都根據(jù)經(jīng)驗來定。目前比較有效的方法就是試錯法。本文分別組建了隱層節(jié)點數(shù)從1-35的BP網(wǎng)絡,為了防止出現(xiàn)過擬合現(xiàn)象,經(jīng)過大量試算,最后根據(jù)試報效果,確定了較為理想的隱層單元數(shù)是6。

傳統(tǒng)BP網(wǎng)絡的學習算法實質(zhì)上是一種簡單的最速下降靜態(tài)尋優(yōu)算法,通常具有收斂速度慢、易陷入局部極小值和網(wǎng)絡推廣能力不強等方面的缺陷。本文采用MATI AB神經(jīng)網(wǎng)絡工具箱提供的改進快速學習算法,有效克服了傳統(tǒng)BP網(wǎng)絡學習算法的缺陷。Trainlm訓練函數(shù)采用Levenberg-Marquardt優(yōu)化方法,該訓練函數(shù)的效率優(yōu)于最速下降靜態(tài)尋優(yōu)算法。

2結果

利用1990年-2003年的我國PPI數(shù)據(jù)作為訓練樣本,采用改進BP算法的Trainlm訓練函數(shù)進行訓練構建的神經(jīng)網(wǎng)絡,然后采用2004年-2008年的PPI數(shù)據(jù)作為檢驗樣本,利用訓練好的BP網(wǎng)絡對2004年-2008年的PPI進行預測,結果見表1。仿真實驗表明我國PPI訓練樣本模擬值和實際值的平均相對誤差為0.82%,模擬值和實際值的相關系數(shù)為0.994778;我國PPI檢驗樣本預測值和實際值的平均相對誤差為0.80%,預測值和實際值的相關系數(shù)為0.915313;2007年PPI預測值為102.6,PPI實際值為103.1,預測值和實際值的相對誤差為-0.48%;2008年PPI的預測值為107.4,PPI實際值為106.9,預測值和實際值的相對誤差僅為0.47%,這都與實際情況相近,結果較為滿意。并對2011年和2012年的我國PPI做了預測,PPI預測值分別為107.3和107.6。

3結論

人工神經(jīng)網(wǎng)絡模型能夠很好地捕捉我國PPI內(nèi)在的規(guī)律性,無需設計任何數(shù)學模型,通過神經(jīng)元之間的相互作用來完成整個人工神經(jīng)網(wǎng)絡的信息處理,并能得到很好的預測精度。

將人工神經(jīng)網(wǎng)絡模型應用于我國PPI預測,PPI預測值和實際值的平均相對誤差為0.80%,預測誤差小,PPI檢驗樣本預測值與實際值的線性相關系數(shù)為0.915313,預測精度高,模型預測值和實際值能較好的吻合。

參考文獻:

[1]孫紅英,劉向榮,解玲麗.基于傳導模型的2010年價格指數(shù)預測[J].遼寧工程技術大學學報(自然科學版),2010,5:941-944.

篇4

摘要:本文在用人工神經(jīng)網(wǎng)絡BP模型對流域年均含沙量進行多因素建模過程中,對BP算法進行了改進。在學習速率η的選取上引進了一維搜索法,解決了人工輸入η時,若η值過小,收斂速度太慢,η值過大,又會使誤差函數(shù)值振蕩,導致算法不收斂的問題。建模實踐表明,改進后的BP算法可能使網(wǎng)絡誤差函數(shù)達到局部極小點,提高了算法的擬合精度。

關鍵詞:BP算法 學習速率 年均含沙量 一維搜索法

我國河流眾多,自然資源十分豐富,但江河流域水土流失非常嚴重,給國家的可持續(xù)發(fā)展以及生態(tài)環(huán)境帶來較大的危害。對于流域產(chǎn)沙的定量研究,一般采用單因子線性回歸方法。這類方法雖然也能反映出某種統(tǒng)計特性,但不能刻畫自然界復雜的非線性特性。人工神經(jīng)網(wǎng)絡BP網(wǎng)絡模型是復雜非線性映射的新方法。在引入這一新的定量研究方法對流域年均含沙量進行建模預測時發(fā)現(xiàn):算法中學習速率η值的選取對算法成敗起著關鍵作用,若η值過小,收斂速度太慢,而η值過大,又會使誤差函數(shù)值不下降,導致算法不收斂。本文正是針對這一問題進行了探討。

1 BP網(wǎng)絡模型及學習率η固定的弊端

人工神經(jīng)網(wǎng)絡理論是80年代中后期迅速發(fā)展起來的一門前沿科學,其應用已滲透到各個領域[1]。BP(Back Propagation)神經(jīng)網(wǎng)絡模型是人工神經(jīng)網(wǎng)絡理論的重要模型之一,應用尤為廣泛。盡管BP網(wǎng)絡模型發(fā)展逐步成熟,但仍然存在許多問題,在理論上需要完善[2]。BP算法主要包括兩個過程,一是由學習樣本、網(wǎng)絡權值ω從輸入層隱含層輸出層逐次算出各層節(jié)點的輸出;二是反過來由計算輸出與實際輸出偏差構出的誤差函數(shù)E(ω),用梯度下降法調(diào)節(jié)網(wǎng)絡權值,即ωk+1=ωk+η()使誤差E(ωk+1)減小。

篇5

關鍵詞:BP神經(jīng)網(wǎng)絡;數(shù)字識別;特征提取

中圖分類號:TP183 文獻標識碼:A 文章編號:1009-3044(2013)14-3362-04

1 概述

數(shù)字識別在車輛牌照識別、銀行支票識別和郵政儲蓄票據(jù)識別等領域有著廣泛的應用,因而成為研究人員近年來研究的一個焦點[1]。而人腦神經(jīng)系統(tǒng)模型的建立為人工神經(jīng)網(wǎng)絡的產(chǎn)生提供了理論模型依據(jù), 使其具有模擬人腦部分形象思維的能力[2],因而使其成為人工智能技術的重要組成部分和常用方法。人工神經(jīng)網(wǎng)絡由簡單信息處理單元相互連接組成,通過簡單處理單元間的相互作用來實現(xiàn)對其所接收信息的處理。而隨著人工神經(jīng)網(wǎng)絡技術的快速發(fā)展,其為解決模式識別鄰域的相關問題提供了新的解決思路和方法,其突出的優(yōu)點在于它具有對接收信息可進行并行分布式處理能力和自我學習反饋能力,因而吸引了眾多研究人員對其進行廣泛和深入的研究。而誤差反向傳播網(wǎng)絡(Back-Propagation),即BP神經(jīng)網(wǎng)絡,是一種典型的人工神經(jīng)網(wǎng)絡,它具有人工神經(jīng)網(wǎng)絡的所有優(yōu)點,因而在眾多技術鄰域有著廣泛的應用[3]。該文首先對BP神經(jīng)網(wǎng)絡的基本原理進行了詳細介紹,在分析了其基本原理的基礎上,針對數(shù)字識別問題,設計了一種利用BP神經(jīng)網(wǎng)絡技術進行數(shù)字識別的方法。經(jīng)實驗表明,該方法合理可行,且其識別效果正確有效。

2 相關原理與知識

由于本文針對數(shù)字識別問題,利用BP神經(jīng)網(wǎng)絡技術對其進行方法設計和實現(xiàn),首先必須了解BP神經(jīng)網(wǎng)絡的基本原理,即了解其具體構成形式、模型分類和其功能特點。其次,在了解了BP神經(jīng)網(wǎng)絡基本原理的基礎上,進一步了解其所處理數(shù)據(jù)的特點和組成形式,并根據(jù)處理數(shù)據(jù)的特點和其數(shù)據(jù)結構設計相應的數(shù)字識別方法。下面分別對它們進行詳細的介紹。

2.1 BP神經(jīng)網(wǎng)絡基本原理

BP神經(jīng)網(wǎng)絡算法由數(shù)據(jù)信息流的前向計算,即正向信息流的正向傳遞,誤差信息的反向回饋兩個部分組成。當信息流進行正向傳遞時,其傳遞方向為從輸入層到隱層再到輸出層的順序,器每層神經(jīng)元所處的狀態(tài)只會影響下一層神經(jīng)元的狀態(tài)。若在最后的輸出層沒有得到理想的輸出信息,則應立即進入誤差信息的反向回饋過程[6]。最終經(jīng)過這兩個過程的相互交替運行,同時在權向量空間使用誤差函數(shù)梯度下降策略,動態(tài)迭代搜索得到一組權向量,使得該BP神經(jīng)網(wǎng)絡的誤差函數(shù)值達到最小,從而完成對信息提取和記憶過程[7]。

2.2 BMP二值圖像文件數(shù)據(jù)結構

由于本文處理的數(shù)據(jù)源為BMP二值圖像,則必須了解其數(shù)據(jù)結構,才能對其進行進一步的識別方法設計。由數(shù)字圖像處理基礎知識可知,常見BMP二值圖像文件的數(shù)據(jù)結構由以下三部分組成:(1)位圖文件頭,其包含了BMP二值圖像的文件類型、文件大小和位圖數(shù)據(jù)起始位置等信息;(2)位圖信息頭,它包含了BMP二值圖像的位圖寬度和高度、像素位數(shù)、壓縮類型、位圖分辨率和顏色定義等信息;(3)位圖數(shù)據(jù)體,其記錄了位圖數(shù)據(jù)每一個像素點的像素值,記錄順序在掃描行內(nèi)是從左到右,掃描行之間是從下到上。因此,根據(jù)BMP二值圖像數(shù)據(jù)結構信息,讀出所需要的圖像數(shù)據(jù),并對這些圖像數(shù)據(jù)做進一步的處理。在本文給定的訓練圖像中,圖像數(shù)據(jù)大小為80個字節(jié),而圖像數(shù)據(jù)體距離其文件頭的偏移量為62個字節(jié)。但為了減少數(shù)據(jù)處理數(shù)量,該文在進行實驗時直接使用位圖數(shù)據(jù)體中的數(shù)據(jù),沒有通過讀出位圖文件頭來得到位圖數(shù)據(jù)體中的數(shù)據(jù)。

3 數(shù)字識別具體設計方法

由上文可知,該文使用數(shù)據(jù)源為圖像大小為20*20的BMP二值圖像,由于是對位圖數(shù)據(jù)體的數(shù)據(jù)直接進行操作,因此省去了對圖像其他數(shù)據(jù)結構數(shù)據(jù)的繁雜處理過程,將問題的核心轉(zhuǎn)向BP神經(jīng)網(wǎng)絡的設計方法步驟。

4 實驗結果

圖4所示為BP神經(jīng)網(wǎng)絡訓練及測試結果圖。該文選擇10個訓練樣本,通過實驗結果可以看出,由這10個訓練樣本訓練出來的BP神經(jīng)網(wǎng)絡對于訓練樣本中的圖像數(shù)值識別率達100%,訓練時間也比較短,其迭代次數(shù)大概為700次左右。對于一些含有噪聲的圖片,只要噪聲系數(shù)小于0.85個字符,其數(shù)字識別率可達96%。

5 結束語

針對二值圖像數(shù)字識別問題,該文在對BP神經(jīng)網(wǎng)絡的基礎理論進行分析后,設計了一種基于BP神經(jīng)網(wǎng)絡的數(shù)字識別方法,并通過實驗驗證了該BP神經(jīng)網(wǎng)絡用于數(shù)字識別的可行性和有效性。而對于BP神經(jīng)網(wǎng)絡存在的收斂速度慢、易陷入局部最優(yōu)和學習、記憶具有不穩(wěn)定性等問題,還有待于對其進行一步研究。

參考文獻:

[1] 韓力群.人工神經(jīng)網(wǎng)絡教程[M].北京:北京郵電大學出版社,2006.

[2] 呂俊,張興華.幾種快速BP算法的比較研究[J].現(xiàn)代電子技術,2003,24(167):96-99.

[3] 陸瓊瑜,童學鋒.BP算法改進的研究[J].計算機工程與設計,2007(10):96-97.

[4] Sven Behnke,Marcus Pfister.A Study on the Combination of Classifiers for Handwritten Digit Recognition,2004.

[5] 馬耀名,黃敏.基于BP神經(jīng)網(wǎng)絡的數(shù)字識別研究[J].信息技術,2007(4):87-88.

[6] Hasan soltanzadeh.Mohammad Rahmati.Recogniton of Persian Handwritten Digits Using Image Profiles of Multiple Orientations[J].Pattern Recognition Leaers,2004(15).

[7] 吳成東,劉文涵.基于粗網(wǎng)格神經(jīng)網(wǎng)絡的車牌字符識別方法[J].沈陽建筑大學報,2007,23(4):694-695.

篇6

(1.克拉瑪依職業(yè)技術學院,新疆克拉瑪依834000;2. 新疆農(nóng)業(yè)大學機械交通學院,新疆烏魯木齊830052)

摘要:學習向量量化(LVQ)神經(jīng)網(wǎng)絡可以通過監(jiān)督學習完成對輸入向量模式的準確分類,提出了一種基于改進的LVQ神經(jīng)網(wǎng)絡的發(fā)動機故障診斷方法,介紹了LVQ神經(jīng)網(wǎng)絡及其改進的學習算法。以長城哈佛GW2.8TC型發(fā)動機為實驗對象,讓發(fā)動機在怠速狀況下,對發(fā)動機進行故障設置,利用金德KT600電腦故障診斷儀采集發(fā)動機數(shù)據(jù)流,運用改進的LVQ神經(jīng)網(wǎng)絡建立診斷模型,診斷結果表明,改進的LVQ神經(jīng)網(wǎng)絡能對發(fā)動機故障做出正確分類,準確率比較高。

關鍵詞 :改進的LVQ神經(jīng)網(wǎng)絡;發(fā)動機;故障診斷;神經(jīng)元

中圖分類號:TN98?34 文獻標識碼:A 文章編號:1004?373X(2015)17?0107?03

0 引言

人工神經(jīng)網(wǎng)絡(Artificial Neural Networks,ANNs),也稱為神經(jīng)網(wǎng)絡(NNs),是模擬生物神經(jīng)網(wǎng)絡進行信息處理的一種數(shù)學模型。它以對大腦的生理研究成果為基礎,目的在于模擬大腦的某些機理與機制,實現(xiàn)一些特定的功能。由于人工神經(jīng)網(wǎng)絡具有聯(lián)想記憶功能、優(yōu)化計算能力以及其他的一些性質(zhì),所以人工神經(jīng)網(wǎng)絡具有較強的分類識別功能。學習向量量化(LVQ)神經(jīng)網(wǎng)絡是常用的一種神經(jīng)網(wǎng)絡,LVQ神經(jīng)網(wǎng)絡是一種有導師訓練競爭層的方法,競爭層自動學習識別輸入向量,并對輸入向量分類。

本文以長城哈佛GW2.8TC 型發(fā)動機為例,運用LVQ神經(jīng)網(wǎng)絡對發(fā)動機進行故障診斷。

1 LVQ 神經(jīng)網(wǎng)絡

1.1 LVQ神經(jīng)網(wǎng)絡結構

LVQ神經(jīng)網(wǎng)絡是兩層的網(wǎng)絡結構,即競爭層和線性層。競爭層對輸入向量進行學習分類,把競爭層的分類稱為子分類;線性層根據(jù)用戶的要求將競爭層的分類結果映射到目標分類結果中,把線性層的分類稱為目標分類。LVQ神經(jīng)網(wǎng)絡結構如圖1所示。

由圖1可以看出,競爭層和線性層每一類別各有一個神經(jīng)元,競爭層通過學習,可以得到S1類子分類結果;然后,線性層將S1類子分類結果再分成S2類目標分類結果(S1始終大于S2)。例如,假設競爭層的第1,2,3個神經(jīng)元對輸入空間的子分類所對應的線性層的目標分類為第2類,則競爭層的第1,2,3個神經(jīng)元與線性層的第2個神經(jīng)元的連接權將全部為1,而與其他線性層神經(jīng)元的連接權全部為0,這樣,當競爭層的第1,2,3 個神經(jīng)元中的任意一個神經(jīng)元在競爭中獲勝時,線性層的第2個神經(jīng)元將輸出1。

1.2 LVQ神經(jīng)網(wǎng)絡學習算法的改進

LVQ 神經(jīng)網(wǎng)絡學習算法的改進是在LVQ1 的基礎上進行的,它可以改善LVQ1學習結果的性能。改進的LVQ網(wǎng)絡的學習過程與LVQ1類似,在應用LVQ1 進行學習后,再用改進的LVQ 網(wǎng)絡進行學習,不同的是,改進的LVQ 是針對最接近輸入向量的兩個相鄰神經(jīng)元的權值進行的,其中一個神經(jīng)元對應正確的分類模式,另一個神經(jīng)元對應錯誤的分類模式,而輸入向量位于定義的窗口時,有:

這樣,如果給定兩個很相近的輸入向量,其中一個對應正確的分類,而另一個對應錯誤的分類,則改進的LVQ也能對靠的非常近,甚至對剛剛可分的模式進行正確地分類,從而提高分類結果的魯棒性。

2 改進的LVQ 神經(jīng)網(wǎng)絡在發(fā)動機故障診斷中的應用

基于改進的LVQ神經(jīng)網(wǎng)絡在發(fā)動機中的故障診斷仿真步驟如下:

(1)讓發(fā)動機處在怠速狀態(tài)下,并對其進行故障設置,用電腦檢測儀及其他設備測出發(fā)動機有無故障時的數(shù)據(jù)流參數(shù);

(2)用改進的LVQ神經(jīng)網(wǎng)絡建立診斷模型,并用已知的樣本數(shù)據(jù)訓練網(wǎng)絡;

(3)用訓練好的網(wǎng)絡對發(fā)動機進行故障診斷,并對訓練結果進行分析。

2.1 發(fā)動機故障設置及采集樣本

為了驗證改進的LVQ神經(jīng)網(wǎng)絡在發(fā)動機故障診斷中的可行性,本文以長城哈佛GW2.8TC 型發(fā)動機為研究對象,讓發(fā)動機在怠速狀況下,對發(fā)動機進行故障設置,并利用金德KT600故障診斷儀采集發(fā)動機數(shù)據(jù)流。以發(fā)動機在正常怠速、油門踏板1接地線開路、凸輪軸傳感器線路故障、1缸噴油器線路故障、冷卻液溫度傳感器線路串聯(lián)某阻值電阻和油門踏板插頭開路六種狀態(tài)下,采集發(fā)動機數(shù)據(jù)流,采集到的樣本數(shù)據(jù)如表1所示。

2.2 程序設計

在Matlab環(huán)境中,調(diào)用LVQ神經(jīng)網(wǎng)絡工具箱,創(chuàng)建的代碼如下:

在代碼中,p 中數(shù)據(jù)為樣本數(shù)據(jù);t 中以1表示正常狀態(tài),以2表示故障狀態(tài);T=ind2vec(t)為使t 中的向量轉(zhuǎn)換成學習向量量化網(wǎng)絡使用的目標向量;net=newlvq()為創(chuàng)建LVQ 神經(jīng)網(wǎng)絡,神經(jīng)元數(shù)目設置為20,0.17 和0.83,分別表示所采集的樣本種類中正常狀態(tài)和故障狀態(tài)所占的比例,網(wǎng)絡學習率設為0.5;net=init(net)為網(wǎng)絡初始化,使其每次訓練時權值都是隨機的,這樣可以達到預期的目標;網(wǎng)絡訓練步數(shù)設置為200;訓練間隔設置為50;訓練目標設置為0;網(wǎng)絡設置好后,開始訓練網(wǎng)絡,運行程序后所得的網(wǎng)絡訓練狀態(tài)圖如圖2所示,訓練曲線如圖3所示。

由圖2和圖3所示,網(wǎng)絡訓練只訓練了8次,用時不到1 s,就達到了預期目標,可見,用改進的LVQ神經(jīng)網(wǎng)絡進行故障診斷,速度非常快,精確度很高。

3 結語

LVQ神經(jīng)網(wǎng)絡將監(jiān)督學習和無監(jiān)督學習結合起來,可以完成對輸入向量模式的準確分類。本文以長城哈佛GW2.8TC 型發(fā)動機為實例,并對發(fā)動機進行故障設置,采集數(shù)據(jù)流,介紹了LVQ神經(jīng)網(wǎng)絡及其改進的學習算法,運用改進的LVQ神經(jīng)網(wǎng)絡建立診斷模型,診斷結果表明,改進的LVQ 神經(jīng)網(wǎng)絡能對發(fā)動機故障進行模式識別和準確分類,診斷結果完全正確,而且訓練速度極快。改進的LVQ 神經(jīng)網(wǎng)絡具有較高的研究價值,該方法不僅可以運用到汽車診斷領域,而且可以運用到其他故障診斷領域。

參考文獻

[1] 董長虹.神經(jīng)網(wǎng)絡與應用[M].北京:國防工業(yè)出版社,2005.[2] 史忠植.神經(jīng)網(wǎng)絡[M].北京:高等教育出版社,2009.

[3] 孫祥,徐流美,吳清.Matlab 7.0[M].北京:清華大學出版社,2005.

[4] 周開利,康耀紅.神經(jīng)網(wǎng)絡模型及其Matlab仿真程序設計[M].北京:清華大學出版社,2005.

[5] 張德豐.Matlab神經(jīng)網(wǎng)絡應用設計[M].北京:機械工業(yè)出版社,2009.

[6] 李國勇.智能控制及其Matlab實現(xiàn)[M].北京:電子工業(yè)出版社,2005.

[7] 舒寧,馬洪超,孫和利.模式識別的理論與方法[M].武漢:武漢大學出版社,2004.

[8] 蔣宇,李志雄,唐銘.LVQ 神經(jīng)網(wǎng)絡在滾動軸承故障診斷中的應用研究[J].機械科學與技術,2011(3):408?411.

篇7

【關鍵詞】測試 GRNN類神經(jīng)網(wǎng)絡 應用 探討

1 類人工神經(jīng)網(wǎng)絡特性

類人工神經(jīng)網(wǎng)絡技術(Artificial Neural Networks)是近年發(fā)展起來的一個新的研究領域,反映了人腦功能的若干基本特性,從而使計算機能夠模仿人的大腦,具有較強的形象思維能力。

我們目前應用的神經(jīng)網(wǎng)絡多是模糊神經(jīng)網(wǎng)絡,即神經(jīng)網(wǎng)絡與模糊系統(tǒng)的結合,此方法既改進了原有的測試系統(tǒng)的實時性能,又使神經(jīng)網(wǎng)絡學習得到了指導,有利于收斂。但是,此方法單純地強調(diào)了無模型的冗余式學習和模擬,必然造成對計量對象以及計量目標本身的忽略。所以,我們開始嘗試使用多層反饋式神經(jīng)網(wǎng)絡,即本文要探討的GRNN(Generlized Regnssion Neurl Network)神經(jīng)網(wǎng)絡。通過上面的介紹我們可以總結出類人工神經(jīng)網(wǎng)絡具有以下優(yōu)點非線性映射逼近能力;

(1)對信息的并行分布處理能力;

(2)高強的容錯能力;

(3)對學習結果的泛化和自適應能力;

(4)很強的信息綜合能力;

(5)信息的優(yōu)化計算能力;

(6) 便于集成實現(xiàn)和計算模擬

2 建議在石油領域應用類人工神經(jīng)網(wǎng)絡于產(chǎn)量預測

由于上述類神經(jīng)網(wǎng)絡的優(yōu)點,我們可以知道可以通過監(jiān)督學習的方法,將專家的故障分析經(jīng)驗傳遞給神經(jīng)網(wǎng)絡,或用神經(jīng)網(wǎng)絡來建立參數(shù)觀測系統(tǒng),從而避免了數(shù)學建模的困難,同時,診斷信息還能被用于系統(tǒng)的容錯控制。我們利用三層GRNN神經(jīng)網(wǎng)絡來訓練網(wǎng)絡,可以根據(jù)輸入到網(wǎng)絡的一些樣本提供一套權重來進行石油領域的一些預測,在網(wǎng)絡訓練之后,可以將任何新輸入的資料劃分為有效產(chǎn)能或無效產(chǎn)能。

雖然神經(jīng)網(wǎng)絡作為一種分類工具似乎比其他方法較具吸引力,在石油領域解決實際問題的應用到目前為止還不多。神經(jīng)網(wǎng)絡(ANN)人工智能方法能處理一系列的信息輸入如比率等,并能產(chǎn)生相應的輸出,而其運算分析能生成一個成功反映所有輸入輸出變量相應關系的模式。除此之外,神經(jīng)網(wǎng)絡并不依賴于變量之間必須線性相關或是相互獨立的假設。變量之間存有微妙聯(lián)系,如同數(shù)據(jù)不連續(xù)或不完全一樣,均可被系統(tǒng)辨識并生成定性評估。簡而言之,除了部分不明確的結果之外,神經(jīng)網(wǎng)絡能夠在相似點和類似點方面給出有根據(jù)的結論,在很大程度上,神經(jīng)網(wǎng)絡方法在油井的判別上有相似的

作用。

3 GRNN類神經(jīng)網(wǎng)絡模型數(shù)學模型及計算

3.1 GRNN類神經(jīng)網(wǎng)絡模型數(shù)學模型

GRNN(Generlized Regnssion Neurl

Network)是徑向基函數(shù)神經(jīng)網(wǎng)絡的一種,主要用于函數(shù)逼近。GRNN 網(wǎng)絡為含1個輸入層、1個隱層和1個輸出層的3層結構神經(jīng)網(wǎng)絡。隱層傳遞函數(shù)為徑向基函數(shù)Radbas,輸出層為線性函數(shù)Purelin:Radbs(x)=exp(-x2),Purelin(x)=x,GRNN網(wǎng)絡設置隱層的權重W1為:W1=P’式中為P’輸入向量P的轉(zhuǎn)置矩陣:隱層的偏差b1為:b1 =0.8326/ spread

式中spread為徑向基函數(shù)的展形。輸出層的權重W2=T,T為目標向量。

模型設計輸入變量為油井的平均壓力和平均氣溫,輸出變量為油井的月平均流量。為防止部分神經(jīng)元達到過飽和,提高網(wǎng)絡收斂程度和計算速度,對原始資料應做標準化處理。

3.2 GRNN類神經(jīng)網(wǎng)絡模型數(shù)學計算

測試實驗目的是了解新的井身結構及管柱所允許的單井產(chǎn)能,并盡可能求取最大產(chǎn)量。設計采用6個油嘴進行回壓法測試?;貕簻y試結束后用21.57mm油嘴測試,日產(chǎn)油300.44×104m3,預測生產(chǎn)壓差6.056MPa。井下入四支高精度PPC型存儲式井下電子壓力溫度計同時測試。采用MCALLSTER型的直讀式電子井下壓力溫度計,取得了較好效果。

井筒中的動力異常是造成壓力異常的主要原因。分隔器密封不嚴、節(jié)流影響、井筒積液、溫度變化都會造成井筒中的動力異常。采用變井筒溫度模型井的試井數(shù)據(jù)進行了校正,校正后的平均地層壓力上升了約1.2MPa,壓力恢復曲線也呈上升趨勢。從圖1中看出GRNN模擬效果極好,驗證結果也基本令人滿意。

4 結論和展望

4.1 結論

大慶油田由于多年開采,井下地質(zhì)條件復雜,使用神經(jīng)網(wǎng)絡模型(如GRNN和BP神經(jīng)網(wǎng)絡)進行監(jiān)測效果分析,可獲得比較好的結果;

在儲層四性特征及其四特性關系研究的基礎上,以巖心分析數(shù)據(jù)為標定,測井為工具,GRNN神經(jīng)網(wǎng)絡為方法,基本可以實現(xiàn)儲層物性參數(shù)的精確預測,且比常規(guī)數(shù)理方法具有較高的精度,顯示出BP神經(jīng)網(wǎng)絡在儲層參數(shù)預測中具有較為廣闊的應用前景。

多層反饋式神經(jīng)網(wǎng)絡具有特定的標準結構和非線性收斂特性。在求解具體問題時,只要把具體確定的能量函數(shù)與標準能量函數(shù)相對應,就能確定相應的神經(jīng)網(wǎng)絡參數(shù)。在合適的能量函數(shù)指導下,根據(jù)計量目標設計基于反饋式神經(jīng)網(wǎng)絡的系統(tǒng)結構和動態(tài)參數(shù),并將基于此網(wǎng)絡的參數(shù)辯識和計量結合起來,使其具有更強的自適應性。

4.2 展望

(1)如何在矢量控制的框架下補償參數(shù)隨時間常數(shù)的變化對計量性能帶來的影響,是一個重要的研究課題,也是我們以往研究結果的基礎上進一步努力的方向;

(2)GRNN神經(jīng)網(wǎng)絡的優(yōu)越特性必然能在其它的石油領域中得到更廣泛的應用,關于此項的研究任務是一項長期的任務。

參考文獻

篇8

關鍵詞:深基坑工程;人工神經(jīng)網(wǎng)絡;支護結構

中圖分類號:Tu473

文獻標識碼:A

隨著城市現(xiàn)代化進程的加快,地下工程規(guī)模日漸擴大,深基坑工程無論在數(shù)量上還是在規(guī)模上都有大幅度提高。深基坑工程是一個十分龐大的極其復雜的非線性系統(tǒng),它既涉及土力學中最典型的強度、穩(wěn)定和變形問題,同時還涉及土與支護結構的共同作用、水文地質(zhì)與地下水控制、施工組織設計等問題。由于人工神經(jīng)網(wǎng)絡(Artificial Neural Net-works,簡寫成ANN)能簡單模擬人腦神經(jīng)元工作的部分機理,具有自適應性、非線性、學習功能及容錯性強等特點,特別適合于處理各種非線性問題,因而在深基坑工程的研究中得到了廣泛的應用。本文擬就ANN在深基坑工程中的應用進行一番探討。

1 人工神經(jīng)網(wǎng)絡理論研究的發(fā)展簡介

人工神經(jīng)網(wǎng)絡是以工程技術手段來模擬人腦神經(jīng)元網(wǎng)絡的結構與特征的系統(tǒng)。利用人工神經(jīng)元可以構成各種不同拓撲結構的神經(jīng)網(wǎng)絡,它是生物神經(jīng)網(wǎng)絡的一種模擬和近似。在人工神經(jīng)網(wǎng)絡中,前饋型神經(jīng)網(wǎng)絡是目前人工神經(jīng)網(wǎng)絡中應用最廣泛也是發(fā)展最為成熟的一種網(wǎng)絡模型,其網(wǎng)絡結構如同1所示,神經(jīng)元分層排列,有輸入層、隱層(亦稱中間層)和輸出層。各層神經(jīng)元、各層之間通過不同的權重連接,權重的大小反映互連神經(jīng)元之間相互影響的形式與大小。在輸入層輸入各初始參數(shù)后,輸出層的輸出值即為網(wǎng)絡對這些輸入?yún)?shù)的響應,也即所需的結構。圖1所示的網(wǎng)絡其本質(zhì)上是建立輸入層各參數(shù)到輸出層各參數(shù)的映射,從而反映這些輸入?yún)?shù)對輸出的影響形式和幅度,進而反映輸入?yún)?shù)與輸出結構之問的本質(zhì)聯(lián)系。

2 人工神經(jīng)網(wǎng)絡理論研究的發(fā)展簡介

1943年,美國神經(jīng)生理學家Warren Mcculloch和數(shù)學家Walter Pitts在文章“A Logical Calculus of I-deas Immanent in Nervous Activity”中,第一次提出了神經(jīng)元數(shù)學模型,拉開了人工神經(jīng)網(wǎng)絡發(fā)展的序幕。1949年,心理學家Donald Hebb在其所著書《The Organization of Behavior》中第一次將學習功能引入神經(jīng)網(wǎng)絡系統(tǒng),他所提出的Hebb學習規(guī)則在神經(jīng)網(wǎng)絡模型研究中一直起著重要的作用。1957年。Frank Rosenblatt提出的感知器模型(Perceptron),被認為是最早的神經(jīng)網(wǎng)絡模型。1959年,Bernard Widrow和Marvin Hoff開發(fā)出一種稱為自適應單元(Ada-line)的網(wǎng)絡模型,網(wǎng)絡通過Marvin-Hoff學習算法訓練后,成功地應用于抵消通信中的回波和躁聲,也可用于天氣預報,是第一個用于實際問題的神經(jīng)網(wǎng)絡模型。由于這些有識之士的工作及對神經(jīng)網(wǎng)絡的宣傳,激起了更多人的興趣投入到這一領域,形成了ANN研究的第一次。

1969年,Marvin Minsky和Seymour Papert在他們合著的書《Perceptron》中,分析了簡單的感知器,指出了它的局限性,即對于非線形問題,甚至簡單的“異或”問題都無能為力。由此引起了對神經(jīng)網(wǎng)絡批評的高漲,使得ANN的研究陷入了低潮。直到1982年,John Hopfield對神經(jīng)網(wǎng)絡進行了嚴格的數(shù)學分析,揭示了其工作機理,并且用他提出的模型從失真的和不完善的數(shù)據(jù)圖形中獲得完整的數(shù)據(jù)圖形,引起了人們的關注,致使ANN的研究開始復蘇,并在近20年中得到了飛速的發(fā)展。

盡管神經(jīng)網(wǎng)絡的研究才剛剛起步,它已在廣泛的領域中得到了應用。如信號處理與模式識別、專家系統(tǒng)、機器人控制、郵政通訊、圖像處理、語音識別等領域。近幾年來,在工程力學領域已有人引入ANN來解決問題,如基于BP網(wǎng)絡的混凝土本構關系模型,力學領域中非線形動態(tài)系統(tǒng)的識別,振動控制中的狀態(tài)估計,結構破壞形式估計,以及結構分析和可行性設計等等。

3 ANN在深基坑工程中的應用

ANN應用到基坑工程研究的時間較晚。Gob等(1995)用ANN成功地預測了基坑支護中地下連續(xù)墻的側向位移。在國內(nèi)土木工程界,李立新(1997)在基坑的非線形位移反分析中應用了ANN,率先將ANN引入到用于解決深基坑工程中的種種問題。此后,許多專家學者開始意識到ANN解決深基坑工程問題的有效性和實用性,紛紛開展了這方面的研究工作。ANN在深基坑工程中的應用越來越普遍,應用的范圍也不斷擴大。截止目前,ANN在國內(nèi)深基坑工程中主要應用于以下幾個方面:

3.1支護結構選型

常見的深基坑支護結構型式有排樁、地下連續(xù)墻、水泥土墻、土釘墻、逆作拱墻、放坡開挖等。支護結構可根據(jù)基坑周邊環(huán)境、基坑規(guī)模、工程地質(zhì)與水文地質(zhì)、施工作業(yè)設備、施工季節(jié)等條件,選用上述的某一種或幾種型式的組合。在深基坑工程中,支護體系和支撐構件設計的合理性和施工質(zhì)量的優(yōu)劣直接影響到整個支護體系的安全和正常使用,如何在眾多的支護方案中選擇一種技術上先進、施工上可行、經(jīng)濟上合理的支護方案就顯得異常重要。支護結構體系是一個龐大復雜的力學系統(tǒng),決定基坑工程支護方案的因素眾多且大多具有不確定性特點,根據(jù)ANN的特性和工作原理,考慮采用ANN進行深基坑支護結構選型是完全可行的。

王曉鴻等根據(jù)大量工程實踐確定了支護方案選擇的神經(jīng)網(wǎng)絡表示方法,該方法以基坑開挖深度、基坑規(guī)模、場地條件、周邊環(huán)境控制等級、基坑周圍建筑物、道路、工程、管線的距離等作為輸入信息,以水泥土擋墻、灌注樁墻、地連墻等作為輸出信息,采用ANN方法進行研究,取得了常規(guī)的解析或數(shù)值方法不能達到的較好結果。

3.2變形的預測預報

深基坑工程變形的預測預報包括諸多方面:圍護結構的變形、地表沉降、坑底隆起、周圍管線變位等。對于上述諸多方面變形的每一種來說,其影響因素都是多方面且極其復雜的。比如,根據(jù)以往的施工經(jīng)驗,影響支護結構變形的因素就有支撐條件、土層強度、圍護墻的剛度、圍護墻在坑底以下的入土深度、地下水、施工情況等,且每一種因素的影響方式和影響程度都不同,甚至有的是不確定的,因而采用傳統(tǒng)方法較難甚至不可能建立滿意的數(shù)學模型,也就無法很好地解決深基坑工程變形的預測預報問題。ANN方法的發(fā)展及其本身的諸多優(yōu)點,為解決這一重要問題提供了強有力的工具。

目前,ANN在深基坑工程變形的預測預報中的應用研究比較活躍??傮w來講,ANN應用于深基坑

工程變形的預測預報問題的研究可分為兩大類:

a)一般預測問題:即對一些同類型的、隨機的、廣泛在同一平面或曲面上(服從一定的概率分布)的實測值進行ANN模擬和泛化推廣,可稱之為橫向推廣。華瑞平等以單層內(nèi)支撐圍護結構作為神經(jīng)網(wǎng)絡設計的支護結構類型,以支撐點與開挖深度的比值、支撐彈性系數(shù)、基坑開挖深度、樁的入土深度、土的c、ψ值、樁的剛度7個指標作為輸入層參數(shù),以樁的最大位移作為輸出層,采用10個樣本進行訓練,后對3個樣本進行了檢驗,最大誤差僅為6.6%,效果比較令人滿意。此外,其他一些專家學者對類似問題采用了不同的網(wǎng)絡結構進行研究,都取得了理想的預測結果。

b)時間序列預測問題。即將一個非線性變化過程依時間而產(chǎn)生的某種分布規(guī)律通過建立ANN以求得這種分布性的探索和泛化推廣,可稱為縱向推廣。深基坑工程中的變形是一個動態(tài)的過程。時間序列預測的基本思想是利用現(xiàn)有的歷史數(shù)據(jù)設計合理的ANN,經(jīng)訓練和檢驗能達到所要求的精度后來預測未來時間的變形數(shù)據(jù),從而預測預報基坑的穩(wěn)定性。如孫海濤等對上海某深基坑工程中兩個測點每天的沉降進行了監(jiān)測,以前4d的測量數(shù)據(jù)為依據(jù)來預測后2d的沉降值,經(jīng)訓練、檢驗后,發(fā)現(xiàn)預測值與實測值較為吻合,基本反映了實測值的趨勢。

3.3土體物性參數(shù)識別

深基坑工程中的各種理論分析必須以合理的土體物性參數(shù)為基礎。這些由試驗測定的參數(shù)由于許多因素的影響往往與實際值存在較大差異。在實際工程中不確定的因素更多,因而采用這樣的參數(shù)進行分析計算,得到的結果往往不可靠。這就需要對深基坑開挖工程中土體的物性參數(shù)進行識別。其解決方法是:在深基坑開挖施工過程中,根據(jù)若干預先布置好的測點處現(xiàn)場測量所得的數(shù)據(jù)(位移、應力、孔隙水壓力等),來反求出基坑及基坑周圍土體的物性參數(shù)(粘聚力、內(nèi)摩擦角、彈性模量、泊松比等)。傳統(tǒng)的反分析法通常結合有限元法和數(shù)學規(guī)劃法,通過優(yōu)化方法不斷修正土體的未知參數(shù),使一些現(xiàn)場實測值與相應的數(shù)值計算的差異達到最小,這些方法需要求待識別參數(shù)對于現(xiàn)場實測值的敏度。由于土體物理特性與力學特性的非線性,采用數(shù)值近似方法計算敏度的工作量很大,程序的實現(xiàn)也復雜。利用人工神經(jīng)網(wǎng)絡的非線性映射能力,可以解決一系列函數(shù)關系不能顯示表達的復雜模式識別與參數(shù)估計問題。與傳統(tǒng)反分析方法相比,該方法避免了敏度分析,并具有概念直觀、易于掌握、易于實現(xiàn)等優(yōu)點。

3.4其它方面的應用

人工神經(jīng)網(wǎng)絡除了成功地解決深基坑支護結構選型、變形預測預報、土體物性參數(shù)識別等問題以外,還可以應用于施工控制、突涌分析、工程造價預測、底板混凝土測溫等方面。雖然應用的方向和解決的問題有所不同,但是利用該方法所解決不同問題的思路大體上是一致的。

4 ANN方法在深基坑工程研究中的發(fā)展展望

4.1 BPN算法自身的改進

在目前為數(shù)眾多的ANN中,前饋型多層、誤差逆向傳播的BP神經(jīng)網(wǎng)絡(Back Propagation Network,簡稱BPN)因為其簡單的特點而成為目前應用最廣的ANN學習模型。但BPN存在著自身的限制和不足,主要包括:收斂速度慢,存在局部極值,隱層節(jié)點個數(shù)選擇無理論參考,僅憑經(jīng)驗選取,網(wǎng)絡運行為單向傳播,沒有反饋和返化能力差?;诖耍霈F(xiàn)了一些旨在改善BPN學習效果的方法。其中一個方法是通過發(fā)展更有效的學習算法去縮短學習時間。Moiler(1993)研制了一個比例共軛梯度算法去加快學習速度;Adeli和Hung(1994)建立了一個自適應共軛梯度神經(jīng)網(wǎng)絡(Ad-CGN)學習算法,并將其應用到了結構工程當中。Sanossian和Evans(1995)用一個基于梯度的啟發(fā)式算法去加速神經(jīng)網(wǎng)絡。另一個方法是利用平行算法去縮短計算時間。例如,Adeli和Hung(1993)提出了一個實時Ad-CGN學習算法去解決大規(guī)模模式識別問題,他們的算法在縮短BPN計算時間方面取得了一些進展。此外,通過合理選擇代表性框架來表示訓練的輸入輸出模式可以極大地改善神經(jīng)網(wǎng)絡的工程應用性能。Gunaratnam和Gero(1994)討論了BPN應用于結構設計時訓練樣本的輸入輸出模式對BPN性能的影響。上面提到Hung和Lin(1994)在一個類似于牛頓第2定律的L-BFGS方法基礎上利用非線性搜索算法研制了一個更有效的自適應性算法L-BFGS。S.F.Masri(1999)在應用力學研究中用自適應隨機搜索技術(ARS)訓練了BPN。對BPN的改進的算法還有許多,這些算法各有其優(yōu)點,也都有需要改進的地方。因此,為了使BPN能更為高效快速,我們今后還需要做更多的研究工作。

篇9

關鍵詞:樹葉識別;支持向量機;卷積神經(jīng)網(wǎng)絡

中圖分類號 TP18 文獻標識碼:A 文章編號:1009-3044(2016)10-0194-03

Abstract: In this paper, the convolution neural network recognition in the leaves, and the process by convolution of image visualization. Experiments show that the neural network application identification convolution leaves a 92% recognition rate. In addition , this neural network and support vector machine comparative study can be drawn from the study , convolutional neural network in either speed or accuracy better than support vector machines, visible, convolution neural network in the leaves aspect has good application prospects.

Key words recognition leaves; SVM; convolutional neural network

1 概述

樹葉識別與分類在對于區(qū)分樹葉的種類,探索樹葉的起源,對于人類自身發(fā)展、科普具有特別重要的意義。目前的樹葉識別與分類主要由人完成,但,樹葉種類成千上萬種,面對如此龐大的樹葉世界,任何一個植物學家都不可能知道所有,樹葉的種類,這給進一步研究樹葉帶來了困難。為了解決這一問題,一些模式識別方法諸如支持向量機(Support Vector Machine,SVM)[1],K最近鄰(k-NearestNeighbor, KNN)[2]等被引入,然而,隨著大數(shù)據(jù)時代的到來,這些傳統(tǒng)分類算法暴露出越來越多的不足,如訓練時間過長、特征不易提取等不足。

上世紀60年代開始,學者們相繼提出了各種人工神經(jīng)網(wǎng)絡[3]模型,其中卷積神經(jīng)網(wǎng)絡由于其對幾何、形變、光照具有一定程度的不變形,因此被廣泛應用于圖像領域。其主要特點有:1)輸入圖像不需要預處理;2)特征提取和識別可以同時進行;3)權值共享,大大減少了需要訓練的參數(shù)數(shù)目,是訓練變得更快,適應性更強。

卷積神經(jīng)網(wǎng)絡在國內(nèi)研究才剛剛起步。LeNet-5[4]就是一種卷積神經(jīng)網(wǎng)絡,最初用于手寫數(shù)字識別,本文研究將卷積神經(jīng)網(wǎng)絡LeNet-5模型改進并應用于樹葉識別中。本文首先介紹一下卷積神經(jīng)網(wǎng)絡和LeNet-5的結構,進而將其應用于樹葉識別,設計了實驗方案,用卷積神經(jīng)網(wǎng)絡與傳統(tǒng)的模式識別算法支持向量機(SVM)進行比較,得出了相關結論,并對進一步研究工作進行了展望。

2人工神經(jīng)網(wǎng)絡

人工神經(jīng)網(wǎng)絡方面的研究很早就已開展,現(xiàn)在的人工神經(jīng)網(wǎng)絡已經(jīng)發(fā)展成了多領域、多學科交叉的獨立的研究領域。神經(jīng)網(wǎng)絡中最基本的單元是神經(jīng)元模型。類比生物神經(jīng)元,當它“興奮”時,就會向相連的神經(jīng)元發(fā)送化學物質(zhì),從而改變這些神經(jīng)元的狀態(tài)。人工神經(jīng)元模型如圖1所示:

上述就是一個簡單的神經(jīng)元模型。在這個模型中,神經(jīng)元接收來自n個其他神經(jīng)元傳遞過來的輸入信號,這些信號通過帶權重的w進行傳遞,神經(jīng)元接收到的總輸入值將與神經(jīng)元的閾值進行比較,然后通過“激活函數(shù)”來產(chǎn)生輸出。

一般采用的激活函數(shù)是Sigmoid函數(shù),如式1所示:

[σz=11+e-z] (1)

該函數(shù)圖像圖2所示:

2.1多層神經(jīng)網(wǎng)絡

將上述的神經(jīng)元按一定的層次結構連接起來,就得到了如圖3所示的多層神經(jīng)網(wǎng)絡:

多層神經(jīng)網(wǎng)絡具有輸入層,隱藏層和輸出層。由于每一層之間都是全連接,因此每一層的權重對整個網(wǎng)絡的影響都是特別重要的。在這個網(wǎng)絡中,采用的訓練算法是隨機梯度下降算法[5],由于每一層之間都是全連接,當訓練樣本特別大的時候,訓練需要的時間就會大大增加,由此提出了另一種神經(jīng)網(wǎng)絡―卷積神經(jīng)網(wǎng)絡。

2.2卷積神經(jīng)網(wǎng)絡

卷積神經(jīng)網(wǎng)絡(CNN)由于在圖像分類任務上取得了非常好的表現(xiàn)而備受人們關注。發(fā)展到今天,CNN在深度學習領域已經(jīng)成為了一種非常重要的人工神經(jīng)網(wǎng)絡。卷積神經(jīng)網(wǎng)絡的核心在于通過建立很多的特征提取層一層一層地從圖片像素中找出關系并抽象出來,從而達到分類的目的,CNN方面比較成熟的是LeNet-5模型,如圖4所示:

在該LeNet-5模型中,一共有6層。如上圖所示,網(wǎng)絡輸入是一個28x28的圖像,輸出的是其識別的結果。卷積神經(jīng)網(wǎng)絡通過多個“卷積層”和“采樣層”對輸入信號進行處理,然后在連接層中實現(xiàn)與輸出目標之間的映射,通過每一層卷積濾波器提取輸入的特征。例如,LeNet-5中第一個卷積層由4個特征映射構成,每個特征映射是一個24x24的神經(jīng)元陣列。采樣層是基于對卷積后的“平面”進行采樣,如圖所示,在第一個采樣層中又4的12x12的特征映射,其中每個神經(jīng)元與上一層中對應的特征映射的2x2鄰域相連接,并計算輸出。可見,這種局部相關性的特征提取,由于都是連接著相同的連接權,從而大幅度減少了需要訓練的參數(shù)數(shù)目[6]。

3實驗研究

為了將LeNet-5卷積網(wǎng)絡用于樹葉識別并檢驗其性能,本文收集了8類樹葉的圖片,每一類有40張照片,如圖5所示的一張樹葉樣本:

本文在此基礎上改進了模型,使用了如圖6卷積神經(jīng)網(wǎng)絡模型:

在此模型中,第一個卷積層是由6個特征映射構成,每個特征映射是一個28*28的神經(jīng)元陣列,其中每個神經(jīng)元負責從5*5的區(qū)域通過卷積濾波器提取局部特征,在這里我們進行了可視化分析,如圖7所示:

從圖中可以明顯地看出,卷積網(wǎng)絡可以很好地提取樹葉的特征。為了驗證卷積神經(jīng)網(wǎng)絡與傳統(tǒng)分類算法之間的性能,本文基于Python語言,CUDA并行計算平臺,訓練同樣大小8類,一共320張的一批訓練樣本,采用交叉驗證的方法,得到了如表1所示的結論。

可見,無論是識別率上,還是訓練時間上,卷積網(wǎng)絡較傳統(tǒng)的支持向量機算法體現(xiàn)出更好地分類性能。

4 總結

本文從人工神經(jīng)網(wǎng)絡出發(fā),重點介紹了卷積神經(jīng)網(wǎng)絡模型LeNet-5在樹葉識別上的各種研究并提取了特征且進行了可視化,并與傳統(tǒng)分類算法SVM進行比較。研究表明,該模型應用在樹葉識別上較傳統(tǒng)分類算法取得了較好的結果,對收集的樹葉達到了92%的準確率,并大大減少了訓練所需要的時間。由于卷積神經(jīng)網(wǎng)絡有如此的優(yōu)點,因此在人臉識別、語音識別、醫(yī)療識別、犯罪識別方面具有很廣泛的應用前景。

本文的研究可以歸納為探討了卷積神經(jīng)網(wǎng)絡在樹葉識別上的效果,并對比了傳統(tǒng)經(jīng)典圖像分類算法,取得了較好的分類精度。

然而,本文進行實驗的樣本過少,當數(shù)據(jù)集過多的時候,這個卷積神經(jīng)網(wǎng)絡算法的可行性有待我們進一步的研究;另外,最近這幾年,又有很多不同的卷積神經(jīng)網(wǎng)絡模型出現(xiàn),我們會繼續(xù)試驗其他的神經(jīng)網(wǎng)絡模型,力求找到更好的分類算法來解決樹葉識別的問題。

參考文獻:

[1]Bell A, Sejnowski T. An Information-Maximization Approach to Blind Separation and Blind Deconvolution[J]. Neural Computation, 1995, 7(6):1129-59.

[2]Altman N S. An Introduction to Kernel and Nearest-Neighbor Nonparametric Regression[J]. American Statistician, 1992, 46(3):175-185.

[3]Ripley B D, Hjort N L. Pattern Recognition and Neural Networks[M]. Pattern recognition and neural networks. Cambridge University Press,, 1996:233-234.

[4]Lécun Y, Bottou L, Bengio Y, et al. Gradient-based learning applied to document recognition[J]. Proceedings of the IEEE, 1998, 86(11):2278-2324.

篇10

Abstract: The sensitivity analysis of equipment maintenance support information plays an important role in the maintenance decision-making and support plan evaluation etc. In this paper, firstly, the demand and process of equipment maintenance support information sensitivity analysis was determined. Secondly, the artificial neural network was adopted to build networks for sensitivity analysis, the network output of the quantitative calculation of the influence of parameters is used on the model results, and the parameter sensitivity was got. Finally, the maintainability data of some gear lubrication pump was analyzed as an example, which verified the effectiveness of the proposed method.

關鍵詞: 維修保障信息;靈敏度分析;BP神經(jīng)網(wǎng)絡

Key words: maintenance support information;sensitivity analysis;BP neural network

中圖分類號:E075 文獻標識碼:A 文章編號:1006-4311(2016)12-0080-03

0 引言

裝備維修保障信息是對裝備實施維修保障的必要前提和重要基礎[1]。它既反映了裝備當前的基本情況,提供了裝備是否便于維修,維修所需的時間、資源、費用等信息;也包含了各種與維修保障相關的質(zhì)量特性參數(shù),如平均修復時間、預防性維修時間、定期更換間隔期等,是開展維修工作的基礎或者“起點”。

目前關于維修保障信息收集與分析的研究很多,然而針對這些信息的收集粒度、分析精度等研究則較少。因此,對裝備維修保障信息進行靈敏度分析是非常有必要的,其有助于確定維修保障信息收集的重點,評價基礎數(shù)據(jù)變化對維修保障效果的影響程度,并為后續(xù)分析與改進工作提供重要參考依據(jù)[2]。

本文基于黑箱模型的思路,利用人工神經(jīng)網(wǎng)絡的方法建立用于裝備維修保障信息靈敏度分析的網(wǎng)絡,利用網(wǎng)絡輸出定量計算參數(shù)的變動對不確定模型輸出結果的影響程度,以掌握裝備維修保障對參數(shù)變化的敏感度。

1 裝備維修保障信息靈敏度分析需求與過程

靈敏度分析是研究與分析一個系統(tǒng)或模型的狀態(tài)或輸出變化對系統(tǒng)參數(shù)或者周圍條件變化的敏感程度的方法[3]。在最優(yōu)化方法中經(jīng)常利用靈敏度分析來研究原始數(shù)據(jù)不準確或發(fā)生變化時最優(yōu)解的穩(wěn)定性。同樣,在對裝備開展維修保障工作時,其基礎信息的靈敏度分析,對于相關維修決策的制訂與判斷以及保障方案的權衡與評價等,都具有非常重要和現(xiàn)實的作用。

1.1 裝備維修保障信息靈敏度分析的需求

傳統(tǒng)的維修方式是相對粗放型的,很難實現(xiàn)精確化保障也極易造成維修資源的浪費?;跔顟B(tài)的維修、故障診斷與健康管理等新型維修方式的興起與發(fā)展,實現(xiàn)了維修決策的定量化與科學化,同時對于決策基礎信息的質(zhì)量與準確性也提出了更高的要求。

在上述新型維修方式的定量化分析過程中,必然依據(jù)相應的決策模型等手段。上述這些模型都含有若干個確定性參數(shù),參數(shù)的變化會引起模型目標值的改變,不同參數(shù)的變化對模型目標值的影響也不盡相同。對裝備維修保障信息進行靈敏度分析,可以通過對輸出結果影響的大小等來探索維修決策模型對各信息的敏感程度,從而為優(yōu)化裝備設計參數(shù)和提高其維修決策等提供方向。所以,裝備維修保障信息的靈敏度分析具有十分重要的意義。

1.2 裝備維修保障信息靈敏度分析基本過程

對裝備維修保障信息數(shù)進行靈敏度分析,基本過程如下:

①明確靈敏度分析參數(shù)。在維修決策模型中,一些參數(shù)的改變對模型結果影響很大,對這些重要性參數(shù)要重點分析;反之,如參數(shù)的變化對模型結果影響很小,沒必要對其進行分析。

②確定參數(shù)取值變化范圍。根據(jù)模型的具體情況,選擇適當?shù)膮?shù)變化范圍;需要注意的是,所有參數(shù)的變化范圍要求一致,這樣才能比較其靈敏度。

③模型結果統(tǒng)計與展現(xiàn)。通過MATLAB等數(shù)學工具,計算模型結果,并畫出表示參數(shù)與模型結果關系的二維圖。

④模型結果變動分析。根據(jù)二維圖所示的參數(shù)與模型結果的關系,通過其直線斜率、變化區(qū)間等來進行靈敏度分析。

⑤確定參數(shù)采集要求。參數(shù)采集應該來源于工作實踐,確保數(shù)據(jù)的準確性、可靠性。

2 基于神經(jīng)網(wǎng)絡的裝備維修保障信息靈敏度分析

在裝備維修保障信息分析過程中,由于各參數(shù)間常常會存在不同程度的相關性,很難直接判斷參數(shù)的改變對模型輸出結果的影響,因此本文研究利用人工神經(jīng)網(wǎng)絡的方法建立用于黑箱模型參數(shù)靈敏度分析的網(wǎng)絡。黑箱模型(Block Box Model)是指輸入、輸出和功能特性已知,但其內(nèi)部實現(xiàn)未知或不相關的模型。因此,通過參數(shù)值的變動得到不同的網(wǎng)絡輸出結果,利用網(wǎng)絡的輸出定量計算出參數(shù)的變動對不確定模型輸出結果的影響程度。

2.1 BP神經(jīng)網(wǎng)絡的概念及結構

人工神經(jīng)網(wǎng)絡是在復雜的生物神經(jīng)網(wǎng)絡研究和了解的基礎上發(fā)展起來的[4]。人腦是由大約個高度互連的單元構成,這些單元稱為神經(jīng)元,每個神經(jīng)元約有個連接。按照生物的神經(jīng)元,可以用數(shù)學方式表示神經(jīng)元,并由神經(jīng)元的互連可以定義出不同類型的神經(jīng)網(wǎng)絡。

由于連接方式的不同,神經(jīng)網(wǎng)絡的類型也將不同。前饋神經(jīng)網(wǎng)絡因為其權值訓練中采用的誤差是逆向傳播的方式,所以這類神經(jīng)網(wǎng)絡更多地稱為反向傳播(back propagation)神經(jīng)網(wǎng)絡,簡稱BP神經(jīng)網(wǎng)絡。BP神經(jīng)網(wǎng)絡的基本網(wǎng)絡結構如圖1所示。

2.2 基于BP神經(jīng)網(wǎng)絡的靈敏度分析模型設計

利用人工神經(jīng)網(wǎng)絡進行黑箱參數(shù)靈敏度分析的基本思路是:首先,根據(jù)具體裝備,結合實際的維修情況,確定要進行靈敏度分析的黑箱模型參數(shù);再利用已有的裝備維修數(shù)據(jù)和專家經(jīng)驗等對參數(shù)進行量化處理:然后,利用相關參數(shù)和結果形成樣本數(shù)據(jù)進行人工神經(jīng)網(wǎng)絡訓練;最后,固定訓練完好的神經(jīng)網(wǎng)絡,并通過相關方法分析參數(shù)變化的敏感度[5]。

本文通過MATLAB神經(jīng)網(wǎng)絡工具來完成網(wǎng)絡訓練[6],具體步驟如下:

①確定訓練樣本。收集并處理現(xiàn)有或相似、相近裝備的相關維修保障信息樣本,并對模型參數(shù)進行量化。一般來說,所收集的樣本數(shù)越多,BP神經(jīng)網(wǎng)絡參數(shù)靈敏度分析達到的精度就越高。

②建立網(wǎng)絡。選取適當?shù)纳窠?jīng)網(wǎng)絡模型,將參數(shù)歸一化值賦予神經(jīng)網(wǎng)絡的輸入層單元、歸一化后的結果值賦予輸出層。輸入層和輸出層節(jié)點之間的傳遞函數(shù)通常采用MATLAB的BP神經(jīng)網(wǎng)絡工具箱中的神經(jīng)元傳遞函數(shù),網(wǎng)絡初始化可通過工具箱中的初始化函數(shù)來實現(xiàn)。

③完成網(wǎng)絡訓練。通過MATLAB的BP神經(jīng)網(wǎng)絡工具箱中的網(wǎng)絡訓練函數(shù)來實現(xiàn)。當訓練到一定精度時,停止訓練,求得所有權值和閾值。利用測試樣本數(shù)據(jù)對訓練結果進行確認,看是否滿足要求,必要時增加樣本的容量。

④進行參數(shù)靈敏度分析。采用逐項替代的分析方法,即通過逐次對某一參數(shù)或幾個參數(shù)進行微小變動,同時固定其它參數(shù)保持不變,進行人工神經(jīng)網(wǎng)絡的計算,得到相應網(wǎng)絡輸出,利用網(wǎng)絡的輸出定量地分析參數(shù)對結果的影響程度,從而為開展維修決策提供參考依據(jù)。

3 案例分析

這里以某設備平均單位維修費用關于其相關影響數(shù)據(jù)為例進行案例分析。通過實際維修情況分析可知,與該設備維修費用相關的參數(shù)主要包括:預防性維修所需費用、修復性維修所需費用、維修所需備件費用、維修活動管理費用、設備故障率、維修延遲導致的設備停機時間。選取該設備的原型和相似設備的13組維修數(shù)據(jù),并進行歸一化后得到的樣本數(shù)如表1所示,其中6項影響維修費用的參數(shù)分別由X、Y、Z、U、V、W表示, C表示單位時間平均維修費用。

3.1 網(wǎng)絡的設計與訓練

根據(jù)上面的數(shù)據(jù)用前6項參數(shù)確定網(wǎng)絡的輸入變量,并用單位時間平均維修費用確定網(wǎng)絡的目標變量。利用1~10組的費用影響數(shù)據(jù)作為網(wǎng)絡的訓練樣本,11~13組的數(shù)據(jù)作為網(wǎng)絡的測試樣本。利用訓練完成的神經(jīng)網(wǎng)絡計算另外第11~13組的平均維修費用值,得出的值分別為0.789、0.801、0.815,誤差范圍都在0.04以內(nèi),說明本文所設計的這種網(wǎng)絡是足夠精確可靠的。

3.2 參數(shù)靈敏度分析

在應用上述訓練完成的網(wǎng)絡程序的基礎上,可進一步對此設備的各項參數(shù)進行靈敏度分析。對于各個數(shù)組來說,參數(shù)靈敏度的分析方法大致是一樣的。因此,本文僅以數(shù)組1為代表進行參數(shù)靈敏度分析,具體方法為:分別將每個參數(shù)的值改變(增大或縮?。?.1,保持其它的參數(shù)值不變,進行神經(jīng)網(wǎng)絡計算,然后觀測網(wǎng)絡輸出值的變化情況。比如,當參數(shù)增大0.1后,單位時間平均維修費用相應的改變見圖2。

由圖2可以看出,對數(shù)組1來說,維修活動管理費用這項參數(shù)的靈敏度最高,這說明對于設備單位時間平均維修費用來說,此時維修活動管理費用的大小,是導致其高低的最主要因素;其次是該設備的故障率,即設備先天的可靠性水平,對于后期維修費用也起著重要的影響。

采用同樣的方法,我們也可以對其他數(shù)組進行分析,并得出影響最終結果最為明顯的參數(shù)來。這樣,在開展維修活動時,為了提高保障效益可以有針對性地采取措施,達到科學維修準確決策的效果。

4 結束語

目前很多裝備維修保障信息分析具有多樣性和復雜性的特點,例如機械裝備維修時間與維修性影響因素的關系、裝備故障與訓練環(huán)境的關系等,這些信息都具有不確定性,不能直觀地分析,通過神經(jīng)網(wǎng)絡的方法就能解決這個問題。本文介紹了一種基于BP神經(jīng)網(wǎng)絡進行參數(shù)靈敏度分析的方法,這其中最重要的工作就是對模型參數(shù)神經(jīng)網(wǎng)絡的訓練,只有訓練出的神經(jīng)網(wǎng)絡精度足夠高,才能保證參數(shù)靈敏度分析的準確性。但是前提就是要收集大量參數(shù)的數(shù)據(jù),提高神經(jīng)網(wǎng)絡的精度,這就要求我們要采集大量可靠的數(shù)據(jù)。

在本文研究中還有很多不夠完善的地方,如對于多個參數(shù)同時變化的靈敏度分析,輸入?yún)?shù)狀態(tài)變化和參數(shù)狀態(tài)組合引起的靈敏度改變等這些方面,是今后繼續(xù)研究的方向。

參考文獻:

[1]韓小孩,張耀輝,等.裝備維修保障信息分類與描述[J].四川兵工學報,2012,33(9):49-53.

[2]王廣彥,白永生,等.面向多主體、多任務的維修保障信息建模技術[J].面向多主體、多任務的維修保障信息建模技術, 2015,24(1):21-27.

[3]費蕓潔.基于靈敏度分析的神經(jīng)網(wǎng)絡結構優(yōu)化方法研究[D].蘇州大學碩士學位論文,2007.

[4]陳太聰,韓大建,蘇成.參數(shù)靈敏度分析的神經(jīng)網(wǎng)絡方法及其工程應用[J].計算力學學報,2004.