神經(jīng)網(wǎng)絡(luò)反向傳播公式范文

時(shí)間:2023-11-01 17:23:45

導(dǎo)語:如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)反向傳播公式,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。

神經(jīng)網(wǎng)絡(luò)反向傳播公式

篇1

關(guān)鍵詞: 神經(jīng)網(wǎng)絡(luò);工程造價(jià);Vague集貼近度

0 引言

對(duì)建筑工程造價(jià)進(jìn)行科學(xué)有效的測(cè)算和控制,會(huì)使工程造價(jià)的組成比較合理,進(jìn)而節(jié)約工程開銷成本?,F(xiàn)在,經(jīng)典的建筑工程造價(jià)測(cè)算方法主要有下面幾種:定額法、類比工程法、回歸分析法和模糊數(shù)學(xué)法[1]。其中,定額法必須對(duì)定額成本、定額差異和定額變動(dòng)差異進(jìn)行單獨(dú)核算,任務(wù)較重,現(xiàn)實(shí)中很難實(shí)施;類比工程法是通過類比工程的相似性實(shí)現(xiàn)工程造價(jià)的測(cè)算,該方法估算準(zhǔn)確度不夠高;回歸分析法的估算準(zhǔn)確度同樣不高,該方法將很多重要因素忽略了;模糊數(shù)學(xué)法是通過模糊數(shù)學(xué)的思想對(duì)工程造價(jià)進(jìn)行估算,該方法的不足主要是特征隸屬度不好準(zhǔn)確確定。由于人工神經(jīng)網(wǎng)絡(luò)可以自學(xué)并進(jìn)行推理,本文通過人工神經(jīng)網(wǎng)絡(luò)和Vague集貼近度理論對(duì)住宅樓的工程造價(jià)進(jìn)行估算和控制,可以為建筑工程造價(jià)估算提供很好的服務(wù)。

1 BP神經(jīng)網(wǎng)絡(luò)

BP神經(jīng)網(wǎng)絡(luò)是一種前饋型神經(jīng)網(wǎng)絡(luò),包含三種層次或者多層次,各種層次之間相互連接,同一層次可以自由結(jié)合,BP神經(jīng)網(wǎng)絡(luò)的構(gòu)成見圖1。所屬模型的神經(jīng)元數(shù)量決定了BP神經(jīng)網(wǎng)絡(luò)的層數(shù),各個(gè)層次之間通過相互的權(quán)值實(shí)現(xiàn)聯(lián)接[2]。

人工神經(jīng)元(Artificial Neuron)模型:

人工神經(jīng)元是神經(jīng)網(wǎng)絡(luò)的基本元素,其原理可以用圖2表示。

圖中x1~xn是從其他神經(jīng)元傳來的輸入信號(hào),wij表示表示從神經(jīng)元j到神經(jīng)元i的連接權(quán)值,θ表示一個(gè)閾值(threshold),或稱為偏置(bias)。則神經(jīng)元i的輸出與輸入的關(guān)系表示為:

BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常簡潔,包括正向傳播和逆向傳播。下面分別對(duì)BP神經(jīng)網(wǎng)絡(luò)信息的正向傳播和誤差信息的反向傳播原理進(jìn)行介紹。

1.1 信息的正向傳播

式(1)中,n為信息的總個(gè)數(shù)。

1)輸入向量為

多層神經(jīng)元網(wǎng)絡(luò)(BP網(wǎng)絡(luò)圖3)。

BP(Back Propagation)神經(jīng)網(wǎng)絡(luò),即誤差反傳誤差反向傳播算法的學(xué)習(xí)過程,由信息的正向傳播和誤差的反向傳播兩個(gè)過程組成。由圖3可知,BP神經(jīng)網(wǎng)絡(luò)是一個(gè)三層的網(wǎng)絡(luò):

輸入層(Input Layer):輸入層各神經(jīng)元負(fù)責(zé)接收來自外界的輸入信息,并傳遞給中間層各神經(jīng)元;

隱藏層(Hidden Layer):中間層是內(nèi)部信息處理層,負(fù)責(zé)信息變換,根據(jù)信息變化能力的需求,中間層可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu);最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息,經(jīng)進(jìn)一步處理后,完成一次學(xué)習(xí)的正向傳播處理過程;

輸出層(Output Layer):顧名思義,輸出層向外界輸出信息處理結(jié)果。

2 建筑工程造價(jià)估算模型

2.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 建立BP神經(jīng)網(wǎng)絡(luò)模型,對(duì)工程特征向量進(jìn)行歸一化處理,可以開始神經(jīng)網(wǎng)絡(luò)訓(xùn)練,目標(biāo)是使網(wǎng)絡(luò)性能函數(shù)極小化,實(shí)現(xiàn)非線性映射的目的。本文利用Nguyen-Widrow方法[5]對(duì)權(quán)值和閾值的初值進(jìn)行確定。Nguyen-Widrow方法具體原理為

上式中,W是數(shù)值矩陣,θ是權(quán)值矩陣,S、N是節(jié)點(diǎn)的個(gè)數(shù)。rand(S,N)為s行n列的平均自由分布任意矩陣,I(S,N)為s行n列標(biāo)準(zhǔn)矩陣。

2.2 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測(cè)試 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練調(diào)整與測(cè)試連接強(qiáng)度加權(quán)值調(diào)整方法,具體公式為:

BP算法在按步驟經(jīng)行的收斂過程中,每一步的學(xué)習(xí)率都將發(fā)生變化,而不是固定不變。此時(shí)BP神經(jīng)網(wǎng)絡(luò)不應(yīng)用連接強(qiáng)度加權(quán)值的調(diào)整方法,同時(shí)也不使用誤差函數(shù)對(duì)梯度調(diào)整和η調(diào)整方法;最終應(yīng)用相對(duì)權(quán)重增加量Δwij進(jìn)行網(wǎng)絡(luò)調(diào)整與測(cè)試,權(quán)值wij的修正值Δwij,如下所示:

以上的分析表明,運(yùn)用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行建筑工程單方造價(jià)估算是可行的,然而該方法對(duì)建筑工程項(xiàng)目總造價(jià)的估算還不夠精確。當(dāng)前建筑工程項(xiàng)目需要考慮的影響因素非常多,雖然可以引入大量的特征因素,然而里面有很多因素都非常模糊化;即使可以對(duì)特征因素進(jìn)行具體說明,提高輸入點(diǎn)的數(shù)量,這時(shí)樣本數(shù)據(jù)會(huì)隨著增加,此時(shí)神經(jīng)網(wǎng)絡(luò)將會(huì)復(fù)雜化,求解效率會(huì)降低。所以,本文通過以上運(yùn)用BP神經(jīng)網(wǎng)絡(luò)對(duì)建筑工程項(xiàng)目單方造價(jià)的估算,采用Vague集貼近度對(duì)BP神經(jīng)網(wǎng)絡(luò)進(jìn)行改進(jìn),對(duì)建筑工程總造價(jià)進(jìn)行估算[3]。

2.3 加入Vague集貼近度改進(jìn)BP神經(jīng)網(wǎng)絡(luò) 文獻(xiàn)[4]采用普通模糊集理論來對(duì)工程隸屬度進(jìn)行確定。本文中建筑工程特征因素隸屬度是指建筑工程特征值隸屬于準(zhǔn)備建設(shè)的項(xiàng)目特征值的大小程度:

3 實(shí)例分析

選取2013年西安市某工程項(xiàng)目數(shù)據(jù)進(jìn)行實(shí)例分析,工程造價(jià)指數(shù)以2013年為基準(zhǔn),通過加權(quán)平均法求解造價(jià)年綜合指數(shù)。通過選擇,最后選取了二十個(gè)樣本,前面十八個(gè)樣本為訓(xùn)練樣本,剩余的兩個(gè)當(dāng)作檢測(cè)樣本。神經(jīng)網(wǎng)絡(luò)訓(xùn)練數(shù)據(jù)見表1。

3.1 BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練 采用BP神經(jīng)網(wǎng)絡(luò)對(duì)模型進(jìn)行構(gòu)建,對(duì)建筑工程特征向量數(shù)據(jù)處理結(jié)束后,可以開展神經(jīng)網(wǎng)絡(luò)訓(xùn)練。神經(jīng)網(wǎng)絡(luò)訓(xùn)練基本的訓(xùn)練公式為

net,tr=train(NET,P,T)

訓(xùn)練公式中net為最終的網(wǎng)絡(luò),tr為數(shù)值統(tǒng)計(jì), P是輸入矩陣,T是輸出矩陣。

3.2 BP神經(jīng)網(wǎng)絡(luò)與Vague集貼近度預(yù)測(cè) 采用Vague集貼近度的數(shù)據(jù),基于BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練樣本進(jìn)行預(yù)測(cè),通過訓(xùn)練好的網(wǎng)絡(luò)對(duì)與本文樣本數(shù)據(jù)相類似工程項(xiàng)目的單方造價(jià)進(jìn)行預(yù)估,求得單方造價(jià)均值為1800元/m2。緊接著可以對(duì)建筑工程的總造價(jià)進(jìn)行預(yù)估,通過對(duì)10項(xiàng)樣本進(jìn)行造價(jià)估算預(yù)測(cè),采用BP神經(jīng)網(wǎng)絡(luò)和Vague集貼近度相結(jié)合的方法進(jìn)行造價(jià)預(yù)估,估計(jì)誤差在±10%范圍內(nèi)(見表2),造價(jià)估算結(jié)果非常準(zhǔn)確。

4 結(jié)論

本文應(yīng)用BP神經(jīng)網(wǎng)絡(luò)造價(jià)預(yù)測(cè)和Vague集貼近度理論,從理論和實(shí)際應(yīng)用兩方面對(duì)建筑工程造價(jià)估算進(jìn)行了研究。文中的方法能更準(zhǔn)確地反應(yīng)工程造價(jià)的不確定性,為建筑工程項(xiàng)目造價(jià)估算方法研究提供了一種新的視角和方法。

參考文獻(xiàn):

[1]史峰.BP神經(jīng)網(wǎng)絡(luò)在工程量清單中快速估價(jià)的應(yīng)用研究[M].北京航空航天大學(xué)出版社,2010.4.

[2]張風(fēng)文.基于MATLAB神經(jīng)網(wǎng)絡(luò)的工程實(shí)例分析[J].華東交通大學(xué)學(xué)報(bào),2010,8(3):26-33.

[3]郭一斌,王紅革,王翔.基于Vague集貼近度的工程項(xiàng)目投資快速估算方法[J].現(xiàn)代經(jīng)濟(jì)信息,2011,12(2):50-55.

篇2

關(guān)鍵詞: BP神經(jīng)網(wǎng)絡(luò);價(jià)格預(yù)測(cè);歸一化處理

期貨市場(chǎng)是一個(gè)不穩(wěn)定的、非線性動(dòng)態(tài)變化的復(fù)雜系統(tǒng)。市場(chǎng)上期貨合約價(jià)格的變動(dòng)受金融、經(jīng)濟(jì)、政治及投資者心理等眾多因素的影響,其過程具有非線性、混沌性、長期記憶性等特點(diǎn)。傳統(tǒng)的經(jīng)濟(jì)模型大部分是線性模型,具有一定的局限性.而人工神經(jīng)網(wǎng)絡(luò)則能很好地解決這個(gè)問題。

一、BP神經(jīng)網(wǎng)絡(luò)原理與過程

BP神經(jīng)網(wǎng)絡(luò)(反向傳播網(wǎng)絡(luò)Back Propagation)是一種多層前饋型神經(jīng)網(wǎng)絡(luò),其神經(jīng)元的激活函數(shù)是sigmoid函數(shù),一般為log sigmoid 函數(shù)和tan sigoid 函數(shù),函數(shù)的圖形是S 型的,其值域是為0到1的連續(xù)區(qū)間。它是嚴(yán)格遞增函數(shù),在線性和非線之間有著較好的平衡性。

1.數(shù)據(jù)歸一化處理

數(shù)據(jù)歸一化方法是神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)前對(duì)數(shù)據(jù)常做的一種處理方法。數(shù)據(jù)歸一化處理把所有數(shù)據(jù)都使其落在[0,1]或[-1,1]之間,其目的是取消各維數(shù)據(jù)間數(shù)量級(jí)差別。避免因?yàn)檩斎胼敵鰯?shù)據(jù)數(shù)量級(jí)差別較大而造成網(wǎng)絡(luò)預(yù)測(cè)誤差較大。數(shù)據(jù)歸一化的方法主要有以下兩種。

(1)平均數(shù)方差法,其公式如下:

2.BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過程

BP網(wǎng)絡(luò)的學(xué)習(xí)過程由信號(hào)的正向傳播和誤差的反向傳播兩個(gè)過程組成。其基本原理是:網(wǎng)絡(luò)先根據(jù)輸出層的誤差來調(diào)整輸出層和隱含層的權(quán)值和閾值,再將部分誤差分配置隱含層,然后根據(jù)誤差來調(diào)整隱含層和輸入層之間的權(quán)值和閾值,并不斷地重復(fù)上述過程,直到網(wǎng)絡(luò)的輸出與目標(biāo)之間的誤差趨于最小,達(dá)到規(guī)定的要求。

一般地,BP網(wǎng)絡(luò)的學(xué)習(xí)算法描述為如下步驟。

(1)初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù),如設(shè)置網(wǎng)絡(luò)初始權(quán)矩陣,給出學(xué)習(xí)速率和神經(jīng)元激活函數(shù)等。

(2)提供訓(xùn)練模式,訓(xùn)練網(wǎng)絡(luò),直到滿足學(xué)習(xí)要求。

(3)前向傳播過程:對(duì)給定訓(xùn)練模式輸入,計(jì)算網(wǎng)絡(luò)的輸出模式,并與期望模式比較,若有誤差,若執(zhí)行步驟(4),否則,返回步驟(2)。

(4)反向傳播過程:計(jì)算同一層單元的誤差,修正權(quán)值和閾值,返回步驟(2)。

二、玉米期貨價(jià)格預(yù)測(cè)分析

美國是世界上玉米生產(chǎn)大國和消費(fèi)大國,良好的現(xiàn)貨基礎(chǔ)為美國玉米期貨市場(chǎng)的發(fā)展提供了優(yōu)越條件。其中,以CBOT為代表的美國玉米期貨市場(chǎng)同現(xiàn)貨市場(chǎng)有效接軌,不僅在美國內(nèi)玉米生產(chǎn)流通領(lǐng)域發(fā)揮了重要作用,而且在世界玉米市場(chǎng)上也影響巨大。

發(fā)現(xiàn)價(jià)格作為期貨市場(chǎng)的基本功能之一,CBOT作為全球最大的玉米期貨交易市場(chǎng),其玉米期貨價(jià)格的國際影響力是非常巨大的。目前,在國際玉米市場(chǎng)上,玉米貿(mào)易價(jià)格的形成和交易活動(dòng)是以CBOT的玉米期貨價(jià)格為中心展開的,該價(jià)格是國際玉米貿(mào)易中簽約雙方需要考慮的最重要的依據(jù)之一。美國已經(jīng)通過芝加哥玉米期貨市場(chǎng)取得國際玉米貿(mào)易的定價(jià)權(quán),在國際玉米市場(chǎng)中發(fā)揮著主導(dǎo)作用,并且能夠?qū)Ρ緡推渌麌矣衩桩a(chǎn)業(yè)的發(fā)展產(chǎn)生深刻影響。

本文研究所采取的樣本來自WIND資訊金融終端,以2008年07月-2015年10月的CBOT的玉米期貨為研究對(duì)象。共計(jì)100組樣本數(shù)據(jù),將其中92組數(shù)據(jù)作為訓(xùn)練數(shù)據(jù)。8組作為分析樣本。本文從影響全球玉米的供需平衡的角度出發(fā),從期初庫存、產(chǎn)量、進(jìn)口、飼料消費(fèi)、國內(nèi)消費(fèi)總計(jì)、出口、期末庫存、總供給、貿(mào)易量共九個(gè)因素進(jìn)行分析研究,對(duì)玉米期貨的價(jià)格進(jìn)行預(yù)測(cè)。利用MATLAB軟件訓(xùn)練生成BP神經(jīng)網(wǎng)絡(luò)并進(jìn)行預(yù)測(cè),將隱含層神經(jīng)元設(shè)為20個(gè),訓(xùn)練次數(shù)為100次,訓(xùn)練精度為0.00005。最后得到結(jié)果見表1。

從表1中可以看出,通過BP神經(jīng)網(wǎng)絡(luò)計(jì)算得出的預(yù)測(cè)值與實(shí)際值絕對(duì)誤差相對(duì)較小,這說明通過BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型產(chǎn)生的預(yù)測(cè)結(jié)果的精確度較高。具有較強(qiáng)的實(shí)用性。但是由于玉米期貨除了受到供需因素的影響外,同時(shí)還受金融、經(jīng)濟(jì)、政治及投資者心理等眾多因素的影響。所以本文的結(jié)果還帶有一定的局限性。若把上述因素考慮進(jìn)去,其精確度可能進(jìn)一步提高。

三、結(jié)語

本文采用BP神經(jīng)網(wǎng)絡(luò)對(duì)美國玉米期貨的價(jià)格進(jìn)行了研究。使用了多因素BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型,對(duì)玉米期貨的價(jià)格進(jìn)行預(yù)測(cè),得到了擬合度在較高的預(yù)測(cè)值。這說明BP神經(jīng)網(wǎng)絡(luò)方法可以對(duì)玉米期貨價(jià)格走勢(shì)進(jìn)行有效預(yù)測(cè)。通過預(yù)測(cè),可以對(duì)投資者的投資行為進(jìn)行指導(dǎo),從而達(dá)到規(guī)避風(fēng)險(xiǎn)而獲取較好的經(jīng)濟(jì)利益。

參考文獻(xiàn):

篇3

關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò); 模糊矩陣; 教學(xué)評(píng)價(jià)

中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):2095-2163(2013)06-0060-03

0引言

教師教學(xué)效果的審核評(píng)定是高校教學(xué)中的重要工作。傳統(tǒng)的考核方法或者只是由學(xué)生填寫調(diào)查表,給教師劃分等級(jí),進(jìn)行定性描述,或者是由督導(dǎo)組根據(jù)幾堂課的聽評(píng)給教師的課堂教學(xué)打出一個(gè)分值。無論是哪種方法都不能全面客觀地對(duì)教學(xué)工作做出科學(xué)評(píng)定。而且傳統(tǒng)的考核方法受主觀因素影響較大,學(xué)生在對(duì)教師的評(píng)判中常會(huì)加入多種因素,各種因素之間的影響也各不相同,僅以學(xué)生或僅憑督導(dǎo)團(tuán)的評(píng)定來實(shí)施評(píng)判顯然已不盡合理。因此, 建立一種能盡量排除各種主觀因素的干擾,同時(shí)又具有完善且穩(wěn)定的評(píng)價(jià)體系的評(píng)定方法則成為必要和重要的研究課題。

本文構(gòu)建一種教學(xué)效果評(píng)價(jià)體系,即對(duì)教師的評(píng)價(jià)從“教學(xué)態(tài)度”、“教學(xué)內(nèi)容”、“教授方法”、“課堂效果”四大方面分項(xiàng)進(jìn)行,無論是學(xué)生還是督導(dǎo)組均可據(jù)此評(píng)價(jià)體系給出相應(yīng)評(píng)分。本文提出使用BP反向傳播神經(jīng)網(wǎng)絡(luò)來構(gòu)建一個(gè)穩(wěn)定的評(píng)分系統(tǒng),各項(xiàng)評(píng)分指標(biāo)為網(wǎng)絡(luò)輸入,使用已訓(xùn)練完成的BP神經(jīng)網(wǎng)絡(luò)來模擬一個(gè)專家的打分經(jīng)驗(yàn),由此輸出一個(gè)終值。BP神經(jīng)網(wǎng)絡(luò)通常是指基于誤差反向傳播算法的多層前向神經(jīng)網(wǎng)絡(luò),由于BP網(wǎng)絡(luò)的神經(jīng)元采用的傳遞函數(shù)是Sigmoid型可微函數(shù),因而可以實(shí)現(xiàn)輸入和輸出間的任意非線性映射[1]。由于BP神經(jīng)網(wǎng)絡(luò)本身就是一種高度復(fù)雜的非線性動(dòng)力系統(tǒng)的辨識(shí)模型,并且BP神經(jīng)網(wǎng)絡(luò)具有逼近任意非線性函數(shù)的能力[2],因此使用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行評(píng)價(jià)將使結(jié)果更具客觀性,以此來模擬一個(gè)穩(wěn)定的評(píng)分系統(tǒng)亦將具備了現(xiàn)實(shí)實(shí)現(xiàn)基礎(chǔ)。在本文提出的系統(tǒng)中,系統(tǒng)將評(píng)價(jià)體系中各組評(píng)分的分值作為反向傳播神經(jīng)網(wǎng)絡(luò)的輸入,使用BP網(wǎng)絡(luò)運(yùn)算后得出一個(gè)綜合性的評(píng)分,即整個(gè)過程好似系統(tǒng)模擬一個(gè)經(jīng)驗(yàn)頗豐的專家進(jìn)行打分。其后,本文又通過數(shù)據(jù)測(cè)試驗(yàn)證了模型的評(píng)價(jià)結(jié)果與實(shí)際相符。

1BP神經(jīng)網(wǎng)絡(luò)模型

BP(Back Propagation)神經(jīng)網(wǎng)絡(luò)是基于誤差反向傳播的多層前向神經(jīng)網(wǎng)絡(luò),即權(quán)值和閾值的調(diào)節(jié)規(guī)則采用了誤差反向傳播算法,這是一個(gè)有導(dǎo)師的神經(jīng)元網(wǎng)絡(luò)學(xué)習(xí)算法[2]。BP網(wǎng)絡(luò)能學(xué)習(xí)和存儲(chǔ)大量的輸入輸出模式映射關(guān)系,而無需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。該網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則是使用最速下降法,通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層(input)、隱層(hide layer)和輸出層(output layer)。其中的隱層可擴(kuò)展為多層。只要在隱層中有足夠數(shù)量的神經(jīng)元,就可使用這種網(wǎng)絡(luò)來逼近任何一個(gè)函數(shù)[3]。一個(gè)典型的BP網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

2評(píng)價(jià)模型的構(gòu)建

本文構(gòu)建了一套評(píng)價(jià)體系,使用一套客觀標(biāo)準(zhǔn)進(jìn)行量化表達(dá),且該體系適用于大多數(shù)學(xué)校的教學(xué)評(píng)價(jià)。評(píng)價(jià)項(xiàng)目中,各項(xiàng)指標(biāo)的取值范圍為[0,10]。多位專家將根據(jù)評(píng)價(jià)體系方案為每一位參評(píng)教師填表打分,經(jīng)過匯總后,每一個(gè)教師的教學(xué)情況評(píng)分將和一個(gè)評(píng)價(jià)矩陣A對(duì)應(yīng)。列向量x為各個(gè)項(xiàng)目指標(biāo),行向量e為各位專家評(píng)出的各項(xiàng)指標(biāo)分值。對(duì)列向量進(jìn)行均值計(jì)算,則得到各個(gè)教師的教學(xué)效果指標(biāo)向量S。所得教學(xué)效果指標(biāo)向量S即是神經(jīng)網(wǎng)絡(luò)的輸入。評(píng)價(jià)體系方案設(shè)計(jì)如表1所示。

表1教師教學(xué)評(píng)價(jià)體系

Tab.1 The system of teaching evaluation類別項(xiàng)目教學(xué)態(tài)度嚴(yán)謹(jǐn)負(fù)責(zé)x0; 思想教育x1;教學(xué)內(nèi)容教學(xué)目標(biāo)x2; 準(zhǔn)確度x3; 熟練程度x4; 信息量x5;教授方法啟發(fā)思維x6; 講授思路x7;重點(diǎn)難點(diǎn)x8;聯(lián)系實(shí)際x9;教學(xué)儀態(tài)x11;語言表述x12;媒體使用x14課堂效果課堂紀(jì)律x15;學(xué)生思維x16 圖2則為一個(gè)由6名專家給出的某位教師教學(xué)效果的評(píng)分矩陣。

3BP網(wǎng)絡(luò)模型的設(shè)計(jì)與實(shí)現(xiàn)

使用BP神經(jīng)網(wǎng)絡(luò)可以構(gòu)建穩(wěn)定的評(píng)分系統(tǒng)。人為打分時(shí)由于主觀因素的影響,分值出入較大,往往不能準(zhǔn)確地反映實(shí)際情況,為了避免對(duì)同一教師的教學(xué)評(píng)價(jià)出現(xiàn)較大反差,構(gòu)建一個(gè)穩(wěn)定的BP神經(jīng)網(wǎng)絡(luò)系統(tǒng)即已成為實(shí)踐發(fā)展過程中的一個(gè)必然要求。在系統(tǒng)實(shí)現(xiàn)過程中,一位專家首先根據(jù)本文提出的評(píng)分系統(tǒng)給出各項(xiàng)成績,并將此成績作為神經(jīng)網(wǎng)絡(luò)的輸入值。其后,這位專家再給出一個(gè)綜合評(píng)分,作為神經(jīng)網(wǎng)絡(luò)的樣本,即輸出值,以此即可對(duì)BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練。訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)就可以模擬該專家的打分經(jīng)驗(yàn),由此構(gòu)建形成一個(gè)穩(wěn)定的評(píng)分系統(tǒng)。

根據(jù)BP神經(jīng)網(wǎng)絡(luò)模型的定理(Kolmogrov 定理):給定任一連續(xù)函數(shù)f:[0,1]nRn,f可以用一個(gè)三層前向神經(jīng)網(wǎng)絡(luò)來模擬實(shí)現(xiàn)。第一層,即輸入層,有n個(gè)神經(jīng)元;中間層,神經(jīng)元個(gè)數(shù)可由經(jīng)驗(yàn)公式實(shí)驗(yàn)得出;第三層,輸出層有m個(gè)神經(jīng)元。因此一個(gè)三層結(jié)構(gòu)的、設(shè)有Sigmoid神經(jīng)元,并具有足夠隱節(jié)點(diǎn)的BP神經(jīng)網(wǎng)絡(luò)則可以逼近任何一個(gè)連續(xù)函數(shù)。本系統(tǒng)采用有三層結(jié)構(gòu)的BP神經(jīng)網(wǎng)絡(luò),其結(jié)構(gòu)如圖1所示。由于評(píng)價(jià)體系中有17個(gè)指標(biāo),因此網(wǎng)絡(luò)的輸入層有17個(gè)輸入。系統(tǒng)的輸出層則確定為1個(gè)節(jié)點(diǎn)。隱層神經(jīng)元個(gè)數(shù)將根據(jù)實(shí)驗(yàn)結(jié)果而確定為11個(gè)。隱層傳遞函數(shù)可使用“l(fā)ognsig”對(duì)數(shù)傳遞函數(shù)實(shí)現(xiàn),輸出層傳遞函數(shù)使用“pureline”純線性傳遞函數(shù)實(shí)現(xiàn)。訓(xùn)練函數(shù)則使用“traingdm”動(dòng)量梯度下降反向傳播法對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,另外,網(wǎng)絡(luò)性能函數(shù)使用了默認(rèn)的“mse”均方誤差函數(shù)。MATLAB中的主要代碼如下:

設(shè)有10位教師需要評(píng)分,因而使用10組分?jǐn)?shù)即17×10的矩陣作為10個(gè)教師的教學(xué)效果矩陣。教學(xué)效果矩陣即是神經(jīng)網(wǎng)絡(luò)的輸入矩陣,亦是訓(xùn)練樣本,矩陣的行向量為各項(xiàng)評(píng)價(jià)指標(biāo),10個(gè)樣本,即10位教師的最終評(píng)價(jià)結(jié)果則作為目標(biāo)樣本來訓(xùn)練神經(jīng)網(wǎng)絡(luò),獲取1×10矩陣為目標(biāo)矩陣,即10位教師的最終得分。實(shí)驗(yàn)中運(yùn)用Matlab編程建立三層BP神經(jīng)網(wǎng)絡(luò),目標(biāo)訓(xùn)練誤差為0.1,最大訓(xùn)練次數(shù)為 3 000次。訓(xùn)練誤差隨訓(xùn)練次數(shù)的變化情況如圖3所示,神經(jīng)網(wǎng)絡(luò)經(jīng)過909步迭代達(dá)到精度要求。對(duì)應(yīng)輸出與目標(biāo)的誤差如圖4所示。

訓(xùn)練樣本的輸出與專家打分結(jié)果比較如表2所示。

由表2可以看出,訓(xùn)練后的網(wǎng)絡(luò)輸出值與專家給出的終值之間的差異均在可接受的指標(biāo)范圍內(nèi),因此采用BP神經(jīng)網(wǎng)絡(luò)可以構(gòu)建穩(wěn)定的評(píng)分系統(tǒng)。

4結(jié)束語

在對(duì)教師教學(xué)效果的評(píng)價(jià)中存在著多種因素,本文構(gòu)建了一套較為合理的評(píng)價(jià)體系,并且提出使用BP神經(jīng)網(wǎng)絡(luò)對(duì)專家評(píng)分進(jìn)行模擬,利用神經(jīng)網(wǎng)絡(luò)可避免打分過程中出現(xiàn)的寬嚴(yán)不定的情況。實(shí)驗(yàn)證明,BP神經(jīng)網(wǎng)絡(luò)可以構(gòu)建穩(wěn)定的評(píng)分系統(tǒng),并取得了良好的實(shí)驗(yàn)效果。

參考文獻(xiàn):

[1]許東. 吳錚. 基于Matlab 的系統(tǒng)分析與設(shè)計(jì)—神經(jīng)網(wǎng)絡(luò)[M]. 西安:西安電子科技大學(xué)出版社,2003:18-19.

[2]胡守仁. 神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M] . 長沙:國防科技大學(xué)出版社,1993 :113 - 120.

[3]Martin T. Hagan, Howard B.demuth. 神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[M]. 北京:機(jī)械工業(yè)出版社 ,2002:227-255.

[4]郭齊勝. 系統(tǒng)建模原理方法[M]. 長沙:國防科技大學(xué)出版社,2003:172-173.

[5]袁劍. BP神經(jīng)網(wǎng)絡(luò)在學(xué)生綜合考評(píng)中的應(yīng)用[J]. 福建電腦,2010(6).

篇4

【關(guān)鍵詞】時(shí)間序列預(yù)測(cè);遲滯神經(jīng)網(wǎng)絡(luò);商品價(jià)格預(yù)測(cè)

1.前言

本文提出將電生物學(xué)中的遲滯特性引入傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)中,構(gòu)建前向型遲滯神經(jīng)網(wǎng)絡(luò),以達(dá)到改善預(yù)測(cè)模型泛化能力和聯(lián)想記憶能力的目的。

之后將遲滯神經(jīng)網(wǎng)絡(luò)模型應(yīng)用到商品價(jià)格指數(shù)預(yù)測(cè)上,并得出更準(zhǔn)確的預(yù)測(cè)效果。

商品零售價(jià)格指數(shù)是反映一定時(shí)期內(nèi)城鄉(xiāng)商品零售價(jià)格變動(dòng)趨勢(shì)和程度的相對(duì)數(shù)。商品零售價(jià)格指數(shù)的預(yù)測(cè)對(duì)企業(yè)的經(jīng)營決策具有重要的參考價(jià)值。

2.前向型遲滯神經(jīng)網(wǎng)絡(luò)模型

2.1 前向型遲滯神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)

將遲滯神經(jīng)元引入前向型神經(jīng)網(wǎng)絡(luò),同時(shí)使用兩個(gè)Sigmoid函數(shù)組成激勵(lì)函數(shù)如式所示:

其中,a、b作為Sigmoid函數(shù)的中心值,c1、c2表示函數(shù)圖形。在神經(jīng)元中包含的值在未來若是增加的話,激勵(lì)函數(shù)取上升階段的函數(shù);反之,激勵(lì)函數(shù)取下降階段的函數(shù)。未來的值不變時(shí),神經(jīng)元出現(xiàn)跳變,避免出現(xiàn)駐留狀態(tài),從而提高學(xué)習(xí)效率。

2.2 前向型遲滯神經(jīng)網(wǎng)絡(luò)

遲滯神經(jīng)元模型可以表述成公式:

其中,x是時(shí)間t的輸出,I0表示二值神經(jīng)元的輸入,y表示神經(jīng)元的狀態(tài),參數(shù)α表示自反饋的增益系數(shù)。將遲滯神經(jīng)元應(yīng)用在前向型神經(jīng)網(wǎng)絡(luò)中,前向型神經(jīng)網(wǎng)絡(luò)具有的特性在遲滯前向型神經(jīng)網(wǎng)絡(luò)中也具有。遲滯神經(jīng)網(wǎng)絡(luò)中a、b的值能提高神經(jīng)網(wǎng)絡(luò)的聯(lián)想記憶能力和非線性性能。

激勵(lì)函數(shù)由兩個(gè)平移的Sigmoid函數(shù)組成,參數(shù)a和b是兩個(gè)Sigmoid函數(shù)的中心參數(shù),參數(shù)c1和c2是形狀參數(shù)。上述激勵(lì)函數(shù)在(-∞, +∞)區(qū)間內(nèi)構(gòu)成了一個(gè)遲滯環(huán),激勵(lì)函數(shù)的響應(yīng)與歷史輸入有關(guān),激勵(lì)函數(shù)對(duì)歷史狀態(tài)具有記憶特性。當(dāng)神經(jīng)元的輸入狀態(tài)由增加變?yōu)闇p小,或由減小變?yōu)樵黾訒r(shí),激勵(lì)函數(shù)將在兩條分支曲線間跳變,權(quán)值調(diào)節(jié)率較大,由此抑制了假飽和現(xiàn)象的發(fā)生,易于網(wǎng)絡(luò)的訓(xùn)練和泛化能力的提高。

采用上述激勵(lì)函數(shù),構(gòu)造與BP神經(jīng)網(wǎng)絡(luò)相似的遲滯前向型神經(jīng)網(wǎng)絡(luò)如圖1所示:網(wǎng)絡(luò)輸入層神經(jīng)元數(shù)量為m,輸出層神經(jīng)元數(shù)量為n,隱含層神經(jīng)元數(shù)量為l,fi為遲滯函數(shù),同時(shí)采用誤差反向傳播方法訓(xùn)練網(wǎng)絡(luò)參數(shù),進(jìn)行時(shí)間序列預(yù)測(cè)分析。由此構(gòu)造的神經(jīng)網(wǎng)絡(luò)具有良好的記憶特性體現(xiàn)出良好的泛化能力。

圖1 遲滯前向型神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

2.3 前向型遲滯神經(jīng)網(wǎng)絡(luò)流程

前向型遲滯神經(jīng)網(wǎng)絡(luò)采用誤差反向傳播算法,前向型遲滯神經(jīng)網(wǎng)絡(luò)的計(jì)算過程流程圖如圖2所示:

圖2 前向型遲滯神經(jīng)網(wǎng)絡(luò)流程圖

使用遲滯神經(jīng)元組成的前向型遲滯神經(jīng)網(wǎng)絡(luò)的計(jì)算流程將普通的激勵(lì)函數(shù)變成遲滯激勵(lì)函數(shù),再進(jìn)行計(jì)算、網(wǎng)絡(luò)訓(xùn)練等,直到誤差達(dá)到要求。

3.遲滯神經(jīng)網(wǎng)絡(luò)在商品價(jià)格指數(shù)預(yù)測(cè)的應(yīng)用

商品零售價(jià)格指數(shù)是反映一定時(shí)期內(nèi)城鄉(xiāng)商品零售價(jià)格變動(dòng)趨勢(shì)和程度的相對(duì)數(shù)。商品零售價(jià)格指數(shù)的預(yù)測(cè)對(duì)企業(yè)的經(jīng)營決策具有重要意義。

采用上述遲滯神經(jīng)網(wǎng)絡(luò)對(duì)我國社會(huì)商品零售價(jià)格指數(shù)進(jìn)行預(yù)測(cè)分析。令輸入層神經(jīng)元為10,輸出層神經(jīng)元為30,隱含層神經(jīng)元為1。以1950年為基準(zhǔn)折算獲得的定基數(shù)據(jù),將《中國統(tǒng)計(jì)年鑒》中的社會(huì)商品零售價(jià)格指數(shù)作為實(shí)驗(yàn)數(shù)據(jù)進(jìn)行仿真實(shí)驗(yàn)。在實(shí)驗(yàn)過程中,將前30個(gè)數(shù)據(jù)作為訓(xùn)練樣本進(jìn)行訓(xùn)練,達(dá)到指定次數(shù)后,預(yù)測(cè)下一個(gè)數(shù)據(jù),并根據(jù)預(yù)測(cè)誤差重新進(jìn)行訓(xùn)練,達(dá)到指定次數(shù)后再預(yù)測(cè)下一個(gè)數(shù)據(jù),以此類推所得實(shí)驗(yàn)結(jié)果預(yù)測(cè)曲線如圖3所示:

圖3 我國商品零售價(jià)格指數(shù)預(yù)測(cè)結(jié)果

從實(shí)驗(yàn)結(jié)果可見,遲滯神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)對(duì)訓(xùn)練樣本的逼近能力相差不多,對(duì)測(cè)試樣本的泛化能力差別較大,遲滯神經(jīng)網(wǎng)絡(luò)具有更小的平均誤差。在時(shí)間序列變化較為平緩的區(qū)間,兩者預(yù)測(cè)誤差都較小,在序列變化激烈的區(qū)間,預(yù)測(cè)誤差變大。從總體效果來看,遲滯神經(jīng)網(wǎng)絡(luò)由于具有更好的存儲(chǔ)記憶能力,更好的泛化能力和預(yù)測(cè)效果,能夠有效地實(shí)現(xiàn)對(duì)商品零售價(jià)格指數(shù)的預(yù)測(cè)分析。

參考文獻(xiàn)

[1]LI G C,WU T,XU S.Prediction model of population gross based on grey artificial neural network and its puter Engineering and Applications,2009,45(16):215-218.(李國成,吳濤,徐沈.灰色人工神經(jīng)網(wǎng)絡(luò)人口總量預(yù)測(cè)模型及應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用,2009,45(16):215-218).

篇5

關(guān)鍵詞關(guān)鍵詞:MATLAB編程;數(shù)字識(shí)別;圖像處理;神經(jīng)網(wǎng)絡(luò)

DOIDOI:10.11907/rjdk.162852

中圖分類號(hào):TP319

文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào)文章編號(hào):16727800(2017)005004704

0引言

圖像識(shí)別是一項(xiàng)利用計(jì)算機(jī)對(duì)圖像進(jìn)行處理、分析和理解,以識(shí)別各種不同模式目標(biāo)和對(duì)象的技術(shù)[1]。圖像識(shí)別技術(shù)目前還不能達(dá)到人類的認(rèn)知水平,但在特定應(yīng)用環(huán)境中,可以通過模式識(shí)別或者神經(jīng)網(wǎng)絡(luò)的方法來對(duì)圖像中的事物進(jìn)行分類判斷。一般而言,一個(gè)數(shù)字字符識(shí)別系統(tǒng)主要由3個(gè)部分組成,如圖1所示。

圖1系統(tǒng)組成

其中,預(yù)處理模塊將圖片格式(例如JPG格式)轉(zhuǎn)換為計(jì)算機(jī)能識(shí)別的二進(jìn)制數(shù)據(jù)流;圖像處理模塊則實(shí)現(xiàn)圖像采集與轉(zhuǎn)換、邊緣提取、歸一化等功能;字符識(shí)別模塊可以由兩種方法實(shí)現(xiàn):模式識(shí)別或者神經(jīng)網(wǎng)絡(luò)方式,本文系統(tǒng)采用神經(jīng)網(wǎng)絡(luò)方式。

1識(shí)別目標(biāo)及預(yù)期結(jié)果

此系統(tǒng)識(shí)別目標(biāo)是在沒有強(qiáng)干擾下,系統(tǒng)能夠準(zhǔn)確識(shí)別出圖片中的0~9這10個(gè)數(shù)字。示例圖片如圖2所示。

系統(tǒng)識(shí)別中所用到的含單個(gè)數(shù)字的圖片取自圖2,均為純色背景(不一定必須為白色背景)圖片,且圖片中數(shù)字圖像無較大噪聲干擾。系統(tǒng)經(jīng)過一系列處理后,能成功識(shí)別,給出識(shí)別結(jié)果,并且給出處理過程中各個(gè)階段的圖片,以便更好地理解圖像處理過程。

2預(yù)處理

預(yù)處理是將圖片二值化的過程。預(yù)處理的目的簡單來說就是把彩色圖片處理為計(jì)算機(jī)更好處理的二進(jìn)制數(shù)據(jù)流。預(yù)處理的過程主要分兩部分:彩色圖轉(zhuǎn)灰白圖,灰白圖轉(zhuǎn)二進(jìn)制矩陣形式數(shù)據(jù)。

目前用于彩色圖轉(zhuǎn)換為灰度圖的基本算法主要有:最大值法、平均值法、加權(quán)法,本文采用加權(quán)法。加權(quán)法的主要思想是設(shè)當(dāng)前像素的三分量分別為R,G,B,然后利用公式(1)得到轉(zhuǎn)換后的像素分量值:

GRAY=0.3*R+0.59*G+0.11*B(1)

在MATLAB中,函數(shù)img2gray就是采用加權(quán)法實(shí)現(xiàn)的。圖像二值化就是將圖像像素點(diǎn)的灰度值設(shè)置為0或255,也就是將整個(gè)圖像呈現(xiàn)出明顯的黑白效果。二值化的處理過程是將圖像中有意義的特征和需要應(yīng)用的特征進(jìn)行分割,利用前景和背景灰度特性的差異,低于閾值的像素設(shè)定為一個(gè)灰度值,高于閾值的像素設(shè)定為另一個(gè)灰度值。這樣可將前景色與背景色以明顯差異的灰度級(jí)區(qū)分開來[2]。閾值選取有手動(dòng)選取和自適應(yīng)選取兩種方法。MATLAB中圖像二值化的實(shí)現(xiàn)主要依靠im2bw函數(shù)來實(shí)現(xiàn)。圖像二值化過程中,最重要的是閾值變換。比如數(shù)組a=[120,254,0,200,99],設(shè)定一個(gè)閾值125,并對(duì)a進(jìn)行閾值變換,那么a中凡是大于125的,則變?yōu)?55,小于等于125的則變?yōu)?。具體對(duì)臨界情況處理可能不同,不過MATLAB中im2bw函數(shù)是按照上述方法處理的。a經(jīng)過閾值變換后變?yōu)閇0,255,0,255,0]。在MATLAB中使用im2bw函數(shù)進(jìn)行圖像二值化處理時(shí)(將圖像轉(zhuǎn)換為二值圖像),人為設(shè)定閾值并不總是十分有效。MATLAB工具箱提供了graythresh函數(shù)[3]。該函數(shù)使用最大類間方差法得到一個(gè)閾值,利用這個(gè)閾值進(jìn)行圖像二值化通常有效。

經(jīng)過預(yù)處理后得到的二值化圖像,還要經(jīng)過一系列圖像處理過程,才能用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練。

3圖像處理

圖像處理的目的是將圖片變?yōu)樯窠?jīng)網(wǎng)絡(luò)能處理的數(shù)據(jù)流。圖像處理流程如下:

(1)利用梯度銳化。使得圖像更加突出,以便分析。算法:當(dāng)前點(diǎn)像素值與其下一個(gè)像素值之差的絕對(duì)值,加上當(dāng)前點(diǎn)像素值與其下一行當(dāng)前像素值之差的絕對(duì)值,如果結(jié)果大于閾值,則當(dāng)前像素值置為此結(jié)果。

(2)去除離散噪聲。利用遞歸方法查找當(dāng)前像素8個(gè)方向是否存在黑色像素,這里設(shè)置連續(xù)長度為15,如果用遞歸方法得到連續(xù)像素值大于15,則認(rèn)為不是噪聲;相反,則認(rèn)為是噪聲,則置為白色像素。

(3)字符傾斜度調(diào)整。盡量保存每個(gè)字符的位置一致。

(4)分割字符。找出每個(gè)字符的區(qū)域,用矩形記錄,記錄每個(gè)字符矩形數(shù)據(jù)。

(5)字符歸一化。根據(jù)圖像預(yù)處理準(zhǔn)備階段設(shè)置的歸一化標(biāo)準(zhǔn),把每個(gè)字符的區(qū)域進(jìn)行歸一化,使得所有字符區(qū)域矩形一樣大,只是位置不一樣。

(6)字符緊密排列。把所有字符緊密排列,以備識(shí)別使用。

本文示例樣本圖片中只有單個(gè)數(shù)字,且無較大干擾,所以不需要去除離散噪聲、字符傾斜度調(diào)整、分割字符和字符緊密排列等步驟。經(jīng)過預(yù)處理的圖像數(shù)據(jù),只需要進(jìn)行銳化和歸一化處理,就可以用于神經(jīng)網(wǎng)絡(luò)訓(xùn)練。

圖像梯度銳化的目的是使原來的模糊圖像變得清晰。MATLAB中使用的梯度函數(shù)為gradient函數(shù)。Gradient(F)函數(shù)求的是數(shù)值上的梯度,計(jì)算規(guī)則:[Fx,F(xiàn)y]=gradient(F),其中Fx為其水平方向上的梯度,F(xiàn)y為其垂直方向上的梯度,F(xiàn)x的第一列元素為原矩陣第二列與第一列元素之差,F(xiàn)x的第二列元素為原矩陣第三列與第一列元素之差除以2,以此類推,如公式(2)。

最后一列則為最后兩列之差。同理,可以得到Fy。

歸一化就是把需要處理的數(shù)據(jù)經(jīng)過處理后(通過某種算法)限制在要求范圍內(nèi)。對(duì)于圖像處理中的w一化而言,就是將所有數(shù)字圖像中的字符歸化成為一個(gè)具有同一高度、同一寬度的圖像,也即讓其中的字符具有同樣規(guī)格。MATLAB中用于實(shí)現(xiàn)圖像矩陣歸一化功能的函數(shù)是mat2gray函數(shù)[5]。該函數(shù)在數(shù)字圖像處理中經(jīng)常用到,歸一化的具體流程如圖4所示。

經(jīng)過歸一化處理之后的圖片數(shù)據(jù),將其存儲(chǔ)在一個(gè)矩陣中,用于神經(jīng)網(wǎng)絡(luò)的訓(xùn)練。

4神經(jīng)網(wǎng)絡(luò)訓(xùn)練

人工神經(jīng)網(wǎng)絡(luò)算法主要有兩種:一種是先對(duì)待識(shí)別字符進(jìn)行特征提取,然后用所獲得的特征來訓(xùn)練神經(jīng)網(wǎng)絡(luò)分類器[6];另一種方法是直接把待處理圖像輸入網(wǎng)絡(luò),由網(wǎng)絡(luò)自動(dòng)實(shí)現(xiàn)特征提取直至識(shí)別出結(jié)果。前一種方法識(shí)別結(jié)果與特征提取有關(guān),而特征提取比較耗時(shí)。因此,特征提取是關(guān)鍵。后一種方法無需特征提取和模板匹配,隨著相關(guān)技術(shù)的進(jìn)步,這種方法更實(shí)用。

神經(jīng)網(wǎng)絡(luò)有許多種,在MATLAB中已經(jīng)有集成神經(jīng)網(wǎng)絡(luò)工具箱。本文系統(tǒng)中,對(duì)數(shù)字圖像的識(shí)別采用BP神經(jīng)網(wǎng)絡(luò)來進(jìn)行訓(xùn)練。BP神經(jīng)網(wǎng)絡(luò)為前饋神經(jīng)網(wǎng)絡(luò),網(wǎng)絡(luò)的學(xué)習(xí)狀態(tài)為有導(dǎo)師學(xué)習(xí)狀態(tài)。它是一種具有學(xué)習(xí)能力和記憶能力的神經(jīng)網(wǎng)絡(luò),主要由輸入層、中間層、輸出層3個(gè)部分組成。輸入層、中間層和輸出層可以具有不同數(shù)量的節(jié)點(diǎn),具體數(shù)量隨需求而定,沒有具體的標(biāo)準(zhǔn)。單層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖6所示。

BP神經(jīng)網(wǎng)絡(luò)是誤差反傳誤差反向傳播算法的學(xué)習(xí)過程,由誤差的反向傳播和信息的正向傳播兩個(gè)過程組成[7]。輸入層各神經(jīng)元首先接收來自外界的輸入信息,然后傳遞給中間層各神經(jīng)元;輸入信息經(jīng)過中間層內(nèi)部信息處理,實(shí)現(xiàn)信息變換,按照信息變化能力需要,中間層可以布局成多隱層或者單隱層結(jié)構(gòu);最后,一個(gè)隱層傳遞把信息傳遞給輸出層,通過進(jìn)一步處理,實(shí)現(xiàn)一次學(xué)習(xí)的正向傳播處理過程,輸出層把信息處理結(jié)果輸向外界。當(dāng)輸出結(jié)果和預(yù)先期望效果不符時(shí),就進(jìn)行誤差反向傳播。誤差通過輸出層,根據(jù)誤差梯度下降的方式改變各層權(quán)值,由隱層向輸入層依次反傳。多次交替的信息正向傳播和誤差反向傳播過程,是各層連續(xù)修正的過程,也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程,這個(gè)步驟一直執(zhí)行到最終輸出的誤差降低到能夠接受的范圍,或者預(yù)先輸入的學(xué)習(xí)次數(shù)為止。

此系統(tǒng)中所使用的神經(jīng)網(wǎng)絡(luò)在中間層設(shè)置25個(gè)節(jié)點(diǎn),1個(gè)輸出節(jié)點(diǎn)。此系統(tǒng)采用三層神經(jīng)網(wǎng)絡(luò)來實(shí)現(xiàn)。采用s型對(duì)數(shù)函數(shù)logsig作為隱含層各神經(jīng)元的傳遞函數(shù),并采用純線性函數(shù)purelin作為輸出層各神經(jīng)元的傳遞函數(shù)。此神經(jīng)網(wǎng)絡(luò)的訓(xùn)練函數(shù)采用traingdx,學(xué)習(xí)模式函數(shù)為learngdm。訓(xùn)練步數(shù)最長設(shè)為5 000,性能目標(biāo)設(shè)為0.001。

神經(jīng)網(wǎng)絡(luò)模塊的部分代碼如下:

net=newff(pr,[25 1],{'logsig' 'purelin'},'traingdx','learngdm');

net.trainParam.epochs=5000;

net.trainParam.goal=0.001;

pr為前面圖像處理所獲得的矩陣數(shù)據(jù)。

神經(jīng)網(wǎng)絡(luò)的訓(xùn)練結(jié)果如圖7所示。神經(jīng)網(wǎng)絡(luò)的性能曲線如圖8所示。

5用艚換

考慮到該系統(tǒng)具有一定交互功能,讓用戶能自主選擇需要識(shí)別的圖片,向系統(tǒng)中添加如下代碼段:

test=input('請(qǐng)輸入用于測(cè)試的圖片編號(hào):','s');

x=imread(test,'jpg');

開始運(yùn)行時(shí),會(huì)提醒用戶選擇需要識(shí)別的圖片編號(hào),效果如圖9所示。

用戶輸入需要識(shí)別的圖片序號(hào)后,系統(tǒng)給出識(shí)別結(jié)果和圖像處理各階段中的圖片,此處用subplot函數(shù)來實(shí)現(xiàn)一個(gè)窗口中顯示多張圖片的效果,部分代碼如下:

6結(jié)語

通過樣本識(shí)別驗(yàn)證,本文數(shù)字識(shí)別系統(tǒng)具有一定識(shí)別精度。本系統(tǒng)基本做到樣本圖片的100%識(shí)別,對(duì)于其它只有單數(shù)字的圖片,經(jīng)過訓(xùn)練之后,也能準(zhǔn)確識(shí)別。本系統(tǒng)實(shí)現(xiàn)了部分人機(jī)交互功能,能讓用戶自主選擇需要識(shí)別的圖片,并輸出識(shí)別結(jié)果和各個(gè)處理過程中的圖片。

參考文獻(xiàn)參考文獻(xiàn):

[1]岡薩雷斯.數(shù)字圖像處理(MATLAB版)[M].阮秋琦,譯.北京:電子工業(yè)出版社,2006.

[2]梁路宏,艾海舟,徐光佑,人臉檢測(cè)研究綜述[J].計(jì)算機(jī)學(xué)報(bào),2002,25(5):449458.

[3]羅華飛.MATLAB GUI設(shè)計(jì)學(xué)習(xí)手記[M].北京:北京航空航天大學(xué)出版社,2009.

[4]聶影.MATLAB軟件應(yīng)用研究[J].軟件導(dǎo)刊,2014,13(7):102104.

[5]趙春蘭.《MATLAB軟件應(yīng)用》課程教學(xué)淺析[J].科技創(chuàng)新導(dǎo)報(bào),2015(22):178179.

篇6

股票市場(chǎng)是一個(gè)非線性的系統(tǒng),本文基于BP神經(jīng)網(wǎng)絡(luò),以1998年~2008年的上證股市大盤增幅數(shù)據(jù)作為訓(xùn)練,對(duì)以后的一年多數(shù)據(jù)進(jìn)行驗(yàn)證,以證實(shí)神經(jīng)網(wǎng)絡(luò)對(duì)股市的預(yù)測(cè)。

[關(guān)鍵詞]BP神經(jīng)網(wǎng)絡(luò)股票市場(chǎng)預(yù)測(cè)驗(yàn)證

一、 神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是由大量處理單元廣泛互聯(lián)而成的網(wǎng)絡(luò),是對(duì)人腦的抽象、簡化和模擬,反映人腦的基本特性,它與人腦的相似之處概括為兩個(gè)方面:一是通過學(xué)習(xí)過程利用神經(jīng)網(wǎng)絡(luò)從外部環(huán)境中獲取知識(shí);二是內(nèi)部神經(jīng)元(突觸權(quán)值)用來存儲(chǔ)獲取的知識(shí)信息。

一般的神經(jīng)網(wǎng)絡(luò)都是可調(diào)節(jié)的,或者說可訓(xùn)練的,這樣一個(gè)特定的輸入便可得到要求的輸出。如圖1.1所示:

圖1.1 輸入/目標(biāo)對(duì)應(yīng)的方法圖

1.人工神經(jīng)元

人工神經(jīng)元是生物神經(jīng)元的模擬與抽象,是構(gòu)成人工神經(jīng)網(wǎng)絡(luò)的基本單元,因此構(gòu)造一個(gè)人工神經(jīng)網(wǎng)絡(luò)系統(tǒng),首先要構(gòu)造人工神經(jīng)元模型。一個(gè)具有n個(gè)輸入分量的單個(gè)神經(jīng)元模型如圖所示:

圖1.2 單 個(gè) 人 工 神 經(jīng) 元 模 型

人工神經(jīng)元的三個(gè)基本要素:

(1)一組連接,連接強(qiáng)度由各連接上的權(quán)值表示,權(quán)值為正表示激活,為負(fù)表示抑制。

(2)一個(gè)求和單元,用于求取各輸入信號(hào)的加權(quán)和。

(3)一個(gè)非線性激活函數(shù),起非線性映射作用并將神經(jīng)元輸出幅度限制在一定范圍內(nèi)(一般限制在[0, 1或[-1, +1]之間)。

此外還有一個(gè)偏差,即與閾值θ

人工神經(jīng)元相當(dāng)于一個(gè)多輸入單輸出的非線性閾值器件。這里 的表示它的n個(gè)輸入,表示與它相連的n個(gè)突觸的連接強(qiáng)度,對(duì)應(yīng)于生物神經(jīng)細(xì)胞的膜電位;o表示這個(gè)人工神經(jīng)元的輸出;θ表示這個(gè)人工神經(jīng)元的閾值.如果輸入信號(hào)的加權(quán)和超過θ,則人工神經(jīng)元被激活。這樣,人工神經(jīng)元的輸出可描述為,式中,表示神經(jīng)元的輸入輸出關(guān)系的函數(shù)稱為激活函數(shù)或輸出函數(shù)。

人工信息元的信息處理過程分為三個(gè)部分,首先完成輸入信號(hào)與神經(jīng)元連接強(qiáng)度的內(nèi)積運(yùn)算,然后再將結(jié)果通過激活函數(shù),再經(jīng)過閾值的判斷,如果輸入值大于閾值門限,則神經(jīng)元被激活,否則處于抑制狀態(tài)。

2.人工神經(jīng)網(wǎng)絡(luò)模型

人工神經(jīng)網(wǎng)絡(luò)是由大量的神經(jīng)元按照一定的模式(層內(nèi)連接、循環(huán)連接和層間連接)相互連接而成的。按一定規(guī)則將神經(jīng)元連接而成神經(jīng)網(wǎng)絡(luò),才能實(shí)現(xiàn)對(duì)復(fù)雜信息的處理與存儲(chǔ)。經(jīng)過幾十年的興衰,人們己經(jīng)發(fā)展了上百種人工神經(jīng)網(wǎng)絡(luò),但大部分網(wǎng)絡(luò)都是幾種典型網(wǎng)絡(luò)的變形和組合。一般地說,人工神經(jīng)網(wǎng)絡(luò)的連接形式和拓?fù)浣Y(jié)構(gòu)可分為兩大類:即分層型和互聯(lián)型神經(jīng)網(wǎng)絡(luò)。分層型神經(jīng)網(wǎng)絡(luò)又分為簡單的前饋網(wǎng)絡(luò)、反饋型前饋網(wǎng)絡(luò)、和內(nèi)層互聯(lián)前饋網(wǎng)絡(luò)。

二、 BP網(wǎng)絡(luò)理論

1.BP網(wǎng)絡(luò)概述

目前,在眾多神經(jīng)網(wǎng)絡(luò)中,誤差反向傳播(Error Back Propagation)網(wǎng)絡(luò)由于其良好的逼近能力和成熟的訓(xùn)練方法而得到了最為廣泛的應(yīng)用。BP網(wǎng)絡(luò)由Rumelhat等人于1985年建立,它是一種多層前饋神經(jīng)網(wǎng)絡(luò),由一個(gè)輸入層、一個(gè)輸出層和若干個(gè)隱含層所組成。位于同一層的單元之間不允許有連接,各層的單元只能向高層的單元輸出激活信號(hào)。BP算法是用于前饋多層網(wǎng)絡(luò)的學(xué)習(xí)算法,前饋多層網(wǎng)絡(luò)的結(jié)構(gòu)一般如圖2.1所示

BP網(wǎng)絡(luò)含有輸入層、輸出層以及處于輸入輸出層之間的中間層。中間層有單層或多層,由于它們和外界沒有直接的聯(lián)系,故也稱為隱層。在隱層中的神經(jīng)元也稱隱單元。隱層雖然和外界不連接.但是,它們的狀態(tài)則影響輸入輸出之間的關(guān)系。這也是說,改變隱層的權(quán)系數(shù),可以改變整個(gè)多層神經(jīng)網(wǎng)絡(luò)的性能。

2. BP網(wǎng)絡(luò)的學(xué)習(xí)過程

BP網(wǎng)絡(luò)采用有教師的學(xué)習(xí)規(guī)則,其算法的核心是通過一邊向后傳播誤差,一邊修正誤差的方法來不斷調(diào)節(jié)網(wǎng)絡(luò)參數(shù)(權(quán)、閥值),以實(shí)現(xiàn)或逼近所希望的輸入、輸出映射關(guān)系。它對(duì)每一個(gè)學(xué)習(xí)過程進(jìn)行兩趟傳播計(jì)算

(1)工作信號(hào)正向傳播

輸入信號(hào)從輸入層經(jīng)隱含層,在輸出端產(chǎn)生輸出信號(hào)。在信號(hào)的向前傳遞過程中網(wǎng)絡(luò)的權(quán)值保持不變,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)。如果在輸出層不能得到期望的輸出,則轉(zhuǎn)入誤差信號(hào)的反向傳播。

(2)誤差信號(hào)反向傳播

網(wǎng)絡(luò)的實(shí)際輸出與期望輸出之間差值即為誤差信號(hào),誤差信號(hào)由輸出端逐層向前傳播。在誤差信號(hào)反向傳播的過程中,網(wǎng)絡(luò)的權(quán)值由誤差反饋進(jìn)行調(diào)解。通過權(quán)值的不斷修正使網(wǎng)絡(luò)的實(shí)際輸出更接近期望輸出。

3.BP算法的改進(jìn)

在實(shí)際應(yīng)用中,傳統(tǒng)的基于標(biāo)準(zhǔn)梯度下降法的BP算法在求解實(shí)際問題時(shí)很難勝任。為此,人們?cè)跇?biāo)準(zhǔn)BP算法的基礎(chǔ)上進(jìn)行了許多有益的改進(jìn),主要目標(biāo)是為了加快訓(xùn)練速度,避免陷入局部極小值和改善其能力。改進(jìn)后的BP網(wǎng)絡(luò)的訓(xùn)練收斂速度比標(biāo)準(zhǔn)梯度下降法快數(shù)十倍乃至數(shù)百倍。

BP算法的改進(jìn)分為兩類,一類是基于標(biāo)準(zhǔn)梯度下降法的算法改進(jìn),如動(dòng)量、自適應(yīng)學(xué)習(xí)速率法、彈性BP法等;另一類是基于數(shù)值優(yōu)化方法的改進(jìn),如共軛梯度法、擬牛頓法、LM算法等。這里介紹最常用的兩種方法:動(dòng)量法、自適應(yīng)學(xué)習(xí)速率法。

(1)附加動(dòng)量的BP算法

標(biāo)準(zhǔn)BP算法的權(quán)值調(diào)節(jié)公式為,式中,為本次權(quán)值校正量,k為訓(xùn)練次數(shù),為學(xué)習(xí)速率,為節(jié)點(diǎn)誤差,為該節(jié)點(diǎn)相應(yīng)的輸入值。

附加動(dòng)量法每一次對(duì)連接權(quán)或輸出閾值進(jìn)行校正時(shí),按一定比例加上前一次學(xué)習(xí)時(shí)的校正量,即動(dòng)量項(xiàng),由此加速網(wǎng)絡(luò)學(xué)習(xí)的收斂速度。具體做法是,上式中,mc為動(dòng)量因子(0

該方法是在反向傳播法的基礎(chǔ)上在每一個(gè)權(quán)值的變化上加上一項(xiàng)正比前次權(quán)值變化量的值,并根據(jù)反向傳播法來產(chǎn)生新的權(quán)值變化。

附加動(dòng)量法的實(shí)質(zhì)是將最后一次權(quán)值的影響,通過一個(gè)動(dòng)量因子來傳遞。當(dāng)動(dòng)量因子取值為零時(shí),權(quán)值的變化僅是根據(jù)梯度下降法產(chǎn)生;當(dāng)動(dòng)量因子取值為1時(shí),新的權(quán)值變化則是設(shè)置為最后一次權(quán)值的變化,而依梯度法產(chǎn)生的變化部分則被忽略掉了。以此方式,當(dāng)增加了動(dòng)量后,促使權(quán)值的調(diào)節(jié)向著誤差曲面底部的平均方向變化,當(dāng)網(wǎng)絡(luò)權(quán)值進(jìn)入誤差曲面底部的平坦區(qū)時(shí),將變得很小,于是,從而防止了的出現(xiàn),有助于使網(wǎng)絡(luò)從誤差曲面的局部極小值中跳出。

根據(jù)附加動(dòng)量法的設(shè)計(jì)原理,當(dāng)修正的權(quán)值在誤差中導(dǎo)致太大的增長結(jié)果是,新的權(quán)值應(yīng)被取消而不被采用,并使動(dòng)量作用停止下來,以使網(wǎng)絡(luò)不進(jìn)入較大誤差曲面;當(dāng)新的誤差變化率對(duì)其舊值超過一個(gè)事先設(shè)定的最大誤差變化率時(shí),也得取消所計(jì)算的權(quán)值變化。其最大誤差變化率可以是任何大于或等于1的值。典型的值取1.04。所以在進(jìn)行附加動(dòng)量法的訓(xùn)練程序設(shè)計(jì)時(shí),必須加進(jìn)條件判斷。

訓(xùn)練程序中對(duì)采用動(dòng)量法的判斷條件為:

式中,k為訓(xùn)練次數(shù),SSE為網(wǎng)絡(luò)誤差平方和。

附加動(dòng)量的引入可使網(wǎng)絡(luò)在修正其權(quán)值時(shí),不僅考慮局部的梯度信息,而且考慮誤差曲面最近的變化趨勢(shì),其作用如同一個(gè)低通濾波器,它允許網(wǎng)絡(luò)忽略網(wǎng)絡(luò)上的微小變化特性。在沒有附加動(dòng)量的作用下,網(wǎng)絡(luò)可能陷入淺的局部極小值,利用附加動(dòng)量的作用則有可能滑過這些極小值 。

(2)自適應(yīng)學(xué)習(xí)率調(diào)整的BP算法

在標(biāo)準(zhǔn)BP算法的權(quán)值調(diào)節(jié)公式中, 是步長,表示學(xué)習(xí)速率,在訓(xùn)練過程中始終保持不變。對(duì)于一個(gè)特定的問題,要選擇適當(dāng)?shù)膶W(xué)習(xí)速率不是一件容易的事情。通常是憑經(jīng)驗(yàn)或?qū)嶒?yàn)獲取,但即使這樣,對(duì)訓(xùn)練開始初期功效較好的學(xué)習(xí)速率,不見得對(duì)后來的訓(xùn)練合適。為了解決這一問題,人們希望在訓(xùn)練過程中,自動(dòng)調(diào)整學(xué)習(xí)速率。通常調(diào)節(jié)學(xué)習(xí)速率的準(zhǔn)則是:檢查權(quán)值的修正值是否真正降低了誤差函數(shù),如果確實(shí)如此 ,則說明所選取的學(xué)習(xí)速率可能小了,可以對(duì)其增加一個(gè)適當(dāng)?shù)牧?若不是這樣,而產(chǎn)生了過調(diào),那么就應(yīng)該減小學(xué)習(xí)速率的值。

自適應(yīng)學(xué)習(xí)率調(diào)整的基本思想是:在保持訓(xùn)練穩(wěn)定的前提下,使每次用于修正權(quán)值的迭代步長盡可能大。較大時(shí),權(quán)值的修改量較大,學(xué)習(xí)的速率就比較快,但有時(shí)可能產(chǎn)生振蕩,即誤差 總不能小于某個(gè)特別小的值。而當(dāng)取較小值時(shí),學(xué)習(xí)的速率就較慢,但一般比較平穩(wěn),將使計(jì)算量變得很大。自適應(yīng)學(xué)習(xí)率調(diào)整這一策略在誤差增加不太大的范圍內(nèi),能提高學(xué)習(xí)速率,在局部區(qū)域內(nèi)獲得有一個(gè)近最優(yōu)的學(xué)習(xí)速率,從而得到比標(biāo)準(zhǔn)BP算法更快的收斂速度。

下式給出了一種自適應(yīng)學(xué)習(xí)速率的調(diào)整公式

式中,k為訓(xùn)練次數(shù),SSE為網(wǎng)絡(luò)誤差平方和。

初始學(xué)習(xí)速率的選取范圍可以有很大的隨意性。

與采用附加動(dòng)量時(shí)的判斷條件相仿,當(dāng)新誤差超過舊誤差一定的倍數(shù)時(shí),學(xué)習(xí)速率將減小,否則其學(xué)習(xí)速率保持不變;當(dāng)新誤差小于舊誤差時(shí),學(xué)習(xí)速率將被增加。此方法可以保證網(wǎng)絡(luò)總是可以以最大可接受的學(xué)習(xí)速率進(jìn)行訓(xùn)練。當(dāng)一個(gè)較大的學(xué)習(xí)速率仍能夠使用網(wǎng)絡(luò)穩(wěn)定學(xué)習(xí),使其誤差繼續(xù)下降,則增加學(xué)習(xí)速率,使其以更大的學(xué)習(xí)速率進(jìn)行學(xué)習(xí)。一旦學(xué)習(xí)速率調(diào)得過大,而不能保證誤差繼續(xù)減少,則減少學(xué)習(xí)速率直到使其學(xué)習(xí)過程穩(wěn)定為止。

4.提高網(wǎng)絡(luò)的推廣能力

推廣能力(Generalization)是衡量神經(jīng)網(wǎng)絡(luò)性能好壞的重要標(biāo)志。所謂推廣能力,就是指神經(jīng)網(wǎng)絡(luò)對(duì)訓(xùn)練樣本以外的新樣本數(shù)據(jù)的正確反映能力。一個(gè)“過度訓(xùn)練”(overtraining)的神經(jīng)網(wǎng)絡(luò)可能會(huì)對(duì)訓(xùn)練樣本集達(dá)到較高的匹配效果,但對(duì)于一個(gè)新的輸入樣本矢量卻可能會(huì)產(chǎn)生與目標(biāo)矢量差別較大的輸出,即神經(jīng)網(wǎng)絡(luò)不具有或具有較差的推廣能力。

網(wǎng)絡(luò)設(shè)計(jì)完成后,要運(yùn)用樣本集進(jìn)行訓(xùn)練。對(duì)推廣能力的測(cè)試不能用訓(xùn)練集的數(shù)據(jù)進(jìn)行,而要用訓(xùn)練集以外的測(cè)試數(shù)據(jù)來進(jìn)行檢測(cè)。一般的做法是,將訓(xùn)練集的可用樣本隨機(jī)的分成兩部份;一部分作為訓(xùn)練集,一部分作為測(cè)試集。隱層 結(jié)點(diǎn)數(shù)一定的情況下,為了獲得好的推廣能力存在一個(gè)最佳訓(xùn)練次數(shù)。

三、 基于BP神經(jīng)網(wǎng)絡(luò)的股市驗(yàn)證

我們選取上證股市大盤在1998年3月10號(hào)到2009年12月2號(hào)間的大盤每日漲幅數(shù)據(jù)作為訓(xùn)練樣本和預(yù)測(cè)樣本,訓(xùn)練樣本區(qū)間選擇1998年3月10日-2008年5月21號(hào),共2466個(gè)大盤每日漲幅。預(yù)測(cè)樣本為2008年5月22號(hào)-2009年12月2號(hào)的大盤每日漲幅,共375個(gè)數(shù)據(jù)。

為了加快網(wǎng)絡(luò)的收斂性,我們對(duì)收益率數(shù)據(jù)進(jìn)行歸一化處理,采用MATLAB的premnmx函數(shù),將收益率數(shù)據(jù)變成的取值為(-1,1)之間的數(shù)據(jù)。網(wǎng)絡(luò)訓(xùn)練和仿真完成后再采用MATLAB的postmnmx函數(shù)將數(shù)據(jù)反歸一化變成實(shí)際需要的收益率數(shù)據(jù)。

1.網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)

神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)主要需要確定輸入輸出的節(jié)點(diǎn)數(shù)、網(wǎng)絡(luò)層數(shù)、隱層節(jié)點(diǎn)數(shù)等。由于上證綜指收益率數(shù)據(jù)具有混沌特性,根據(jù) 《證綜指日收益率的混沌特性》這個(gè)論文得相空

其中取時(shí)間延遲τ=25,嵌入維數(shù)m=12。網(wǎng)絡(luò)的輸入節(jié)點(diǎn)數(shù)取嵌入維數(shù)12,將作為輸入。網(wǎng)絡(luò)的輸出節(jié)點(diǎn)數(shù)取1,目標(biāo)輸出

為。

網(wǎng)絡(luò)層數(shù):1989年Robert Hecht-Nielson證明了對(duì)于任何在閉區(qū)間內(nèi)的一個(gè)連續(xù)函數(shù)都可以用一個(gè)隱層的BP網(wǎng)絡(luò)來逼近,因而一個(gè)三層的BP網(wǎng)絡(luò)可以完成任意的N維到M維的映射?;谝陨隙ɡ砦覀円话氵x取一個(gè)隱層的BP網(wǎng)絡(luò)就可以了。增加層數(shù)主要可以更進(jìn)一步的降低誤差,提高精度,但同時(shí)也使網(wǎng)絡(luò)復(fù)雜化,從而增加了網(wǎng)絡(luò)權(quán)值的訓(xùn)練時(shí)間。而誤差精度的提高實(shí)際上也可以通過增加隱層中的神經(jīng)元數(shù)目來獲得,其訓(xùn)練效果也比增加層數(shù)更容易觀察和調(diào)整。

隱層神經(jīng)元的選取:隱層神經(jīng)元的作用是從樣本中提取并存儲(chǔ)其內(nèi)在規(guī)律,每個(gè)神經(jīng)元有若干個(gè)權(quán)值,而每個(gè)權(quán)值都是增強(qiáng)網(wǎng)絡(luò)映射能力的一個(gè)參數(shù)。網(wǎng)絡(luò)訓(xùn)練精度的提高,可以通過采用一個(gè)隱層,而增加其神經(jīng)元數(shù)的方法來獲得。這在結(jié)構(gòu)實(shí)現(xiàn)上,要比增加更多的隱層要簡單的多。

那么究竟選取多少個(gè)隱層節(jié)點(diǎn)才合適?神經(jīng)元數(shù)量太少,網(wǎng)絡(luò)從樣本中獲取信息的能力就差,不足以概括和體現(xiàn)樣本規(guī)律;神經(jīng)元數(shù)量過多,又可能把樣本中非規(guī)律性的內(nèi)容,如噪聲等也學(xué)會(huì)記牢,從而出現(xiàn)所謂“過度吻合”問題。因此,如何確定一個(gè)適當(dāng)?shù)纳窠?jīng)元個(gè)數(shù)是我們要著重考慮的問題。Gorman曾認(rèn)為隱點(diǎn)數(shù)s與模式數(shù)N的關(guān)系為s=log2N,但大多數(shù)情況并非如此,網(wǎng)絡(luò)修剪與增長方法都是根據(jù)網(wǎng)絡(luò)收斂性能的好壞來決定隱點(diǎn)節(jié)數(shù)的增減,不僅具有很大的盲目性,而且是很費(fèi)時(shí)間的過程。江蘇理工大學(xué)信息科學(xué)研究所的高大啟教授在他的論文《有教師的線性基本函數(shù)前向三層神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)研究》中給出了三層網(wǎng)絡(luò)的隱點(diǎn)數(shù)經(jīng)驗(yàn)公式,其中,s為隱點(diǎn)數(shù),m為輸入節(jié)點(diǎn)數(shù),n為輸出節(jié)點(diǎn)數(shù)。在實(shí)際應(yīng)用,由這個(gè)公式確定的隱點(diǎn)數(shù)效果較好。本文中m=12,n=1,求出隱層節(jié)點(diǎn)數(shù)s=7。

網(wǎng)絡(luò)激活函數(shù)的選取:由于歸一化后的數(shù)據(jù)的取值范圍在(-1,1)之間,所以本文采用雙曲正切S型函數(shù)

網(wǎng)絡(luò)的訓(xùn)練方法:采用將附加動(dòng)量法和自適應(yīng)學(xué)習(xí)率法結(jié)合起來使用的改進(jìn)的BP算法。

2.網(wǎng)絡(luò)訓(xùn)練與仿真

本文運(yùn)用MATLAB程序?qū)ι衔脑O(shè)計(jì)好的神經(jīng)網(wǎng)絡(luò)進(jìn)行訓(xùn)練,訓(xùn)練樣本區(qū)間選擇1998年3月10日-2008年5月21號(hào),共2466個(gè)大盤每日漲幅,如圖1.10。

將訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)模型用于仿真2008年5月22號(hào)-2009年12月2號(hào)的大盤每日漲幅,共375個(gè)數(shù)據(jù)。得到的預(yù)測(cè)值與真實(shí)值見附錄,圖形見圖1.11。

圖3.2 神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)值與真實(shí)值圖

四、 總結(jié)和展望

目前,非線性經(jīng)濟(jì)學(xué)在資本市場(chǎng)定價(jià)方面的研究仍在不斷發(fā)展中,研究熱點(diǎn)主要集中在兩個(gè)方面:一是對(duì)股票價(jià)格是否存在非線性甚至是混沌的診斷研究;二是試圖建立非線性模型來研究股票價(jià)格定價(jià)及其變動(dòng)。迄今為止。資本市場(chǎng)上存在非線性的現(xiàn)象得到較廣泛的實(shí)證支持。但是否存在混沌,還存在較多的疑問,并沒有得到最終的定論。但無論如何。非線性經(jīng)濟(jì)學(xué)對(duì)傳統(tǒng)經(jīng)濟(jì)學(xué)基礎(chǔ)的挑戰(zhàn)是不容忽視的,它為資本市場(chǎng)定價(jià)的研究開辟了一個(gè)新的視野,使資本市場(chǎng)的定價(jià)行為的研究更接近這種行為本身的真實(shí)狀況。因此,它在很大程度上預(yù)示著資本市場(chǎng)定價(jià)理論的未來發(fā)展的一個(gè)方向。

參考文獻(xiàn):

[1]陳其安,楊秀苔:中國股市的收益分布特征[J]. 統(tǒng)計(jì)與決策. 2005,04: 110-112

[2]杜修立:漲跌幅限制對(duì)中國股市結(jié)構(gòu)及有效性的經(jīng)驗(yàn)分析[J]. 財(cái)經(jīng)問題研究. 2006,12:54-58

[3]楊再斌:我國證券市場(chǎng)股價(jià)運(yùn)動(dòng)非線性特征檢驗(yàn)[J]. 上海立信會(huì)計(jì)學(xué)院學(xué)報(bào). 2006,7:78-83

[4]葛哲學(xué)孫志強(qiáng):神經(jīng)網(wǎng)絡(luò)理論與matlab2007實(shí)現(xiàn)[M]. 電子工業(yè)出版社. 2008年5月

[5]黃詒榮:中國股市分形結(jié)構(gòu):理論與實(shí)證[M].中山大學(xué)出版社. 2006.3月

篇7

關(guān)鍵詞:人工神經(jīng)元網(wǎng)絡(luò);BP神經(jīng)網(wǎng)絡(luò);matlab;識(shí)別分類

中圖分類號(hào):TP391.41文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1007-9599 (2010) 16-0000-02

Artificial Neural Network Application on Face Classification

Liang Xiaoli

(Heilongjiang Radio&TV University,Harbin150080,China)

Abstract:In the face recognition technology is developing continuously,people not limited to recognize the human face,but the main emphasis on the accuracy and efficiency of face recognition.

Face recognition is divided into three steps,face detection,feature extraction,recognition category,identification and classification of the methods in which the decision of whether to correctly identify the human face.BP neural network with forward propagation and back propagation characteristics,so as to ensure the accuracy of classif-

ication,Therefore,the main author of this article how to MATLAB,the BP neural network used in face recognition classification.

Keywords:Artificial neural network;BP neural network;Matlab;

Recognition category

人工神經(jīng)元網(wǎng)絡(luò),又稱為神經(jīng)元網(wǎng)絡(luò),它是對(duì)人腦的簡化、抽象和模擬,反映了人腦的基本特性神經(jīng)元網(wǎng)絡(luò)是由大量處理單元廣泛互連而成的網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)研究的是模擬人腦信息處理的功能,從人腦的生理結(jié)構(gòu)出發(fā)來研究人的智能行為。是依托于數(shù)學(xué)、神經(jīng)科學(xué)、物理學(xué)、計(jì)算機(jī)科學(xué)及工程等學(xué)科的一種綜合性技術(shù)。

一、人工神經(jīng)網(wǎng)絡(luò)的分類

我們可以對(duì)人工神經(jīng)網(wǎng)絡(luò)進(jìn)行如下分類:

(一)單層的前向神經(jīng)網(wǎng)絡(luò)

這里所說的單層前向網(wǎng)絡(luò)是指擁有單層的神經(jīng)元是,作為源節(jié)點(diǎn)個(gè)數(shù)的“輸入層”被看作是一層神經(jīng)元,“輸入層”是不具有計(jì)算功能。

(二)多層的前向神經(jīng)網(wǎng)絡(luò)

多層前向神經(jīng)網(wǎng)絡(luò)與單層前向神經(jīng)網(wǎng)絡(luò)的差別在于:多層的前向神經(jīng)網(wǎng)絡(luò)和單層前向神經(jīng)網(wǎng)絡(luò)的隱含層個(gè)數(shù)不同,在多層的前向神經(jīng)網(wǎng)絡(luò)中完成計(jì)算功能的節(jié)點(diǎn)被稱為隱含單元(隱含神經(jīng)元)。由于隱層的數(shù)量不同,使網(wǎng)絡(luò)能進(jìn)行更高序的統(tǒng)計(jì),尤其當(dāng)輸入層規(guī)模龐大時(shí),隱層神經(jīng)元提取高序統(tǒng)計(jì)數(shù)據(jù)的能力便顯得非常重要。

(三)反饋網(wǎng)絡(luò)

反饋網(wǎng)絡(luò)指在網(wǎng)絡(luò)中最少含有一個(gè)反饋回路的神經(jīng)網(wǎng)絡(luò)。反饋網(wǎng)絡(luò)中包含一個(gè)單層神經(jīng)元,在這一層中的所有的神經(jīng)元將自身的輸出信號(hào)反饋給其他所有神經(jīng)元作為輸入。

(四)隨機(jī)神經(jīng)網(wǎng)絡(luò)

隨機(jī)神經(jīng)網(wǎng)絡(luò)是在神經(jīng)網(wǎng)絡(luò)中引入了隨機(jī)概念,每個(gè)神經(jīng)元都是按照概率的原理在工作,這樣每個(gè)神經(jīng)元興奮或抑制具有隨機(jī)性,其概率取決于神經(jīng)元的輸入值。

(五)競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)

競(jìng)爭(zhēng)神經(jīng)網(wǎng)絡(luò)最顯著的特點(diǎn)是它的輸出神經(jīng)元之間相互競(jìng)爭(zhēng)以確定勝出者,勝出者指出哪一種原型模式最能代表輸入模式。

二、神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)

神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)又被稱為訓(xùn)練,所指的是通過神經(jīng)網(wǎng)絡(luò)所在外界環(huán)境的刺激下調(diào)整神經(jīng)網(wǎng)絡(luò)的參數(shù),使得神經(jīng)網(wǎng)絡(luò)以一種調(diào)整好的方式對(duì)外部環(huán)境做出反應(yīng)的過程。從環(huán)境中學(xué)習(xí)和在學(xué)習(xí)中提高自身性能是神經(jīng)網(wǎng)絡(luò)最有意義的特征了。

學(xué)習(xí)方式可分為:有師學(xué)習(xí)和無師學(xué)習(xí)。有師學(xué)習(xí)又稱為有監(jiān)督學(xué)習(xí),在學(xué)習(xí)時(shí)需要給出指導(dǎo)信號(hào)(又可稱為期望輸出或者響應(yīng))。神經(jīng)網(wǎng)絡(luò)對(duì)外部環(huán)境是未知的,但可以將指導(dǎo)信號(hào)看作對(duì)外部環(huán)境的了解,由輸入―輸出樣本集合來表示。指導(dǎo)信號(hào)或期望輸出代表了神經(jīng)網(wǎng)絡(luò)執(zhí)行情況的最佳結(jié)果,即對(duì)于網(wǎng)絡(luò)輸入調(diào)整網(wǎng)絡(luò)參數(shù),使得網(wǎng)絡(luò)輸出逼近期望的輸出值。無師學(xué)習(xí)包括強(qiáng)化學(xué)習(xí)與無監(jiān)督學(xué)習(xí)(可以被稱為自組織學(xué)習(xí))。在強(qiáng)化學(xué)習(xí)中,對(duì)輸出的學(xué)習(xí)是通過與外界環(huán)境的連續(xù)作用最小化完成的。

三、BP神經(jīng)網(wǎng)絡(luò)

BP(Back Propagation)神經(jīng)網(wǎng)絡(luò),就是指包含信息正向傳播和誤差反向傳播算法的學(xué)習(xí)過程。輸入層的每一個(gè)神經(jīng)元負(fù)責(zé)接收來自外界的輸入信息,并傳遞給中間層中的每一個(gè)神經(jīng)元;中間層的各個(gè)神經(jīng)元是內(nèi)部信息處理層,負(fù)責(zé)信息變換,可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu);最后隱含層傳遞到輸出層的信息,經(jīng)進(jìn)一步處理后,完成一次學(xué)習(xí)的正向傳播處理過程,由輸出層向外界輸出信息處理結(jié)果。當(dāng)實(shí)際輸出與期望輸出不相符時(shí),進(jìn)入誤差的反向傳播階段。誤差通過輸出層作用于輸入層,按誤差梯度下降的方式分別修正各層權(quán)值,逐漸向隱含層和輸入層反傳。多次的經(jīng)過信息正向傳播和誤差反向傳播過程,是各層權(quán)值不斷調(diào)整的過程,也就是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過程,此過程一直進(jìn)行到網(wǎng)絡(luò)的輸出誤差減少到可以被接受的程度,或者達(dá)到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)才會(huì)停止。

四、實(shí)驗(yàn)過程及結(jié)果

本文中假設(shè)已經(jīng)用奇異值分解得到人臉特征點(diǎn)的數(shù)據(jù),每個(gè)人臉劃分為五部分,每部分又得到5個(gè)特征值,所以也就是25個(gè)的特征值。本文采集了50個(gè)人人臉,每人采集10張不同姿態(tài)下的照片,也就是500張照片,對(duì)這些照片進(jìn)行人臉檢測(cè)并進(jìn)行奇異值分解,得到每張照片對(duì)應(yīng)的25個(gè)特征值,從每人10張照片中隨機(jī)抽出5張用于訓(xùn)練出不同的姿態(tài)下的人臉,另外的5張用作測(cè)試樣本。

(一)實(shí)驗(yàn)過程

由于數(shù)據(jù)過長,本文只以2個(gè)人,每人2張照片作為的訓(xùn)練樣本數(shù)據(jù)為例來說明。

第一步:訓(xùn)練樣本(每人25個(gè)特征值),在p是一個(gè)25行,4列的矩陣,每一列代表一個(gè)人的25個(gè)特征值,屬于一個(gè)樣本;列數(shù)4表示樣本總數(shù);

p=[ 7.4264 9.0728 7.9825 9.5632;

7.5719 7.8115 6.5564 7.8561;

12.8074 12.7073 12.4536 11.5423;

9.0284 10.3744 8.7569 9.9965;

7.0083 9.0284 7.1254 8.8876;

1.2597 2.1578 1.3556 3.0112;

0.6896 0.7835 0.7859 0.9658;

0.7814 0.8818 0.7568 0.8213;

1.0248 1.6783 1.1542 1.5234;

1.0112 1.0248 0.9568 0.9652;

1.0427 1.0813 1.0425 0.9568;

0.5970 0.5886 0.5968 0.5889;

0.4928 0.5969 0.3569 0.6012;

0.6438 0.6417 0.6589 0.5612;

0.3563 0.6438 0.2534 0.6689;

0.4474 0.4235 0.4568 0.4236;

0.2483 0.2282 0.2253 0.2259;

0.3633 0.4616 0.3102 0.4556;

0.3383 0.4167 0.3561 0.3456;

0.3130 0.3383 0.3302 0.3359;

0.3378 0.3313 0.3219 0.3569;

0.1916 0.1767 0.1564 0.1952;

0.2356 0.3422 0.2355 0.3012;

0.2088 0.3268 0.1958 0.3568;

0.1858 0.2088 0.0956 0.1968;];

第二步:目標(biāo)輸出矩陣

因?yàn)榫蛢蓚€(gè)人,所以采用一位二進(jìn)制編碼就可以,在這里定義第一類樣本的編碼為0;第二類樣本的輸出編碼為1。

t=[0 1 0 1];

第三步:使用MATLAB建立網(wǎng)絡(luò)結(jié)構(gòu)

net1=newff(minmax(p),[25,9,1],{'tansig','tansig','hardlim'},'traingdm');

說明:[25,10,1]表示該網(wǎng)絡(luò)的輸入結(jié)點(diǎn)為25個(gè)值,輸出結(jié)果為1為二進(jìn)制編碼的值,中間層由經(jīng)驗(yàn)公式 (rnd為0-1之間的隨機(jī)數(shù)),所以本文選取5-15之間數(shù)分別作為隱含層的神經(jīng)元個(gè)數(shù),得出的結(jié)論是9的收斂速度最快。

第四步:對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練

[net1,tr]=train(net1,p,t);

第五步:保存網(wǎng)絡(luò)

save aa net1

則文件會(huì)以aa.mat的格式保存,保存了訓(xùn)練好的網(wǎng)絡(luò)以及權(quán)值。

第六步:輸入測(cè)試樣本

先加載上一步中保存好的網(wǎng)絡(luò),本實(shí)驗(yàn)中只輸入一個(gè)測(cè)試樣本,下面的數(shù)據(jù)代表測(cè)試樣本的特征值,共25個(gè)。

load aa.mat

p1=[7.8115;0.7835;0.5886;0.2282;0.1767;1.0197;0.7896;0.6814;1.1238;1.1114;0.9427;0.5970;0.4569;0.5438;0.4563;0.1983;0.4632;0.3383;0.3130;0.4377;0.1817;0.2256;0.2088;0.2854;0.2812];

第六步:網(wǎng)絡(luò)仿真

a=hardlim(sim(net1,p1)-0.5)

(二)實(shí)驗(yàn)結(jié)果

根據(jù)上述實(shí)驗(yàn)過程,得出的結(jié)果是:

下圖是執(zhí)行了10次中的一次算法模擬情況。

Elapsed time is 0.469seconds

網(wǎng)絡(luò)仿真的輸出結(jié)果是:a=0

本文中測(cè)試的數(shù)據(jù)來源于訓(xùn)練樣本中輸出為0的樣本,識(shí)別結(jié)果正確。換了10個(gè)測(cè)試樣本,其中識(shí)別正確的是6個(gè),也就是正確率大約在60%。

然后,采用相同的辦法,在實(shí)驗(yàn)中把訓(xùn)練樣本由每人兩個(gè)不同姿態(tài)下的樣本增加到了3個(gè),也就是輸入向量的p由4列增加到6列,其他的均不變,網(wǎng)絡(luò)的訓(xùn)練時(shí)間為0.471 seconds。還是使用上面的10個(gè)測(cè)試樣本,其中識(shí)別正確的達(dá)到了8個(gè),正確率提高到了80%左右。

在樣本量擴(kuò)大到250時(shí),這些樣本是來自于,50個(gè)人,每人拍攝10張不同姿態(tài)下的照片,也就是500張,然后從其中隨機(jī)的取出每個(gè)人對(duì)應(yīng)的5張照片作為訓(xùn)練樣本,然后再把從剩余的250張作為測(cè)試樣本,進(jìn)行測(cè)試。輸入結(jié)點(diǎn)數(shù)為250,每個(gè)結(jié)點(diǎn)對(duì)應(yīng)的特征向量為25;輸出值用二進(jìn)制的編碼表示,由于后面要實(shí)現(xiàn)的人臉識(shí)別系統(tǒng)中要應(yīng)用在一個(gè)只有50人的環(huán)境下,所以采用二進(jìn)制編碼6位就夠了,但是為了系統(tǒng)的可擴(kuò)展性,所以采用7位二進(jìn)制編碼來設(shè)計(jì)輸出結(jié)點(diǎn)的值,bp網(wǎng)絡(luò)就是25維輸出7維輸出。此時(shí)測(cè)試的250個(gè)數(shù)據(jù)中只有一組數(shù)據(jù)是錯(cuò)誤的,原因是照片中的人嘴和鼻子被口罩遮住了。

樣本量增加后網(wǎng)絡(luò)訓(xùn)練到一個(gè)樣本測(cè)試仿真所有的時(shí)間是1.936seconds。

五、小結(jié)

本文介紹了基于BP神經(jīng)網(wǎng)絡(luò)的人臉識(shí)別分類方法,先用matlab設(shè)計(jì)了一個(gè)模擬程序,然后不斷的增加訓(xùn)練樣本中同一人樣本的樣本數(shù),訓(xùn)練后用10個(gè)人分別測(cè)試兩個(gè)網(wǎng)絡(luò)的正確率,當(dāng)同一人的樣本數(shù)增加到3時(shí),正確率由60%提高到了80%??梢宰C明網(wǎng)絡(luò)訓(xùn)練樣本的增加有利于提高識(shí)別的正確率。把在上一章中采集到的50個(gè)人所對(duì)應(yīng)的500張照片作為標(biāo)準(zhǔn)樣本庫,從中隨機(jī)取出250張作為訓(xùn)練樣本,然后設(shè)定輸出值,輸出的值應(yīng)該有50類,采用二進(jìn)制的編碼構(gòu)成,然后再實(shí)用剩余的250張照片作為測(cè)試樣本,進(jìn)行測(cè)試。

篇8

關(guān)鍵詞:參考作物騰發(fā)量 Elman神經(jīng)網(wǎng)絡(luò)

1 前言

目前,中國人均水資源占有量不足世界人均水平的四分之一,耕地平均每公頃水資源占有量也僅為世界平均水平的四分之五。農(nóng)業(yè)用水占到我國總用水量的約70%,農(nóng)業(yè)用水浪費(fèi)現(xiàn)象普遍存在,21世紀(jì)中國農(nóng)業(yè)水資源供需矛盾將更加突出。因此以提高農(nóng)業(yè)用水效率為目的節(jié)水高效農(nóng)業(yè)對(duì)于緩解水資源緊缺的現(xiàn)狀、實(shí)現(xiàn)水資源可持續(xù)利用和農(nóng)業(yè)的可持續(xù)發(fā)展都有著極為重要的意義。

參考作物騰發(fā)量是估算作物蒸發(fā)蒸騰量的關(guān)鍵參數(shù),它的準(zhǔn)確性直接影響著作物需水預(yù)報(bào)的精度,進(jìn)而影響到區(qū)域水資源的優(yōu)化配置。而作物蒸發(fā)蒸騰量是農(nóng)業(yè)方面最主要的水分消耗部分,是確定作物灌溉制度和地區(qū)灌溉水量的基礎(chǔ),是制定流域規(guī)劃、地區(qū)水利規(guī)劃,灌溉工程規(guī)劃、設(shè)計(jì)、管理和農(nóng)田排灌實(shí)施的依據(jù)。因此參考作物騰發(fā)量的預(yù)測(cè)顯得尤為重要,它對(duì)正確估算作物蒸發(fā)蒸騰量,提高農(nóng)業(yè)用水效率,發(fā)展節(jié)水農(nóng)業(yè)有著十分重要的意義。

2 國內(nèi)外研究現(xiàn)狀

2.1 ET0的估算方法的研究

參考作物騰發(fā)量(ET0)的概念由彭曼于1948年首先提出。1979年FAO(聯(lián)合國糧農(nóng)組織)對(duì)其進(jìn)行了定義。1990年聯(lián)合國糧農(nóng)組織在意大利羅馬召開的作物需水量計(jì)算方法專題研討會(huì)上,推薦使用penman-monteith公式計(jì)算參考作物蒸散量。1998年FAO推薦penman-monteith公式作為計(jì)算參考作物騰發(fā)量的唯一標(biāo)準(zhǔn)方法。

參考作物騰發(fā)量的估算方法大致可劃分為蒸滲儀測(cè)定、蒸發(fā)皿估測(cè)以及利用氣象觀測(cè)數(shù)據(jù)通過公式計(jì)算等三種途徑。利用氣象數(shù)據(jù)通過公式計(jì)算參考作物騰發(fā)量的方法又可歸納為經(jīng)驗(yàn)公式和理論方法兩類。經(jīng)驗(yàn)公式中常采用輻射、溫度、水汽壓、相對(duì)濕度、風(fēng)速及日照時(shí)數(shù)等氣象觀測(cè)數(shù)據(jù)作參數(shù),按照某種與參考作物騰發(fā)量的經(jīng)驗(yàn)函數(shù)關(guān)系進(jìn)行估算。如Blaney-Criddle(1950),Ture(1961),F(xiàn)AO-24Radiation(1977),Hargreaves(1985),理論公式法主要有penman法和penman-montieth方法等。penman-montieth方法是目前世界范圍內(nèi)廣泛采用的計(jì)算參考作物騰發(fā)量的方法。國內(nèi)在參考作物騰發(fā)量估算方面的研究多是基于國外的計(jì)算公式進(jìn)行地區(qū)性修正或應(yīng)用比較,penman-montieth方法是國內(nèi)計(jì)算參考作物騰發(fā)量普遍采用的方法。

2.2 ET0預(yù)測(cè)方法的研究

通常ET0的預(yù)測(cè)有神經(jīng)網(wǎng)絡(luò)、隨機(jī)過程、時(shí)間序列、灰色系統(tǒng),以及多元線性、非線性回歸等方法。多學(xué)科的交叉是現(xiàn)代數(shù)據(jù)分析發(fā)展的重要方向,模糊邏輯、神經(jīng)網(wǎng)絡(luò)、粗集理論、遺傳算法以及支持向量機(jī)都是目前常用的融合協(xié)作算法,探討它們之間的相互結(jié)合可以取長補(bǔ)短,對(duì)改進(jìn)或提高系統(tǒng)整體性能,具有非常重要的實(shí)際意義,近幾年國內(nèi)外對(duì)此方面的研究逐漸深入。本文嘗試將動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)方法應(yīng)用在參考作物需水量預(yù)測(cè)上,并取得了理想效果。

3 Elman神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法

3.1 Elman神經(jīng)網(wǎng)絡(luò)簡介

Elman神經(jīng)網(wǎng)絡(luò)是Elman于1990年提出的,是一種動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)。此網(wǎng)絡(luò)是在BP網(wǎng)絡(luò)基本結(jié)構(gòu)的基礎(chǔ)上,通過存儲(chǔ)內(nèi)部狀態(tài)使其具備映射動(dòng)態(tài)特性的功能,從而使系統(tǒng)具有適應(yīng)時(shí)變特性的能力。

Elman網(wǎng)絡(luò)模型除了普通的輸入層、隱含層和輸出層外,還有一個(gè)特別的承接層,其網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。其輸入層、隱含層和輸出層的連接類似于前饋網(wǎng)絡(luò),輸入層單元僅起信號(hào)傳輸作用;輸出層單元起線性加權(quán)的作用;隱含層單元的傳遞函數(shù)可以采用線性或非線性函數(shù);而承接層單元用來記憶隱含層單元前一時(shí)刻的輸出值,可認(rèn)為是一步時(shí)延算子。

具體地說,網(wǎng)絡(luò)在k時(shí)刻的輸入不僅包括目前的輸入值,而且還包括隱含層前一時(shí)刻的輸出值,這時(shí)網(wǎng)絡(luò)可視為普通的前饋網(wǎng)絡(luò),而且可以用BP算法進(jìn)行訓(xùn)練。訓(xùn)練結(jié)束后,k時(shí)刻隱含層的輸出值將通過遞歸連接部分反饋回上下文層單元,并保留到K+1時(shí)刻。其中,反饋連接的權(quán)值不能調(diào)整。根據(jù)回歸連接的結(jié)構(gòu)不同,可以將回歸網(wǎng)絡(luò)分為部分回歸和完全回歸。第一類網(wǎng)絡(luò)只是選擇那些特別有意義的反饋連接。由一個(gè)正切s形隱層和一個(gè)純線性輸出層組成的Elman網(wǎng)絡(luò),能夠逼近任何連續(xù)函數(shù)。由于它有反饋連接,因此通過學(xué)習(xí)可產(chǎn)生時(shí)間模式和空間模式。而且不必先假定系統(tǒng)的數(shù)學(xué)模型形式,不必考慮外部噪聲對(duì)系統(tǒng)影響的具體形式,若能給出系統(tǒng)的輸入、輸出數(shù)據(jù)時(shí),就可以利用Elman神經(jīng)網(wǎng)絡(luò)對(duì)系統(tǒng)進(jìn)行建模。Elman神經(jīng)網(wǎng)絡(luò)還能夠體現(xiàn)效應(yīng)量與影響因子的非線性關(guān)系。

3.2 Elman神經(jīng)網(wǎng)絡(luò)的優(yōu)點(diǎn)

近年來,人工神經(jīng)網(wǎng)絡(luò)技術(shù)在水利眾多領(lǐng)域得到了廣泛的應(yīng)用。由于神經(jīng)網(wǎng)絡(luò)具有并行處理、聯(lián)想記憶、分布式知識(shí)存儲(chǔ)、魯棒性強(qiáng)等特點(diǎn),尤其是它的自組織、自適應(yīng)、自學(xué)習(xí)功能,從而在復(fù)雜非線性系統(tǒng)的分析和預(yù)測(cè)中得到了廣泛應(yīng)用。目前非線性系統(tǒng)辨識(shí)中普遍采用的是BP網(wǎng)絡(luò),但BP網(wǎng)絡(luò)是靜態(tài)網(wǎng)絡(luò),它只是實(shí)現(xiàn)一一對(duì)應(yīng)的靜態(tài)非線性映射關(guān)系,不適合動(dòng)態(tài)系統(tǒng)的實(shí)時(shí)辨識(shí)。BP網(wǎng)絡(luò)模型隨系統(tǒng)階次的增加,迅速擴(kuò)大的網(wǎng)絡(luò)結(jié)構(gòu)使網(wǎng)絡(luò)學(xué)習(xí)收斂速度減慢,并造成網(wǎng)絡(luò)輸入節(jié)點(diǎn)過多、訓(xùn)練困難及對(duì)外部噪聲敏感等弊病。

相比之下,動(dòng)態(tài)回歸神經(jīng)網(wǎng)絡(luò)(RNN)提供了一種極具潛力的選擇,它能夠更生動(dòng)、更直接地反映系統(tǒng)的動(dòng)態(tài)特性。Elman 型回歸神經(jīng)網(wǎng)絡(luò)是一種典型的動(dòng)態(tài)神經(jīng)元網(wǎng)絡(luò),它是在BP網(wǎng)絡(luò)基本結(jié)構(gòu)的基礎(chǔ)上,通過存儲(chǔ)內(nèi)部狀態(tài)使其具備映射動(dòng)態(tài)特征的功能,從而使系統(tǒng)具有適應(yīng)時(shí)變特性的能力。

3.3 Elman神經(jīng)網(wǎng)絡(luò)模型在MATLAB中的實(shí)現(xiàn)

在MATLAB神經(jīng)網(wǎng)絡(luò)工具箱中Elman網(wǎng)絡(luò)的工具箱函數(shù)是用newelm(網(wǎng)絡(luò)函數(shù))生成一個(gè)Elman遞歸網(wǎng)絡(luò)。格式為net=newelm(PR,[S1S2,...,SM],{TF1TF2…TFM},BTF,BLF,PF),Elman網(wǎng)絡(luò)由N1層組成(一般兩層即可),其權(quán)函數(shù)用dotprod函數(shù),輸入函數(shù)用netsum函數(shù),以及用一些特殊的函數(shù)作為其傳遞函數(shù)。每層權(quán)和閾值初始化用initnw進(jìn)行操作。其中PR為輸入元素的最大和最小值的矩陣(其維數(shù)為:R×2),Si為第i層的神經(jīng)元個(gè)數(shù)。TFi為第i層的傳遞函數(shù),缺省時(shí)TFi=‘tansig’;BTF為反向傳播網(wǎng)絡(luò)的訓(xùn)練函數(shù)(BTF可以是trainged,traindm,traingda,traingdx等函數(shù)), 缺省時(shí)BTF=‘traingdx’;BLF為反向傳播權(quán),也稱閾值學(xué)習(xí)函數(shù)(BLF可以是learngd或learndm),缺省時(shí)BLF=‘learngdm’;PF為性能分析函數(shù)(PF可以是mse或msereg),缺省時(shí)PF=‘mse’。具體采用什么函數(shù)應(yīng)根據(jù)算例情況及試算來確定。

3.4 Elman神經(jīng)網(wǎng)絡(luò)的應(yīng)用

本文利用600組蒸發(fā)皿估測(cè)數(shù)據(jù),建立了動(dòng)態(tài)Elman-ET0預(yù)測(cè)模型,利用12組數(shù)據(jù)檢測(cè)模型預(yù)測(cè)精度,結(jié)果顯示該模型的對(duì)ET0的預(yù)測(cè)誤差均小于20%,Elman神經(jīng)網(wǎng)絡(luò)可以應(yīng)用在參考作物騰發(fā)量預(yù)測(cè)中。

4 結(jié)語

通過收集和閱讀大量文獻(xiàn),比較已使用的ET0預(yù)測(cè)方法,認(rèn)為人工神經(jīng)網(wǎng)絡(luò)及一些融合協(xié)作算法的預(yù)測(cè)效果較好,但算法比較復(fù)雜。

考慮到參考作物騰發(fā)量主要受氣象因子影響,一般為非線性函數(shù),隨時(shí)間存在一定的變化趨勢(shì),本文引用了動(dòng)態(tài)Elman神經(jīng)網(wǎng)絡(luò)對(duì)參考作物騰發(fā)量進(jìn)行建模和預(yù)測(cè),結(jié)果顯示該方法是可行的。

參考文獻(xiàn)

[1]郭冬冬,周新國,孫景生,盧聞航.時(shí)間序列法在參考作物騰發(fā)量分析與擬中的應(yīng)用[J].中國農(nóng)村水利水電,2004,(8):4-7.

[2]李曉軍,李取生.東北地區(qū)參考作物蒸散確定方法研究[J].地理科學(xué),2004,24(2):212-216.

[3]劉志武,倪廣恒,雷志棟,杜衛(wèi)東.計(jì)算逐日潛在騰發(fā)量的BP神經(jīng)網(wǎng)絡(luò)方法[J].灌溉排水學(xué)報(bào),2004,23(4):75-77.

[4]蔣任飛,阮本清,韓宇平,孫靜. 基于BP神經(jīng)網(wǎng)絡(luò)的參照騰發(fā)量預(yù)測(cè)模型[J] .中國水利水電科學(xué)研究院學(xué)報(bào),2005,3 (4):308-311.

[5]徐俊增等.基于天氣預(yù)報(bào)的參考作物蒸發(fā)蒸騰量的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)模型[J] .水利學(xué)報(bào).2006,37(3):376-379.

[6]蔡甲冰等.應(yīng)用自適應(yīng)神經(jīng)模糊推理系統(tǒng)的ET0預(yù)測(cè)[J],農(nóng)業(yè)工程學(xué)報(bào),2004,20(4):13-16.

[7]蔡甲冰等.根據(jù)天氣預(yù)報(bào)估算參照騰法量的模糊神經(jīng)網(wǎng)絡(luò)方法[J].農(nóng)業(yè)工程學(xué)報(bào),2005,21(12):108-111.

[8]崔遠(yuǎn)來,馬承新,沈細(xì)中,馬吉?jiǎng)? 基于進(jìn)化神經(jīng)網(wǎng)絡(luò)的參考作物騰發(fā)量預(yù)測(cè)[J] .水科學(xué)進(jìn)展,2005,16 (1):76-81.

[9]高瑞忠,朝倫巴根,于嬋,朱仲元,柴建華. 基于隨機(jī)樣本的神經(jīng)網(wǎng)絡(luò)模型估算參考作物騰發(fā)量[J].農(nóng)業(yè)工程學(xué)報(bào),2006,22(2):42-45.

[10] 顧世祥,王士武,袁宏源.參考作物騰發(fā)量預(yù)測(cè)的徑向基函數(shù)法[J].水科學(xué)進(jìn)展,1999,(2):123-128.

[11] 劉丙軍,邵東國,沈新平.基于小波變換的 BP神經(jīng)網(wǎng)絡(luò)參考作物騰發(fā)量預(yù)測(cè)模型[J].武漢大學(xué)學(xué)報(bào),2007,40(1):69-73.

[12] 羅玉峰 ,崔遠(yuǎn)來,蔡學(xué)良.參考作物騰發(fā)量預(yù)報(bào)的傅立葉級(jí)數(shù)模型[J].武漢大學(xué)學(xué)報(bào),2005,38(6):45-52.

[13] 段春青,邱林,黃強(qiáng),陳曉楠. 基于混沌遺傳程序設(shè)計(jì)的參考作物騰發(fā)量預(yù)測(cè)模型[J].水利學(xué)報(bào),2006,37(4):499-503.

[14] 常秀華,遲道才,李宇,馬憲偉.基于SPSS的撫順地區(qū)參考作物需水量的區(qū)域分析[J].中國農(nóng)村水利水電,2005,(5):21-26.

[15] 胡慶芳,尚松浩,溫守光,孟寶泉.基于投影尋蹤的徑向基函數(shù)網(wǎng)絡(luò)在參考騰發(fā)量預(yù)測(cè)中的應(yīng)用[J] .水利學(xué)報(bào),2006,37(9):1151-1154.

[16]彭世彰,徐俊增.參考作物蒸發(fā)蒸騰量計(jì)算方法的應(yīng)用比較[J].灌溉排水學(xué)報(bào),2004,23(6):5-9.

[17]張兵,袁壽其,成立等.基于L-M 優(yōu)化算法的BP神經(jīng)網(wǎng)絡(luò)的作物需水量預(yù)測(cè)模型[J].農(nóng)業(yè)工程學(xué)報(bào),2004,20(6):73-76.

篇9

1986年,rumelhart提出了反向傳播學(xué)習(xí)算法,即bp(backpropagation)算法。反向傳播bp(back propagation)神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一[1]。這種算法可以對(duì)網(wǎng)絡(luò)中各層的權(quán)系數(shù)進(jìn)行修正,故適用于多層網(wǎng)絡(luò)學(xué)習(xí)。bp算法是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法之一,在自動(dòng)控制中是最有用的學(xué)習(xí)算法,它含有輸人層、輸出層以及處于輸入輸出層之間的中間層。中間層有單層或多層,由于它們和外界沒有直接的聯(lián)系,故也稱為隱層。在隱層中的神經(jīng)元也稱隱單元。隱層雖然和外界不連接,但是,它們的狀態(tài)影響著輸入輸出之間的關(guān)系。也就是說,改變隱層的權(quán)系數(shù),可以改變整個(gè)多層神經(jīng)網(wǎng)絡(luò)的性能[2]。

1bp 神經(jīng)網(wǎng)絡(luò)模型

bp 神經(jīng)網(wǎng)絡(luò)模型由一個(gè)輸入層、一個(gè)輸出層以及一個(gè)或多個(gè)隱含層構(gòu)成,同一層中各神經(jīng)元之間相互獨(dú)立。輸入信號(hào)從輸入層神經(jīng)元開始依次通過各個(gè)隱含層神經(jīng)元,最后傳遞到輸出層神經(jīng)元, 圖1給出了包含一個(gè)隱含層的bp網(wǎng)絡(luò)模型結(jié)構(gòu),隱含層神經(jīng)元個(gè)數(shù)為m。理論研究表明:具有一個(gè)輸入層,一個(gè)線性輸出層以及sigmoid 型激活函數(shù)的隱含層bp 網(wǎng)絡(luò)能夠以任意精度逼近任何連續(xù)可微函數(shù)[3]。

三層感知器中,輸入向量為x=(x1,x2…xi…xn)t,圖1中x0=-1是為隱層神經(jīng)元引入閾值而設(shè)置的,隱層輸入向量為y=(y1,y2…yj…ym,)t,圖中y0=-1是為輸出層神經(jīng)元引入閾值而設(shè)置的;輸出層輸出向量o=(o1,o2, …,ok,ol)t,期望輸出向量為d=(d1,d2, …,dk,dl)t,輸入層到隱層之間的權(quán)值矩陣用v表示,v=(v1,v2, …,vj, …vm)t,隱層到輸入層之間的權(quán)值矩陣用w表示,w=(w1,w2, …,w,k …wl)t,下面分析各層信號(hào)之間的關(guān)系[4]。

圖1三層bp網(wǎng)絡(luò)

對(duì)于輸入層:

ok=f(netk) k=1,2, …,l,netk=∑mj=0wjkyj k=1,2, …,l;

對(duì)于隱層:

yj=f(netj)j=1,2, …,m,netj=∑ni=0vijxij=1,2, …,m;

以上兩式中,激活函數(shù)都是sigmoid函數(shù)。

f(x)=11+e-x,f(x)具有連續(xù)、可導(dǎo)的特點(diǎn)且f’(x)= f(x)[1- f(x)]。

根據(jù)以上公式,我們可以推導(dǎo)出權(quán)值調(diào)整量δwjk和δvjk分別是:

δwjk=ηδokyj=η(dk-ok)ok(1-ok)yj,δvij=ηδyjxi=η(∑lk=1δokwjk)yj(1-yj)xi

2智能公交實(shí)時(shí)調(diào)度模型總體設(shè)計(jì)

公交公司的行車計(jì)劃一般在年初就制定完成,調(diào)度員根據(jù)行車計(jì)劃進(jìn)行調(diào)度,遇到節(jié)假日、雨天等突況時(shí),就憑調(diào)度員的工作經(jīng)驗(yàn)調(diào)度。因此,可以考慮使用bp神經(jīng)網(wǎng)絡(luò)算法,在智能公交實(shí)時(shí)調(diào)度中加入誤差反向傳播算法,利用誤差反向傳播算法超強(qiáng)的學(xué)習(xí)能力和泛化能力,通過對(duì)公交海量歷史調(diào)度數(shù)據(jù)的學(xué)習(xí),建立公交車到達(dá)目的站點(diǎn)的預(yù)測(cè)模型。通過實(shí)時(shí)gps數(shù)據(jù),就可以預(yù)測(cè)車輛到達(dá)目的地的大概時(shí)間,為建立智能公交調(diào)度提供極大的方便。智能公交實(shí)時(shí)調(diào)度模型如圖2所示。

圖2智能公交實(shí)時(shí)調(diào)度模型

從圖2可以看出,智能公交實(shí)時(shí)調(diào)度模型分為3個(gè)主要模塊。

(1)數(shù)據(jù)處理分析模塊。智能公交實(shí)時(shí)調(diào)度模型的基礎(chǔ)模塊,數(shù)據(jù)來源于兩個(gè)部分:一是公交歷史行車數(shù)據(jù),包括發(fā)車時(shí)間、天氣等數(shù)據(jù);二是gps定位系統(tǒng)采集的實(shí)時(shí)數(shù)據(jù),主要是各個(gè)時(shí)刻采集的運(yùn)行數(shù)據(jù)。該模塊根據(jù)各預(yù)測(cè)模型的需要,選擇合理的數(shù)據(jù)輸入,并對(duì)數(shù)據(jù)進(jìn)行處理。

(2)預(yù)測(cè)模型模塊。通過對(duì)現(xiàn)有數(shù)據(jù)的分析、預(yù)測(cè),得到車輛到達(dá)調(diào)度站的運(yùn)行時(shí)間預(yù)測(cè)結(jié)果。

(3)智能實(shí)時(shí)調(diào)度模塊。輸入預(yù)測(cè)模型可以得到車輛運(yùn)行時(shí)間,根據(jù)公交歷史調(diào)度計(jì)劃以及公交客流數(shù)據(jù),可以適當(dāng)改變當(dāng)前調(diào)度計(jì)劃,臨時(shí)下達(dá)調(diào)度指令,為建立與實(shí)際客流相結(jié)合的調(diào)度方法提供決策支持。

(4)基于bp神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型。公交車輛的運(yùn)行時(shí)間總的來說還是比較固定的,但是有時(shí)候會(huì)隨著道路擁擠情況、節(jié)假日、天氣情況等有所改變。由于神經(jīng)網(wǎng)絡(luò)具備以任意精度逼近連續(xù)函數(shù)功能,具有較強(qiáng)的自我學(xué)習(xí)能力和泛化能力,能夠充分體現(xiàn)輸入數(shù)據(jù)與輸出數(shù)據(jù)之間復(fù)雜的映射關(guān)系。因此,本文采用bp神經(jīng)網(wǎng)絡(luò)來預(yù)測(cè)車輛到達(dá)時(shí)間。

2.1輸入變量對(duì)公交運(yùn)行時(shí)間的影響

把公交車運(yùn)行時(shí)間分

為幾個(gè)階段,車輛到達(dá)目的地所需要的時(shí)間往往與該公交車處于的階段有著某種必然的聯(lián)系,根據(jù)車輛實(shí)時(shí)gps數(shù)據(jù)及車輛運(yùn)行過程中所處的時(shí)間,設(shè)ti為公交車實(shí)時(shí)時(shí)間,所以ti在那個(gè)階段對(duì)車輛運(yùn)行有直接影響, ti可以根據(jù)gps數(shù)據(jù)實(shí)時(shí)取得。

車輛位置:車輛在運(yùn)行過程中所處的位置對(duì)公交車到達(dá)目的站有著一定的影響,根據(jù)gps實(shí)時(shí)數(shù)據(jù),可以計(jì)算出車輛離終點(diǎn)站有多少距離,將車輛在ti時(shí)刻距調(diào)度站的距離作為影響因素。

天氣情況:天氣的好壞對(duì)公共汽車的運(yùn)行產(chǎn)生比較大的影響,一般情況下,公交車在晴天的運(yùn)行時(shí)間要比雨天少,車速比雨天快。

星期情況:從周一到周日,不同日子有著不同的客流,所以星期情況對(duì)公交的運(yùn)行產(chǎn)生一定的影響。

節(jié)日:重大節(jié)日客流量明顯增多,車輛的運(yùn)行時(shí)間也會(huì)有所延長。

2.2變量獲取

bp神經(jīng)網(wǎng)絡(luò)需要大量數(shù)據(jù)作為輸入、輸出樣本,因此在構(gòu)建bp神經(jīng)網(wǎng)絡(luò)前,首先要做的工作就是獲取這些數(shù)據(jù)。利用先進(jìn)的信息技術(shù),可以獲取公交車輛運(yùn)行的gps數(shù)據(jù),而天氣、星期情況、是否節(jié)假日這些變量則可以在大量的歷史數(shù)據(jù)中獲得。

2.3基于神經(jīng)網(wǎng)絡(luò)的車輛預(yù)測(cè)模型

預(yù)測(cè)模型將采用三層bp神經(jīng)網(wǎng)絡(luò),即一個(gè)輸入層,一個(gè)隱層以及一個(gè)輸出層,輸入層一共有5個(gè)變量,分別是時(shí)間、車輛位置、天氣情況、星期情況以及節(jié)假日。隱含層節(jié)點(diǎn)數(shù)目一共有11個(gè)節(jié)點(diǎn)。輸出層為1個(gè)節(jié)點(diǎn),采用有導(dǎo)師的學(xué)習(xí)方法。至此本文建立的bp網(wǎng)絡(luò)結(jié)構(gòu)為5×11×1,bp網(wǎng)絡(luò)結(jié)構(gòu)如圖3所示。

圖3bp神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

bp神經(jīng)網(wǎng)絡(luò)的車輛運(yùn)行時(shí)間測(cè)算模型如圖4所示。

其中:t 為當(dāng)前時(shí)刻,w(t-t),當(dāng)前時(shí)刻t之前t時(shí)刻神經(jīng)網(wǎng)絡(luò)輸入層與隱層以及隱層與輸出層之間的權(quán)值矩陣。

f(t):車輛從起始站到當(dāng)前時(shí)刻車輛的運(yùn)行時(shí)間。

f’(t):預(yù)測(cè)樣本的輸出時(shí)間。

xi(t):t時(shí)刻的第i個(gè)輸入向量,i∈[0,1],其中xi為車輛在t時(shí)刻到達(dá)調(diào)度站的距離的輸入向量,x2為天氣情況輸入向量,x3為車輛運(yùn)行所處的星期輸入向量,x4為車輛運(yùn)行當(dāng)天是否節(jié)日的輸入向量,x5為gps采集數(shù)據(jù)的時(shí)刻向量。

圖4bp神經(jīng)網(wǎng)絡(luò)的車輛運(yùn)行時(shí)間測(cè)算模型

2.4樣本數(shù)據(jù)取值及歸一化方法

(1)gps定位數(shù)據(jù)。在車輛運(yùn)行過程中,對(duì)車載gps數(shù)據(jù)進(jìn)行采集,采集完成后通過一定的方法進(jìn)行計(jì)算,從而得出車輛離到達(dá)站的距離,設(shè)該距離為一對(duì)一使用歸一化處理,使得轉(zhuǎn)換后的數(shù)值就落在(0,1)上。

(2)天氣情況。在一段時(shí)間內(nèi),公交車會(huì)碰到不同的天氣,不同的天氣對(duì)公交的運(yùn)行產(chǎn)生不同的影響。我們把天氣進(jìn)行分類,一共分為7種狀況,分別是大雨、小雨、雪、大霧、小霧、晴天和陰天,用不同的數(shù)字來表示這7種天氣情況。

(3)星期情況。對(duì)于不同的星期采用不同的分類方法表示,從星期一到星期日也采用不同的數(shù)字表示。

(4)節(jié)假日。節(jié)假日可以用布爾變量來表示,true是節(jié)假日,false為非節(jié)假日。

3結(jié)語

國內(nèi)大多數(shù)公交調(diào)度優(yōu)化研究都是著眼于靜態(tài)調(diào)度,而本文將研究重點(diǎn)放在了實(shí)時(shí)調(diào)度方面,在智能公交實(shí)時(shí)調(diào)度中加入bp神經(jīng)網(wǎng)絡(luò)技術(shù),用誤差反向傳播算法超強(qiáng)的學(xué)習(xí)能力和泛化能力,通過對(duì)公交海量歷史調(diào)度數(shù)據(jù)的學(xué)習(xí),建立公交車到達(dá)目的站點(diǎn)的預(yù)測(cè)模型。通過實(shí)時(shí)gps數(shù)據(jù),就可以預(yù)測(cè)車輛到達(dá)目的地的大概時(shí)間,為建立智能公交調(diào)度提供極大的方便。

參考文獻(xiàn)參考文獻(xiàn):

\[1\]李翔,朱全銀.adaboost算法改進(jìn)bp神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)研究[j].計(jì)算機(jī)工程與科學(xué),2013(8).

篇10

[關(guān)鍵詞]人工神經(jīng)網(wǎng)絡(luò)湖南人均GDP預(yù)測(cè)

GDP反應(yīng)某地區(qū)在核算期內(nèi)生產(chǎn)活動(dòng)的最終成果及衡量國民經(jīng)濟(jì)發(fā)展規(guī)模、速度、結(jié)構(gòu)、效益的代表性指標(biāo),也是制定經(jīng)濟(jì)發(fā)展戰(zhàn)略目標(biāo)的主要指標(biāo)。湖南省作為中部的一個(gè)省份,通過對(duì)“十一五”期間湖南省人均GDP的預(yù)測(cè),可以分析全省的勞動(dòng)量、資本量和技術(shù)知識(shí)的存量,利用GDP的存量功能,可以獲得資源與要素的信息,并據(jù)此推算湖南省的經(jīng)濟(jì)增長的潛力,從而有利于政府部門制定更合理的經(jīng)濟(jì)政策。

一、問題的分析與模型的建立

經(jīng)濟(jì)預(yù)報(bào)是一個(gè)復(fù)雜的非線性系統(tǒng),且系統(tǒng)的內(nèi)部時(shí)時(shí)刻刻在發(fā)生變化,我們希望能夠建立一個(gè)參數(shù)隨預(yù)測(cè)環(huán)境的變化而改變的非線性模型,國內(nèi)外對(duì)經(jīng)濟(jì)的預(yù)測(cè)進(jìn)行了大量的研究,提出了許多預(yù)測(cè)的方法,其中神經(jīng)網(wǎng)絡(luò)被認(rèn)為是一種較好的非線性預(yù)測(cè)方法,尤其是BP神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)簡單,非線性處理能力卻很強(qiáng)大。

1.BP網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò),其結(jié)構(gòu)如圖1

BP網(wǎng)絡(luò)是一種具有三層或三層以上的神經(jīng)網(wǎng)絡(luò),包括輸入層、中間層(隱層)和輸出層。上、下層之間實(shí)現(xiàn)聯(lián)接,而每層神經(jīng)元之間無聯(lián)接。當(dāng)一對(duì)學(xué)習(xí)樣本提供給網(wǎng)絡(luò)后,神經(jīng)元的激活值,從輸入層經(jīng)各中間層,向輸出層傳播,在輸出層的各神經(jīng)元獲得網(wǎng)絡(luò)的輸入響應(yīng)。接下來,按照減少目標(biāo)輸出與實(shí)際值的誤差的方向,從輸出層經(jīng)過各中間層逐層修正各聯(lián)接權(quán)值,最后回到輸入層,這種算法稱為“誤差逆?zhèn)鞑ニ惴ā?,即BP算法。隨著這種誤差逆?zhèn)鞑バ拚粩噙M(jìn)行,網(wǎng)絡(luò)對(duì)輸入模式響應(yīng)的正確率也不斷上升。

圖1為常用的三層BP網(wǎng)絡(luò)結(jié)構(gòu),如果輸入層、隱含層和輸出層的單元個(gè)數(shù)分別為n、q、m,則該三層網(wǎng)絡(luò)可表示BP(n,q,m),利用該網(wǎng)絡(luò)可實(shí)現(xiàn)n維輸入向量Xn=(X1,X2…Xn)到m維輸出向量Ym=(Y1,Y2…Ym)T的非線性映射。m,n根據(jù)具體問題確定,而隱含層單元數(shù)q的確定尚無成熟的方法,一般可設(shè)定不同的q值,根據(jù)訓(xùn)練結(jié)果進(jìn)行選擇。網(wǎng)絡(luò)結(jié)構(gòu)BP(n,q,m)確定后,網(wǎng)絡(luò)參數(shù)包括輸入層第i單元到隱含層第j單元的權(quán)重Wij(i=1...n,j=1...q),隱層第i單元到輸出層第k單元的權(quán)重Wiko(j=1...q,k=1...m);隱含層第j單元的激活閾值(j=1...q)及輸出層第k單元的激活閾值(k=1...m),以上權(quán)值和閾值的初值在網(wǎng)絡(luò)訓(xùn)練之前隨機(jī)生成;假設(shè)共有p個(gè)訓(xùn)練樣本,輸入的第p個(gè)訓(xùn)練樣本信息首先向前傳播到隱含層單元上,經(jīng)過激活函數(shù)f(u)的作用得到隱含層的輸出信息: (1)

激活函數(shù)f(u)采用s(0,1)型函數(shù),即 (2)

隱含層的輸出信息傳到輸出層,可得到最終輸入結(jié)果為

BP算法的基本思想是學(xué)習(xí)過程由信號(hào)的正向傳播與誤差的反向傳播兩個(gè)過程組成。以上過程為網(wǎng)絡(luò)學(xué)習(xí)的信息正向傳播過程;如果網(wǎng)絡(luò)輸出與期望輸出存在誤差,則將誤差反向傳播,誤差的反射傳播是將輸出誤差以某種形式通過隱層向輸入層逐層反傳,并將誤差分?jǐn)偨o各層的所有單元,從而獲得各層單元的誤差信號(hào),以誤差信號(hào)作為修正各單元權(quán)值的依據(jù),可以利用(4)來調(diào)節(jié)網(wǎng)絡(luò)權(quán)重和閾值。

其中為W(t)次訓(xùn)練,η,α分別為比例系數(shù)和動(dòng)量系數(shù),E為誤差平方和反復(fù)運(yùn)用以上兩個(gè)過程,一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可接近的程度或進(jìn)行到預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止()。

通常,經(jīng)過訓(xùn)練的網(wǎng)絡(luò)還應(yīng)該進(jìn)行性能的測(cè)試,測(cè)試的方面就是選擇樣本向量,將其提供給網(wǎng)絡(luò),檢驗(yàn)網(wǎng)絡(luò)對(duì)其分類的正確性,測(cè)試樣本向量中應(yīng)包括今后網(wǎng)絡(luò)應(yīng)用過程中可能的主要典型模式;樣本可以直接測(cè)取得到,也可以通過仿真得到,在樣本數(shù)據(jù)較少或者較難得到時(shí),也可以通過對(duì)學(xué)習(xí)樣本加上適當(dāng)?shù)脑肼暬虬凑找欢ǖ囊?guī)則插值得到,總之,一個(gè)良好的測(cè)試樣本集中,不應(yīng)該包括和學(xué)習(xí)完全相同的模式。

2.BP神經(jīng)網(wǎng)絡(luò)在經(jīng)濟(jì)預(yù)報(bào)模型中的應(yīng)用

采用神經(jīng)網(wǎng)絡(luò)進(jìn)行經(jīng)濟(jì)預(yù)測(cè),以湖南省1978~1999年的經(jīng)濟(jì)數(shù)據(jù)作為訓(xùn)練樣本,2000年~2004年GDP進(jìn)行預(yù)測(cè)仿真試驗(yàn)。

GDP預(yù)測(cè)指標(biāo)體系就包含第一產(chǎn)業(yè)(x1)、第二產(chǎn)業(yè)(x2)、第三產(chǎn)業(yè)(x3)。在考慮諸年數(shù)據(jù)的可比性,在應(yīng)用神經(jīng)網(wǎng)絡(luò)之前,采用如下方法對(duì)數(shù)據(jù)環(huán)比處理:

式中,x為指標(biāo)的環(huán)比值;y為指標(biāo)的原始數(shù)據(jù)值;w為物價(jià)指數(shù),t和t-1分別代表當(dāng)年度和上年度。采用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè),即用上一年的經(jīng)濟(jì)數(shù)據(jù)作為輸入,下一年的GDP作為輸出。因此GDP預(yù)測(cè)模型可以描述為:

y1=f(x1(t-1),x2(t-1),x3(t-1))

設(shè)置L―M算法BP神經(jīng)網(wǎng)絡(luò)的計(jì)算誤差為10-4,最大計(jì)算步數(shù)為10000,計(jì)算結(jié)果見圖2:

預(yù)測(cè)的結(jié)果見下表

從表中預(yù)測(cè)的結(jié)果,可以看出,模型擬合得到的數(shù)據(jù)與真實(shí)值是比較吻合的,預(yù)測(cè)的效果比較好,完全能滿足實(shí)際應(yīng)用的需要。如果我們對(duì)神經(jīng)網(wǎng)絡(luò)訓(xùn)練的精度作更高的要求,還可進(jìn)一步降低預(yù)測(cè)的誤差。

參考文獻(xiàn):

[1]Martin T.Hagan.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì).機(jī)械工業(yè)出版社,2005

[2]王振龍:時(shí)間序列分析.中國統(tǒng)計(jì)出版社.2003

[3]伍衛(wèi)國:數(shù)值方法和Matlab實(shí)現(xiàn)與應(yīng)用.機(jī)械工業(yè)出版社,2004