神經(jīng)網(wǎng)絡(luò)的反向傳播范文

時(shí)間:2023-11-01 17:25:48

導(dǎo)語(yǔ):如何才能寫(xiě)好一篇神經(jīng)網(wǎng)絡(luò)的反向傳播,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公務(wù)員之家整理的十篇范文,供你借鑒。

神經(jīng)網(wǎng)絡(luò)的反向傳播

篇1

關(guān)鍵詞:諧波源模型;諧波分析;反向傳播神經(jīng)網(wǎng)絡(luò);諧波潮流

中圖分類號(hào):TP183 文獻(xiàn)標(biāo)識(shí)碼:B

文章編號(hào):1004-373X(2008)06-108-03

Back Propagation Algorithm Neural Network-based Harmonic Source Modeling

LIU Chang ZHANG Qingfan ZHENG Weijie2

(1.School of Control Science and Engineering,Shandong University,Jinan,250061,China;

2.School of Electrization and Engineering,Shandong University,Jinan,250061,China)

Abstract:A novel Back Propagation Algorithm Neural Network (BPA-NN) is proposed for modeling nonlinear electric loads in steady―state frequency domain.In the model, the nonlinearity mapping between harmonic voltages and harmonics currents is established by BPA-NN.BPA-NN is a parallel learning algorithm.Calculation results show that the proposed method,having the characteristics of short training time and high precision,is an effective technique for building up harmonic source mode1.

Keywords:harmonic source model;harmonic analysis;BPA neural network;harmonic power flow

隨著近年來(lái)電力電子技術(shù)的快速發(fā)展,半導(dǎo)體器件等其他非線性負(fù)荷在電力系統(tǒng)中的使用也越來(lái)越多。當(dāng)電力系統(tǒng)向非線性設(shè)備及負(fù)荷供電時(shí),這些非線性設(shè)備及負(fù)荷在傳遞、變換、吸收系統(tǒng)發(fā)電機(jī)所供給的基波能量的同時(shí),又把部分基波能量轉(zhuǎn)換為諧波能量,返送回電力系統(tǒng),成為電網(wǎng)的主要諧波源。諧波污染造成了諸多影響電力系統(tǒng)電能質(zhì)量水平的波形干擾,如電壓凹陷與凸起(voltage sag and swell)、電壓間斷(interruption)、短時(shí)沖擊(glitch)、閃變(flicker) 及陷波(notch) 等。從而影響電能的質(zhì)量,對(duì)電力系統(tǒng)的安全、經(jīng)濟(jì)運(yùn)行造成極大的影響。所以,對(duì)電網(wǎng)中的諧波進(jìn)行準(zhǔn)確的計(jì)算,確切掌握電網(wǎng)中諧波的實(shí)際狀況,對(duì)于防止諧波危害,維護(hù)電網(wǎng)的安全運(yùn)行十分必要。

國(guó)內(nèi)外許多學(xué)者對(duì)諧波污染開(kāi)展了大量的研究工作,電能質(zhì)量分析已成為電力系統(tǒng)研究中的熱點(diǎn)[1]。但在諧波領(lǐng)域的研究方面還存在許多問(wèn)題,如在地區(qū)供電網(wǎng)中,存在著許多不同的諧波源,對(duì)每個(gè)不同的諧波源準(zhǔn)確建模[2],是一件很困難的事。

電力系統(tǒng)中的諧波源大體分為2種類型,一類為含有半導(dǎo)體元件的各種電力電子設(shè)備,他們按一定規(guī)律開(kāi)閉不同電路,將諧波電流注入系統(tǒng)。這類諧波源所產(chǎn)生的諧波電流,可根據(jù)供電電壓波形、設(shè)備的電路結(jié)構(gòu)及參數(shù)和控制方式等精確求得。另一類為含有電弧和鐵磁非線性設(shè)備的諧波源,如熒光燈和電弧爐等在穩(wěn)定工作狀態(tài)下,他們所產(chǎn)生的諧波電流則可以由供電電壓波形和負(fù)荷的伏安特性計(jì)算而得。對(duì)于這2類非線性負(fù)荷,諧波源的特性可統(tǒng)一表述為:

式(1)中Ih為負(fù)荷吸收的h次諧波電流相量;Fh為供電電壓中的基波和各次諧波電壓相量;C為負(fù)荷的特征參數(shù)集合。

對(duì)于第一類負(fù)荷而言,即為設(shè)備的電路結(jié)構(gòu)和參數(shù),對(duì)第二類負(fù)荷而言,即為表征其伏安特性的各參數(shù)。式(1)的表達(dá)形式雖然難以得到,但若給定供電電壓波形和設(shè)備控制參數(shù)C,則可以通過(guò)數(shù)值計(jì)算精確地計(jì)算出諧波源吸收的各次諧波電流。以上模型雖然精確,但是由于負(fù)荷種類繁多,各自的參數(shù)集合C難以精確獲得,另外由于計(jì)算復(fù)雜,限制了該模型的使用。

神經(jīng)網(wǎng)絡(luò)因?yàn)槠鋸?qiáng)大的非線性映射能力和并行處理、自學(xué)習(xí)等優(yōu)點(diǎn)而成為非線性建模的主要方法之一。他通過(guò)對(duì)簡(jiǎn)單的非線性函數(shù)的復(fù)合來(lái)完成這一映射,從而可以表達(dá)復(fù)雜的物理邊界條件?;谏窠?jīng)網(wǎng)絡(luò)的這一特性,文獻(xiàn)[3]中提出了用徑向基網(wǎng)絡(luò)(RBF networks)建立諧波源模型的方法,并引入系統(tǒng)進(jìn)行諧波潮流的計(jì)算,顯著提高諧波潮流的收斂速度。文獻(xiàn)[4]基于神經(jīng)網(wǎng)絡(luò)提出一種新的諧波檢測(cè)方法。

結(jié)合諧波源建模問(wèn)題,利用一種新穎的反向傳播(Back Propagation,B-P)算法建立穩(wěn)態(tài)頻域的諧波源模型,表征諧波源的電壓-電流特性。在該模型中,各次諧波電流的幅值、相角各次諧波電壓的幅值、相角以及負(fù)荷特征參數(shù)的關(guān)系通過(guò)一種新穎的反向傳播(B-P)算法網(wǎng)絡(luò)進(jìn)行非線性映射。該算法引入神經(jīng)元“權(quán)”的概念。在訓(xùn)練中,發(fā)現(xiàn)某個(gè)神經(jīng)元的“權(quán)”比學(xué)習(xí)精度小,這個(gè)神經(jīng)元將被去掉,且只需要檢查與最新輸入數(shù)據(jù)距離最近的神經(jīng)元的“權(quán)”。如果新的輸入數(shù)據(jù)并不需要增加新的神經(jīng)元,那么只有距離最近的那個(gè)神經(jīng)元的參數(shù)被調(diào)整。這樣,計(jì)算量將減少,學(xué)習(xí)的速度也提高了。B-P算法的訓(xùn)練并行進(jìn)行,對(duì)神經(jīng)網(wǎng)絡(luò)中的每一個(gè)神經(jīng)元,其運(yùn)算是同樣的,這樣的結(jié)構(gòu)便于進(jìn)行計(jì)算機(jī)并行處理,并且具有記憶性。算法的這種特性可用于模型的在線建立與動(dòng)態(tài)更新。算例計(jì)算表明,本模型具有訓(xùn)練時(shí)間少、精度高、可動(dòng)態(tài)建模等優(yōu)點(diǎn)。

1 反向傳播(B-P)算法建模方法

網(wǎng)絡(luò)學(xué)習(xí)的目的是要使網(wǎng)絡(luò)盡可能逼近理想(目標(biāo))的反應(yīng),這種反應(yīng)通過(guò)訓(xùn)練數(shù)據(jù)或成為學(xué)習(xí)資料的輸入/輸出數(shù)據(jù)來(lái)衡量。在網(wǎng)絡(luò)受訓(xùn)練時(shí),不斷將網(wǎng)絡(luò)的輸出數(shù)據(jù)與理想的輸出相比較,并按照學(xué)習(xí)規(guī)則改變權(quán)重,直至網(wǎng)絡(luò)的輸出數(shù)據(jù)對(duì)所有訓(xùn)練數(shù)據(jù)與理想的輸出數(shù)據(jù)之差達(dá)到要求的誤差范圍之內(nèi)。

設(shè)有P個(gè)訓(xùn)練樣本,即有P個(gè)輸入輸出對(duì)(Ip,Tp),p=1,2,…,P。其中Ip=(ip1,ip2,…,ipm)T為輸入向量;Tp=(tp1,tp2,…,tpn)T為目標(biāo)輸出向量。這里m是輸入向量的維數(shù),n為輸出向量的維數(shù)。簡(jiǎn)單網(wǎng)絡(luò)如圖1所示,圖1中OP=(op1,…,opn)T是對(duì)應(yīng)于輸入Ip的網(wǎng)絡(luò)實(shí)際輸出向量,他與目標(biāo)輸出向量Tp會(huì)有一定的差異。網(wǎng)絡(luò)學(xué)習(xí)是指不斷地把OP(實(shí)際網(wǎng)絡(luò)輸出)與Tp(目標(biāo)期望輸出)做對(duì)照,并利用他們間的差距即OP與TpУ木嗬肫椒劍

2 基于B-P網(wǎng)絡(luò)的諧波源建模

諧波源模型基于以下設(shè)定:諧波源的供電電壓及其吸收的電流均為三相對(duì)稱且以T為周期的周期性函數(shù)。此時(shí)諧波源的全部特性可由其在供電側(cè)基波電壓相角為零、基波電壓幅值和各次諧波電壓幅值、相角變化時(shí)的特性惟一決定。這樣,諧波源各次諧波電流的相角可以由供電側(cè)基波電壓相角作為基準(zhǔn)?;妷合嘟菫榱銜r(shí),式(1)可以轉(zhuǎn)化為:

這樣,各次諧波電流的幅值和相角與各次諧波電壓的幅值和相角以及負(fù)荷特征參數(shù)C的非線性映射關(guān)系就可以通過(guò)對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練建立起來(lái)。對(duì)系統(tǒng)中的實(shí)際負(fù)荷而言,可以通過(guò)一定時(shí)間的連續(xù)采樣獲得一定的訓(xùn)練數(shù)據(jù),然后采用B-P算法進(jìn)行訓(xùn)練。當(dāng)負(fù)荷特征參數(shù)C變化時(shí),可以動(dòng)態(tài)地更新諧波源模型。如果采用計(jì)算機(jī)仿真獲取訓(xùn)練數(shù)據(jù),則可以人為地設(shè)定供電電壓諧波分量,經(jīng)數(shù)值計(jì)算獲得其電流諧波向量。由于在系統(tǒng)實(shí)際運(yùn)行中,各次諧波電壓幅值一般不超過(guò)系統(tǒng)電壓額定值的10%,因而在仿真中,可以在此范圍內(nèi)選擇訓(xùn)練和測(cè)試用例。

定義2個(gè)指標(biāo)衡量網(wǎng)絡(luò)的學(xué)習(xí)精度:算術(shù)平均誤差(Mean Arithmetic Error,MAE)εMAE和均方根誤差(Root Mean Square Error,RMAE)εRMSE:

式中f(xi)為神經(jīng)網(wǎng)絡(luò)的輸出。訓(xùn)練前應(yīng)首選進(jìn)行尺度變化,將樣本數(shù)據(jù)的取值范圍轉(zhuǎn)化為[0,1]。

3 算例分析

為了驗(yàn)證所提出的諧波源建模算法的合理性,采用了三相TCR電路做研究,如圖3所示。其由3部分構(gòu)成:諧波電壓源、線路感抗、三角形聯(lián)結(jié)TCR。

圖3 三相TCR電路結(jié)構(gòu)圖

為獲取訓(xùn)練樣本,本文對(duì)該系統(tǒng)進(jìn)行計(jì)算機(jī)仿真研究。計(jì)算中各參數(shù)均采用標(biāo)幺值,基準(zhǔn)值為10 kV,1 MVA。在仿真計(jì)算中,基波電壓V(k)1在0.95~1.1之間,諧波電壓的實(shí)部V(k)hr和虛部V(k)hi在-0.05~0.05之間按均勻分布隨機(jī)設(shè)定,并令θ(k)u1=0。由于只考慮系統(tǒng)三相平衡的情況,因而只考慮特征諧波,即h=6k±l,k=1,2,…,4。гMatlab環(huán)境下進(jìn)行訓(xùn)練和測(cè)試,訓(xùn)練結(jié)果如表1所示。仿真電路如圖4所示。

表1 訓(xùn)練結(jié)果與誤差[STBZ][HT6K]

圖4 Matlab仿真電路

表2 計(jì)算與仿真結(jié)果對(duì)比[STBZ][HT6K]

由表1和表2可見(jiàn),其測(cè)試誤差很??;由圖5可見(jiàn),仿真與計(jì)算波形吻合很好,表明已成功地對(duì)系統(tǒng)建模,訓(xùn)練時(shí)間也能滿足應(yīng)用的需要。

圖5 計(jì)算與仿真波形對(duì)比

4 結(jié) 語(yǔ)

研究利用反向傳播算法神經(jīng)網(wǎng)絡(luò)對(duì)穩(wěn)態(tài)頻域諧波源進(jìn)行建模的問(wèn)題。在該模型中,各次諧波電流的幅值和相角、各次諧波電壓的幅值和相角以及負(fù)荷特征參數(shù)的關(guān)系通過(guò)一種新穎的B-P網(wǎng)絡(luò)進(jìn)行非線性映射。該算法是并行學(xué)習(xí)算法,可利用實(shí)測(cè)的新數(shù)據(jù)進(jìn)行模型更新。通過(guò)對(duì)三相TCR電路的諧波源建模研究,采用反向傳播算法神經(jīng)網(wǎng)絡(luò)建立的諧波源模型精度高,是諧波源建模的有效方法。該算法還為諧波源濾波的補(bǔ)償算法[5]提供了思路。

參考文獻(xiàn)

[1]Hu Ming,Chen Heng.Survey of Power Quality and Its Analysis Methods[J].Power System Technology,2000,24 (2):36-38.

[2]趙勇,張濤,李建華,等.一種新的諧波源簡(jiǎn)化模型[J].中國(guó)電機(jī)工程學(xué)報(bào),2002,22(4):46-50.

[3]Moreno M A,Usalla J.A New Balanced Harmonic Load Flow Including Nonlinear Loads Modeled with RBF Networks[J].IEEE Trans.Power Delivery,2004,l9(2): 686-693.

[4]張林利,王廣柱.一種基于人工神經(jīng)網(wǎng)絡(luò)的諧波測(cè)量新方法[J].電力系統(tǒng)及其自動(dòng)化學(xué)報(bào),2004,16(2):40-43.

[5]呂征宇,錢(qián)照明,Green T C.并聯(lián)有源電力濾波器的神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)控制[J].中國(guó)電機(jī)工程學(xué)報(bào),l999,l9(12):22-26.

作者簡(jiǎn)介 劉 暢 男,1981年出生,山東大學(xué)控制學(xué)院05級(jí)碩士研究生。主要研究方向?yàn)殡娏﹄娮蛹夹g(shù)及應(yīng)用。

篇2

關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);Adaboost算法;入侵檢測(cè)

中圖分類號(hào):TP393文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-3044(2012)12-2687-02

隨著計(jì)算機(jī)網(wǎng)絡(luò)技術(shù)的飛速發(fā)展,網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)成為了近幾年信息安全領(lǐng)域研究的熱點(diǎn)。入侵檢測(cè)可以有效地維護(hù)網(wǎng)絡(luò)安全,實(shí)現(xiàn)實(shí)時(shí)保護(hù),抵制各種外部入侵、內(nèi)部攻擊等,彌補(bǔ)了防火墻的不足。網(wǎng)絡(luò)入侵檢測(cè)實(shí)際上是通過(guò)分析網(wǎng)絡(luò)數(shù)據(jù)包,把正常數(shù)據(jù)和異常數(shù)據(jù)進(jìn)行有效地分類,找出異常數(shù)據(jù)。近年來(lái),涌現(xiàn)了大量的基于機(jī)器學(xué)習(xí)的網(wǎng)絡(luò)入侵檢測(cè)系統(tǒng)模型,如基于免疫遺傳算法、神經(jīng)網(wǎng)絡(luò)、支持向量機(jī)等等的異常檢測(cè)算法模型[1]。其中BP神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)能力強(qiáng)、結(jié)構(gòu)簡(jiǎn)潔和非線性映射能力,在網(wǎng)絡(luò)入侵檢測(cè)中得到了廣泛的應(yīng)用。但是由于網(wǎng)絡(luò)數(shù)據(jù)量非常大,傳統(tǒng)的BP神經(jīng)網(wǎng)絡(luò)模型在預(yù)測(cè)分類時(shí)往往具有預(yù)測(cè)分類精度低、模型收斂速度慢等缺陷,不能有效地找出異常攻擊樣本[2][3]。該文基于這些缺陷,提出了一種基于Adaboost算法集成BP神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)入侵檢測(cè)方法,采用Matlab軟件進(jìn)行仿真實(shí)驗(yàn),在KDD 99數(shù)據(jù)集進(jìn)行測(cè)試,實(shí)驗(yàn)結(jié)果表明該方法可有效提高小類樣本的預(yù)測(cè)效果,降低漏報(bào)率和誤報(bào)率。

1 BP神經(jīng)網(wǎng)絡(luò)模型

1.1 BP神經(jīng)網(wǎng)絡(luò)定義

BP神經(jīng)網(wǎng)絡(luò)是目前應(yīng)用最廣泛的人工神經(jīng)網(wǎng)絡(luò)之一,是一種前饋型的、有導(dǎo)師學(xué)習(xí)、采用誤差反向傳播算法的神經(jīng)網(wǎng)絡(luò)。在該模型中,信號(hào)由正向傳播和反向傳播兩過(guò)程組成。正向傳播時(shí),數(shù)據(jù)由輸入層輸入傳輸至隱藏層,隱藏層單元處理后的結(jié)果由輸出層輸出,如果輸出結(jié)果與輸出期望不符時(shí),進(jìn)行反向傳播,即調(diào)整權(quán)值對(duì)輸出結(jié)果進(jìn)行再次正向傳播的數(shù)據(jù)處理,不斷重復(fù)此過(guò)程直至輸出結(jié)果與輸出預(yù)期的誤差在預(yù)設(shè)范圍內(nèi),或者完成了預(yù)設(shè)的學(xué)習(xí)次數(shù)為止[4]。圖1為BP神經(jīng)網(wǎng)絡(luò)模型。

[2] PanHao,LiXingfeng. Research of the Intrusion Detection Approach Based on the Split-assembly BP Neural Network[C].Proc.of the 3rd In ternational Symposium on Magnetic Industry&the 1st International Symposium on Physics and Industry.Shenyang,China:[s.n.],2004.

[3]韓力群.人工神經(jīng)網(wǎng)絡(luò)教程[M].北京:北京郵電大學(xué)出版社,2006.

[4]劉星昊.融合多數(shù)據(jù)源構(gòu)建基因調(diào)控網(wǎng)絡(luò)[D].長(zhǎng)春:吉林大學(xué),2010.

[5]Fengrong Sun,Drew Morris,Paul Babyn.The Optimal linear transformation-based fMRI.feature space analysis[J].Medical and Biological En gineering and Computing.2009,47(11):19-29.

[6]張治國(guó).人工神經(jīng)網(wǎng)絡(luò)及其在地質(zhì)學(xué)中的應(yīng)用研究[D].長(zhǎng)春:吉林大學(xué),2006.

篇3

關(guān)鍵詞:商業(yè)銀行 個(gè)人信用等級(jí)評(píng)估 BP人工神經(jīng)網(wǎng)絡(luò) 模糊評(píng)判

個(gè)人信用等級(jí)評(píng)估指標(biāo)體系

商業(yè)銀行個(gè)人信用等級(jí)評(píng)估指標(biāo)體系設(shè)立的目的簡(jiǎn)述為銀行通過(guò)評(píng)估借款人的“3C”,即品德(Character)、能力(Capacity)以及抵押(Collateral),對(duì)借款人在債務(wù)期滿時(shí)償債能力(Ability to pay)和還款意愿(Willingness to pay)等進(jìn)行預(yù)測(cè)。根據(jù)指標(biāo)體系設(shè)立原則,參照國(guó)際標(biāo)準(zhǔn)、國(guó)內(nèi)外銀行經(jīng)驗(yàn)和企業(yè)信用等級(jí)評(píng)估方法,綜合考慮商業(yè)銀行特點(diǎn)及所在地區(qū)情況,通過(guò)對(duì)以往借款人群的考察,以專家判斷為基礎(chǔ),可選擇4大類21個(gè)指標(biāo)全面評(píng)價(jià)個(gè)人信用等級(jí)(如表1)。

人工神經(jīng)網(wǎng)絡(luò)的具體應(yīng)用

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network,簡(jiǎn)稱ANN)是20世紀(jì)80年代后期迅速發(fā)展的人工智能技術(shù),由大量簡(jiǎn)單的基本元件――神經(jīng)元相互聯(lián)結(jié),模擬人的大腦神經(jīng)處理信息的方式,進(jìn)行信息并行處理和非線形轉(zhuǎn)換的復(fù)雜網(wǎng)絡(luò)系統(tǒng)。標(biāo)準(zhǔn)的人工神經(jīng)網(wǎng)絡(luò)是由3個(gè)神經(jīng)元層次組成的BP(Back Propagation)網(wǎng)絡(luò)模型,即反向傳播神經(jīng)網(wǎng)絡(luò)。BP人工神經(jīng)網(wǎng)絡(luò)處理信息是通過(guò)信息樣本對(duì)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練,使其具有記憶、辨識(shí)能力,完成各種信息處理功能。

可行性分析

我國(guó)個(gè)人信用等級(jí)評(píng)估起步較晚,相關(guān)信息殘缺,而B(niǎo)P人工神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大并行處理機(jī)制,高度自學(xué)習(xí)、自適應(yīng)能力,內(nèi)部有大量可調(diào)參數(shù),因而使系統(tǒng)靈活性更強(qiáng)。

進(jìn)行個(gè)人信用等級(jí)評(píng)估與預(yù)測(cè)時(shí),有些因素帶有模糊性,而B(niǎo)P人工神經(jīng)網(wǎng)絡(luò)的后天學(xué)習(xí)能力使之能夠隨環(huán)境的變化而不斷學(xué)習(xí),能夠從未知模式的大量復(fù)雜數(shù)據(jù)中發(fā)現(xiàn)規(guī)律,與傳統(tǒng)的評(píng)價(jià)方法相比,表現(xiàn)出更強(qiáng)的功能。

BP人工神經(jīng)網(wǎng)絡(luò)方法克服了傳統(tǒng)分析過(guò)程的復(fù)雜性及選擇適當(dāng)模型函數(shù)形式的困難,它是一種自然的非線性建模過(guò)程,無(wú)需分清存在何種非線性關(guān)系,給建模與分析帶來(lái)極大的方便。

BP人工神經(jīng)網(wǎng)絡(luò)可以再現(xiàn)專家的經(jīng)驗(yàn)、知識(shí)和直覺(jué)思維,較好地保證了評(píng)估與預(yù)測(cè)結(jié)果的客觀性。

模型建立

三層BP人工神經(jīng)網(wǎng)絡(luò)模型的最下層稱為輸入層,中間層為隱含層,最上層為輸出層。各層次間神經(jīng)元相互聯(lián)接,各層次內(nèi)的神經(jīng)元沒(méi)有聯(lián)接。BP算法的學(xué)習(xí)過(guò)程由正向傳播和反向傳播兩個(gè)過(guò)程組成。在正向傳播過(guò)程中,信息從輸入層經(jīng)隱含層傳向輸出層。如果在輸出層不能得到期望輸出結(jié)果,則轉(zhuǎn)入反向傳播,將誤差信號(hào)沿原來(lái)的聯(lián)接通路返回。而其權(quán)值的調(diào)整采用反向傳播的學(xué)習(xí)算法,神經(jīng)元的變換函數(shù)是S(Sigmoid)型函數(shù):

1

f(x)=――――;

(1+e-x)

學(xué)習(xí)集包括N個(gè)樣本模式(xp,yp),對(duì)第p個(gè)學(xué)習(xí)樣本(p=1,2,,3…,N),節(jié)點(diǎn)j的輸入總和記為netpj,輸出記為opj,則:netpj=∑Wjiopj,opj=f(netpj)。

如果任意設(shè)置網(wǎng)絡(luò)初始權(quán)值,那么對(duì)每個(gè)輸入樣本p網(wǎng)絡(luò)輸出與期望輸出(dpj)的誤差為:E=∑Ep=∑[(dpj-opj)2]/2

BP神經(jīng)網(wǎng)絡(luò)的權(quán)值修正公式為:Wji=wij(n)+ηδpjopj,式中:η為學(xué)習(xí)速率,是為了加快網(wǎng)絡(luò)的收斂速度。

個(gè)人信用等級(jí)評(píng)價(jià)指標(biāo)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

此神經(jīng)網(wǎng)絡(luò)的輸入量xi∈(0,1)(i=1,2,…,21),這里xi為各個(gè)因素的效用值。網(wǎng)絡(luò)的輸出量為yi∈(0,1),y為評(píng)價(jià)的結(jié)果,用貼近度來(lái)表示。具體的算法步驟如下:按具體要求確定品評(píng)價(jià)素集;對(duì)評(píng)價(jià)因素的各指標(biāo)集進(jìn)行效用函數(shù)變換;構(gòu)造三層前向神經(jīng)網(wǎng)絡(luò),根據(jù)評(píng)價(jià)因素確定輸入神經(jīng)元個(gè)數(shù),同時(shí)確定網(wǎng)絡(luò)參數(shù);確定學(xué)習(xí)樣本集(X,Y)及誤差量ε;對(duì)每一個(gè)樣本求神經(jīng)元的輸入和輸出;計(jì)算樣本偏差E,若E<ε時(shí),轉(zhuǎn)至最后步驟;進(jìn)行反向?qū)W習(xí);對(duì)權(quán)值進(jìn)行修正,轉(zhuǎn)至第五步;存儲(chǔ)學(xué)習(xí)好的網(wǎng)絡(luò);并將待評(píng)價(jià)的個(gè)人信用等級(jí)評(píng)價(jià)因素輸入,得到評(píng)價(jià)結(jié)果。

實(shí)證分析

篇4

關(guān)鍵詞:宏觀經(jīng)濟(jì);預(yù)測(cè)模型;BP神經(jīng)網(wǎng)絡(luò);非線性

中圖分類號(hào):TP183;F015 文獻(xiàn)標(biāo)識(shí)碼:A

文章編號(hào):1006-4311(2009)11-0088-03

0引言

利用經(jīng)濟(jì)指標(biāo)的準(zhǔn)確預(yù)測(cè)是國(guó)家對(duì)宏觀經(jīng)濟(jì)正確調(diào)控的必要前提。但經(jīng)濟(jì)系統(tǒng),特別宏觀經(jīng)濟(jì)系統(tǒng)是非常復(fù)雜的系統(tǒng),廣泛存在著非線性、時(shí)變性和不確定作用關(guān)系;而在計(jì)量經(jīng)濟(jì)學(xué)理論基礎(chǔ)上建立的各種宏觀經(jīng)濟(jì)模型,大都是線性模型,很難把握宏觀經(jīng)濟(jì)系統(tǒng)中的非線性現(xiàn)象,必然導(dǎo)致經(jīng)濟(jì)預(yù)測(cè)的誤差加大。學(xué)者們因此對(duì)各種線性模型做了不少改進(jìn),如建立分段線性模型、參數(shù)時(shí)變線性模型等,但結(jié)果并不理想。于是人們尋求一些非線性工具進(jìn)行宏觀經(jīng)濟(jì)建模。而神經(jīng)網(wǎng)絡(luò)具有并行計(jì)算、分布式信息存儲(chǔ)容錯(cuò)能力強(qiáng)、自適應(yīng)學(xué)習(xí)功能等優(yōu)點(diǎn),在處理復(fù)雜的人工智能和非線性問(wèn)題上顯示了優(yōu)越性。

1基于BP神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型

BP(Back-Propagation)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)是前向的多層網(wǎng)絡(luò),含有輸入層節(jié)點(diǎn)、輸出層節(jié)點(diǎn)和一層或多層的隱層節(jié)點(diǎn),同層的各神經(jīng)元之間互不連接,相鄰層的神經(jīng)元?jiǎng)t通過(guò)權(quán)值連接。當(dāng)有信息輸入BP神經(jīng)網(wǎng)絡(luò)時(shí),信息首先由輸入層節(jié)點(diǎn)傳遞到第一層的隱層節(jié)點(diǎn),經(jīng)過(guò)特征函數(shù)(人工神經(jīng)元)作用之后,再傳至下一隱層,這樣一層一層傳遞下去,直到最終傳至輸出層進(jìn)行輸出。其間各層的激發(fā)函數(shù)要求是可微的,一般是選用S型函數(shù)。最基本的BP神經(jīng)網(wǎng)絡(luò)包括輸入層,隱層,輸出層這三層節(jié)點(diǎn)的前饋網(wǎng)絡(luò),其結(jié)構(gòu)如圖1所示。

BP神經(jīng)網(wǎng)絡(luò)使用一組樣例對(duì)網(wǎng)絡(luò)連接權(quán)值進(jìn)行學(xué)習(xí)訓(xùn)練,每個(gè)樣例都包括輸入及期望的輸出。在正向傳播過(guò)程中,首先將訓(xùn)練樣例的信息輸入到網(wǎng)絡(luò)中,輸入信息從輸入層經(jīng)隱層節(jié)點(diǎn)逐層計(jì)算處理后,傳至輸出層。在計(jì)算處理過(guò)程中,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài),如果在輸出層得到的結(jié)果不是所期望的輸出,那么就轉(zhuǎn)為反向傳播。反向傳播把誤差信號(hào)沿原連接路徑返回,并按照一定原則對(duì)各層神經(jīng)元連接權(quán)值進(jìn)行適當(dāng)修改,直至第一個(gè)隱層;這時(shí)再開(kāi)始進(jìn)行正向傳播,利用剛才的輸入信息進(jìn)行正向網(wǎng)絡(luò)計(jì)算。如果網(wǎng)絡(luò)輸出達(dá)到了誤差要求,則學(xué)習(xí)過(guò)程結(jié)束;如果達(dá)不到誤差要求,則再進(jìn)行反向傳播的連接權(quán)值調(diào)整。這一過(guò)程不斷往復(fù),直到網(wǎng)絡(luò)正向計(jì)算輸出結(jié)果達(dá)到誤差要求為止,學(xué)習(xí)就告結(jié)束。網(wǎng)絡(luò)訓(xùn)練結(jié)束后,在用于求解實(shí)際問(wèn)題時(shí)就只須使用正向傳播。

2具體應(yīng)用

2.1 樣本獲取

神經(jīng)網(wǎng)絡(luò)建模關(guān)鍵之一是網(wǎng)絡(luò)訓(xùn)練樣本的選取。在模式識(shí)別征抽取是一個(gè)重要環(huán)節(jié),抽取穩(wěn)定且有效的特征是識(shí)別系統(tǒng)成功的關(guān)鍵。神經(jīng)網(wǎng)絡(luò)建模也就是對(duì)系統(tǒng)進(jìn)行模式識(shí)別,神經(jīng)網(wǎng)絡(luò)中的特征抽取也就是樣本的選取,包含原始數(shù)據(jù)收集、數(shù)據(jù)分析、變量選擇及數(shù)據(jù)預(yù)處理;只有經(jīng)過(guò)這些步驟后,才能對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行有效的學(xué)習(xí)訓(xùn)練。訓(xùn)練樣本質(zhì)量直接影響網(wǎng)絡(luò)應(yīng)用效果,應(yīng)根據(jù)實(shí)際情況選取合適的能表達(dá)對(duì)象全面特征的樣本,好的訓(xùn)練樣本能提高網(wǎng)絡(luò)學(xué)習(xí)速度和效果,并提高網(wǎng)絡(luò)泛化能力。建立本預(yù)測(cè)模型時(shí)選取樣本,首先是建模必須建立在一個(gè)基本固定的環(huán)境下; 其次是樣本選取應(yīng)涵蓋系統(tǒng)特征的信息,要能夠包含在控制中的輸入輸出特征,能給神經(jīng)網(wǎng)絡(luò)提供較為全面的邊界信息。本模型旨在對(duì)西安市14個(gè)指標(biāo)2008年的數(shù)值進(jìn)行預(yù)測(cè):GDP、全社會(huì)固定資產(chǎn)投資、居民消費(fèi)價(jià)格指數(shù)、零售總額、工業(yè)增加值、財(cái)政收入、財(cái)政預(yù)算、可支配收入、農(nóng)民人均純收入、城鎮(zhèn)新增就業(yè)人數(shù)、進(jìn)出口總額、出口、外商直接投資、工業(yè)出廠價(jià)格指數(shù)。在排除各年可能發(fā)生異常情況下,用各指標(biāo)前幾年數(shù)據(jù)預(yù)測(cè)緊接著下一年的各指標(biāo)數(shù)據(jù)。

2.2 神經(jīng)網(wǎng)絡(luò)模型結(jié)構(gòu)

篇5

關(guān)鍵字:小波分析;去噪處理;神經(jīng)網(wǎng)絡(luò);股票預(yù)測(cè)

一、引言

從股票產(chǎn)生起,人們就開(kāi)始對(duì)它進(jìn)行各種各樣的研究,研究表明股票市場(chǎng)是一個(gè)極其復(fù)雜的動(dòng)力學(xué)系統(tǒng)。高噪聲、嚴(yán)重非線性和投資者的盲目任意性等因素決定了股票預(yù)測(cè)的復(fù)雜與困難。針對(duì)股票市場(chǎng)表現(xiàn)的不同特點(diǎn),人們提出了多種多樣的預(yù)測(cè)方法,常用的預(yù)測(cè)方法有下面幾種:

1.證券投資分析法。這是分析和預(yù)測(cè)股價(jià)變化方向和趨勢(shì)的方法,可分為基本分析法、技術(shù)分析法和組合分析法三大類。

2.時(shí)間序列分析法。這種方法主要是通過(guò)建立股價(jià)及綜合指數(shù)之間的時(shí)間序列相關(guān)辨識(shí)模型。

3.其它預(yù)測(cè)方法。如專家評(píng)估法和市場(chǎng)調(diào)查法等定性方法,季節(jié)變動(dòng)法、馬爾柯夫法和判別分析等定量預(yù)測(cè)方法。

4.神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)法。人工神經(jīng)網(wǎng)絡(luò)以其獨(dú)特的信息處理特點(diǎn)在許多領(lǐng)域得到了成功應(yīng)用。它不僅具有強(qiáng)大的非線性映射能力,可以實(shí)現(xiàn)復(fù)雜的因果關(guān)系,而且還具有許多優(yōu)秀品質(zhì),如:自適應(yīng)、自學(xué)習(xí)和糾錯(cuò)性等。BP神經(jīng)網(wǎng)絡(luò)模型作為證券市場(chǎng)預(yù)測(cè)的基本因果模型,收到良好的效果。

5.小波神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)法。小波神經(jīng)網(wǎng)絡(luò)是神經(jīng)網(wǎng)絡(luò)的一種改進(jìn),它融合了神經(jīng)網(wǎng)絡(luò)和小波的優(yōu)點(diǎn)。與一般的神經(jīng)網(wǎng)絡(luò)相比它對(duì)高頻信號(hào)的適應(yīng)能力更強(qiáng),預(yù)測(cè)效果更好[1]-[2]。

由于神經(jīng)網(wǎng)絡(luò)具有可任意逼近非線性連續(xù)函數(shù)的學(xué)習(xí)能力和對(duì)雜亂信息的綜合能力,國(guó)內(nèi)外眾多學(xué)者都曾使用其對(duì)股票數(shù)據(jù)進(jìn)行預(yù)測(cè)。White(1992)嘗試用神經(jīng)網(wǎng)絡(luò)來(lái)預(yù)測(cè)IBM普通股每日的收益率;吳華星(1998)根據(jù)自組織模式理論建立了基于前饋神經(jīng)網(wǎng)絡(luò)的股票價(jià)格預(yù)測(cè)系統(tǒng);宋軍等(2007)采用Elman回歸神經(jīng)網(wǎng)絡(luò)分析方法,通過(guò)對(duì)股票市場(chǎng)的技術(shù)指標(biāo)的建模, 尋求股票價(jià)格的變化規(guī)律, 實(shí)現(xiàn)對(duì)股票價(jià)格的預(yù)測(cè)。但是經(jīng)過(guò)研究發(fā)現(xiàn),使用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè)一旦陷入局部最小值就會(huì)使其預(yù)測(cè)結(jié)果大打折扣。王建偉(2004)運(yùn)用Haar和dbN小波對(duì)鞍山信托的收盤(pán)價(jià)和成交量進(jìn)行變換再用神經(jīng)網(wǎng)絡(luò)對(duì)股票價(jià)格預(yù)測(cè)取得了較好的預(yù)測(cè)結(jié)果;蘭秋軍等(2004)[4]和鄧凱旭、宋寶瑞(2006)討論了小波變換在金融時(shí)間序列中的應(yīng)用,得出小波方法可有效消除金融時(shí)間序列中的噪聲,并能充分保留原信號(hào)的特征;李萍(2010)結(jié)合小波變換與神經(jīng)網(wǎng)絡(luò)對(duì)匯率等一些經(jīng)濟(jì)數(shù)據(jù)進(jìn)行預(yù)測(cè)也收到了很好的效果。[5]可見(jiàn)把小波與神經(jīng)網(wǎng)絡(luò)相結(jié)合的分析預(yù)測(cè)方法在經(jīng)濟(jì)數(shù)據(jù)預(yù)測(cè)中能夠收到很好的效果。開(kāi)盤(pán)價(jià)是股票當(dāng)天第一筆成交價(jià)格,是市場(chǎng)各方對(duì)當(dāng)天股價(jià)的一個(gè)預(yù)期,對(duì)股價(jià)的走勢(shì)具有一定的預(yù)測(cè)作用。本文通過(guò)小波對(duì)股票每日最高價(jià)、最低價(jià)以及開(kāi)盤(pán)價(jià)進(jìn)行去噪處理,然后用BP神經(jīng)網(wǎng)絡(luò)對(duì)開(kāi)盤(pán)價(jià)進(jìn)行預(yù)測(cè)。避免了非正常價(jià)格對(duì)股票的影響,提高了預(yù)測(cè)的精度。

二、小波消噪的基本原理

小波分析方法是一種窗口大小固定但其形狀可以改變,時(shí)間窗和頻率都可以改變的時(shí)頻局部化分析方法。即在低頻部分具有較高的頻率分辨率和較低的時(shí)間分辨率,在高頻部分具有較高的時(shí)間分辨率和較低的頻率分辨率,所以被譽(yù)為數(shù)學(xué)顯微鏡,正是這種特性,使小波變換具有對(duì)信號(hào)的自適應(yīng)性。小波分析有兩個(gè)顯著特點(diǎn):一是在時(shí)域都具有緊支集或近似緊支集;二是正負(fù)交替的波動(dòng)性。小波分析是將信號(hào)分解成一系列小波函數(shù)的疊加,而這些小波函數(shù)都是由一個(gè)母小部進(jìn)行比較,獲取的是信號(hào)的高頻部分。小波分析理論有一個(gè)重要的特色就是可以進(jìn)行多分辨率分析。信號(hào)可以通過(guò)多層次分解為反映高頻信息的細(xì)節(jié)部分和反映低頻信息的概貌部分,通過(guò)這種多分辨率分解,信號(hào)和噪聲通常會(huì)有不同的表現(xiàn),從而可達(dá)到信噪分離的目的。綜上所述我們可以利用小波函數(shù)去除股票價(jià)格信息中包含的噪聲因素。

三、BP神經(jīng)網(wǎng)絡(luò)

BP(Back Propagation)網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出,是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系,而無(wú)需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法,通過(guò)反向傳播來(lái)不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層(input)、隱含層(hide layer)和輸出層(output layer)。它是利用非線性可微分函數(shù)進(jìn)行權(quán)值訓(xùn)練的多層網(wǎng)絡(luò),具有極強(qiáng)的容錯(cuò)性、自組織和自學(xué)習(xí)性,有著較好的函數(shù)逼近和泛化能力[6]。

BP神經(jīng)網(wǎng)絡(luò),即誤差反傳誤差反向傳播算法的學(xué)習(xí)過(guò)程,由信息的正向傳播和誤差的反向傳播兩個(gè)過(guò)程組成。輸入層各神經(jīng)元負(fù)責(zé)接收來(lái)自外界的輸入信息,并傳遞給中間層各神經(jīng)元;中間層是內(nèi)部信息處理層,負(fù)責(zé)信息變換,根據(jù)信息變化能力的需求,中間層可以設(shè)計(jì)為單隱層或者多隱層結(jié)構(gòu);最后一個(gè)隱層傳遞到輸出層各神經(jīng)元的信息,經(jīng)進(jìn)一步處理后,完成一次學(xué)習(xí)的正向傳播處理過(guò)程,由輸出層向外界輸出信息處理結(jié)果。當(dāng)實(shí)際輸出與期望輸出不符時(shí),進(jìn)入誤差的反向傳播階段。誤差通過(guò)輸出層,按誤差梯度下降的方式修正各層權(quán)值,向隱層、輸入層逐層反傳。周而復(fù)始的信息正向傳播和誤差反向傳播過(guò)程,是各層權(quán)值不斷調(diào)整的過(guò)程,也是神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練的過(guò)程,此過(guò)程一直進(jìn)行到網(wǎng)絡(luò)輸出的誤差減少到可以接受的程度,或者預(yù)先設(shè)定的學(xué)習(xí)次數(shù)為止。[7]-[9]

在金融數(shù)據(jù)分析預(yù)測(cè)中經(jīng)常會(huì)遇到一些復(fù)雜的非線性系統(tǒng),這些系統(tǒng)狀態(tài)方程復(fù)雜,難以用數(shù)學(xué)方法準(zhǔn)確建模。在這種情況下,可以建立BP神經(jīng)網(wǎng)絡(luò)表達(dá)這些非線性系統(tǒng)。該方法把未知系統(tǒng)看成是一個(gè)黑箱,首先用系統(tǒng)輸入輸出數(shù)據(jù)訓(xùn)練BP神經(jīng)網(wǎng)絡(luò),使網(wǎng)絡(luò)能夠表達(dá)該未知函數(shù),然后就可以用訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)系統(tǒng)的輸出。本文將把股票每日的最高價(jià)和最低價(jià)作為輸入,股票每日的開(kāi)盤(pán)價(jià)作為輸出訓(xùn)練神經(jīng)網(wǎng)絡(luò),使得訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)能夠預(yù)測(cè)股票開(kāi)盤(pán)價(jià)的輸出。

四、實(shí)例分析與結(jié)果

篇6

關(guān)鍵詞:壁紙識(shí)別;BP神經(jīng)網(wǎng)絡(luò);不變矩

中圖分類號(hào):TP391.41

貼標(biāo)的識(shí)別以往是通過(guò)人工識(shí)別,人為因素影響大,識(shí)別速度慢,精度低,不能滿足大批量生產(chǎn)的需要。因此,在經(jīng)濟(jì)社會(huì)高速發(fā)展的今天,此方法越來(lái)越不能滿足壁紙行業(yè)發(fā)展的需要。隨著計(jì)算機(jī)的發(fā)展,通過(guò)計(jì)算機(jī)智能識(shí)別壁紙的紋理就成為可能,主要思路是將壁紙拍攝獲知的圖像進(jìn)行紋理特征的提取,只要建立足夠的特征庫(kù),就可以把需要判別的壁紙圖片輸入計(jì)算機(jī),通過(guò)檢索來(lái)判別該壁紙是哪種材種。因此,本文引入圖像處理技術(shù)和BP神經(jīng)網(wǎng)絡(luò)技術(shù),提出一種壁紙貼標(biāo)自動(dòng)識(shí)別算法,以解決貼標(biāo)大批量生產(chǎn)的需要。

1 壁紙紋理特征的提取

不變矩是指物體圖像經(jīng)過(guò)平移,旋轉(zhuǎn)以及比例變換仍保持不變的矩特征量,設(shè)物體的二維離散圖像函數(shù)用f(x,y)表示,其(p+q)階矩定義為:

(1)

相應(yīng)的(p+q)階中心矩定義為:

(2)

其中,x0=m10/m00,y0=m01/m00,x0表示二維圖像的灰度在水平方向上的重心,y0表示二維圖像的灰度在垂直方向上的重心。

HuM.K.等人利用二階、三階中心矩得到了7個(gè)不變矩特征參數(shù),具體如下:

Φk=|log|Φk,k=1,2,3,4,5,6,7 (3)

在本設(shè)計(jì)的實(shí)驗(yàn)中要求樣本的尺寸是256×256,從每一類原始樣本中采集100個(gè)能表現(xiàn)該樣本紋理的圖片,形成識(shí)別樣本庫(kù),之后提取了所有樣本的不變矩紋理特征。

圖1 壁紙樣本圖片

2 BP-神經(jīng)網(wǎng)絡(luò)分類器的設(shè)計(jì)

2.1 BP神經(jīng)網(wǎng)絡(luò)概述

BP神經(jīng)網(wǎng)絡(luò)(Back Propagation)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出,是一種基于誤差逆?zhèn)鞑ニ惴ǖ亩鄬忧梆伾窠?jīng)網(wǎng)絡(luò),目前廣泛應(yīng)用于分類、識(shí)別、函數(shù)逼近等領(lǐng)域。BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖2所示,包括輸入層、輸出層和隱含層。

圖2 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)圖

BP學(xué)習(xí)算法的工作過(guò)程由正向傳播和反向傳播組成。正向傳播過(guò)程是指輸入信號(hào)從輸入層經(jīng)隱含層,在輸出層產(chǎn)生輸出信號(hào)。如果輸出層不能得到期望的輸出信號(hào),輸出信號(hào)將反向傳播,將誤差信號(hào)沿原有路徑返回,并按照一定規(guī)則修改網(wǎng)絡(luò)參數(shù),逐漸地向輸入層傳播去進(jìn)行計(jì)算,正向傳播和反向傳播兩個(gè)過(guò)程的反復(fù)運(yùn)用,直到誤差信號(hào)滿足要求。

2.2 BP神經(jīng)網(wǎng)絡(luò)分類器設(shè)計(jì)

2.2.1 網(wǎng)絡(luò)輸入節(jié)點(diǎn)數(shù)的設(shè)計(jì)

輸入層節(jié)點(diǎn)數(shù)主要根據(jù)數(shù)據(jù)特征向量的維數(shù)來(lái)確定,本文輸入節(jié)點(diǎn)數(shù)為不變矩特征向量的維數(shù),即輸入節(jié)點(diǎn)數(shù)為7。

2.2.2 網(wǎng)絡(luò)隱含層數(shù)的設(shè)計(jì)

通常情況下,增加網(wǎng)絡(luò)的隱含層數(shù)可以使網(wǎng)絡(luò)誤差降低,提高網(wǎng)絡(luò)的精度,但同時(shí)也使網(wǎng)絡(luò)變得復(fù)雜化,使得網(wǎng)絡(luò)的訓(xùn)練時(shí)間增加,而且容易出現(xiàn)網(wǎng)絡(luò)過(guò)擬合的情況。有研究表明,具有Sigmoid非線性函數(shù)的3層BP神經(jīng)網(wǎng)絡(luò)能夠逼近任何連續(xù)函數(shù)。因此,本研究中神經(jīng)網(wǎng)絡(luò)分類器的隱含層數(shù)選為3層。

2.2.3 網(wǎng)絡(luò)隱含層節(jié)點(diǎn)數(shù)的設(shè)計(jì)

在確定BP神經(jīng)網(wǎng)絡(luò)隱含層數(shù)后,下一步就需要確定隱含層節(jié)點(diǎn)數(shù)。隱含層神經(jīng)元個(gè)數(shù)一般由 是公式確定,其中n是隱含層神經(jīng)元個(gè)數(shù),n0是輸入層神經(jīng)元個(gè)數(shù),n1是輸出神經(jīng)元個(gè)數(shù),a∈(1~10)。

2.2.4 網(wǎng)絡(luò)輸出層的設(shè)計(jì)

輸出層的節(jié)點(diǎn)數(shù)是根據(jù)BP神經(jīng)網(wǎng)絡(luò)分類器的輸出類別數(shù)量決定,也就是說(shuō),輸出層的節(jié)點(diǎn)數(shù)應(yīng)為類別總數(shù)。例如,本研究需要將待識(shí)別的壁紙樣本分成8大類,那么輸出層節(jié)點(diǎn)數(shù)應(yīng)設(shè)置為8,并將每類對(duì)應(yīng)的目標(biāo)向量依次設(shè)置為[1 0 0 0 0 0 0 0]T、[0 1 0 0 0 0 0 0]T、[0 0 1 0 0 0 0 0]T、[0 0 0 1 0 0 0 0]T、[0 0 0 0 1 0 0 0]T、[0 0 0 0 0 1 0 0]T、[0 0 0 0 0 0 1 0]T、[0 0 0 0 0 0 0 1]T,對(duì)應(yīng)目標(biāo)向量的數(shù)目為對(duì)應(yīng)輸入壁紙樣本的數(shù)目,即目標(biāo)向量與輸入壁紙樣本是相互對(duì)應(yīng)的。

本文BP神經(jīng)網(wǎng)絡(luò)分類器采用MATLAB神經(jīng)網(wǎng)絡(luò)工具箱進(jìn)行設(shè)計(jì),訓(xùn)練函數(shù)選擇Trainlm,訓(xùn)練次數(shù)為200,誤差為0.001,將壁紙樣本其分成訓(xùn)練樣本與測(cè)試樣本2部分,并利用訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)對(duì)樣本進(jìn)行自動(dòng)識(shí)別,識(shí)別率達(dá)到90.0%。

3 結(jié)束語(yǔ)

實(shí)驗(yàn)結(jié)果表明不變矩紋理特征參數(shù)可以用于表征壁紙樣本,使用本文設(shè)計(jì)的BP神經(jīng)網(wǎng)絡(luò)分類器可以有效識(shí)別不同種類的壁紙樣本。

參考文獻(xiàn):

[1]高雋.人工神經(jīng)網(wǎng)絡(luò)原理及仿真實(shí)例[M].北京:機(jī)械工業(yè)出版社,2003:55-63.

[2]楊斐,王坤明,馬欣.應(yīng)用BP神經(jīng)網(wǎng)絡(luò)分類器識(shí)別交通標(biāo)志[J].計(jì)算機(jī)工程,2000(10):120-121.

[3]Yaping JIANG,Zuxin XU,Hailong YIN.Study on improved BP artificial neural networks in eutrophication assessment of China eastern lakes [J].Journal of Hydrodynamics,2006(03):528-532.

[4]嚴(yán)曉梅,耿國(guó)華,周明全.基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的指紋自動(dòng)分類器[J].微計(jì)算機(jī)信息,2007(01):281-282+288.

[5]李梅,孟凡玲,李群.基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的地下水環(huán)境脆弱性評(píng)價(jià)[J].河海大學(xué)學(xué)報(bào)(自然科學(xué)版),2007(03):245-249.

[6]閔惜琳,劉國(guó)華.用MATLAB神經(jīng)網(wǎng)絡(luò)工具箱開(kāi)發(fā)BP網(wǎng)絡(luò)應(yīng)用[J].計(jì)算機(jī)應(yīng)用,2001(08):163-164.

篇7

關(guān)鍵詞:人工神經(jīng)網(wǎng)絡(luò) 反向傳播算法 故障診斷

1 引言

隨著經(jīng)濟(jì)的發(fā)展,空調(diào)系統(tǒng)得到了越來(lái)越廣泛的應(yīng)用,空調(diào)設(shè)備已成為重要的生活必備品之一。這就要求空調(diào)系統(tǒng)可靠性高且功能齊全,而且在故障診斷維修服務(wù)方面達(dá)到一定的水平。國(guó)內(nèi)目前的大部分空調(diào)系統(tǒng)中無(wú)故障診斷系統(tǒng),當(dāng)空調(diào)系統(tǒng)出現(xiàn)故障后,維保人員往往不能及時(shí)、準(zhǔn)確地了解系統(tǒng)出現(xiàn)故障的原因及相關(guān)信息,空調(diào)系統(tǒng)無(wú)法得到及時(shí)修復(fù),這種情況急需得到改善。

2 關(guān)于故障診斷技術(shù)

故障診斷FD(fault diagnosis)是一種了解和掌握設(shè)備在使用過(guò)程中的技術(shù),確定其整體或局部是否正常,早期發(fā)現(xiàn)故障及其原因并能預(yù)報(bào)故障發(fā)展趨勢(shì)的技術(shù)。在診斷過(guò)程中,必須利用被診斷對(duì)象表現(xiàn)出來(lái)的各種有用信息,經(jīng)過(guò)適當(dāng)?shù)靥幚砗头治?,做出正確的診斷結(jié)論。在制冷暖通空調(diào)領(lǐng)域,1987年在彥啟森教授的建議下,才開(kāi)始了故障診斷專家系統(tǒng)在制冷暖通空調(diào)領(lǐng)域的研究應(yīng)用[1]。

3 人工神經(jīng)網(wǎng)絡(luò)用于空調(diào)系統(tǒng)故障診斷的基本原理

人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Network.簡(jiǎn)稱ANN)正是在人類對(duì)其大腦神經(jīng)網(wǎng)絡(luò)認(rèn)識(shí)理解的基礎(chǔ)上人工構(gòu)造的能夠?qū)崿F(xiàn)某種功能的神經(jīng)網(wǎng)絡(luò)。它是理論化的人腦神經(jīng)網(wǎng)絡(luò)的數(shù)學(xué)模型,是基于模仿大腦神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和功能而建立的一種信息處理系統(tǒng)。它實(shí)際上是由大量簡(jiǎn)單元件相互連接而成的復(fù)雜網(wǎng)絡(luò),具有高度的非線性,能夠進(jìn)行復(fù)雜的邏輯操作和非線性關(guān)系實(shí)現(xiàn)的系統(tǒng)。

典型的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)如圖1所示。

在眾多的人工神經(jīng)網(wǎng)絡(luò)模型中,最常用的是BP(Back Propagation)模型,即利用誤差反向傳播算法求解的多層前向神經(jīng)網(wǎng)絡(luò)模型[2]。BP網(wǎng)絡(luò)在故障診斷、模式識(shí)別、圖像識(shí)別、管理系統(tǒng)等方面都得到了廣泛的應(yīng)用。本文討論利用神經(jīng)網(wǎng)絡(luò)中的BP模型進(jìn)行空調(diào)系統(tǒng)的故障診斷。

首先需要進(jìn)行知識(shí)的獲取。由專家提供關(guān)于各種空調(diào)系統(tǒng)故障現(xiàn)象(征兆集)及相應(yīng)的故障原因(故障集)實(shí)例作為學(xué)習(xí)樣本。將數(shù)據(jù)分為兩部分,一部分用于訓(xùn)練網(wǎng)絡(luò),另一部分用于測(cè)試。將訓(xùn)練網(wǎng)絡(luò)的數(shù)據(jù)按一定順序編碼,分別賦給網(wǎng)絡(luò)輸入、輸出節(jié)點(diǎn),通過(guò)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法對(duì)樣本進(jìn)行學(xué)習(xí),經(jīng)過(guò)網(wǎng)絡(luò)內(nèi)部自適應(yīng)算法不斷修正權(quán)值,直到達(dá)到所要求的學(xué)習(xí)精度為止。此時(shí)在大量神經(jīng)元之間聯(lián)結(jié)權(quán)值上就分布著專家知識(shí)和經(jīng)驗(yàn)。訓(xùn)練完畢后,再將測(cè)試網(wǎng)絡(luò)的數(shù)據(jù)從初始狀態(tài)出發(fā),向前推理,將顯示出的故障結(jié)果與實(shí)際的測(cè)試數(shù)據(jù)結(jié)果相比較,如果誤差很小,說(shuō)明網(wǎng)絡(luò)的權(quán)值建立正確;如果誤差較大,說(shuō)明網(wǎng)絡(luò)的權(quán)值建立有誤,需要重新進(jìn)行網(wǎng)絡(luò)的訓(xùn)練。

將訓(xùn)練樣本訓(xùn)練完畢后,即可進(jìn)行空調(diào)系統(tǒng)的故障診斷。只要實(shí)際輸入模式接近于某一個(gè)訓(xùn)練時(shí)的學(xué)習(xí)樣本的輸入模式,則可產(chǎn)生出接近學(xué)習(xí)樣本的輸出結(jié)果,也就是所謂的自聯(lián)想功能。同時(shí),由于網(wǎng)絡(luò)計(jì)算上的大量并行性,當(dāng)機(jī)器運(yùn)行狀況改變,出現(xiàn)網(wǎng)絡(luò)學(xué)習(xí)未考慮的情況時(shí),系統(tǒng)亦能給出正確分類結(jié)果。同時(shí)將新數(shù)據(jù)并入網(wǎng)絡(luò),實(shí)現(xiàn)系統(tǒng)的自適應(yīng)。一般來(lái)說(shuō),學(xué)習(xí)的故障實(shí)例樣本越多,診斷結(jié)果的準(zhǔn)確率越高。

4 BP學(xué)習(xí)算法

BP算法因其簡(jiǎn)單、易行、計(jì)算量小、并行性強(qiáng)等優(yōu)點(diǎn),是目前神經(jīng)網(wǎng)絡(luò)訓(xùn)練采用最多也是最成熟的訓(xùn)練算法之一。BP算法的實(shí)質(zhì)是求解誤差函數(shù)的最小值問(wèn)題,由于它采用非線性規(guī)劃中的梯度下降法(Gradient Descent),按誤差函數(shù)的負(fù)梯度方向修正權(quán)值 [3]。其主要思路是如果求出訓(xùn)練網(wǎng)絡(luò)的指標(biāo)函數(shù)誤差:

一般的BP算法稱為標(biāo)準(zhǔn)誤差逆?zhèn)鞑ニ惴?,也就是?duì)應(yīng)每一次輸入都校正一次權(quán)值。這種算法不是全局誤差意義上的梯度下降計(jì)算。對(duì)各個(gè)神經(jīng)元的輸出求偏導(dǎo)數(shù),那么就可以算出誤差對(duì)所有連接權(quán)值的偏導(dǎo)數(shù),從而可以利用梯度下降法來(lái)修改各個(gè)連接權(quán)值。真正的全局誤差意義上的梯度下降算法是在全部訓(xùn)練模式都學(xué)習(xí)完后才校正連接權(quán)和閾值。其計(jì)算流程如圖2所示:

5 故障診斷實(shí)例 5.1 空調(diào)系統(tǒng)故障診斷的BP網(wǎng)絡(luò)建立

空調(diào)系統(tǒng)故障模式及故障機(jī)制分析[4]如表1所示

表1 空調(diào)系統(tǒng)故障模式及故障機(jī)制分析 表示

符號(hào)

表示

符號(hào)

房間溫度均偏高

1.冷凍機(jī)產(chǎn)冷量不足

2.噴水堵塞

3.通過(guò)空氣處理設(shè)備的風(fēng)量過(guò)大,熱交換不良

4.回風(fēng)量大于送風(fēng)量

5.送風(fēng)量不足(可能空氣過(guò)濾氣堵塞)

6.表冷器結(jié)霜,造成堵塞

相對(duì)濕度均偏低

7.室外空氣未經(jīng)加濕處理

系統(tǒng)實(shí)測(cè)風(fēng)量大于設(shè)計(jì)風(fēng)量

8.系統(tǒng)的實(shí)際阻力小于設(shè)計(jì)阻力

9.設(shè)計(jì)時(shí)選用風(fēng)機(jī)容量偏大

房間氣流速度超過(guò)允許流速

10.送風(fēng)口速度過(guò)大

篇8

關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò)技術(shù),ANNBP網(wǎng)絡(luò)算法

 

1、人工神經(jīng)網(wǎng)絡(luò)概述

人工神經(jīng)網(wǎng)絡(luò)是模擬生物神經(jīng)信息處理方法的新型計(jì)算機(jī)系統(tǒng),它可以模擬人腦的一些基本特征,(如自適應(yīng)性,自組織性和容錯(cuò)性),是一個(gè)并行、分布處理結(jié)構(gòu),它由處理單元及其稱為聯(lián)接的無(wú)向信號(hào)通道互連而成。

人工神經(jīng)網(wǎng)絡(luò)力圖模仿生物神經(jīng)系統(tǒng),通過(guò)接受外部輸入的刺激,不斷獲得并積累知識(shí),進(jìn)而具有一定的判斷預(yù)測(cè)能力。盡管神經(jīng)網(wǎng)絡(luò)模型的種類很多,但基本模式都是由大量簡(jiǎn)單的計(jì)算單元(又稱為節(jié)點(diǎn)或神經(jīng)元)廣泛相互連接而構(gòu)成的一種并行分布處理網(wǎng)絡(luò)。。基于神經(jīng)信息傳輸?shù)脑?,各個(gè)節(jié)點(diǎn)通過(guò)可變的權(quán)值彼此相連接,每個(gè)節(jié)點(diǎn)對(duì)N個(gè)加權(quán)的輸入求和,當(dāng)求和值超過(guò)某個(gè)閾值時(shí),節(jié)點(diǎn)呈“興奮”狀態(tài),有信號(hào)輸出。節(jié)點(diǎn)的特征由其閾值、非線性函數(shù)的類型所決定,而整個(gè)神經(jīng)網(wǎng)絡(luò)則由網(wǎng)絡(luò)拓?fù)?、?jié)點(diǎn)特征以及對(duì)其進(jìn)行訓(xùn)練所使用的規(guī)則所決定。

2、多層前向網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)按拓?fù)浣Y(jié)構(gòu)分為前饋型網(wǎng)絡(luò)和反饋型網(wǎng)絡(luò)。前饋型網(wǎng)絡(luò)在結(jié)構(gòu)上采用的是其信息只能從前一層到它下面一層的單元,在網(wǎng)絡(luò)運(yùn)算過(guò)程中不存在任何反饋。從學(xué)習(xí)觀點(diǎn)看,前饋網(wǎng)絡(luò)是一種強(qiáng)有力的學(xué)習(xí)系統(tǒng),其結(jié)構(gòu)簡(jiǎn)單,易于編程;從系統(tǒng)觀點(diǎn)看,前饋網(wǎng)絡(luò)是非線性映射,通過(guò)簡(jiǎn)單非線性處理單元的復(fù)合映射可獲得復(fù)雜的非線性處理能力,因此具有較強(qiáng)的分類能力和模式識(shí)別能力。

反向傳播(BP)網(wǎng)絡(luò)是典型的前饋型網(wǎng)絡(luò),結(jié)構(gòu)上它屬于多層前向網(wǎng)絡(luò),它的結(jié)構(gòu)如圖1所示。它分為輸入層、隱含層和輸出層,層與層之間多采用全互連方式,同一層之間不存在相互連接。網(wǎng)絡(luò)中每一層權(quán)值都可通過(guò)學(xué)習(xí)來(lái)調(diào)節(jié),且網(wǎng)絡(luò)的基本處理單元(輸入單元除外)為非線性輸入、輸出關(guān)系,處理單元的輸入、輸出值可連續(xù)變化。由于BP網(wǎng)絡(luò)可在多個(gè)連續(xù)的輸入和一個(gè)或多個(gè)連續(xù)的輸出之間建立非線性映射這一特性,它常被用于智能預(yù)測(cè)。

多層前向網(wǎng)絡(luò)是使用最廣泛的一種網(wǎng)絡(luò)結(jié)構(gòu),它可很好的解決XOR等經(jīng)典的非線性問(wèn)題,比起單層的感知器有很大的優(yōu)越性,尤其80年代中期,Rumelhart和Mcclelland最先提出了多層前饋網(wǎng)絡(luò)的反向傳播學(xué)習(xí)算法,簡(jiǎn)稱BP算法,它的效率很高,是目前應(yīng)用最為普遍的訓(xùn)練算法,這使得多層前饋網(wǎng)絡(luò)應(yīng)用更加廣泛。應(yīng)該指出,我們常說(shuō)的BP網(wǎng)絡(luò),嚴(yán)格說(shuō)是基于BP算法的多層前向網(wǎng)絡(luò)。

圖 1 BP網(wǎng)絡(luò)結(jié)構(gòu)圖

4、 BP網(wǎng)絡(luò)算法

BP網(wǎng)絡(luò)算法的思想是把一組樣本的I/O問(wèn)題變?yōu)橐粋€(gè)非線性優(yōu)化問(wèn)題,使用了優(yōu)化中最普通的梯度下降法,用迭代運(yùn)算求解權(quán)對(duì)應(yīng)于學(xué)習(xí)記憶問(wèn)題,加入隱含層節(jié)點(diǎn)使優(yōu)化問(wèn)題的可調(diào)參數(shù)增加,從而可得到更精確的解。BP網(wǎng)絡(luò)模型設(shè)計(jì)的最大特點(diǎn)是網(wǎng)絡(luò)權(quán)值是通過(guò)使用網(wǎng)絡(luò)模型輸出值與已知的樣本值之間的誤差平方和達(dá)到期望值而不斷調(diào)整出來(lái)的,并且確定BP神經(jīng)網(wǎng)絡(luò)評(píng)價(jià)模型時(shí)涉及隱含層節(jié)點(diǎn)數(shù)、轉(zhuǎn)移函數(shù)、學(xué)習(xí)參數(shù)和網(wǎng)絡(luò)模型的最后選定等問(wèn)題。下面簡(jiǎn)單介紹一下基本BP算法相關(guān)數(shù)學(xué)描述:

(1)梯度下降算法

(2)S(Sigmoid)型函數(shù)

BP網(wǎng)絡(luò)的激活函數(shù)經(jīng)常使用的是Sigmoid對(duì)數(shù)或正切激活函數(shù)和線性函數(shù)。對(duì)數(shù)S型函數(shù) f(x)=1/(1+exp(-x)), Sigmoid 函數(shù)具有非線性放大功能,它可以把輸入從負(fù)無(wú)窮大到正無(wú)窮大的信號(hào),變換成-1到1之間的輸出,對(duì)較大的輸入信號(hào),放大系數(shù)較小,而較小的輸入,放大系數(shù)較大,所以采用S型激活函數(shù)可以去逼近非線性的輸入/輸出關(guān)系。

(3)BP算法

BP網(wǎng)絡(luò)學(xué)習(xí)是典型的有導(dǎo)師學(xué)習(xí),其學(xué)習(xí)算法是對(duì)簡(jiǎn)單的學(xué)習(xí)規(guī)則的推廣和發(fā)展。BP網(wǎng)絡(luò)實(shí)現(xiàn)了多層網(wǎng)絡(luò)學(xué)習(xí)的設(shè)想,其學(xué)習(xí)過(guò)程包括正向傳播和反向傳播兩部分。。

在正向傳播過(guò)程中,給定網(wǎng)絡(luò)的一個(gè)輸入模式時(shí),輸入信息從輸入層經(jīng)過(guò)隱含層逐層處理,并傳向輸出層,每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài),由輸出層單元產(chǎn)生一個(gè)輸出模式,這是一個(gè)逐層狀態(tài)更新過(guò)程,稱為前向傳播。。如果輸出響應(yīng)與期望輸出的模式誤差值不滿足要求,那么就轉(zhuǎn)入誤差反向傳播,將誤差值沿連接通路逐層傳送并修正各層連接權(quán)值。對(duì)于給定的一組樣本,不斷用一個(gè)個(gè)訓(xùn)練模式進(jìn)行學(xué)習(xí),重復(fù)前向傳播和誤差反向傳播過(guò)程,當(dāng)各個(gè)訓(xùn)練模式都滿足要求時(shí),BP網(wǎng)絡(luò)訓(xùn)練完畢。

其中的激發(fā)函數(shù)我們采用S型函數(shù), 即f(x)=1/(1+exp(-x))。BP算法描述如下:

(2)提供訓(xùn)練樣本:輸入矢量Xk ,k=1,2,..n 和期望輸出tk, k=1,2,…,m;對(duì)每個(gè)輸入樣本進(jìn)行(3)到(5)的迭代。

(3)計(jì)算網(wǎng)絡(luò)的實(shí)際輸出okj 。

(4)分別計(jì)算輸出層和隱含層的訓(xùn)練誤差

其中(4-2)為輸出層的誤差值, (4-3)為隱含層的誤差值。

(5)修正權(quán)值和閾值

(6)判斷實(shí)際誤差指標(biāo)是否滿足規(guī)定誤差的要求,滿足則到(7)。

(7)結(jié)束 。

BP算法是人工神經(jīng)網(wǎng)絡(luò)中最為重要的網(wǎng)絡(luò)之一, 也是迄今為止應(yīng)用最為廣泛的網(wǎng)絡(luò)算法, 實(shí)踐證明這種基于誤差反傳遞算法可以解決許多實(shí)際問(wèn)題, 但其算法自身也存在著局部極小點(diǎn)、算法的收斂速度慢等缺陷,需要我們?cè)诮窈蟮难芯恐胁粩嗤晟聘倪M(jìn)。

篇9

內(nèi)容摘要:本文首先選取若干科技園的投入產(chǎn)出統(tǒng)計(jì)指標(biāo),采用DEA進(jìn)行分析,得到各自效率值,最后重新選取同樣影響效率的其他相對(duì)指標(biāo)作為輸入,將已得效率值作為輸出,由此作為學(xué)習(xí)樣本,利用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí),并在此基礎(chǔ)上進(jìn)行科技園效率預(yù)測(cè),從而實(shí)現(xiàn)對(duì)科技園運(yùn)營(yíng)效率的控制。

關(guān)鍵詞:DEA BP神經(jīng)網(wǎng)絡(luò) 大學(xué)科技園 效率評(píng)價(jià)

研究方法

(一)數(shù)據(jù)包絡(luò)分析

數(shù)據(jù)包絡(luò)分析(DEA)是用于評(píng)價(jià)系統(tǒng)相對(duì)效率的分參數(shù)化方法。他們的第一個(gè)模型被命名為CCR模型。從生產(chǎn)函數(shù)角度看,這一模型是用來(lái)研究具有多個(gè)輸入、特別是具有多個(gè)輸出的“生產(chǎn)部門(mén)”同時(shí)為“規(guī)模有效”與“技術(shù)有效”的十分理想且卓有成效的方法。利用數(shù)學(xué)規(guī)劃模型,該方法可以解決具有多輸入多輸出特征的同行業(yè)企業(yè)生產(chǎn)效率評(píng)價(jià)問(wèn)題。

在進(jìn)行大學(xué)科技園運(yùn)營(yíng)效率評(píng)價(jià)時(shí),將每一個(gè)科技園看做一個(gè)決策單元,假設(shè)有n個(gè)待評(píng)價(jià)的科技園,決策單元DMUj(1≤j≤n)的輸入、輸出指標(biāo)向量分別為Xj=(X1,X2j,…,Xmj)T>0,Yj=(Y1,Y2j,…,Ysj)T>0,即有m個(gè)類型輸入和s個(gè)類型產(chǎn)出,h0為DMUj0的效率指數(shù)。

設(shè)輸入和輸出指標(biāo)的權(quán)向量為v=(v1,v2,…,vm)T>0,u=(u1,u2,…,us)T

建立C2R模型(分式規(guī)劃):

令,ω=tv,μ=tu,進(jìn)行C2變換,轉(zhuǎn)換為模型:

為了直接判別DMU的DEA有效性,考慮模型的對(duì)偶問(wèn)題為(模型):

X0,Y0分別表示決策單元DMU0的輸入和輸出,λj,θ0是決策變量。如果決策單元是有效的,則θ*0=1。

(二)BP神經(jīng)網(wǎng)絡(luò)

BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò),解決了多層網(wǎng)絡(luò)中隱含單元連接權(quán)的學(xué)習(xí)問(wèn)題。輸入信號(hào)從輸入節(jié)點(diǎn)依次傳過(guò)各隱含層,然后傳到輸出節(jié)點(diǎn),每一層節(jié)點(diǎn)的輸出只影響下一層節(jié)點(diǎn)的輸出。為了加快網(wǎng)絡(luò)訓(xùn)練的收斂速度,可對(duì)輸入矢量作標(biāo)準(zhǔn)化處理,并對(duì)各連接權(quán)值賦予初值。BP網(wǎng)絡(luò)可看作是一個(gè)從輸入到輸出的高度非線性映射,神經(jīng)網(wǎng)絡(luò)通過(guò)對(duì)簡(jiǎn)單的非線性函數(shù)進(jìn)行數(shù)次復(fù)合,可近似復(fù)雜的函數(shù)?;镜腂P神經(jīng)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)如圖1所示。

它的具體數(shù)學(xué)模型如下:

隱層節(jié)點(diǎn)的傳遞函數(shù)及網(wǎng)絡(luò)輸出函數(shù)f(x)均采用Logistic函數(shù):。

誤差計(jì)算模型:反映神經(jīng)網(wǎng)絡(luò)期望輸出與計(jì)算輸出之間誤差大小的函數(shù)。

第j個(gè)單元節(jié)點(diǎn)的輸出的誤差為,總誤差為,Tjk是j節(jié)點(diǎn)的期望輸出值,yjk是j節(jié)點(diǎn)的實(shí)際輸出值。

中間層節(jié)點(diǎn)的數(shù)學(xué)模型如下:。O1jk表示中間層上,輸入第k個(gè)樣本時(shí),第j個(gè)節(jié)點(diǎn)的輸出。Xj為第j個(gè)節(jié)點(diǎn)輸入。w1ij為輸入層到中間層的權(quán)值。

輸出節(jié)點(diǎn)的數(shù)學(xué)模型如下:。O2jk表示輸出層上,輸入第k個(gè)樣本時(shí),第j個(gè)節(jié)點(diǎn)的輸出,w2ij為中間層的到輸出層的權(quán)值。

修正權(quán)值:

BP算法的實(shí)現(xiàn)為:BP算法分兩步進(jìn)行,即正向傳播和反向傳播。正向傳播時(shí),輸入的樣本從輸入層經(jīng)過(guò)隱單元一層一層進(jìn)行處理,通過(guò)所有的隱層之后,則傳向輸出層;在逐層處理的過(guò)程中,每一層神經(jīng)元的狀態(tài)只對(duì)下一層神經(jīng)元的狀態(tài)產(chǎn)生影響。在輸出層把現(xiàn)行輸出和期望輸出進(jìn)行比較,如果現(xiàn)行輸出不等于期望輸出,則進(jìn)入反向傳播過(guò)程。反向傳播時(shí),把誤差信號(hào)按原來(lái)正向傳播的通路反向傳回,并對(duì)每個(gè)隱層的各個(gè)神經(jīng)元的權(quán)系數(shù)進(jìn)行修改,以望誤差信號(hào)趨向最小。

實(shí)證研究

(一)指標(biāo)與數(shù)據(jù)選擇

本文選取北京大學(xué)國(guó)家大學(xué)科技園等37家有代表性的國(guó)家級(jí)大學(xué)科技園2008年的數(shù)據(jù)進(jìn)行研究,分析分為兩個(gè)部分進(jìn)行,各自的指標(biāo)選擇如下:

DEA分析階段:取年末固定資產(chǎn)凈值、科技園區(qū)人員數(shù)量、科技園區(qū)總面積、科技園孵化基金總額等四個(gè)指標(biāo)作為投入變量,以在孵企業(yè)數(shù)、在孵企業(yè)工業(yè)總產(chǎn)值、在孵企業(yè)凈利潤(rùn)、累計(jì)畢業(yè)企業(yè)數(shù)、累計(jì)畢業(yè)企業(yè)工業(yè)總產(chǎn)值等五個(gè)指標(biāo)作為產(chǎn)出變量。

BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)階段:考慮到從效率分析的角度說(shuō),投入低的地區(qū)不見(jiàn)得效率就低,因此在對(duì)科技園效率進(jìn)行評(píng)價(jià)時(shí)必須采用相對(duì)指標(biāo)。因此,選取在孵企業(yè)平均收入、在孵企業(yè)凈利潤(rùn)與工業(yè)總產(chǎn)值的比值以及已畢業(yè)企業(yè)平均工業(yè)總產(chǎn)值作為投入變量,將效率分析值作為唯一產(chǎn)出變量,進(jìn)一步采用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)。

(二)效率分析結(jié)果

采用DEA SOLVER 3.0軟件進(jìn)行DEA分析,結(jié)果如表1所示。有15家大學(xué)科技園的運(yùn)營(yíng)效率達(dá)到DEA有效,有10家大學(xué)科技園的運(yùn)營(yíng)效率DEA值在0.5以下,這說(shuō)明這些大學(xué)科技園的投入存在不合理的地方,導(dǎo)致產(chǎn)出不足。

(三) BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)

采用Alyuda NeuroIntelligence V2.2軟件進(jìn)行BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè),結(jié)果如表2所示。由于科技園產(chǎn)出相對(duì)投入存在一定的滯后性,這里選擇為2005年的數(shù)據(jù)。

BP神經(jīng)網(wǎng)絡(luò)的輸入節(jié)點(diǎn)有3個(gè),輸出節(jié)點(diǎn)只有1個(gè)即效率值。本文采用1層隱含層,即采用一個(gè)3層網(wǎng)絡(luò)來(lái)建立科技系統(tǒng)與效率之間的非線性映射關(guān)系。在節(jié)點(diǎn)選擇上,如果隱層節(jié)點(diǎn)數(shù)量太少,網(wǎng)絡(luò)從樣本中獲取的信息能力就差,不足以概括和體現(xiàn)訓(xùn)練集中的樣本規(guī)律;隱層節(jié)點(diǎn)數(shù)量過(guò)多,又可能把樣本中非規(guī)律性的噪聲等也學(xué)會(huì)記牢,從而出現(xiàn)所謂過(guò)度吻合問(wèn)題,反而降低了泛化能力。根據(jù)經(jīng)驗(yàn)公式,本文將隱層節(jié)點(diǎn)數(shù)定為6個(gè)。

在進(jìn)行訓(xùn)練中,參數(shù)設(shè)為默認(rèn)值,經(jīng)過(guò)20000次循環(huán)趨于穩(wěn)定。為了測(cè)試模型的預(yù)測(cè)精度,將輸入數(shù)據(jù)作為模擬值,得出BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)的計(jì)算結(jié)果,只有3個(gè)大學(xué)科技園的效率誤差在5%以上,最大誤差為7.37%,取得了較高的預(yù)測(cè)精度。

根據(jù)人工神經(jīng)網(wǎng)絡(luò)模型,可以對(duì)大學(xué)科技園的運(yùn)營(yíng)效率進(jìn)行中期或事前評(píng)價(jià),一旦發(fā)現(xiàn)效率低下的跡象,可以分析其產(chǎn)生的原因,采取相應(yīng)的措施進(jìn)行控制。

本文評(píng)價(jià)方法選取既避免了人為計(jì)算權(quán)值的主觀性和不確定性,同時(shí)BP神經(jīng)網(wǎng)絡(luò)快速的學(xué)習(xí)能力,也保證評(píng)價(jià)結(jié)果更加客觀準(zhǔn)確。本文的創(chuàng)新之處在于將DEA和BP神經(jīng)網(wǎng)絡(luò)結(jié)合起來(lái),提出了對(duì)大學(xué)科技園進(jìn)行評(píng)價(jià)的新的模型。今后從以下方面研究:提高指標(biāo)選取的合理性,提出更加科學(xué)的指標(biāo)體系;對(duì)評(píng)價(jià)方法進(jìn)行改進(jìn),提出更加有效和科學(xué)的方法或模型。

參考文獻(xiàn):

1.徐小欽,陶星潔,王永寧.基于層次分析法和動(dòng)態(tài)聚類法的大學(xué)科技園評(píng)價(jià)[J].重慶大學(xué)學(xué)報(bào)(自然科學(xué)版),2004

2.范德成,張巍.大學(xué)科技園評(píng)價(jià)指標(biāo)體系研究[J].科學(xué)學(xué)與科學(xué)技術(shù)管理,2005

篇10

關(guān)鍵詞:BP神經(jīng)網(wǎng)絡(luò);軟件質(zhì)量;質(zhì)量屬性;質(zhì)量評(píng)價(jià)

DOIDOI:10.11907/rjdk.161521

中圖分類號(hào):TP301

文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào)文章編號(hào):16727800(2016)009000103

基金項(xiàng)目基金項(xiàng)目:國(guó)家自然科學(xué)基金項(xiàng)目 (71471103)

作者簡(jiǎn)介作者簡(jiǎn)介:秦晉(1990-),男,安徽省阜陽(yáng)人,山東工商學(xué)院管理科學(xué)與工程學(xué)院碩士研究生,研究方向?yàn)楣芾硇畔⑾到y(tǒng)、可信軟件;智榮騰(1991-),女,山東龍口人,山東工商學(xué)院管理科學(xué)與工程學(xué)院碩士研究生,研究方向?yàn)楣芾硇畔⑾到y(tǒng)、軟件成本管理。

0引言

當(dāng)前,軟件行業(yè)飛速發(fā)展,云計(jì)算、大數(shù)據(jù)、軟件定義網(wǎng)絡(luò)等新技術(shù)層出不窮,當(dāng)這些新理念融合到軟件產(chǎn)品開(kāi)發(fā)中時(shí),軟件規(guī)模、復(fù)雜度和智能化水平將不斷提高,應(yīng)用環(huán)境日益復(fù)雜,對(duì)軟件質(zhì)量的要求也越來(lái)越高。建立一個(gè)具有較高準(zhǔn)確度的軟件綜合質(zhì)量評(píng)估方法很有必要\[1,2\]。軟件綜合質(zhì)量評(píng)估是一個(gè)復(fù)雜的系統(tǒng)工程,由于軟件綜合質(zhì)量評(píng)估中體系和方法不統(tǒng)一,如何準(zhǔn)確地對(duì)軟件綜合質(zhì)量進(jìn)行評(píng)估尚未形成統(tǒng)一標(biāo)準(zhǔn)\[3\]。近年來(lái),基于各種理論與方法的軟件評(píng)估模型層出不窮,一些軟件評(píng)估模型被廣泛運(yùn)用于軟件產(chǎn)業(yè),并取得了顯著成效\[4\],例如AHP評(píng)估模型、DEA數(shù)據(jù)包絡(luò)分析、模糊綜合評(píng)價(jià)模型等,但這些模型主要依賴于專家的經(jīng)驗(yàn)判斷,受主觀性因素影響較大。本文通過(guò)研究軟件質(zhì)量體系的屬性特征,參考軟件質(zhì)量屬性相關(guān)定義,構(gòu)建基于BP神經(jīng)網(wǎng)絡(luò)的軟件質(zhì)量評(píng)估體系,根據(jù)軟件質(zhì)量屬性樣本,運(yùn)用BP人工神經(jīng)網(wǎng)絡(luò)對(duì)樣本進(jìn)行訓(xùn)練、學(xué)習(xí),最后量化所選指標(biāo),得出預(yù)測(cè)結(jié)果。實(shí)驗(yàn)證明該方法能科學(xué)、準(zhǔn)確地對(duì)軟件質(zhì)量進(jìn)行評(píng)估與預(yù)測(cè)。

1BP神經(jīng)網(wǎng)絡(luò)

人工神經(jīng)網(wǎng)絡(luò)(Artificial Networks,ANN)是在現(xiàn)代神經(jīng)科學(xué)研究成果的基礎(chǔ)上提出的,是由大量處理單元互聯(lián)組成的非線性、自適應(yīng)信息處理系統(tǒng),其基本處理單位稱為神經(jīng)元,目前比較成熟的ANN模型及相應(yīng)算法甚多,其中采用誤差反向傳遞學(xué)習(xí)算法的多層神經(jīng)網(wǎng)絡(luò)(即BP神經(jīng)網(wǎng)絡(luò))運(yùn)用最為廣泛,其自學(xué)習(xí)功能與聯(lián)想存儲(chǔ)功能以及高速尋找優(yōu)化解的能力被運(yùn)用在諸多領(lǐng)域,解決某些傳統(tǒng)方法無(wú)法解決的問(wèn)題。BP神經(jīng)網(wǎng)絡(luò)是一種具有很強(qiáng)非線性映射能力的多層前饋型神經(jīng)網(wǎng)絡(luò),一般包含輸入層、中間層(隱含層)、輸出層3個(gè)層次,部分神經(jīng)網(wǎng)絡(luò)可根據(jù)實(shí)際情況設(shè)置3層以上的結(jié)構(gòu)網(wǎng)絡(luò),相鄰上、下層之間的神經(jīng)元實(shí)現(xiàn)全連接,BP神經(jīng)網(wǎng)絡(luò)的常見(jiàn)結(jié)構(gòu)模型如圖1所示。

BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程由正向傳播和反向傳播組成,正向傳播中,信息由輸入層經(jīng)隱含層處理后,傳向輸出層,并且上一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元狀態(tài),若輸出層得不到期望的數(shù)值,則進(jìn)入反向傳播,將誤差信號(hào)沿原有連接通道返回,通過(guò)修改各層神經(jīng)元的權(quán)值,使誤差變小,經(jīng)過(guò)反復(fù)迭代計(jì)算,得出誤差值范圍內(nèi)的結(jié)果。BP神經(jīng)網(wǎng)絡(luò)的非線性處理能力可很好地處理信息含糊、不完整、存在矛盾等復(fù)雜情況的認(rèn)知判斷問(wèn)題\[5\],故使用BP神經(jīng)網(wǎng)絡(luò)來(lái)解決軟件質(zhì)量評(píng)估的復(fù)雜性問(wèn)題是可行的。

4結(jié)語(yǔ)

基于BP神經(jīng)網(wǎng)絡(luò)的軟件質(zhì)量評(píng)估充分利用了以往評(píng)價(jià)結(jié)果,將量化過(guò)程集成于BP神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程中,解決了人為主觀隨意性及思維不定性,評(píng)估準(zhǔn)確、客觀、科學(xué)、有價(jià)值,對(duì)特定問(wèn)題有一定借鑒意義。同時(shí),基于BP神經(jīng)網(wǎng)絡(luò)的軟件質(zhì)量評(píng)估擴(kuò)展性強(qiáng),可針對(duì)不同類型指標(biāo),不同評(píng)估等級(jí)變換輸入輸出層進(jìn)行調(diào)節(jié),對(duì)軟件質(zhì)量綜合評(píng)價(jià)具有重要意義。

參考文獻(xiàn):

[1]王峰.基于層次分析法的軟件質(zhì)量評(píng)估模型分析與研究[J].現(xiàn)代電子技術(shù),2012(24):2123.

[2]于本海.可信軟件測(cè)度理論與方法[M].北京:科學(xué)出版社,2014.

[3]王李進(jìn),吳保國(guó),鄭德祥.基于人工神經(jīng)網(wǎng)絡(luò)的軟件質(zhì)量評(píng)價(jià)[J].計(jì)算機(jī)應(yīng)用與軟件,2008(12):133134.

[4]楊愛(ài)民,張文祥.軟件質(zhì)量及其量化評(píng)價(jià)方法[J].計(jì)算機(jī)工程與設(shè)計(jì),2006(21):39873990.

[5]王偉.基于BP神經(jīng)網(wǎng)絡(luò)的Web軟件質(zhì)量分析[J].軟件導(dǎo)刊,2012(2):1618.

[6]熊鵬程,范玉順.基于模糊層次分析法的集成軟件質(zhì)量評(píng)估模型[J].計(jì)算機(jī)應(yīng)用,2006(7):14971499.

[7]ISO.IEC25010:2011 Systems and software engineeringsystems and software quality requirements and evaluation (SQuaRE)System and software quality models[J].International Organization for Standardization, 2011.

[8]TRUSTIE R G.Trustie series technology standard (V2.0)[Z].2009.