經(jīng)典神經(jīng)網(wǎng)絡(luò)算法范文

時(shí)間:2024-03-28 17:40:54

導(dǎo)語(yǔ):如何才能寫(xiě)好一篇經(jīng)典神經(jīng)網(wǎng)絡(luò)算法,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公文云整理的十篇范文,供你借鑒。

經(jīng)典神經(jīng)網(wǎng)絡(luò)算法

篇1

關(guān)鍵詞:負(fù)荷預(yù)測(cè);神經(jīng)網(wǎng)絡(luò);唐山電網(wǎng);電力系統(tǒng);電力負(fù)荷

中圖分類號(hào):TM714文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-2374 (2010)13-0124-02

一、預(yù)測(cè)意義

唐山是具有百年歷史的沿海重工業(yè)城市,是河北省經(jīng)濟(jì)中心,同時(shí)也是中國(guó)經(jīng)濟(jì)發(fā)展前景最好的城市之一。特別是最近幾年,隨著國(guó)家產(chǎn)業(yè)結(jié)構(gòu)與河北戰(zhàn)略布局的調(diào)整,重大項(xiàng)目紛紛在唐山興建,預(yù)計(jì)在未來(lái)幾年唐山地區(qū)經(jīng)濟(jì)仍將快速增長(zhǎng)。根據(jù)唐山電網(wǎng)用電情況統(tǒng)計(jì)數(shù)據(jù),唐山電網(wǎng)2001年用電量158.266億千瓦時(shí),2008年用電量538.509億千瓦時(shí),平均年增長(zhǎng)17.9%。綜合考慮唐山地區(qū)經(jīng)濟(jì)發(fā)展與用電量增長(zhǎng)因素,預(yù)計(jì)未來(lái)幾年唐山電網(wǎng)電力負(fù)荷將保持較高的增長(zhǎng)。中長(zhǎng)期電力負(fù)荷預(yù)測(cè)是電力系統(tǒng)規(guī)劃的基礎(chǔ),它在電力系統(tǒng)規(guī)劃、新發(fā)電廠和發(fā)配電系統(tǒng)的建立過(guò)程中起到重要的指導(dǎo)作用。為了滿足唐山電網(wǎng)負(fù)荷不斷增長(zhǎng)的需要,增加供電可靠性,對(duì)該地區(qū)進(jìn)行科學(xué)合理的電力系統(tǒng)規(guī)劃勢(shì)在必行。因此,對(duì)唐山電網(wǎng)中長(zhǎng)期的電力負(fù)荷進(jìn)行預(yù)測(cè)具有重要意義。

二、預(yù)測(cè)方法選擇

目前,電力負(fù)荷預(yù)測(cè)的研究已經(jīng)十分成熟,許多方法和模型被引用到電力負(fù)荷預(yù)測(cè)中,其中比較常用的預(yù)測(cè)方法有以下幾種:回歸分析法、時(shí)間序列法、指數(shù)平滑法、神經(jīng)網(wǎng)絡(luò)法、灰色模型法、優(yōu)選組合預(yù)測(cè)法、小波分析預(yù)測(cè)技術(shù)等。以上負(fù)荷預(yù)測(cè)的方法都有自身的優(yōu)缺點(diǎn)以及適用范圍。電力系統(tǒng)專家經(jīng)過(guò)長(zhǎng)期負(fù)荷預(yù)測(cè)實(shí)踐,建議中長(zhǎng)期電力負(fù)荷預(yù)測(cè)使用時(shí)間序列法與灰色模型法。由于未來(lái)幾年唐山市將投產(chǎn)幾個(gè)重大項(xiàng)目,唐山電網(wǎng)負(fù)荷將呈現(xiàn)不規(guī)則的跳躍式增長(zhǎng)。因此,按照常規(guī)的預(yù)測(cè)方法對(duì)唐山電網(wǎng)的用電負(fù)荷進(jìn)行預(yù)測(cè)將無(wú)法獲得較滿意的數(shù)據(jù)擬合度。神經(jīng)網(wǎng)絡(luò)算法能夠?qū)崿F(xiàn)較復(fù)雜的非線性映射,對(duì)大量的非結(jié)構(gòu)性、非準(zhǔn)確性規(guī)律具有自適應(yīng)能力,應(yīng)用于電力系統(tǒng)負(fù)荷預(yù)測(cè),能夠得到比傳統(tǒng)預(yù)測(cè)方法更好的效果。因此,本文嘗試使用神經(jīng)網(wǎng)絡(luò)算法預(yù)測(cè)唐山電網(wǎng)的用電負(fù)荷。

三、預(yù)測(cè)模型的建立

(一)確定神經(jīng)網(wǎng)絡(luò)輸入量

輸入層是神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的第一層次,該層次輸入量的確定關(guān)系到神經(jīng)網(wǎng)絡(luò)訓(xùn)練的效率。特征量取得太少,則不能起到區(qū)分判斷作用;取得太多則影響網(wǎng)絡(luò)的訓(xùn)練速度。因此,合理地選擇輸入量,能提高網(wǎng)絡(luò)的訓(xùn)練速度和預(yù)測(cè)精度。為了簡(jiǎn)化模型的結(jié)構(gòu),提高預(yù)測(cè)的精度,本文綜合考慮中長(zhǎng)期電力負(fù)荷預(yù)測(cè)的相關(guān)因素以及唐山電網(wǎng)的用電特點(diǎn),確定以下五種影響電力負(fù)荷的經(jīng)濟(jì)因素作為神經(jīng)網(wǎng)絡(luò)的輸入量即:“唐山地區(qū)的生產(chǎn)總值(GDP);第一產(chǎn)業(yè)用電量占總用電量的比重;第二產(chǎn)業(yè)用電量占總用電量的比重;第三產(chǎn)業(yè)用電量占總用電量的比重;生活用電量占總用電量的比重?!?/p>

(二)構(gòu)造神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

本文應(yīng)用的神經(jīng)網(wǎng)絡(luò)是由輸入層、輸出層和隱含層三層網(wǎng)絡(luò)結(jié)構(gòu)構(gòu)成。理論研究已證明對(duì)于任何在閉區(qū)間上連續(xù)的函數(shù),只要隱含層神經(jīng)元數(shù)目足夠多,就可以用只含一個(gè)隱含層的網(wǎng)絡(luò)結(jié)構(gòu)以任意精度來(lái)逼近,所以本文隱含層只取一層。第一層為輸入層,神經(jīng)網(wǎng)絡(luò)的輸入神經(jīng)元為五種影響唐山電網(wǎng)用電負(fù)荷的經(jīng)濟(jì)因素,因此該層的神經(jīng)元個(gè)數(shù)為5個(gè);第二層是隱含層,隱含層神經(jīng)元數(shù)根據(jù)下式求得:

或或h=lg2n (1)

其中k為樣本數(shù),n為輸入層神經(jīng)元數(shù),m為輸出神經(jīng)元數(shù),h為隱含層神經(jīng)元數(shù),a為1~10之間的常數(shù)。第三層是輸出層,因?yàn)檩敵鼋Y(jié)果只有一個(gè)指標(biāo)即唐山電網(wǎng)某年的用電量,所以輸出神經(jīng)元的個(gè)數(shù)是1。從而確定本文的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為5×3×1。

(三)神經(jīng)網(wǎng)絡(luò)的訓(xùn)練算法

由于標(biāo)準(zhǔn)BP算法中,人為憑經(jīng)驗(yàn)選取學(xué)習(xí)率和動(dòng)量因子,往往會(huì)對(duì)網(wǎng)絡(luò)學(xué)習(xí)速度產(chǎn)生較大影響,甚至?xí)驗(yàn)閷W(xué)習(xí)率選取不當(dāng)而導(dǎo)致學(xué)習(xí)中發(fā)生振蕩而不能收斂,這些缺點(diǎn)將影響整個(gè)預(yù)測(cè)的精度。本文采用改進(jìn)的批處理式Vogl快速算法,進(jìn)行網(wǎng)絡(luò)訓(xùn)練。在網(wǎng)絡(luò)訓(xùn)練過(guò)程中根據(jù)訓(xùn)練的實(shí)際情況自適應(yīng)改變學(xué)習(xí)率η及動(dòng)量因子α的大小:當(dāng)前的誤差梯度修正正確,則增大學(xué)習(xí)率,加入動(dòng)量項(xiàng);否則減少學(xué)習(xí)率,甩掉動(dòng)量項(xiàng)。這樣初始η值就可以相對(duì)隨意的選取,避免上述缺點(diǎn)。自適應(yīng)改變?chǔ)羌唉恋男拚饺缦?

(2)

上式中ΔE=E(J)-E(J-1),表示神經(jīng)網(wǎng)絡(luò)前后相鄰兩次學(xué)習(xí)過(guò)程中誤差函數(shù)的變化量。φ略大于1,β略小于1。E (J)為神經(jīng)網(wǎng)絡(luò)第J次訓(xùn)練過(guò)程中的誤差函數(shù):

(3)

式中:pt',和Ot分別表示神經(jīng)網(wǎng)絡(luò)對(duì)應(yīng)于第t個(gè)輸入向量的期望輸出和實(shí)際輸出。

(四)預(yù)測(cè)實(shí)施

唐山電網(wǎng)2001~2008年用電量、生產(chǎn)總值以及各產(chǎn)業(yè)用電占比情況的歷史數(shù)據(jù)見(jiàn)表1:

表12001~2008年唐山電網(wǎng)用電情況統(tǒng)計(jì)

年份 生產(chǎn)總值

/萬(wàn)元 用電量

/億千瓦時(shí) 一產(chǎn)用電

/% 二產(chǎn)用電

/% 三產(chǎn)用電

/% 生活用電

/%

2001年 9150473 158.266 3.8 83.4 5.5 7.2

2002年 9993543 180.420 3.3 84.6 5.5 6.6

2003年 11022878 233.638 2.2 87.7 4.8 5.3

2004年 17616311 290.260 1.7 89.1 4.5 4.7

2005年 20276374 358.800 2.4 89.1 4.0 4.5

2006年 23621410 432.752 2.1 89.3 4.2 4.5

2007年 27794190 520.020 1.3 90.5 4.1 4.1

2008年 36132447 538.509 1.2 90.0 4.4 4.4

根據(jù)2001~2008年唐山電網(wǎng)用電量的歷史數(shù)據(jù),分別使用時(shí)間序列法、灰色預(yù)測(cè)模型與神經(jīng)網(wǎng)絡(luò)算法對(duì)唐山電網(wǎng)的用電量進(jìn)行預(yù)測(cè)。使用2001~2006年的歷史數(shù)據(jù)預(yù)測(cè)2007年、2008年的用電量,并將預(yù)測(cè)結(jié)果與真實(shí)數(shù)據(jù)做對(duì)比,以分析三種預(yù)測(cè)方法的誤差。通過(guò)

Matlab軟件計(jì)算,三種預(yù)測(cè)方法的預(yù)測(cè)結(jié)果及誤差情況,見(jiàn)表2:

表2用電量預(yù)測(cè)值及誤差表

序號(hào) 年份 用電量 灰色模型 時(shí)間序列法 神經(jīng)網(wǎng)絡(luò)

預(yù)測(cè)值 誤差 預(yù)測(cè)值 誤差 預(yù)測(cè)值 誤差

1 2007年 520.020 501.1 3.64% 487.9 6.41% 531.7 2.25%

2 2008年 538.509 512.4 4.85% 503.9 6.75% 559.4 3.88%

通過(guò)上表我們可以看出以上三種預(yù)測(cè)方法的誤差除了時(shí)間序列法的誤差較高外,都在允許的范圍內(nèi)。灰色模型與神經(jīng)網(wǎng)絡(luò)算法都可以較準(zhǔn)確的預(yù)測(cè)出唐山電網(wǎng)的用電量。相比而言,神經(jīng)網(wǎng)絡(luò)算法預(yù)測(cè)對(duì)于歷史數(shù)據(jù)的擬合度更高,神經(jīng)網(wǎng)絡(luò)算法更適用于唐山電網(wǎng)中長(zhǎng)期的電力負(fù)荷預(yù)測(cè)。因此,本文使用神經(jīng)網(wǎng)絡(luò)算法對(duì)唐山電網(wǎng)未來(lái)五年的用電負(fù)荷進(jìn)行預(yù)測(cè),通過(guò)Matlab軟件計(jì)算,預(yù)測(cè)結(jié)果見(jiàn)表3:

表3唐山電網(wǎng)用電負(fù)荷預(yù)測(cè)

序號(hào) 年份 年用電量(億千瓦時(shí)) 年最大負(fù)荷(MW)

1 2009 584.282 7637.677

2 2010 625.182 8172.314

3 2011 665.819 8703.514

4 2012 725.077 9478.127

5 2013 781.633 10217.42

四、結(jié)論

本文研究了神經(jīng)網(wǎng)絡(luò)算法在唐山電網(wǎng)中長(zhǎng)期電力負(fù)荷預(yù)測(cè)中的應(yīng)用。研究結(jié)果表明,應(yīng)用神經(jīng)網(wǎng)絡(luò)算法比時(shí)間序列法、灰色模型有更高的預(yù)測(cè)精度,神經(jīng)網(wǎng)絡(luò)算法可以較準(zhǔn)確的預(yù)測(cè)唐山電網(wǎng)中長(zhǎng)期的電力負(fù)荷。

參考文獻(xiàn)

[1]于之虹,郭志忠.數(shù)據(jù)挖掘與電力系統(tǒng)[J].電網(wǎng)技術(shù),2001,25(8).

篇2

關(guān)鍵詞: 變電站變壓器; 裂紋圖像; 特征提取; 神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào): TN911.73?34; TP181 文獻(xiàn)標(biāo)識(shí)碼: A 文章編號(hào): 1004?373X(2017)13?0066?04

Abstract: In order to guarantee the normal operation of the electric power system, and improve the identification precision of the substation transformer crack image, a substation transformer crack image recognition model based on the improved neural network algorithm is proposed. The substation transformer crack image is collected and denoised. And then the features of the substation transformer crack image are extracted, and proceeded with dimensionless processing. The neural network is used to establish the recognition model of the substation transformer crack image, and its deficiency is improved correspondingly. The simulation test of the substation transformer simulation crack image recognition was carried out in Matlab 2104R. The results show that the improved neural network can obtain better result of the substation transformer crack image recognition, and the recognition speed can meet the requirements of the substation transformer crack image detection.

Keywords: substation transformer; crack image; feature extraction; neural network

0 引 言

隨著經(jīng)濟(jì)的不斷發(fā)展,人們的生活水平日益提高,各種家用電器以及辦公室的電器使用更加頻繁,電力系統(tǒng)的穩(wěn)定工作面臨巨大的挑戰(zhàn)[1]。變壓器是一種重要的電氣設(shè)備,變電站變壓器裂紋嚴(yán)重影響電力系統(tǒng)的正常運(yùn)行,因此如何對(duì)變電站變壓器裂紋圖像進(jìn)行準(zhǔn)確識(shí)別具有重要的意義[2]。

國(guó)內(nèi)外學(xué)者對(duì)變電站變壓器裂紋圖像技術(shù)進(jìn)行了深入、廣泛的研究,提出了一些可行的變電站變壓器裂紋圖像識(shí)別模型[3],目前變電站變壓器裂紋圖像識(shí)別模型主要基于圖像進(jìn)行識(shí)別,通過(guò)對(duì)變壓器裂紋圖像進(jìn)行分類,對(duì)變壓器裂紋圖像的類別進(jìn)行正確劃分。在實(shí)際應(yīng)用中,變壓器裂紋圖像采集受到天氣、環(huán)境以及采集設(shè)備的干擾,圖像中難免會(huì)包含一定的噪聲,這些噪聲對(duì)變壓器裂紋圖像準(zhǔn)確識(shí)別產(chǎn)生了不利影響,因此需去除變壓器裂紋圖像中的噪聲[4?5]。變壓器裂紋圖像識(shí)別主要基于特征進(jìn)行建模分析,因此特征對(duì)變壓器裂紋圖像識(shí)別結(jié)果影響十分重要,當(dāng)前變壓器裂紋圖像識(shí)別特征很多,其中不變矩陣特征具有惟一性、魯棒性和可分性,在目標(biāo)識(shí)別、字符識(shí)別等領(lǐng)域得到了廣泛的應(yīng)用[6]。變壓器裂紋圖像類別與特征之間的聯(lián)系十分復(fù)雜,傳統(tǒng)方法采用歐式距離估計(jì)樣本之間的特征聯(lián)系,建立的變壓器裂紋圖像識(shí)別模型的誤識(shí)率比較高[7?8]。神經(jīng)網(wǎng)絡(luò)具有很好的非線性擬合性能,可以較好地描述變壓器裂紋圖像類型與特征之間的變化關(guān)系,廣泛應(yīng)用于變電站變壓器裂紋圖像的識(shí)別中。然而神經(jīng)網(wǎng)絡(luò)自身也存在一定的不足,如參數(shù)的確定全憑經(jīng)驗(yàn)進(jìn)行,導(dǎo)致變壓器裂紋圖像識(shí)別結(jié)果具有一定的盲目性和主觀性,識(shí)別結(jié)果不理想[9?10]。

為了保證電力系統(tǒng)的正常運(yùn)行,提高變電站變壓器裂紋圖像的識(shí)別精度,提出基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)[11]算法的變電站變壓器裂紋圖像識(shí)別。首先收集變電站變壓器裂紋圖像,并進(jìn)行去噪處理,然后提取變電站變壓器裂紋圖像的特征,最后采用改進(jìn)神經(jīng)網(wǎng)絡(luò)建立變電站變壓器裂紋圖像識(shí)別模型,在Matlab 2014R平臺(tái)上仿真測(cè)試結(jié)果表明,改進(jìn)神經(jīng)網(wǎng)絡(luò)提高了變電站變壓器裂紋圖像的識(shí)別精度,加快了變電站變壓器裂紋圖像的檢測(cè)速度。

1 小波變換和神經(jīng)網(wǎng)絡(luò)

1.1 小波變換

小波變換可以對(duì)信號(hào)進(jìn)行小波分解,小波系數(shù)描述不同分辨率上的信息,而且自適應(yīng)能力強(qiáng),其基本思想為:

式中:和分別表示高分辨率空間和低分辨率空間。

時(shí),小波變換的空間分解見(jiàn)圖1。

和是尺度空間和小波空間的正交基函數(shù),分別定義如下:

1.2 BP神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)屬于非線性理論中的機(jī)器學(xué)習(xí)算法,它們可以通過(guò)一個(gè)結(jié)構(gòu)網(wǎng)絡(luò)對(duì)非線性問(wèn)題進(jìn)行無(wú)限逼近,在圖像處理、人臉識(shí)別等領(lǐng)域得到成功應(yīng)用,其中BP神經(jīng)網(wǎng)絡(luò)的性能要優(yōu)于其他神經(jīng)網(wǎng)絡(luò),通用性更強(qiáng),BP神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)如圖2所示,包括輸入層、輸出層和隱含層。

在圖2中,為BP神經(jīng)網(wǎng)絡(luò)的輸入向量,為BP神經(jīng)網(wǎng)絡(luò)的輸出向量,其中隱含層神經(jīng)元的節(jié)點(diǎn)數(shù)量通過(guò)輸入和輸出的數(shù)和決定,一般情況下,采用Sigmoid函數(shù)構(gòu)建隱含層的轉(zhuǎn)移函數(shù),具體如下:

BP神經(jīng)網(wǎng)絡(luò)具有反饋功能,選擇輸出層期望輸出與預(yù)測(cè)輸出的誤差平方和作為反饋誤差,具體為:

1.3 BP神經(jīng)網(wǎng)絡(luò)的改進(jìn)

在BP神經(jīng)網(wǎng)絡(luò)的工作過(guò)程中,BP神經(jīng)網(wǎng)絡(luò)的權(quán)值直接影響其性能,傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)采用經(jīng)驗(yàn)確定權(quán)值,對(duì)于不同問(wèn)題,神經(jīng)網(wǎng)絡(luò)的性能差別很大,為此,本文對(duì)標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)進(jìn)行相應(yīng)的改進(jìn),采用遺傳算法BP神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行在線優(yōu)化,以提高變電站變壓器裂紋圖像識(shí)別的效果,遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值具體設(shè)計(jì)過(guò)程為:

Step1:個(gè)體編碼。采用十進(jìn)制對(duì)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行編碼,那么編碼長(zhǎng)度為:

式中:表示輸入層與隱含層的權(quán)重;表示隱含層與輸出層之間的權(quán)重。

Step2:適應(yīng)度函數(shù)的構(gòu)建。對(duì)個(gè)體進(jìn)行解碼,得到BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和隱含層的輸出和輸出層的輸出它們分別為:

式中是訓(xùn)練輸出數(shù)據(jù)。

Step3:通過(guò)選擇、交叉和變異等遺傳操作,不斷產(chǎn)生新的種群,將個(gè)體解碼為BP神經(jīng)網(wǎng)絡(luò)的權(quán)值,然后根據(jù)權(quán)值對(duì)訓(xùn)練樣本進(jìn)行學(xué)習(xí),得到反饋誤差,根據(jù)反饋誤差進(jìn)行反饋操作,最后得到BP神經(jīng)網(wǎng)絡(luò)最優(yōu)的權(quán)值。

2 變電站變壓器裂紋圖像識(shí)別模型

2.1 變電站變壓器裂紋圖像的特征提取

設(shè)變電站變壓器裂紋圖像為其原點(diǎn)矩和中心矩分別為:

2.2 變電站變壓器裂紋圖像識(shí)別模型的工作步驟

(1) 收集變電站變壓器裂紋圖像。

(2) 采用小波變換對(duì)變電站變壓器裂紋圖像進(jìn)行去噪處理,消除噪聲的干擾。

(3) 提取變電站變壓器裂紋圖像的不變矩特征,并進(jìn)行如下處理:

(4) 采用BP神經(jīng)網(wǎng)絡(luò)對(duì)訓(xùn)練樣本進(jìn)行學(xué)習(xí),并采用遺傳算法優(yōu)化權(quán)值,建立變電站變壓器裂紋圖像識(shí)別分類器。

(5) 采用測(cè)試樣本對(duì)變電站變壓器裂紋圖像識(shí)別結(jié)果進(jìn)行分析。

3 仿真實(shí)驗(yàn)

3.1 實(shí)驗(yàn)環(huán)境

為了測(cè)試改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識(shí)別性能,在Matlab 2014R仿真平臺(tái)上進(jìn)行了仿真實(shí)驗(yàn),選擇不同類型的變電站變壓器裂紋圖像作為實(shí)驗(yàn)對(duì)象,它們共有4種類型,編號(hào)分別為1,2,3,4。

3.2 結(jié)果與分析

選擇傳統(tǒng)神經(jīng)網(wǎng)絡(luò)作為對(duì)比實(shí)驗(yàn),變電站變壓器裂紋圖像識(shí)別結(jié)果如圖3和圖4所示,平均識(shí)別正確率和訓(xùn)練時(shí)間如表1所示。

對(duì)識(shí)別結(jié)果進(jìn)行分析可以得到如下結(jié)論:

(1) 傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識(shí)別正確率低,這主要是由于傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值隨機(jī)確定,無(wú)法描述變電站變壓器裂紋圖像的類別,因此識(shí)別效果差。

(2) 改進(jìn)神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識(shí)別結(jié)果相對(duì)更優(yōu),這主是由于小波變換消除了變電站變壓器裂紋圖像中的噪聲,并通過(guò)遺傳算法確定BP神經(jīng)網(wǎng)絡(luò)權(quán)值,提高了變電站變壓器裂紋圖像識(shí)別的正確率,而且變電站變壓器裂紋圖像訓(xùn)練時(shí)間更快,加快了變電站變壓器裂紋圖像的識(shí)別速度。

4 結(jié) 論

變電站變壓器裂紋圖像具有重要的應(yīng)用價(jià)值,為了解決當(dāng)前變電站變壓器裂紋圖像識(shí)別中存在的局限性,提出改進(jìn)神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像的識(shí)別模型,并通過(guò)具體應(yīng)用實(shí)驗(yàn)對(duì)其有效性進(jìn)行測(cè)試,具體結(jié)論如下:

(1) 針對(duì)變電站變壓器裂紋圖像的噪聲,采用小波分析對(duì)變電站變壓器裂紋圖像進(jìn)行變換和處理,消除外界環(huán)境以及其他因素帶來(lái)的噪聲干擾,便于后續(xù)變電站變壓器裂紋圖像特征提取和分類器建立,有助于改善變電站變壓器裂紋圖像的識(shí)別效果。

(2) 通過(guò)提取變電站變壓器裂紋圖像的不變矩圖像,作為變電站變壓器裂紋圖像分類器的輸入,建立了變電站變壓器裂紋圖像識(shí)別的依據(jù),準(zhǔn)確反映了變電站變壓器裂紋圖像類型。

(3) 采用改進(jìn)神經(jīng)網(wǎng)絡(luò)對(duì)變電站變壓器裂紋圖像進(jìn)行分類與識(shí)別,可以反映變電站變壓器裂紋圖像類型與圖像特征之間的映射關(guān)系,通過(guò)神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)建立變電站變壓器裂紋圖像的識(shí)別模型,提高變電站變壓器裂紋圖像的識(shí)別精度。

(4) 通過(guò)引入遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行優(yōu)化,解決了神經(jīng)網(wǎng)絡(luò)參數(shù)確定的難題,建立了結(jié)構(gòu)更優(yōu)的神經(jīng)網(wǎng)絡(luò),降低了變電站變壓器裂紋圖像識(shí)別的錯(cuò)誤率。

(5) 與其他識(shí)別模型相比,改進(jìn)神經(jīng)網(wǎng)絡(luò)提高了變電站變壓器裂紋圖像識(shí)別的正確率,而且識(shí)別速度也有顯著的優(yōu)勢(shì),對(duì)比結(jié)果驗(yàn)證了改進(jìn)神經(jīng)網(wǎng)絡(luò)應(yīng)用于變電站變壓器裂紋圖像識(shí)別的優(yōu)越性。

參考文獻(xiàn)

[1] 郭創(chuàng)新,朱傳柏,曹一家.電力系統(tǒng)故障診斷的研究現(xiàn)狀與發(fā)展趨勢(shì)[J].電力系統(tǒng)自動(dòng)化,2006,30(8):98?103.

[2] 蘇鵬聲,王歡.電力系統(tǒng)設(shè)備狀態(tài)監(jiān)測(cè)與故障診斷技術(shù)分析[J].電力系統(tǒng)自動(dòng)化,2003,27(1):61?65.

[3] 項(xiàng)新建.粗糙集理論在變壓器故障診斷專家系統(tǒng)中的應(yīng)用研究[J].科技通報(bào),2003,19(4):288?291.

[4] 應(yīng)鴻,李天云,張宇輝.變壓器故障診斷的神經(jīng)網(wǎng)絡(luò)法[J].東北電力學(xué)院學(xué)報(bào),1996,16(4):54?58.

[5] 孫才新,郭俊峰,廖瑞金,等.變壓器油中溶解氣體分析中的模糊模式多層聚類故障診斷方法的研究[J].中國(guó)電機(jī)工程學(xué)報(bào),2001,21(2):37?41.

[6] 張冠軍,嚴(yán)璋,張仕君.電力變壓器故障診斷中斷新方法的應(yīng)用[J].高壓電器,1998(4):32?35.

[7] 顏湘蓮,文遠(yuǎn)芳.模糊神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用研究[J].變壓器,2002(7):41?43.

[8] 謝可夫,羅安.遺傳算法在變壓器故障診斷中的應(yīng)用[J].電力自動(dòng)化設(shè)備,2005(4):55?58.

[9] 何成才.電力機(jī)車牽引變壓器油箱體裂紋故障的分析及處理[J].鄭州鐵路職業(yè)技術(shù)學(xué)院學(xué)報(bào),2009,21(1):13?14.

篇3

關(guān)鍵詞:組合導(dǎo)航; 卡爾曼濾波; BP神經(jīng)網(wǎng)絡(luò); 小腦模型神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào):TN96-34文獻(xiàn)標(biāo)識(shí)碼:A

文章編號(hào):1004-373X(2010)21-0051-03

Application of CMAC-based Kalman Filtering Technology in Integrated Navigation System

ZHANG Yuan, YANG Bin, SUN Jiang-lei

(Department of Navigation, Benghu Navy Petty Officer Academy ofPLA, Benghu 233012, China)

Abstract: The conventional Kalman filter needs to assume that the statistical properties of the noise in dynamic model and observation system are exactly known, but the noise in integrated navigation system is uncertain. Soa new method that the cerebellar model articulation controller (CMAC) neural network assists Kalman filter is put forward to solve the problem. The simulation results indicate that the precision of CMAC is 2 times better and convergence time is 200 s less than those of Kalman filtering algorithm. Thus it can overcome the shortcomings of the conventional neural network, such as slow learning and poor generalization ability, and make the whole system has the adaptive capability to deal with the disturbance in dynamic situation.

Keywords: integrated navigation; Kalman filtering; BP neural network; CMAC neural network

0 引 言

卡爾曼濾波是目前組合導(dǎo)航系統(tǒng)常用的一種濾波算法,但經(jīng)典卡爾曼濾波理論要求精確的系統(tǒng)數(shù)學(xué)模型和噪聲統(tǒng)計(jì)特性,而組合導(dǎo)航系統(tǒng)實(shí)際上是一個(gè)復(fù)雜的動(dòng)力系統(tǒng),要給出其精確的數(shù)學(xué)模型以及系統(tǒng)噪聲和測(cè)量噪聲的統(tǒng)計(jì)特性都存在著困難。因此在實(shí)際應(yīng)用中,為了給出較精確的系統(tǒng)描述,需要高階的數(shù)學(xué)模型,這勢(shì)必導(dǎo)致很大的計(jì)算量,為高階卡爾曼濾波器的實(shí)現(xiàn)和算法的實(shí)時(shí)性帶來(lái)了困難;如果采用簡(jiǎn)化系統(tǒng)模型的方法,雖減小了計(jì)算量,但同時(shí)也降低了系統(tǒng)精度[1-2]。

本文將小腦模型神經(jīng)網(wǎng)絡(luò)(CMAC)與卡爾曼濾波器相結(jié)合,提出小腦模型神經(jīng)網(wǎng)絡(luò)(CMAC)輔助卡爾曼濾波器進(jìn)行最優(yōu)估計(jì)的信息融合方法,并將算法應(yīng)用于組合導(dǎo)航系統(tǒng)中。通過(guò)計(jì)算機(jī)仿真,檢驗(yàn)了小腦模型神經(jīng)網(wǎng)絡(luò)(CMAC)輔助卡爾曼濾波的精度優(yōu)于經(jīng)典卡爾曼濾波算法和其他神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法。

1 CMAC輔助卡爾曼濾波設(shè)計(jì)

1.1 CMAC網(wǎng)絡(luò)模型[3]

CMAC是由Albus根據(jù)小腦在生物運(yùn)動(dòng)協(xié)調(diào)方面的重要作用而提出的一種小腦模型關(guān)節(jié)控制器,是一種表達(dá)復(fù)雜非線性函數(shù)的表格查詢型自適應(yīng)神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)可通過(guò)學(xué)習(xí)算法改變表格的內(nèi)容,具有信息分類存儲(chǔ)的能力[4]。

CMAC的基本思想在于:在輸入空間中給出一個(gè)狀態(tài),從存儲(chǔ)單元中找到對(duì)應(yīng)于該狀態(tài)的地址,將這些存儲(chǔ)單元中的內(nèi)容通過(guò)求和得到CMAC 的輸出;將此響應(yīng)值與期望輸出值進(jìn)行比較,并根據(jù)學(xué)習(xí)算法修改這些已經(jīng)激活的存儲(chǔ)單元的內(nèi)容。CMAC網(wǎng)絡(luò)由輸入層、中間層和輸出層組成,如圖1所示。

CMAC神經(jīng)網(wǎng)絡(luò)的設(shè)計(jì)主要包括輸入空間的劃分、輸入層值輸出層非線性映射的實(shí)現(xiàn)以及輸出層權(quán)值學(xué)習(xí)算法。CMAC是前饋網(wǎng)絡(luò),輸入/輸出之間的非線性關(guān)系由兩個(gè)基本映射實(shí)現(xiàn)。

圖1 CMAC結(jié)構(gòu)圖

(1) 概念映射(uAC)

設(shè)輸入空間向量為up=[u1p,u2p,…,unp]T,量化編碼為[up],輸入空間映射至AC中c個(gè)存儲(chǔ)單元(c為二進(jìn)制非零單元的數(shù)目)。Р捎檬(1)表示映射后的向量:

Rp=S([up])=[s1(up),s2(up),…,sc(up)]T

(1)

式中:sj([up])=1,j=1,2,…,c。

(2) 實(shí)際映射(ACAP)

網(wǎng)絡(luò)的輸出為AP中c個(gè)單元的權(quán)值之和。只考慮單輸出:

y(t)=∑cj=1wjsj([up])

(2)

1.2 CMAC學(xué)習(xí)算法

CMAC 算法的基本思想是將學(xué)習(xí)數(shù)據(jù)存儲(chǔ)在交疊的存儲(chǔ)單元中,輸出為相應(yīng)激活單元數(shù)據(jù)的累加和,將實(shí)際值與期望輸出值比較,并根據(jù)學(xué)習(xí)算法修改已激活的存儲(chǔ)單元內(nèi)容。其權(quán)值調(diào)整公式為:

wij=wi-1j+mCs(ys-ys)

(3)

ys=∑Nj=1Cswi-1j

(4)

式中:Иys為狀態(tài)s的期望輸出;ys為狀態(tài)s的實(shí)際輸出;滴學(xué)習(xí)常數(shù);N為存儲(chǔ)單元數(shù);Cs為第j個(gè)存儲(chǔ)單元是否被狀態(tài)s激活的指示,當(dāng)某個(gè)狀態(tài)僅有m個(gè)存儲(chǔ)單元被激活時(shí),其Cs值為1,而其他存儲(chǔ)單元的Cs值均為0。Ц盟惴ㄖ形蟛畋黃驕分配到所有被激活的存儲(chǔ)單元,經(jīng)多次迭代后,各存儲(chǔ)單元由于學(xué)習(xí)歷史不同,所以有不同的可信度。

為提高學(xué)習(xí)速度以滿足系統(tǒng)要求,本文采用一種基于信度分配的CMAC神經(jīng)網(wǎng)絡(luò)模型,其權(quán)值調(diào)整公式為:

wij=wi-1j+Cs[f(j)+1]-k0∑mj=1[f(j)+1]-k0(ys-∑Nj=1Cswi-1j)

(5)

式中:f(j)為第j個(gè)存儲(chǔ)單元的學(xué)習(xí)次數(shù);m為某狀態(tài)激活的存儲(chǔ)單元數(shù);k0為一平衡學(xué)習(xí)數(shù);wij為經(jīng)過(guò)┑i次迭代后存儲(chǔ)在第j個(gè)存儲(chǔ)單元的權(quán)值。由式(5)可以看出,f(j)越大,其存儲(chǔ)的知識(shí)越大;k0越大,對(duì)學(xué)習(xí)次數(shù)f(j)較大的存儲(chǔ)單元,其權(quán)值改變較小,網(wǎng)絡(luò)學(xué)習(xí)中“已經(jīng)學(xué)習(xí)知識(shí)的保持”占主導(dǎo)地位;反之,當(dāng)k0很小時(shí),學(xué)習(xí)次數(shù)f(j)Ф孕哦確峙淶撓跋煲步閑,網(wǎng)絡(luò)學(xué)習(xí)中“遺忘”占據(jù)主導(dǎo)地位[5-7]。

1.3 基于CMAC卡爾曼濾波設(shè)計(jì)

首先確定CMAC神經(jīng)網(wǎng)絡(luò)模型的輸入與輸出變量,將能直接影響卡爾曼濾波估計(jì)誤差的參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入。這些信號(hào)可分為三部分[1,8]:

(1) 狀態(tài)向量的預(yù)測(cè)或一步動(dòng)態(tài)外推與濾波估計(jì)之差[k/k-1-k/k];

(2) 實(shí)際觀測(cè)值與卡爾曼估計(jì)觀測(cè)值之差[Zk-h(k/k,K)];

(3) 卡爾曼增益矩陣Kk。

CMAC神經(jīng)網(wǎng)絡(luò)模型的輸出量為系統(tǒng)狀態(tài)向量的卡爾曼估計(jì)與滿足誤差精度的相對(duì)真值的誤差:

E=[k-k/k],其中,k為相對(duì)真值。

因此借鑒文獻(xiàn)[1]中提出的基本思想,構(gòu)造基于CMAC卡爾曼濾波器如圖2所示。

圖2 基于CMAC卡爾曼濾波器

2 仿真結(jié)果

本文著重討論基于CMAC卡爾曼濾波算法的可行性,利用如下簡(jiǎn)化組合導(dǎo)航系統(tǒng)模型和圖3的算法結(jié)構(gòu)進(jìn)行討論,并分別與經(jīng)典卡爾曼濾波算法和BP神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法進(jìn)行比較。

Xk+1=1h01Xk+Wk,

Yk=[1 0]Xk+Vk

(6)

狀態(tài)變量X1為航跡距離,X2為航跡速度,取h=10。仿真參數(shù)設(shè)置如下[9]:k0=1.2,N=10, =0.05。а盜費(fèi)本根據(jù)實(shí)驗(yàn)選取。基于CMAC卡爾曼濾波算法、經(jīng)典卡爾曼濾波算法和BP神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法的仿真都通過(guò)Matlab軟件來(lái)完成?;贑MAC卡爾曼濾波算法的結(jié)構(gòu)如圖3所示,仿真結(jié)果如圖4所示。

圖3 基于CMAC卡爾曼濾波算法結(jié)構(gòu)圖

由仿真結(jié)果可知,圖4(a)~圖4(c)為標(biāo)準(zhǔn)卡爾曼濾波算法、BP神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波算法和CMAC輔助卡爾曼濾波算法所得的位移估計(jì)誤差值和速度估計(jì)誤差值。從圖4和表1中可以看出,CMAC輔助卡爾曼濾波算法的精度和收斂時(shí)間要比前面兩種算法優(yōu)越。

表1 三種算法結(jié)果比較

指標(biāo)

項(xiàng)目

位移誤差(ΔS)航速誤差(ΔV)

KalmanAided BPAided CMACKalmanAided BPAided CMAC

收斂時(shí)間(T)820700610920810600

穩(wěn)態(tài)時(shí)段方差(σ)0.030 90.018 50.010 10.031 50.025 30.012 2

圖4 仿真結(jié)果

3 結(jié) 論

理論分析和仿真結(jié)果表明,本文提出的CMAC輔助卡爾曼濾波算法具有容錯(cuò)性能好,收斂速度快,泛化能力強(qiáng)的特點(diǎn),比標(biāo)準(zhǔn)卡爾曼濾波算法更為優(yōu)越。

參考文獻(xiàn)

[1]白宇駿,徐曉蘇,劉國(guó)燕.神經(jīng)網(wǎng)絡(luò)輔助卡爾曼濾波技術(shù)在組合導(dǎo)航系統(tǒng)中的應(yīng)用研究[J].中國(guó)慣性技術(shù)學(xué)報(bào),2003,11(2):40-43.

[2]許麗佳,陳陽(yáng)舟,崔平遠(yuǎn).基于神經(jīng)網(wǎng)絡(luò)的組合導(dǎo)航系統(tǒng)狀態(tài)估計(jì)[J].中國(guó)慣性技術(shù)學(xué)報(bào),2004,12(2):40-46.

[3]劉金錕.智能控制[M].北京:電子工業(yè)出版社,2005.

[4]李士勇.模糊控制•神經(jīng)控制和智能控制[M].哈爾濱:哈爾濱工業(yè)大學(xué)出版社,1998.

[5]SHUN F S, TED T, HUNG T H. Credit assigned CMAC and its application to online earning robust controllers[J].IEEE Trans. on Systams, Man and Cybernetics, 2003, 33(2): 202-213.

[6]LIN C S, CHIANG C T.Learning convergence of CMAC technique [J].LIEEE Trans.Neural Networks,1997,8(6):1281-1292.

[7]張偉,朱大奇,孔敏,等.基于改進(jìn)的CMAC神經(jīng)網(wǎng)絡(luò)與PID并行控制的研究[J].計(jì)算機(jī)測(cè)量與控制,2005,13(12):1359-1360.

篇4

關(guān)鍵詞: 變壓器 局部放電 BP算法 遺傳算法 模式識(shí)別

1.引言

隨著電力系統(tǒng)的發(fā)展和電壓等級(jí)、容量的不斷提高,局部放電已經(jīng)成為電力變壓器絕緣劣化的重要原因,因而局部放電的檢測(cè)也就成為變壓器絕緣狀況監(jiān)測(cè)的重要手段[1]。變壓器絕緣體系中的放電類型很多,不同的放電類型對(duì)絕緣的破壞作用有很大差異,因此有必要對(duì)各種放電類型加以區(qū)分,從而能夠更好地進(jìn)行變壓器故障定位和故障處理。

人工神經(jīng)網(wǎng)絡(luò)自20世紀(jì)90年代開(kāi)始就用于放電類型的模式識(shí)別,由于神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)類似于人類大腦的神經(jīng)元,具有自學(xué)習(xí)的能力。因此在很多應(yīng)用中取得了比較好的效果,但是它也存在局限性。由于利用梯度下降法全局尋優(yōu),因此網(wǎng)絡(luò)收斂的速度很慢,而且常常會(huì)陷入局部極小點(diǎn)。

本文嘗試用基于遺傳算法的BP網(wǎng)絡(luò)實(shí)現(xiàn)放電類型的模式識(shí)別,用遺傳算法來(lái)實(shí)現(xiàn)全局優(yōu)化以克服BP神經(jīng)網(wǎng)絡(luò)的局限性[2],提高模式識(shí)別的準(zhǔn)確度。最后,用所提出的基于遺傳算法BP與一般BP進(jìn)行比對(duì)。實(shí)驗(yàn)結(jié)果顯示前者明顯提高了模式識(shí)別的準(zhǔn)確性及快速性,這對(duì)于進(jìn)一步進(jìn)行變壓器故障定位和故障處理有重要意義。

2.試驗(yàn)原理及方法

首先我們引入純BP神經(jīng)網(wǎng)絡(luò)。BP網(wǎng)絡(luò)是一種單向傳播的多層前向網(wǎng)絡(luò),通常具有三層或三層以上的神經(jīng)網(wǎng)絡(luò),包括輸入層、中間層(隱層)和輸出層。以三層BP神經(jīng)網(wǎng)絡(luò)為例,設(shè)W為第j個(gè)輸入到第i個(gè)隱層節(jié)點(diǎn)的連接權(quán)值,θ為隱層節(jié)點(diǎn)的閾值,W為第k個(gè)輸出節(jié)點(diǎn)到第i個(gè)隱節(jié)點(diǎn)的連接權(quán)值,q為輸出節(jié)點(diǎn)的閾值,O為輸出層的輸出。三層BP網(wǎng)絡(luò)的結(jié)構(gòu)如圖1所示。

根據(jù)Kolmogorov定理,本文中選用的BP網(wǎng)絡(luò)采用N×2N+1×M的三層網(wǎng)絡(luò)結(jié)構(gòu)。其中,N表示輸入特征向量的分量數(shù),M表示輸出狀態(tài)類別總數(shù)。中間層神經(jīng)元的作用函數(shù)為Tansig,輸出層神經(jīng)元的作用函數(shù)為logsig。

然后用遺傳算法[3]調(diào)節(jié)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和閾值,并用優(yōu)化后的BP網(wǎng)絡(luò)進(jìn)行試驗(yàn),其步驟如下:

①初始化種群P,包括種群規(guī)模、交叉概率Pc及變異概率Pm,隨機(jī)化W、θ、W、q,采用實(shí)數(shù)編碼。

②計(jì)算每一條染色體的評(píng)價(jià)函數(shù),按蒙特卡羅法來(lái)選擇個(gè)體

p=f/f

其中,f為第i條染色體的適應(yīng)度,用誤差平方和來(lái)衡量,即

f=1/E(i)

E(i)=∑∑(O-T)

p為學(xué)習(xí)樣本數(shù),k為輸出層節(jié)點(diǎn)數(shù)。

③以概率Pc對(duì)個(gè)體進(jìn)行交叉操作,沒(méi)有選中的直接復(fù)制,產(chǎn)生新的種群。采用算數(shù)交叉,即:

x(i)=αx(i)+(1-α)x(i+1)

x(i+1)=αx(i+1)+(1-α)x(i)

其中,x為選中的染色體。

④以概率Pm對(duì)個(gè)體x(i)進(jìn)行變異操作,產(chǎn)生新的個(gè)體x'(i)。

⑤將新個(gè)體插入種群P中,重新計(jì)算種群中個(gè)體的適應(yīng)值。

⑥如果搜索到滿足要求的個(gè)體(達(dá)到誤差要求ε),轉(zhuǎn)第⑧步,否則轉(zhuǎn)第三步。

⑦找到最優(yōu)的個(gè)體后,將最優(yōu)染色體解碼即得到網(wǎng)絡(luò)的連接權(quán)系數(shù)和閾值。

⑧利用遺傳算法優(yōu)化好的網(wǎng)絡(luò)權(quán)值,用BP算法訓(xùn)練網(wǎng)絡(luò)直到精度ε。

最后將BP網(wǎng)絡(luò)所得結(jié)果和基于GA的BP網(wǎng)絡(luò)所得結(jié)果對(duì)比分析。

3.實(shí)驗(yàn)及結(jié)果分析

變壓器油紙絕緣結(jié)構(gòu)中的四種主要放電類型,分別是懸浮放電、沿面放電、內(nèi)部放電和油中針板放電。首先采用變壓器超高頻測(cè)量系統(tǒng)在不同的電壓等級(jí)、不同的電極尺寸、不同的中心頻率對(duì)這四種放電類型的數(shù)據(jù)進(jìn)行了采集。

將采集到的數(shù)據(jù)送入計(jì)算機(jī)進(jìn)行處理,生成局部放電的二維譜圖并從中提取包括偏斜度Sk、突出度Ku、放電不對(duì)稱度Q、相位不對(duì)稱度Φ、互相關(guān)因子cc和相位中值μ等統(tǒng)計(jì)算子,以此作為放電的特征量來(lái)區(qū)分不同類型的放電[4]。由于變壓器局部放電超高頻檢測(cè)系統(tǒng)所提取的特征量的數(shù)量比較多,太多的特征量會(huì)增加樣本學(xué)習(xí)過(guò)程中的計(jì)算量,提高模型的復(fù)雜程度,結(jié)合經(jīng)驗(yàn),最終選擇了平均放電譜圖的{Q、cc、Sk+、Sk-、Ku+、Ku-}作為輸入向量,來(lái)進(jìn)行局部放電的模式識(shí)別[5]。

隨機(jī)抽取四種放電類型的樣本數(shù)據(jù)一共200組,每種模式50組,來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)。為了驗(yàn)證方法的有效性,又提取了每種模式30組數(shù)據(jù)對(duì)訓(xùn)練好的網(wǎng)絡(luò)進(jìn)行測(cè)試。

用這些訓(xùn)練數(shù)據(jù)對(duì)一般BP進(jìn)行訓(xùn)練,一般21步后達(dá)到目標(biāo)值0.001,訓(xùn)練性能為0.00029,運(yùn)行時(shí)間為3.216000s。對(duì)于基于遺傳算法的BP網(wǎng)絡(luò),選取初始種群為P=30,GA訓(xùn)練目標(biāo)ε=0.4,遺傳算法在經(jīng)過(guò)大約200代的計(jì)算時(shí),達(dá)到權(quán)值和閾值的最優(yōu),且BP算法經(jīng)過(guò)8步的運(yùn)算,即達(dá)到目標(biāo)值0.001,訓(xùn)練性能為0.00016,運(yùn)行時(shí)間0.605000s??梢?jiàn)基于GA的BP網(wǎng)絡(luò)在運(yùn)算速度上要優(yōu)于一般BP算法。

用BP神經(jīng)網(wǎng)絡(luò)和GA-BP算法的模式識(shí)別結(jié)果比較如表1。由統(tǒng)計(jì)結(jié)果可以看出一般BP算法也可以對(duì)放電的類型進(jìn)行分類,但是由于BP算法隨機(jī)選取初始權(quán)值的范圍較小,這樣就易陷入局部最小而使訓(xùn)練失敗,成功率比較低。而用基于GA的BP算法時(shí),對(duì)放電類型的模式識(shí)別率明顯高于純BP算法。從實(shí)驗(yàn)所得結(jié)果及統(tǒng)計(jì)分析可知基于GA的BP網(wǎng)絡(luò)運(yùn)算速度及準(zhǔn)確率都要優(yōu)于純BP算法。

綜上所述,BP算法進(jìn)行分類時(shí),由于算法本身局限性,初始權(quán)值和閾值隨機(jī)選取且選取的空間小,導(dǎo)致容易陷入局部極小而使訓(xùn)練失敗?;谶z傳算法的BP網(wǎng)絡(luò)先用GA算法在全局空間上搜索權(quán)值和閾值的最優(yōu)點(diǎn),然后用BP算法在最優(yōu)點(diǎn)附近尋優(yōu),達(dá)到最優(yōu)值。這樣就有效地克服了一般BP算法容易陷入局部最優(yōu)的缺點(diǎn)。另外,基于遺傳算法的BP網(wǎng)絡(luò)的訓(xùn)練速度也明顯優(yōu)于一般BP算法的訓(xùn)練速度。

4.結(jié)語(yǔ)

本文所提出的基于遺傳算法的BP網(wǎng)絡(luò)可以對(duì)變壓器超高頻局部放電模式識(shí)別,并克服了一般BP算法的不足。實(shí)驗(yàn)結(jié)果表明BP算法易陷入局部極小的缺點(diǎn),而用遺傳算法先對(duì)權(quán)值進(jìn)行整個(gè)解空間的優(yōu)化,縮小優(yōu)化空間,然后由BP網(wǎng)絡(luò)進(jìn)行搜索,可以克服BP算法全局搜索能力不足,易陷入局部極小的問(wèn)題,同時(shí)也提高了BP算法的速度。

參考文獻(xiàn):

[1]王國(guó)利.油浸式電力變壓器局部放電特高頻檢測(cè)技術(shù)研究.西安:西安交通大學(xué),2003.

[2]鄭力新.遺傳算法在控制系統(tǒng)工程應(yīng)用的研究.天津大學(xué),2002.

[3]雷英杰等.MATLAB遺傳算法工具箱及應(yīng)用.西安電子科技大學(xué)出版社.

[4]王國(guó)利,鄭毅,沈嵩等.AGA-BP神經(jīng)網(wǎng)絡(luò)用于變壓器超高頻局部放電模式識(shí)別.電工電能新技術(shù),2003,22(2):629.

篇5

早期關(guān)于人工神經(jīng)網(wǎng)絡(luò)在水文水資源系統(tǒng)中的應(yīng)用與研究的進(jìn)展情況,文獻(xiàn)[3]有較為詳細(xì)、系統(tǒng)的介紹.其中,關(guān)于洪水預(yù)報(bào)的研究成果,大多處于如何應(yīng)用人工神經(jīng)網(wǎng)絡(luò)算法進(jìn)行洪水預(yù)報(bào)的階段,即如何將洪水預(yù)報(bào)的實(shí)際問(wèn)題概化成人工神經(jīng)網(wǎng)絡(luò)可以識(shí)別的算法模型.近期的研究成果表明,研究的問(wèn)題更加深入,如LINDASEE(1999)[4]將洪水過(guò)程分為上升段、洪峰段和下降段三部分,分別建立相應(yīng)的預(yù)報(bào)模型,充分考慮了不同階段的洪水過(guò)程其演進(jìn)規(guī)律的差異.Fi-JohnChang(1999)[5]引入洪峰預(yù)報(bào)誤差和峰現(xiàn)誤差作為洪水預(yù)報(bào)精度的評(píng)價(jià)標(biāo)準(zhǔn),對(duì)于洪峰預(yù)報(bào)精度給予了高度的重視.能否保證較高的洪水峰值的預(yù)報(bào)精度,是將人工神經(jīng)網(wǎng)絡(luò)的實(shí)時(shí)洪水預(yù)報(bào)技術(shù)實(shí)際應(yīng)用的關(guān)鍵性問(wèn)題.

本文在總結(jié)大量實(shí)踐經(jīng)驗(yàn)的基礎(chǔ)上[6,7],提出了一種能夠進(jìn)行峰值識(shí)別的改進(jìn)BP算法(ErrorBackPropagationwithPeakRecognizer,簡(jiǎn)稱BPPR).該算法在修改網(wǎng)絡(luò)權(quán)重時(shí)偏重大值,即大值誤差對(duì)權(quán)重的修改起主要作用.這種改進(jìn)的BP算法使人工神經(jīng)網(wǎng)絡(luò)洪水預(yù)報(bào)模型對(duì)洪峰峰值的預(yù)報(bào)精度顯著提高,從而保證了洪峰預(yù)報(bào)的可靠性.

1人工神經(jīng)網(wǎng)絡(luò)的峰值識(shí)別理論

洪水預(yù)報(bào)主要是為防汛服務(wù)的,通常對(duì)洪峰時(shí)段的水位(或流量)的準(zhǔn)確預(yù)報(bào)尤為重要.但是,對(duì)于經(jīng)典的BP算法,網(wǎng)絡(luò)訓(xùn)練是根據(jù)全局誤差修改網(wǎng)絡(luò)權(quán)重的,這種權(quán)重修改方法很難控制洪峰水位(或流量)的訓(xùn)練精度,訓(xùn)練后的網(wǎng)絡(luò)權(quán)重所貯存的信息很可能更多地反映了樣本數(shù)量較大的中、低水位(或流量)的變化規(guī)律.所以,經(jīng)過(guò)訓(xùn)練的網(wǎng)絡(luò)對(duì)中、低水位(或流量)的預(yù)報(bào)精度相對(duì)較高,而對(duì)洪峰的預(yù)報(bào)精度往往低一些.如何提高人工神經(jīng)網(wǎng)絡(luò)模型對(duì)洪峰水位(或流量)的預(yù)報(bào)精度,是人工神經(jīng)網(wǎng)絡(luò)理論應(yīng)用于洪水預(yù)報(bào)的關(guān)鍵問(wèn)題之一.

本文是在結(jié)合實(shí)際課題廣泛研究的基礎(chǔ)上,提出了一種能夠提高網(wǎng)絡(luò)模型峰值識(shí)別精度的改進(jìn)BP算法.

1.1峰值識(shí)別的基本思想經(jīng)典BP算法的訓(xùn)練過(guò)程由信號(hào)的正向傳播與誤差的逆向傳播兩個(gè)過(guò)程組成.其中,誤差的逆向傳播是基于網(wǎng)絡(luò)全局誤差并按“誤差梯度下降”的原則對(duì)網(wǎng)絡(luò)權(quán)重進(jìn)行修改.如果對(duì)原來(lái)基于“全局誤差”的權(quán)重修改原則進(jìn)行合理調(diào)整,使權(quán)重的修改傾向于減小輸出值較大樣本的網(wǎng)絡(luò)映射誤差,這是峰值識(shí)別原理的基本思想,其實(shí)質(zhì)是在誤差逆向傳播的網(wǎng)絡(luò)權(quán)重修改過(guò)程中,遵循了側(cè)重于“峰值樣本誤差”的權(quán)重修改原則.

1.2峰值識(shí)別的算法峰值識(shí)別理論的實(shí)現(xiàn)方法,是在引入動(dòng)量項(xiàng)和采用學(xué)習(xí)率自適應(yīng)調(diào)整的改進(jìn)BP算法[4]的基礎(chǔ)上,對(duì)峰值樣本的網(wǎng)絡(luò)誤差引入合理的修正系數(shù),使網(wǎng)絡(luò)的權(quán)重向著使峰值訓(xùn)練誤差減小的方向修改.

首先,從經(jīng)典BP算法開(kāi)始.設(shè)有輸入為x1(t)、x2(t)、…、xn(t)的n維輸入,輸出為xL1(t)、xL2(t)、…、xLm(t)、的m維輸出和若干隱層組成的多輸入、多輸出人工神經(jīng)網(wǎng)絡(luò)模型.這里的t為樣本序列號(hào),這樣的樣本共有P對(duì).

第l層中第i個(gè)神經(jīng)元節(jié)點(diǎn)所接收到的上一層輸入總和為

式中:Nl為第l層神經(jīng)元節(jié)點(diǎn)總數(shù);w(l)ij為第l層i節(jié)點(diǎn)與第l-1層j節(jié)點(diǎn)之間的連接權(quán)重;θ(l)i為第l層i節(jié)點(diǎn)的閾值.

第l層中第i個(gè)神經(jīng)元節(jié)點(diǎn)的輸出為

x(l)i(t)=f(y(l)i(t))=1/1+exp(-σy(l)i(t))(1≤l≤L,1≤i≤Nl)(2)

式中:f()為轉(zhuǎn)移函數(shù),這里采用的是對(duì)數(shù)型的單極性Sigmoid函數(shù);σ為決定Sigmoid函數(shù)壓縮程度的系數(shù).該系數(shù)越大,曲線越陡;反之,曲線越緩.

則,當(dāng)訓(xùn)練次數(shù)為k時(shí),網(wǎng)絡(luò)輸出層及隱層的誤差信號(hào)可表示為

式中:d(L)i(t)為訓(xùn)練樣本的期望輸出.

那么,網(wǎng)絡(luò)權(quán)重的修改公式為

式中:η(k)為訓(xùn)練次數(shù)為k時(shí)的學(xué)習(xí)率;α為動(dòng)量項(xiàng)系數(shù).

以上為經(jīng)典BP算法的基本內(nèi)容.基于峰值識(shí)別的思想,實(shí)現(xiàn)網(wǎng)絡(luò)誤差修正傾向于輸出樣本的較大值,定義誤差修正系數(shù)ξ

ξi=di(L)(t)/d(L)max(t)(7)

式中:d(L)max(t)為訓(xùn)練樣本期望輸出的最大值.

為了進(jìn)一步提高神經(jīng)網(wǎng)絡(luò)模型的訓(xùn)練速度,改善網(wǎng)絡(luò)峰值識(shí)別的精度,可以在上述修正系數(shù)的基礎(chǔ)上,增設(shè)誤差修正放大系數(shù)μ.那么,加入誤差修正系數(shù)ξ及誤差修正放大系數(shù)μ后,當(dāng)訓(xùn)練次數(shù)為k時(shí),網(wǎng)絡(luò)輸出層誤差信號(hào)的向量表達(dá)式如下

應(yīng)用該算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練,能夠使峰值誤差修正占優(yōu),從而提高網(wǎng)絡(luò)對(duì)峰值的映度.

2應(yīng)用實(shí)例

2.1工程概況及基本模型珠江流域西江段的水系關(guān)系比較復(fù)雜,如圖1所示.從柳州站、遷江站、南寧站或貴港站預(yù)報(bào)梧州站洪水目前還是一個(gè)難題.結(jié)合現(xiàn)有的研究成果,介紹洪水預(yù)報(bào)峰值識(shí)別理論的有效性.選取珠江流域從對(duì)亭站、柳州站、遷江站、南寧站預(yù)報(bào)江口站洪水的江口站洪水預(yù)報(bào)模型,分別以BP算法與引入峰值識(shí)別理論的BPPR算法進(jìn)行網(wǎng)絡(luò)訓(xùn)練.以多年實(shí)測(cè)記錄數(shù)據(jù)為訓(xùn)練樣本,并采用下一年的記錄數(shù)據(jù)為測(cè)試樣本,即以1988、1992~1994、1996~1998各年的水位(流量)資料為訓(xùn)練樣本,以1999年水位(流量)資料作為測(cè)試樣本.

圖1珠江流域西江段主要水情站及洪水平均傳播時(shí)間示意

*傳播時(shí)間單位:h

傳統(tǒng)相應(yīng)水位的洪水預(yù)報(bào)方法是根據(jù)天然河道洪水波的運(yùn)動(dòng)原理,分析洪水波在運(yùn)動(dòng)過(guò)程中,波的任一相位自上游水情站傳播到下游水情站的相應(yīng)水位及其傳播時(shí)間的變化規(guī)律,尋找其經(jīng)驗(yàn)關(guān)系,以此進(jìn)行洪水預(yù)報(bào)[8].人工神經(jīng)網(wǎng)絡(luò)對(duì)信息的分布存儲(chǔ)、并行處理以及自學(xué)習(xí)的能力,決定了它具有對(duì)模糊信息和復(fù)雜非線性關(guān)系的識(shí)別與處理能力.網(wǎng)絡(luò)的訓(xùn)練學(xué)習(xí)過(guò)程,就是網(wǎng)絡(luò)認(rèn)知事物內(nèi)在規(guī)律的過(guò)程.構(gòu)造基于人工神經(jīng)網(wǎng)絡(luò)洪水預(yù)報(bào)模型的首要問(wèn)題,是如何將洪水過(guò)程合理地概化成人工神經(jīng)網(wǎng)絡(luò)可以映射的輸入、輸出關(guān)系.

以上游干流和主要支流水情站的水位(流量)資料作為網(wǎng)絡(luò)模型的輸入,以下游水情站所形成的相應(yīng)水位(流量)作為網(wǎng)絡(luò)模型的輸出;同時(shí),將下游同時(shí)水位(流量)作為網(wǎng)絡(luò)模型的輸入,以模擬下游初始水位的影響.洪水自上游水文站至下游水文站的傳播時(shí)間就是網(wǎng)絡(luò)對(duì)洪水的預(yù)見(jiàn)期.

本題中所建立的江口站洪水預(yù)報(bào)模型中,作為江口站的上游水文站共有對(duì)亭、柳州、遷江和南寧等站,其中的遷江站處于干流河道.值得一提的是,對(duì)亭站方向的來(lái)水屬山區(qū)洪水,特點(diǎn)為量小、峰高、歷時(shí)短,洪水過(guò)程線陡起陡落,其結(jié)果是水位的變化非常大,而實(shí)際的流量又很小,這無(wú)疑會(huì)影響水位預(yù)報(bào)模型的識(shí)別精度.為了減少這種小支流的干擾,在建立水位預(yù)報(bào)模型時(shí),未將對(duì)亭站的水位作為輸入項(xiàng).在建立流量預(yù)報(bào)模型時(shí),為了保證水量的總體平衡,仍將對(duì)亭站的流量作為一項(xiàng)輸入.

以3h為一個(gè)間隔時(shí)段進(jìn)行洪水?dāng)?shù)據(jù)采集來(lái)組織樣本,以干流遷江站t時(shí)刻水位(流量)、對(duì)亭站(t-3)時(shí)刻流量、柳州站(t-3)時(shí)刻水位(流量)、南寧站(t-8)時(shí)刻水位(流量)和江口站t時(shí)刻水位(流量)作為網(wǎng)絡(luò)的輸入,江口站(t+T)時(shí)刻的水位(流量)為網(wǎng)絡(luò)的輸出.其中,T為網(wǎng)絡(luò)的預(yù)見(jiàn)期,即洪水自上游遷江站傳播到江口站的時(shí)間,亦為峰現(xiàn)時(shí)間.在組織樣本時(shí),采用洪水在各站間的實(shí)測(cè)傳播時(shí)間,但網(wǎng)絡(luò)預(yù)報(bào)的預(yù)見(jiàn)期為平均預(yù)見(jiàn)期,即T=9時(shí)段,約28h(洪水在各站間的傳播情況見(jiàn)圖1).圖2為江口站洪水預(yù)報(bào)模型的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)圖.

圖2江口站洪水預(yù)報(bào)模型的網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)

在網(wǎng)絡(luò)結(jié)構(gòu)設(shè)計(jì)中,輸入與輸出節(jié)點(diǎn)數(shù)由實(shí)際問(wèn)題而定,而隱層數(shù)及隱層節(jié)點(diǎn)數(shù)是網(wǎng)絡(luò)設(shè)計(jì)中的關(guān)鍵問(wèn)題.在實(shí)際問(wèn)題中,常常無(wú)法估計(jì)問(wèn)題的真實(shí)復(fù)雜程度,通常采用雙隱層.關(guān)于隱層節(jié)點(diǎn)數(shù)目的確定,直接關(guān)系到能否成功地解決問(wèn)題.實(shí)際上,隱層節(jié)點(diǎn)數(shù)決定于訓(xùn)練樣本的多少、樣本噪音的大小以及所面對(duì)問(wèn)題的復(fù)雜程度.若隱層節(jié)點(diǎn)數(shù)太少,網(wǎng)絡(luò)映射能力不足;若隱層節(jié)點(diǎn)數(shù)太多,不僅增加網(wǎng)絡(luò)的訓(xùn)練時(shí)間,還會(huì)引發(fā)所謂“過(guò)度吻合”問(wèn)題,即雖然增加了訓(xùn)練精度,但是由于網(wǎng)絡(luò)過(guò)多地獲得了樣本的個(gè)性特征,而掩蓋了樣本的共性特征,從而造成預(yù)報(bào)精度的下降.目前的研究成果,還不能在理論上提供一套科學(xué)的推導(dǎo)方法,試算法是可靠的常規(guī)方法.本題經(jīng)多次試算,合理的拓?fù)浣Y(jié)構(gòu)為:水位預(yù)報(bào)模型(4-40-20-1),流量預(yù)報(bào)模型(5-40-20-1).

圖3水位預(yù)報(bào)模型中BP算法與BPPR算法映結(jié)果比較

網(wǎng)絡(luò)模型的初始權(quán)重在(-1,1)之間隨機(jī)產(chǎn)生,動(dòng)量項(xiàng)系數(shù)α取0.9.初始學(xué)習(xí)率η0在基本BP算法中取0.001,在BPPR算法中取0.0005,初始學(xué)習(xí)率往往會(huì)因不同網(wǎng)絡(luò)模型而不同.BPPR算法的峰值誤差修正放大系數(shù)μ取2.0.水位模型的訓(xùn)練停止條件為平均映射誤差l≤0.20m,流量模型的訓(xùn)練停止條件為平均映射誤差q≤500m3/s.

2.2計(jì)算成果分別采取BP算法與BPPR算法進(jìn)行網(wǎng)絡(luò)模型的訓(xùn)練,兩種算法對(duì)于峰值水位(流量)的映射情況見(jiàn)圖3、圖4.以完成訓(xùn)練的網(wǎng)絡(luò)模型對(duì)1999年的洪水情況進(jìn)行測(cè)試預(yù)報(bào),預(yù)報(bào)結(jié)果見(jiàn)圖5、圖6.

圖4流量預(yù)報(bào)模型中BP算法與BPPR算法映射結(jié)果比較

2.3成果分析圖3、圖4反映了完成訓(xùn)練的網(wǎng)絡(luò)模型對(duì)訓(xùn)練樣本中洪峰水位與流量的映射情況,從圖中可以看到,BP算法對(duì)于洪水演進(jìn)規(guī)律具有很高的映度,引入峰值識(shí)別理論的BPPR算法能夠進(jìn)一步提高網(wǎng)絡(luò)對(duì)洪水峰值的映度,這種作用對(duì)于較高洪峰識(shí)別效果更為明顯.

圖51999年水位預(yù)報(bào)結(jié)果比較

圖61999年流量預(yù)報(bào)結(jié)果比較

圖5、圖6為網(wǎng)絡(luò)模型對(duì)1999年洪水主洪峰的預(yù)報(bào)情況.在水位預(yù)報(bào)模型中,BP算法對(duì)洪峰的預(yù)報(bào)誤差為0.13m(低于實(shí)測(cè)值);BPPR算法的預(yù)報(bào)誤差為-0.05m(高于實(shí)測(cè)值).在流量預(yù)報(bào)模型中,BP算法對(duì)洪峰的預(yù)報(bào)誤差為291m3/s;BPPR算法的預(yù)報(bào)誤差為-83m3/s.

這里所采用的峰值誤差修正放大系數(shù)μ實(shí)質(zhì)上與樣本集中大值樣本所占的比例有關(guān),大值樣本所占比例越小,μ的取值越大;反之,則小.在實(shí)際操作中,ξμ是作為一個(gè)參數(shù)進(jìn)行權(quán)重調(diào)節(jié)計(jì)算的,所以μ的取值又受樣本集中最大值和最小值間比例關(guān)系的限制.

如果放大系數(shù)選取過(guò)大,網(wǎng)絡(luò)訓(xùn)練容易失穩(wěn),造成訓(xùn)練誤差增大;反之,網(wǎng)絡(luò)權(quán)重的修改難以體現(xiàn)洪峰樣本的貢獻(xiàn).具體取值由實(shí)際問(wèn)題而定,在珠江流域的洪水預(yù)報(bào)模型中,放大系數(shù)的取值范圍為1.5~2.5.

從網(wǎng)絡(luò)模型的訓(xùn)練識(shí)別和測(cè)試預(yù)報(bào)兩方面的研究成果來(lái)看,人工神經(jīng)網(wǎng)絡(luò)對(duì)于洪水演進(jìn)規(guī)律的識(shí)別具有較高的精度,能夠模擬洪水的動(dòng)態(tài)過(guò)程,其中,引入峰值識(shí)別理論的BPPR算法有利于提高模型對(duì)峰值的映射與預(yù)報(bào)精度,效果明顯.這些改進(jìn)效果對(duì)于水文水資源預(yù)報(bào)中,可能效果并不十分顯著,但在防汛中,水位預(yù)報(bào)對(duì)防洪決策至關(guān)重要,往往十幾厘米的誤差,直接影響到防洪方案的決策.因此,峰值識(shí)別理論對(duì)基于BP算法的洪水預(yù)報(bào)模型來(lái)講,具有重要意義.

3結(jié)束語(yǔ)

基于人工神經(jīng)網(wǎng)絡(luò)的洪水預(yù)報(bào)方法作為防洪減災(zāi)領(lǐng)域一種新的研究途徑,將智能化思想引入到對(duì)洪水過(guò)程的計(jì)算模擬,更能反映洪水復(fù)雜非線性的動(dòng)態(tài)演進(jìn)規(guī)律.研究結(jié)果表明,人工神經(jīng)網(wǎng)絡(luò)算法能夠很好地映射洪水的演進(jìn)規(guī)律,做到對(duì)洪水實(shí)時(shí)的監(jiān)測(cè)與預(yù)報(bào),預(yù)報(bào)精度較高.

篇6

關(guān)鍵詞:污水處理;多傳感器融合;過(guò)程控制;

中圖法分類號(hào):TP216 文獻(xiàn)標(biāo)識(shí)碼:A

Abstract Instrumentation, control and automation (ICA) technology after all these years of development, now it has been approved, and determined it in waste-water treatment field of important position, it has obvious effect on reducing waste-water treatment plant operating costs,and improving processing efficiency. And ICA technology has the close relation to the sensor technology, especially multisensory fusion technology in the application and development of sewage treatment field. This paper briefly introduced the multisensory data fusion and its method, then introduces some waste-water treatment process control system which based on those methods, and finally the cooperation development trend of the process control technologies with multisensory fusion technologies in the future were discussed.

Key words waste-water treatment; multisensory fusion; process-control system

0引言

儀表、控制和自動(dòng)化(Instrumentation、control and automation ICA)并不是污水處理的一個(gè)新領(lǐng)域[ 1 ],雖然這項(xiàng)技術(shù)在國(guó)際水協(xié)會(huì)(IWA)獲得認(rèn)可將近30年,但仍不是傳統(tǒng)市政工程和環(huán)境工程課程的一部分。隨著科學(xué)技術(shù)的發(fā)展,現(xiàn)以證明,應(yīng)用ICA技術(shù),使具有營(yíng)養(yǎng)物質(zhì)去除功能的污水處理廠其能力可以提高10%—30%。因此隨著對(duì)污水處理系統(tǒng)內(nèi)部的不斷認(rèn)識(shí)和理解,對(duì)降低污水處理成本的迫切要求,未來(lái)10—20年應(yīng)用ICA技術(shù)的投資將占整個(gè)污水處理系統(tǒng)投資的20%—50%。

污水處理廠的典型特點(diǎn)就是水質(zhì),水量隨時(shí)間變化較大,水質(zhì),水量的擾動(dòng)是污水廠面臨的主要困難。在傳感器技術(shù)應(yīng)用于污水廠之前,污水處理廠不采用任何形式的過(guò)程控制,以犧牲池容和動(dòng)力費(fèi)用為代價(jià)得到較好的出水水質(zhì)。而隨著污水排放標(biāo)準(zhǔn)的進(jìn)一步提高,為了保證出水水質(zhì)和降低能耗,必須較為準(zhǔn)確的了解進(jìn)水水質(zhì)和出水水質(zhì)的情況,為污水處理的過(guò)程控制提供原始數(shù)據(jù)。這就需要傳感器技術(shù)特別是多傳感器融合技術(shù)的支持。

筆者以污水處理系統(tǒng)為基礎(chǔ),對(duì)基于多傳感器融合技術(shù)的污水處理過(guò)程控制進(jìn)行介紹,并展望未來(lái)發(fā)展趨勢(shì),旨在為后來(lái)者提供微些參考。

1多傳感器融合及其方法

多傳感器融合就是充分利用多傳感器的資源,將多個(gè)傳感器在時(shí)間和空間上的互補(bǔ)或冗余按照某種算法或準(zhǔn)則進(jìn)行綜合,提高了判斷和估計(jì)的精確性,可靠性以及在對(duì)抗環(huán)境下得生存性[2]。其數(shù)據(jù)融合示意圖如圖1所示。

在污水處理過(guò)程控制中多傳感器融合就是把多個(gè)傳感器的檢測(cè)量進(jìn)行綜合,提取出準(zhǔn)確有用的信息,為實(shí)現(xiàn)后續(xù)的控制提供依據(jù),提高系統(tǒng)的性能。數(shù)據(jù)融合的過(guò)程如如圖2所示。

多傳感器融合方法有很多,大致可分為兩大類:經(jīng)典融合算法和現(xiàn)代融合算法。經(jīng)典融合算法包括卡爾曼濾波,貝葉斯估計(jì)法,級(jí)大似然估計(jì)法和D-S證據(jù)理論法等?,F(xiàn)代融合算法常用的有聚類分析法,模糊邏輯法,神經(jīng)網(wǎng)絡(luò)法等。

傳感器技術(shù)的發(fā)展是過(guò)程控制技術(shù)在污水處理領(lǐng)域得以廣泛應(yīng)用的決定因素,多傳感器融合(Multisensor Data fusion,MSDF)技術(shù)又為污水處理注入新的活力。目前模糊控制的數(shù)據(jù)融合,神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)融合正在引入污水處理過(guò)程控制中并取得了一定的效果。未來(lái)越來(lái)越多的數(shù)據(jù)融合技術(shù)將會(huì)引入污水的過(guò)程控制中促進(jìn)其發(fā)展。

2基于多傳感器的BP神經(jīng)網(wǎng)絡(luò)在污水處理中的應(yīng)用

如圖3所示為利用神經(jīng)網(wǎng)絡(luò)的多傳感器融合把多個(gè)傳感器的檢測(cè)量進(jìn)行綜合,提取出準(zhǔn)確有用的信息,為實(shí)現(xiàn)PID控制提供依據(jù),提高系統(tǒng)的性能[ 3 ]。

BP神經(jīng)網(wǎng)絡(luò)具有逼進(jìn)任意非線性函數(shù)的能力,且結(jié)構(gòu)和學(xué)習(xí)的算法簡(jiǎn)單明確[ 4 ]。通過(guò)神經(jīng)網(wǎng)絡(luò)自身的學(xué)習(xí),可以找到某一最優(yōu)控制律下得P、I、D參數(shù)?;贐P神經(jīng)網(wǎng)絡(luò)的PID控制系統(tǒng)結(jié)構(gòu)如圖4所示。

輸出層神經(jīng)元的輸出狀態(tài)對(duì)應(yīng)于PID控制器的三個(gè)可調(diào)參數(shù)KP、KI、KD,通過(guò)神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)和加權(quán)系數(shù)的跳蚤,可使其穩(wěn)定狀態(tài)對(duì)應(yīng)于某種最優(yōu)控制律下得PID控制參數(shù)。

3基于多傳感器的模糊神經(jīng)網(wǎng)絡(luò)在污水處理的應(yīng)用

模糊控制( Fuzzy Control)能將操作者或?qū)<业目刂平?jīng)驗(yàn)和知識(shí)表示成語(yǔ)言變量描述的控制規(guī)則,然后用這些規(guī)則去控制系統(tǒng)[ 5]。因此,模糊控制特別適用于污水處理這種數(shù)學(xué)模型未知的、復(fù)雜的非線性系統(tǒng)的控制。正是由于模糊控制可以克服預(yù)測(cè)動(dòng)態(tài)變化的混沌時(shí)間系列,近年來(lái)它己成為污水處理系統(tǒng)的研究熱點(diǎn)[ 6-8]。如下圖所示為一個(gè)基于多傳感器的模糊神經(jīng)網(wǎng)絡(luò)污水處理過(guò)程示意圖,它利用模糊神經(jīng)網(wǎng)絡(luò)建模工具,對(duì)多傳感器的過(guò)程動(dòng)態(tài)模型進(jìn)行分析,提出通過(guò)神經(jīng)多軟傳感器等對(duì)系統(tǒng)進(jìn)行優(yōu)化,建立基于多傳感器的模糊神經(jīng)網(wǎng)絡(luò)污水處理系統(tǒng)模型。

4結(jié)束語(yǔ)

除了以上介紹的在幾種多傳感器融合方法與污水處理過(guò)程控制相結(jié)合的系統(tǒng)以外,還有基于D-S證據(jù)理論的多傳感器融合等[9] [10]在此就不一一介紹了??傊磥?lái)污水處理走向自動(dòng)化,智能化是勢(shì)不可擋的趨勢(shì),而基于多傳感器融合技術(shù)的過(guò)程控制更是具有廣闊的發(fā)展前景!

參考文獻(xiàn):

[1]Truett GarrettM.Instrumentation,control and automation process in the United States in the last 24 years [J]. Water Sci Techno 1998 , 37(12): 21- 25 .

【2】王耀南, 李樹(shù)濤. 多傳感器信息融合及其應(yīng)用綜述 [ J ]. 控制與決策, 2001 , 16 ( 5) : 518- 521

【3】黎果, 李志蜀, 李奇, 等. 基于神經(jīng)網(wǎng)絡(luò)的多傳感器融合技術(shù)研究 [ J] . 微計(jì)算機(jī)信息, 2009 , 25( 16 ): 145- 147.

【4】閻平凡, 張長(zhǎng)水. 人工神經(jīng)網(wǎng)絡(luò)與模擬進(jìn)化計(jì)算 [M ] . 北京: 清華大學(xué)出版社, 2000: 10- 32

【5】諸靜. 模糊控制理論與系統(tǒng)原理 [M ]. 北京:機(jī)械工業(yè)出版社, 2005 . 8 .

【6】高大文, 彭永臻,王淑螢, 等. 污水處理智能控制的研究、 應(yīng)用與發(fā)展 [ J]. 中國(guó)給水排水, 2002 , 18 : 35- 39

【7】芮新芳, 衛(wèi) 國(guó). 自適應(yīng)模糊神經(jīng)網(wǎng)絡(luò)在污水處理中的應(yīng)用 [ J] .現(xiàn)代電子技術(shù), 2002 , 143( 12): 58 -61

【8】翁建華, 陳艷,張立國(guó), 等. 基于模糊神經(jīng)網(wǎng)絡(luò)的多傳感器信息融合技術(shù)及應(yīng)用 [ J]. 傳感技術(shù)學(xué)報(bào)2003 , 12( 4): 501- 503

【9】倪國(guó)強(qiáng),梁好臣,基于Dempster-Shafer證據(jù)理論的數(shù)據(jù)融合技術(shù)研究,北京理工大學(xué)學(xué)報(bào),2001,21(5):603-609,

篇7

1.1光譜噪聲去除由于實(shí)驗(yàn)條件如光譜儀硬件和環(huán)境光等因素影響,采集的原始光譜數(shù)據(jù)會(huì)包含噪聲,需要采用光譜預(yù)處理的方法把這些噪聲去除,同時(shí)保留有用光譜信息。采用SG平滑算法,經(jīng)驗(yàn)?zāi)B(tài)分解(empiricalmodedecomposition,EMD)算法和小波分析(wavelettransform,WT)去噪算法等對(duì)光譜進(jìn)行處理,并對(duì)三種去噪算法進(jìn)行比較。

1.2潛在變量(LatentVariable,LV)在利用PLS方法建立模型時(shí),非常關(guān)鍵的一點(diǎn)是所選取的對(duì)于建模最優(yōu)的LV個(gè)數(shù),LV和主成分分析中主成分類似,第一個(gè)LV貢獻(xiàn)率最大,第二個(gè)次之,以此類推。如果選取的LV個(gè)數(shù)偏少,則無(wú)法全面代表樣本的光譜特性,造成模型精度下降,影響模型的預(yù)測(cè)效果。而如果選取的LV個(gè)數(shù)過(guò)多,則會(huì)帶入模型的噪聲,干擾建模效果。

1.3建模分析方法用三種建模方法,分別是偏最小二乘回歸(partialleastsquares,PLS),BP神經(jīng)網(wǎng)絡(luò)(backpropagationneuralnet-work,BPNN)和偏最小二乘支持向量機(jī)(leastsquaresupportvectormachine,LS-SVM)。采用PLS建模方法時(shí),基于全譜作為模型輸入,使用BP神經(jīng)網(wǎng)絡(luò)和LS-SVM建模時(shí),把PLS回歸模型得到的LV作為輸入,進(jìn)行對(duì)比分析。神經(jīng)網(wǎng)絡(luò)由一個(gè)輸入層、一個(gè)或多個(gè)隱含層和一個(gè)輸出層構(gòu)成。BP神經(jīng)網(wǎng)絡(luò)是一種非線性的建模方法,廣泛應(yīng)用于光譜建模分析中[12]。LS-SVM是在經(jīng)典支持向量機(jī)算法基礎(chǔ)上作了進(jìn)一步改進(jìn),能夠同時(shí)進(jìn)行線性和非線性建模分析,是解決多元建模的一種快速方法。

1.4定量模型評(píng)價(jià)標(biāo)準(zhǔn)定量模型的評(píng)價(jià)指標(biāo)主要有決定系數(shù)和均方根誤差(rootmeansquareerror,RMSE)。建模集決定系數(shù)用R2表示,預(yù)測(cè)集決定系數(shù)用r2表示。決定系數(shù)越接近于1,表示模型相關(guān)性越好,預(yù)測(cè)效果更好。一般來(lái)說(shuō),RMSE越小說(shuō)明模型的誤差越小,模型精度越高。建模集均方根誤差用RMSEC表示,預(yù)測(cè)集均方根誤差RMSEP表示。

2結(jié)果和討論

2.1UV/Vis光譜圖及COD濃度的統(tǒng)計(jì)分析圖1為甲魚(yú)養(yǎng)殖水樣本的UV/Vis原始光譜曲線,從圖中可以看出各個(gè)水樣的光譜曲線的趨勢(shì)相類似,沒(méi)有呈現(xiàn)顯著性差異,由于水體中硝酸鹽、有機(jī)酸、腐殖質(zhì)等物質(zhì)對(duì)紫外光的強(qiáng)烈吸收,在波段200~260nm區(qū)域的吸收度明顯高于其他區(qū)域。試驗(yàn)水體樣本COD值統(tǒng)計(jì)結(jié)果如表1所示,模型的建模集和預(yù)測(cè)集COD值覆蓋了較大范圍,有助于建立準(zhǔn)確、穩(wěn)定和具有代表性的模型。

2.2基于全波長(zhǎng)的PLS模型為了更好的分析三種消噪算法檢測(cè)水體COD含量的性能,將對(duì)不同預(yù)處理方法獲取的評(píng)價(jià)指標(biāo)相比較,基于全譜的PLS模型的計(jì)算結(jié)果如表2所示。由表2可知,小波算法去除噪聲后的光譜PLS模型取得了最佳結(jié)果,建模集的R2為0.79,RMSEC為15.89mg•L-1,預(yù)測(cè)集的r2為0.78,RMSEP為15.92mg•L-1。SG平滑和EMD算法雖然部分去除了噪聲,但建模效果并沒(méi)有得到相應(yīng)提高。故后面建模分析在WT分析基礎(chǔ)上進(jìn)行。

2.3LV一般選取最優(yōu)LV個(gè)數(shù)的標(biāo)準(zhǔn)觀察RMSEP值隨LV個(gè)數(shù)變化情況,如圖3所示,當(dāng)LV個(gè)數(shù)較少時(shí),RMSEP值較大,隨著LV個(gè)數(shù)的增加,RMSEP隨之減小,當(dāng)LV個(gè)數(shù)增加到6時(shí),RMSEP的值保持穩(wěn)定,LV個(gè)數(shù)繼續(xù)增加,RM-SEP值也沒(méi)有隨著增加。取前6個(gè)LVs作為偏最小二乘支持向量積的輸入建立模型。從貢獻(xiàn)率角度解釋,PLS建模得到的6個(gè)LVs分別作為L(zhǎng)S-SVM的輸入,之所以取前6個(gè)是因?yàn)檫@樣幾乎可以100%表達(dá)原始光譜有用信息,如表3所示,且降低了模型復(fù)雜度,提高模型運(yùn)行速度和精度。

2.4BP神經(jīng)網(wǎng)絡(luò)模型根據(jù)前文得到的結(jié)果,將表3中選出的LVs作為BP神經(jīng)網(wǎng)絡(luò)模型輸入,BP神經(jīng)網(wǎng)絡(luò)模型的計(jì)算結(jié)果如表4所示。分析表4可知,將6個(gè)LVs作為L(zhǎng)S-SVM模型輸入的結(jié)果,其建模集的R2為0.82,RMSEC為15.77mg•L-1,預(yù)測(cè)集的r2為0.81,RMSEP為16.67mg•L-1。

2.5基于LVs輸入的LS-SVM模型LS-SVM模型預(yù)測(cè)結(jié)果如表5所示。采用LVs作為L(zhǎng)SSVM模型輸入,得到的結(jié)果優(yōu)于基于BP神經(jīng)網(wǎng)絡(luò)模型。其建模集的R2為0.83,RMSEC為14.78mg•L-1,預(yù)測(cè)集的r2為0.82,RMSEP為14.82mg•L-1。

2.6PLS,BP神經(jīng)網(wǎng)絡(luò)和LS-SVM模型比較PLS,BPNN和LS-SVM建模方法的結(jié)果比較如圖3所示,Cal表示模型的建模集(calibration),Pre表示模型的預(yù)測(cè)集(prediction)。不難發(fā)現(xiàn),在LS-SVM模型和BP神經(jīng)網(wǎng)絡(luò)模型中,基于LV作為模型輸入-建立的LS-SVM模型取得了最優(yōu)的效果,BP神經(jīng)網(wǎng)絡(luò)模型的預(yù)測(cè)效果較優(yōu),且LS-SVM模型和BP神經(jīng)網(wǎng)絡(luò)模型都優(yōu)于全波長(zhǎng)的PLS模型結(jié)果。

3結(jié)語(yǔ)

篇8

關(guān)鍵字 :神經(jīng)網(wǎng)絡(luò),BP模型,預(yù)測(cè)

中圖分類號(hào):TP183文獻(xiàn)標(biāo)識(shí)碼: A

1 引言

在系統(tǒng)建模、辨識(shí)和預(yù)測(cè)中,對(duì)于線性系統(tǒng),在頻域,傳遞函數(shù)矩陣可以很好地表達(dá)系統(tǒng)的黑箱式輸入輸出模型;在時(shí)域,Box-Jenkins方法、回歸分析方法、ARMA模型等,通過(guò)各種參數(shù)估計(jì)方法也可以給出描述。對(duì)于非線性時(shí)間序列預(yù)測(cè)系統(tǒng),雙線性模型、門限自回歸模型、ARCH模型都需要在對(duì)數(shù)據(jù)的內(nèi)在規(guī)律知道不多的情況下對(duì)序列間關(guān)系進(jìn)行假定??梢哉f(shuō)傳統(tǒng)的非線性系統(tǒng)預(yù)測(cè),在理論研究和實(shí)際應(yīng)用方面,都存在極大的困難。相比之下,神經(jīng)網(wǎng)絡(luò)可以在不了解輸入或輸出變量間關(guān)系的前提下完成非線性建模[4,6]。神經(jīng)元、神經(jīng)網(wǎng)絡(luò)都有非線性、非局域性、非定常性、非凸性和混沌等特性,與各種預(yù)測(cè)方法有機(jī)結(jié)合具有很好的發(fā)展前景,也給預(yù)測(cè)系統(tǒng)帶來(lái)了新的方向與突破。建模算法和預(yù)測(cè)系統(tǒng)的穩(wěn)定性、動(dòng)態(tài)性等研究成為當(dāng)今熱點(diǎn)問(wèn)題。目前在系統(tǒng)建模與預(yù)測(cè)中,應(yīng)用最多的是靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò),這主要是因?yàn)檫@種網(wǎng)絡(luò)具有通過(guò)學(xué)習(xí)逼近任意非線性映射的能力。利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)建立系統(tǒng)的輸入/輸出模型,本質(zhì)上就是基于網(wǎng)絡(luò)逼近能力,通過(guò)學(xué)習(xí)獲知系統(tǒng)差分方程中的非線性函數(shù)。但在實(shí)際應(yīng)用中,需要建模和預(yù)測(cè)的多為非線性動(dòng)態(tài)系統(tǒng),利用靜態(tài)的多層前向神經(jīng)網(wǎng)絡(luò)必須事先給定模型的階次,即預(yù)先確定系統(tǒng)的模型,這一點(diǎn)非常難做到。近來(lái),有關(guān)基于動(dòng)態(tài)網(wǎng)絡(luò)的建模和預(yù)測(cè)的研究,代表了神經(jīng)網(wǎng)絡(luò)建模和預(yù)測(cè)新的發(fā)展方向。

2 BP神經(jīng)網(wǎng)絡(luò)模型

BP網(wǎng)絡(luò)是采用Widrow-Hoff學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。典型的BP算法采用梯度下降法,也就是Widrow-Hoff算法?,F(xiàn)在有許多基本的優(yōu)化算法,例如變尺度算法和牛頓算法。如圖1所示,BP神經(jīng)網(wǎng)絡(luò)包括以下單元:①處理單元(神經(jīng)元)(圖中用圓圈表示),即神經(jīng)網(wǎng)絡(luò)的基本組成部分。輸入層的處理單元只是將輸入值轉(zhuǎn)入相鄰的聯(lián)接權(quán)重,隱層和輸出層的處理單元將它們的輸入值求和并根據(jù)轉(zhuǎn)移函數(shù)計(jì)算輸出值。②聯(lián)接權(quán)重(圖中如V,W)。它將神經(jīng)網(wǎng)絡(luò)中的處理單元聯(lián)系起來(lái),其值隨各處理單元的聯(lián)接程度而變化。③層。神經(jīng)網(wǎng)絡(luò)一般具有輸入層x、隱層y和輸出層o。④閾值。其值可為恒值或可變值,它可使網(wǎng)絡(luò)能更自由地獲取所要描述的函數(shù)關(guān)系。⑤轉(zhuǎn)移函數(shù)F。它是將輸入的數(shù)據(jù)轉(zhuǎn)化為輸出的處理單元,通常為非線性函數(shù)。

圖1 BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

2.1 基本算法

BP算法主要包含4步,分為向前傳播和向后傳播兩個(gè)階段:

1)向前傳播階段

(1)從樣本集中取一個(gè)樣本(Xp,Yp),將Xp輸入網(wǎng)絡(luò);

(2)計(jì)算相應(yīng)的實(shí)際輸出Op

在此階段,信息從輸入層經(jīng)過(guò)逐級(jí)的變換,傳送到輸出層。這個(gè)過(guò)程也是網(wǎng)絡(luò)在完成訓(xùn)練后正常運(yùn)行時(shí)的執(zhí)行過(guò)程。

2)向后傳播階段

(1)計(jì)算實(shí)際輸出Op與相應(yīng)的理想輸出Yp的差;

(2)按極小化誤差的方式調(diào)整權(quán)矩陣。

這兩個(gè)階段的工作受到精度要求的控制,在這里取 作為網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差測(cè)度,而將網(wǎng)絡(luò)關(guān)于整個(gè)樣本集的誤差測(cè)度定義為 。圖2是基本BP算法的流程圖。

圖2 BP基本算法流程

2.2 動(dòng)態(tài)BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法

在經(jīng)典的BP算法以及其他的訓(xùn)練算法中都有很多變量,這些訓(xùn)練算法可以確定一個(gè)ANN結(jié)構(gòu),它們只訓(xùn)練固定結(jié)構(gòu)的ANN權(quán)值(包括聯(lián)接權(quán)值和結(jié)點(diǎn)轉(zhuǎn)換函數(shù))。在自動(dòng)設(shè)計(jì)ANN結(jié)構(gòu)方面,也已有較多的嘗試,比如構(gòu)造性算法和剪枝算法。前一種是先隨機(jī)化網(wǎng)絡(luò),然后在訓(xùn)練過(guò)程中有必要地增加新的層和結(jié)點(diǎn);而剪枝法則正好相反。文獻(xiàn)[2]中提出了演化神經(jīng)網(wǎng)絡(luò)的理念,并把EP算法與BP進(jìn)行了組合演化;也有很多學(xué)者把遺傳算法和BP進(jìn)行結(jié)合,但這些算法都以時(shí)間復(fù)雜度以及空間復(fù)雜度的增加為代價(jià)。根據(jù)Kolmogorov定理,對(duì)于任意給定的L2型連續(xù)函數(shù)f: [ 0, 1 ]n Rm , f可以精確地用一個(gè)三層前向神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn),因而可以只考慮演化網(wǎng)絡(luò)的權(quán)值和結(jié)點(diǎn)數(shù)而不影響演化結(jié)果。基于此,在BP原有算法的基礎(chǔ)上,增加結(jié)點(diǎn)數(shù)演化因子,然后記錄每層因子各異時(shí)演化出的結(jié)構(gòu),最后選取最優(yōu)的因子及其網(wǎng)絡(luò)結(jié)構(gòu),這樣就可以避免由于增加或剪枝得到的局部最優(yōu)。根據(jù)實(shí)驗(yàn)得知,不同的預(yù)測(cè)精度也影響網(wǎng)絡(luò)層神經(jīng)元的結(jié)點(diǎn)數(shù),所以可根據(jù)要求動(dòng)態(tài)地建立預(yù)測(cè)系統(tǒng)。具體步驟如下:

(1)將輸入向量和目標(biāo)向量進(jìn)行歸一化處理。

(2)讀取輸入向量、目標(biāo)向量,記錄輸入維數(shù)m、輸出層結(jié)點(diǎn)數(shù)n。

(3)當(dāng)訓(xùn)練集確定之后,輸入層結(jié)點(diǎn)數(shù)和輸出層結(jié)點(diǎn)數(shù)隨之而確定,首先遇到的一個(gè)十分重要而又困難的問(wèn)題是如何優(yōu)化隱層結(jié)點(diǎn)數(shù)和隱層數(shù)。實(shí)驗(yàn)表明,如果隱層結(jié)點(diǎn)數(shù)過(guò)少,網(wǎng)絡(luò)不能具有必要的學(xué)習(xí)能力和信息處理能力。反之,若過(guò)多,不僅會(huì)大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性(這一點(diǎn)對(duì)硬件實(shí)現(xiàn)的網(wǎng)絡(luò)尤其重要),網(wǎng)絡(luò)在學(xué)習(xí)過(guò)程中更易陷入局部極小點(diǎn),而且會(huì)使網(wǎng)絡(luò)的學(xué)習(xí)速度變得很慢。隱層結(jié)點(diǎn)數(shù)的選擇問(wèn)題一直受到神經(jīng)網(wǎng)絡(luò)研究工作者的高度重視。Gorman指出隱層結(jié)點(diǎn)數(shù)s與模式數(shù)N的關(guān)系是:s=log2N;Kolmogorov定理表明,隱層結(jié)點(diǎn)數(shù)s=2n+1(n為輸入層結(jié)點(diǎn)數(shù));而根據(jù)文獻(xiàn)[7]:s=sqrt(0.43mn+0.12nn+2.54m+0.77n+0.35)+0.51[7]。

(4)設(shè)置結(jié)點(diǎn)數(shù)演化因子a。為了快速建立網(wǎng)絡(luò),可以對(duì)其向量初始化,

并從小到大排序[4,7]。

(5)建立BP神經(jīng)網(wǎng)絡(luò)。隱含層傳遞函數(shù)用tansig,輸出層用logsig,訓(xùn)練函數(shù)采用動(dòng)態(tài)自適應(yīng)BP算法,并制訂停止準(zhǔn)則:目標(biāo)誤差精度以及訓(xùn)練代數(shù)。

(6)初始化網(wǎng)絡(luò)。

(7)訓(xùn)練網(wǎng)絡(luò)直到滿足停止判斷準(zhǔn)則。

(8)用測(cè)試向量對(duì)網(wǎng)絡(luò)進(jìn)行預(yù)測(cè),并記錄誤差和逼近曲線,評(píng)估其網(wǎng)絡(luò)的適應(yīng)性。其適應(yīng)度函數(shù)采取規(guī)則化均方誤差函數(shù)。

(9)轉(zhuǎn)到(5),選取下一個(gè)演化因子,動(dòng)態(tài)增加隱含層結(jié)點(diǎn)數(shù),直到最后得到最佳預(yù)測(cè)網(wǎng)絡(luò)。

3 基于神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)原理[4]

3.1 正向建模

正向建模是指訓(xùn)練一個(gè)神經(jīng)網(wǎng)絡(luò)表達(dá)系統(tǒng)正向動(dòng)態(tài)的過(guò)程,這一過(guò)程建立的神經(jīng)網(wǎng)絡(luò)模型稱為正向模型,其結(jié)構(gòu)如圖3所示。其中,神經(jīng)網(wǎng)絡(luò)與待辨識(shí)的系統(tǒng)并聯(lián),兩者的輸出誤差用做網(wǎng)絡(luò)的訓(xùn)練信號(hào)。顯然,這是一個(gè)典型的有導(dǎo)師學(xué)習(xí)問(wèn)題,實(shí)際系統(tǒng)作為教師,向神經(jīng)網(wǎng)絡(luò)提供算法所需要的期望輸出。當(dāng)系統(tǒng)是被控對(duì)象或傳統(tǒng)控制器時(shí),神經(jīng)網(wǎng)絡(luò)多采用多層前向網(wǎng)絡(luò)的形式,可直接選用BP網(wǎng)絡(luò)或它的各種變形。而當(dāng)系統(tǒng)為性能評(píng)價(jià)器時(shí),則可選擇再勵(lì)學(xué)習(xí)算法,這時(shí)網(wǎng)絡(luò)既可以采用具有全局逼近能力的網(wǎng)絡(luò)(如多層感知器),也可選用具有局部逼近能力的網(wǎng)絡(luò)(如小腦模型控制器等)。

圖3 正向建模結(jié)構(gòu)

3.2 逆向建模

建立動(dòng)態(tài)系統(tǒng)的逆模型,在神經(jīng)網(wǎng)絡(luò)中起著關(guān)鍵作用,并且得到了廣泛的應(yīng)用。其中,比較簡(jiǎn)單的是直接逆建模法,也稱為廣義逆學(xué)習(xí)。其結(jié)構(gòu)如圖4所示,擬預(yù)報(bào)的系統(tǒng)輸出作為網(wǎng)絡(luò)的輸入,網(wǎng)絡(luò)輸出與系統(tǒng)輸入比較,相應(yīng)的輸入誤差用于訓(xùn)練,因而網(wǎng)絡(luò)將通過(guò)學(xué)習(xí)建立系統(tǒng)的逆模型。但是,如果所辨識(shí)的非線性系統(tǒng)是不可逆的,利用上述方法將得到一個(gè)不正確的逆模型。因此,在建立系統(tǒng)時(shí),可逆性應(yīng)該先有所保證。

圖4 直接逆建模結(jié)構(gòu)

4 應(yīng)用實(shí)例分析

以我國(guó)西南某地震常發(fā)地區(qū)的地震資料作為樣本來(lái)源,實(shí)現(xiàn)基于動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)的地震預(yù)報(bào)。根據(jù)資料,提取出7個(gè)預(yù)報(bào)因子和實(shí)際發(fā)生的震級(jí)M作為輸入和目標(biāo)向量。預(yù)報(bào)因子為半年內(nèi)M>=3的地震累計(jì)頻度、半年內(nèi)能量釋放積累值、b值、異常地震群個(gè)數(shù)、地震條帶個(gè)數(shù)、是否處于活動(dòng)期內(nèi)以及相關(guān)地震區(qū)地震級(jí)。在訓(xùn)練前,對(duì)數(shù)據(jù)進(jìn)行歸一化處理。由于輸入樣本為7維的輸入向量,一般情況下輸入層設(shè)7個(gè)神經(jīng)元。根據(jù)實(shí)際情況,輸出層神經(jīng)元個(gè)數(shù)為1。隱含層神經(jīng)元的傳遞函數(shù)為S型正切函數(shù),輸出層也可以動(dòng)態(tài)選擇傳遞函數(shù)。實(shí)例數(shù)據(jù)來(lái)自文獻(xiàn)[4],將數(shù)據(jù)集分為訓(xùn)練集、測(cè)試集和確定集。表1中的7×7數(shù)組表示歸一化后的訓(xùn)練向量,第一個(gè)7表示預(yù)報(bào)因子數(shù),第二個(gè)7表示樣本數(shù)。

表1 歸一化后的訓(xùn)練向量

在不同神經(jīng)元數(shù)情況下,對(duì)網(wǎng)絡(luò)進(jìn)行訓(xùn)練和仿真,得到如圖5所示的一組預(yù)測(cè)誤差曲線。其中,曲線A表示隱層結(jié)點(diǎn)數(shù)為6時(shí)的預(yù)測(cè)誤差曲線,曲線B表示隱含層結(jié)點(diǎn)數(shù)為3時(shí)的預(yù)測(cè)誤差曲線,曲線C表示隱含層結(jié)點(diǎn)數(shù)為5時(shí)的預(yù)測(cè)誤差曲線,曲線D表示隱含層結(jié)點(diǎn)數(shù)為4時(shí)的預(yù)測(cè)誤差曲線。將五種情況下的誤差進(jìn)行對(duì)比,曲線C表示的網(wǎng)絡(luò)預(yù)測(cè)性能最好,其隱含層神經(jīng)元數(shù)為5,圖中曲線E表示的是隱含層結(jié)點(diǎn)數(shù)為15時(shí)的預(yù)測(cè)誤差曲線(文獻(xiàn)[4]中的最好結(jié)果)。同時(shí)也證明,在設(shè)計(jì)BP網(wǎng)絡(luò)時(shí),不能無(wú)限制地增加層神經(jīng)元的個(gè)數(shù)。若過(guò)多,不僅會(huì)大大增加網(wǎng)絡(luò)結(jié)構(gòu)的復(fù)雜性,網(wǎng)絡(luò)在學(xué)習(xí)過(guò)程中更易陷入局部極小點(diǎn),而且會(huì)使網(wǎng)絡(luò)的學(xué)習(xí)速度、預(yù)測(cè)速度變得很慢。

圖5 不同神經(jīng)元數(shù)預(yù)測(cè)誤差對(duì)比曲線

5 結(jié)論

本文針對(duì)基本的BP神經(jīng)網(wǎng)絡(luò),提出了可動(dòng)態(tài)改變神經(jīng)元數(shù)(與精度相關(guān))的BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法,可以根據(jù)實(shí)際情況建立預(yù)測(cè)系統(tǒng)。用此種方法可以建立最好的神經(jīng)網(wǎng)絡(luò),不會(huì)有多余的神經(jīng)元,也不會(huì)讓網(wǎng)絡(luò)在學(xué)習(xí)過(guò)程中過(guò)早陷于局部極小點(diǎn)。

參考文獻(xiàn)

[1]潘正君,康立山,陳毓屏. 演化計(jì)算[M ]. 北京:清華大學(xué)出版社,1998

[2]飛思科技產(chǎn)品研發(fā)中心. 神經(jīng)網(wǎng)絡(luò)理論與實(shí)現(xiàn). 北京:電子工業(yè)出版社,2005

[3]蔡曉芬,方建斌. 演化神經(jīng)網(wǎng)絡(luò)算法. 江漢大學(xué)學(xué)報(bào),第33卷第3期,2005.9

篇9

[關(guān)鍵詞]BP神經(jīng)網(wǎng)絡(luò)農(nóng)業(yè)工程農(nóng)業(yè)管理農(nóng)業(yè)決策

一、引言

采用神經(jīng)網(wǎng)絡(luò)算法的信息處理技術(shù),以其較強(qiáng)的計(jì)算性和學(xué)習(xí)性,現(xiàn)如今已經(jīng)在各工程領(lǐng)域內(nèi)得到了廣泛應(yīng)用。隨著科技不斷的發(fā)展和研究的不斷深入,農(nóng)業(yè)系統(tǒng)中采用的傳統(tǒng)分析和管理的方法已經(jīng)不能滿足農(nóng)業(yè)工程領(lǐng)域快速發(fā)展的需要。在農(nóng)業(yè)系統(tǒng)中采用神經(jīng)網(wǎng)絡(luò)技術(shù)可在一定程度上可彌補(bǔ)傳統(tǒng)方法的不足,現(xiàn)已成為實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化的一個(gè)重要途徑。神經(jīng)網(wǎng)絡(luò)現(xiàn)已在農(nóng)業(yè)生產(chǎn)的各個(gè)環(huán)節(jié)得到廣泛的應(yīng)用,從作物營(yíng)養(yǎng)控制、作物疾病診斷、產(chǎn)量預(yù)測(cè)到產(chǎn)品分級(jí),顯示了巨大的潛力,并正以很快的速度與生產(chǎn)實(shí)際相結(jié)合。目前應(yīng)用比較多的BP神經(jīng)網(wǎng)絡(luò),可通過(guò)學(xué)習(xí)以任意精度逼近任何連續(xù)映射,在農(nóng)業(yè)生產(chǎn)與科研中展示出了廣闊的應(yīng)用前景。

BP人工神經(jīng)網(wǎng)絡(luò)方法。人工神經(jīng)網(wǎng)絡(luò)是對(duì)生物神經(jīng)網(wǎng)絡(luò)的簡(jiǎn)化和模擬的一種信息處理系統(tǒng),具有很強(qiáng)的信息存貯能力和計(jì)算能力,屬于一種非經(jīng)典的數(shù)值算法。通??煞譃榍跋蛏窠?jīng)網(wǎng)絡(luò)、反饋神經(jīng)網(wǎng)絡(luò)和自組織映射神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)(Backpropugation Neura1 Network)是一種單向傳播的多層前向神經(jīng)網(wǎng)絡(luò),可通過(guò)連續(xù)不斷的在相對(duì)于誤差函數(shù)斜率下降的方向上計(jì)算網(wǎng)絡(luò)權(quán)值以及偏差的變化而逐漸逼近目標(biāo)值,每一次數(shù)字和偏差的變化都與網(wǎng)絡(luò)誤差的影響成正比,并以反向傳播的方式傳遞到每一層,從而實(shí)現(xiàn)了神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程。BP人工神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)如圖所示,BP神經(jīng)網(wǎng)絡(luò)可分為輸入層、中間層(隱含層)和輸出層,其中輸入和輸出都只有一層,中間層可有一層或多層。同層的網(wǎng)絡(luò)結(jié)點(diǎn)之間沒(méi)有連接。每個(gè)網(wǎng)絡(luò)結(jié)點(diǎn)表示一個(gè)神經(jīng)元,其傳遞函數(shù)通常采用Sigmoid型函數(shù)。BP神經(jīng)網(wǎng)絡(luò)相當(dāng)于從輸入到輸出的高度非線性映射,對(duì)于樣本輸入和輸出,可以認(rèn)為存在某一映射函數(shù)g,使得y0=g(xi),i=1,2,3,…,m,其中m為樣本數(shù),xi為輸入樣本,yo為輸出結(jié)果。

BP神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著優(yōu)點(diǎn)就是其可進(jìn)行自學(xué)習(xí),能夠通過(guò)訓(xùn)練得到預(yù)期的效果。其學(xué)習(xí)過(guò)程由正向傳播和反向傳播組成,神經(jīng)網(wǎng)絡(luò)的輸入值經(jīng)過(guò)非線性變換從輸入層經(jīng)隱含層神經(jīng)元的逐層處理傳向輸出層,此為正向傳播過(guò)程。每一層神經(jīng)元的狀態(tài)將影響到下一層神經(jīng)元狀態(tài)。如果輸出層得到的數(shù)值與期望輸出有一定的偏差,則轉(zhuǎn)入反向傳播過(guò)程。神經(jīng)網(wǎng)絡(luò)通過(guò)對(duì)輸入值和希望的輸出值(教師值)進(jìn)行比較,根據(jù)兩者之間的差的函數(shù)來(lái)調(diào)整神經(jīng)網(wǎng)絡(luò)的各層的連接權(quán)值和各個(gè)神經(jīng)元的閾值,最終使誤差函數(shù)達(dá)到最小。其調(diào)整的過(guò)程是由后向前進(jìn)行的,稱為誤差反向傳播BP算法。具體學(xué)習(xí)過(guò)程如下:

(1)隨機(jī)給各個(gè)權(quán)值賦一個(gè)初始權(quán)值,要求各個(gè)權(quán)值互不相等,且均為較小的非零數(shù)。

(2)輸入樣本集中每一個(gè)樣本值,確定相應(yīng)的網(wǎng)絡(luò)實(shí)際輸出值。

(3)計(jì)算實(shí)際的輸出值與相應(yīng)的樣本集中的相應(yīng)輸出值的差值。

(4)按極小誤差方式調(diào)整權(quán)值矩陣。

(5)判斷網(wǎng)絡(luò)誤差是否小于訓(xùn)練前人為設(shè)定的一個(gè)較小的值,若小于,則跳出運(yùn)算,此時(shí)的結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果;若大于,則繼續(xù)計(jì)算。

(6)判斷最大迭代次數(shù)是否大于預(yù)先設(shè)定的數(shù),若小于,返回(2);若大于,則中止運(yùn)算,其結(jié)果為神經(jīng)網(wǎng)絡(luò)的最終訓(xùn)練結(jié)果。

上述的計(jì)算過(guò)程循環(huán)進(jìn)行,直到完成給定的訓(xùn)練次數(shù)或達(dá)到設(shè)定的誤差終止值。

二、BP神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)工程領(lǐng)域中的應(yīng)用

1.在農(nóng)業(yè)生產(chǎn)管理與農(nóng)業(yè)決策中的應(yīng)用

農(nóng)業(yè)生產(chǎn)管理受地域、環(huán)境、季節(jié)等影響較大,用產(chǎn)生式規(guī)則完整描述實(shí)際系統(tǒng),可能會(huì)因組合規(guī)則過(guò)多而無(wú)法實(shí)現(xiàn)。神經(jīng)網(wǎng)絡(luò)的一個(gè)顯著的優(yōu)點(diǎn)就是其具有較強(qiáng)的自學(xué)習(xí)、自適應(yīng)、自組織能力,通過(guò)對(duì)有代表性的樣本的學(xué)習(xí)可以掌握學(xué)習(xí)對(duì)象的內(nèi)在規(guī)律,從而可以在一定程度上克服上述信息量大的問(wèn)題。神經(jīng)網(wǎng)絡(luò)在農(nóng)業(yè)生產(chǎn)管理方面可用于農(nóng)作物生長(zhǎng)過(guò)程中對(duì)農(nóng)作物生長(zhǎng)需求進(jìn)行預(yù)測(cè),從而通過(guò)對(duì)養(yǎng)分、水分、溫度、以及PH值的優(yōu)化控制達(dá)到最優(yōu)的生長(zhǎng)狀況。采用神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)算法的主要思想可描述為:(1)收集一定規(guī)模的樣本集,采用BP算法進(jìn)行訓(xùn)練,使網(wǎng)絡(luò)收斂到預(yù)定的精度;(2)將網(wǎng)絡(luò)權(quán)值矩陣保存到一存儲(chǔ)介質(zhì)中,例如文本文件或數(shù)據(jù)庫(kù)中;(3)對(duì)于待預(yù)測(cè)數(shù)據(jù)的輸入部分,從存儲(chǔ)介質(zhì)中讀出網(wǎng)絡(luò)連接權(quán)值矩陣,然后通過(guò)BP神經(jīng)網(wǎng)絡(luò)的前向傳播算法計(jì)算網(wǎng)絡(luò)輸出,輸出結(jié)果既是預(yù)測(cè)出來(lái)的數(shù)值向量。如霍再林等針對(duì)油葵不同階段的相對(duì)土壤含鹽濃度對(duì)其產(chǎn)量的影響有一定的規(guī)律的現(xiàn)象,以油葵的6個(gè)成長(zhǎng)階段的土壤溶液含鹽的相對(duì)濃度為輸入樣本,相對(duì)產(chǎn)量為輸出樣本,通過(guò)比較發(fā)現(xiàn),訓(xùn)練后的神經(jīng)網(wǎng)絡(luò)能較好預(yù)測(cè)油葵產(chǎn)量,采用此方法可補(bǔ)充傳統(tǒng)模型的不足,為今后進(jìn)一步的研究開(kāi)辟了新路。

在農(nóng)業(yè)決策方面,主要將農(nóng)業(yè)專家面對(duì)各種問(wèn)題時(shí)所采取的方法的經(jīng)驗(yàn),作為神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)樣本,從而采用神經(jīng)網(wǎng)絡(luò)建立的專家系統(tǒng)將從一定程度上彌補(bǔ)了傳統(tǒng)方法的不足,將農(nóng)業(yè)決策智能化。如何勇、宋海燕針對(duì)傳統(tǒng)專家系統(tǒng)自學(xué)習(xí)能力差的缺點(diǎn),利用神經(jīng)網(wǎng)絡(luò)可自我訓(xùn)練的優(yōu)點(diǎn),將神經(jīng)網(wǎng)絡(luò)引入專家系統(tǒng)中。將小麥缺素時(shí)的田間宏觀表現(xiàn),葉部、莖部、果實(shí)癥狀及引起缺素的原因這五個(gè)方面的可信度值作為神經(jīng)網(wǎng)絡(luò)的輸入量,將農(nóng)業(yè)專家診斷的結(jié)論作為輸出量,將這些數(shù)據(jù)作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)。實(shí)際應(yīng)用表明此系統(tǒng)自動(dòng)診斷的結(jié)果與專家現(xiàn)場(chǎng)診斷的結(jié)果基本一致,從而采用該系統(tǒng)能夠取代專家,實(shí)現(xiàn)作物的自我診斷,為農(nóng)業(yè)管理方面提供了極大的幫助。如馬成林等針對(duì)于傳統(tǒng)施肥決策方法中非線性關(guān)系描述不足的問(wèn)題,基于數(shù)據(jù)包分析和BP神經(jīng)網(wǎng)絡(luò),建立了施肥決策模型,應(yīng)用表明,在有限的范圍內(nèi),模型預(yù)測(cè)結(jié)果較為合理,可以反映玉米的需肥特性。劉鋮等人提出采用神經(jīng)網(wǎng)絡(luò)應(yīng)用在農(nóng)業(yè)生產(chǎn)決策中,以莜麥播種方式?jīng)Q策為例,通過(guò)對(duì)產(chǎn)生式規(guī)則的分析導(dǎo)出神經(jīng)網(wǎng)絡(luò)輸入、輸出單元數(shù),并通過(guò)多次試驗(yàn)確定隱層單元數(shù),用MATLAB方針結(jié)果表明,采用神經(jīng)網(wǎng)絡(luò)作為農(nóng)業(yè)生產(chǎn)決策的方法,取得了較好的效果。譚宗琨提出將基于互聯(lián)網(wǎng)環(huán)境下的神經(jīng)網(wǎng)絡(luò)應(yīng)用在玉米智能農(nóng)業(yè)專家系統(tǒng)中,根據(jù)農(nóng)作物發(fā)育進(jìn)程分成若干個(gè)發(fā)育期,分別對(duì)各個(gè)發(fā)育期建立管理模型,依照作物各發(fā)育期進(jìn)程時(shí)間間隔,由計(jì)算機(jī)系統(tǒng)自動(dòng)選取相應(yīng)的模型進(jìn)行決策。應(yīng)用分析的結(jié)果表明采用神經(jīng)網(wǎng)絡(luò)的玉米智能專家系統(tǒng)已初步接近農(nóng)業(yè)生產(chǎn)的實(shí)際。

2.在農(nóng)產(chǎn)品外觀分析和品質(zhì)評(píng)判

農(nóng)產(chǎn)品的外觀,如形狀、大小、色澤等在生產(chǎn)過(guò)程中是不斷變化的,并且受人為和自然等復(fù)雜因素的影響較大。農(nóng)產(chǎn)品的外觀直接影響到農(nóng)產(chǎn)品的銷售,研究出農(nóng)作物外觀受人為和自然的影響因素,通過(guò)神經(jīng)網(wǎng)絡(luò)進(jìn)行生產(chǎn)預(yù)測(cè),可解決農(nóng)產(chǎn)品由于不良外觀而造成的損失。如Murase 等針對(duì)西紅柿表皮破裂的現(xiàn)象,西紅柿表皮應(yīng)力的增長(zhǎng)與西紅柿果肉靠近表皮部分水分的增加有關(guān),當(dāng)表皮應(yīng)力超過(guò)最大表皮強(qiáng)度時(shí),將導(dǎo)致表皮破裂。用人工神經(jīng)網(wǎng)絡(luò)系統(tǒng),預(yù)測(cè)在環(huán)境溫度下的表皮應(yīng)力,可通過(guò)控制環(huán)境變量來(lái)減少西紅柿表皮破裂所造成的損失。

在農(nóng)業(yè)科研和生產(chǎn)中,農(nóng)產(chǎn)品的品質(zhì)評(píng)判大多是依賴于對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)。例如對(duì)果形尺寸和顏色等外觀判別果實(shí)的成熟度,作物與雜草的辨別,種子的外觀質(zhì)量檢測(cè)。由于農(nóng)業(yè)環(huán)境的復(fù)雜性和生物的多樣性,農(nóng)產(chǎn)品的外觀不具有較確定的規(guī)律性和可描述性,單一采用圖像處理技術(shù)辨識(shí)農(nóng)產(chǎn)品的外觀時(shí)不宜過(guò)多采取失真處理和變換,否則則增加圖像處理的復(fù)雜性,特征判別也相對(duì)困難。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)、自組織的能力,比較適宜解決農(nóng)業(yè)領(lǐng)域中許多難以用常規(guī)數(shù)學(xué)方法表達(dá)的復(fù)雜問(wèn)題,與圖像處理技術(shù)相結(jié)合后,可根據(jù)圖像特征進(jìn)行選擇性判別。采用此方法可以部分替代人工識(shí)別的工作,提高了生產(chǎn)效率,也有利于實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如Liao等將玉米籽粒圖像用34個(gè)特征參數(shù)作為神經(jīng)網(wǎng)絡(luò)的輸入變量,將輸出的種粒形態(tài)分為5類,經(jīng)過(guò)學(xué)習(xí)的神經(jīng)網(wǎng)絡(luò)對(duì)完整籽粒分類的準(zhǔn)確率達(dá)到93%,破籽粒分類的準(zhǔn)確率達(dá)91%。

3.蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定

在農(nóng)業(yè)生產(chǎn)中,蔬菜、果實(shí)、谷物等農(nóng)產(chǎn)品的分級(jí)和鑒定是通過(guò)對(duì)農(nóng)產(chǎn)品外觀的辨識(shí)進(jìn)行的。傳統(tǒng)的農(nóng)產(chǎn)品外觀的辨識(shí)方法費(fèi)時(shí)費(fèi)力、預(yù)測(cè)可靠度很低,而且多采用人工操作,評(píng)價(jià)受到操作者主觀因素的影響,評(píng)判的精度難以保證。利用人工神經(jīng)網(wǎng)絡(luò)技術(shù)結(jié)合圖像處理技術(shù)可部分代替以往這些主要依靠人工識(shí)別的工作,從而大大提高生產(chǎn)效率,實(shí)現(xiàn)農(nóng)業(yè)生產(chǎn)與管理的自動(dòng)化和智能化。

利用BP神經(jīng)網(wǎng)絡(luò)技術(shù)對(duì)農(nóng)產(chǎn)品果形尺寸和顏色等外觀評(píng)判,目前國(guó)內(nèi)外已有不少成果用于實(shí)際生產(chǎn)中。何東健等以計(jì)算機(jī)視覺(jué)技術(shù)進(jìn)行果實(shí)顏色自動(dòng)分級(jí)為目的,研究了用人工神經(jīng)網(wǎng)絡(luò)進(jìn)行顏色分級(jí)的方法。分別用120個(gè)著色不同的紅星和紅富士蘋果作為訓(xùn)練樣本集對(duì)網(wǎng)絡(luò)進(jìn)行離線訓(xùn)練。兩個(gè)品種的蘋果先由人工依據(jù)標(biāo)準(zhǔn)按著色度分成4級(jí),對(duì)每一個(gè)品種分別求出7個(gè)模式特征值作為BP網(wǎng)絡(luò)的輸入,用訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)進(jìn)行分級(jí)。結(jié)果表明紅富士和紅星果實(shí)的平均分級(jí)一致率分別為94.2%和94.4%。劉禾等用對(duì)稱特征、長(zhǎng)寬特征、寬度特征、比值特征等一系列特征值來(lái)描述果形。采用BP網(wǎng)絡(luò)與人工智能相結(jié)合,建立果形判別人工神經(jīng)網(wǎng)絡(luò)專家系統(tǒng)。試驗(yàn)水果品種為富士和國(guó)光。試驗(yàn)表明系統(tǒng)對(duì)富士學(xué)習(xí)率為80%,對(duì)非學(xué)習(xí)樣本的富士蘋果的果形判別推確率為75%,系統(tǒng)對(duì)國(guó)光學(xué)習(xí)率為89%,對(duì)非學(xué)習(xí)樣本的國(guó)光蘋果果形判別系統(tǒng)的難確率為82%。

三、未來(lái)的發(fā)展方向

人工神經(jīng)網(wǎng)絡(luò)的信息處理技術(shù)現(xiàn)已在農(nóng)業(yè)工程領(lǐng)域內(nèi)得到了迅速的應(yīng)用,采用人工神經(jīng)網(wǎng)絡(luò)算法的農(nóng)業(yè)系統(tǒng)能夠從一定程度上改善控制效果,但此技術(shù)在農(nóng)業(yè)范圍內(nèi)還不夠成熟,有待于進(jìn)一步的研究。今后科研的方向大體上可以從以下幾方面著手:

1.人工神經(jīng)網(wǎng)絡(luò)算法的改進(jìn)

人工神經(jīng)網(wǎng)絡(luò)算法由于本身具有一定的缺點(diǎn),從而采用人工神經(jīng)網(wǎng)絡(luò)的算法的信息處理技術(shù)在應(yīng)用過(guò)程中具有一定的局限性。在今后的研究中,可以從人工神經(jīng)網(wǎng)絡(luò)方向著手,改進(jìn)人工神經(jīng)網(wǎng)絡(luò)算法,從而實(shí)現(xiàn)其在農(nóng)業(yè)領(lǐng)域內(nèi)更好的應(yīng)用。近年來(lái)隨著模糊算法、蟻群算法等算法的相繼出現(xiàn),將神經(jīng)網(wǎng)絡(luò)與其他算法結(jié)合在一起已經(jīng)成為了研究的熱門話題,也是未來(lái)算法研究的主要方向之一。

2.應(yīng)用領(lǐng)域的擴(kuò)展

人工神經(jīng)網(wǎng)絡(luò)算法在農(nóng)業(yè)工程方面現(xiàn)已得到了迅速的發(fā)展,擴(kuò)展其在農(nóng)業(yè)工程領(lǐng)域的應(yīng)用范圍是未來(lái)的一個(gè)主要研究方向。人工神經(jīng)網(wǎng)絡(luò)由于其具有自學(xué)習(xí)能力,可對(duì)農(nóng)業(yè)系統(tǒng)的非線形特性進(jìn)行較好的描述,采用人工神經(jīng)網(wǎng)絡(luò)可解決傳統(tǒng)方法的不足,從而實(shí)現(xiàn)農(nóng)業(yè)現(xiàn)代化。如何將神經(jīng)網(wǎng)絡(luò)較好地引入到農(nóng)業(yè)系統(tǒng),解決農(nóng)業(yè)工程中的部分問(wèn)題,已是今后農(nóng)業(yè)科研中的一個(gè)方向。

四、結(jié)束語(yǔ)

神經(jīng)網(wǎng)絡(luò)作為一種人工智能范疇的計(jì)算方法,具有良好的自學(xué)習(xí)與數(shù)學(xué)計(jì)算的能力,可通過(guò)計(jì)算機(jī)程序進(jìn)行模擬運(yùn)算,現(xiàn)已廣泛用于模式識(shí)別、管理決策等方面。隨著計(jì)算機(jī)硬件和軟件的不斷發(fā)展與農(nóng)業(yè)工程方面的研究的不斷深入,神經(jīng)網(wǎng)絡(luò)將在農(nóng)業(yè)管理、農(nóng)業(yè)決策、農(nóng)作物外觀分類、品質(zhì)評(píng)判等方面充分發(fā)揮其自學(xué)習(xí)能力強(qiáng),計(jì)算能力強(qiáng)的優(yōu)勢(shì),通過(guò)對(duì)樣本數(shù)據(jù)的學(xué)習(xí),神經(jīng)網(wǎng)絡(luò)可較好地解決農(nóng)作物生長(zhǎng)過(guò)程中的作物分類、預(yù)測(cè)等非線形的問(wèn)題。在農(nóng)業(yè)工程領(lǐng)域內(nèi),神經(jīng)網(wǎng)絡(luò)擁有廣闊的科研前景。

參考文獻(xiàn):

[1]余英林李海洲:神經(jīng)網(wǎng)絡(luò)與信號(hào)分析[M]. 廣州: 華南理工大學(xué)出版社,1996:45

[2]霍再林史海濱孔東等: 基于人工神經(jīng)網(wǎng)絡(luò)的作物水―鹽響應(yīng)初步研究[J].內(nèi)蒙古農(nóng)業(yè)大學(xué)學(xué)報(bào),2003,24(3):66~70

[3]何勇宋海燕:基于神經(jīng)網(wǎng)絡(luò)的作物營(yíng)養(yǎng)診斷專家系統(tǒng)[J]. 農(nóng)業(yè)工程學(xué)報(bào),2005,21(1):110~113

[4]馬成林吳才聰張書(shū)慧等:基與數(shù)據(jù)包絡(luò)分析和人工神經(jīng)網(wǎng)絡(luò)的變量施肥決策方法研究[J].農(nóng)業(yè)工程學(xué)報(bào),2006,20(2):152~155

[5]劉鋮楊盤洪: 莜麥播種方式?jīng)Q策的BP神經(jīng)網(wǎng)絡(luò)模型[J]. 太原理工大學(xué)學(xué)報(bào),2006,37(5):119~121

[6]譚宗琨: BP人工神經(jīng)網(wǎng)絡(luò)在玉米智能農(nóng)業(yè)專家系統(tǒng)中的應(yīng)用[J].農(nóng)業(yè)網(wǎng)絡(luò)信息,2004(10):9~1

[7]Liao K,Li Z,Reid J F,et al.Knoledge-based color discrimination of corn kernels[J].ASAE paper[C].92~3579

篇10

關(guān)鍵詞:人工智能;TensorFlow;BP神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào):TP18 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1009-3044(2016)16-0199-03

Abstract:Based on Google's second generation of artificial intelligence learning system―TensorFlow, build a BP neural network model. Use handwritten characters as training set of inputs of neural network, constantly revise weight value and threshold value in the process of training, and get a higher identification precision of the model. It Embodies the TensorFlow’s effect in improving the efficiency of modeling, programming and analysis. Through introducing the development process, It provides reference which use TensorFlow building complex neural networks.

Key words:artificial intelligence; TensorFlow; BP neural networks

1 概述

目前,手寫(xiě)字符的識(shí)別方法已經(jīng)有多種,如支持向量機(jī)、BP神經(jīng)網(wǎng)絡(luò)、KNN、樸素貝葉斯方法等。其中BP神經(jīng)網(wǎng)絡(luò)作為一種經(jīng)典的模式識(shí)別工具,應(yīng)用廣泛。將BP神經(jīng)網(wǎng)絡(luò)應(yīng)用于手寫(xiě)字符識(shí)別,具有識(shí)別速度快、分類能力強(qiáng)、有較好的容錯(cuò)性能和學(xué)習(xí)能力的優(yōu)點(diǎn)。

TensorFlow是一個(gè)采用數(shù)據(jù)流圖,用于數(shù)值計(jì)算的開(kāi)源軟件庫(kù)。它通過(guò)構(gòu)建有向圖來(lái)描述所要執(zhí)行的操作,可以靈活的使用設(shè)備中的CPU或者GPU展開(kāi)計(jì)算。TensorFlow提供了構(gòu)建神經(jīng)網(wǎng)絡(luò)的接口,因此便于構(gòu)建BP神經(jīng)網(wǎng)絡(luò),簡(jiǎn)化編程任務(wù)。與傳統(tǒng)平臺(tái)構(gòu)建的識(shí)別模型相比,提高了效率。

2 TensorFlow深度學(xué)習(xí)平臺(tái)

2.1 TensorFlow平臺(tái)特性

TensorFlow使用靈活,無(wú)論是個(gè)人PC還是大規(guī)模GPU計(jì)算集群,TensorFlow都能夠靈活的在這些平臺(tái)運(yùn)行,使用 TensorFlow 表示的計(jì)算也可以在這些平臺(tái)上方便地移植。目前,TensorFlow已經(jīng)被應(yīng)用于機(jī)器學(xué)習(xí)系統(tǒng),以及和計(jì)算機(jī)科學(xué)相關(guān)的領(lǐng)域,例如計(jì)算機(jī)視覺(jué)、語(yǔ)言識(shí)別、信息檢索、機(jī)器人、地理信息抽取、自然語(yǔ)言理解和計(jì)算藥物發(fā)現(xiàn)等。TensorFlow靈活的特性也可以用來(lái)表示很多的算法,比如推斷算法和深度神經(jīng)網(wǎng)絡(luò)的訓(xùn)練等。

TensorFlow采用數(shù)據(jù)流計(jì)算,其表達(dá)的數(shù)據(jù)流計(jì)算由一個(gè)有向圖表示,這個(gè)圖由一個(gè)節(jié)點(diǎn)集合組成。在一幅 TensorFlow 圖中,每個(gè)節(jié)點(diǎn)有一個(gè)或者多個(gè)輸入和零個(gè)或者多個(gè)輸出,表示一種操作的實(shí)例化。圖中的葉子節(jié)點(diǎn)通常為常量或者變量,非葉子結(jié)點(diǎn)為一種操作,箭頭代表的是張量(常量、變量以及節(jié)點(diǎn)計(jì)算出的結(jié)果均可視為張量)的流動(dòng)方向。

通過(guò)在Ubuntu系統(tǒng)上安裝TensorFlow庫(kù)、啟用GPU支持即可使用Python語(yǔ)言構(gòu)建計(jì)算圖,實(shí)現(xiàn)基于神經(jīng)網(wǎng)絡(luò)的手寫(xiě)字符識(shí)別。

2.2 TensorFlow平臺(tái)搭建

TensorFlow目前支持Ubuntu系統(tǒng)和MAC OS系統(tǒng)中安裝,支持C++和Python兩種編程語(yǔ)言??紤]到Python語(yǔ)言的簡(jiǎn)潔性,本實(shí)驗(yàn)采用Python進(jìn)行程序設(shè)計(jì)。

1)使用 Virtualenv 創(chuàng)建隔離容器安裝 TensorFlow,不會(huì)改變不同Python項(xiàng)目的依賴關(guān)系,便于進(jìn)行項(xiàng)目的管理,能使排查安裝問(wèn)題變得更容易。

$ sudo apt-get install python-pip python-dev python-virtualenv

2)在Virtualenv環(huán)境下安裝TensorFlow的GPU版本:

創(chuàng)建圖:TensorFlow使用圖來(lái)表示計(jì)算任務(wù),在執(zhí)行計(jì)算操作之前需要將圖構(gòu)建完成。每一個(gè)非葉子節(jié)點(diǎn)都視為一種操作,葉子節(jié)點(diǎn)則表示特殊的操作類型,比如返回常量值或者變量值。創(chuàng)建圖的最后階段需要向圖中添加一個(gè)初始化操作的節(jié)點(diǎn),其作用是將所有的變量進(jìn)行初始化。

啟動(dòng)圖:圖創(chuàng)建完成后,才能啟動(dòng)圖。啟動(dòng)圖的第一步是創(chuàng)建一個(gè) Session 對(duì)象,如果無(wú)任何創(chuàng)建參數(shù),會(huì)話構(gòu)造器將啟動(dòng)默認(rèn)圖。然后進(jìn)行變量的初始化操作、運(yùn)行操作節(jié)點(diǎn)、更新變量值。

3 BP神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)

BP神經(jīng)網(wǎng)絡(luò)是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò),是目前應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。學(xué)習(xí)規(guī)則使用最速下降法,通過(guò)反向傳播來(lái)不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值,使網(wǎng)絡(luò)的誤差平方和最小。由輸入層、隱含層和輸出層組成,層與層之間采用全連接方式,同層之間不存在相互連接。

3.1 BP神經(jīng)網(wǎng)絡(luò)

3.2 TensorFlow平臺(tái)實(shí)現(xiàn)

本實(shí)驗(yàn)采用MNIST手寫(xiě)字符數(shù)據(jù)集,手寫(xiě)字符為28×28像素的手寫(xiě)數(shù)字灰度圖像。存儲(chǔ)在train-images-idx3-ubyte.gz和train-labels-idx1-ubyte.gz 文件中的60000幅手寫(xiě)字符數(shù)據(jù),55000幅作為訓(xùn)練集,5000幅作為驗(yàn)證集。測(cè)試集10000幅圖像的字符和標(biāo)簽存儲(chǔ)在t10k-images-idx3-ubyte.gz和t10k-labels-idx1-ubyte.gz中。

輸入層設(shè)計(jì):手寫(xiě)字符每一張圖片的大小為32×32,一維化后,每一張圖片作為輸入時(shí)需要784個(gè)輸入層神經(jīng)元節(jié)點(diǎn),其中None表示輸入圖片的數(shù)目:

4 總結(jié)

目前,神經(jīng)網(wǎng)絡(luò)被廣泛應(yīng)用于學(xué)術(shù)界和工業(yè)界,但在構(gòu)建神經(jīng)網(wǎng)絡(luò)、優(yōu)化參數(shù)、模型分析方面總是存在著一定的困難。TensorFlow的出現(xiàn)使這種狀況得以改善。TensorFlow有著編程簡(jiǎn)單、優(yōu)化算法集成度高、使用靈活的特性,利用TensorFlow將會(huì)使建模、編程、分析效率大大提高。實(shí)驗(yàn)以BP神經(jīng)網(wǎng)絡(luò)為例,介紹了TensorFlow平臺(tái)下神經(jīng)網(wǎng)絡(luò)模型構(gòu)建的一般方法和流程,并且得到了有較高識(shí)別精度的模型。對(duì)構(gòu)建更復(fù)雜的神經(jīng)網(wǎng)絡(luò)具有一定的參考意義。

參考文獻(xiàn):

[1] Abadi M, Agarwal A, Barham P, et al. TensorFlow: Large-scale machine learning on heterogeneous systems, 2015[J]. Software available from tensorflow. org.

[2] 任翠池,楊淑瑩,洪俊.基于BP神經(jīng)網(wǎng)絡(luò)的手寫(xiě)字符識(shí)別[J].天津理工大學(xué)學(xué)報(bào),2006,22(4):80-82.

[3] 張斌,趙瑋燁,李積憲.基于BP神經(jīng)網(wǎng)絡(luò)的手寫(xiě)字符識(shí)別系統(tǒng)[J].蘭州交通大學(xué)學(xué)報(bào):自然科學(xué)版, 2007,26(1).

[4] 許宜申,顧濟(jì)華,陶智,等.基于改進(jìn) BP 神經(jīng)網(wǎng)絡(luò)的手寫(xiě)字符識(shí)別[J].通信技術(shù),2011, 44(5): 106-109.

[5] 楊勇,謝剛生.基于BP神經(jīng)網(wǎng)絡(luò)的手寫(xiě)數(shù)字識(shí)別[J].華東地質(zhì)學(xué)院學(xué)報(bào),2003,26(4): 383-386.

[6] 金連文,徐秉錚.基于多級(jí)神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)的手寫(xiě)體漢字識(shí)別[J].通信學(xué)報(bào),1997,18(5).