導(dǎo)語(yǔ)：如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)算法，這就需要搜集整理更多的資料和文獻(xiàn)，歡迎閱讀由公務(wù)員之家整理的十篇范文，供你借鑒。

篇1

1、BP（Back Propagation）網(wǎng)絡(luò)是1986年由Rumelhart和McCelland為首的科學(xué)家小組提出，是一種按誤差逆?zhèn)鞑ニ惴ㄓ?xùn)練的多層前饋網(wǎng)絡(luò)，是應(yīng)用最廣泛的神經(jīng)網(wǎng)絡(luò)模型之一。BP網(wǎng)絡(luò)能學(xué)習(xí)和存貯大量的輸入-輸出模式映射關(guān)系，而無(wú)需事前揭示描述這種映射關(guān)系的數(shù)學(xué)方程。它的學(xué)習(xí)規(guī)則是使用最速下降法，通過(guò)反向傳播來(lái)不斷調(diào)整網(wǎng)絡(luò)的權(quán)值和閾值，使網(wǎng)絡(luò)的誤差平方和最小。BP神經(jīng)網(wǎng)絡(luò)模型拓?fù)浣Y(jié)構(gòu)包括輸入層（input）、隱層(hide layer)和輸出層(output layer)。

2、BP神經(jīng)網(wǎng)絡(luò)算法是在BP神經(jīng)網(wǎng)絡(luò)現(xiàn)有算法的基礎(chǔ)上提出的，是通過(guò)任意選定一組權(quán)值，將給定的目標(biāo)輸出直接作為線性方程的代數(shù)和來(lái)建立線性方程組，解得待求權(quán)，不存在傳統(tǒng)方法的局部極小及收斂速度慢的問(wèn)題，且更易理解。

（來(lái)源：文章屋網(wǎng) ）

篇2

計(jì)算機(jī)網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)主要是指計(jì)算機(jī)連接網(wǎng)絡(luò)之后，其自身設(shè)備與傳輸媒介所共同組成的一種物理構(gòu)成模式，其網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)的形式主要是由通信子網(wǎng)來(lái)決定的，其結(jié)構(gòu)的主要功能是實(shí)現(xiàn)數(shù)據(jù)信息的網(wǎng)絡(luò)共享、處理及交換，并要在一定程度上提升網(wǎng)絡(luò)數(shù)據(jù)信息運(yùn)行的可靠性，站在網(wǎng)絡(luò)拓?fù)涞慕Y(jié)構(gòu)來(lái)講，計(jì)算機(jī)網(wǎng)絡(luò)結(jié)構(gòu)的主要部分是鏈路與結(jié)點(diǎn)，計(jì)算機(jī)網(wǎng)絡(luò)實(shí)質(zhì)上是由一組結(jié)點(diǎn)以及多條鏈路所共同組成的一種模擬結(jié)構(gòu)。計(jì)算機(jī)網(wǎng)絡(luò)通常表示為：G=<V，E>，其中V表示的是網(wǎng)絡(luò)結(jié)點(diǎn)集，E表示的是鏈路集，如果應(yīng)用Va來(lái)表示結(jié)構(gòu)中增加的結(jié)點(diǎn)集，Eb來(lái)表示增加的連接集，那么就能夠得到其拓?fù)鋽U(kuò)展的計(jì)算機(jī)網(wǎng)絡(luò)結(jié)構(gòu)為G’=<V’，E’>。

2基于計(jì)算機(jī)網(wǎng)絡(luò)連接優(yōu)化中的神經(jīng)網(wǎng)絡(luò)算法

本次研究中分析的均場(chǎng)神經(jīng)網(wǎng)絡(luò)算法實(shí)際上是一種神經(jīng)網(wǎng)絡(luò)算法與均場(chǎng)退火技術(shù)相結(jié)合的算法，應(yīng)用這種方法能夠有效的增強(qiáng)計(jì)算機(jī)的網(wǎng)絡(luò)連接，并且達(dá)到更優(yōu)化、更快的連接效果，這其實(shí)是一種利潤(rùn)最大化的網(wǎng)絡(luò)優(yōu)化算法，其能夠最大限度的提高計(jì)算機(jī)網(wǎng)絡(luò)的性價(jià)比。

2.1神經(jīng)網(wǎng)絡(luò)算法

人工神經(jīng)網(wǎng)絡(luò)屬于非線性動(dòng)力學(xué)系統(tǒng)，其能夠?qū)π畔⑦M(jìn)行分布式的存儲(chǔ)及協(xié)同處理，其在人工神經(jīng)網(wǎng)絡(luò)之上的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的基礎(chǔ)之上，應(yīng)用網(wǎng)絡(luò)算法及網(wǎng)絡(luò)模型進(jìn)行各種信號(hào)的處理，或者是對(duì)某種運(yùn)行模式進(jìn)行識(shí)別，從而建立其一個(gè)獨(dú)立的專家系統(tǒng)，或者是構(gòu)成機(jī)器人，當(dāng)前在多個(gè)領(lǐng)域中，人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)都得到了廣泛的應(yīng)用，在該基礎(chǔ)上所發(fā)展起來(lái)的人工神經(jīng)網(wǎng)絡(luò)算法是一種監(jiān)督性的學(xué)習(xí)算法，人們對(duì)于其重視程度逐漸增加，但是在實(shí)際的應(yīng)用中，其存在收斂速度較慢的缺陷，難以保證將收斂程度壓制到全局的最小點(diǎn)，容易導(dǎo)致計(jì)算機(jī)網(wǎng)絡(luò)學(xué)習(xí)及記憶不穩(wěn)定性增強(qiáng)的問(wèn)題，這會(huì)對(duì)計(jì)算機(jī)網(wǎng)絡(luò)的連接效果造成直接的影響，做好其網(wǎng)絡(luò)連接的優(yōu)化非常的必要。

2.2均場(chǎng)神經(jīng)網(wǎng)絡(luò)算法

在基于計(jì)算機(jī)網(wǎng)絡(luò)連接增強(qiáng)優(yōu)化下的均場(chǎng)神經(jīng)網(wǎng)絡(luò)算法的研究中，對(duì)其網(wǎng)絡(luò)效果進(jìn)行判斷，需要建立起一個(gè)完整的場(chǎng)均神經(jīng)網(wǎng)絡(luò)模型，在模型的構(gòu)建過(guò)程中，應(yīng)該做好函數(shù)法構(gòu)造過(guò)程中的目標(biāo)函數(shù)的構(gòu)建問(wèn)題，具體的構(gòu)建方式表現(xiàn)為：應(yīng)用Si來(lái)表示Hopfield計(jì)算網(wǎng)絡(luò)中的一個(gè)神經(jīng)元狀態(tài)，并且規(guī)定當(dāng)Si=1時(shí)，表示的含義是網(wǎng)絡(luò)選中了連接i，可以實(shí)現(xiàn)正常的連接，當(dāng)Si=0時(shí)，表示的含義是：網(wǎng)絡(luò)中沒(méi)有選中連接i，網(wǎng)絡(luò)無(wú)法實(shí)現(xiàn)正常連接，再應(yīng)用罰函數(shù)法就結(jié)構(gòu)來(lái)進(jìn)行網(wǎng)絡(luò)模型的創(chuàng)建。

2.3實(shí)例分析

根據(jù)上文中分析的計(jì)算方法，在得到計(jì)算結(jié)果之后，能夠?qū)鶊?chǎng)網(wǎng)絡(luò)算法的可行性及有效性進(jìn)行判定，我們分別采用模擬退火算法、遺傳算法、均場(chǎng)神經(jīng)網(wǎng)絡(luò)算法進(jìn)行比較，結(jié)果顯示模擬退火算法需要計(jì)算99次，這樣才能保證計(jì)算出規(guī)定的連接集，并從中獲取一定的利潤(rùn)值，在遺傳算法中需要進(jìn)行96次的計(jì)算，在均場(chǎng)神經(jīng)網(wǎng)絡(luò)算法中，需要實(shí)施88次的計(jì)算，均場(chǎng)神經(jīng)網(wǎng)絡(luò)算法在獲得網(wǎng)路連接效果等方面，更快、更加有效，更適宜應(yīng)用于計(jì)算機(jī)網(wǎng)絡(luò)連接的增強(qiáng)優(yōu)化以及網(wǎng)絡(luò)結(jié)構(gòu)拓?fù)涞臄U(kuò)展工作中。

3結(jié)束語(yǔ)

篇3

關(guān)鍵詞：車牌定位；脈沖神經(jīng)網(wǎng)絡(luò)（SNN）；邊緣檢測(cè)；車牌定位；字符分割；字符識(shí)別 文獻(xiàn)標(biāo)識(shí)碼：A

中圖分類號(hào)：TP391 文章編號(hào)：1009-2374（2016）32-0013-02 DOI：10.13535/ki.11-4406/n.2016.32.006

現(xiàn)在車牌定位已經(jīng)提出了很多方法，其中經(jīng)常用到的是基于黑白圖像定位、基于顏色特征算法和基于車牌邊緣檢測(cè)算法。大多數(shù)算法都是基于單一特征來(lái)進(jìn)行車牌定位提取，這樣的定位方法在確定車牌區(qū)域上存在著明顯的局限性，受到特定條件的限制。車牌區(qū)域主要有以下特征：顏色特征、幾何特征、位置特征、紋理特征、灰度跳變特征、投影特征和頻譜特征等。車牌和字符的顏色共有五種組合分別為：藍(lán)底白字、黃底黑字、白底黑字、黑底白字以及白底紅字，其中一些小型和大型車輛的牌照底色會(huì)跟著省份的變化而略有不同。本文綜合分析車牌的特征，提出了基于脈沖神經(jīng)網(wǎng)絡(luò)顏色特征提取的車牌粗定位和基于脈沖神經(jīng)網(wǎng)絡(luò)的邊緣檢測(cè)的精確定位。

1 算法描述及流程

首先輸入拍攝的彩色車牌圖像，利用SNN對(duì)車牌圖像進(jìn)行顏色特征提取，接著經(jīng)過(guò)一系列處理實(shí)現(xiàn)車牌的粗定位，然后運(yùn)用灰度化、邊緣檢測(cè)、形態(tài)學(xué)處理和二值化等技術(shù)對(duì)粗定位車牌進(jìn)行處理，再采用行列掃描投影法進(jìn)行精確定位，最終提取出正確的車牌區(qū)域，其中的邊緣檢測(cè)也是基于SNN?；赟NN的車牌定位流程如圖1所示：

2 車牌的粗定位

以藍(lán)色為例，上述算法的具體步驟如下：（1）輸入彩色車牌圖像；（2）將三幅成分圖、和中的每個(gè)像素轉(zhuǎn)換為脈沖序列；（3）計(jì)算其脈沖序列的放電頻數(shù)，分別用維數(shù)為的數(shù)組、和來(lái)存儲(chǔ)；（4）將三個(gè)像素閾值、、轉(zhuǎn)換為脈沖序列，并計(jì)算其放電頻數(shù)，分別用、和來(lái)存儲(chǔ)；（5）判斷是否滿足、、，如果滿足的話，令，否則令。

如果，則在坐標(biāo)處的像素為藍(lán)色。其他顏色原理相同。

3 車牌的精確定位

本文主要基于感受野和脈沖神經(jīng)元來(lái)檢測(cè)車牌圖像的邊緣，其網(wǎng)絡(luò)的結(jié)構(gòu)如圖3所示。該網(wǎng)絡(luò)有三層：第一層為光感輸入層；第二層為中間層，四個(gè)并行神經(jīng)元矩陣、、、對(duì)應(yīng)四種不同的感受野，為了簡(jiǎn)化只畫出了每個(gè)矩陣中的一個(gè)神經(jīng)元。在突觸連接中的“X”代表興奮性突觸，“”代表抑制性突觸，中間層通過(guò)不同的權(quán)重矩陣連接光感輸入層，分別執(zhí)行上、下、左、右邊緣的檢測(cè)，這些權(quán)重矩陣能改變圖像中不同尺寸感受野的大??；第三層為輸出層，其中每一個(gè)神經(jīng)元累加來(lái)自第二層對(duì)應(yīng)四個(gè)并行神經(jīng)元矩陣的輸出。通過(guò)繪制輸出層的脈沖頻率圖，能得到對(duì)應(yīng)于輸入圖像的邊緣圖。本文主要介紹神經(jīng)元通過(guò)權(quán)重矩陣連接到光感輸入層的感受野，其響應(yīng)了感受野的右邊緣。此脈沖神經(jīng)網(wǎng)絡(luò)檢測(cè)右邊緣的原理如下：

如果一個(gè)灰度均勻圖像位于該感受野中時(shí)，產(chǎn)生一個(gè)均勻的脈沖的輸出，膜電勢(shì)不會(huì)變化，不會(huì)有脈沖序列產(chǎn)生；如果一個(gè)邊緣明確的圖像位于感受野中，感受野的左半部分產(chǎn)生一個(gè)較強(qiáng)的信號(hào)，右半部分產(chǎn)生一個(gè)符號(hào)相反的較弱的信號(hào)，由于左半部分興奮信號(hào)沒(méi)有被右半部抑制信號(hào)抵消，因此膜電勢(shì)上升得很快，最終產(chǎn)生響應(yīng)右邊緣的脈沖序列。突觸權(quán)重矩陣相當(dāng)于在感受野內(nèi)檢測(cè)邊緣的一個(gè)濾波器，其他三個(gè)邊緣原理相同。輸出層神經(jīng)元累積來(lái)自中間層的四個(gè)神經(jīng)元矩陣的輸出，然后響應(yīng)位于感受野任意方向的邊緣。

如圖4所示，通過(guò)與canny邊緣檢測(cè)和sobel邊緣檢測(cè)對(duì)比，可知sobel邊緣檢測(cè)結(jié)果缺失了部分邊緣，canny邊緣檢測(cè)能力很強(qiáng)，但是提取了很多無(wú)用的邊緣，然而SNN邊緣檢測(cè)結(jié)果最好，彌補(bǔ)了兩者的缺點(diǎn)。

4 實(shí)驗(yàn)結(jié)果及分析

使用Visual C++ 2012開發(fā)工具搭建此算法的軟件實(shí)驗(yàn)平臺(tái)，共收集了樣本400張（全國(guó)各個(gè)省份的車牌），并且針對(duì)各種底色車牌逐一進(jìn)行提取，有366張可以成功定位，定位率達(dá)到91.5%。從以上實(shí)驗(yàn)結(jié)果可知該算法能達(dá)到很好的定位效果。

5 結(jié)語(yǔ)

本文主要介紹了基于脈沖神經(jīng)網(wǎng)絡(luò)的車牌定位算法，分別從車牌粗定位和精確定位兩方面進(jìn)行了系統(tǒng)的分析，綜合運(yùn)用了圖像處理中的灰度化處理、邊緣檢測(cè)、二值化等技術(shù)對(duì)車牌圖像進(jìn)行分析和處理，充分利用車牌顏色和紋理等特征對(duì)車牌進(jìn)行提取。由于客觀條件和時(shí)間的限制，本文的研究還存在很多不足，有很多方面需要進(jìn)一步提高。

參考文獻(xiàn)

[1] 孫杰.車牌定位分割技術(shù)的研究與實(shí)現(xiàn)[D].東北電力大學(xué)，2007.

[2] 張燕，任安虎.多特征與BP神經(jīng)網(wǎng)絡(luò)車牌識(shí)別系統(tǒng)研究[J].科學(xué)技術(shù)與工程，2012，（22）.

[3] 陳麗娟.基于脈沖神經(jīng)網(wǎng)絡(luò)的車牌識(shí)別系統(tǒng)的設(shè)計(jì)與實(shí)現(xiàn)[D].福建師范大學(xué)，2015.

[4] QingXiang Wu，Martin McGinnity，Liam Maguire，Ammar Belatreche，Brendan Glackin.Edge Detection Based on Spiking Neural Network Model[J].Third International Conference on Intelligent Computing，ICIC 2007.

[5] 陳浩.基于脈沖神經(jīng)網(wǎng)絡(luò)模型的車輛車型識(shí)別研究[D].福建師范大學(xué)，2011.

篇4

關(guān)鍵詞： DFB激光器； 遺傳算法； 神經(jīng)網(wǎng)絡(luò)； 溫度控制

中圖分類號(hào)： TN249?34； TP273 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 1004?373X（2016）15?0164?03

Abstract： To solve the problems of nonlinearity and delay property existing in DFB laser temperature control system， the composite control structure based on genetic algorithm and neural network is proposed. In the system， the microprocessor as the system core processor is used to design the temperature control system， and the Pt resistance， TEC semiconductor refrigerator， temperature sensor and temperature control actuator are used as the control units. The neural network positive model was constructed to analyze the physical characteristics of the controlled object. The neural network control is used to map the control laws， and the fast searching ability of genetic algorithm is used to train the weight coefficient of neural network. The designed system was verified with the experiment. The results show that the temperature control accuracy of the system is ±0.002 ℃， the range of temperature control is 5～70 ℃， the overshoot is less than 8%， the designed system can realize the control effect of high precision and wide range， and has better engineering application value.

Keywords： DFB laser； genetic algorithm； neural network； temperature control

0 引 言

激光檢測(cè)技術(shù)已經(jīng)應(yīng)用在許多工業(yè)領(lǐng)域，其中分布式（DFB）激光器的波長(zhǎng)能夠有效匹配甲烷和一氧化碳等氣體的吸收峰，所以在很多領(lǐng)域利用它來(lái)檢測(cè)氣體的濃度。DFB激光器的波長(zhǎng)主要與電流和溫度有關(guān)，當(dāng)電流保持不變時(shí)，DFB的波長(zhǎng)與溫度的變化關(guān)系[1?3]為0.2～0.3 nm/℃。因此，為了提高氣體的檢測(cè)精度，必須確保DFB激光器發(fā)光的波長(zhǎng)準(zhǔn)確且穩(wěn)定，需要對(duì)它的溫度進(jìn)行精確控制[4?7]。

國(guó)內(nèi)外有很多生產(chǎn)廠家和研究機(jī)構(gòu)都在研究如何在較寬的溫度范圍內(nèi)提高DFB激光器的溫度控制精度。目前，國(guó)外的產(chǎn)品一般能夠在-50～100 ℃的環(huán)境下正常工作，且控制精度不低于0.001 ℃。國(guó)內(nèi)的產(chǎn)品一般只能在常溫下工作，控制精度[8]僅為0.05～0.1 ℃。本文針對(duì)DFB激光器溫度控制系統(tǒng)普遍存在的非線性和延遲性等問(wèn)題，利用遺傳算法和神經(jīng)網(wǎng)絡(luò)構(gòu)造復(fù)合控制結(jié)構(gòu)，實(shí)現(xiàn)在較寬的范圍內(nèi)對(duì)溫度進(jìn)行高精度穩(wěn)定控制的效果。

1 硬件系統(tǒng)設(shè)計(jì)

1.1 系統(tǒng)總體方案

設(shè)計(jì)的基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的DFB激光器溫度控制系統(tǒng)主要由鉑電阻、恒流源、信號(hào)調(diào)整、驅(qū)動(dòng)電路、A/D和D/A轉(zhuǎn)換模塊、控制器、LED顯示和上位機(jī)等組成，總體框圖如圖1所示。

激光器的溫度變化由溫度傳感器鉑熱電阻轉(zhuǎn)變?yōu)殡娦盘?hào)，經(jīng)過(guò)信號(hào)調(diào)整和A/D轉(zhuǎn)換將數(shù)據(jù)送給微處理器，與上位機(jī)設(shè)定的標(biāo)準(zhǔn)值進(jìn)行比較計(jì)算得到偏差，再將該偏差信號(hào)由數(shù)字控制器處理和調(diào)整之后，經(jīng)由D/A轉(zhuǎn)換和驅(qū)動(dòng)電路進(jìn)入執(zhí)行器件，對(duì)被控對(duì)象加熱或者制冷，從而將DFB激光器的溫度控制在特定值。

1.2 溫度測(cè)量和處理

采用鉑電阻Pt100作為系統(tǒng)的溫度傳感器，它具有工作溫度范圍大和穩(wěn)定性好的優(yōu)點(diǎn)。給鉑電阻加載恒定的微小電流（1 mA左右），再通過(guò)測(cè)量鉑電阻兩端的電壓來(lái)獲取溫度信號(hào)。對(duì)電壓信號(hào)進(jìn)行模數(shù)轉(zhuǎn)換時(shí)，使用的芯片為ICL7109，分辨率高達(dá)244 ppm，能夠直連微處理器，轉(zhuǎn)換的速度為30次/s。在微處理器的控制下，電壓信號(hào)由多路開關(guān)經(jīng)ICL7109實(shí)現(xiàn)模數(shù)轉(zhuǎn)換。同時(shí)，參考溫度的信號(hào)由上位機(jī)和電位器分壓得到。

在微處理器上對(duì)實(shí)際溫度與參考溫度進(jìn)行比較，它們的差值由微處理器上設(shè)定的控制算法進(jìn)行處理，得到相應(yīng)的控制信號(hào)，該信號(hào)經(jīng)數(shù)模轉(zhuǎn)換芯片DAC0832處理和放大后驅(qū)動(dòng)執(zhí)行器件工作。這里的數(shù)模轉(zhuǎn)換芯片為雙極性輸出，可以提供正向和反向的電壓信號(hào)，從而實(shí)現(xiàn)加熱或者制冷。

1.3 TEC驅(qū)動(dòng)

采用熱電制冷器（TEC）作為系統(tǒng)的溫度控制執(zhí)行器件。根據(jù)珀耳帖效應(yīng)，當(dāng)給TEC通過(guò)不同方向的電流時(shí)，即可實(shí)現(xiàn)TEC的制冷或加熱，而調(diào)節(jié)它的電流大小即可改變它的加熱或者制冷的輸出大小[9]。為了快速地控制TEC的電流，采用MAX1968型的控制芯片，它能夠直接控制電流，具有消除浪涌電流和減小噪聲干擾的優(yōu)點(diǎn)。它內(nèi)置有基準(zhǔn)電壓源，當(dāng)電壓大于基準(zhǔn)值時(shí)，實(shí)現(xiàn)加熱的效果；相反，實(shí)現(xiàn)制冷的目的。

2 神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)控制

2.1 神經(jīng)網(wǎng)絡(luò)正模型

3 實(shí)驗(yàn)結(jié)果與分析

由前述的分析來(lái)設(shè)計(jì)DFB激光器的溫度控制系統(tǒng)，并用實(shí)驗(yàn)來(lái)驗(yàn)證系統(tǒng)設(shè)計(jì)的合理性和可行性。選取初始種群為60個(gè)染色體，其中每個(gè)染色體均有25個(gè)權(quán)系數(shù)，它們的變化范圍為[[-2，4]]，進(jìn)化代數(shù)的最大值為40代。實(shí)驗(yàn)室溫度的初始值為20 ℃，設(shè)定期望的DFB激光器溫度值分別為5 ℃，15 ℃，40 ℃和70 ℃，從零時(shí)刻啟動(dòng)溫度控制過(guò)程，得到不同目標(biāo)溫度控制的實(shí)驗(yàn)結(jié)果，如圖3～圖6所示。

從圖3～圖6中可以看出，基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的控制算法可以使得DFB激光器的實(shí)際溫度達(dá)到預(yù)期設(shè)定的溫度值。對(duì)于低于室溫的溫度控制，超調(diào)量為8%，控制精度為±0.002 ℃；對(duì)于高于室溫的溫度控制，沒(méi)有超調(diào)量，控制精度為±0.001 7 ℃。因此，本文設(shè)計(jì)的控制系統(tǒng)能夠?qū)崿F(xiàn)DFB激光器工作溫度的精確控制，穩(wěn)定度較高。

4 結(jié) 語(yǔ)

本文設(shè)計(jì)了基于遺傳算法和神經(jīng)網(wǎng)絡(luò)的DFB激光器溫度控制系統(tǒng)，系統(tǒng)使用微處理器、鉑電阻和TEC半導(dǎo)體制冷器分別作為處理器、溫度敏感器和溫控的執(zhí)行器件，通過(guò)構(gòu)建復(fù)合控制結(jié)構(gòu)，能夠使得系統(tǒng)的輸出達(dá)到期望值。實(shí)驗(yàn)結(jié)果表明，該系統(tǒng)能夠?qū)崿F(xiàn)DFB激光器溫度的高精度和穩(wěn)定控制，控制精度和控制范圍分別能夠達(dá)到±0.002 ℃和5～70 ℃，超調(diào)量低于8%，具有較好的推廣應(yīng)用前景。

參考文獻(xiàn)

[1] 胡鵬程，時(shí)瑋澤，梅健挺.高精度鉑電阻測(cè)溫系統(tǒng)[J].光學(xué)精密工程，2014，22（4）：988?995.

[2] 單成玉.溫度對(duì)半導(dǎo)體激光器性能參數(shù)的影響[J].吉林師范大學(xué)學(xué)報(bào)（自然科學(xué)版），2003（4）：95?97.

[3] 李金義，杜振輝，齊汝賓，等.利用熱敏電阻精確測(cè)量DFB激光器動(dòng)態(tài)結(jié)溫度[J].儀器儀表學(xué)報(bào)，2012，33（9）：2088?2093.

[4] 秦國(guó)華，謝文斌，王華敏.基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的刀具磨損檢測(cè)與控制[J].光學(xué)精密工程，2015，23（5）：1314?1321.

[5] 玲，林勤花.基于遺傳神經(jīng)網(wǎng)絡(luò)的P2P流量識(shí)別系統(tǒng)[J].現(xiàn)代電子技術(shù)，2015，38（17）：117?120.

[6] 徐齊勝，羅勝琪，陶欣，等.基于神經(jīng)網(wǎng)絡(luò)遺傳算法的鍋爐燃燒優(yōu)化系統(tǒng)[J].自動(dòng)化與儀表，2014，29（6）：30?32.

[7] 陳苗，陳福深，肖勇.溫度對(duì)半導(dǎo)體激光器特性的影響[J].中國(guó)科技信息，2011（3）：46?47.

[8] 李江瀾，石云波，趙鵬飛，等.TEC的高精度半導(dǎo)體激光器溫控設(shè)計(jì)[J].紅外與激光工程，2014，43（6）：1745?1749.

[9] 徐廣平，馮國(guó)旭，耿林.基于單片機(jī)控制的高精度TEC溫控[J].激光與紅外，2009，39（3）：254?256.

[10] 康偉.基于BP神經(jīng)網(wǎng)絡(luò)的DFB激光器恒溫控制系統(tǒng)建模與仿真[J].激光雜志，2015，36（4）：59?62.

篇5

關(guān)鍵詞：數(shù)據(jù)挖掘；數(shù)據(jù)庫(kù)；遺傳算法；神經(jīng)網(wǎng)絡(luò)

中圖分類號(hào)：TP392文獻(xiàn)標(biāo)識(shí)碼：A文章編號(hào)文章編號(hào)：1672-7800（2013）012-0129-02

基金項(xiàng)目：佛山科學(xué)技術(shù)學(xué)院重點(diǎn)項(xiàng)目（2010）

作者簡(jiǎn)介：劉曉莉（1961-），女，佛山科學(xué)技術(shù)學(xué)院副教授，研究方向?yàn)閼?yīng)用數(shù)學(xué)。

1遺傳算法基本特征

遺傳算法是模擬達(dá)爾文的遺傳選擇和自然淘汰的生物進(jìn)化過(guò)程的計(jì)算模型，是一種具有廣泛適用性的通用優(yōu)化搜索方法。遺傳算法主要借用了生物遺傳學(xué)的觀點(diǎn)，通過(guò)自然選擇、遺傳和變異等作用機(jī)制來(lái)產(chǎn)生下一代種群，如此逐代進(jìn)化，直至得到滿足要求的后代即問(wèn)題的解，是一種公認(rèn)的全局搜索能力較強(qiáng)的算法。

遺傳算法有良好智能性，易于并行，減少了陷于局部最優(yōu)解的風(fēng)險(xiǎn)。遺傳算法的處理對(duì)象不是參數(shù)本身，而是對(duì)參數(shù)集進(jìn)行了編碼的個(gè)體，可以直接對(duì)集合、隊(duì)列、矩陣、圖表等結(jié)構(gòu)進(jìn)行操作。同時(shí)，在標(biāo)準(zhǔn)的遺傳算法中，基本上不用搜索空間的知識(shí)或其它輔助信息，而僅用適應(yīng)度函數(shù)值來(lái)評(píng)估個(gè)體，并在此基礎(chǔ)上進(jìn)行遺傳操作； 遺傳算法不是采用確定性規(guī)則，而是采用概率的變遷規(guī)則來(lái)指導(dǎo)它的搜尋方向。正是這些特征和優(yōu)點(diǎn)，使得遺傳算法在數(shù)據(jù)挖掘技術(shù)中占有很重要的地位，既可以用來(lái)挖掘分類模式、聚類模式、依賴模式、層次模式，也可用于評(píng)估其它算法的適合度。

2神經(jīng)網(wǎng)絡(luò)基本特征

神經(jīng)網(wǎng)絡(luò)是人腦或自然神經(jīng)網(wǎng)絡(luò)若干基本特征的抽象和模擬，是以大量的、同時(shí)也是很簡(jiǎn)單的處理單元（神經(jīng)元）廣泛地互相連接形成的復(fù)雜非線性系統(tǒng)。人工神經(jīng)網(wǎng)絡(luò)本質(zhì)上是一個(gè)分布式矩陣結(jié)構(gòu)，它根據(jù)樣本的輸入輸出對(duì)加權(quán)法進(jìn)行自我調(diào)整，從而近似模擬出輸入、輸出內(nèi)在隱含的映射關(guān)系。建模時(shí)，不必考慮各個(gè)因素之間的相互作用及各個(gè)因素對(duì)輸出結(jié)果的影響機(jī)制，這恰好彌補(bǔ)了人們對(duì)各個(gè)因素及對(duì)輸出結(jié)果的機(jī)制不清楚的缺陷，從而解決眾多用以往方法很難解決的問(wèn)題。

神經(jīng)網(wǎng)絡(luò)具有大規(guī)模的并行處理和分布式的信息存儲(chǔ)，有良好的自適應(yīng)、自組織性，學(xué)習(xí)能力很強(qiáng)，有較強(qiáng)的聯(lián)想功能和容錯(cuò)功能，在解決機(jī)理比較復(fù)雜、無(wú)法用數(shù)學(xué)模型來(lái)刻畫的問(wèn)題，甚至對(duì)其機(jī)理一無(wú)所知的問(wèn)題等，神經(jīng)網(wǎng)絡(luò)方法特別適用，是一種用于預(yù)測(cè)、評(píng)價(jià)、分類、模式識(shí)別、過(guò)程控制等各種數(shù)據(jù)處理場(chǎng)合的計(jì)算方法，其應(yīng)用已經(jīng)滲透到多個(gè)領(lǐng)域，在計(jì)算機(jī)視覺、模式識(shí)別、智能控制、非線性優(yōu)化、信號(hào)處理、經(jīng)濟(jì)和機(jī)器人等方面取得了可喜的進(jìn)展。

3遺傳算法與神經(jīng)網(wǎng)絡(luò)混合算法在數(shù)據(jù)挖掘中的應(yīng)用

作為一種有效的優(yōu)化方法，遺傳算法可以應(yīng)用于規(guī)則挖掘，可以單獨(dú)用于數(shù)據(jù)倉(cāng)庫(kù)中關(guān)聯(lián)規(guī)則的挖掘，還可以和神經(jīng)網(wǎng)絡(luò)技術(shù)相結(jié)合，建立基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的數(shù)據(jù)挖掘體系，用于數(shù)據(jù)挖掘中的分類問(wèn)題。

學(xué)習(xí)能力是神經(jīng)網(wǎng)絡(luò)中最引人矚目的特征，學(xué)習(xí)算法的研究一直占據(jù)重要地位。可以將遺傳算法應(yīng)用于神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)過(guò)程中，這樣可以避免傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)算法容易陷入局部極小的問(wèn)題。有研究者提出了一種基于遺傳算法的神經(jīng)網(wǎng)絡(luò)二次訓(xùn)練方法，可以提高神經(jīng)網(wǎng)絡(luò)的模糊處理能力，有效解決神經(jīng)網(wǎng)絡(luò)陷入局部極小的缺點(diǎn)，加快收斂速率，提高學(xué)習(xí)效率。也有研究者探究了基于基因重組的遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的方法，通過(guò)訓(xùn)練權(quán)值來(lái)實(shí)現(xiàn)分類，可以提高神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)分類的準(zhǔn)確性。因此，采用遺傳算法與神經(jīng)網(wǎng)絡(luò)模型相結(jié)合方法，可以解決多維非線性系統(tǒng)及模型未知系統(tǒng)的預(yù)測(cè)、評(píng)價(jià)與優(yōu)化等問(wèn)題，其成功案例有很多，下面是其中的幾例。

一些研究者針對(duì)當(dāng)前專家系統(tǒng)知識(shí)獲取瓶頸的難題，提出了基于神經(jīng)網(wǎng)絡(luò)與遺傳算法的汽輪機(jī)組數(shù)據(jù)挖掘方法。該方法首先將汽輪機(jī)組歷史故障數(shù)據(jù)進(jìn)行模糊化及離散化處理后，建立神經(jīng)網(wǎng)絡(luò)模型，然后再利用遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，實(shí)現(xiàn)了基于神經(jīng)網(wǎng)絡(luò)與遺傳算法相結(jié)合的汽輪機(jī)組數(shù)據(jù)挖掘和故障診斷仿真系統(tǒng)，其診斷正確率達(dá)到了84%。

綜合運(yùn)用人工智能、計(jì)算智能（人工神經(jīng)網(wǎng)、遺傳算法） 、模式識(shí)別、數(shù)理統(tǒng)計(jì)等先進(jìn)技術(shù)作為數(shù)據(jù)挖掘工具，可以建立可靠、高效的數(shù)據(jù)挖掘軟件平臺(tái)，已在很多工業(yè)控制和優(yōu)化中得到應(yīng)用和實(shí)驗(yàn)驗(yàn)證，并取得了滿意的應(yīng)用效果。例如，某鋁廠根據(jù)以往不同原料成分和原料的不同配比與產(chǎn)品質(zhì)量關(guān)系記錄的數(shù)據(jù)庫(kù)，應(yīng)用數(shù)據(jù)挖掘軟件平臺(tái)，可以挖掘出適應(yīng)不同原料成分的最佳配比規(guī)律，從而提高產(chǎn)品質(zhì)量的穩(wěn)定性。又如，以往在化工產(chǎn)品優(yōu)化配方、催化劑配方優(yōu)化或材料工藝優(yōu)化等研究中，基本上都是采用試驗(yàn)改進(jìn)的方式，需經(jīng)過(guò)多次試驗(yàn)才能達(dá)到預(yù)期目的，但也有可能失敗。為降低消耗， 少做試驗(yàn)就能達(dá)到預(yù)期目的，可采用神經(jīng)網(wǎng)絡(luò)對(duì)產(chǎn)品配方實(shí)驗(yàn)數(shù)據(jù)建模，在此基礎(chǔ)上，再應(yīng)用遺傳算法對(duì)配方模型進(jìn)行優(yōu)化，得到優(yōu)化配方。

正是遺傳算法與神經(jīng)網(wǎng)絡(luò)等算法的支撐以及計(jì)算機(jī)技術(shù)的發(fā)展，目前，數(shù)據(jù)挖掘廣泛地應(yīng)用于天文、地理、生物信息學(xué)、金融、保險(xiǎn)、商業(yè)、電信、網(wǎng)絡(luò)、交通等眾多領(lǐng)域。例如，應(yīng)用在地理數(shù)據(jù)庫(kù)上，主要挖掘地質(zhì)、地貌特征，為尋找礦產(chǎn)或進(jìn)行城市規(guī)劃等提供參考依據(jù)；在電信Web服務(wù)器方面，可以挖掘Web日志，根據(jù)用戶興趣動(dòng)態(tài)鏈接Web頁(yè)面，統(tǒng)計(jì)頁(yè)面鏈接及權(quán)威主頁(yè)等，對(duì)檢索頁(yè)面進(jìn)行聚類，方便用戶找到需要的信息；在生物醫(yī)學(xué)信息和DNA數(shù)據(jù)分析方面，進(jìn)行遺傳、疾病等數(shù)據(jù)特征的挖掘，為疾病診斷、治療和預(yù)防研究提供科學(xué)依據(jù)；對(duì)金融數(shù)據(jù)進(jìn)行挖掘，可以分析客戶信用度；在CRM（客戶關(guān)系模型）上使用數(shù)據(jù)挖掘，獲得客戶群體分類信息、交叉銷售安排及開發(fā)新客戶和保留老客戶的策略；在電信業(yè)中使用挖掘技術(shù)，以預(yù)防網(wǎng)絡(luò)欺詐等；應(yīng)用在商業(yè)問(wèn)題的研究包括：進(jìn)行客戶群體劃分、背景分析、交叉銷售等市場(chǎng)行為分析，以及客戶流失性、信用度分析與欺詐發(fā)現(xiàn)；在電子商務(wù)方面，從服務(wù)器以及瀏覽器端的日志記錄中發(fā)現(xiàn)隱藏在數(shù)據(jù)中的模式信息，了解系統(tǒng)的訪問(wèn)模式以及用戶的行為模式，作出預(yù)測(cè)性分析等等。

4結(jié)語(yǔ)

神經(jīng)網(wǎng)絡(luò)和遺傳算法作為數(shù)據(jù)挖掘技術(shù)，也有一些不足和缺陷。遺傳算法除了要進(jìn)一步改進(jìn)基本理論和方法外，還要采用和神經(jīng)網(wǎng)絡(luò)、模擬退火、最近臨規(guī)則等其它方法相結(jié)合的策略，提高遺傳算法的局部搜索能力，從而進(jìn)一步改善其收斂速度和解的品質(zhì)，提高數(shù)據(jù)挖掘技術(shù)。特別是對(duì)于單調(diào)函數(shù)或單峰函數(shù)，遺傳算法在初始時(shí)很快向最優(yōu)值逼近，但是在最優(yōu)值附近收斂較慢；而對(duì)于多峰函數(shù)的優(yōu)化問(wèn)題，它往往會(huì)出現(xiàn)“早熟”，即收斂于局部極值。因此，研究如何改進(jìn)遺傳算法，采用合適的算法加快尋優(yōu)速度和改善尋優(yōu)質(zhì)量，無(wú)論在理論上還是在實(shí)踐上都有重要意義。神經(jīng)網(wǎng)絡(luò)的神經(jīng)計(jì)算基礎(chǔ)理論框架以及生理層面的研究仍需深入與加強(qiáng)，如何提高神經(jīng)網(wǎng)絡(luò)的可理解性問(wèn)題，以及研究遺傳算法、神經(jīng)網(wǎng)絡(luò)技術(shù)與其它人工智能技術(shù)更好地結(jié)合，從而獲得比單一方法更好的效果等問(wèn)題，值得進(jìn)一步探索。

雖然數(shù)據(jù)挖掘技術(shù)已得到了廣泛應(yīng)用，但現(xiàn)有的數(shù)據(jù)挖掘方法并不能完全適應(yīng)所面臨的具有多樣性的海量數(shù)據(jù)分析的現(xiàn)實(shí)，急需解決的問(wèn)題是：如何研究并行處理和抽樣的方法，來(lái)處理大規(guī)模的數(shù)據(jù)以獲得較高的計(jì)算效率；如何利用統(tǒng)計(jì)、模糊數(shù)學(xué)來(lái)確定隱含變量及依賴關(guān)系，開發(fā)容噪的挖掘方法，以解決異質(zhì)數(shù)據(jù)集的數(shù)據(jù)挖掘問(wèn)題；如何更好地進(jìn)行文本數(shù)據(jù)挖掘、Web數(shù)據(jù)挖掘、分類系統(tǒng)、可視化系統(tǒng)、空間數(shù)據(jù)系統(tǒng)和分布式數(shù)據(jù)挖掘等新技術(shù)的應(yīng)用。因此，未來(lái)數(shù)據(jù)挖掘的研究表現(xiàn)在數(shù)據(jù)挖掘功能、工具、方法（算法） 的拓展與理論創(chuàng)新，其應(yīng)用的范圍和深度會(huì)進(jìn)一步加強(qiáng)。

參考文獻(xiàn)參考文獻(xiàn)：

[1]孟曉明.淺談數(shù)據(jù)挖掘技術(shù)[J].計(jì)算機(jī)應(yīng)用與軟件，2004 （8）.

[2]李慧芳，姚躍華，陳一棟.改進(jìn)的遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)優(yōu)化的分類[J].微計(jì)算機(jī)信息，2008（15）.

[3]王東龍，李茂青.基于遺傳算法的數(shù)據(jù)挖掘技術(shù)應(yīng)用[J].南昌大學(xué)學(xué)報(bào)， 2005（1）.

[4]宋仁國(guó).鋁合金工藝優(yōu)化的遺傳算法[J].材料科學(xué)與工程，1998（1）.

[5]韓力群.催化劑配方的神經(jīng)網(wǎng)絡(luò)建模與遺傳算法優(yōu)化[J].化工學(xué)報(bào)，1999（4）.

[6]郭崇慧，陸玉昌.預(yù)測(cè)型數(shù)據(jù)挖掘中的優(yōu)化方法[J].工程數(shù)學(xué)學(xué)報(bào)，2005（1）.

[7]楊杰.用于建模、優(yōu)化、故障診斷的數(shù)據(jù)挖掘技術(shù)[J].計(jì)算機(jī)集成制造系統(tǒng)，2000（10）.

篇6

關(guān)鍵詞：計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)；粒子群優(yōu)化算法；應(yīng)用

中圖分類號(hào)：TP183

粒子群優(yōu)化算法是一種相對(duì)簡(jiǎn)單、有效的隨機(jī)全局優(yōu)化技術(shù)，通過(guò)對(duì)粒子群優(yōu)化算法進(jìn)行相應(yīng)的改進(jìn)，以此確保其收斂性，然后再將粒子群優(yōu)化算法應(yīng)用到神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練中，能夠更有效的找出最優(yōu)化解。粒子群優(yōu)化算法和遺傳算法相比，粒子群優(yōu)化算法并沒(méi)有遺傳算法復(fù)雜的交叉、變異以及編碼，而是對(duì)粒子所在解空間的具置進(jìn)行搜索，不需要對(duì)眾多的參數(shù)進(jìn)行調(diào)整，其收斂速度相對(duì)較快。

1 粒子群優(yōu)化算法的基本原理以及優(yōu)化改進(jìn)

1.1 粒子群吧優(yōu)化算法的基本原理

PSO中，每一個(gè)優(yōu)化問(wèn)題的解都是搜集空間中的一個(gè)“粒子”的狀態(tài)，粒子群優(yōu)化算法是對(duì)群體的全局進(jìn)行考慮，通過(guò)迭代搜尋選取最優(yōu)值，通過(guò)將系統(tǒng)轉(zhuǎn)化成一組隨機(jī)的例子，由于例子在解空間追隨最優(yōu)的例子進(jìn)行湊所，所以粒子群優(yōu)化算法是一種具有全局尋優(yōu)能力的優(yōu)化工具。例子群優(yōu)化算法的基本原理表現(xiàn)為：假設(shè)在一個(gè)D維的目標(biāo)搜集中間中，由N個(gè)不同的粒子組成了一個(gè)特定的群體，其中第i個(gè)粒子表示成其在這個(gè)D維空間中的向量（xi），也就是該粒子在D為空間中的位置，每一個(gè)粒子的位置都存在一個(gè)特定的解，通過(guò)將xi帶入到相應(yīng)的目標(biāo)函數(shù)中，通過(guò)適當(dāng)?shù)暮瘮?shù)計(jì)算就能得到其適應(yīng)度值，然后根據(jù)該xi適應(yīng)度值的大小，以此衡量xi的優(yōu)劣程度。其中，第i個(gè)粒子飛行的速度表示D維中的另一個(gè)向量，表示為vi，將在D維空間中搜索到的第i個(gè)粒子的最有位置記錄為pi，則整個(gè)粒子群搜索到的最有位置pi的粒子群優(yōu)化算法表現(xiàn)為：公式一：vi=ci+c1r1（pi-xi）+c2r2（pg-xi）；公式二：vik+1=vik+c1×rand（）×（pbest-xik）+c2×rand（）×（gbest-xik）；公式三：xi=xi+vi，其中i=1，2，…N；r1和r2為學(xué)習(xí)因子，rand（）表示介于[0，1]之間的隨機(jī)常數(shù)，c1和c2表示為非負(fù)常數(shù)。其中迭代的終止條件是根據(jù)選擇的最大迭代次數(shù)決定的，表示的為第i個(gè)李在迄今為止搜索到的最優(yōu)化位置應(yīng)該滿足的適應(yīng)度的最小值。

從社會(huì)學(xué)角度方面來(lái)說(shuō)，粒子群優(yōu)化算法公式中的表示的是粒子的記憶項(xiàng)以及自身認(rèn)知項(xiàng)，能夠表示上次速度的方向以及大小對(duì)粒子造成的影響，還能夠?qū)?dāng)前的指向粒子當(dāng)作自身的最優(yōu)化矢量，以此表示粒子的動(dòng)作來(lái)源于自身的經(jīng)驗(yàn)，能夠反映粒子之間的協(xié)同作用以及知識(shí)共享，粒子能夠根據(jù)粒子群中相鄰粒子的最好經(jīng)驗(yàn)，然后再結(jié)合自身的經(jīng)驗(yàn)，以此來(lái)決定自身的下一步運(yùn)動(dòng)，從而形成PSO的標(biāo)準(zhǔn)形式。

1.2 粒子群優(yōu)化算法的改進(jìn)

粒子群粒子群優(yōu)化算法需要用戶確定的參數(shù)相對(duì)較少，并且其操作相對(duì)簡(jiǎn)單，因此該種方法使用起來(lái)非常方便，但是，由于粒子群優(yōu)化算法容易陷入局部極值點(diǎn)，導(dǎo)致搜索的收斂性相對(duì)較低，并且粒子群優(yōu)化算法的收斂性分析已經(jīng)收到眾多學(xué)者的重視，因此，為了增強(qiáng)粒子群優(yōu)化算法的收斂性，可以將抗體多樣性保持機(jī)制引入到粒子群優(yōu)化算法中，其步驟表現(xiàn)為：首先，確定參數(shù)值，記憶粒子個(gè)數(shù)M，即常數(shù)因子c1和c2粒子群的個(gè)數(shù)N，粒子的濃度概率選擇閥值Pi，其隨機(jī)產(chǎn)生的N個(gè)粒子xi的飛行速度表示為vi，以此計(jì)算粒子的適應(yīng)度函數(shù)值；根據(jù)公式計(jì)算粒子的選擇概率，將粒子群體中前M個(gè)最大適應(yīng)度的粒子當(dāng)作記憶細(xì)胞進(jìn)行儲(chǔ)存，將概率大于Pi的粒子根據(jù)相應(yīng)的方法進(jìn)行計(jì)算，從而把M個(gè)記憶細(xì)胞替換成適應(yīng)度最差的M個(gè)粒子，以此形成全新的粒子群，最終判斷其能付滿足相應(yīng)的選擇條件，如果滿足輸出適應(yīng)度值最好的要求，則選定該粒子。由此可見，通過(guò)上述的方法對(duì)粒子群優(yōu)算法進(jìn)行改進(jìn)，能夠保證粒子群優(yōu)化算法的精確性，并且通過(guò)實(shí)踐證明，經(jīng)過(guò)改進(jìn)后的粒子群優(yōu)化算法，其計(jì)算機(jī)的仿真結(jié)果顯示，該種粒子群優(yōu)化算法的收斂速度明顯優(yōu)于沒(méi)有改進(jìn)的粒子群優(yōu)化算法的收斂速度。

2 粒子群優(yōu)化算法在計(jì)算機(jī)審計(jì)網(wǎng)絡(luò)中的應(yīng)用

計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)能夠模擬大腦的思維能力，然后通過(guò)對(duì)各種數(shù)據(jù)進(jìn)行分析，從而建立其相應(yīng)的數(shù)學(xué)模型，計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中除了包含許多處理器以外，還包含了許多與人腦神經(jīng)相似的節(jié)點(diǎn)，這些節(jié)點(diǎn)按照一定的規(guī)律進(jìn)行連接。如果將計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中的每一個(gè)過(guò)程都細(xì)分為若干個(gè)微程序，并且將所有的微程序都交付于處理器進(jìn)行處理，那么處理器處理所有的微程序的過(guò)程，就是一條微程序的處理流水線，這樣計(jì)算機(jī)處理信息的速度也將會(huì)顯著的提高。粒子群優(yōu)化算法在計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中的應(yīng)用，包括的內(nèi)容有組合優(yōu)化、參數(shù)優(yōu)化、神經(jīng)網(wǎng)絡(luò)訓(xùn)練、學(xué)習(xí)算法、網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)和傳遞函數(shù)、鏈接權(quán)重等，通過(guò)把個(gè)體轉(zhuǎn)化成微粒，其中包括計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中的所有能夠用到的參數(shù)，然后經(jīng)過(guò)一些列的復(fù)雜、重復(fù)的程序，最終達(dá)到最終的訓(xùn)練目標(biāo)。相對(duì)于傳統(tǒng)的神經(jīng)訓(xùn)練法來(lái)說(shuō)，由于BP算法需要可微的函數(shù)以及梯度信息等大量的數(shù)據(jù)，只有通過(guò)大量的計(jì)算才能得到相應(yīng)的訓(xùn)練結(jié)果，其運(yùn)行難度較大、程序相對(duì)復(fù)雜，而采用離子群優(yōu)化算法，其處理信息的速度顯著的提升，能夠有效的克服其運(yùn)行效率低的問(wèn)題。粒子群優(yōu)化算法在計(jì)算機(jī)神經(jīng)系統(tǒng)網(wǎng)絡(luò)中的應(yīng)用，主要表現(xiàn)在兩個(gè)方面：其一，粒子區(qū)優(yōu)化算法在參數(shù)優(yōu)化中的應(yīng)用，能夠通過(guò)解決計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中的各種離散型問(wèn)題，從而進(jìn)行參數(shù)優(yōu)化；其二，粒子群優(yōu)化算法在組合優(yōu)化中的應(yīng)用，其中典型的應(yīng)用表現(xiàn)為其在工程經(jīng)濟(jì)問(wèn)題中的應(yīng)用，其能夠通過(guò)將各種資源進(jìn)行科學(xué)的組合，通過(guò)設(shè)置一定的約束條件對(duì)這些組合進(jìn)行排序，通過(guò)不斷的嘗試最終能夠找到最有效的解決方案，然后合理的利用所有的組合實(shí)現(xiàn)經(jīng)濟(jì)效益的最大化。此外，粒子群優(yōu)化算法不僅能夠應(yīng)用在計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中，還能夠應(yīng)用在更多的領(lǐng)域中，例如軟件編輯、游戲開發(fā)、電力系統(tǒng)等領(lǐng)域中。

3 結(jié)束語(yǔ)

文章對(duì)計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中粒子群優(yōu)化算法的應(yīng)用進(jìn)行了研究，對(duì)粒子群優(yōu)化算法進(jìn)行了相應(yīng)的改進(jìn)，有效的提高了粒子群優(yōu)化算法的收斂速度。將粒子群優(yōu)化算法應(yīng)用在計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中，其操作相對(duì)簡(jiǎn)單，比較容易實(shí)現(xiàn)，并且其還能夠更快的收斂于最優(yōu)解，有效的克服了傳統(tǒng)遺傳算法缺點(diǎn)。因此，在計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練中，廣泛的推廣和應(yīng)用粒子群優(yōu)化算法具有很大的現(xiàn)實(shí)意義。

參考文獻(xiàn)：

[1]丁玲，范平，聞彬.粒子群優(yōu)化算法在計(jì)算機(jī)神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[J].理論與算法，2013（17）：39-41.

[2]曹大有.一種免疫粒子群優(yōu)化算法及在小波神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)中的應(yīng)用[J].計(jì)算機(jī)應(yīng)用于軟件，2009（06）：189-192.

[3]劉愛軍，楊育，李斐.混沌模擬退火粒子群優(yōu)化算法研究及應(yīng)用[J].浙江大學(xué)學(xué)報(bào)（工學(xué)版），2013（10）：1722-1729.

[4]虞斌能，焦斌，顧幸生.改進(jìn)協(xié)同粒子群優(yōu)化算法及其在Flow Shop調(diào)度中的應(yīng)用[J].華東理工大學(xué)學(xué)報(bào)（自然科學(xué)版），2009（03）：468-474.

[5]劉寶寧，章衛(wèi)國(guó)，李廣文.一種改進(jìn)的多目標(biāo)粒子群優(yōu)化算法[J].北京航空航天大學(xué)學(xué)報(bào)，2013（04）：458-473.

篇7

關(guān)鍵詞： BP神經(jīng)網(wǎng)絡(luò)； 非線性方程組； 迭代算法； 誤差收斂

中圖分類號(hào)： TN911?34； TP183 文獻(xiàn)標(biāo)識(shí)碼： A 文章編號(hào)： 1004?373X（2013）08?0020?03

0 引 言

神經(jīng)網(wǎng)絡(luò)具有許多優(yōu)點(diǎn)，如大規(guī)模并行處理、分布式存儲(chǔ)以及網(wǎng)絡(luò)的計(jì)算時(shí)間復(fù)雜度幾乎為零等[1]，因此，神經(jīng)網(wǎng)絡(luò)的應(yīng)用已越來(lái)越廣泛。BP（Back Propagation）神經(jīng)網(wǎng)絡(luò)是采用誤差反向傳播學(xué)習(xí)算法的多層前饋神經(jīng)網(wǎng)絡(luò)，它是當(dāng)前獲得廣泛應(yīng)用的模型之一。BP算法的基本思想[2?4]是： 網(wǎng)絡(luò)學(xué)習(xí)由輸入信號(hào)的正向傳播和誤差的逆向傳播兩個(gè)過(guò)程組成。正向傳播過(guò)程是指樣本信號(hào)由輸入層輸入，經(jīng)網(wǎng)絡(luò)的權(quán)重、閾值和神經(jīng)元的轉(zhuǎn)移函數(shù)作用后，從輸出層輸出。

如果輸出值與期望值之間的誤差大于預(yù)期，則轉(zhuǎn)入誤差反向傳播階段，進(jìn)行修正，即誤差通過(guò)隱層向輸入層逐層返回。網(wǎng)絡(luò)的學(xué)習(xí)訓(xùn)練過(guò)程實(shí)質(zhì)就是根據(jù)輸出值與期望值之間的誤差不斷調(diào)整網(wǎng)絡(luò)權(quán)重和閾值的過(guò)程，直到網(wǎng)絡(luò)輸出誤差減小到允許值或到達(dá)設(shè)定的訓(xùn)練次數(shù)為止。由于 BP神經(jīng)網(wǎng)絡(luò)模型具有較強(qiáng)的隨機(jī)性和不確定性，很多研究對(duì)BP算法進(jìn)行改進(jìn)，并取得了大量的成果，具體參看文獻(xiàn)[5?6]，這些算法提高了BP神經(jīng)網(wǎng)絡(luò)在實(shí)際應(yīng)用中的可靠性，使得BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用范圍越來(lái)越廣泛。

神經(jīng)網(wǎng)絡(luò)求在求解非線性方程組中的應(yīng)用也有了較好的研究。文獻(xiàn)[7?9]研究了人工神經(jīng)網(wǎng)絡(luò)逼近非線性多元函數(shù)的可能性，得到了相應(yīng)于幾類特殊作用函數(shù)的神經(jīng)網(wǎng)絡(luò)逼近存在性定理， 這些定理保證了用單層神經(jīng)網(wǎng)絡(luò)逼近連續(xù)多元函數(shù)時(shí)，可達(dá)到任意的精確度。趙啟林等提出一種權(quán)值耦合的BP神經(jīng)網(wǎng)絡(luò)模型[10]，吳靈敏等提出了對(duì)形式為[x=f（x）]的多元非線方程組的神經(jīng)網(wǎng)絡(luò)求解方法[11]，趙華敏等利用能量函數(shù)降能的方法尋找方程組的根[12]。

這些方法對(duì)多變?cè)蔷€性方程函數(shù)形式有一定的要求。孫銀慧等利用迭代BP神經(jīng)網(wǎng)絡(luò)的逼近非線性方程組的函數(shù)的反函數(shù)的方法，提出了一種通用性較強(qiáng)的求解方法[13]。

本文對(duì)文獻(xiàn)[13]中所提出的方法進(jìn)行了分析研究，發(fā)現(xiàn)存在誤差收斂過(guò)早導(dǎo)致無(wú)窮跌代以及收斂值并非最小值的問(wèn)題，并對(duì)算法進(jìn)行了改進(jìn)。

1 迭代的ANN算法

1.1 非線性方程組

研究如下非線性方程組的數(shù)值解問(wèn)題[13]：

[y=f（x）] （1）

式中：[f：RnRn；x，y∈Rn]。

假設(shè)[x0=[x1，0，x2，0，...，xn，0]T]為它的一個(gè)解，[f（x）]的反函數(shù) [x=f-1（y）]存在，則有：

[f（x0）=0， x0=f-1（0）]（2） 盡管利用[f（x）=0]求解[x0]很不容易，但是若能求得[x=f-1（y）]，則可由式（2）方便求得式（1）的解[x0]。雖然[x=f-1（y）]的顯式表達(dá)式同樣不易求得，但如果能夠得到其映射數(shù)據(jù)，則可以利用各種擬合方法逼近[x=f-1（y）]，從而得到[x0]。這種映射數(shù)據(jù)可以由[y=f（x）]很方便的得到，因而非線性方程組（1）的求解問(wèn)題轉(zhuǎn)化為尋求一種好的擬合方法，利用已有的映射數(shù)據(jù)來(lái)精確逼近[x=f-1（y）]，采用人工神經(jīng)網(wǎng)路（ANN）加以實(shí)現(xiàn)。

1.2 迭代的神經(jīng)網(wǎng)絡(luò)算法

1.2.1 算法簡(jiǎn)介

文獻(xiàn)[13]中主要介紹了兩種方法，一種是簡(jiǎn)單的ANN方法，另外一種是迭代的ANN方法，詳見文獻(xiàn)[13]。在求解算法中，給定方程組（1）的解的存在區(qū)域D，經(jīng)過(guò)其中的算法1和算法2得到的輸出 [x0′=[x1，0′，x2，0′，....，xn，0′]T]近似為方程組（1）的解[x0]。

對(duì)于誤差的衡量，由于實(shí)際計(jì)算中[x0]并不可知，無(wú)法計(jì)算解誤差[|x0-x0′|]，用[Δ=||Δy||∞=max（Δyi）]，其中[Δyi=|yi，0-yi，0′|，][i=1，2，...，n]來(lái)衡量，其中[y0′=f（x0′）]。此處文獻(xiàn)中的[Δ]和[Δyi]的描述有誤，本文進(jìn)行了更正。在算法2的第2個(gè)步驟中，如果 [x0′∈D]，則縮小區(qū)域D，實(shí)際上根據(jù)文獻(xiàn)的實(shí)驗(yàn)數(shù)據(jù)的表2，作者并沒(méi)有縮小區(qū)域D，而是改變了D，本文作者也認(rèn)為在這種情況下沒(méi)有必要縮小D，只需要根據(jù)[x0′]改變D即可，這一點(diǎn)也體現(xiàn)在本文提出的改進(jìn)算法里。

1.2.2 算法實(shí)驗(yàn)分析

使用文獻(xiàn)[13]中的算例進(jìn)行方程組的求解：

[y1=f1（x）=2x31-x22-1=0y2=f2（x）=x1x32-x2-4=0] （3）

式中[x=[x1，x2]T，]該方程組的解為[x0=[x1，0，x2，0]T=]

[[1.234 3，1.661 5]T]。

采用兩個(gè)輸入的（10?2）BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，利用Matlab的工具箱實(shí)現(xiàn)，第二層隱層神經(jīng)元節(jié)點(diǎn)個(gè)數(shù)為10，使用變換函數(shù)選正切S型函數(shù)（tansig）；第三層為輸出層，節(jié)點(diǎn)個(gè)數(shù)為2，輸出層神經(jīng)元傳遞函數(shù)為purelin函數(shù)，并且選Levenberg?Marquardt算法（trainlm）為BP網(wǎng)絡(luò)的學(xué)習(xí)算法，訓(xùn)練次數(shù)100次，學(xué)習(xí)誤差為0.000 1。

按照文獻(xiàn)[13]所描述的迭代算法進(jìn)行實(shí)驗(yàn)，在不同初始化權(quán)重和閾值的情況下，在不同的區(qū)域D按照迭代的ANN算法進(jìn)行迭代求解。

大量的實(shí)驗(yàn)結(jié)果表明，在迭代求解的過(guò)程中[Δ]的并不是直線或者曲線下降的，而是按照波浪線下降并且最后穩(wěn)定于某一個(gè)值的，也就是[Δ]可能在達(dá)到[ε]之前就不再下降，并且最后的穩(wěn)定狀態(tài)的值并一定是[Δ]的最小值。

圖1是[Δ]隨著迭代次數(shù)n的變化曲線，橫坐標(biāo)軸為n，豎坐標(biāo)軸為[Δ]，在實(shí)驗(yàn)過(guò)程中，D的取值為：[x1∈[1：0.01：1.5]，x2∈[1.5：0.01：2]]，固定網(wǎng)絡(luò)結(jié)構(gòu)和初始化參數(shù)進(jìn)行迭代，當(dāng)n=20時(shí)[Δ]達(dá)到了最小值，當(dāng)n=35以后[Δ]便不再開始變化。改變區(qū)域D的值也有相同的試驗(yàn)結(jié)果。

圖2中D的取值為：

[x1∈[0：0.01：0.5]， x2∈[1.5：0.01：2]]

圖3中D的取值為：

[x1∈[0：0.01：0.5]， x2∈[2：0.01：2.5]]

圖4中D的取值：

[x1∈[1 000：0.01：1 000.5]， x2∈[2 000：0.01：2 000.5]時(shí)的][Δ]隨著迭代次數(shù)n的變化曲線。

2 迭代的方法的改進(jìn)

根據(jù)試驗(yàn)結(jié)果所標(biāo)明的[Δ]隨著迭代次數(shù)n的變化趨勢(shì)和收斂分析，原來(lái)的迭代算法會(huì)出現(xiàn)無(wú)窮迭代，或者不能找到最小[Δ]。因此對(duì)原來(lái)迭代算法進(jìn)行改進(jìn)。

（1）對(duì)[Δ]達(dá)到平穩(wěn)狀態(tài)的判斷。隨著迭代次數(shù)的增加，當(dāng)[Δ]的值不再發(fā)生變化時(shí)便中斷迭代過(guò)程以免進(jìn)入無(wú)休止的迭代求解。

（2）對(duì)[Δ]最小值的求解。由于當(dāng)[Δ]達(dá)到平穩(wěn)狀態(tài)時(shí)的值未必是最小值，因此在迭代過(guò)程中記錄[Δ]的最小值。當(dāng)[Δ]達(dá)到最小值的對(duì)應(yīng)的方程組的解被認(rèn)為是方程組的近似解。

①設(shè)寄存器 min_delta用來(lái)記錄[Δ]的最小值，寄存器min_x記錄[Δ]取最小值時(shí)方程組的解，給定區(qū)域D和允許誤差ε ，利用算法1[13]求得初步解[x0′]，[Δ]，用[Δ]初始化寄存器min_delta；

②根據(jù)[[x0′]]改變區(qū)域D，使得D滿足[[x0′]∈D]得到新的求解區(qū)域D；

③以D為新的求解區(qū)域，利用算法 1 求得新的解賦值給[x0′]，并計(jì)算誤差 [Δ]，如果[Δ]

利用改進(jìn)的算法對(duì)方程組進(jìn)行了求解，表1 為區(qū)域D分別為三種情況時(shí)實(shí)驗(yàn)的結(jié)果數(shù)據(jù)，[x1，0′]，[x2，0′]為[Δ]為最小時(shí)所求得近似解。結(jié)果表明在不知道[D0]的情況下，即使D偏離[D0]很遠(yuǎn)時(shí)，也就是給一個(gè)任意的樣本初始點(diǎn)，迭代過(guò)程也能使[Δ]收斂到一個(gè)較小值。比如D的取值為：[x1∈[800，800.5]，x2∈[800，800.5]]時(shí)，經(jīng)過(guò)85次迭代[Δ]達(dá)到一個(gè)穩(wěn)定值，并在n=43時(shí)，[Δ]達(dá)到最小值0.052 1，[x1，0′]=1.234 2，[x2，0′]=1.667 2。

3 結(jié) 語(yǔ)

本文主要研究利用BP神經(jīng)網(wǎng)絡(luò)可以逼近多變?cè)蔷€性方程組的函數(shù)的反函數(shù)，并利用迭代算法進(jìn)行求解方程組的根，這是是一種通用的解多變?cè)匠探M的方法。

對(duì)文獻(xiàn)[13]所提出的利用迭代神經(jīng)網(wǎng)絡(luò)求解多變?cè)蔷€性方程組的方法進(jìn)行了研究和實(shí)驗(yàn)分析，發(fā)現(xiàn)原算法可能由于誤差[Δ]過(guò)早收斂而出現(xiàn)無(wú)窮迭代，并且由于誤差并非一直隨迭代次數(shù)的增加直線或者曲線變小，因此收斂的誤差值并不一定是最小值。改進(jìn)算法并根據(jù)誤差[Δ]隨迭代次數(shù)的變化曲線對(duì)迭代算法進(jìn)行了改進(jìn)，試驗(yàn)結(jié)果表明給一個(gè)任意的樣本初始點(diǎn)，改進(jìn)的迭代算都能能使[Δ]收斂到一個(gè)較小值，并找出[Δ]取最小值時(shí)方程組的近似解，具有較高的工程應(yīng)用。由于網(wǎng)絡(luò)的初始化權(quán)重和閾值以及對(duì)網(wǎng)絡(luò)的迭代結(jié)果有重要的影響，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)與參數(shù)的選取和優(yōu)化是值得進(jìn)一步研究的問(wèn)題。

參考文獻(xiàn)

[1] 焦李成.神經(jīng)網(wǎng)絡(luò)系統(tǒng)理論[M].西安：西安電子科技大學(xué)出版社，1996：1? 25.

[2] 張立明.人工神經(jīng)網(wǎng)絡(luò)的模型及其應(yīng)用[M].上海：復(fù)旦大學(xué)出版社，1992.

[3] ABIYEV Rahib Hidayat， ALTUNKAYA Koray. Neural network based biometric personal identification with fast iris segmentation [J]. International Journal of Control， Automation， and Systems， 2009， 7 （1）： 17?23.

[4] YANG Li， SONG Ma?lin. Research on BP neural network for nonlinear economic modeling and its realization based on Matlab [C]// International Symposium on Intelligent Information Technology Application. [S.l.]： [s.n.]， 2009 ： 505?508.

[5] 蔣蓉蓉.一種基于遺傳算法的BP網(wǎng)絡(luò)改進(jìn)方法[J].微計(jì)算機(jī)信息，2007，23（11）：234?236.

[6] 王靜偉.BP神經(jīng)網(wǎng)絡(luò)改進(jìn)算法的研究[J].中國(guó)水運(yùn)，2008，8 （1）：157?158.

[7] CYBENKO G. Approximation by superpositions of a sigmidal function [J]. Math Contral Signals Systems， 1989， 2： 303?373.

[8] PALM G. On representation and approximation of nonlinear systems [J]. Discrete System Bid Cybernet， 1979， 34： 49?52.

[9] HECHT?NIELSEN R. Theory of the back propagation neural nerwork [C]// Proceedings of the International Joint Conference on Neural Nerworks. [S.l.]： IJCNN， 1989， 1： 593?608.

[10] 趙啟林，卓家壽.非線性方程組的耦合神經(jīng)網(wǎng)絡(luò)算法[J].河海大學(xué)學(xué)報(bào)，2000，28（5）：38?40.

[11] 吳靈敏，柳重堪.用神經(jīng)網(wǎng)絡(luò)解多元非線性方程組[J].北方交通大學(xué)學(xué)報(bào)，1997，21（2）：245?248.

篇8

關(guān)鍵詞：字符識(shí)別；BP神經(jīng)網(wǎng)絡(luò)；車牌識(shí)別

中圖分類號(hào)：TP391.41 文獻(xiàn)標(biāo)識(shí)碼：A

1 引言（Introduction）

汽車牌照的識(shí)別是計(jì)算機(jī)視覺與模式識(shí)別應(yīng)用于的重要研究課題，車牌識(shí)別的準(zhǔn)確率和高效性是識(shí)別的關(guān)鍵。由于車牌圖像難免會(huì)受到光照、天氣等因素影響，車牌圖像質(zhì)量會(huì)有所下降，為了對(duì)車牌字符的進(jìn)行有效地識(shí)別，首先要對(duì)其進(jìn)行去噪、增強(qiáng)等預(yù)處理，之后應(yīng)用識(shí)別算法對(duì)其進(jìn)行識(shí)別[1]。本文研究了用BP神經(jīng)網(wǎng)絡(luò)方法對(duì)汽車牌照字符的識(shí)別算法。首先對(duì)分割、歸一化后的字符特征進(jìn)行提取，所提取的特征向量記錄的就是字符的特征。把這個(gè)特征向量送到BP網(wǎng)絡(luò)中進(jìn)行訓(xùn)練，就可以得到訓(xùn)練好的權(quán)值，用這個(gè)權(quán)值對(duì)車牌字符進(jìn)行識(shí)別。對(duì)于車牌圖像的識(shí)別率達(dá)90%以上，表明該方法是有效的。

2 字符識(shí)別的原理（The principle of character

recognition）

字符識(shí)別的基本原理即對(duì)字符進(jìn)行匹配識(shí)別。提取代表未知字符基本特征、結(jié)構(gòu)的樣本庫(kù)和提前在計(jì)算機(jī)中保存的標(biāo)準(zhǔn)字符的字典（字符基本特征和結(jié)構(gòu)的集合），在一定的規(guī)則下逐個(gè)匹配比較。在計(jì)算機(jī)中保存的標(biāo)準(zhǔn)字符的字典中，尋找與輸入字符樣本最相似的表達(dá)項(xiàng)，然后找出對(duì)應(yīng)的字符就是識(shí)別的結(jié)果[2]。字符識(shí)別的原理框圖如圖1所示。

3 BP神經(jīng)網(wǎng)絡(luò)字符識(shí)別算法（The BP neural network

character recognition algorithm）

BP算法基本原理是利用輸出后的誤差來(lái)估計(jì)輸出層的直接前導(dǎo)層的誤差，再用這個(gè)誤差估計(jì)更前一層的誤差，如此一層一層的反傳下去，就獲得了所有其他各層的誤差估計(jì)[3]。對(duì)BP網(wǎng)絡(luò)的設(shè)計(jì)要點(diǎn)是高效率的特征提取方法、具有代表性的大量訓(xùn)練樣本和穩(wěn)定高效的學(xué)習(xí)方法。

3.1 BP神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)算法

算法的基本流程就是：

（1）設(shè)置變量和參量，包括輸入向量（訓(xùn)練樣本和樣本個(gè)數(shù)）、每次迭代中輸入層和隱含層之間、隱含層與隱含層之間、隱含層與輸出層之間的權(quán)值向量矩陣、迭代次數(shù)、每次迭代的實(shí)際輸出、期望輸出和學(xué)習(xí)效率。

（2）隨機(jī)初始化權(quán)值矩陣。給三類權(quán)值矩陣賦一個(gè)相對(duì)較小的隨機(jī)非零值。

（3）進(jìn)行樣本輸入。采用隨機(jī)輸入的方法。

（4）前向傳播。按照公式一層一層的前向計(jì)算隱藏神經(jīng)元和輸出神經(jīng)元的輸入和輸出。

（5）誤差計(jì)算，判斷。根據(jù)每次迭代的期望值和實(shí)際輸出結(jié)果算出誤差，判斷誤差值滿足要求與否，如果滿足進(jìn)行第8步，否則進(jìn)行下一步。

（6）迭代次數(shù)判斷。如果已經(jīng)達(dá)到最大的迭代次數(shù)，則進(jìn)行第8步，否則進(jìn)行反響傳播，即反向按照公式一層層迭代計(jì)算每層神經(jīng)元的局部梯度。

（7）權(quán)值更新。依據(jù)反向傳播過(guò)程計(jì)算出的局部梯度值，計(jì)算出各矩陣的權(quán)值修正值，并進(jìn)行修正。

（8）終止判斷。終止條件為：所有的樣本都學(xué)習(xí)完成。否則進(jìn)行第3步。

3.2 實(shí)際使用BP神經(jīng)網(wǎng)絡(luò)過(guò)程中的一些問(wèn)題

①樣本的處理?？蛇m當(dāng)放寬輸出條件，例如當(dāng)輸出大于0.9時(shí)就當(dāng)作是1，輸出小于0.1時(shí)當(dāng)作0。對(duì)于輸入樣本，也應(yīng)該進(jìn)行歸一化處理。

②初始化權(quán)值的選擇。權(quán)值的不同對(duì)學(xué)習(xí)結(jié)果會(huì)產(chǎn)生影響，因此選擇一個(gè)相對(duì)比較合理的權(quán)值是非常重要的。實(shí)際使用時(shí)，應(yīng)該用較小的隨機(jī)數(shù)來(lái)對(duì)權(quán)值進(jìn)行初始化，隨機(jī)數(shù)的大小的分布也應(yīng)該是均勻的。

③學(xué)習(xí)率的選擇。神經(jīng)網(wǎng)絡(luò)中有一個(gè)學(xué)習(xí)率的概念，為了保證系統(tǒng)的穩(wěn)定性，通常應(yīng)該取較小的學(xué)習(xí)率，一般選取范圍在0.01―0.8。如果學(xué)習(xí)率過(guò)大，可能會(huì)導(dǎo)致系統(tǒng)不穩(wěn)定。如果學(xué)習(xí)率過(guò)小，會(huì)使得學(xué)習(xí)時(shí)間變長(zhǎng)，收斂也會(huì)變慢。

3.3 BP神經(jīng)網(wǎng)絡(luò)應(yīng)用過(guò)程

BP神經(jīng)網(wǎng)絡(luò)應(yīng)用過(guò)程如圖2所示。

3.4 BP網(wǎng)絡(luò)三個(gè)層的神經(jīng)元數(shù)目的確定

目前還沒(méi)有什么成熟的定理能確定各層神經(jīng)元的神經(jīng)元個(gè)數(shù)和含有幾層網(wǎng)絡(luò)，大量經(jīng)驗(yàn)表明，三層的網(wǎng)絡(luò)可以逼近任意一個(gè)非線性網(wǎng)絡(luò)。

首先，使用已知的樣本對(duì)BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練。對(duì)于輸入層的結(jié)點(diǎn)，其數(shù)目是之前車牌圖像預(yù)處理后輸出特征的維數(shù)。

對(duì)于隱含層的結(jié)點(diǎn)數(shù)目，一般情況下，隱含層神經(jīng)元數(shù)目和BP網(wǎng)絡(luò)精確度成正比，數(shù)目越多，神經(jīng)網(wǎng)絡(luò)的訓(xùn)練時(shí)間也會(huì)越長(zhǎng)。但是，當(dāng)隱含層神經(jīng)元數(shù)目過(guò)大時(shí)，識(shí)別的準(zhǔn)確率就會(huì)受到影響，同時(shí)也會(huì)使得網(wǎng)絡(luò)的抗噪聲能力下降[4]。綜合考慮上述情況，根據(jù)以往經(jīng)驗(yàn)，使用10個(gè)隱含層的神經(jīng)元。

對(duì)于輸出層結(jié)點(diǎn)數(shù)目，受輸入層結(jié)點(diǎn)數(shù)的約束。本文中，我們采用8421碼對(duì)數(shù)字0―9，字母A―Z，省名簡(jiǎn)稱“京津滬冀魯豫鄂蘇皖晉湘桂閩川浙甘寧陜吉遼臺(tái)”依次進(jìn)行編碼。例如，對(duì)于輸出“1”，表示為（0，0，0，0，0，1），對(duì)于輸出“A”，表示為（0，0，1，0，1，0），對(duì)于輸出“京”，表示為（1，0，0，1，0，0）。因此，采用6個(gè)輸出層神經(jīng)元。

然而，實(shí)驗(yàn)中發(fā)現(xiàn)，當(dāng)使用上述結(jié)構(gòu)的標(biāo)準(zhǔn)輸出向量時(shí)，會(huì)出現(xiàn)BP神經(jīng)網(wǎng)絡(luò)無(wú)法收斂的問(wèn)題。原因在于BP網(wǎng)絡(luò)學(xué)習(xí)中采用的激活函數(shù)的輸出只可能無(wú)限接近1或0，但不會(huì)是1或0。針對(duì)這個(gè)問(wèn)題，對(duì)標(biāo)準(zhǔn)輸出向量的編碼方式進(jìn)行如下調(diào)整：用0.1代替0，用0.9代替1。即對(duì)于輸出“0”，表示為（0.1，0.1，0.1，0.1，0.1，0.1），對(duì)于輸出“1”，表示為（0.1，0.1，0.1，0.1，0.1，0.9），對(duì)于輸出“A”，表示為（0.1，0.1，0.9，0.1，0.9，0.1），對(duì)于輸出“京”，表示為（0.9，0.1，0.1，0.9，0.1，0.1），以此類推。

3.5 BP神經(jīng)網(wǎng)絡(luò)識(shí)別字符的流程

使用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行字符識(shí)別，實(shí)際上可看作是訓(xùn)練和識(shí)別兩個(gè)過(guò)程。其中，訓(xùn)練就是提取訓(xùn)練樣本的特征向量。第一步，將挑選好的圖像形式的已知數(shù)據(jù)作為訓(xùn)練樣本，這些已知數(shù)據(jù)能夠很好的反應(yīng)樣本的可分性。第二步，在訓(xùn)練樣本圖像經(jīng)過(guò)進(jìn)行特征提取操作后送入BP網(wǎng)絡(luò)中進(jìn)行訓(xùn)練。訓(xùn)練之前，要提前輸入一系列訓(xùn)練參數(shù)。

經(jīng)過(guò)BP網(wǎng)絡(luò)的訓(xùn)練后，就可以用其對(duì)待識(shí)別數(shù)據(jù)進(jìn)行識(shí)別。待識(shí)別數(shù)據(jù)在經(jīng)過(guò)灰度化、二值化、歸一化、分割等預(yù)處理操作后，再經(jīng)過(guò)特征向量提取，最后在BP網(wǎng)絡(luò)中進(jìn)行識(shí)別，得出識(shí)別結(jié)果。

3.6 實(shí)驗(yàn)結(jié)果

實(shí)驗(yàn)中采用了在不同環(huán)境下拍攝到的100張車牌圖像，這些牌照的清晰程度、區(qū)域大小都不相同，按照前文所述BP神經(jīng)網(wǎng)絡(luò)算法進(jìn)行模擬實(shí)驗(yàn)。根據(jù)表1所示識(shí)別結(jié)果，由于個(gè)別字母與數(shù)字之間有相似之處，導(dǎo)致其識(shí)別率相對(duì)較低，分別為95.9%、96.2%。而車牌中漢子字符數(shù)量很少，且特征相對(duì)比較明顯，使得其識(shí)別率相對(duì)較高，實(shí)驗(yàn)結(jié)果為98.0%。

4 結(jié)論（Conclusion）

基于BP神經(jīng)網(wǎng)絡(luò)的車牌字符識(shí)別方法，對(duì)于比較清晰的車牌圖像，本方法能有效識(shí)別其中的字符，但對(duì)于較低解析度和較為模糊的車牌還需要進(jìn)行很多預(yù)處理的工作，因?yàn)楸仨殞④嚺浦械淖址?dú)立地被分割后，才能用該方法進(jìn)行識(shí)別。而事實(shí)上，在那些圖像不夠清晰的車牌上分割出獨(dú)立的字符也是特別困難的。雖然，BP神經(jīng)網(wǎng)絡(luò)在識(shí)別效果上提高的余地較大，具有較強(qiáng)的容錯(cuò)能力，還可進(jìn)一步訓(xùn)練學(xué)習(xí)，識(shí)別率較高，但其識(shí)別速度較慢，不能滿足實(shí)時(shí)性的要求。

參考文獻(xiàn)（References）

[1] 郭榮燕，胡雪惠.BP神經(jīng)網(wǎng)絡(luò)在車牌字符識(shí)別中的應(yīng)用[J].計(jì)

算機(jī)仿真，2010（9）：299-301；350.

[2] 劉靜.幾種車牌字符識(shí)別算法的比較[J].電腦與電信，2008（8）：

72-73；78.

[3] 石云.BP神經(jīng)網(wǎng)絡(luò)的Matlab實(shí)現(xiàn)[J].湘南學(xué)院學(xué)報(bào)，2010（5）：86-

88；111.

[4] 尹念東.BP神經(jīng)網(wǎng)絡(luò)的應(yīng)用設(shè)計(jì)[J].信息技術(shù)，2003（6）：18-20.

作者簡(jiǎn)介：

篇9

[關(guān)鍵詞] 小生境遺傳算法 神經(jīng)網(wǎng)絡(luò) 股票 預(yù)測(cè)

一、引言

股票和股票市場(chǎng)對(duì)國(guó)家企業(yè)的經(jīng)濟(jì)發(fā)展起到了積極的作用，如可以為投資者開拓投資渠道，增強(qiáng)投資的流動(dòng)性和靈活性等。但股票價(jià)格的形成機(jī)制是頗為復(fù)雜的，股票價(jià)格既受到多種因素，諸如:政治，經(jīng)濟(jì)，市場(chǎng)因素的影響，亦受技術(shù)和投資者行為因素的影響，個(gè)別因素的波動(dòng)作用都可能會(huì)影響到股票價(jià)格的劇烈波動(dòng)。因此，股票價(jià)格和各影響因素之間很難直接建立明確的函數(shù)關(guān)系表達(dá)式。針對(duì)這一情況，將可有效處理非線性問(wèn)題的神經(jīng)網(wǎng)絡(luò)引入到股票價(jià)格的預(yù)測(cè)中來(lái)，但神經(jīng)網(wǎng)絡(luò)收斂慢,易陷入局部極小點(diǎn)，出現(xiàn)振蕩，魯棒性差。所以有的學(xué)者用遺傳算法(ga)來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)，這種神經(jīng)網(wǎng)絡(luò)可能獲得個(gè)別的甚至局部的最優(yōu)解,即ga早熟現(xiàn)象。本文引進(jìn)能較有效地保持種群多樣性的小生境遺傳算法(nga),采用nga優(yōu)化與用ga優(yōu)化的bp網(wǎng)絡(luò)權(quán)值進(jìn)行對(duì)比,證實(shí)了nga的判別準(zhǔn)確性和尋優(yōu)能力。

二、小生境遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)

1.bp神經(jīng)網(wǎng)絡(luò)

反向傳播(bp)算法又稱為誤差逆?zhèn)鞑バＵ椒?，它?974年p.werbos(哈佛大學(xué))提出的。133229.CoMbp算法用來(lái)訓(xùn)練多層前饋神經(jīng)網(wǎng)絡(luò),屬于監(jiān)督學(xué)習(xí)算法。bp網(wǎng)絡(luò)具有結(jié)構(gòu)清晰，易實(shí)現(xiàn)，計(jì)算功能強(qiáng)大等特點(diǎn)。因而是目前最常見，使用最廣泛的一種神經(jīng)網(wǎng)絡(luò)。但是在實(shí)際應(yīng)用中，傳統(tǒng)的bp算法存在以下問(wèn)題:收斂速度慢;若加快收斂速度易產(chǎn)生振蕩；存在局部極小和平臺(tái)問(wèn)題;泛化能力差;隱節(jié)點(diǎn)數(shù)和初始值的選取缺乏理論指導(dǎo);未考慮樣本選擇對(duì)系統(tǒng)學(xué)習(xí)的影響等。所以很多學(xué)者提出許多改進(jìn)的方法，用小生境遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值的神經(jīng)網(wǎng)絡(luò)來(lái)預(yù)測(cè)股票價(jià)格。

2.小生境遺傳算法

小生境遺傳算法(iche genetical gorihm)的基本思想是:首先比較任意兩個(gè)個(gè)體間的距離與給定值的大小，若該距離小于給定值，則比較其適應(yīng)值大小。對(duì)適應(yīng)值較小的個(gè)體施加一個(gè)較強(qiáng)的懲罰，極大地降低其適應(yīng)值。也就是說(shuō)，在距離l內(nèi)將只有一個(gè)優(yōu)良個(gè)體，從而既維護(hù)了群體的多樣性，又使得各個(gè)體之間保持一定的距離，并使得個(gè)體能夠在整個(gè)約束空間中分散開來(lái)。

3.神經(jīng)網(wǎng)絡(luò)連接權(quán)的優(yōu)化

用小生境遺傳算法可以優(yōu)化神經(jīng)網(wǎng)絡(luò)連接權(quán)，神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，學(xué)習(xí)規(guī)則等，這里我們對(duì)神經(jīng)網(wǎng)絡(luò)的連接權(quán)進(jìn)行優(yōu)化，具體步驟如下：

（1）隨機(jī)產(chǎn)生一組權(quán)值分布，采用某種編碼方案對(duì)該組中的每個(gè)權(quán)值(或閾值)進(jìn)行編碼，進(jìn)而構(gòu)造出一個(gè)碼串(每個(gè)碼串代表網(wǎng)絡(luò)的一種權(quán)值分布)，在網(wǎng)絡(luò)結(jié)構(gòu)和學(xué)習(xí)規(guī)則已確定的前提下,該碼串就對(duì)應(yīng)一個(gè)權(quán)值和閾值取特定值的一個(gè)神經(jīng)網(wǎng)絡(luò)。

（2)對(duì)所產(chǎn)生的神經(jīng)網(wǎng)絡(luò)計(jì)算它的誤差函數(shù)，從而確定其適應(yīng)度函數(shù)值，誤差越大,則適應(yīng)度越小。

（3)選擇若干適應(yīng)度函數(shù)值最大的個(gè)體,直接遺傳給下一代。

（4)利用交叉和變異等遺傳操作算子對(duì)當(dāng)前一代群體進(jìn)行處理，產(chǎn)生下一代群體。

（5)重復(fù)（2）（3）（4），使初始確定的一組權(quán)值分布得到不斷地進(jìn)化,直到訓(xùn)練目標(biāo)得到滿足為止。

這種由小生境遺傳算法訓(xùn)練神經(jīng)網(wǎng)絡(luò)的方法也可以稱做混和訓(xùn)練法。將基于小生境遺傳算法的遺傳進(jìn)化方法和基于梯度下降的反傳訓(xùn)練相結(jié)合,這種訓(xùn)練方法吸取兩種方法的各自特點(diǎn)，所以收斂速度快。

三、股票價(jià)格預(yù)測(cè)仿真

根據(jù)經(jīng)驗(yàn)選取輸入預(yù)測(cè)日前四天開盤價(jià)、收盤價(jià)歸一化后做為作為輸入量，輸出為第五天收盤價(jià)歸一化數(shù)值。所以，本文采用神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)為(8,5,1),即網(wǎng)絡(luò)的輸入層6個(gè)節(jié)點(diǎn),隱含層9個(gè)節(jié)點(diǎn),輸出層1個(gè)節(jié)點(diǎn)。本文選擇了“xdg 新梅（600732）”從2006年3月14日到2006年7月1日數(shù)據(jù)進(jìn)行了仿真。利用matlab6.5編程，取70組訓(xùn)練樣本和30組測(cè)試樣本。如圖（1）表示用遺傳算法和小生境遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行優(yōu)化時(shí)，誤差曲線變化;從圖中可以看出，小生境遺傳算法收斂速度要快;圖（2）表示股票預(yù)測(cè)值和實(shí)際值比較，從圖中可以看出，遺傳算法和小生境遺傳算法對(duì)神經(jīng)網(wǎng)絡(luò)的權(quán)值的模型進(jìn)行股票價(jià)格的預(yù)測(cè)，都能預(yù)測(cè)出股票走向趨勢(shì)，但是，后者的預(yù)測(cè)精度顯然要比前者高。

四、結(jié)束語(yǔ)

股票市場(chǎng)的不確定因素太多，股票的價(jià)格更是多種因素影響的集合體，是典型的非線性動(dòng)力學(xué)問(wèn)題。股票價(jià)格的中長(zhǎng)期準(zhǔn)確預(yù)測(cè)很難。本文建立了用小生境遺傳算來(lái)優(yōu)化神經(jīng)網(wǎng)絡(luò)模型來(lái)預(yù)測(cè)股票價(jià)格，結(jié)果表明，這種方法比單用遺傳算法優(yōu)化的神經(jīng)網(wǎng)絡(luò)收斂速度快，預(yù)測(cè)精度高。對(duì)于股票價(jià)格預(yù)測(cè)具有較好的應(yīng)用價(jià)值。

參考文獻(xiàn):

[1]龍建成李小平:基于神經(jīng)網(wǎng)絡(luò)的股票市場(chǎng)趨勢(shì)預(yù)測(cè)[j].西安電子科技大學(xué)學(xué)報(bào)(自然科學(xué)版.2005.3（32）:460-463

[2]王波張鳳玲:神經(jīng)網(wǎng)絡(luò)與時(shí)間序列模型在股票預(yù)測(cè)中的比較[j].第27卷第6期武漢理工大學(xué)學(xué)報(bào)·信息與管理工程版.2005.9（27）:69-72

篇10

關(guān)鍵詞：神經(jīng)網(wǎng)絡(luò)；Adaboost算法；強(qiáng)預(yù)測(cè)器；迭代算法；稅收預(yù)測(cè)

中圖分類號(hào)： TP183

文獻(xiàn)標(biāo)志碼：A

Tax forecasting based on Adaboost algorithm and BP neural network

LI Xiang*， ZHU Quan-yin

Faculty of Computer Engineering， Huaiyin Institute of Technology， Huai’an Jiangsu 223003， China

Abstract：

In view of the lower accuracy of traditional tax forecasting models， the authors put forward a method of combining the Adaboost algorithm with BP neural network to forecast revenue. Firstly， the method performed the pretreatment for the historical tax data and initialized the distribution weights of test data； secondly， it initialized the weights and thresholds of BP neural network， and used BP neural network as a weak predictor to train the tax data repeatedly and adjust the weights； finally， it made more weak predictors of BP neural network to form new strong predictors by Adaboost algorithm and forecasted. The authors also carried out simulation experiment for the tax data of China from 1990 to 2010. The results show that this method has reduced the relative value of mean error from 0.50% to 0.18% compared to the traditional BP network， has effectively reduced the effect when single BP gets trapped in local minima， and has improved the prediction accuracy of network.

英文關(guān)鍵詞　Key words：

neural network； Adaboost algorithm；strong predictor；iterative algorithm； tax forecasting

0 引言

稅收是實(shí)施財(cái)政政策的重要工具，也是聯(lián)系宏微觀經(jīng)濟(jì)的一種紐帶。作為國(guó)家宏觀調(diào)控體系的重要組成部分，稅收也是國(guó)家駕馭市場(chǎng)經(jīng)濟(jì)最主要、最有效、最常用的手段之一[1]。因此，稅收預(yù)測(cè)的科學(xué)性和準(zhǔn)確性具有重要的研究?jī)r(jià)值。

稅收數(shù)據(jù)是一種動(dòng)態(tài)、非線性的時(shí)間序列數(shù)據(jù)，受到政治、經(jīng)濟(jì)、文化等因素影響，稅收數(shù)據(jù)的預(yù)測(cè)精度主要取決于預(yù)測(cè)算法。國(guó)內(nèi)外學(xué)者當(dāng)前對(duì)稅收預(yù)測(cè)的研究方法，主要集中于基于線性回歸方法、時(shí)間序列分析方法和神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)方法。文獻(xiàn)[2]采用線性回歸方法對(duì)稅收進(jìn)行預(yù)測(cè)，由于影響稅收預(yù)測(cè)的因素較多，且這些因素之間表現(xiàn)出較強(qiáng)的非線性特征，所以線性回歸模型預(yù)測(cè)的精度不高。文獻(xiàn)[3-4]中提出使用反向反饋傳播（Back Propagation，BP）神經(jīng)網(wǎng)絡(luò)進(jìn)行稅收預(yù)測(cè)，但該方法沒(méi)有克服傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)存在的缺陷，容易陷入局部極小值，算法收斂速度較慢。文獻(xiàn)[5-6]中提出使用Elman神經(jīng)網(wǎng)絡(luò)進(jìn)行稅收預(yù)測(cè)，取得了比傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)更高的預(yù)測(cè)精度。但由于Elman神經(jīng)網(wǎng)路的學(xué)習(xí)過(guò)程與前饋神經(jīng)網(wǎng)絡(luò)類似，也會(huì)出現(xiàn)收斂速度慢和易收斂到局部極小的缺陷，導(dǎo)致預(yù)測(cè)結(jié)果不穩(wěn)定[7]。

本文針對(duì)上述問(wèn)題，提出基于Adaboost算法和BP神經(jīng)網(wǎng)絡(luò)的稅收預(yù)測(cè)方法，并將該方法應(yīng)用于我國(guó)1990—2010年稅收數(shù)據(jù)仿真實(shí)驗(yàn)，證明了本文方法的有效性。

1 BP神經(jīng)網(wǎng)絡(luò)與Adaboost算法

1.1 BP神經(jīng)網(wǎng)絡(luò)原理

BP網(wǎng)絡(luò)是典型的前饋神經(jīng)網(wǎng)絡(luò)，其權(quán)值訓(xùn)練中采用誤差逆向傳播的方式，具有非線性連續(xù)有理函數(shù)的逼近功能[8]。在信號(hào)前向傳遞過(guò)程中，輸入信號(hào)從輸入層進(jìn)入，經(jīng)過(guò)隱含層處理，到達(dá)輸出層。每一層的神經(jīng)元狀態(tài)只影響下一層的神經(jīng)元狀態(tài)。判斷輸出層的結(jié)果是否為期望輸出，如果不是，則轉(zhuǎn)入反向傳播，然后根據(jù)預(yù)測(cè)誤差調(diào)整網(wǎng)絡(luò)權(quán)值和閾值，從而使BP神經(jīng)網(wǎng)絡(luò)預(yù)測(cè)輸出不斷逼近期望輸出[9]。由于結(jié)構(gòu)簡(jiǎn)單，可調(diào)參數(shù)多，訓(xùn)練算法多，操控性好，BP 神經(jīng)網(wǎng)絡(luò)獲得了廣泛的實(shí)際應(yīng)用[10]。BP神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)如圖1所示。