導(dǎo)語：如何才能寫好一篇神經(jīng)網(wǎng)絡(luò)的權(quán)值，這就需要搜集整理更多的資料和文獻(xiàn)，歡迎閱讀由公務(wù)員之家整理的十篇范文，供你借鑒。

篇1

關(guān)鍵詞： 網(wǎng)絡(luò)流量檢測； 群智能算法； RBF神經(jīng)網(wǎng)絡(luò)； 網(wǎng)絡(luò)安全

中圖分類號： TN926?34； TP393 文獻(xiàn)標(biāo)識碼： A 文章編號： 1004?373X（2016）20?0012?03

Abstract： The application of swarm intelligence optimizing neural network in network security and a network traffic detection model based on neural network algorithm are studied in this paper. QAPSO algorithm is used to optimize the basis function center and base function width of RBF neural network， and the connection weights of the output layer and the hidden layer as well. The detection model studied in this paper is analyzed by means of an example. The collected data is used to train the network traffic identification system and test its performance. The method researched in this paper is compared with the algorithms based on the conventional PSO and HPSO. The results show that the detection method has a faster recognition speed and better recognition accuracy， and can avoid the occurrence of local optimal solutions.

Keywords： network traffic detection； swarm intelligence algorithm； RBF neural network； network security

0 引 言

隨著互聯(lián)網(wǎng)技術(shù)不斷發(fā)展和普及，互聯(lián)網(wǎng)絡(luò)中的應(yīng)用和服務(wù)類型不斷增加，為了提高網(wǎng)絡(luò)安全，保護(hù)網(wǎng)民、公司企業(yè)以及政府部門等的財(cái)產(chǎn)與利益，需要對網(wǎng)絡(luò)流量進(jìn)行高效的監(jiān)測[1?2]。

RBF神經(jīng)網(wǎng)絡(luò)具有強(qiáng)大的非線性擬合能力，即非線性映射能力，以及自學(xué)能力，同時(shí)便于計(jì)算機(jī)實(shí)現(xiàn)，因而在網(wǎng)絡(luò)流量檢測等網(wǎng)絡(luò)安全領(lǐng)域得到了廣泛應(yīng)用。但是RBF神經(jīng)網(wǎng)絡(luò)的性能特別依賴網(wǎng)絡(luò)參數(shù)選取的好壞，而傳統(tǒng)RBF神經(jīng)網(wǎng)絡(luò)參數(shù)通常由人為按經(jīng)驗(yàn)或隨機(jī)選取，因此網(wǎng)絡(luò)的性能具有較強(qiáng)的隨機(jī)性[3?4]。

近年來，群智能優(yōu)化算法逐漸發(fā)展并得到較為廣泛的應(yīng)用，其中粒子群優(yōu)化算法是一種能夠全局優(yōu)化，具有建模速度快、收斂效率高的群智能優(yōu)化算法，然而使用常規(guī)PSO算法優(yōu)化神經(jīng)網(wǎng)絡(luò)仍然存在收斂速度和全局優(yōu)化能力不能夠達(dá)到平衡等問題[5?7]。因此本文研究一種基于量子自適應(yīng)粒子群優(yōu)化算法（QAPSO），對RBF神經(jīng)網(wǎng)絡(luò)的基函數(shù)中心[Ci]、基函數(shù)的寬度[σi]以及輸出層與隱含層的連接權(quán)值[wi]進(jìn)行優(yōu)化。

1 基于群智能優(yōu)化的神經(jīng)網(wǎng)絡(luò)算法

本文研究的QAPSO優(yōu)化算法主要分為4部分，分別為初始化種群、估計(jì)進(jìn)化狀態(tài)、控制參數(shù)自適應(yīng)以及處理變異[8]。

1.1 初始化種群

2 實(shí)例分析

為驗(yàn)證本文建立基于QAPSO優(yōu)化RBF神經(jīng)網(wǎng)絡(luò)的網(wǎng)絡(luò)流量檢測模型的性能，使用基于Libsvm軟件包的C#程序并結(jié)合數(shù)值計(jì)算軟件Matlab R2014對網(wǎng)絡(luò)流量進(jìn)行采集、計(jì)算以及分類。網(wǎng)絡(luò)流量檢測類型如表2所示。

表2 網(wǎng)絡(luò)流量檢測類型

使用常規(guī)PSO優(yōu)化算法及HPSO優(yōu)化算法對RBF神經(jīng)網(wǎng)絡(luò)進(jìn)行優(yōu)化，并建立同樣的網(wǎng)絡(luò)流量檢測模型，使用同樣的訓(xùn)練數(shù)據(jù)樣本進(jìn)行訓(xùn)練，使用同樣的測試數(shù)據(jù)樣本進(jìn)行性能測試。常規(guī)PSO優(yōu)化算法的參數(shù)為空間維度[D=24]，粒子數(shù)量[N=30]，最大迭代次數(shù)[tmax=200]，連接權(quán)值[w=0.9～0.4]，加速系數(shù)[c1]和[c2]均為2。HPSO優(yōu)化算法的參數(shù)為空間維度[D=24]，粒子數(shù)量[N=30]，最大迭代次數(shù)[tmax=200]，連接權(quán)值[w=0.8～0.2]，加速系數(shù)[c1]和[c2]均為2.5，[Vmaxd=0.5×Range]。QAPSO算法的參數(shù)為空間維度[D=24]，粒子數(shù)量[N=30]，最大迭代次數(shù)[tmax=200]，連接權(quán)值[w=0.8～0.2]，加速系數(shù)[c1]和[c2]為1.5～2.5，[Vmaxd=Range]，[r1d]和[r2d]為0～1之間的隨機(jī)數(shù)。

從圖1可以看出，常規(guī)PSO優(yōu)化算法使得適應(yīng)度函數(shù)收斂到穩(wěn)定值時(shí)的迭代次數(shù)為171次，HPSO優(yōu)化算法使用了112次，而本文研究的QAPSO優(yōu)化算法只使用了76次。同時(shí)，本文研究的QAPSO優(yōu)化算法的收斂值更低，適應(yīng)度函數(shù)的值即為RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練誤差，因此適應(yīng)度函數(shù)越小，RBF神經(jīng)網(wǎng)絡(luò)的訓(xùn)練誤差越小，性能越好。因此，本文研究的QAPSO優(yōu)化算法相比另外兩種PSO優(yōu)化算法具有更快的收斂速度和更高的收斂精度，極大地提高了RBF神經(jīng)網(wǎng)絡(luò)的泛化能力。使用本文研究的QAPSO?RBF檢測模型及常規(guī)PSO和HPSO優(yōu)化RBF算法的檢測模型對實(shí)驗(yàn)數(shù)據(jù)進(jìn)行識別。表3為三種檢測模型的檢測準(zhǔn)確率與反饋率對比。圖2為三種模型的平均檢測率和反饋率對比。

通過表3的數(shù)據(jù)可以看出，本文研究的QAPSO?RBF檢測模型對12種類型網(wǎng)絡(luò)服務(wù)與應(yīng)用均有較好的識別準(zhǔn)確率和反饋率，平均識別準(zhǔn)確率達(dá)到了92.81%，比HPSO?RBF算法的平均識別準(zhǔn)確率高出3.49%，比PSO?RBF算法的平均識別準(zhǔn)確率高出6.99%。QAPSO?RBF識別算法的平均識別反饋率達(dá)到了94.81%，比HPSO?RBF算法的平均識別反饋率高出3.51%，比PSO?RBF算法的平均識別反饋率高出7.28%?？杀砻飨啾绕渌Ｗ尤簝?yōu)化算法，本文研究的QAPSO優(yōu)化算法在進(jìn)行多次迭代后仍然具有較好的活躍性，跳出局部最優(yōu)解，對最佳值的全局搜索能力具有非常顯著的提高，加快了算法收斂速率，提高了識別準(zhǔn)確率。

3 結(jié) 論

本文研究一種群智能優(yōu)化神經(jīng)網(wǎng)絡(luò)算法的網(wǎng)絡(luò)流量檢測模型。通過實(shí)際測試驗(yàn)證，相比其他粒子群優(yōu)化算法，本文研究的QAPSO優(yōu)化算法在進(jìn)行多次迭代后仍然具有較好的活躍性，跳出局部最優(yōu)解，對最佳值的全局搜索能力具有非常顯著的提高，加快了算法收斂速率，提高了識別準(zhǔn)確率。

參考文獻(xiàn)

[1] 盧金娜.基于優(yōu)化算法的徑向基神經(jīng)網(wǎng)絡(luò)模型的改進(jìn)及應(yīng)用[D].太原：中北大學(xué)，2015.

[2] 鐘建坤，周永福.群智能算法優(yōu)化神經(jīng)網(wǎng)絡(luò)在網(wǎng)絡(luò)安全的應(yīng)用研究[J].激光雜志，2015，36（4）：143?146.

[3] 李博.粒子群優(yōu)化算法及其在神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[D].大連：大連理工大學(xué)，2005.

[4] 蔣林利.改進(jìn)的PSO算法優(yōu)化神經(jīng)網(wǎng)絡(luò)模型及其應(yīng)用研究[D].廈門：廈門大學(xué)，2014.

[5] 陳偉.基于群體智能算法的人工神經(jīng)網(wǎng)絡(luò)優(yōu)化及其應(yīng)用[D].無錫：江南大學(xué)，2007.

[6] 劉曉剛.群體智能算法在RBF神經(jīng)網(wǎng)絡(luò)中的應(yīng)用[D].青島：青島大學(xué)，2008.

[7] 馬汝輝.基于網(wǎng)絡(luò)流量異常檢測的網(wǎng)絡(luò)安全技術(shù)研究[D].無錫：江南大學(xué)，2008.

篇2

關(guān)鍵詞： FPGA； BP神經(jīng)網(wǎng)絡(luò)； 線性擬合； 非線性擬合； 自適應(yīng)訓(xùn)練

中圖分類號： TN702.2?34； TP183 文獻(xiàn)標(biāo)識碼： A 文章編號： 1004?373X（2016）15?0115?04

Abstract： Using software for neural network has the disadvantages of low parallelism and slow speed， the hardware design resource utilization of the traditional neural network is high， and the network training is uncontrollable. To solve these problems， a new FPGA?based design method of back propagation （BP） neural network is proposed. The method can realize the Sigmoid excitation function through piecewise linear fitting and nonlinear fitting based on symmetry， and uses the finite state machine （FSM） to accomplish the training times adaption based on error. The Verilog HDL language is used to design the 1?3?1 BP neural network to approximate the function [y=cosx.] The resource occupancy of the network is 2 756 LEs， the training times are 1 583， the average relative error of the network test sample is 0.6%， and the maximum clock frequency is 82.3 MHz. The verification results show that the neural network designed with the method has the advantages of less resource occupancy， high accuracy and fast running speed， and can control the network training automatically.

Keywords： FPGA； BP neural network； linear fitting； nonlinear fitting； adaptive training

0 引 言

人工神經(jīng)網(wǎng)絡(luò)（ANNs）[1]通常都是采用基于軟件的方法實(shí)現(xiàn)。但作為一個(gè)并行計(jì)算系統(tǒng)，軟件實(shí)現(xiàn)的方法存在速度慢的缺點(diǎn)，而硬件方式具有高并行性的特點(diǎn)，適合于人工神經(jīng)網(wǎng)絡(luò)。FPGA作為一種通用的硬件設(shè)計(jì)平臺，其內(nèi)部分布式的資源與神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)非常契合，是一個(gè)實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)硬件化設(shè)計(jì)的良好選擇。

資源占用是FPGA設(shè)計(jì)的一個(gè)重要考量因素，而網(wǎng)絡(luò)訓(xùn)練是神經(jīng)網(wǎng)絡(luò)功能實(shí)現(xiàn)的基礎(chǔ)。已有的神經(jīng)網(wǎng)絡(luò)硬件設(shè)計(jì)工作在這兩方面還存在巨大的空間。例如，薛維琴等利用FPGA實(shí)現(xiàn)了BP神經(jīng)網(wǎng)絡(luò)[2]，該網(wǎng)絡(luò)經(jīng)過訓(xùn)練能夠描述非線性函數(shù)，但沒有提出BP神經(jīng)網(wǎng)絡(luò)的激勵(lì)函數(shù)和訓(xùn)練控制模塊的具體硬件實(shí)現(xiàn)方法。李利歌等提出了直接利用查找表實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)的方法[3]，但是查找表存在占用資源大，運(yùn)行速度慢的缺點(diǎn)。張海燕等采用基于查找表的STAM算法實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)激勵(lì)函數(shù)[4]，且文中也沒有提到訓(xùn)練控制模塊。Javier Valls等提出利用CORDIC算法實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)的激勵(lì)函數(shù)[5]，資源利用率低，但是存在精度不足的問題。劉培龍利用分段擬合實(shí)現(xiàn)激勵(lì)函數(shù)[6]，但是激勵(lì)函數(shù)資源占用較多。

基于這一現(xiàn)狀，本文通過對Sigmoid函數(shù)基于對稱性分段擬合以及基于誤差的訓(xùn)練自適應(yīng)技術(shù)，提出了一種新的神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)方法。該方法設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)資源占用少，網(wǎng)絡(luò)訓(xùn)練自適應(yīng)，同時(shí)還具有精度高，運(yùn)行速度快的優(yōu)點(diǎn)。

1 BP神經(jīng)網(wǎng)絡(luò)的FPGA設(shè)計(jì)

根據(jù)BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)，本文將網(wǎng)絡(luò)劃分為神經(jīng)元模塊、激勵(lì)函數(shù)模塊、誤差計(jì)算模塊，權(quán)值更新模塊、權(quán)值存儲模塊以及自適應(yīng)網(wǎng)絡(luò)訓(xùn)練模塊。圖1給出了不同功能模塊之間的連接和訓(xùn)練過程。其中，權(quán)值存儲模塊和輸入神經(jīng)元將輸入層的權(quán)值以及訓(xùn)練的樣本輸入到隱含層神經(jīng)元進(jìn)行乘累加運(yùn)算，其結(jié)果輸入到激勵(lì)函數(shù)模塊得到激勵(lì)函數(shù)輸出，該輸出和隱含層的權(quán)值作為輸出層神經(jīng)元的輸入得到本次訓(xùn)練結(jié)果。該結(jié)果再經(jīng)過誤差計(jì)算模塊計(jì)算誤差值和權(quán)值改變量。權(quán)值改變量在權(quán)值更新模塊中得到新權(quán)值存入到權(quán)值存儲模塊。誤差值輸入到自適應(yīng)網(wǎng)絡(luò)訓(xùn)練模塊判斷網(wǎng)絡(luò)訓(xùn)練是否達(dá)到最優(yōu)。網(wǎng)絡(luò)訓(xùn)練達(dá)到最優(yōu)前，該過程循環(huán)，當(dāng)網(wǎng)絡(luò)訓(xùn)練達(dá)到最優(yōu)，自適應(yīng)訓(xùn)練模塊控制網(wǎng)絡(luò)停止訓(xùn)練。

系統(tǒng)中神經(jīng)元模塊、誤差計(jì)算模塊、權(quán)值更新模塊按照BP網(wǎng)絡(luò)算法規(guī)則可調(diào)用加、乘、乘累加等功能模塊，權(quán)值存儲模塊可調(diào)用RAM模塊。激勵(lì)函數(shù)模塊和自適應(yīng)訓(xùn)練模塊關(guān)乎系統(tǒng)資源占用及訓(xùn)練過程的實(shí)現(xiàn)，是本文BP神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)的重點(diǎn)。

1.1 激勵(lì)函數(shù)模塊設(shè)計(jì)

激勵(lì)函數(shù)模塊是影響整個(gè)神經(jīng)網(wǎng)絡(luò)資源利用的主要因素之一，在保證誤差足夠小的前提下，激勵(lì)函數(shù)模塊資源占用越小越好。

式中含有指數(shù)運(yùn)算，較難在FPGA 中直接實(shí)現(xiàn)。利用Sigmoid函數(shù)具有對稱性以及較好的線性區(qū)域和非線性區(qū)域分界的特點(diǎn)，本文提出一種資源占用小、精度高的基于對稱性分段擬合的激勵(lì)函數(shù)硬件實(shí)現(xiàn)的方法。

考慮到Sigmoid函數(shù)的對稱性，只需完成[x>0]的區(qū)域硬件實(shí)現(xiàn)，根據(jù)對稱性即可求出[x0]區(qū)域，根據(jù)Sigmoid函數(shù)線性區(qū)域和非線性區(qū)域分界良好的特點(diǎn)，分別采用線性擬合和非線性擬合的方法分段逼近。具體而言，如圖2所示，將整個(gè)激勵(lì)函數(shù)模塊分為預(yù)處理模塊、函數(shù)逼近模塊以及最終輸出模塊三個(gè)子模塊。

1.1.1 預(yù)處理模塊

激勵(lì)函數(shù)的輸入[x]為16位定點(diǎn)數(shù)，最高位為符號位，中間五位為整數(shù)部分，后十位為小數(shù)部分。當(dāng)[x]輸入到激勵(lì)函數(shù)模塊時(shí)，首先進(jìn)行預(yù)處理。截取二進(jìn)制輸入[x]的最高位判斷[x>0]或者[x0]時(shí)，[x=x，]將[x]輸入到后續(xù)處理模塊，若判斷出[x

1.1.2 函數(shù)逼近模塊

基于對輸入[x]的預(yù)處理，此子模塊只需要對[x>0]的情況做線性擬合和非線性擬合。分段逼近函數(shù)如表1所示。

1.1.3 最終輸出模塊

最終輸出模塊由預(yù)處理模塊輸出的控制信號控制。若[x>0，]則控制信號控制最終輸出模塊直接輸出函數(shù)逼近模塊中[x]對應(yīng)的輸出[fx；]若[x

1.1.4 激勵(lì)函數(shù)模塊分析

按照上述設(shè)計(jì)方法完成激勵(lì)函數(shù)模塊的設(shè)計(jì)后，對激勵(lì)函數(shù)模塊進(jìn)行功能仿真和誤差分析。從-8～8以0.001為間隔生成測試數(shù)據(jù)輸入到激勵(lì)函數(shù)模塊，得到的ModelSim仿真結(jié)果如圖3所示，其各區(qū)間絕對誤差如表2所示。從中可以看出，各區(qū)間的誤差值均很小且誤差分布較為平均，體現(xiàn)出良好的逼近效果。

1.2 自適應(yīng)訓(xùn)練模塊設(shè)計(jì)

網(wǎng)絡(luò)訓(xùn)練是神經(jīng)網(wǎng)絡(luò)功能實(shí)現(xiàn)的基礎(chǔ)。神經(jīng)網(wǎng)絡(luò)隨著訓(xùn)練的進(jìn)行，權(quán)值逐漸改變，誤差逐漸減小，但如果網(wǎng)絡(luò)訓(xùn)練不能適時(shí)結(jié)束，造成過度訓(xùn)練，則網(wǎng)絡(luò)性能會變差。然而對網(wǎng)絡(luò)訓(xùn)練的控制在硬件上并不易設(shè)計(jì)，故很多工作未討論這一點(diǎn)或簡單的以固定周期來完成訓(xùn)練。本文提出了一種基于可容忍誤差值的自適應(yīng)網(wǎng)絡(luò)訓(xùn)練硬件設(shè)計(jì)方法，可有效的自動控制神經(jīng)網(wǎng)絡(luò)訓(xùn)練過程。

分析神經(jīng)網(wǎng)絡(luò)的訓(xùn)練過程，每一次輸入樣本值都會在本次訓(xùn)練完成時(shí)得到一個(gè)誤差值，當(dāng)誤差在可以容忍的范圍內(nèi)可以認(rèn)為網(wǎng)絡(luò)已經(jīng)訓(xùn)練完成。認(rèn)為在給定的可容忍誤差值的情況下，如果連續(xù)兩次整個(gè)樣本集輸入得到的誤差絕對值都要比給定的可容忍誤差值要小，則該神經(jīng)網(wǎng)絡(luò)訓(xùn)練已經(jīng)達(dá)到最優(yōu)。根據(jù)這個(gè)思想，提出利用有限狀態(tài)機(jī)實(shí)現(xiàn)自適應(yīng)網(wǎng)絡(luò)訓(xùn)練。

如圖4所示，有限狀態(tài)機(jī)的狀態(tài)數(shù)是樣本集中樣本數(shù)的兩倍，狀態(tài)機(jī)初始為零狀態(tài)。當(dāng)某一次訓(xùn)練得到的誤差絕對值小于可容忍誤差值時(shí)，狀態(tài)機(jī)進(jìn)入第一個(gè)狀態(tài)。若緊鄰的下一次訓(xùn)練得到的誤差絕對值也小于可容忍誤差值，狀態(tài)機(jī)進(jìn)入下一個(gè)狀態(tài)，否則狀態(tài)機(jī)狀態(tài)回到第0個(gè)狀態(tài)。當(dāng)狀態(tài)機(jī)跳轉(zhuǎn)到最后一個(gè)狀態(tài)時(shí)，網(wǎng)絡(luò)訓(xùn)練完成，此時(shí)輸出控制信號控制權(quán)值存儲模塊停止權(quán)值更新，提示信號提示訓(xùn)練完成。該模塊的分析需要結(jié)合網(wǎng)絡(luò)中的其他模塊，故測試結(jié)果在下一節(jié)中給出。

2 驗(yàn)證和分析

2.1 驗(yàn)證平臺

根據(jù)上述方法，設(shè)計(jì)了一個(gè)1?3?1三層BP神經(jīng)網(wǎng)絡(luò)驗(yàn)證其性能。驗(yàn)證平臺為Altera公司的EP2C70F896C6。

以[y=cosx]函數(shù)為學(xué)習(xí)對象，從[0～2π]之間以[0.062 5π]為間隔選取33個(gè)樣本組成樣本集，隨機(jī)選取其中25個(gè)作為訓(xùn)練樣本，剩下8個(gè)作為測試樣本。神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值的選取具有一定的隨機(jī)性，根據(jù)網(wǎng)絡(luò)需要逼近的函數(shù)數(shù)值大小，輸入層到隱含層的初始權(quán)值矩陣[W1=[2.5，0.5，-0.3]，]隱含層到輸出層的初始權(quán)值矩陣[W2=[0.35，0.4，0.3]，]隱含層閾值選為[0.2，0.3，0.4]，輸出層閾值選為[0.3]。隱含層的學(xué)習(xí)率設(shè)為0.4，輸出層的學(xué)習(xí)率設(shè)為0.3，容忍誤差設(shè)為0.01。

2.2 結(jié)果分析

ModelSim仿真得到的結(jié)果如圖5所示，從圖5中可以看出該BP神經(jīng)網(wǎng)絡(luò)的訓(xùn)練是自適應(yīng)的。當(dāng)網(wǎng)絡(luò)訓(xùn)練到最優(yōu)時(shí)，產(chǎn)生一個(gè)控制信號和一個(gè)提示信號以及網(wǎng)絡(luò)訓(xùn)練的次數(shù)，此時(shí)權(quán)值存儲器的值不再變化，訓(xùn)練完成。

25個(gè)訓(xùn)練樣本集訓(xùn)練的平均誤差為0.003，分析8個(gè)測試樣本集的誤差，如表3所示。從表3中可以看出，其誤差與訓(xùn)練數(shù)據(jù)的誤差大體相當(dāng)且均很小。計(jì)算測試樣本的平均相對誤差為0.6%，小于1%，說明該方法實(shí)現(xiàn)的基于FPGA的BP神經(jīng)網(wǎng)絡(luò)精度較高。

將該網(wǎng)絡(luò)下載至Altera公司EP2C70F896C6的FPGA中，其最高時(shí)鐘頻率為82.3 MHz，可見該方法具有運(yùn)行速度快的優(yōu)點(diǎn)。將該神經(jīng)網(wǎng)絡(luò)資源占用情況與已有相關(guān)工作的資源占用情況作對比，如表4所示。雖然其中各設(shè)計(jì)的規(guī)模和平臺有所差異（如1 Slice≈4 LEs），但仍可估算出即便添加了自適應(yīng)訓(xùn)練模塊，本設(shè)計(jì)對資源的占用依然較低。

從表5中可以看到，當(dāng)學(xué)習(xí)對象不同時(shí)，網(wǎng)絡(luò)訓(xùn)練的次數(shù)也不同，實(shí)現(xiàn)了訓(xùn)練過程的自適應(yīng)。由此亦可推至，若采用傳統(tǒng)的預(yù)設(shè)固定次數(shù)的方式完成訓(xùn)練，則對于不同學(xué)習(xí)對象難免會造成訓(xùn)練不充分或過度訓(xùn)練的情況，從而影響網(wǎng)絡(luò)的性能。因此，該表也進(jìn)一步證明了該設(shè)計(jì)自適應(yīng)訓(xùn)練的優(yōu)越性。

3 結(jié) 論

本文以典型的BP神經(jīng)網(wǎng)絡(luò)為例，提出了一種自適應(yīng)訓(xùn)練的神經(jīng)網(wǎng)絡(luò)FPGA設(shè)計(jì)方法。通過對Sigmoid激勵(lì)函數(shù)基于對稱性做分段擬合減少了資源占用，使用基于可容忍誤差完成了網(wǎng)絡(luò)訓(xùn)練自適應(yīng)。該方法設(shè)計(jì)的神經(jīng)網(wǎng)絡(luò)具備訓(xùn)練可控、資源占用低、精度高的優(yōu)點(diǎn)。此方法不僅適合于 BP網(wǎng)絡(luò)，也可推廣至采用Sigmoid函數(shù)及需要訓(xùn)練控制的其他類型的神經(jīng)網(wǎng)絡(luò)。

注：本文通訊作者為常勝。

參考文獻(xiàn)

[1] 蔣宗禮.人工神經(jīng)網(wǎng)絡(luò)導(dǎo)論[M].北京：高等教育出版社，2001：15?16.

[2] 薛維琴，李莉華，戴明.基于FPGA的人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)的實(shí)現(xiàn)方法[J].電子設(shè)計(jì)工程，2010，18（9）：151?154.

[3] 李利歌，閻保定，侯忠.基于FPGA的神經(jīng)網(wǎng)絡(luò)硬件可重構(gòu)實(shí)現(xiàn)[J].河南科技大學(xué)學(xué)報(bào)（自然科學(xué)版），2009，30（1）：37?40.

[4] 張海燕，李欣，田書峰.基于BP神經(jīng)網(wǎng)絡(luò)的仿真線設(shè)計(jì)及其FPGA實(shí)現(xiàn)[J].電子與信息學(xué)報(bào)，2007，29（5）：1267?1270.

[5] VALLS J， KUHLMANN M， PARHI K K. Evaluation of CORDIC algorithms for FPGA design [J]. Journal of VLSI signal processing， 2002， 32（3）： 207?222.

篇3

【關(guān)鍵詞】大學(xué)生身體素質(zhì)評估 遺傳算法 BP神經(jīng)網(wǎng)絡(luò) MATLAB計(jì)算程序

在校大學(xué)生是國家重要的人才后備力量，大學(xué)生的身體素質(zhì)培養(yǎng)和鍛煉是學(xué)校體育教學(xué)中關(guān)注的重點(diǎn)。對大學(xué)生身體素質(zhì)進(jìn)行科學(xué)、切實(shí)的評價(jià)可制訂更為有效的培養(yǎng)方案，幫助大學(xué)生提高其身體素質(zhì)。身體素質(zhì)評價(jià)就是將大學(xué)生的身體形態(tài)、生理機(jī)能及運(yùn)動能力等方面的數(shù)據(jù)綜合起來進(jìn)行評價(jià)[1]。從以往的研究成果看，對大學(xué)生身體素質(zhì)評價(jià)集中于采用概率統(tǒng)計(jì)、多元回歸分析和神經(jīng)網(wǎng)絡(luò)[2]的方法。然而，概率統(tǒng)計(jì)僅得到整體評價(jià)結(jié)果，多元回歸分析預(yù)測精度較低，且兩者受樣本空間影響較大。為此，本文利用遺傳算法來訓(xùn)練初始網(wǎng)絡(luò)模型，再用BP算法來進(jìn)行精確求解，是對神經(jīng)網(wǎng)絡(luò)評估大學(xué)生身體素質(zhì)的進(jìn)一步優(yōu)化應(yīng)用。

基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)理論

通過把神經(jīng)網(wǎng)絡(luò)和遺傳算法合理、科學(xué)的結(jié)合，既能夠利用神經(jīng)網(wǎng)絡(luò)較強(qiáng)的學(xué)習(xí)能力，又發(fā)揮了遺傳算法全局尋優(yōu)的搜索功能。首先利用遺傳算法得到權(quán)值的較優(yōu)初始取值，訓(xùn)練網(wǎng)絡(luò)避免了局部極小，利用BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練次數(shù)和最終權(quán)值也相對穩(wěn)定，訓(xùn)練速度明顯加快，從而既節(jié)約了時(shí)間，又提高了預(yù)測結(jié)果的準(zhǔn)確性。

1.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)

BP網(wǎng)絡(luò)的學(xué)習(xí)規(guī)則采用最速下降法，利用遺傳算法根據(jù)訓(xùn)練目標(biāo)函數(shù)對網(wǎng)絡(luò)權(quán)值進(jìn)行迭代，找到最佳初始網(wǎng)絡(luò)權(quán)值。通過反向傳播來不斷調(diào)整網(wǎng)絡(luò)權(quán)值，使網(wǎng)絡(luò)誤差平方和最小，該系統(tǒng)的網(wǎng)絡(luò)結(jié)構(gòu)，如圖1所示。先對大學(xué)生身體素質(zhì)的評估指標(biāo)進(jìn)行分類，抽取大學(xué)生身體素質(zhì)的特征指標(biāo)，并作為輸入信息送入由輸入層、中間層和輸出層組成的三層網(wǎng)絡(luò)模型進(jìn)行評估。經(jīng)過測試的網(wǎng)絡(luò)，成為穩(wěn)定的模式評估器，即可輸出評估結(jié)果[3，4]。

該模型的輸入層節(jié)點(diǎn)數(shù)為n，即大學(xué)生身體素質(zhì)評價(jià)指標(biāo)數(shù)，中間層節(jié)點(diǎn)數(shù)為 ，輸出層節(jié)點(diǎn)數(shù)為1，即身體素質(zhì)評估結(jié)果值，ωij和ωj為BP神經(jīng)網(wǎng)絡(luò)權(quán)值，初始化隱含層閾值為ɑ，輸出層閾值為b，由此可給定學(xué)習(xí)速率和神經(jīng)元激勵(lì)函數(shù)。從圖1可發(fā)現(xiàn)，BP神經(jīng)網(wǎng)絡(luò)可以看成一個(gè)非線性函數(shù)，網(wǎng)絡(luò)輸入值和輸出值分別為該函數(shù)的自變量和因變量。當(dāng)輸入層節(jié)點(diǎn)數(shù)為n，輸出層節(jié)點(diǎn)數(shù)為1時(shí)，BP神經(jīng)網(wǎng)絡(luò)就表達(dá)了從n個(gè)自變量到1個(gè)因變量的函數(shù)映射關(guān)系。

2.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法

遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的核心是用遺傳算法來優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值，使優(yōu)化后的BP神經(jīng)網(wǎng)絡(luò)能夠更好地預(yù)測函數(shù)輸出，計(jì)算流程如圖2所示。

1.背景資料

根據(jù)本校某班2011年大學(xué)生身體素質(zhì)測評成績，從中選取30名學(xué)生的測試結(jié)果作為神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本和校驗(yàn)樣本。結(jié)合遺傳算法和BP神經(jīng)網(wǎng)絡(luò)算法，在大型數(shù)學(xué)計(jì)算軟件MATLAB中編程實(shí)現(xiàn)基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評估[4]。

2.計(jì)算結(jié)果與分析

遺傳算法優(yōu)化過程中最優(yōu)個(gè)體的適應(yīng)度變化（如圖3）。把最優(yōu)初始權(quán)值、閾值賦給神經(jīng)網(wǎng)絡(luò)，用訓(xùn)練數(shù)據(jù)訓(xùn)練100次后，得到基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測值。為了對比分析，也進(jìn)行了BP神經(jīng)網(wǎng)絡(luò)預(yù)測分析（如圖4）。

從圖4可看出，采用BP神經(jīng)網(wǎng)絡(luò)及遺傳算法優(yōu)化的BP神經(jīng)網(wǎng)絡(luò)兩種算法得到的預(yù)測結(jié)果，與專家判斷（實(shí)際值）基本一致。但基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)較BP神經(jīng)網(wǎng)絡(luò)預(yù)測精度高。特別在輸入節(jié)點(diǎn)，即評價(jià)大學(xué)生身體素質(zhì)的指標(biāo)較多時(shí)，基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)預(yù)測效果要好一些。

結(jié) 論

1.本文提出了基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評價(jià)算法，并建立了相應(yīng)的網(wǎng)絡(luò)模型。

2.基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)算法不但具有神經(jīng)網(wǎng)絡(luò)的函數(shù)逼近能力，而且應(yīng)用遺傳算法優(yōu)化BP神經(jīng)網(wǎng)絡(luò)的權(quán)值、閾值，可使優(yōu)化后的神經(jīng)網(wǎng)絡(luò)避免訓(xùn)練時(shí)間長、易陷入局部極值的缺點(diǎn)。

3.結(jié)合實(shí)例，將基于遺傳算法的BP神經(jīng)網(wǎng)絡(luò)大學(xué)生身體素質(zhì)評價(jià)算法，應(yīng)用于本校學(xué)生身體素質(zhì)評估。結(jié)果表明，該算法較BP神經(jīng)網(wǎng)絡(luò)預(yù)測精度及效率高，可作為今后大學(xué)生身體素質(zhì)評價(jià)的一種新方法。

參考文獻(xiàn)：

[1]范正森，張明如，周瑞琪.大學(xué)生身體素質(zhì)綜合評價(jià)數(shù)學(xué)模型[J].武漢工業(yè)大學(xué)學(xué)報(bào)，2001，4：92-94.

[2]陳海英，郭巧.短跑運(yùn)動能力的神經(jīng)網(wǎng)絡(luò)評價(jià)方法[J].北京理工大學(xué)學(xué)報(bào)，2003，1：54-57.

[3]陳剛，何政偉，楊斌，楊洋.遺傳BP神經(jīng)網(wǎng)絡(luò)在泥石流危險(xiǎn)性評價(jià)中的應(yīng)用[J].計(jì)算機(jī)工程與應(yīng)用，2010，46（3）.

篇4

關(guān)鍵詞：模式識別；神經(jīng)網(wǎng)絡(luò)；感知器；權(quán)值

中圖分類號： TP183 文獻(xiàn)標(biāo)志碼： A 文章編碼：2095-2163（2015）03-

Perceptron Network Weights Calculation and MATLAB Simulation in Pattern Recognition

ZHANG Guangjian

（1 Department of Information Engineering， Sichuan College of Architectural Technology，Deyang Sichuan 618000， China；2 Institute of Intelligent Computing， Sichuan College of Architectural Technology， Deyang Sichuan 618000， China）

Abstract：As the perceptron neural network pattern recognition， constructing the network model takes a very important parameters， which can be used by manual calculation， and can also carry out the training simulation obtained by MATLAB neural network toolbox. The paper uses two weights for building the classifier network model， and compares test results of the pattern recognition model.It is known that for the recognition rate of the samples tested， the weights are different，and in order to improve the generalization of the model， the construction of the network model need to test selects the optimal weights.

Keywords：Pattern Recognition； Neural Network； Perceptron； Weights

0 引 言

人工神經(jīng)網(wǎng)絡(luò)[1]（artificial neural network，ANN），簡稱神經(jīng)網(wǎng)絡(luò)（neural network，NN），是一種對人腦功能實(shí)行模擬的簡化模型結(jié)構(gòu)，是一種功能型的數(shù)學(xué)模型（計(jì)算模型），可完成科學(xué)計(jì)算，并具有強(qiáng)大的處理問題能力。神經(jīng)網(wǎng)絡(luò)是由大量的人工神經(jīng)元相互連接而成的信息處理系統(tǒng)，能夠基于外界信息的引發(fā)改變內(nèi)部結(jié)構(gòu)，因而屬于一種自適應(yīng)系統(tǒng)?，F(xiàn)代神經(jīng)網(wǎng)絡(luò)則是一種非線性統(tǒng)計(jì)性數(shù)據(jù)建模工具，常用來對輸入和輸出間的復(fù)雜關(guān)系進(jìn)行建模，或用來探索數(shù)據(jù)的關(guān)聯(lián)模式。

1943年，美國神經(jīng)生理學(xué)家McCulloch和Pitts提出的第一個(gè)神經(jīng)網(wǎng)絡(luò)模型M-P模型，開創(chuàng)了人工智能的研究工作，奠定了神經(jīng)網(wǎng)絡(luò)的發(fā)展基礎(chǔ)。其中的感知器（Perceptron）則是由美國計(jì)算機(jī)科學(xué)家羅森布拉特（Frank Rosenblatt）于1957年提出的。

具體來說，神經(jīng)網(wǎng)絡(luò)是一種運(yùn)算模型[2]，是由大量的節(jié)點(diǎn)（或稱“神經(jīng)元”，或“單元”）及其間的相互聯(lián)接構(gòu)成。每個(gè)節(jié)點(diǎn)代表一種特定的輸出函數(shù)，稱為激勵(lì)函數(shù)（activation function）。每兩個(gè)節(jié)點(diǎn)間的連接均表示對于通過該連接信號的加權(quán)值，稱之為權(quán)重（weight），也就相當(dāng)于人工神經(jīng)網(wǎng)絡(luò)的記憶。此外的網(wǎng)絡(luò)輸出則是依據(jù)網(wǎng)絡(luò)的連接方式、權(quán)重值（權(quán)值）和激勵(lì)函數(shù)的不同而各不相同。綜合論述可得，網(wǎng)絡(luò)自身通常都是對自然界某種算法或者函數(shù)的逼近，也可能是對一種邏輯策略的表達(dá)。因此，為解決模式識別問題創(chuàng)建的網(wǎng)絡(luò)模型，若選用最優(yōu)權(quán)值，就會極大地提高模式識別率。

1 感知器及學(xué)習(xí)算法

神經(jīng)網(wǎng)絡(luò)中，感知器神經(jīng)網(wǎng)絡(luò)[3]是一種典型的分層結(jié)構(gòu)，信息從輸入層進(jìn)入網(wǎng)絡(luò)后，將逐層向前傳遞至輸出層。單層感知器是一個(gè)具有一層神經(jīng)元、采用閾值激活函數(shù)的前向網(wǎng)絡(luò)。通過對網(wǎng)絡(luò)權(quán)值的訓(xùn)練，可以使感知器對一組輸入矢量的響應(yīng)完成結(jié)果為0或1的目標(biāo)輸出，從而實(shí)現(xiàn)對輸入矢量分類的目的。沒有反饋或競爭的簡單神經(jīng)元感知器模型如圖1 所示。

圖1 一個(gè)單一神經(jīng)元的感知器模型

Fig.1 A single neuron perceptron model

在感知器學(xué)習(xí)算法[4]中，設(shè)輸入向量 ，相應(yīng)的權(quán)值向量 ，對一個(gè)輸入模式 的網(wǎng)絡(luò)輸入 為

（1）

根據(jù)閾值函數(shù)產(chǎn)生一個(gè)輸出 為：

（2）

感知器學(xué)習(xí)中，設(shè)t為目標(biāo)輸出，使用Hebbian學(xué)習(xí)，其誤差公式為：

（3）

對任何新權(quán)值，具體計(jì)算公式為：

（4）

對于誤差E的三種可能情況，新權(quán)值的調(diào)整公式為：

（5）

在公式（5）中， 是新的調(diào)整權(quán)值， 是前次或者初始權(quán)值； 是輸入向量； 是學(xué)習(xí)率，且是一個(gè)常數(shù)， 。精準(zhǔn)快捷地確定 值，將直接影響對后期的網(wǎng)絡(luò)學(xué)習(xí)訓(xùn)練時(shí)間。

2 手工計(jì)算權(quán)值

樣本集如表1所示。其中 x1，x2為兩個(gè)輸入，t為期望目標(biāo)輸出。感知器分類器的任務(wù)是將表1所示的二維模式進(jìn)行分類。

表1 分類數(shù)據(jù)

Tab.1 Classification of samples

0.3，0.7 1

-0.6，0.3 0

-0.1，-0.8 0

0.1，-0.45 1

樣本點(diǎn)如圖2所示。

圖2 輸入向量與期望響應(yīng)樣本圖

Fig.2 Input vector and the desired response sample figure

根據(jù)文獻(xiàn)[2]的推理，假定 ，其中， 是學(xué)習(xí)率， 為網(wǎng)絡(luò)初始權(quán)值。權(quán)值調(diào)整過程具體如下。

（0.3）=0.95

=-0.15

調(diào)整后的權(quán)值，繼續(xù)計(jì)算第二組樣本數(shù)據(jù) 。

如果分類正確，繼續(xù)使用該組權(quán)值計(jì)算下一組數(shù)據(jù)；分類錯(cuò)誤，即需應(yīng)用公式（5）的規(guī)則進(jìn)行權(quán)值調(diào)整，直到最終獲得一組權(quán)值w=[1.05 0.025]，完成對全部樣本進(jìn)行的正確分類。為此，根據(jù)權(quán)值和樣本對感知器網(wǎng)絡(luò)進(jìn)行分類訓(xùn)練，其相應(yīng)的分類結(jié)果如圖3所示。

圖3樣本分類圖

Fig.3 Sample classification map

3 MATLAB訓(xùn)練仿真

MATLAB神經(jīng)網(wǎng)絡(luò)工具箱（Neural Network Tool）[5]，為神經(jīng)網(wǎng)絡(luò)提供了一種高效、集成的仿真手段，通過該工具箱，可以對神經(jīng)網(wǎng)絡(luò)進(jìn)行設(shè)計(jì)、訓(xùn)練、可視化以及仿真。

使用MATLAB R2013a 的神經(jīng)網(wǎng)絡(luò)工具箱函數(shù)，設(shè)置p為輸入向量，t為期望目標(biāo)向量。

p= [0.3 -0.6 -0.1 0.1；

0.7 0.3 -0.8 -0.45]；

t= [1 0 0 1]；

net =newp（minmax（p），1）；

網(wǎng)絡(luò)傳遞函數(shù)指定為硬限值函數(shù)HARDLIM，學(xué)習(xí)函數(shù)指定為LEARNP。創(chuàng)建如圖4所示的感知器神經(jīng)網(wǎng)絡(luò)模型。

圖4 生成的感知器網(wǎng)絡(luò)模型

Fig.4 Perceptron network model generation

使用命令net=train（net，p，t）進(jìn)行網(wǎng)絡(luò)訓(xùn)練，使用sim（net，p）進(jìn)行仿真，得到輸出向量為[1 0 0 1]，完全匹配期望目標(biāo)向量t ，訓(xùn)練結(jié)果達(dá)到零誤差，網(wǎng)絡(luò)權(quán)值w=[1.8 0]，偏值為b=0。使用plotpc（net.iw{1，1}，net.b{1}） 命令在樣本中繪制分類線，如圖5所示，從圖中可以看出分類線能對輸入樣本完全分類。

圖5 訓(xùn)練后的網(wǎng)絡(luò)對輸入樣本的分類

Fig.5 Classification of the input sample after network training

4 網(wǎng)絡(luò)測試[6]

通過樣本訓(xùn)練得到的網(wǎng)絡(luò)，但是測試樣本的準(zhǔn)確率卻未必會高。一個(gè)性能良好的網(wǎng)絡(luò)應(yīng)該具有優(yōu)秀的泛化能力。首先輸入樣本數(shù)據(jù)進(jìn)行訓(xùn)練，通過修正權(quán)值來減小誤差得到擬合程度很高的網(wǎng)絡(luò)模型，而后的網(wǎng)絡(luò)測試則是用另外的樣本數(shù)據(jù)去測試網(wǎng)絡(luò)的性能。

對于兩種權(quán)值建立的網(wǎng)絡(luò)模型，通過加入測試樣本數(shù)據(jù)進(jìn)行分類測試，測試樣本為：

p1=[ 0.4 -0.5 0 0.2 ； 0.8 0.4 -0.7 -0.35 ]

使用MATLAB的sim（net，P1） 函數(shù)完成對輸入樣本的測試。

對于手工計(jì)算獲得的權(quán)值W=[1.05，0.025]，加入測試樣本集后，分類結(jié)果如圖6所示。

圖6測試樣本分類（手工計(jì)算）

Fig.6 Test sample classification （manual calculation）

對于使用MATLAB計(jì)算機(jī)仿真訓(xùn)練獲得的權(quán)值W=[1.8 0] ，加入測試樣本集，分類結(jié)果如圖7所示。

圖7測試樣本分類（MATLAB）

Fig.7 The test sample classification （MATLAB）

對比圖6和圖7，可以清楚看到根據(jù)兩種方式獲得的權(quán)值，建立兩種感知器神經(jīng)網(wǎng)絡(luò)模型，均能對樣本進(jìn)行分類，但卻同時(shí)可知圖6的網(wǎng)絡(luò)模型可對測試樣本集進(jìn)行更見成效的分類。

5 結(jié)束語

感知器神經(jīng)網(wǎng)絡(luò)只能解決線性可分的模式分類問題，在應(yīng)用上有一定的局限性，但對于線性可分問題建立的模型，總能通過訓(xùn)練，在有限的循環(huán)次數(shù)內(nèi)找到網(wǎng)絡(luò)權(quán)值，使網(wǎng)絡(luò)達(dá)到期望的輸出，進(jìn)而完成模式分類。通過對同一模型的手工計(jì)算和MATLAB訓(xùn)練，得出的網(wǎng)絡(luò)權(quán)值并不相同，但都可以對網(wǎng)絡(luò)進(jìn)行分類，只是對于使用MATLAB進(jìn)行的計(jì)算機(jī)訓(xùn)練仿真，所獲取的權(quán)值與計(jì)算精度、連同使用的學(xué)習(xí)函數(shù)及傳遞函數(shù)方面將會有一定的影響。而且，選取不同權(quán)值建立的模型，在泛化能力上也將存在一定差異。作為感知器分類器的模型建立，需要反復(fù)比對找到最優(yōu)的權(quán)值，這樣建立的模型在泛化能力上才會具有更好的適應(yīng)性。

參考文獻(xiàn)：

[1] （美）Martin T. Hagan等，著.神經(jīng)網(wǎng)絡(luò)設(shè)計(jì)[M]. 戴葵等，譯.北京：機(jī)械工業(yè)出版社，2002.

[2] Domany， Eytan. Models of Neural Networks III：Association， Generalization， and Representation[M].New York： USA Springer press，2013.

[3] 張昭昭，喬俊飛，著.模塊化神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)分析與設(shè)計(jì)[M].沈陽：遼寧科學(xué)技術(shù)出版社.2014.

[4] Samarasinghe， Sandhya. Neural Networks for Applied Sciences and Engineering[M]. Boca Raton，F(xiàn)lorida： The Chemical Rubber Company Press，2006

篇5

關(guān)鍵詞:電氣設(shè)備;故障診斷;神經(jīng)網(wǎng)絡(luò);學(xué)習(xí)算法

中圖分類號:TP183

近年來,隨著電氣設(shè)備復(fù)雜度的增加,其發(fā)生故障的概率也逐漸上升。即使是熟練工程師,面對日趨復(fù)雜的設(shè)備內(nèi)部電氣結(jié)構(gòu),也難以迅速分析及判別其故障原因。與此同時(shí),涌現(xiàn)出的各種智能算法、專家系統(tǒng)等,為設(shè)備診斷問題提供了可行的方案。其中,神經(jīng)網(wǎng)絡(luò)以其特有優(yōu)勢在電氣設(shè)備故障診斷中發(fā)揮了重要作用。神經(jīng)網(wǎng)絡(luò)理論是人工智能、認(rèn)知學(xué)、腦神經(jīng)學(xué)、信息學(xué)等諸多學(xué)科融合發(fā)展的結(jié)果,它是由大量簡單的處理單元(稱為神經(jīng)元),通過廣泛的互相連接而形成的復(fù)雜網(wǎng)絡(luò)系統(tǒng)。神經(jīng)網(wǎng)絡(luò)具有學(xué)習(xí)能力,可以根據(jù)電氣設(shè)備的正常歷史數(shù)據(jù)訓(xùn)練,將訓(xùn)練結(jié)果信息與當(dāng)前測量數(shù)據(jù)進(jìn)行比較,以確定故障。同時(shí)它具有濾除噪聲的能力,這使其能在噪聲環(huán)境中有效地在線監(jiān)測及診斷。其具有的分辯故障原因及類型的能力,為未來實(shí)現(xiàn)故障智能診斷奠定了基礎(chǔ)。本文介紹神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)及其學(xué)習(xí)算法,提出一種基于BP網(wǎng)絡(luò)的電氣設(shè)備故障診斷方法,通過網(wǎng)絡(luò)訓(xùn)練及結(jié)果測試表明,該方法具有良好的故障診斷能力。[JP]

1 BP神經(jīng)網(wǎng)絡(luò)模型

神經(jīng)網(wǎng)絡(luò)有很多模型,例如BP網(wǎng)絡(luò)、Kohonen,Hopfield及ART等。其中,反向傳播網(wǎng)絡(luò)(Back[CD*2]Propagation Network)在神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中有著十分重要的影響,工程應(yīng)用中的絕大多數(shù)網(wǎng)絡(luò)模型都采用BP模型或其變形,可以說BP模型體現(xiàn)了神經(jīng)網(wǎng)絡(luò)中的精華。

1.1 BP神經(jīng)網(wǎng)絡(luò)模型

以三層前向BP網(wǎng)絡(luò)為例,對神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)進(jìn)行分析,其組成包括輸入層、隱含層和輸出層。如圖1所示,圖中圓圈表示神經(jīng)元,Wir表示輸入層第i個(gè)神經(jīng)元與隱含層第r個(gè)神經(jīng)元的連接權(quán)值;Vrj表示隱含層第r個(gè)神經(jīng)元與輸出層第j個(gè)神經(jīng)元的連接權(quán)值;其間的連線表示神經(jīng)元之間的相互作用強(qiáng)度。И

從圖1的結(jié)構(gòu)中可以得到,隱含層節(jié)點(diǎn)的輸出函數(shù)和輸出層節(jié)點(diǎn)的輸出函數(shù)分別為:

式中:Tr和θr分別為隱含層和輸出層的單元閾值。在本文設(shè)計(jì)的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)中,式(1)中的f(•)采用sigmoid函數(shù),即f(x)=(1+e-x)-1。И

1.2 BP學(xué)習(xí)算法

BP模型的成功得益于BP算法的應(yīng)用,即誤差反向傳播算法。BP算法屬于梯度下降算法,是一種監(jiān)督式的學(xué)習(xí)算法。用網(wǎng)絡(luò)的實(shí)際輸出與目標(biāo)矢量之間的誤差來修正網(wǎng)絡(luò)權(quán)值,使輸出與期望盡可能接近(網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小);通過反復(fù)在誤差函數(shù)梯度下降方向上調(diào)整網(wǎng)絡(luò)權(quán)值的變化,逐漸逼近目標(biāo)。每次權(quán)值和偏差的變化都與網(wǎng)絡(luò)輸出誤差的影響成正比,并以反向傳播的方式傳遞到每一層。BP網(wǎng)絡(luò)是由兩部分組成:信息的正向傳遞和誤差的反向傳播。

設(shè)神經(jīng)元的輸入矢量為[WTHX]X[WTBX]=\[x1,x2,…,xn\],其中n是輸入層的神經(jīng)元數(shù)。對應(yīng)于輸入[WTHX]X的輸出矢量是Y[WTBX]=\[y1,y2,…,ym\],其中m 是輸出層的神經(jīng)元數(shù)。如果要求網(wǎng)絡(luò)的期望輸出是[WTHX]T[WTBX]=\[t1,t2,…,tm\],г蛭蟛詈數(shù)可以定義為:

BP算法采用梯度下降法來調(diào)整網(wǎng)絡(luò)的權(quán)值,以使上述誤差函數(shù)減小,即:

Иw(n+1)=w(n)-η(E/w)[JY](3)И

式中:常數(shù)Е鞘僑ㄖ檔髡速率,通常取值0.01≤η≤1。權(quán)值WУ牡髡方法采用以下公式:

式中:ИΔwpq表示某層第p個(gè)節(jié)點(diǎn)到下一層第q個(gè)節(jié)點(diǎn)的權(quán)值修正量;xp表示節(jié)點(diǎn)p的輸出;δq表示節(jié)點(diǎn)qУ畝說愕燃畚蟛,由輸出層的等效誤差反傳而來:

式中:對應(yīng)BP模型網(wǎng)絡(luò)結(jié)構(gòu)(見圖1);節(jié)點(diǎn)q位于輸出層;節(jié)點(diǎn)h位于隱層。

2 電氣設(shè)備故障檢測實(shí)例

在電氣設(shè)備中發(fā)動機(jī)是故障率比較高的設(shè)備之一,其在故障診斷中比較具有代表性。在此,以發(fā)動機(jī)為例,分析BP神經(jīng)網(wǎng)絡(luò)在電氣設(shè)備故障診斷過程中的一般模式及步驟。

2.1 網(wǎng)絡(luò)樣本選取及參數(shù)選擇

分析發(fā)動機(jī)的常見故障模式,首先選擇具有代表性的故障作為特征向量,取[WTHX]X[WTBX]=[x1,x2,x3,x4]作為神經(jīng)網(wǎng)絡(luò)的輸入。其中:x1代表功率不足故障;x2代表聲音異常故障;x3代表排氣溫度高故障;x4代表消耗量過大故障。通過分析故障原因,取[WTHX]Y[WTBX]=[y1,y2,y3,y4,y5]作為目標(biāo)輸出向量。其中:y1代表點(diǎn)火不正確;y2代表高壓線圈損壞;y3代表出現(xiàn)燃爆現(xiàn)象;y4代表進(jìn)氣排氣管故障;y5代表增壓積炭過多故障。表1給出了輸入故障現(xiàn)象[WTHX]X和輸出原因分析Y[WTBX]е間的對應(yīng)關(guān)系。

由此可知,在設(shè)計(jì)基于三層BP神經(jīng)網(wǎng)絡(luò)的發(fā)動機(jī)故障診斷系統(tǒng)中,輸入層神經(jīng)元節(jié)點(diǎn)數(shù)N=4,輸出層神經(jīng)元節(jié)點(diǎn)數(shù)M=5。由公式h=(N+M)+σ可得隱含層神經(jīng)元節(jié)點(diǎn)數(shù)h取3~6之間的數(shù)。И

2.2 訓(xùn)練及測試

通過輸入樣本組對所設(shè)計(jì)的網(wǎng)絡(luò)進(jìn)行訓(xùn)練,選擇訓(xùn)練誤差為10-6。例如,輸入樣本[WTHX]X[WTBX]=[0,0,1,0],調(diào)整網(wǎng)絡(luò)狀態(tài),使其輸出接近目標(biāo)[WTHX]Y[WTBX]=[1,0,0,1,0],即當(dāng)發(fā)生排氣溫度過高故障時(shí),可能原因是點(diǎn)火不正確以及進(jìn)氣排氣管問題。訓(xùn)練網(wǎng)絡(luò)的過程,實(shí)際上就是調(diào)整網(wǎng)絡(luò)參數(shù)的過程,具體來說,最主要的就是確定各個(gè)網(wǎng)絡(luò)權(quán)值。最終訓(xùn)練好的網(wǎng)絡(luò)在測試過程中,能較為準(zhǔn)確地診斷出故障問題的原因。在工程使用過程中,選擇故障檢測過程中各種儀器測量出來、有代表意義的測量數(shù)據(jù),根據(jù)先驗(yàn)知識及專家分析,組成輸入樣本和目標(biāo)向量組,對設(shè)計(jì)的網(wǎng)絡(luò)結(jié)構(gòu)訓(xùn)練。在訓(xùn)練過程中,可增加輸入樣本的數(shù)量。因?yàn)橥ㄟ^大量樣本訓(xùn)練,神經(jīng)網(wǎng)絡(luò)能具有更好的適應(yīng)性和魯棒性,其故障診斷的準(zhǔn)確性有所提高。采用C++builder及Matlab混合編程,前者負(fù)責(zé)做界面系統(tǒng)的開發(fā),后者集中在神經(jīng)網(wǎng)絡(luò)算法的設(shè)計(jì)上,據(jù)此進(jìn)一步提高本工作的實(shí)際應(yīng)用能力。

篇6

關(guān)鍵詞： 變電站變壓器； 裂紋圖像； 特征提??； 神經(jīng)網(wǎng)絡(luò)

中圖分類號： TN911.73?34； TP181 文獻(xiàn)標(biāo)識碼： A 文章編號： 1004?373X（2017）13?0066?04

Abstract： In order to guarantee the normal operation of the electric power system， and improve the identification precision of the substation transformer crack image， a substation transformer crack image recognition model based on the improved neural network algorithm is proposed. The substation transformer crack image is collected and denoised. And then the features of the substation transformer crack image are extracted， and proceeded with dimensionless processing. The neural network is used to establish the recognition model of the substation transformer crack image， and its deficiency is improved correspondingly. The simulation test of the substation transformer simulation crack image recognition was carried out in Matlab 2104R. The results show that the improved neural network can obtain better result of the substation transformer crack image recognition， and the recognition speed can meet the requirements of the substation transformer crack image detection.

Keywords： substation transformer； crack image； feature extraction； neural network

0 引 言

隨著經(jīng)濟(jì)的不斷發(fā)展，人們的生活水平日益提高，各種家用電器以及辦公室的電器使用更加頻繁，電力系統(tǒng)的穩(wěn)定工作面臨巨大的挑戰(zhàn)[1]。變壓器是一種重要的電氣設(shè)備，變電站變壓器裂紋嚴(yán)重影響電力系統(tǒng)的正常運(yùn)行，因此如何對變電站變壓器裂紋圖像進(jìn)行準(zhǔn)確識別具有重要的意義[2]。

國內(nèi)外學(xué)者對變電站變壓器裂紋圖像技術(shù)進(jìn)行了深入、廣泛的研究，提出了一些可行的變電站變壓器裂紋圖像識別模型[3]，目前變電站變壓器裂紋圖像識別模型主要基于圖像進(jìn)行識別，通過對變壓器裂紋圖像進(jìn)行分類，對變壓器裂紋圖像的類別進(jìn)行正確劃分。在實(shí)際應(yīng)用中，變壓器裂紋圖像采集受到天氣、環(huán)境以及采集設(shè)備的干擾，圖像中難免會包含一定的噪聲，這些噪聲對變壓器裂紋圖像準(zhǔn)確識別產(chǎn)生了不利影響，因此需去除變壓器裂紋圖像中的噪聲[4?5]。變壓器裂紋圖像識別主要基于特征進(jìn)行建模分析，因此特征對變壓器裂紋圖像識別結(jié)果影響十分重要，當(dāng)前變壓器裂紋圖像識別特征很多，其中不變矩陣特征具有惟一性、魯棒性和可分性，在目標(biāo)識別、字符識別等領(lǐng)域得到了廣泛的應(yīng)用[6]。變壓器裂紋圖像類別與特征之間的聯(lián)系十分復(fù)雜，傳統(tǒng)方法采用歐式距離估計(jì)樣本之間的特征聯(lián)系，建立的變壓器裂紋圖像識別模型的誤識率比較高[7?8]。神經(jīng)網(wǎng)絡(luò)具有很好的非線性擬合性能，可以較好地描述變壓器裂紋圖像類型與特征之間的變化關(guān)系，廣泛應(yīng)用于變電站變壓器裂紋圖像的識別中。然而神經(jīng)網(wǎng)絡(luò)自身也存在一定的不足，如參數(shù)的確定全憑經(jīng)驗(yàn)進(jìn)行，導(dǎo)致變壓器裂紋圖像識別結(jié)果具有一定的盲目性和主觀性，識別結(jié)果不理想[9?10]。

為了保證電力系統(tǒng)的正常運(yùn)行，提高變電站變壓器裂紋圖像的識別精度，提出基于改進(jìn)BP神經(jīng)網(wǎng)絡(luò)[11]算法的變電站變壓器裂紋圖像識別。首先收集變電站變壓器裂紋圖像，并進(jìn)行去噪處理，然后提取變電站變壓器裂紋圖像的特征，最后采用改進(jìn)神經(jīng)網(wǎng)絡(luò)建立變電站變壓器裂紋圖像識別模型，在Matlab 2014R平臺上仿真測試結(jié)果表明，改進(jìn)神經(jīng)網(wǎng)絡(luò)提高了變電站變壓器裂紋圖像的識別精度，加快了變電站變壓器裂紋圖像的檢測速度。

1 小波變換和神經(jīng)網(wǎng)絡(luò)

1.1 小波變換

小波變換可以對信號進(jìn)行小波分解，小波系數(shù)描述不同分辨率上的信息，而且自適應(yīng)能力強(qiáng)，其基本思想為：

式中：和分別表示高分辨率空間和低分辨率空間。

時(shí)，小波變換的空間分解見圖1。

和是尺度空間和小波空間的正交基函數(shù)，分別定義如下：

1.2 BP神經(jīng)網(wǎng)絡(luò)

神經(jīng)網(wǎng)絡(luò)屬于非線性理論中的機(jī)器學(xué)習(xí)算法，它們可以通過一個(gè)結(jié)構(gòu)網(wǎng)絡(luò)對非線性問題進(jìn)行無限逼近，在圖像處理、人臉識別等領(lǐng)域得到成功應(yīng)用，其中BP神經(jīng)網(wǎng)絡(luò)的性能要優(yōu)于其他神經(jīng)網(wǎng)絡(luò)，通用性更強(qiáng)，BP神經(jīng)網(wǎng)絡(luò)的基本結(jié)構(gòu)如圖2所示，包括輸入層、輸出層和隱含層。

在圖2中，為BP神經(jīng)網(wǎng)絡(luò)的輸入向量，為BP神經(jīng)網(wǎng)絡(luò)的輸出向量，其中隱含層神經(jīng)元的節(jié)點(diǎn)數(shù)量通過輸入和輸出的數(shù)和決定，一般情況下，采用Sigmoid函數(shù)構(gòu)建隱含層的轉(zhuǎn)移函數(shù)，具體如下：

BP神經(jīng)網(wǎng)絡(luò)具有反饋功能，選擇輸出層期望輸出與預(yù)測輸出的誤差平方和作為反饋誤差，具體為：

1.3 BP神經(jīng)網(wǎng)絡(luò)的改進(jìn)

在BP神經(jīng)網(wǎng)絡(luò)的工作過程中，BP神經(jīng)網(wǎng)絡(luò)的權(quán)值直接影響其性能，傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)采用經(jīng)驗(yàn)確定權(quán)值，對于不同問題，神經(jīng)網(wǎng)絡(luò)的性能差別很大，為此，本文對標(biāo)準(zhǔn)神經(jīng)網(wǎng)絡(luò)進(jìn)行相應(yīng)的改進(jìn)，采用遺傳算法BP神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行在線優(yōu)化，以提高變電站變壓器裂紋圖像識別的效果，遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)權(quán)值具體設(shè)計(jì)過程為：

Step1：個(gè)體編碼。采用十進(jìn)制對BP神經(jīng)網(wǎng)絡(luò)的權(quán)值進(jìn)行編碼，那么編碼長度為：

式中：表示輸入層與隱含層的權(quán)重；表示隱含層與輸出層之間的權(quán)重。

Step2：適應(yīng)度函數(shù)的構(gòu)建。對個(gè)體進(jìn)行解碼，得到BP神經(jīng)網(wǎng)絡(luò)的權(quán)值和隱含層的輸出和輸出層的輸出它們分別為：

式中是訓(xùn)練輸出數(shù)據(jù)。

Step3：通過選擇、交叉和變異等遺傳操作，不斷產(chǎn)生新的種群，將個(gè)體解碼為BP神經(jīng)網(wǎng)絡(luò)的權(quán)值，然后根據(jù)權(quán)值對訓(xùn)練樣本進(jìn)行學(xué)習(xí)，得到反饋誤差，根據(jù)反饋誤差進(jìn)行反饋操作，最后得到BP神經(jīng)網(wǎng)絡(luò)最優(yōu)的權(quán)值。

2 變電站變壓器裂紋圖像識別模型

2.1 變電站變壓器裂紋圖像的特征提取

設(shè)變電站變壓器裂紋圖像為其原點(diǎn)矩和中心矩分別為：

2.2 變電站變壓器裂紋圖像識別模型的工作步驟

（1） 收集變電站變壓器裂紋圖像。

（2） 采用小波變換對變電站變壓器裂紋圖像進(jìn)行去噪處理，消除噪聲的干擾。

（3） 提取變電站變壓器裂紋圖像的不變矩特征，并進(jìn)行如下處理：

（4） 采用BP神經(jīng)網(wǎng)絡(luò)對訓(xùn)練樣本進(jìn)行學(xué)習(xí)，并采用遺傳算法優(yōu)化權(quán)值，建立變電站變壓器裂紋圖像識別分類器。

（5） 采用測試樣本對變電站變壓器裂紋圖像識別結(jié)果進(jìn)行分析。

3 仿真實(shí)驗(yàn)

3.1 實(shí)驗(yàn)環(huán)境

為了測試改進(jìn)BP神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識別性能，在Matlab 2014R仿真平臺上進(jìn)行了仿真實(shí)驗(yàn)，選擇不同類型的變電站變壓器裂紋圖像作為實(shí)驗(yàn)對象，它們共有4種類型，編號分別為1，2，3，4。

3.2 結(jié)果與分析

選擇傳統(tǒng)神經(jīng)網(wǎng)絡(luò)作為對比實(shí)驗(yàn)，變電站變壓器裂紋圖像識別結(jié)果如圖3和圖4所示，平均識別正確率和訓(xùn)練時(shí)間如表1所示。

對識別結(jié)果進(jìn)行分析可以得到如下結(jié)論：

（1） 傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識別正確率低，這主要是由于傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)的權(quán)值隨機(jī)確定，無法描述變電站變壓器裂紋圖像的類別，因此識別效果差。

（2） 改進(jìn)神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像識別結(jié)果相對更優(yōu)，這主是由于小波變換消除了變電站變壓器裂紋圖像中的噪聲，并通過遺傳算法確定BP神經(jīng)網(wǎng)絡(luò)權(quán)值，提高了變電站變壓器裂紋圖像識別的正確率，而且變電站變壓器裂紋圖像訓(xùn)練時(shí)間更快，加快了變電站變壓器裂紋圖像的識別速度。

4 結(jié) 論

變電站變壓器裂紋圖像具有重要的應(yīng)用價(jià)值，為了解決當(dāng)前變電站變壓器裂紋圖像識別中存在的局限性，提出改進(jìn)神經(jīng)網(wǎng)絡(luò)的變電站變壓器裂紋圖像的識別模型，并通過具體應(yīng)用實(shí)驗(yàn)對其有效性進(jìn)行測試，具體結(jié)論如下：

（1） 針對變電站變壓器裂紋圖像的噪聲，采用小波分析對變電站變壓器裂紋圖像進(jìn)行變換和處理，消除外界環(huán)境以及其他因素帶來的噪聲干擾，便于后續(xù)變電站變壓器裂紋圖像特征提取和分類器建立，有助于改善變電站變壓器裂紋圖像的識別效果。

（2） 通過提取變電站變壓器裂紋圖像的不變矩圖像，作為變電站變壓器裂紋圖像分類器的輸入，建立了變電站變壓器裂紋圖像識別的依據(jù)，準(zhǔn)確反映了變電站變壓器裂紋圖像類型。

（3） 采用改進(jìn)神經(jīng)網(wǎng)絡(luò)對變電站變壓器裂紋圖像進(jìn)行分類與識別，可以反映變電站變壓器裂紋圖像類型與圖像特征之間的映射關(guān)系，通過神經(jīng)網(wǎng)絡(luò)的自學(xué)習(xí)建立變電站變壓器裂紋圖像的識別模型，提高變電站變壓器裂紋圖像的識別精度。

（4） 通過引入遺傳算法對神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行優(yōu)化，解決了神經(jīng)網(wǎng)絡(luò)參數(shù)確定的難題，建立了結(jié)構(gòu)更優(yōu)的神經(jīng)網(wǎng)絡(luò)，降低了變電站變壓器裂紋圖像識別的錯(cuò)誤率。

（5） 與其他識別模型相比，改進(jìn)神經(jīng)網(wǎng)絡(luò)提高了變電站變壓器裂紋圖像識別的正確率，而且識別速度也有顯著的優(yōu)勢，對比結(jié)果驗(yàn)證了改進(jìn)神經(jīng)網(wǎng)絡(luò)應(yīng)用于變電站變壓器裂紋圖像識別的優(yōu)越性。

參考文獻(xiàn)

[1] 郭創(chuàng)新，朱傳柏，曹一家.電力系統(tǒng)故障診斷的研究現(xiàn)狀與發(fā)展趨勢[J].電力系統(tǒng)自動化，2006，30（8）：98?103.

[2] 蘇鵬聲，王歡.電力系統(tǒng)設(shè)備狀態(tài)監(jiān)測與故障診斷技術(shù)分析[J].電力系統(tǒng)自動化，2003，27（1）：61?65.

[3] 項(xiàng)新建.粗糙集理論在變壓器故障診斷專家系統(tǒng)中的應(yīng)用研究[J].科技通報(bào)，2003，19（4）：288?291.

[4] 應(yīng)鴻，李天云，張宇輝.變壓器故障診斷的神經(jīng)網(wǎng)絡(luò)法[J].東北電力學(xué)院學(xué)報(bào)，1996，16（4）：54?58.

[5] 孫才新，郭俊峰，廖瑞金，等.變壓器油中溶解氣體分析中的模糊模式多層聚類故障診斷方法的研究[J].中國電機(jī)工程學(xué)報(bào)，2001，21（2）：37?41.

[6] 張冠軍，嚴(yán)璋，張仕君.電力變壓器故障診斷中斷新方法的應(yīng)用[J].高壓電器，1998（4）：32?35.

[7] 顏湘蓮，文遠(yuǎn)芳.模糊神經(jīng)網(wǎng)絡(luò)在變壓器故障診斷中的應(yīng)用研究[J].變壓器，2002（7）：41?43.

[8] 謝可夫，羅安.遺傳算法在變壓器故障診斷中的應(yīng)用[J].電力自動化設(shè)備，2005（4）：55?58.

[9] 何成才.電力機(jī)車牽引變壓器油箱體裂紋故障的分析及處理[J].鄭州鐵路職業(yè)技術(shù)學(xué)院學(xué)報(bào)，2009，21（1）：13?14.

篇7

關(guān)鍵詞：火災(zāi)探測 模糊神經(jīng)網(wǎng)絡(luò) 智能 Matlab

根據(jù)燃燒對象，火災(zāi)分為A，B，C，D四種。A類火災(zāi)為固體可燃物引發(fā)的火災(zāi)，亦是最常見的燃燒對象；B類火災(zāi)為液體可燃物火災(zāi)；C類火災(zāi)為氣體可燃物火災(zāi)；D類火災(zāi)為可燃金屬火災(zāi)。火災(zāi)發(fā)生后蔓延速度極快，燃燒產(chǎn)生大量CO2，CO1等大量氣體及煙霧，并伴隨光、熱，損失將不可估計(jì)。對待火災(zāi)，我們應(yīng)采取“防消結(jié)合，預(yù)防為主”?；馂?zāi)探測技術(shù)的應(yīng)用便擔(dān)任著前鋒的作用，有效的提高探測器的靈敏度成為一個(gè)重大課題。本為將采用智能型報(bào)警系統(tǒng)，做早期發(fā)現(xiàn)和通報(bào)火災(zāi)，研究模糊神經(jīng)網(wǎng)絡(luò)的應(yīng)用。

1.火災(zāi)探測系統(tǒng)

探測器是自定報(bào)警系統(tǒng)中的最重要部分。隨著火災(zāi)的發(fā)生，火災(zāi)初期可燃物燃燒產(chǎn)生大量煙霧（S）和CO2，CO1等大量氣體（G），火災(zāi)達(dá)到全火焰時(shí)溫度（T）急劇上升，并伴隨著光（L）和熱（H）。因此在圖書館設(shè)感溫探測器，感煙探測器，氣體探測器及感光探測器。由于感煙探測器動作較早，可探測到70%以上的火災(zāi)，因此使用較為普遍。

2.模糊神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)設(shè)計(jì)

2.1 模糊神經(jīng)網(wǎng)絡(luò)的應(yīng)用

模糊神經(jīng)網(wǎng)絡(luò)（Fuzzy Neural Network，簡稱FNN）是全部或部分采用模糊神經(jīng)元所構(gòu)成的一種可處理模糊信息的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，也是現(xiàn)代熱門研究是技術(shù)，是模糊控制與神經(jīng)網(wǎng)絡(luò)控制的有機(jī)結(jié)合，博采眾長，以長補(bǔ)拙[1]。其特點(diǎn)是利用模糊邏輯較強(qiáng)的結(jié)構(gòu)性知識表達(dá)能力和神經(jīng)網(wǎng)絡(luò)強(qiáng)大的自學(xué)能力與定量數(shù)據(jù)的直接處理能力，在溫度、煙霧、氣體、光等信號處理上，提高火災(zāi)探測的準(zhǔn)確度、加快火情識別速度，使火災(zāi)報(bào)警信號處理更具邏輯性、可靠性，直接指導(dǎo)消防控制室的操作和應(yīng)用，在火災(zāi)報(bào)警系統(tǒng)中發(fā)揮良好的作用。

2.2 模糊控制規(guī)則設(shè)計(jì)[2-3]

模糊控制規(guī)則可根據(jù)火災(zāi)發(fā)生可能性大小分為不可能即NP，可能性小即PS，一定發(fā)生即PB三種。隱層的溫度隸屬度生成函數(shù)采用三角函數(shù)：

（ x - a）/（ b - a） a < x < b

μ（x） =

（ x - c）/ （ b - c） b < x < c

圖1 隸屬度函數(shù)

2.3神經(jīng)網(wǎng)絡(luò)模型

本文給出一個(gè)3層前饋網(wǎng)絡(luò)結(jié)構(gòu)，如圖2所示。設(shè)輸入信號為s：煙霧；g：CO2氣體；t：溫度；l：光；輸入信號為第一層，含3個(gè)神經(jīng)元；第二層為模糊層，設(shè)為9個(gè)節(jié)點(diǎn)，第三層為輸出層，有3個(gè)節(jié)點(diǎn)，表示無火、火小和火災(zāi)發(fā)生。

圖2 BP前饋網(wǎng)絡(luò)模型

3.算法及Matlab 網(wǎng)絡(luò)仿真

3.1 算法

本文采用反向傳播算法，學(xué)習(xí)訓(xùn)練過程由正向信號傳輸和反向誤差傳播組成。當(dāng)正向傳輸?shù)膶?shí)際輸出與期望輸出不符合時(shí)，轉(zhuǎn)入誤差反向傳播。

輸出誤差逐層反向傳播到隱層再到輸入層。誤差分給各層所有節(jié)點(diǎn)單元，獲得各層單元的誤差信號，且將該信號作為修正各單元權(quán)值的根據(jù)。通過不斷的調(diào)整權(quán)值，訓(xùn)練到誤差符合要求為止。

因此可知，設(shè)輸入向量為X；隱層輸出向量為Y；輸出層輸出向量為O；期望輸出向量為T；輸出層至隱層的權(quán)值矩陣為V；隱層至輸入層權(quán)值為W。隱層，輸出層的轉(zhuǎn)換函數(shù)分別采用雙曲正切S型函數(shù)tansig和S型對數(shù)函數(shù)logsig。

定義網(wǎng)絡(luò)的輸出誤差函數(shù)為均方誤差函數(shù)

E=1/2（T-O）2.

將輸出誤差函數(shù)展開到隱層，在展開到輸入層，并通過調(diào)節(jié)權(quán)值和閾值改變誤差E，從而減小誤差。即：

對于輸出層，設(shè)Y，δ0為輸出層的誤差信號，則輸出層的權(quán)值調(diào)整V=η（δ0YT） T；

對于輸入層，設(shè)X，δy為隱含層的誤差信號，則隱含層的權(quán)值調(diào)整為W=η（δyXT） T， η為學(xué)習(xí)率，在0～1間取值，這里取值0.1。

具體算法步驟：①初始化，對所有權(quán)值賦予任意小量，并對閾值設(shè)定初值；②給定訓(xùn)練數(shù)據(jù)集，即提供向量X和期望輸出Y；③計(jì)算實(shí)際輸出y；④調(diào)整權(quán)值，按誤差方向傳播方向，從輸出接點(diǎn)返回到隱層修正權(quán)值；⑤返回第②步重復(fù)計(jì)算，直至誤差滿足要求為止[4]。

3.2 Matlab 網(wǎng)絡(luò)仿真

模糊規(guī)則層設(shè)9個(gè)節(jié)點(diǎn)，輸出層有3個(gè)節(jié)點(diǎn)。用新浪天氣給出的鄭州市2012年8月1日到8月4日的天氣，歸一化處理：溫度/100℃，加上天氣特征值（0代表晴天，0.5代表陰天，1代表雨天），有4組數(shù)據(jù)。并將8月4日天氣數(shù)據(jù)作為導(dǎo)師信號。打開Matlab的編輯，輸入newff（）創(chuàng)建前向BP網(wǎng)絡(luò)，使用神經(jīng)元上的傳遞函數(shù)tansig（）及tansig（），建立一個(gè)訓(xùn)練函數(shù)使用梯度下降法的訓(xùn)練函數(shù)trainlm（）的BP網(wǎng)絡(luò)[5]。誤差訓(xùn)練下降曲線如圖3：

4.結(jié)語

在1000次訓(xùn)練后，輸出的均方誤差非常小， MSE=1.04678e-013/0，此時(shí)的網(wǎng)絡(luò)輸出應(yīng)該是非常精確的。這說明將模糊神經(jīng)網(wǎng)絡(luò)理論應(yīng)用在火災(zāi)報(bào)警系統(tǒng)中，有效地提高系統(tǒng)精度和減少誤報(bào)率，并且充分發(fā)揮了它的自學(xué)習(xí)、自適應(yīng)能力，使系統(tǒng)的靈敏度提高，同時(shí)又提高了系統(tǒng)的智能化程度。

參考文獻(xiàn)：

篇8

安全評價(jià)的關(guān)鍵與基礎(chǔ)是選取與確立評價(jià)的指標(biāo)體系，它對評價(jià)的結(jié)果是否符合實(shí)際情況至關(guān)重要。化工企業(yè)安全評價(jià)指標(biāo)體系應(yīng)盡可能反映化工企業(yè)的主要特征和基本狀況。評價(jià)過程中指標(biāo)體系的要素組成非常關(guān)鍵，如果選取的要素太多，有可能使評價(jià)指標(biāo)體系更加龐大和冗雜，從而增加評價(jià)的困難程度，甚至?xí)挂恍┲匾蛩乇缓雎?如果指標(biāo)因素太少，則難以較完整地反映被評價(jià)系統(tǒng)的客觀實(shí)際情況。•33•通過查閱研究某大型煉油化工企業(yè)的相關(guān)文獻(xiàn)和資料［4］，由人、機(jī)和環(huán)境3個(gè)方面構(gòu)成的系統(tǒng)模型出發(fā)，把生產(chǎn)系統(tǒng)所有重要環(huán)節(jié)包含其中，從而建立出化工企業(yè)的安全評價(jià)指標(biāo)體系如圖1和表1至表4所示。

2化工企業(yè)的遺傳神經(jīng)網(wǎng)絡(luò)安全評價(jià)模型

2．1遺傳神經(jīng)網(wǎng)絡(luò)遺傳算法優(yōu)化神經(jīng)網(wǎng)絡(luò)的方法主要有2種:對神經(jīng)網(wǎng)絡(luò)的初始權(quán)值和閾值進(jìn)行優(yōu)化;對神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)進(jìn)行優(yōu)化［5］。本文在保持神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)不變的情況下，用遺傳算法對BP神經(jīng)網(wǎng)絡(luò)初始權(quán)值和閾值進(jìn)行優(yōu)化。

2．2遺傳神經(jīng)網(wǎng)絡(luò)評價(jià)模型遺傳神經(jīng)網(wǎng)絡(luò)優(yōu)化的數(shù)學(xué)模型［6］如下:本文構(gòu)建的遺傳神經(jīng)網(wǎng)絡(luò)模型的運(yùn)行過程如下:(1)初始化BP神經(jīng)網(wǎng)絡(luò)。(2)把BP神經(jīng)網(wǎng)絡(luò)的全部權(quán)值與閾值實(shí)數(shù)編碼，確定其長度l，確定其為遺傳算法的初始種群個(gè)體。(3)設(shè)置遺傳算法的相關(guān)參數(shù)以及終止條件，執(zhí)行遺傳算法;遺傳算法包括對群體中個(gè)體適應(yīng)度進(jìn)行評價(jià)，執(zhí)行選擇、交叉、變異遺傳操作，進(jìn)化生成新的群體;反復(fù)操作至設(shè)定的進(jìn)化代數(shù)，最終取得最佳染色體個(gè)體。(4)把最佳染色體個(gè)體解碼，分解為BP網(wǎng)絡(luò)對應(yīng)的權(quán)值、閾值，輸入訓(xùn)練樣本，利用BP網(wǎng)絡(luò)進(jìn)行訓(xùn)練。(5)得到訓(xùn)練好的BP神經(jīng)網(wǎng)絡(luò)，則可輸入實(shí)例樣本進(jìn)行評價(jià)。

3遺傳神經(jīng)網(wǎng)絡(luò)評價(jià)模型在化工企業(yè)的應(yīng)用

3．1學(xué)習(xí)樣本的準(zhǔn)備根據(jù)前文所確定的評價(jià)指標(biāo)體系和對某大型煉油化工有限公司成氨分廠提供的空氣分離、渣油氣化、碳黑回收、一氧化碳變換、甲醇洗滌、液氮洗滌等工序的安全原始數(shù)據(jù)，參考文獻(xiàn)中化工企業(yè)安全評價(jià)指標(biāo)取值標(biāo)準(zhǔn)，進(jìn)行分析和整理，得出11個(gè)實(shí)例樣本，如表5所示。選擇10個(gè)樣本作為遺傳神經(jīng)網(wǎng)絡(luò)的訓(xùn)練樣本，1個(gè)樣本作為測試樣本。

3．2BP網(wǎng)絡(luò)結(jié)構(gòu)的確定BP網(wǎng)絡(luò)拓?fù)浣Y(jié)構(gòu)一般是由網(wǎng)絡(luò)層數(shù)、輸入層節(jié)點(diǎn)數(shù)、隱含層節(jié)點(diǎn)數(shù)、隱含層數(shù)以及輸出層節(jié)點(diǎn)數(shù)等來確定。本文建立的遺傳神經(jīng)網(wǎng)絡(luò)模型是根據(jù)經(jīng)驗(yàn)來確定神經(jīng)網(wǎng)絡(luò)的層數(shù)，一般選取BP神經(jīng)網(wǎng)絡(luò)的層數(shù)為3層［7］。通過化工企業(yè)安全評價(jià)指標(biāo)的分析，得出BP神經(jīng)網(wǎng)絡(luò)輸入層神經(jīng)元數(shù)目為評價(jià)指標(biāo)的總數(shù)12+6+8+5=31。模型最后輸出的結(jié)果為綜合安全評價(jià)結(jié)果，因此，神經(jīng)網(wǎng)絡(luò)的輸出層節(jié)點(diǎn)數(shù)確定為1。隱含層中節(jié)點(diǎn)數(shù)的范圍通過經(jīng)驗(yàn)公式來確定，本文在其確定范圍內(nèi)選12。依據(jù)訓(xùn)練樣本的規(guī)模，設(shè)定學(xué)習(xí)率為0．1，最大訓(xùn)練誤差值設(shè)為10－5，循環(huán)學(xué)習(xí)次數(shù)為1000次。網(wǎng)絡(luò)輸出層為1個(gè)節(jié)點(diǎn)，即化工企業(yè)的安全評價(jià)結(jié)果?；て髽I(yè)安全等級一般分為5級［7］，如表6所示。

3．3遺傳算法優(yōu)化遺傳算法中，參數(shù)設(shè)定如下:種群規(guī)模設(shè)為300，交叉概率設(shè)為0．7，進(jìn)化代數(shù)設(shè)為100，變異率設(shè)為0．05。本文運(yùn)用MATLAB軟件中的遺傳算法工具箱gads，在GUI操作界面中輸入以上參數(shù)，并輸入適應(yīng)度函數(shù)，對神經(jīng)網(wǎng)絡(luò)的權(quán)閾值進(jìn)行優(yōu)化。經(jīng)過遺傳操作后，運(yùn)行遺傳算法工具箱，則可得出最佳適應(yīng)度曲線圖和最佳個(gè)體圖(圖2)，得到最佳適應(yīng)度個(gè)體，將其進(jìn)行解碼，作為該網(wǎng)絡(luò)的初始權(quán)值和閾值賦給BP神經(jīng)網(wǎng)絡(luò)。

3．4GA－BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練在MATLAB界面中編程語言，得到輸出向量和網(wǎng)絡(luò)均方差變化圖。訓(xùn)練結(jié)果與期望輸出見表7，BP網(wǎng)絡(luò)訓(xùn)練過程如圖3所示。從訓(xùn)練結(jié)果可以看出，該網(wǎng)絡(luò)的誤差值不超過10－5，滿足設(shè)定要求。用該網(wǎng)絡(luò)對實(shí)例樣本進(jìn)行安全評價(jià)，得到結(jié)果為3．9956，對照安全評價(jià)輸出結(jié)果等級表為較安全，與目標(biāo)值吻合。從而訓(xùn)練后的網(wǎng)絡(luò)穩(wěn)定性得到驗(yàn)證，可以用于化工企業(yè)安全評價(jià)。

4結(jié)論

篇9

關(guān)鍵詞：BP神經(jīng)網(wǎng)絡(luò) 動量因子法 變步長法 學(xué)習(xí)速率

1.引言

人工神經(jīng)網(wǎng)絡(luò)（Artificial Neural Networks，ANN）是通過對人腦神經(jīng)元建模、聯(lián)結(jié)模擬生物腦或世界系統(tǒng)的網(wǎng)絡(luò)模型，是一種具有學(xué)習(xí)、記憶和模式識別等智能信息處理功能的人工系統(tǒng)。通常研究和使用的十種神經(jīng)網(wǎng)絡(luò)模型中，人們較多用的是Hopfield網(wǎng)絡(luò)、BP網(wǎng)絡(luò)、Kohonen網(wǎng)絡(luò)和ART網(wǎng)絡(luò)模型。其中的BP神經(jīng)網(wǎng)絡(luò)是基于反向傳播（BackPropagation）的網(wǎng)絡(luò)，也是神經(jīng)網(wǎng)絡(luò)領(lǐng)域中研究最多、應(yīng)用最廣的網(wǎng)絡(luò)模型。它采用最小均方差的學(xué)習(xí)方式，可用于函數(shù)逼近及語言綜合、識別和自適應(yīng)控制等。

2.標(biāo)準(zhǔn)BP神經(jīng)網(wǎng)絡(luò)算法

BP算法作為前饋網(wǎng)絡(luò)的主要學(xué)習(xí)算法，對神經(jīng)網(wǎng)絡(luò)的推廣應(yīng)用起了舉足輕重的促進(jìn)作用。標(biāo)準(zhǔn)的BP網(wǎng)絡(luò)，優(yōu)化計(jì)算的方法很多，比較典型的是采用一階梯度法，即最速下降法。在BP神經(jīng)網(wǎng)絡(luò)訓(xùn)練中，主要是針對一定的輸入，所得到的輸出是否與期望輸出接近，即誤差的代價(jià)函數(shù)達(dá)到最小。其簡單的實(shí)現(xiàn)步驟為：（1）通過網(wǎng)絡(luò)輸入反向傳播；（2）通過網(wǎng)絡(luò)將敏感性反向傳播；（3）使用近似均方誤差的BP算法更新權(quán)值和偏置值。

標(biāo)準(zhǔn)的BP算法因具有簡單、易行、計(jì)算量小及并行性強(qiáng)等優(yōu)點(diǎn)，是目前神經(jīng)網(wǎng)絡(luò)訓(xùn)練采用最多、最成熟的訓(xùn)練算法。由于BP網(wǎng)絡(luò)中待尋優(yōu)的參數(shù)太多，往往導(dǎo)致算法收斂速度慢。對于復(fù)雜問題，訓(xùn)練過程需迭代幾千、幾萬次才能收斂到期望的精度。因此，標(biāo)準(zhǔn)的BP網(wǎng)絡(luò)在很大程度上實(shí)用性不強(qiáng)，尤其對于實(shí)時(shí)性很強(qiáng)的系統(tǒng)而言。

3.BP算法的改進(jìn)

BP多層前饋網(wǎng)絡(luò)已成為神經(jīng)網(wǎng)絡(luò)的重要模型之一，但實(shí)際上的BP多層前饋網(wǎng)絡(luò)并不是利用標(biāo)準(zhǔn)的BP算法對網(wǎng)絡(luò)進(jìn)行訓(xùn)練的，而是對BP算法進(jìn)行了啟發(fā)式改進(jìn)。

（1）增加動量因子法

BP算法的神經(jīng)網(wǎng)絡(luò)的誤差曲面具有不同的區(qū)域有不同的誤差改變率的特點(diǎn)。假若開始訓(xùn)練的學(xué)習(xí)速率較高，那么算法的收斂速度可能很快。但當(dāng)?shù)M(jìn)入的區(qū)域包含極小點(diǎn)時(shí)，此時(shí)算法發(fā)散，來回振蕩，收斂不到極小值點(diǎn)。如果用平均改變參數(shù)的方法進(jìn)行軌跡的過濾，就可以對震蕩進(jìn)行平滑并可產(chǎn)生穩(wěn)定的軌跡。當(dāng)動量濾波器的參數(shù)得到了改變，獲取反向傳播的動量，使用了動量項(xiàng)，可以在保證算法較為穩(wěn)定的前提下，在網(wǎng)絡(luò)訓(xùn)練進(jìn)入局部最小值時(shí)產(chǎn)生一個(gè)繼續(xù)向前的正向斜率運(yùn)動，使得搜索能夠跳出較淺的峰值；當(dāng)網(wǎng)絡(luò)搜索位于誤差曲面平坦區(qū)的區(qū)域時(shí)，該方法能夠較快地提高訓(xùn)練速度。

（2）變步長法

變步長法通過調(diào)整網(wǎng)絡(luò)訓(xùn)練的學(xué)習(xí)率，故也稱為可變學(xué)習(xí)速率的方法。BP算法中對連接權(quán)值的調(diào)整，取決于兩個(gè)因子，即學(xué)習(xí)速率和梯度。其中通過調(diào)整學(xué)習(xí)速率提高算法收斂收率的方法，是當(dāng)前認(rèn)為最簡單、有效的方法。學(xué)習(xí)率不能隨意選取，選得太小，收斂會變慢；選得太大，可能調(diào)整過多，使得算法振蕩或發(fā)散。所以，在對學(xué)習(xí)率進(jìn)行調(diào)整時(shí)，一般遵循的準(zhǔn)則是：首先檢查修正值，看該值是否明顯降低了誤差。如果降低了，則學(xué)習(xí)率的值選取偏小，可以作為對學(xué)習(xí)率調(diào)整的參考；否則，學(xué)習(xí)率值調(diào)整過大，就應(yīng)該對該值進(jìn)行減小。增加可變速率參數(shù)后，得到改進(jìn)的BP算法如下：

①如果整個(gè)訓(xùn)練集上的均方誤差權(quán)值在更新后增加的，且該值超過了預(yù)設(shè)的某個(gè)百分?jǐn)?shù)，如：1%～5%，則不對權(quán)值進(jìn)行更新。學(xué)習(xí)速率被乘以一個(gè)大于零且小于1的因子，并且動量系數(shù)被設(shè)置為0。

②如果均方誤差在權(quán)值更新后變小了，則接受權(quán)值更新。學(xué)習(xí)速度將被乘以一個(gè)大于1的因子。假若學(xué)習(xí)率被設(shè)置為0，則恢復(fù)之原來的值。

③如果均方誤差的增長變小，則權(quán)值更新被接受，但學(xué)習(xí)速度保持不變。如果學(xué)習(xí)率過去被設(shè)置為0，則恢復(fù)到以前的值。

4.實(shí)驗(yàn)結(jié)果

分別對目標(biāo)誤差為0.001的網(wǎng)絡(luò)訓(xùn)練。實(shí)驗(yàn)結(jié)果如下：

（1）采用標(biāo)準(zhǔn)BP網(wǎng)對樣本進(jìn)行訓(xùn)練，迭代次數(shù)近5000次尚未收斂。

（2）采用增加動量法，迭代375次，學(xué)習(xí)過程收斂。

（3）采用變步長法，迭代1728次收斂。

由此可見，未改進(jìn)的標(biāo)準(zhǔn)BP學(xué)習(xí)算法存在收斂速度慢的缺陷；改進(jìn)后的BP學(xué)習(xí)算法都從不同程度上提高了算法的收斂速度，訓(xùn)練的次數(shù)大大減小了。對BP算法采用啟發(fā)式改進(jìn)措施后，明顯提高了學(xué)習(xí)速度。

篇10

關(guān)鍵詞： 徑向神經(jīng)網(wǎng)絡(luò) 故障診斷 觀測器

一、徑向神經(jīng)網(wǎng)絡(luò)

在眾多的神經(jīng)網(wǎng)絡(luò)中，徑向神經(jīng)網(wǎng)絡(luò)是一種結(jié)構(gòu)簡單、訓(xùn)練速度快并且具有最佳逼近性能的多層前向神經(jīng)網(wǎng)絡(luò)。多年來，人們對徑向神經(jīng)網(wǎng)絡(luò)進(jìn)行了大量的研究，并成功地應(yīng)用于故障診斷領(lǐng)域。主要原因有：

（1）它能存儲有關(guān)過程的知識，直接從歷史故障信息中學(xué)習(xí)，可以根據(jù)對象歷史數(shù)據(jù)訓(xùn)練網(wǎng)絡(luò)，然后將此信息與當(dāng)前測量數(shù)據(jù)進(jìn)行比較，比確定故障的類型。

（2）它具有濾除噪聲即在噪聲的情況下得出正確結(jié)論的能力，可以訓(xùn)練人工神經(jīng)網(wǎng)絡(luò)來識別信息，使其在噪聲環(huán)境中有效地工作。

（3）它具有很強(qiáng)的非線性逼近能力。

（4）它具有分辨故障原因及故障類型的能力。

徑向神經(jīng)網(wǎng)絡(luò)（Radial Basis Function Neural Network，RBFNN）是20世紀(jì)80年代提出的一種以函數(shù)逼近理論為基礎(chǔ)的前向神經(jīng)網(wǎng)絡(luò)，其設(shè)計(jì)思想就是將徑向基函數(shù)（RBF）應(yīng)用于神經(jīng)網(wǎng)絡(luò)作為激勵(lì)函數(shù)。不同于BP網(wǎng)絡(luò)的全局逼近性能，RBF是一種局部逼近網(wǎng)絡(luò)，對于每個(gè)訓(xùn)練樣本，它只需對少量的權(quán)值進(jìn)行局部的修正，因此速度很快，具有最佳的逼近性能。RBF神經(jīng)網(wǎng)絡(luò)的機(jī)構(gòu)與多層前向網(wǎng)絡(luò)結(jié)構(gòu)類似，其拓?fù)浣Y(jié)構(gòu)如圖所示。

RBF神經(jīng)網(wǎng)絡(luò)是由輸入層、隱含層和輸出層構(gòu)成的三層前向神經(jīng)網(wǎng)絡(luò)。第一層為輸入層，由信號源節(jié)點(diǎn)組成，其單元個(gè)數(shù)是由所描述問題的需要決定的；第二層為隱含層，是由一組徑向基函數(shù)構(gòu)成的非線性映射層，這樣就將輸入矢量直接映射到隱含層空間，當(dāng)徑向函數(shù)的中心確定以后，這種映射關(guān)系也就確定了；第三層為輸出層，提供從隱單元空間到輸出空間的一種線性變換。其中隱含層是網(wǎng)絡(luò)的核心，隱含層神經(jīng)元的變換函數(shù)是一種局部分布的對中心點(diǎn)徑向衰減的非線性函數(shù)，利用徑向基函數(shù)作為隱含層神經(jīng)元的基構(gòu)成隱含層空間，實(shí)現(xiàn)輸入矢量到輸出矢量的映射變換。這里主要研究以高斯函數(shù)為變換函數(shù)的徑向基神經(jīng)網(wǎng)絡(luò)。

RBF神經(jīng)網(wǎng)絡(luò)的輸入與輸出之間可認(rèn)為是一種映射關(guān)系：f（x）:R R

其中式中，i=1，2，…，n為隱含層節(jié)點(diǎn)數(shù)，n（y ，…，y ，…， y ）∈R 表示神經(jīng)網(wǎng)絡(luò)的輸出，x∈R 為網(wǎng)絡(luò)輸入矢量，w∈R 表示輸出權(quán)值，g∈R 為徑向基函數(shù)，g 表示隱層第i個(gè)神經(jīng)元的輸出值，w 表示第i個(gè)神經(jīng)元到輸出層第j個(gè)神經(jīng)元的權(quán)值。

式中，m ∈R 為徑向基神經(jīng)元的中心，r ∈R為徑向基神經(jīng)元的寬度，.表示2-范數(shù)或歐式距離。

徑向基神經(jīng)網(wǎng)絡(luò)的權(quán)值、中心與寬度是徑向基神經(jīng)元的三個(gè)重要參數(shù)。構(gòu)造和訓(xùn)練一個(gè)RBF神經(jīng)網(wǎng)絡(luò)的就是要是網(wǎng)絡(luò)通過學(xué)習(xí)，確定出每個(gè)隱層神經(jīng)元基函數(shù)的中心m 、寬度r 及隱層到輸出層的權(quán)值w，從而可以完成所需的輸入到輸出的映射。RBF網(wǎng)絡(luò)的三部分參數(shù)在映射中所起的作用是不同的。隱含層的徑向基函數(shù)完成的是從輸入空間到隱含層空間的非線性映射，而隱含層到輸出層的權(quán)值是實(shí)現(xiàn)從隱含層空間到輸出空間的線性映射，所完成的任務(wù)不同，決定了參數(shù)的訓(xùn)練方法和策略不同。

徑向基神經(jīng)元網(wǎng)絡(luò)的學(xué)習(xí)可以看成是誤差準(zhǔn)則下，以誤差函數(shù)f（x）為目標(biāo)函數(shù)的無約束最優(yōu)化問題。

式中，x表示網(wǎng)絡(luò)的三個(gè)待求的參數(shù)（中心、權(quán)值與寬度）；y 為網(wǎng)絡(luò)輸出，y 為期望輸出，N為樣本總數(shù)。

對于解決無約束最優(yōu)化問題，通常采用迭代的方法進(jìn)行計(jì)算，在給定初值x 后，按照等式

逐步修改直至收斂于解，其中為迭代步數(shù)，a 為學(xué)習(xí)速度，p 代表搜索方向。當(dāng)用上式進(jìn)行迭代時(shí)，函數(shù)f（x）應(yīng)該在每次迭代時(shí)都減小。研究結(jié)果顯示，最簡單的下降方向就是沿負(fù)梯度的方向，此時(shí)

式中，g 為f（x）在x 處的梯度，這樣我們就得到了最速下降的優(yōu)化算法：

有上面的推導(dǎo)可以看出，算法的關(guān)鍵是梯度的計(jì)算，下面給出梯度的計(jì)算公式。為了便于推導(dǎo)計(jì)算，將RBF網(wǎng)絡(luò)的數(shù)學(xué)模型表示如下：

式中，s=1，2，L，h為輸出變量的個(gè)數(shù)；i=1，2，L，n為隱含層的個(gè)數(shù)；j=1，2，L，N（N為樣本總數(shù)）；k為迭代步數(shù)；y 為第s個(gè)輸出；w 為輸出層的權(quán)值；m 為神經(jīng)元的中心；r 為神經(jīng)元的寬度；x（j）為輸入樣本。

定義如下的誤差函數(shù)：

式中，y 為網(wǎng)絡(luò)輸出，y 為期望輸出。

根據(jù)上述式子，輸出權(quán)值的梯度為： =-e （k）Q （k）（11）

具體步驟為：

（1）隨即給定一組參數(shù)x ∶m ，r ，w ，并給定迭代終止精度ε的值。

（2）令RBF網(wǎng)絡(luò)隱含層數(shù)目n=n ，n =l+m為任意小的正整數(shù)（其中l(wèi)和m分別表示系統(tǒng)輸入輸出的維數(shù)）。

（3）根據(jù)所給定的樣本，利用梯度法計(jì)算網(wǎng)絡(luò)的三個(gè)參數(shù)值，根據(jù)參數(shù)值計(jì)算網(wǎng)絡(luò)的輸出。

（4）根據(jù)樣本數(shù)據(jù)和網(wǎng)絡(luò)輸出計(jì)算誤差e（n），如果e（n）≤ε轉(zhuǎn)到下一步，否則讓n=n +n（其中n ＞0為整數(shù)），判斷是否n≤n （n 為預(yù)先設(shè)置的最大隱含層數(shù)目），滿足條件則轉(zhuǎn)上一步，否則轉(zhuǎn)下一步。

（5）記錄此時(shí)的n，m ，r ，w ，則得到RBF網(wǎng)絡(luò)隱含層的數(shù)目、網(wǎng)絡(luò)的中心、寬度和權(quán)值。

上述是基于最速度下降梯度法的徑向神經(jīng)網(wǎng)絡(luò)算法可以看出，網(wǎng)絡(luò)結(jié)構(gòu)的構(gòu)建與參數(shù)調(diào)整可以同時(shí)完成，具有學(xué)習(xí)時(shí)間短、計(jì)算量小等特點(diǎn)。

二、神經(jīng)網(wǎng)絡(luò)觀測器的建立

通常情況下，非線性系統(tǒng)的狀態(tài)空間模型可以表示如下：

x（k+1）=f（k，x（k））+g（k，x（k））u（k）+v（k）（14）

y（k+1）=h（k+1，x（k+1）+σ（k+1））（15）

式中，k為離散時(shí)間變量；x（k）∈R 為狀態(tài)變量；u（k）∈R 為輸入變量，y（k）∈R 為輸出向量；f:R R ，h:R R 為映射函數(shù)；v（k）和σ（k）分別為噪聲和模型不確定性函數(shù)。

根據(jù)RBF網(wǎng)路的最佳逼近性能，可以建立神經(jīng)網(wǎng)絡(luò)辨識模型，對于任意小的ε，存在RBF網(wǎng)絡(luò)逼近于系統(tǒng)的實(shí)際輸出：

e=y -y ＜ε（16）

式中，y 為網(wǎng)絡(luò)輸出，y 為期望輸出，ε為輸出殘差。當(dāng)無故障時(shí)，殘差信號由狀態(tài)估計(jì)的誤差和噪聲所決定，如果狀態(tài)估計(jì)的誤差足夠小，則殘差通常趨近于零。當(dāng)傳感器故障時(shí)系統(tǒng)的狀態(tài)方程變?yōu)椋?/p>

x（k+1）=f（k，x（k））+B（k，x（k））u（k）+v（k）（17）

y（k+1）=h（k+1，x（k+1））+σ（k+1）+D （k）（18）

式中，D ∈R 為傳感器故障分配矩陣，此時(shí)輸出殘差r（k）發(fā)生了很大的變化，所以根據(jù)殘差向量的改變進(jìn)行傳感器的故障監(jiān)測與隔離。

在構(gòu)造出系統(tǒng)的觀測器之后，就可以將其用于系統(tǒng)的故障隔離。在本文中神經(jīng)網(wǎng)絡(luò)觀測器是作為一個(gè)無故障的正常的模型來使用?；谏窠?jīng)網(wǎng)絡(luò)的故障診斷系統(tǒng)結(jié)構(gòu)如圖所示：

三、故障診斷

基于神經(jīng)網(wǎng)絡(luò)的系統(tǒng)故障診斷的基本思想就是建立系統(tǒng)的辨識模型，根據(jù)模型輸出和實(shí)際系統(tǒng)輸出的殘差進(jìn)行故障檢測與隔離，所以建立系統(tǒng)的辨識模型是研究的重點(diǎn)與核心。

針對于傳感器，使用如下的方法來進(jìn)行故障診斷；

由于神經(jīng)網(wǎng)絡(luò)具有很強(qiáng)的自學(xué)習(xí)能力，因此可以通過學(xué)習(xí)來獲得傳感器測量值，從而為故障診斷提供有效的信息。

首先，應(yīng)用傳感器組中的任一個(gè)輸出信號和系統(tǒng)輸入作為神經(jīng)網(wǎng)絡(luò)的輸入信號，將所有傳感器的輸出信號作為神經(jīng)網(wǎng)絡(luò)的輸出信號，構(gòu)成輸入樣本集合，應(yīng)用RBF網(wǎng)絡(luò)離線訓(xùn)練如下m個(gè)神經(jīng)網(wǎng)絡(luò)模型：

y （k）=F ［y （k），u（k）］，i=1，2，…，m（19）

然后應(yīng)用神經(jīng)網(wǎng)絡(luò)觀測器可獲得m組，，…，，其中=［，，…，］ 是第i個(gè)觀測器得到的，網(wǎng)絡(luò)的輸入和訓(xùn)練時(shí)的輸入相同。在系統(tǒng)正常運(yùn)行條件下，也即無故障時(shí)，接近系統(tǒng)傳感器輸出y 。當(dāng)?shù)趇個(gè)傳感器故障而其余的m-1個(gè)傳感器正常運(yùn)行時(shí)，由第i個(gè)神經(jīng)網(wǎng)絡(luò)觀測器所得的傳感器的輸出估值將會偏離的輸出估值，而其他神經(jīng)網(wǎng)絡(luò)觀測器的輸出則不受影響，仍接近實(shí)際輸出。那么利用下面的邏輯檢測實(shí)現(xiàn)傳感器故障診斷。

定義閥值ε ＞0，j=1，2，…，m，計(jì)算判別函數(shù)。

式中，y 為第i個(gè)傳感器測量值，為由第i個(gè)傳感器的測量值獲得的第j個(gè)傳感器輸出的估計(jì)值。則有下面的邏輯：

四、小結(jié)

徑向神經(jīng)網(wǎng)絡(luò)具有最優(yōu)的逼近性能，可以精確地對系統(tǒng)進(jìn)行辨識。利用神經(jīng)網(wǎng)絡(luò)觀測器進(jìn)行系統(tǒng)故障診斷，需要建立精確的神經(jīng)網(wǎng)絡(luò)辨識模型。在精確模型的基礎(chǔ)上可完成對系統(tǒng)的故障診斷，這種抗干擾能力很強(qiáng)，對不確定、非線性系統(tǒng)有很好的效果。

(指導(dǎo)老師：何曉薇教授)

（作者系中國民航飛行學(xué)院飛行技術(shù)學(xué)院研究生）