人工神經(jīng)網(wǎng)絡(luò)發(fā)展范文
時(shí)間:2024-04-08 18:04:50
導(dǎo)語(yǔ):如何才能寫好一篇人工神經(jīng)網(wǎng)絡(luò)發(fā)展,這就需要搜集整理更多的資料和文獻(xiàn),歡迎閱讀由公文云整理的十篇范文,供你借鑒。

篇1
關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò);VC維;數(shù)據(jù)挖掘
中圖分類號(hào):TP183文獻(xiàn)標(biāo)識(shí)碼:A文章編號(hào):1009-3044(2008)30-0710-02
A Review of the Research and Development of the Artificial Neural Nets
WANG Hui
(Xinjiang Petroleum Institute,Urumqi 830000,China)
Abstract: This paper reviews the history and the current situation of the theory of neural nets. It discusses two aspects: the Vapnik-Chervonenkis dimension calculation and the data mining in neural nets. It also touches upon such research areas as calculation theory, methods and application of neural nets.
Key words: neural nets;Vapnik-Chervonenkis dimension;Data Mining
1 引言
本世紀(jì)初,科學(xué)家們就一直探究大腦構(gòu)筑函數(shù)和思維運(yùn)行機(jī)理。特別是近二十年來(lái)。對(duì)大腦有關(guān)的感覺(jué)器官的仿生做了不少工作,人腦含有數(shù)億個(gè)神經(jīng)元,并以特殊的復(fù)雜形式組成在一起,它能夠在計(jì)算某些問(wèn)題(如難以用數(shù)學(xué)描述或非確定性問(wèn)題等)時(shí),比目前最快的計(jì)算機(jī)還要快許多倍。大腦的信號(hào)傳導(dǎo)速度要比電子元件的信號(hào)傳導(dǎo)要慢百萬(wàn)倍,然而,大腦的信息處理速度比電子元件的處理速度快許多倍,因此科學(xué)家推測(cè)大腦的信息處理方式和思維方式是非常復(fù)雜的,是一個(gè)復(fù)雜并行信息處理系統(tǒng)。1943年McCulloch和Pitts結(jié)合了神經(jīng)生理學(xué)和數(shù)理邏輯的研究描述了一個(gè)神經(jīng)網(wǎng)絡(luò)的邏輯演算。他們的神經(jīng)元模型假定遵循一種所謂“有或無(wú)”(all-or-none)規(guī)則。如果如此簡(jiǎn)單的神經(jīng)元數(shù)目足夠多和適當(dāng)設(shè)置突觸連接并且同步操作,McCulloch和Pitts證明這樣構(gòu)成的網(wǎng)絡(luò)原則上可以計(jì)算任何可計(jì)算的函數(shù),這標(biāo)志著神經(jīng)網(wǎng)絡(luò)學(xué)科的誕生。
2 發(fā)展歷史及現(xiàn)狀
2.1 人工神經(jīng)網(wǎng)絡(luò)理論的形成
早在40年代初,神經(jīng)解剖學(xué)、神經(jīng)生理學(xué)、心理學(xué)以及人腦神經(jīng)元的電生理的研究等都富有成果。其中,神經(jīng)生物學(xué)家McCulloch提倡數(shù)字化具有特別意義。他與青年數(shù)學(xué)家Pitts合作[1],從人腦信息處理觀點(diǎn)出發(fā),采用數(shù)理模型的方法研究了腦細(xì)胞的動(dòng)作和結(jié)構(gòu)及其生物神經(jīng)元的一些基本生理特性,他們提出了第一個(gè)神經(jīng)計(jì)算模型,即神經(jīng)元的閾值元件模型,簡(jiǎn)稱MP模型,他們主要貢獻(xiàn)在于結(jié)點(diǎn)的并行計(jì)算能力很強(qiáng),為計(jì)算神經(jīng)行為的某此方面提供了可能性,從而開(kāi)創(chuàng)了神經(jīng)網(wǎng)絡(luò)的研究。50年代初,神經(jīng)網(wǎng)絡(luò)理論具備了初步模擬實(shí)驗(yàn)的條件。Rochester,Holland與IBM公司的研究人員合作,他們通過(guò)網(wǎng)絡(luò)吸取經(jīng)驗(yàn)來(lái)調(diào)節(jié)強(qiáng)度,以這種方式模擬Hebb的學(xué)習(xí)規(guī)則,在IBM701計(jì)算機(jī)上運(yùn)行,取得了成功,幾乎有大腦的處理風(fēng)格。但最大規(guī)模的模擬神經(jīng)網(wǎng)絡(luò)也只有1000個(gè)神經(jīng)元,而每個(gè)神經(jīng)元又只有16個(gè)結(jié)合點(diǎn)。再往下做試驗(yàn),便受到計(jì)算機(jī)的限制。人工智能的另一個(gè)主要?jiǎng)?chuàng)始人Minsky于1954年對(duì)神經(jīng)系統(tǒng)如何能夠?qū)W習(xí)進(jìn)行了研究,并把這種想法寫入他的博士論文中,后來(lái)他對(duì)Rosenblatt建立的感知器(Perceptron)的學(xué)習(xí)模型作了深入分析。
2.2 第一階段的研究與發(fā)展
1958年計(jì)算機(jī)科學(xué)家Rosenblatt基于MP模型,增加了學(xué)習(xí)機(jī)制,推廣了MP模型。他證明了兩層感知器能夠?qū)⑤斎敕譃閮深悾偃邕@兩種類型是線性并可分,也就是一個(gè)超平面能將輸入空間分割,其感知器收斂定理:輸入和輸出層之間的權(quán)重的調(diào)節(jié)正比于計(jì)算輸出值與期望輸出之差。他提出的感知器模型,首次把神經(jīng)網(wǎng)絡(luò)理論付諸工程實(shí)現(xiàn)。1960年Widrow和Hoff提出了自適應(yīng)線性元件ADACINE網(wǎng)絡(luò)模型,是一種連續(xù)取值的線性網(wǎng)絡(luò),主要用于自適應(yīng)系統(tǒng)。他們研究了一定條件下輸入為線性可分問(wèn)題,期望響應(yīng)與計(jì)算響應(yīng)的誤差可能搜索到全局最小值,網(wǎng)絡(luò)經(jīng)過(guò)訓(xùn)練抵消通信中的回波和噪聲,它還可應(yīng)用在天氣預(yù)報(bào)方面。這是第一個(gè)對(duì)實(shí)際問(wèn)題起作用的神經(jīng)網(wǎng)絡(luò)??梢哉f(shuō),他們對(duì)分段線性網(wǎng)絡(luò)的訓(xùn)練有一定作用,是自適應(yīng)控制的理論基礎(chǔ)。Widrow等人在70年代,以此為基礎(chǔ)擴(kuò)充了ADALINE的學(xué)習(xí)能力,80年代他們得到了一種多層學(xué)習(xí)算法。
Holland于1960年在基因遺傳算法及選擇問(wèn)題的數(shù)學(xué)方法分析和基本理論的研究中,建立了遺傳算法理論。遺傳算法是一種借鑒生物界自然選擇和自然遺傳機(jī)制的高度并行、隨機(jī)、自適應(yīng)搜索算法,從而開(kāi)拓了神經(jīng)網(wǎng)絡(luò)理論的一個(gè)新的研究方向。1976年Grossberg提出自適應(yīng)共振理論(ART),這是感知器較完善的模型,即superrised學(xué)習(xí)方式。本質(zhì)上說(shuō),仍是一種unsuperrised學(xué)習(xí)方式。隨后,他與Carpenter一起研究ART網(wǎng)絡(luò),它有兩種結(jié)構(gòu)ART1和ART2,能夠識(shí)別或分類任意多個(gè)復(fù)雜的二元輸入圖像,其學(xué)習(xí)過(guò)程有自組織和自穩(wěn)定的特征,一般認(rèn)為它是一種先進(jìn)的學(xué)習(xí)模型。另外還有Werbos提出的BP理論以及提出的反向傳播原理;Fukushima 提出了視覺(jué)圖象識(shí)別的Neocognitron模型這些研究成果堅(jiān)定的神經(jīng)網(wǎng)絡(luò)理論的繼續(xù)研究。
2.3 第二次研究的階段
Hopfield于1982年至1986年提出了神經(jīng)網(wǎng)絡(luò)集體運(yùn)算功能的理論框架,隨后,引起許多學(xué)者研究Hopfield 網(wǎng)絡(luò)的熱潮,對(duì)它作改進(jìn)、提高、補(bǔ)充、變形等,至今仍在進(jìn)行,推動(dòng)了神經(jīng)網(wǎng)絡(luò)的發(fā)展。1983年Kirkpatrick等人先認(rèn)識(shí)到模擬退火算法可應(yīng)用于NP完全組合優(yōu)化問(wèn)題的求解。這種思想最早是由Metropolis等人在1953年提出的,即固體熱平衡問(wèn)題,通過(guò)模擬高溫物體退火過(guò)程的方法,來(lái)找全局最優(yōu)或近似全局最優(yōu),并給出了算法的接受準(zhǔn)則。這是一種很有效的近似算法。1984年Hinton等人提出了Boltzmann機(jī)模型,借用統(tǒng)計(jì)物理學(xué)中的概念和方法,引入了模擬退火方法,可用于設(shè)計(jì)分類和學(xué)習(xí)算法方面,并首次表明多層網(wǎng)絡(luò)是可訓(xùn)練的。Sejnowski于1986年對(duì)它進(jìn)行了改進(jìn),提出了高階Boltzmann機(jī)和快速退火等。
1986年Rumelhart和McClelland 合著的Parallel Distributed Processing: Exploratio n in the Microstructures of Cognition兩卷書(shū)出版,對(duì)神經(jīng)網(wǎng)絡(luò)的進(jìn)展起了極大的推動(dòng)作用。它展示了PDP研究集團(tuán)的最高水平,包括了物理學(xué)、數(shù)學(xué)、分子生物學(xué)、神經(jīng)科學(xué)、心理學(xué)和計(jì)算機(jī)科學(xué)等許多相關(guān)學(xué)科的著名學(xué)者從不同研究方向或領(lǐng)域取得的成果。他們建立了并行分布處理理論,主要致力于認(rèn)知的微觀研究。尤其是,Rumelhart提出了多層網(wǎng)絡(luò)Back-Propagation法或稱Error Propagation法,這就是后來(lái)著名的BP算法。
2.4 新發(fā)展階段
90年代以來(lái),人們較多地關(guān)注非線性系統(tǒng)的控制問(wèn)題,通過(guò)神經(jīng)網(wǎng)絡(luò)方法來(lái)解決這類問(wèn)題已取得了突出的成果,它是一個(gè)重要的研究領(lǐng)域。1990年Narendra和Parthasarathy提出了一種推廣的動(dòng)態(tài)神經(jīng)網(wǎng)絡(luò)系統(tǒng)及其連接權(quán)的學(xué)習(xí)算法,它可表示非線性特性,增強(qiáng)了魯棒性。他們給出了一種新的辨識(shí)與控制方案,以multilayer網(wǎng)絡(luò)與recarrent網(wǎng)絡(luò)統(tǒng)一的模型描述非線性動(dòng)態(tài)系統(tǒng),并提出了動(dòng)態(tài)BP 參數(shù)在線調(diào)節(jié)方法。尤其是進(jìn)化計(jì)算的概念在1992年形成,促進(jìn)了這一理論的發(fā)展。1993年誕生了國(guó)際性雜志Evolutionary Computation。近幾年它成為一個(gè)熱點(diǎn)研究領(lǐng)域。1993年Yip和Pao提出了一種帶區(qū)域指引的進(jìn)化模擬退火算法,他們將進(jìn)化策略引入?yún)^(qū)域指引,它經(jīng)過(guò)選優(yōu)過(guò)程,最終達(dá)到求解問(wèn)題的目的。
從上述各個(gè)階段發(fā)展軌跡來(lái)看,神經(jīng)網(wǎng)絡(luò)理論有更強(qiáng)的數(shù)學(xué)性質(zhì)和生物學(xué)特征,尤其是神經(jīng)科學(xué)、心理學(xué)和認(rèn)識(shí)科學(xué)等方面提出一些重大問(wèn)題,是向神經(jīng)網(wǎng)絡(luò)理論研究的新挑戰(zhàn),因而也是它發(fā)展的最大機(jī)會(huì)。90年代神經(jīng)網(wǎng)絡(luò)理論日益變得更加外向,注視著自身與科學(xué)技術(shù)之間的相互作用,不斷產(chǎn)生具有重要意義的概念和方法,并形成良好的工具。
3 神經(jīng)網(wǎng)絡(luò)的發(fā)展趨勢(shì)
3.1 神經(jīng)網(wǎng)絡(luò)VC維計(jì)算
神經(jīng)計(jì)算技術(shù)已經(jīng)在很多領(lǐng)域得到了成功的應(yīng)用,但由于缺少一個(gè)統(tǒng)一的理論框架,經(jīng)驗(yàn)性成分相當(dāng)高。最近十年里,很多研究者都力圖在一個(gè)統(tǒng)一的框架下來(lái)考慮學(xué)習(xí)與泛化的問(wèn)題 。PAC(Probably Approximately Correct)學(xué)習(xí)模型就是這樣一個(gè)框架。作為PAC學(xué)習(xí)的核心以及學(xué)習(xí)系統(tǒng)學(xué)習(xí)能力的度量,VC維(Vapnik-Chervonenkis dimension)在確定神經(jīng)網(wǎng)絡(luò)的容量(capacity)、泛化能力(generalization)、訓(xùn)練集規(guī)模等的關(guān)系上有重要作用。如果可以計(jì)算出神經(jīng)網(wǎng)絡(luò)的VC維,則我們可以估計(jì)出要訓(xùn)練該網(wǎng)絡(luò)所需的訓(xùn)練集規(guī)模;反之,在給定一個(gè)訓(xùn)練集以及最大近似誤差時(shí),可以確定所需要的網(wǎng)絡(luò)結(jié)構(gòu)。
Anthony將VC維定義為:設(shè)F為一個(gè)從n維向量集X到{0, 1}的函數(shù)族,則F的VC維為X的子集E的最大元素?cái)?shù),其中E滿足:對(duì)于任意S?哿E,總存在函數(shù)fs ∈F,使得當(dāng)x ∈ S時(shí)fs(x) =1,x?埸S但x∈E時(shí)fs(x) =0。
VC維可作為函數(shù)族F復(fù)雜度的度量,它是一個(gè)自然數(shù),其值有可能為無(wú)窮大,它表示無(wú)論以何種組合方式出現(xiàn)均可被函數(shù)族F正確劃分為兩類的向量個(gè)數(shù)的最大值。對(duì)于實(shí)函數(shù)族,可定義相應(yīng)的指示函數(shù)族,該指示函數(shù)族的VC維即為原實(shí)函數(shù)族的VC維。
3.2 基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)挖掘
1996年,F(xiàn)ayyad、Piatetsky-Shapiro和Smyth對(duì)KDD(Knowledge Discovery from Databases)和數(shù)據(jù)挖掘的關(guān)系進(jìn)行了闡述。但是,隨著該領(lǐng)域研究的發(fā)展,研究者們目前趨向于認(rèn)為KDD和數(shù)據(jù)挖掘具有相同的含義,即認(rèn)為數(shù)據(jù)挖掘就是從大型數(shù)據(jù)庫(kù)的數(shù)據(jù)中提取人們感興趣的知識(shí)。
數(shù)據(jù)挖掘的困難主要存在于三個(gè)方面:首先,巨量數(shù)據(jù)集的性質(zhì)往往非常復(fù)雜,非線性、時(shí)序性與噪音普遍存在;其次,數(shù)據(jù)分析的目標(biāo)具有多樣性,而復(fù)雜目標(biāo)無(wú)論在表述還是在處理上均與領(lǐng)域知識(shí)有關(guān);第三,在復(fù)雜目標(biāo)下,對(duì)巨量數(shù)據(jù)集的分析,目前還沒(méi)有現(xiàn)成的且滿足可計(jì)算條件的一般性理論與方法。在早期工作中,研究者們主要是將符號(hào)型機(jī)器學(xué)習(xí)方法與數(shù)據(jù)庫(kù)技術(shù)相結(jié)合,但由于真實(shí)世界的數(shù)據(jù)關(guān)系相當(dāng)復(fù)雜,非線性程度相當(dāng)高,而且普遍存在著噪音數(shù)據(jù),因此這些方法在很多場(chǎng)合都不適用。如果能將神經(jīng)計(jì)算技術(shù)用于數(shù)據(jù)挖掘,將可望借助神經(jīng)網(wǎng)絡(luò)的非線性處理能力和容噪能力,較好地解決這一問(wèn)題。
4 結(jié)束語(yǔ)
經(jīng)過(guò)半個(gè)多世紀(jì)的研究,神經(jīng)計(jì)算目前已成為一門日趨成熟,應(yīng)用面日趨廣泛的學(xué)科。本文對(duì)神經(jīng)計(jì)算的研究現(xiàn)狀和發(fā)展趨勢(shì)進(jìn)行了綜述,主要介紹了神經(jīng)網(wǎng)絡(luò)VC維計(jì)算、基于神經(jīng)網(wǎng)絡(luò)的數(shù)據(jù)挖掘領(lǐng)域的相關(guān)研究成果。需要指出的是,除了上述內(nèi)容之外,神經(jīng)計(jì)算中還有很多值得深入研究的重要領(lǐng)域,例如:與符號(hào)學(xué)習(xí)相結(jié)合的混合學(xué)習(xí)方法的研究;脈沖神經(jīng)網(wǎng)絡(luò)(Pulsed Neural Networks)的研究;循環(huán)神經(jīng)網(wǎng)絡(luò)(Recurrent Neural Networks)的研究等;神經(jīng)網(wǎng)絡(luò)與遺傳算法、人工生命的結(jié)合;支持向量機(jī)(Support Vector Machine)的研究;神經(jīng)網(wǎng)絡(luò)的并行、硬件實(shí)現(xiàn);容錯(cuò)神經(jīng)網(wǎng)絡(luò)的研究。
參考文獻(xiàn):
[1] McCulloch W S, Pitts W. A Logical Calculus of the Ideas Immanent in Nervous Activity, Bulletin of Mathematical Biophysics, 1943.
[2] N.維納著,郝季仁譯,控制論,科學(xué)出版,1985.
[3] Von Neumann J. The General and Logical Theory of Automata, Cerebral Mechanisms in Behavior; The Hixon Sympsium, 1951.
[4] Hebb D O. The Organization of Behavior, New York:Wiley, 1949.
[5] 陳世福,陳兆乾. 人工智能與知識(shí)工程[M]. 南京: 南京大學(xué)出版社,1998.
[6] Simon Haykin.神經(jīng)網(wǎng)絡(luò)原理[M].機(jī)械工業(yè)出版社(第二版),2004.
篇2
【關(guān)鍵詞】人工神經(jīng)網(wǎng)絡(luò) BP神經(jīng)網(wǎng)絡(luò) 圖像識(shí)別 識(shí)別技術(shù)
通常而言,所謂圖像處理與識(shí)別,便是對(duì)實(shí)際圖像進(jìn)行轉(zhuǎn)換與變換,進(jìn)而達(dá)到識(shí)別的目的。圖像往往具有相當(dāng)龐大的信息量,在進(jìn)行處理圖像的時(shí)候要進(jìn)行降維、 數(shù)字化、濾波等程序,以往人們進(jìn)行圖像識(shí)別時(shí)采用投影法、不變矩法等方法,隨著計(jì)算機(jī)技術(shù)的飛速發(fā)展,人工神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別技術(shù)將逐漸取代傳統(tǒng)的圖像識(shí)別方法,獲得愈來(lái)愈廣泛的應(yīng)用。
1 人工神經(jīng)網(wǎng)絡(luò)圖像識(shí)別技術(shù)概述
近年來(lái),人工智能理論方面相關(guān)的理論越來(lái)越豐富,基于人工神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別技術(shù)也獲得了非常廣泛的應(yīng)用,將圖像識(shí)別技術(shù)與人工神經(jīng)網(wǎng)絡(luò)技術(shù)結(jié)合起來(lái)的優(yōu)點(diǎn)是非常顯著的,比如說(shuō):
(1)由于神經(jīng)網(wǎng)絡(luò)具有自學(xué)習(xí)功能,可以使得系統(tǒng)能夠適應(yīng)識(shí)別圖像信息的不確定性以及識(shí)別環(huán)境的不斷變化。
(2)在一般情況下,神經(jīng)網(wǎng)絡(luò)的信息都是存儲(chǔ)在網(wǎng)絡(luò)的連接結(jié)構(gòu)以及連接權(quán)值之上,從而使圖像信息表示是統(tǒng)一的形式,如此便使得知識(shí)庫(kù)的建立與管理變得簡(jiǎn)便起來(lái)。
(3)由于神經(jīng)網(wǎng)絡(luò)所具有的并行處理機(jī)制,在處理圖像時(shí)可以達(dá)到比較快的速度,如此便可以使圖像識(shí)別的實(shí)時(shí)處理要求得以滿足。
(4)由于神經(jīng)網(wǎng)絡(luò)可增加圖像信息處理的容錯(cuò)性,識(shí)別系統(tǒng)在圖像遭到干擾的時(shí)候仍然能正常工作,輸出較準(zhǔn)確的信息。
2 圖像識(shí)別技術(shù)探析
2.1 簡(jiǎn)介
廣義來(lái)講,圖像技術(shù)是各種與圖像有關(guān)的技術(shù)的總稱。根據(jù)研究方法以及抽象程度的不同可以將圖像技術(shù)分為三個(gè)層次,分為:圖像處理、圖像分析以及圖像理解,該技術(shù)與計(jì)算機(jī)視覺(jué)、模式識(shí)別以及計(jì)算機(jī)圖形學(xué)等學(xué)科互相交叉,與生物學(xué)、數(shù)學(xué)、物理學(xué)、電子學(xué)計(jì)算機(jī)科學(xué)等學(xué)科互相借鑒。此外,隨著計(jì)算機(jī)技術(shù)的發(fā)展,對(duì)圖像技術(shù)的進(jìn)一步研究離不開(kāi)神經(jīng)網(wǎng)絡(luò)、人工智能等理論。
2.2 圖像處理、圖像識(shí)別與圖像理解的關(guān)系
圖像處理包括圖像壓縮、圖像編碼以及圖像分割等等,對(duì)圖像進(jìn)行處理的目的是判斷圖像里是否具有所需的信息并濾出噪聲,并對(duì)這些信息進(jìn)行確定。常用方法有灰度,二值化,銳化,去噪等;圖像識(shí)別則是將經(jīng)過(guò)處理的圖像予以匹配,并且對(duì)類別名稱進(jìn)行確定,圖像識(shí)別可以在分割的基礎(chǔ)之上對(duì)所需提取的特征進(jìn)行篩選,然后再對(duì)這些特征進(jìn)行提取,最終根據(jù)測(cè)量結(jié)果進(jìn)行識(shí)別;所謂圖像理解,指的是在圖像處理與圖像識(shí)別的基礎(chǔ)上,根據(jù)分類作結(jié)構(gòu)句法分析,對(duì)圖像進(jìn)行描述與解釋。所以,圖像理解包括圖像處理、圖像識(shí)別和結(jié)構(gòu)分析。就圖像理解部分而言,輸入是圖像,輸出是對(duì)圖像的描述解釋 。
3 人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和算法
在上個(gè)世紀(jì)八十年代,McClelland與Rumelhant提出了一種人工神經(jīng)網(wǎng)絡(luò),截止現(xiàn)在,BP神經(jīng)網(wǎng)絡(luò)已經(jīng)發(fā)展成為應(yīng)用最為廣泛的神經(jīng)網(wǎng)絡(luò)之一,它是一種多層前饋神經(jīng)網(wǎng)絡(luò),包括輸入層、輸出層和輸入層輸出層之間隱藏層,如圖1所示,便是一種典型的BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。
BP神經(jīng)網(wǎng)絡(luò)是通過(guò)不斷迭代更新權(quán)值使實(shí)際輸入與輸出關(guān)系達(dá)到期望,由輸出向輸入層反向計(jì)算誤差,從而通過(guò)梯度下降方法不斷修正各層權(quán)值的網(wǎng)絡(luò)。
BP神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)算法如下所述:
(1)對(duì)權(quán)值矩陣,學(xué)習(xí)速率,最大學(xué)習(xí)次數(shù),閾值等變量和參數(shù)進(jìn)行初始化設(shè)置;
(2)在黑色節(jié)點(diǎn)處對(duì)樣本進(jìn)行輸入;
(3)對(duì)輸入樣本,前向計(jì)算人工神經(jīng)網(wǎng)絡(luò)隱層及輸出層各層神經(jīng)元的輸出;
(4)使用梯度下降方法不斷修正各層權(quán)值及閥值,由梯度算子得到的權(quán)值為
(6)判斷,判斷是否大于最大迭代次數(shù)或者是否誤差已經(jīng)達(dá)到要求。如果大于最大迭代次數(shù)或誤差達(dá)到要求,那么便直接轉(zhuǎn)到第(7)步,否則,轉(zhuǎn)到第(4)步對(duì)各個(gè)矩陣的權(quán)值繼續(xù)修正,反復(fù)訓(xùn)練;
(7)看是否遍歷所有樣本,是則結(jié)束,否則跳回第(3)步繼續(xù)。
BP神經(jīng)網(wǎng)絡(luò)操作簡(jiǎn)單而有效,可通過(guò)Opencv的CvANN_MLP類, Matlab的模式識(shí)別工具箱Nprtool等實(shí)現(xiàn),經(jīng)驗(yàn)得出在如下情況中人工神經(jīng)網(wǎng)絡(luò)尤為適用:
(1)大量數(shù)據(jù)可用,卻不知道與輸出之間關(guān)系;
(2)問(wèn)題的解決方案隨時(shí)間變化而變化;
(3)輸出是模糊的函數(shù)關(guān)系,而非精確數(shù)字。
4 人工神經(jīng)網(wǎng)絡(luò)圖像識(shí)別
傳感器或攝像儀輸入圖像識(shí)別系統(tǒng)以后,其目標(biāo)圖像不能夠與系統(tǒng)全部的參考圖像完全一樣, 這是由于對(duì)應(yīng)噪聲干擾,光線不足和放縮旋轉(zhuǎn)等問(wèn)題。 基于人工神經(jīng)網(wǎng)絡(luò)對(duì)畸變圖像識(shí)別進(jìn)行深層分析,并且利用 CCD 攝像頭對(duì)圖像信息進(jìn)行采集,在此過(guò)程之中通過(guò)對(duì)攝像頭方位進(jìn)行更改對(duì)易出現(xiàn)畸變的圖像進(jìn)行采集,從而使得畸變圖像所帶信息組成樣本庫(kù)。在電腦里面輸入樣本庫(kù)中的圖像信息,并且進(jìn)行模數(shù)的轉(zhuǎn)化,變成數(shù)字圖像,利用數(shù)字濾波來(lái)對(duì)數(shù)字圖像信息進(jìn)行處理。在神經(jīng)網(wǎng)絡(luò)之中輸入樣本圖像數(shù)字信息來(lái)進(jìn)行訓(xùn)練,一方面可以基于數(shù)字圖像的像素點(diǎn)集合組成輸入矩陣,用高維數(shù)據(jù)作為訓(xùn)練樣本,通過(guò)主成分分析(PCA)的方法進(jìn)行降維,大大簡(jiǎn)化計(jì)算量;一方面可以基于數(shù)字圖像的特征空間進(jìn)行聚類分割,提取幾何特征或者統(tǒng)計(jì)特征,輸入到SOFM神經(jīng)網(wǎng)絡(luò)或者Hopfield神經(jīng)網(wǎng)絡(luò),從而使其生成圖像識(shí)別神經(jīng)網(wǎng)絡(luò)系統(tǒng)。在進(jìn)行圖像識(shí)別的時(shí)候使用CCD 攝像頭來(lái)采集識(shí)別圖像,并且把其模型轉(zhuǎn)化為數(shù)字圖像,預(yù)處理后,將其輸入到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)識(shí)別系統(tǒng)里面,就其可以開(kāi)展快速的計(jì)算,并進(jìn)行識(shí)別。把圖像識(shí)別技術(shù)與人工神經(jīng)網(wǎng)絡(luò)理論有機(jī)結(jié)合起來(lái),可以非常有效地實(shí)現(xiàn)神經(jīng)網(wǎng)絡(luò)信息系統(tǒng)的一致性, 此外,還可以將其對(duì)網(wǎng)絡(luò)連接結(jié)果與權(quán)值進(jìn)行存儲(chǔ),促進(jìn)管理效率的提高,并對(duì)于知識(shí)庫(kù)的構(gòu)建也具有積極的作用。
5 結(jié)論
本文就基于人工神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別技術(shù)進(jìn)行了詳細(xì)地闡述,由綜上研究可以基于人工神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別技術(shù)具有比較多的優(yōu)點(diǎn)以及比較高的可行性,然而,我們對(duì)該技術(shù)存在的網(wǎng)絡(luò)規(guī)模及復(fù)雜圖像識(shí)別準(zhǔn)確度上還應(yīng)繼續(xù)進(jìn)行深入研究,以求技術(shù)突破。在將來(lái),圖像識(shí)別技術(shù)隨著科技的不斷發(fā)展將會(huì)獲得更多的應(yīng)用,其勢(shì)必會(huì)發(fā)展為一門獨(dú)立且具備強(qiáng)大生命力的學(xué)科
參考文獻(xiàn)
[1]王強(qiáng),張小溪,韓一紅.基于神經(jīng)網(wǎng)絡(luò)的圖像識(shí)別[J].電子設(shè)計(jì)工程,2012.
[2]雷建鋒,孫俊逸.基于人工神經(jīng)網(wǎng)絡(luò)下的圖像識(shí)別的研究[J].現(xiàn)代電子技術(shù),2008.
篇3
關(guān)鍵詞:建筑管理人工神經(jīng)網(wǎng)絡(luò) 模仿人腦人工智能
人工神經(jīng)網(wǎng)絡(luò)(Application of Neural Network)與人工智能(Artificial Intelligence)處于總分結(jié)構(gòu)。人工神經(jīng)網(wǎng)絡(luò)從屬于人工智能系統(tǒng),是其中一個(gè)分支領(lǐng)域。它作為一款對(duì)非線性問(wèn)題處理十分簡(jiǎn)便的工具,擁有極強(qiáng)的非線性映射能力與良好的適應(yīng)能力及糾錯(cuò)能力。在傳統(tǒng)的語(yǔ)音與圖像識(shí)別等領(lǐng)域外,人工神經(jīng)網(wǎng)絡(luò)在經(jīng)濟(jì)管理、專業(yè)工程等諸多領(lǐng)域都嶄露了頭腳,并獲得廣泛的認(rèn)可。我國(guó)首篇將人工神經(jīng)網(wǎng)絡(luò)應(yīng)用與土木工程領(lǐng)域的文獻(xiàn)始發(fā)于上世紀(jì)八十年代末期,隨后即在建筑工程項(xiàng)目的管理當(dāng)中逐漸為人們所廣泛認(rèn)知,下面,就幾點(diǎn)對(duì)人工神經(jīng)網(wǎng)絡(luò)在建筑管理當(dāng)中的應(yīng)用作進(jìn)一步分析。
一、人工神經(jīng)網(wǎng)絡(luò)在建筑管理應(yīng)用中的預(yù)測(cè)作用
1.費(fèi)用預(yù)測(cè)方面。人工神經(jīng)網(wǎng)絡(luò)在費(fèi)用評(píng)估方面的應(yīng)用,主要采用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行試驗(yàn),通過(guò)對(duì)公路工程的樣例進(jìn)行試驗(yàn),發(fā)現(xiàn)其比傳統(tǒng)方法要更加保質(zhì)保量。塔雷克•哈加西(1998年)等通過(guò)運(yùn)用MS2Excel表格對(duì)人工神經(jīng)網(wǎng)絡(luò)進(jìn)行模擬,并在輸入層和隱含層加入了偏置神經(jīng)元來(lái)促進(jìn)網(wǎng)絡(luò)學(xué)習(xí)。它的缺點(diǎn)是因網(wǎng)絡(luò)學(xué)習(xí)過(guò)程中樣本數(shù)據(jù)含有噪音,會(huì)對(duì)系統(tǒng)造成過(guò)度學(xué)習(xí)的謬誤,這種問(wèn)題運(yùn)用規(guī)范化網(wǎng)絡(luò)可以得到有效的解決。在我國(guó)BP神經(jīng)網(wǎng)絡(luò)研究的歷史上,相關(guān)方面的研究學(xué)者對(duì)其應(yīng)用于建筑工程估價(jià)的能力有較高評(píng)價(jià),其中不僅神經(jīng)網(wǎng)絡(luò)的特征歸納作用可從海量的工程資料當(dāng)中尋找出工程項(xiàng)目與預(yù)算費(fèi)用的規(guī)律關(guān)系,還因其具有高度糾錯(cuò)能力,可對(duì)工程資料當(dāng)中因人為因素造成的偏差進(jìn)行糾正。同時(shí)因人工神經(jīng)網(wǎng)絡(luò)是通過(guò)并行處理來(lái)對(duì)數(shù)據(jù)進(jìn)行梳理,所以其運(yùn)算速度極快,且質(zhì)量同時(shí)也能得到保證,這不僅滿足了當(dāng)前信息化時(shí)代快速估算的效率要求,并且事實(shí)證明它是行之有效并可以投入實(shí)際應(yīng)用中的。
2.風(fēng)險(xiǎn)預(yù)測(cè)方面。建筑管理當(dāng)中諸多領(lǐng)域都對(duì)風(fēng)險(xiǎn)分析與風(fēng)險(xiǎn)預(yù)測(cè)都有涉及,這二者涵蓋了很多不可知的因素與風(fēng)險(xiǎn)因素,危及到了企業(yè)的管理經(jīng)營(yíng),束縛了企業(yè)的發(fā)展腳步,長(zhǎng)此以往即會(huì)對(duì)企業(yè)的健康長(zhǎng)遠(yuǎn)發(fā)展造成不利影響。能夠適時(shí)、到位的對(duì)企業(yè)即將面對(duì)的風(fēng)險(xiǎn)作出報(bào)告并采取針對(duì)措施,是及時(shí)規(guī)避企業(yè)風(fēng)險(xiǎn)的最佳途徑。時(shí)下企業(yè)通常采用計(jì)量經(jīng)濟(jì)模型與編輯效應(yīng)分析等方式以建立風(fēng)險(xiǎn)評(píng)估與預(yù)測(cè)系統(tǒng),用來(lái)對(duì)現(xiàn)行企業(yè)狀態(tài)進(jìn)行分析??墒沁@些方法普遍存在著一些問(wèn)題。比如經(jīng)濟(jì)變量的執(zhí)行時(shí)間不同,使得在簡(jiǎn)單加權(quán)時(shí)出現(xiàn)漏報(bào)現(xiàn)象,以及人工制定的警戒區(qū)無(wú)法適應(yīng)外部環(huán)境的變化性等。然而運(yùn)用擁有非線性映射與模式分析能力的人工神經(jīng)網(wǎng)絡(luò)便可以建立相對(duì)完善的風(fēng)險(xiǎn)預(yù)警系統(tǒng),從而更加適應(yīng)系統(tǒng)的不確定性與突然性。
二、人工神經(jīng)網(wǎng)絡(luò)在建筑管理中事故診斷的作用
在建筑工程項(xiàng)目管理當(dāng)中,受多方客觀因素的制約,工程的進(jìn)展常常會(huì)伴隨出現(xiàn)林林總總的工程事故發(fā)生,甚而有些事故毫無(wú)征兆,突然間出現(xiàn)。在事故發(fā)生后,要找尋事故的原因也并非易事,同樣要耗費(fèi)大量人、財(cái)、物力資源,且并不能及時(shí)找出事故原因,錯(cuò)過(guò)了最佳補(bǔ)救時(shí)間。人工神經(jīng)網(wǎng)絡(luò)在建筑工程中對(duì)于工程事故的診斷分析,對(duì)建筑工程管理中工程質(zhì)量的提高具有里程碑式的意義,其建筑專家系統(tǒng)存在著巨大的潛力。
建筑專家在進(jìn)行對(duì)工程事故的風(fēng)險(xiǎn)評(píng)估時(shí),第一步要運(yùn)用工程事故所表現(xiàn)出來(lái)的一些外在特征與一系列統(tǒng)計(jì)數(shù)據(jù),依照自身積累的大量經(jīng)驗(yàn),對(duì)事故的類型進(jìn)行分類記錄,在分類后便可以根據(jù)各方面特點(diǎn),如事故類型、受損程度與曾用的補(bǔ)救措施來(lái)對(duì)工程事故進(jìn)行風(fēng)險(xiǎn)評(píng)估與補(bǔ)救方案的制定。事故評(píng)定過(guò)程的關(guān)鍵在于建筑專家系統(tǒng)的數(shù)據(jù)規(guī)模,這種數(shù)據(jù)從大量典型事故案例中得出相關(guān)癥狀、事故狀態(tài)與補(bǔ)救措施間相互關(guān)聯(lián)的數(shù)據(jù)理論,傳統(tǒng)的專家系統(tǒng)對(duì)建筑管理最廣泛的應(yīng)用使在基于規(guī)則與診斷矩陣中表示建筑專家經(jīng)驗(yàn)知識(shí),即統(tǒng)計(jì)數(shù)據(jù)的方法。這種表示方式只能對(duì)分類做出明示,卻不能對(duì)事故與事故間存在的聯(lián)系做出明確反映。知識(shí)工程師在某些層面上對(duì)經(jīng)驗(yàn)知識(shí)難以進(jìn)行明確的表達(dá),這是傳統(tǒng)工程事故專家系統(tǒng)所存在的缺點(diǎn)?;谌四X神經(jīng)系統(tǒng)功能與結(jié)構(gòu)模擬之上研制而出的人工神經(jīng)網(wǎng)絡(luò),能通過(guò)不斷對(duì)實(shí)例數(shù)據(jù)的吸納,進(jìn)行拓展學(xué)習(xí),將知識(shí)充分融于神經(jīng)網(wǎng)絡(luò)當(dāng)中進(jìn)行存儲(chǔ),從而通過(guò)不斷的對(duì)知識(shí)的接收、學(xué)習(xí),進(jìn)行自我的完善與增強(qiáng)。同時(shí)它的類比能力更加令人關(guān)注,它不僅能將實(shí)例間的相同處與不同處逐一篩選,從而進(jìn)行歸納匯總,充實(shí)自身數(shù)據(jù)庫(kù),還能由此體現(xiàn)出神經(jīng)網(wǎng)絡(luò)中神經(jīng)元之間連接權(quán)值調(diào)整過(guò)程。特別是它的自我邏輯能力超強(qiáng),如果當(dāng)下的信息并不完整,它依然會(huì)靠強(qiáng)大的邏輯能力進(jìn)行推測(cè),通過(guò)計(jì)算而得出讓人滿意的答案。
結(jié)語(yǔ):
當(dāng)今社會(huì)依靠傳統(tǒng)的管理方式已經(jīng)遠(yuǎn)遠(yuǎn)無(wú)法滿足快節(jié)奏的經(jīng)濟(jì)生活,本文通過(guò)對(duì)人工神經(jīng)網(wǎng)絡(luò)在建筑管理工作當(dāng)中的費(fèi)用預(yù)測(cè)、事故診斷能力及事故解決方案制定等作用進(jìn)行闡述分析,希望能對(duì)建筑工程行業(yè)的發(fā)展盡綿薄之力。
參考文獻(xiàn):
篇4
【關(guān)鍵詞】氣體識(shí)別;自組織神經(jīng)網(wǎng)絡(luò)
1.引言
氣體識(shí)別在環(huán)境保護(hù)、化工控制、家用報(bào)警、食品保鮮、溫室環(huán)境控制、航空航天等領(lǐng)域有著廣泛的應(yīng)用。應(yīng)用氣體傳感器進(jìn)行多組份氣體的定性定量研究,可以極大的降低測(cè)量成本,減小測(cè)量周期,并可實(shí)現(xiàn)在線的實(shí)時(shí)測(cè)量。但由于當(dāng)前氣體傳感器普遍存在著交叉敏感和選擇性差等缺點(diǎn),使用單一傳感器很難實(shí)現(xiàn)多組份氣體的檢測(cè)分析。為解決以上問(wèn)題,一方面可以采用新材料、新工藝來(lái)改善傳感器本身的性能;另一方面可以將現(xiàn)有的氣體傳感器構(gòu)成陣列,并與自組織神經(jīng)網(wǎng)絡(luò)技術(shù)相結(jié)合。本文采用后者的原理,即通過(guò)多個(gè)敏感程度不同的氣體傳感器組成傳感器陣列,結(jié)合神經(jīng)網(wǎng)絡(luò)模式識(shí)別算法進(jìn)行氣體識(shí)別分析。
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neuron Networks,ANN)人工神經(jīng)網(wǎng)絡(luò)(Artificial Neutral Networks,ANN)是一個(gè)由大量簡(jiǎn)單處理單元廣泛連
接而成的復(fù)合網(wǎng)絡(luò)系統(tǒng)。神經(jīng)元結(jié)構(gòu)是受到生物神經(jīng)元的啟發(fā)而得來(lái)的。目前應(yīng)用的神經(jīng)網(wǎng)絡(luò)類型有很多,其中應(yīng)用最廣的是BP神經(jīng)網(wǎng)絡(luò),神經(jīng)網(wǎng)絡(luò)需要學(xué)習(xí)的過(guò)程,即利用外部條件作用于神經(jīng)網(wǎng)絡(luò),使其能重新對(duì)外界做出反應(yīng)。將氣體傳感器陣列與采用BP算法進(jìn)行訓(xùn)練的人工神經(jīng)網(wǎng)絡(luò)模式識(shí)別技術(shù)相結(jié)合形成的氣體識(shí)別系統(tǒng),是利用傳感器陣列對(duì)混合氣體的高維響應(yīng)模式來(lái)實(shí)現(xiàn)對(duì)混合氣體的定量檢測(cè)。其中傳感器陣列的選取、傳感器信號(hào)的預(yù)處理方法、BP神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)和參數(shù)以及測(cè)量環(huán)境是影響系統(tǒng)性能的可能因素。
2.人工嗅覺(jué)系統(tǒng)
人工嗅覺(jué)系統(tǒng)是一種化學(xué)分析系統(tǒng),它由一個(gè)具有部分專一性的電子化學(xué)傳感器陣列和一個(gè)合適的模式識(shí)別系統(tǒng)組成。由于人工嗅覺(jué)系統(tǒng)主要模仿的是生物的嗅覺(jué)系統(tǒng),所以人工嗅覺(jué)系統(tǒng)也可被稱為“電子鼻”或者電子嗅覺(jué)系統(tǒng)。
2.1 電子鼻簡(jiǎn)介
電子鼻這個(gè)術(shù)語(yǔ)開(kāi)始出現(xiàn)于二十世紀(jì)八十年代晚期,當(dāng)時(shí)它被用于1987年的一個(gè)學(xué)術(shù)會(huì)議。較為科學(xué)的電子鼻的概念出現(xiàn)于1994年英國(guó)Warwick大學(xué)的J.W.Gardner發(fā)表的文章中,并且J.W.Gardner綜述了世界各國(guó)人工嗅覺(jué)系統(tǒng)的發(fā)展概況。
電子鼻模仿人的鼻子的功能,以電訊號(hào)的方式予以表達(dá),可以工作在惡劣或有毒的環(huán)境下,在食品、化工、環(huán)保、醫(yī)療診斷、檢驗(yàn)等方面有很重要的應(yīng)用,其關(guān)鍵技術(shù)就是氣體傳感器陣列。
2.2 人工嗅覺(jué)系統(tǒng)的原理及基本組成部分
人工嗅覺(jué)系統(tǒng)主要是受生物的嗅覺(jué)系統(tǒng)啟發(fā)和影響,以下是該系統(tǒng)中的關(guān)鍵因素:
(1)對(duì)微量、痕量氣體分子瞬時(shí)敏感的監(jiān)測(cè)器,以得到與氣體化學(xué)成分相對(duì)應(yīng)的信號(hào);
(2)對(duì)檢測(cè)到的信號(hào)進(jìn)行識(shí)別與分類的數(shù)據(jù)處理器,將有用的信號(hào)與噪聲加以分離;
(3)將測(cè)量數(shù)據(jù)轉(zhuǎn)換為感官評(píng)定指標(biāo)的智能解釋器,得到合理的感官結(jié)果。
2.3 氣體傳感器
氣體傳感器是一種將氣體的成分、濃度等信息轉(zhuǎn)換為可以被人員、儀器儀表、計(jì)算機(jī)等利用的信息的裝置。
2.3.1 半導(dǎo)體氣體傳感器
半導(dǎo)體氣體傳感器在氣體傳感器中約占60%,根據(jù)其機(jī)理分為電導(dǎo)型和非電導(dǎo)型,電導(dǎo)型中又分為表面型和容積控制性。
2.3.2 表面敏感型傳感器元件
表面敏感型傳感器元件SnO2-Pd、ZnO-PT、AgO、Pt-SnO2,可檢測(cè)氣體為CO、NO2和氟利昂等,傳感材料Pt-SnO2的氣體傳感器可檢測(cè)氣體為可燃性氣體如H2、CO、CH4等。
2.3.3 容積控制型傳感材料
容積控制型傳感材料有TiO2、CoO-MgO-SnO2等,其半導(dǎo)體氣體傳感器可檢測(cè)氣體為液化石油氣、酒精和燃燒爐氣尾氣等。
3.神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neuron Networks,ANN)是近年來(lái)人工智能的一個(gè)重要科學(xué)分支。二十世紀(jì)五十年代末人工神經(jīng)網(wǎng)絡(luò)系統(tǒng)開(kāi)始作為人工智能的一種重要計(jì)算工具逐漸受到重視。進(jìn)入二十世紀(jì)八十年代后期,人工神經(jīng)網(wǎng)絡(luò)的研究進(jìn)入了一個(gè)新的。主要原因是:一方面經(jīng)過(guò)幾十年迅速發(fā)展起來(lái)的以邏輯符號(hào)處理為主的人工智能理論和馮-諾依曼計(jì)算機(jī)在處理諸如視覺(jué)、聽(tīng)覺(jué)、形象思維和聯(lián)想記憶等智能信息問(wèn)題時(shí)遇到挫折;另一方面,具有并行分布處理模式的人工神經(jīng)網(wǎng)絡(luò)本身的研究取得了巨大的進(jìn)展。
神經(jīng)網(wǎng)絡(luò)具有一些不同于其它計(jì)算方法的性質(zhì)和特點(diǎn)以及它自身是基于人類大腦結(jié)構(gòu)和功能而建立起來(lái)的,因此具有很多和人類智能類似的特點(diǎn)。首先,神經(jīng)網(wǎng)絡(luò)將信息存儲(chǔ)在大量的神經(jīng)元中,具有內(nèi)在的知識(shí)索引功能。信息在網(wǎng)絡(luò)中使用兩種方式被保留:一種是神經(jīng)元之間的連接,另一種是連接權(quán)重因子。其次,人工神經(jīng)網(wǎng)絡(luò)具有對(duì)周圍環(huán)境自學(xué)習(xí)、自適應(yīng)功能,也可用于處理帶噪聲的、不完整的數(shù)據(jù)集。在人工神經(jīng)網(wǎng)絡(luò)中,輸入與輸出的關(guān)系不是由單獨(dú)的神經(jīng)元直接負(fù)責(zé)的,相反是與神經(jīng)元的輸入輸出有關(guān)。最后,人工神經(jīng)網(wǎng)絡(luò)模擬人類的學(xué)習(xí)過(guò)程。人類大多數(shù)的學(xué)習(xí)和求解過(guò)程都是采用嘗試法,而人工神經(jīng)網(wǎng)絡(luò)可以以相同的方式運(yùn)行。
神經(jīng)元(neuron)即神經(jīng)網(wǎng)絡(luò)中的基本處理單元,也就是節(jié)點(diǎn)。一般節(jié)點(diǎn)由輸入與輸出、權(quán)重因子、內(nèi)部閥值和函數(shù)形式四部分組成。
圖1 神經(jīng)元模型
圖1給出了一個(gè)基本的神經(jīng)元模型,它具有R個(gè)輸入,每個(gè)輸入都通過(guò)一個(gè)適當(dāng)?shù)臋?quán)值wli和下一層相連,網(wǎng)絡(luò)輸出可表示為:
式中,n為該神經(jīng)元(序號(hào)l)的總輸入;
f(n)為神經(jīng)元輸入輸出關(guān)系的函數(shù),稱為作用函數(shù)、響應(yīng)函數(shù)或傳遞函數(shù)。
人工神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)是指它的處理單元是如何相互連接的,主要由輸入層、隱含層和輸出層組成。每一節(jié)點(diǎn)的輸出被送到下一層的所有節(jié)點(diǎn)。通過(guò)將這些處理單元組成層,將其相互連接起來(lái),并對(duì)連接進(jìn)行加權(quán),從而形成神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu),將若干個(gè)人工神經(jīng)元作為有向圖的節(jié)點(diǎn),可連接成人工神經(jīng)網(wǎng)絡(luò)。其中每一層對(duì)于人工神經(jīng)網(wǎng)絡(luò)的成功都非常關(guān)鍵??梢詫⑷斯ど窠?jīng)網(wǎng)絡(luò)輸入層、隱含層和輸出層看成為一個(gè)通過(guò)輸入層的所有節(jié)點(diǎn)輸入特定信息的黑箱。人工神經(jīng)網(wǎng)絡(luò)通過(guò)節(jié)點(diǎn)之間的相互連接關(guān)系來(lái)處理這些信息,最后從輸出層的節(jié)點(diǎn)給出最終結(jié)果。
4.誤差反向傳播網(wǎng)絡(luò)(BP網(wǎng)絡(luò))
1985年,以Rumelhart和McClelland為首提出了至今仍廣泛接受和使用的誤差反向傳播學(xué)習(xí)算法。按照這一算法進(jìn)行訓(xùn)練的多層神經(jīng)網(wǎng)絡(luò)被直接稱為BP神經(jīng)網(wǎng)絡(luò)。BP網(wǎng)絡(luò)是一種多層前饋型神經(jīng)網(wǎng)絡(luò),其神經(jīng)元的傳遞函數(shù)是S型函數(shù),輸出量為0到1之間的連續(xù)量,它可以實(shí)現(xiàn)從輸入到輸出的任意非線性映射。其權(quán)值的調(diào)整采用反饋傳播學(xué)習(xí)算法。
目前,在人工神經(jīng)網(wǎng)絡(luò)的實(shí)際應(yīng)用中,絕大部分的神經(jīng)網(wǎng)絡(luò)模型都采用BP網(wǎng)絡(luò)及其變化形式。BP網(wǎng)絡(luò)主要用于以下四方面:
(1)函數(shù)逼近:用輸入矢量和相應(yīng)的輸出矢量訓(xùn)練一個(gè)網(wǎng)絡(luò)以逼近一個(gè)函數(shù);
(2)模式識(shí)別:用一個(gè)特定的輸出矢量將它與輸入矢量聯(lián)系起來(lái);
(3)分類:把輸入矢量所定義的合適方式進(jìn)行分類;
(4)數(shù)據(jù)壓縮:減少輸出矢量維數(shù)以便于傳輸和存儲(chǔ)。
對(duì)于神經(jīng)網(wǎng)絡(luò)算法,使用基于誤差反向傳遞的神經(jīng)網(wǎng)絡(luò)算法設(shè)第p個(gè)模式XP=(X1P,X1P,…XNP,)T,p=1,2,…,N(N為模式個(gè)數(shù)),將其視為BP網(wǎng)絡(luò)的輸入,yip為其實(shí)際輸出,隱含層和輸出層各單元的激活函數(shù)采用sigmoid函數(shù),即:
一般基于BP的神經(jīng)網(wǎng)絡(luò)算法具體步驟如下:
Step1、構(gòu)造網(wǎng)絡(luò),初始化網(wǎng)絡(luò)的權(quán)矩陣,設(shè)置學(xué)習(xí)因子,動(dòng)態(tài)因子,跌代次數(shù)和允許誤差;
Step2、從一個(gè)網(wǎng)絡(luò)開(kāi)始,提供訓(xùn)練模式;
Step3、開(kāi)始訓(xùn)練第k個(gè)網(wǎng)絡(luò);
Step4、前向傳播過(guò)程,對(duì)所有訓(xùn)練模式,計(jì)算網(wǎng)絡(luò)的實(shí)際輸出并與目標(biāo)輸出相比較,如果誤差超過(guò)運(yùn)行誤差,則進(jìn)行下一步,否則訓(xùn)練第k+1個(gè)網(wǎng)絡(luò);
Step5、反向傳播過(guò)程:計(jì)算隱含層和輸出層各單元的誤差精度,修正權(quán)值和閥值:
式中,為學(xué)習(xí)效率;
di為教師信號(hào)或希望輸出;
為實(shí)際輸出yi與希望輸出di之差,其中yi和xj是取1或0的離散值。
Step6、繼續(xù)訓(xùn)練第k個(gè)網(wǎng)絡(luò)。
BP網(wǎng)絡(luò)的訓(xùn)練函數(shù)有traingd、traingdm、traingdx、trainrp、traincgf、traincgp等。由于BP網(wǎng)絡(luò)的簡(jiǎn)單性,在人工嗅覺(jué)系統(tǒng)的模式識(shí)別部分占有很大的比例,許多以前和現(xiàn)在的一些成熟人工嗅覺(jué)系統(tǒng)的產(chǎn)品仍然使用BP神經(jīng)網(wǎng)絡(luò)進(jìn)行模式識(shí)別。
BP網(wǎng)絡(luò)的學(xué)習(xí)是通過(guò)求解一個(gè)優(yōu)化問(wèn)題完成的,從數(shù)學(xué)的角度看,它是通過(guò)函數(shù)逼近擬合曲面(線)的想法,并且將其轉(zhuǎn)化為一個(gè)非線性優(yōu)化問(wèn)題而求解。BP網(wǎng)絡(luò)是對(duì)簡(jiǎn)單的非線性函數(shù)進(jìn)行復(fù)合,經(jīng)過(guò)多次復(fù)合后,則可以實(shí)現(xiàn)復(fù)雜的函數(shù),但存在BP學(xué)習(xí)算法收斂速度慢、不完備性和隱節(jié)點(diǎn)數(shù)只能憑經(jīng)驗(yàn)選取。
由于存在上述問(wèn)題,科學(xué)家們從利用線性的自適應(yīng)步長(zhǎng)加速BP算法和增加動(dòng)量項(xiàng)來(lái)去除收斂過(guò)程中的局部最小點(diǎn)。模擬退火(Simulated Annealing,簡(jiǎn)稱SA)思想是由Metopolis等人提出的,它可以很好的避免局部最小點(diǎn)的出現(xiàn),把它用在優(yōu)化中是由Kirkpatrick等人提出的。組合優(yōu)化問(wèn)題的解空間中的每一個(gè)點(diǎn)都代表一個(gè)解。不同的解有著不同的目標(biāo)函數(shù)值。優(yōu)化過(guò)程就是在解空間中尋找目標(biāo)函數(shù)的最小解。
SA算法的特點(diǎn)是通用性強(qiáng)、可達(dá)到全局最小。傳統(tǒng)的啟發(fā)式搜索算法如快速下降法,每次都是向改進(jìn)解的方向搜索,往往只能找到一個(gè)局部最優(yōu)解,而不是全局最優(yōu)解。而SA算法在系統(tǒng)朝能量減少這個(gè)總趨勢(shì)的過(guò)程中,允許解的搜索以一定的概率向較差的方向走,以避開(kāi)局部最小,而最終穩(wěn)定到全局能量最小的狀態(tài)。
5.利用自組織神經(jīng)網(wǎng)絡(luò)進(jìn)行氣體識(shí)別
將被測(cè)氣體按所需測(cè)量精度和濃度范圍按成份分成不同的濃度等級(jí),采用標(biāo)準(zhǔn)氣體配置這些等級(jí)的不同成份氣體的所有組合作為標(biāo)準(zhǔn)模態(tài)來(lái)訓(xùn)練神經(jīng)網(wǎng)絡(luò)。通過(guò)識(shí)別某一未知?dú)怏w樣本的模式,即可以得到未知?dú)怏w的成份濃度。例如,選用N種互相參比配制混合氣體樣本。根據(jù)傳感器的靈敏范圍,將配制的氣體濃度限制在a1到am以內(nèi),濃度變化間隔為l。這樣每種氣體有m種濃度模式,共計(jì)可得到mN個(gè)樣本。采用這些樣本作為原始數(shù)據(jù)訓(xùn)練自組織神經(jīng)網(wǎng)絡(luò),就可以實(shí)現(xiàn)在這一濃度范圍內(nèi)的最大誤差為l的氣體定量測(cè)量。
篇5
關(guān)鍵詞:成都中小微企業(yè) 人工神經(jīng)網(wǎng)絡(luò) 預(yù)測(cè)
1、人工神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)是一種應(yīng)用類似于大腦神經(jīng)突觸聯(lián)接的結(jié)構(gòu)進(jìn)行信息處理的數(shù)學(xué)模型。在工程與學(xué)術(shù)界也常直接簡(jiǎn)稱為神經(jīng)網(wǎng)絡(luò)或類神經(jīng)網(wǎng)絡(luò)。神經(jīng)網(wǎng)絡(luò)是一種運(yùn)算模型,由大量的節(jié)點(diǎn)(或稱神經(jīng)元)和之間相互聯(lián)接構(gòu)成。每個(gè)節(jié)點(diǎn)代表一種特定的輸出函數(shù),稱為激勵(lì)函數(shù)(activation function)。每?jī)蓚€(gè)節(jié)點(diǎn)間的連接都代表一個(gè)對(duì)于通過(guò)該連接信號(hào)的加權(quán)值,稱之為權(quán)重,這相當(dāng)于人工神經(jīng)網(wǎng)絡(luò)的記憶。網(wǎng)絡(luò)的輸出則依網(wǎng)絡(luò)的連接方式,權(quán)重值和激勵(lì)函數(shù)的不同而不同。而網(wǎng)絡(luò)自身通常都是對(duì)自然界某種算法或者函數(shù)的逼近,也可能是對(duì)一種邏輯策略的表達(dá)。
2、基于人工神經(jīng)網(wǎng)絡(luò)的預(yù)測(cè)模型的構(gòu)建
在運(yùn)用ANN預(yù)測(cè)模型預(yù)測(cè)這兩個(gè)指標(biāo)時(shí),我們采取下面的預(yù)測(cè)步驟:
(1)首先將1-6月份的數(shù)據(jù)標(biāo)準(zhǔn)化,及轉(zhuǎn)化為0-1之間的標(biāo)準(zhǔn)化數(shù)據(jù);
(2)我們將輸入設(shè)為1月份、2月份、3月份、4月份的數(shù)據(jù),輸出設(shè)為5月份的數(shù)據(jù);
(3)在matlab中調(diào)用newff函數(shù),建立一個(gè)5個(gè)輸入節(jié)點(diǎn)、10個(gè)隱含層節(jié)點(diǎn)、一個(gè)輸出節(jié)點(diǎn)的BP神經(jīng)網(wǎng)絡(luò),隱含層和輸出層轉(zhuǎn)移函數(shù)分別采用tansig(tansig(n) = 2/(1+exp(-2*n))-1)和purelin(y=x),訓(xùn)練函數(shù)選擇貝葉斯正則化算法trainbr,得到網(wǎng)絡(luò)仿真數(shù)據(jù);
(4)通過(guò)得到的網(wǎng)絡(luò)仿真數(shù)據(jù)與實(shí)際的數(shù)據(jù)進(jìn)行比較,我們可以發(fā)現(xiàn)該預(yù)測(cè)模型的精度很高。從而我們可以利用該預(yù)測(cè)模型預(yù)測(cè)未來(lái)月份的數(shù)據(jù),作為決策者進(jìn)行決策的依據(jù)。
3、分規(guī)模企業(yè)運(yùn)行態(tài)勢(shì)預(yù)測(cè)模型
3.1中型企業(yè)運(yùn)行態(tài)勢(shì)預(yù)測(cè)模型
我們按照上述步驟,得到最終的預(yù)測(cè)值,如表1所示,可見(jiàn),預(yù)測(cè)值與實(shí)際值之間相差并不大,誤差為0.099973%。
表1運(yùn)行監(jiān)測(cè)指標(biāo)按規(guī)模(中型)ANN預(yù)測(cè)模型實(shí)際值與預(yù)測(cè)值對(duì)比表
3.2小型企業(yè)運(yùn)行態(tài)勢(shì)預(yù)警模型
我們按照上述步驟,得到最終的預(yù)測(cè)值,如表2所示,可見(jiàn),預(yù)測(cè)值與實(shí)際值之間相差并不大,誤差為0.099974%。
表2運(yùn)行監(jiān)測(cè)指標(biāo)按規(guī)模(小型)ANN預(yù)測(cè)模型實(shí)際值與預(yù)測(cè)值對(duì)比表
3.3微型企業(yè)運(yùn)行態(tài)勢(shì)預(yù)警模型
我們按照上述步驟,得到最終的預(yù)測(cè)值,如表3所示,可見(jiàn),預(yù)測(cè)值與實(shí)際值之間相差并不大,誤差為0.098246%。
表3 運(yùn)行監(jiān)測(cè)指標(biāo)按規(guī)模(微型)ANN預(yù)測(cè)模型實(shí)際值與預(yù)測(cè)值對(duì)比表
4、結(jié)束語(yǔ)
運(yùn)行監(jiān)測(cè)指數(shù)和信心指數(shù)能很好的反映成都市中小企業(yè)的發(fā)展運(yùn)營(yíng)情況,本報(bào)告運(yùn)用人工神經(jīng)網(wǎng)絡(luò)這種高精度的預(yù)測(cè)方法,對(duì)這兩種指數(shù)進(jìn)行了預(yù)測(cè),預(yù)測(cè)結(jié)果精確,經(jīng)濟(jì)意義顯著。能很好預(yù)測(cè)未來(lái)月份的中小企業(yè)的指標(biāo)值,從而為決策者的決策提供有力的支持和依據(jù)。
參考文獻(xiàn):
[1]張乃堯,閻平凡.神經(jīng)網(wǎng)絡(luò)與模糊控制[M].北京: 清華大學(xué)出版社,1998.
篇6
關(guān)鍵詞:神經(jīng)網(wǎng)絡(luò) 地下水質(zhì)量評(píng)價(jià) 應(yīng)用
中圖分類號(hào):X824 文獻(xiàn)標(biāo)識(shí)碼:A 文章編號(hào):1672-3791(2016)08(b)-0000-00
1 前言
為解決包蟲(chóng)病影響百姓健康和經(jīng)濟(jì)發(fā)展問(wèn)題,石渠縣實(shí)施了大量打井取水工程。為了客觀評(píng)價(jià)地下水質(zhì)量,本文采取了人工神經(jīng)網(wǎng)絡(luò)算法模型,取得了理想效果。
2人工神經(jīng)網(wǎng)絡(luò)概述
近年來(lái),人工神經(jīng)網(wǎng)絡(luò)取得快速發(fā)展,越來(lái)越多的應(yīng)用于地質(zhì)礦產(chǎn)、能源等領(lǐng)域。韓國(guó)人機(jī)圍棋大賽,“AlphaGo”完勝李世石,讓人工神經(jīng)網(wǎng)絡(luò)倍受眾人關(guān)注。人工神經(jīng)網(wǎng)絡(luò)是一種模仿人腦神經(jīng)網(wǎng)絡(luò)行為特征,進(jìn)行分布式并行處理信息的數(shù)學(xué)算法模型,通過(guò)調(diào)整模型內(nèi)部節(jié)點(diǎn)間連接關(guān)系,達(dá)到處理信息的目的。
人工神經(jīng)網(wǎng)絡(luò)可以分為模型構(gòu)建、訓(xùn)練和仿真三個(gè)階段。模型構(gòu)建就是根據(jù)數(shù)據(jù)的特征,有針對(duì)性的構(gòu)建適于數(shù)據(jù)仿真的網(wǎng)絡(luò)模型結(jié)構(gòu)。模型結(jié)構(gòu)包括輸入層、隱含層和輸出層,每一層由神經(jīng)元組成。神經(jīng)元是模型的基本單元,通過(guò)閾值和激活函數(shù)把上層信息傳遞給下層。模型訓(xùn)練是已知輸入―輸出數(shù)據(jù)樣本,把輸入數(shù)據(jù)代入模型計(jì)算,通過(guò)不斷調(diào)整模型內(nèi)部參數(shù),使輸出結(jié)果與已知輸出數(shù)據(jù)誤差減小至允許范圍內(nèi),從而確定模型參數(shù)。訓(xùn)練樣本越多、越有規(guī)律性,仿真結(jié)果就越真實(shí)。模型仿真即使用訓(xùn)練好的網(wǎng)絡(luò)模型,用新的輸入數(shù)據(jù)代入模型,得到輸出結(jié)果的過(guò)程。仿真可以實(shí)現(xiàn)模擬人腦神經(jīng)進(jìn)行識(shí)別、判斷、歸類等功能。
3 地下水質(zhì)量評(píng)價(jià)模型建立
本文采用Matlab建立一個(gè)三層的BP人工神經(jīng)網(wǎng)絡(luò)模型,包含輸入層、隱含層和輸出層。輸入層為地下水評(píng)價(jià)因子,本文選取總硬度、溶解性總固體、硫酸鹽、氯化物等21項(xiàng)主要指標(biāo)作為評(píng)價(jià)因子,因此輸入層有21個(gè)神經(jīng)元。地下水質(zhì)量分為5類,輸入期望值為Ⅰ類(1,0,0,0,0)、Ⅱ類(0,1,0,0,0)、Ⅲ類(0,0,1,0,0)、Ⅳ類(0,0,0,1,0)、Ⅴ類(0,0,0,0,1),因此輸出層神經(jīng)元有5個(gè)。隱含層可設(shè)為5個(gè)神經(jīng)元,則網(wǎng)絡(luò)結(jié)構(gòu)為2155(圖1)。采用Matlab工具箱premnmx函數(shù)對(duì)數(shù)據(jù)進(jìn)行歸一化處理,newff函數(shù)建立BP模型,sim函數(shù)進(jìn)行仿真。
4 樣本數(shù)據(jù)準(zhǔn)備及訓(xùn)練
模型訓(xùn)練階段需要對(duì)足夠量的樣本進(jìn)行訓(xùn)練,以賦予模型結(jié)構(gòu)較為準(zhǔn)確的內(nèi)部參數(shù)。本文根據(jù)《地下水質(zhì)量評(píng)價(jià)標(biāo)準(zhǔn)》隨機(jī)生成足量樣本數(shù)據(jù)。例如:總硬度、溶解性總固體、硫酸鹽、氯化物四個(gè)因子,按地下水質(zhì)量分類指標(biāo),在每一類區(qū)間隨機(jī)生成3個(gè)樣本,則5類共隨機(jī)得到如表2所示15個(gè)樣本。生成的樣本數(shù)量應(yīng)足夠多才能提高仿真準(zhǔn)確性和減少訓(xùn)練步數(shù),但過(guò)多樣本則影響計(jì)算速度。本文對(duì)評(píng)價(jià)的21個(gè)因子,按分類指標(biāo)每類隨機(jī)生成40個(gè)樣本,共200個(gè)樣本,輸出允許誤差設(shè)為0.01,訓(xùn)練到540步時(shí)就達(dá)到了目標(biāo)。
5 模型仿真
本文的模型仿真對(duì)象為石渠縣東區(qū)50口井地下水的化學(xué)分析數(shù)據(jù),每口井1組樣品,選取總硬度、溶解性總固體、硫酸鹽、氯化物等21個(gè)主要評(píng)價(jià)因子。采用matlab的sim函數(shù),把50組樣品作為輸入數(shù)據(jù),得到輸出結(jié)果。
以上輸出數(shù)據(jù)顯示5口井水質(zhì)均為Ⅰ類。通過(guò)模型仿真,50口井水質(zhì)均達(dá)到Ⅰ類水質(zhì)標(biāo)準(zhǔn),與《地下水質(zhì)量標(biāo)準(zhǔn)》的綜合評(píng)價(jià)評(píng)分法結(jié)果基本一致。
6 結(jié)論
人工神經(jīng)網(wǎng)絡(luò)運(yùn)用的準(zhǔn)確度,在于模型構(gòu)建的合理性、輸入―輸出數(shù)據(jù)的相關(guān)性、訓(xùn)練樣本的普適性。如果樣本采集數(shù)據(jù)較窄,不能反映大部分背景特征,那么仿真時(shí)可能出現(xiàn)偏差。本文選取BP神經(jīng)網(wǎng)絡(luò),按標(biāo)準(zhǔn)分類隨機(jī)生成大量訓(xùn)練樣本,保證了樣本的普適性,使模型更可靠,運(yùn)用范圍更廣。在石渠縣包蟲(chóng)病區(qū)打井工程中的成功運(yùn)用,說(shuō)明了模型的可靠性和通用性,可進(jìn)一步運(yùn)用于其它工程和問(wèn)題。
參考文獻(xiàn)
[1] 焦李成.神經(jīng)網(wǎng)絡(luò)系統(tǒng)理論[M].西安:西安電子科技大學(xué)出版社,1990:6~16.
篇7
【摘要】 目的:應(yīng)用BP人工神經(jīng)網(wǎng)絡(luò)原理,設(shè)計(jì)一種類風(fēng)濕關(guān)節(jié)炎疾病診斷的方法。方法:選用對(duì)類風(fēng)濕關(guān)節(jié)炎敏感的8個(gè)指標(biāo),作為BP人工神經(jīng)網(wǎng)絡(luò)的輸入數(shù)據(jù),對(duì)樣本進(jìn)行訓(xùn)練和預(yù)測(cè)。結(jié)果:BP人工神經(jīng)網(wǎng)絡(luò)經(jīng)通過(guò)對(duì)150例樣本的運(yùn)算,訓(xùn)練集的113例樣本,訓(xùn)練正確率為97.4%;預(yù)測(cè)集的37例樣本,預(yù)測(cè)正確率為91.9%。結(jié)論:BP人工神經(jīng)網(wǎng)絡(luò)能為類風(fēng)濕關(guān)節(jié)炎作出較準(zhǔn)確的診斷,能提高診斷的客觀性。
【關(guān)鍵詞】 人工神經(jīng)網(wǎng)絡(luò); 類風(fēng)濕關(guān)節(jié)炎; 預(yù)測(cè)
類風(fēng)濕關(guān)節(jié)炎(Rheumatoid arthritis ,RA)是一種以關(guān)節(jié)滑膜發(fā)生慢性炎性病變的自身免疫性疾病,其病程多呈進(jìn)行性進(jìn)展,致殘率高,治愈率低下[1],早期臨床表現(xiàn)不典型,單項(xiàng)自身抗體檢測(cè)的靈敏度和特異性均有不足,類風(fēng)濕因子的檢出率也偏低,容易造成誤診[2,3]。因此醫(yī)務(wù)人員主要是通過(guò)敏感性互補(bǔ)的幾個(gè)檢驗(yàn)指標(biāo)和臨床表現(xiàn)對(duì)類風(fēng)濕關(guān)節(jié)炎作出診斷[4],但在疾病的診斷中往往帶有很多的主觀因素。近年來(lái)發(fā)展起來(lái)的人工神經(jīng)網(wǎng)絡(luò)是種理論化的數(shù)學(xué)模型,是模仿人腦神經(jīng)的網(wǎng)絡(luò)結(jié)構(gòu)及其功能而建立起來(lái)的一種信息處理系統(tǒng),具有自行學(xué)習(xí)、聯(lián)想記憶、錯(cuò)誤容納和強(qiáng)大的非線性處理能力[5]。因此人工神經(jīng)網(wǎng)絡(luò)常常被應(yīng)用到臨床醫(yī)學(xué)疾病的診斷上。本研究結(jié)合類風(fēng)濕關(guān)節(jié)炎診斷的8個(gè)主要指標(biāo),設(shè)計(jì)一種基于人工神經(jīng)網(wǎng)絡(luò)類風(fēng)濕關(guān)節(jié)炎的診斷方法,通過(guò)對(duì)150例樣本的網(wǎng)絡(luò)運(yùn)算,探討了人工神經(jīng)網(wǎng)絡(luò)對(duì)類風(fēng)濕關(guān)節(jié)炎診斷的可行性。
1 人工神經(jīng)網(wǎng)絡(luò)基本原理
人工神經(jīng)網(wǎng)絡(luò)可以通過(guò)對(duì)外界信息的學(xué)習(xí),以特定的方式對(duì)這些信息進(jìn)行處理和概括,從而具備了對(duì)這些信息的識(shí)別功能,并產(chǎn)生了一個(gè)相對(duì)應(yīng)的結(jié)論。因此,再次給人工神經(jīng)網(wǎng)絡(luò)這樣一個(gè)相似的條件時(shí),神經(jīng)網(wǎng)絡(luò)就會(huì)根據(jù)已學(xué)到的知識(shí),自行推理判斷,得到一個(gè)我們需要的結(jié)果。
1.1 人工神經(jīng)元
人工神經(jīng)元是組成人工神經(jīng)網(wǎng)絡(luò)的基本處理單元,簡(jiǎn)稱為神經(jīng)元。如圖1顯示了一個(gè)具有r個(gè)輸入分量的人工神經(jīng)元模型[6]。
圖1中p(r=1,2,…,r) 為該神經(jīng)元的輸入數(shù)據(jù);Wr 為該神經(jīng)元分別與各輸入數(shù)據(jù)間的連接強(qiáng)度,稱為連接權(quán)重,權(quán)重值的大小代表上一級(jí)神經(jīng)元對(duì)下一級(jí)神經(jīng)元的影響程度。b為該神經(jīng)元的閾值,f(x)為作用于神經(jīng)元的激勵(lì)函數(shù),通常采用的是S 型函數(shù),其數(shù)學(xué)表達(dá)式見(jiàn)式(1)[7]:
f(x)=(1+e-Qx)-1(1)
a為神經(jīng)元的輸出數(shù)據(jù)。神經(jīng)元將接收信息pi與連接權(quán)重wi 的點(diǎn)乘積求和構(gòu)成其總輸入, 在神經(jīng)元閾值b的作用下經(jīng)函數(shù)f(x)的作用,產(chǎn)生信號(hào)輸出a。
圖1 人工神經(jīng)元模型
1.2 人工神經(jīng)網(wǎng)絡(luò)
人工神經(jīng)網(wǎng)絡(luò)是由多個(gè)不同的神經(jīng)元連接而成,一般含有多個(gè)層次,每個(gè)層次又包含了多個(gè)神經(jīng)元,上一層次的神經(jīng)元只能對(duì)下一層的神經(jīng)元產(chǎn)生作用,同層神經(jīng)元間無(wú)相互作用[7]。根據(jù)神經(jīng)元的不同連接方式,就形成了不同功能的連接網(wǎng)絡(luò)模型。比如BP神經(jīng)網(wǎng)絡(luò),Kohonen神經(jīng)網(wǎng)絡(luò),Hopfield神經(jīng)網(wǎng)絡(luò)等等,多達(dá)數(shù)十種。在醫(yī)學(xué)中應(yīng)用比較廣泛的是BP神經(jīng)(Back Propagation),也就是誤差逆向傳遞網(wǎng)絡(luò)[8],本研究中采用的也是BP神經(jīng)網(wǎng)絡(luò)。BP神經(jīng)網(wǎng)絡(luò)一般由輸入層,隱含層和輸出層構(gòu)成,其結(jié)構(gòu)模型如圖2所示。
神經(jīng)網(wǎng)絡(luò)輸入層的神經(jīng)元是接受外界信息的端口,不包括數(shù)據(jù)運(yùn)算功能,他將外界的輸入數(shù)據(jù)通過(guò)一個(gè)連接權(quán)重傳遞給下一隱含層的神經(jīng)元。隱含層是神經(jīng)網(wǎng)絡(luò)的核心部分,數(shù)量上可以有一個(gè)或多個(gè)層次,隨著層次的增多,網(wǎng)絡(luò)結(jié)構(gòu)變得更復(fù)雜,網(wǎng)絡(luò)數(shù)據(jù)處理功能也增強(qiáng)。網(wǎng)絡(luò)的最后一層是輸出層,輸出層接收到隱含層的各項(xiàng)信息,然后經(jīng)過(guò)轉(zhuǎn)換把信息傳給外界。
輸入層 隱含層 輸出層
圖2 BP人工神經(jīng)網(wǎng)絡(luò)模型
1.3 人工神經(jīng)網(wǎng)絡(luò)工作原理
為了解決臨床上對(duì)疾病的預(yù)測(cè)或識(shí)別等問(wèn)題,神經(jīng)網(wǎng)絡(luò)主要是通過(guò)學(xué)習(xí)來(lái)獲取"知識(shí)"或"經(jīng)驗(yàn)"的,這一過(guò)程總體上可分為訓(xùn)練和預(yù)測(cè)兩個(gè)階段。所謂訓(xùn)練就是形成一種病因與疾病之間的函數(shù)映射關(guān)系,即給定一個(gè)實(shí)際輸出與期望輸出的目標(biāo)誤差值,將病人的各種病因、實(shí)驗(yàn)室檢查、影像超聲檢查、臨床表現(xiàn)等作為網(wǎng)絡(luò)的輸入信息加到其輸入端,輸入信息經(jīng)過(guò)隱含層神經(jīng)元的處理后,傳遞給輸出層。如果輸出層得到的結(jié)果大于預(yù)先給定的誤差目標(biāo)值時(shí),神經(jīng)網(wǎng)絡(luò)將這種誤差信號(hào)沿原來(lái)的傳遞路線逐層返回,并調(diào)節(jié)各個(gè)層次間神經(jīng)元連接的權(quán)重值,這種過(guò)程不斷交替進(jìn)行,直到誤差達(dá)到目標(biāo)值時(shí),訓(xùn)練過(guò)程結(jié)束。經(jīng)過(guò)訓(xùn)練可使疾病的各種情況分布到連接權(quán)上, 使學(xué)習(xí)后的網(wǎng)絡(luò)權(quán)重值存儲(chǔ)了臨床癥狀和疾病類型等相關(guān)的知識(shí),此時(shí)可以認(rèn)為神經(jīng)網(wǎng)絡(luò)建立起了病人的各種因素與該病人是否患有某種疾病的映射關(guān)系,這種映射關(guān)系就是一個(gè)預(yù)測(cè)疾病的判別函數(shù)。預(yù)測(cè)就是檢驗(yàn)判別函數(shù)的可靠程度,利用一些未包括在訓(xùn)練集中的樣本構(gòu)成預(yù)測(cè)集,將預(yù)測(cè)集中與疾病相關(guān)的數(shù)據(jù)輸入到訓(xùn)練好的網(wǎng)絡(luò)中去,在訓(xùn)練階段所得到的判別函數(shù)的作用下,就可以得到一個(gè)測(cè)試結(jié)果,從網(wǎng)絡(luò)的輸出端就可以診斷病人是否為疾病患者。
2 人工神經(jīng)網(wǎng)絡(luò)診斷類風(fēng)濕關(guān)節(jié)炎實(shí)例
2.1 病例選取及變量確定
實(shí)驗(yàn)數(shù)據(jù)來(lái)源于哈爾濱醫(yī)科大學(xué)附屬醫(yī)院,總共有150例。其中類風(fēng)濕關(guān)節(jié)炎患者83例,女71例,占85.5%;男12例,占14.5%。年齡范圍為20~79歲,平均年齡為48.92歲。所有患者均符合1987年美國(guó)風(fēng)濕病協(xié)會(huì)修訂的類風(fēng)濕關(guān)節(jié)炎診斷標(biāo)準(zhǔn)。用來(lái)作正常對(duì)照的有67例,其中女62例,占92.5%;男5例,占%7.5,年齡范圍為18~79歲,平均年齡為43.63歲。病人資料主要包括臨床癥狀與體征,相關(guān)實(shí)驗(yàn)室檢查,相應(yīng)影像學(xué)檢查。
根據(jù)中華醫(yī)學(xué)會(huì)風(fēng)濕病學(xué)分會(huì)制定的類風(fēng)濕關(guān)節(jié)炎診斷指南,典型的類風(fēng)濕關(guān)節(jié)炎按照1987年美國(guó)風(fēng)濕病協(xié)會(huì)修訂的類風(fēng)濕關(guān)節(jié)炎診斷標(biāo)準(zhǔn)來(lái)診斷并不困難,但某些不典型、早期類風(fēng)濕關(guān)節(jié)炎,常常被誤診或漏診。2008年,胡勇等[9]通過(guò)研究發(fā)現(xiàn),抗CCP抗體對(duì)類風(fēng)濕關(guān)節(jié)炎的敏感性和特異性分別為80.0%和93.7 %,聯(lián)合抗CCP抗體和RF可以提高診斷的準(zhǔn)確性,對(duì)類風(fēng)濕關(guān)節(jié)炎的早期診斷有重要意義。因此為了提高神經(jīng)網(wǎng)絡(luò)診斷各種類型類風(fēng)濕關(guān)節(jié)炎的準(zhǔn)確率,我們選取了x1(關(guān)節(jié)晨僵)、x2(對(duì)稱性關(guān)節(jié)炎)、x3(腕、掌指或者近端指間關(guān)節(jié)至少有一個(gè)關(guān)節(jié)腫)、x4(3個(gè)或者3個(gè)以上關(guān)節(jié)部位腫)、x5(關(guān)節(jié)X線改變)、x6(皮下結(jié)節(jié))、x7(RF )和x8(抗CCP抗體)這8個(gè)指標(biāo)來(lái)作為神經(jīng)網(wǎng)絡(luò)運(yùn)算的輸入數(shù)據(jù)。其中x1、x2、x3、x4、x5、x6和x7這幾個(gè)輸入數(shù)據(jù)是1987年美國(guó)風(fēng)濕病協(xié)會(huì)修訂的類風(fēng)濕關(guān)節(jié)炎診斷標(biāo)準(zhǔn)所包含的內(nèi)容,x8是為了提高對(duì)不典型、早期類風(fēng)濕關(guān)節(jié)炎的診斷所采用的輸入數(shù)據(jù)。上述x1、x2、x3、x4、x5、x6是定性變量(離散變量),臨床上常用陽(yáng)性和陰性來(lái)描述,實(shí)驗(yàn)中用1和0對(duì)這些變量進(jìn)行賦值,當(dāng)變量值為1時(shí)表示陽(yáng)性,為0時(shí)表示陰性;而變量x7、x8是定量變量(連續(xù)變量),用原始數(shù)據(jù)來(lái)描述。
2.2 確定訓(xùn)練樣本及預(yù)測(cè)樣本
在以上150例樣本中(83例類風(fēng)濕關(guān)節(jié)炎和67例正常對(duì)照)中分別選取63例類風(fēng)濕關(guān)節(jié)炎和50例正常對(duì)照的樣本,用來(lái)組成訓(xùn)練集,并用1~113的數(shù)字對(duì)其進(jìn)行順序編號(hào),1~63號(hào)代表是類風(fēng)濕關(guān)節(jié)炎,64~113號(hào)代表的是正常對(duì)照組的樣本。剩余的樣本用來(lái)組成預(yù)測(cè)集,集中樣本總數(shù)為37例,其中類風(fēng)濕關(guān)節(jié)炎患者有20例,正常對(duì)照組有17例,也用同樣的方法進(jìn)行編號(hào)。訓(xùn)練集與預(yù)測(cè)集樣本比例大約為4:1。
2.3 網(wǎng)絡(luò)參數(shù)的設(shè)定及算法程序
首先對(duì)神經(jīng)網(wǎng)絡(luò)參數(shù)設(shè)定如下:輸入神經(jīng)元個(gè)數(shù)為8,輸出神經(jīng)元個(gè)數(shù)為1,期望目標(biāo)輸出值用0表示正常,用1表示類風(fēng)濕關(guān)節(jié)炎,隱含層采用tansig函數(shù)。訓(xùn)練次數(shù)為6000次,訓(xùn)練目標(biāo)為0.06,學(xué)習(xí)速度為0.05,網(wǎng)絡(luò)連接權(quán)重初始值是[-1,1]之間的隨機(jī)數(shù),其次網(wǎng)絡(luò)進(jìn)行運(yùn)算所采用的是批動(dòng)量梯度下降算法,應(yīng)用MATLAB6.5來(lái)編寫該程序算法。
2.4 訓(xùn)練及預(yù)測(cè)結(jié)果
將訓(xùn)練集樣本的8個(gè)指標(biāo)輸入到BP網(wǎng)絡(luò)的算法程序中,網(wǎng)絡(luò)經(jīng)過(guò)500次的訓(xùn)練后,達(dá)到了訓(xùn)練目標(biāo)的要求,訓(xùn)練結(jié)果如圖3所示,預(yù)測(cè)輸出以0.5為閾值,>0.5者為類風(fēng)濕關(guān)節(jié)炎患者,
圖3 113例樣本訓(xùn)練結(jié)果從訓(xùn)練得到的圖形可以看出,63例類風(fēng)濕關(guān)節(jié)炎患者中有54例訓(xùn)練結(jié)果都在目標(biāo)輸出值1附近,而且非??拷?。只有9例稍微偏離了目標(biāo)輸出值1,由于輸出結(jié)果均在0.5~1.5的范圍內(nèi),可以認(rèn)為訓(xùn)練結(jié)果與實(shí)際相吻合。類似的在50例正常對(duì)照組中,有47例輸出結(jié)果都在目標(biāo)值0的附近,輸出值都在0~0.5之間,訓(xùn)練結(jié)果與實(shí)際也相吻合。而編號(hào)為64、75、92的3例樣本,其輸出值大于0.5,明顯大于目標(biāo)輸出值0,樣本訓(xùn)練結(jié)果有錯(cuò)誤。綜上所述,訓(xùn)練集中113例樣本有110訓(xùn)練正確,訓(xùn)練正確率達(dá)到97.4%。
經(jīng)過(guò)訓(xùn)練可以得到一個(gè)能反映類風(fēng)濕關(guān)節(jié)炎疾病情況的神經(jīng)網(wǎng)絡(luò)模型。把預(yù)測(cè)集樣本的數(shù)據(jù)導(dǎo)入到訓(xùn)練好的神經(jīng)網(wǎng)絡(luò)中去,進(jìn)行預(yù)測(cè),預(yù)測(cè)的結(jié)果如圖4。
圖4 37例樣本預(yù)測(cè)結(jié)果從上圖的輸出結(jié)果可以看出,在20例類風(fēng)濕關(guān)節(jié)炎樣本的預(yù)測(cè)中,19例樣本的輸出結(jié)果主要集中在目標(biāo)輸出值1附近,沒(méi)有超出0.5~1.5的范圍,可以視為預(yù)測(cè)結(jié)果與實(shí)際相符合,而編號(hào)為1的樣本,其輸出值小于0.5,偏離了目標(biāo)輸出值1,預(yù)測(cè)結(jié)果錯(cuò)誤。另外17例正常對(duì)照組中,15例預(yù)測(cè)結(jié)果與實(shí)際相符合,而編號(hào)為27、33號(hào)的樣本其輸出值大于0.5,明顯偏離目標(biāo)輸出值0,預(yù)測(cè)不正確。所以對(duì)于預(yù)測(cè)的總體樣本來(lái)說(shuō),34例預(yù)測(cè)正確,準(zhǔn)確率為91.9%,靈敏度為94.7%,特異度為86.7%。
訓(xùn)練集和預(yù)測(cè)集的樣本,經(jīng)BP神經(jīng)網(wǎng)絡(luò)運(yùn)算,其結(jié)果如表1所示。表1 BP神經(jīng)網(wǎng)絡(luò)測(cè)試樣本的計(jì)算結(jié)果
3 討論
由表1可知,2例預(yù)測(cè)有誤的樣本,它們來(lái)源于預(yù)測(cè)集的正常對(duì)照組中。同樣在訓(xùn)練階段,運(yùn)算有誤的3例樣本也全都來(lái)源于訓(xùn)練集的正常對(duì)照組中。由此可見(jiàn),運(yùn)算有誤的樣本在訓(xùn)練集和預(yù)測(cè)集之間存在一種對(duì)應(yīng)關(guān)系,即神經(jīng)網(wǎng)絡(luò)對(duì)樣本訓(xùn)練的錯(cuò)誤率越高,其預(yù)測(cè)的準(zhǔn)確率就越低。同時(shí),一些樣本的訓(xùn)練和預(yù)測(cè)結(jié)果也出現(xiàn)了較大范圍的波動(dòng),沒(méi)有集中在目標(biāo)值為1和0的這兩條直線上。出現(xiàn)這種結(jié)果的原因可能是:有些樣本數(shù)據(jù)偏倚,訓(xùn)練樣本總數(shù)又不是很多,從而導(dǎo)致這些數(shù)據(jù)偏倚的樣本所占的比例較大,在總體中表現(xiàn)出來(lái)的作用也就較強(qiáng)。因此加大訓(xùn)練樣本的數(shù)量,選擇數(shù)據(jù)偏倚較少或者更有代表性的樣本來(lái)學(xué)習(xí)訓(xùn)練,神經(jīng)網(wǎng)絡(luò)就能更準(zhǔn)確的反映疾病自身情況,同時(shí)網(wǎng)絡(luò)所包含的病因與疾病間相映射的函數(shù)關(guān)系也就更具有普遍性。
對(duì)疾病診斷過(guò)程而言,人工神經(jīng)網(wǎng)絡(luò)能夠模擬專家級(jí)醫(yī)師診斷疾病的思維過(guò)程和獲得診斷疾病的相關(guān)知識(shí)。此后對(duì)疾病進(jìn)行預(yù)測(cè)時(shí)就可以避免醫(yī)師對(duì)疾病診斷的主觀性及思維定勢(shì),因此能提高疾病診斷的客觀性。盡管臨床上也存在一些疾病患者,往往因?yàn)樵\斷數(shù)據(jù)的缺失,給醫(yī)師診斷帶來(lái)了很多的困難或是誤診,然而神經(jīng)網(wǎng)絡(luò)具有的容錯(cuò)性質(zhì)以及能根據(jù)訓(xùn)練得來(lái)的知識(shí)和處理問(wèn)題的經(jīng)驗(yàn),對(duì)上述缺失的數(shù)據(jù)等這種復(fù)雜的問(wèn)題,做出合理的判斷與推理,從而為病人做出較正確的診斷。
在疾病診斷方面, 按照1987年美國(guó)風(fēng)濕病協(xié)會(huì)修訂的類風(fēng)濕關(guān)節(jié)炎診斷標(biāo)準(zhǔn),對(duì)一些不典型,早期的類風(fēng)濕關(guān)節(jié)炎常常不能作出正確的診斷,特異性也低,往往造成誤診。然而基于人工神經(jīng)網(wǎng)絡(luò)類風(fēng)濕關(guān)節(jié)炎的診斷方法,通過(guò)對(duì)37例樣本的預(yù)測(cè),預(yù)測(cè)結(jié)果表明:本方法對(duì)類風(fēng)濕關(guān)節(jié)炎的診斷,其準(zhǔn)確率為91.9%,靈敏度為94.7%,特異度為86.7%,可作為疾病診斷的一種新方法。當(dāng)然,實(shí)驗(yàn)中也存在一些問(wèn)題有待于進(jìn)一步研究,如輸入變量的選擇及其數(shù)據(jù)處理,網(wǎng)絡(luò)初始權(quán)重的計(jì)算,網(wǎng)絡(luò)訓(xùn)練的最佳原則,隱含層數(shù)的設(shè)計(jì)等等。隨著研究的進(jìn)一步深入,人工神經(jīng)網(wǎng)絡(luò)必將得到臨床工作者的認(rèn)同并為疾病研究帶來(lái)諸多的便利。
【參考文獻(xiàn)】
1 顧福榮,張義東,施錦杰.抗CCP抗體、抗RA33抗體、抗Sa 抗體和RF聯(lián)合檢測(cè)對(duì)類風(fēng)濕性關(guān)節(jié)炎診斷的意義.江西醫(yī)學(xué)檢驗(yàn),2007,25(1):24~25.
2 Matsuo K,Xiang Y,Nakamura H,et al.Identification of novel eitrullinated autoantigens of synovium in rheumatoid arthritis using a proteomie approach.Arthritis Res Ther,2006,8(6):1~3.
3 Harrison MJ,Paget SA. Anti2CCP antibody testing as a diagnostic and prognostic tool in rheumatoid arthritis.QJM,2007,100(4):193~201.
4 王青青.類風(fēng)濕性關(guān)節(jié)炎的診斷與治療.全科醫(yī)學(xué)臨床與教育.2008,6(2):92~94.
5 孫文恒,王煒,周文策.人工神經(jīng)網(wǎng)絡(luò)技術(shù)在胰腺癌診斷中的應(yīng)用.蘭州大學(xué)學(xué)報(bào),2008,44(7):224~227.
6 宋燁,楊本付,人工神經(jīng)網(wǎng)絡(luò)及其在疾病診斷中的應(yīng)用,中華醫(yī)學(xué)實(shí)踐雜志,2006,5(3):275~277.
7 王俊杰,陳景武.BP神經(jīng)網(wǎng)絡(luò)在疾病預(yù)測(cè)中的應(yīng)用.理理醫(yī)藥學(xué)雜志,2005,21(3):259~262.
篇8
【關(guān)鍵詞】風(fēng)險(xiǎn)管理 金融預(yù)測(cè) 統(tǒng)計(jì)方法 應(yīng)用
隨著社會(huì)經(jīng)濟(jì)的不斷發(fā)展,多元化的市場(chǎng)經(jīng)濟(jì)環(huán)境強(qiáng)調(diào)金融預(yù)測(cè)、風(fēng)險(xiǎn)管理的重要性與必要性。而統(tǒng)計(jì)方法的有效應(yīng)用,是確保風(fēng)險(xiǎn)管理與金融預(yù)測(cè)落到實(shí)處的重要“抓手”。在金融預(yù)測(cè)與風(fēng)險(xiǎn)管理中,最為典型的統(tǒng)計(jì)方法有三種:一是單變量分析;二是風(fēng)險(xiǎn)指數(shù)模型;三是多元判別法;四是人工神經(jīng)網(wǎng)絡(luò)方法。在典型統(tǒng)計(jì)方法的應(yīng)用中,一方面有效的提高了風(fēng)險(xiǎn)管理與金融預(yù)測(cè)的有效性,對(duì)于企業(yè)的發(fā)展而言起到重要的作用;另一方面,典型統(tǒng)計(jì)方法也存在一定的局限性,易受到外部因素,如利率變化、通貨膨脹等影響。因此,本文針對(duì)典型統(tǒng)計(jì)方法在風(fēng)險(xiǎn)管理與金融預(yù)測(cè)中的應(yīng)用,作如下具體闡述。
一、單變量模型
在單變量分析中,“單變量模型”的構(gòu)建尤為重要。首先,對(duì)預(yù)測(cè)樣本進(jìn)行分組。一般情況下,樣本主要分為:①“預(yù)測(cè)樣本”――構(gòu)建預(yù)測(cè)模型;②“測(cè)試樣本”――測(cè)試預(yù)測(cè)模型;其次,樣本測(cè)試。在樣本測(cè)試中,預(yù)測(cè)樣本應(yīng)為誤判率最小。單變量模型在風(fēng)險(xiǎn)管理中的應(yīng)用,雖然表現(xiàn)出“簡(jiǎn)單易行”的應(yīng)用特點(diǎn),但也存在較大不足,特別是預(yù)測(cè)結(jié)論具有局限性,無(wú)法全面地反映出實(shí)際情況。
二、多元判別分析
在金融風(fēng)險(xiǎn)預(yù)測(cè)中,多元判別分析的應(yīng)用比較廣泛,且具有良好的應(yīng)用價(jià)值。多元判定分析可以對(duì)金融風(fēng)險(xiǎn)進(jìn)行預(yù)測(cè)計(jì)算并分析的模型。在模型的運(yùn)用中:首先,將預(yù)測(cè)指標(biāo)帶入表達(dá)式:Di=d0+d1Xi1+d2Xi2+…+dnXn之中;其次,通過(guò)帶入計(jì)算出所需的判斷值;最后,通過(guò)比對(duì)判斷值,判斷其面臨的金融風(fēng)險(xiǎn)。這一模型的應(yīng)用,對(duì)于金融預(yù)測(cè)與風(fēng)險(xiǎn)管理起到了重要的作用,但由于模型方法難以實(shí)現(xiàn)較大范圍的推廣。
三、風(fēng)險(xiǎn)指數(shù)模型
四、人工神經(jīng)網(wǎng)絡(luò)方法
隨著統(tǒng)計(jì)方法的不斷發(fā)展,人工神經(jīng)網(wǎng)絡(luò)方法日益應(yīng)用于金融分析領(lǐng)域,并取得了良好的應(yīng)用效果。從實(shí)際來(lái)看人工神經(jīng)網(wǎng)絡(luò)犯法作為一宗非線性非參數(shù)模型,在破產(chǎn)預(yù)測(cè)和期權(quán)定價(jià)等方面,都具有良好分析預(yù)測(cè)作用。(1)破產(chǎn)預(yù)測(cè)。在破產(chǎn)預(yù)測(cè)方面,人工神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)了對(duì)傳統(tǒng)統(tǒng)計(jì)方法的改進(jìn),能夠?qū)﹀e(cuò)判率進(jìn)行無(wú)偏估計(jì)。因此,人工神經(jīng)網(wǎng)絡(luò)方法能夠?qū)崿F(xiàn)較高準(zhǔn)確度的預(yù)測(cè),并且在穩(wěn)健性、適應(yīng)性等方面表現(xiàn)出良好的優(yōu)越性;(2)期權(quán)定價(jià)。早在上世紀(jì)90年代,人工神經(jīng)網(wǎng)絡(luò)便應(yīng)用于期權(quán)定價(jià)領(lǐng)域。首先,期權(quán)價(jià)格在模擬中,需要進(jìn)行一定的假設(shè)。例如:固定利率、固定均值等;其次,期權(quán)定價(jià)公式是資產(chǎn)價(jià)格與執(zhí)行價(jià)格的一階齊次式。因此,我們?cè)谌斯ど窠?jīng)方法的應(yīng)用中,只有兩個(gè)輸入比值:①資產(chǎn)價(jià)格/執(zhí)行價(jià)格;②賬期價(jià)格/執(zhí)行價(jià)格??偠灾?,人工神經(jīng)網(wǎng)絡(luò)方法在金融預(yù)測(cè)中具有良好的應(yīng)用價(jià)值,特別是對(duì)傳統(tǒng)統(tǒng)計(jì)方法的改進(jìn),極大地提高了統(tǒng)計(jì)方法的應(yīng)用效果。
總之,在改革開(kāi)放不斷深入的大背景之下,日益完善的市場(chǎng)經(jīng)濟(jì)體制,強(qiáng)調(diào)風(fēng)險(xiǎn)管理與金融預(yù)測(cè)有效開(kāi)展的必要性與重要性。統(tǒng)計(jì)方法作為金融預(yù)測(cè)與風(fēng)險(xiǎn)管理的重要手段,如何有效應(yīng)用統(tǒng)計(jì)方法,直接關(guān)系到應(yīng)用的現(xiàn)實(shí)價(jià)值。當(dāng)前,單變量分析、風(fēng)險(xiǎn)指數(shù)模型、多元判別法和人工神經(jīng)網(wǎng)絡(luò)方法,已廣泛應(yīng)用于金融預(yù)測(cè)與風(fēng)險(xiǎn)管理之中。其中單變量分析、風(fēng)險(xiǎn)指數(shù)模型、多元判別法作為典型統(tǒng)計(jì)方法,在有效應(yīng)用的同時(shí),也存在一定的局限性。而對(duì)于人工神經(jīng)網(wǎng)絡(luò)方法而言,在一定程度上對(duì)傳統(tǒng)統(tǒng)計(jì)方法進(jìn)行了優(yōu)化改進(jìn),進(jìn)而提高了預(yù)測(cè)的準(zhǔn)確度。
參考文獻(xiàn):
[1]李健.基于EMD-PSO-SVM誤差校正模型的國(guó)際碳金融市場(chǎng)價(jià)格預(yù)測(cè)[J].中國(guó)人口資源與環(huán)境,2014,(06).
[2]沈瑞.折扣回購(gòu)策略下的多隨從雙層條件風(fēng)險(xiǎn)決策模型[J].中國(guó)管理科學(xué),2014,(S1).
篇9
張雨濃:目前來(lái)說(shuō),人工神經(jīng)網(wǎng)絡(luò)、冗余度機(jī)器人學(xué)和科學(xué)計(jì)算與優(yōu)化是我們科研攻關(guān)的三個(gè)主要方向,最早當(dāng)始于導(dǎo)師毛宗源教授主持負(fù)責(zé)的“仿人腦信息處理與控制的人工系統(tǒng)的研究”,隨后開(kāi)展了近年來(lái)承擔(dān)的國(guó)家自然科學(xué)基金委支持的課題“機(jī)器手臂的基于二次規(guī)劃的冗余度解析方案”“冗余機(jī)器人實(shí)時(shí)運(yùn)動(dòng)規(guī)劃的統(tǒng)一理論”等項(xiàng)目。就人工神經(jīng)網(wǎng)絡(luò)、人工智能等相關(guān)領(lǐng)域的研究情況而言,我國(guó)很多學(xué)術(shù)前輩、同事甚至是后學(xué)不同程度地做出了不少創(chuàng)新性的成果,有些甚至達(dá)到世界領(lǐng)先的水準(zhǔn),這一點(diǎn)還是值得我們欣喜的。
以人工神經(jīng)網(wǎng)絡(luò)為例來(lái)說(shuō),其理論在國(guó)內(nèi)外都已經(jīng)取得了許多令人矚目的成果,國(guó)內(nèi)也有許多學(xué)者相繼提出了不同的人工神經(jīng)網(wǎng)絡(luò)模型,并取得了較為廣泛的應(yīng)用,且應(yīng)用范圍在不斷擴(kuò)展,滲透到了多個(gè)領(lǐng)域,如信號(hào)處理,智能控制、模式識(shí)別、機(jī)器視覺(jué)、非線性優(yōu)化、圖像處理等等。我團(tuán)隊(duì)近期拓展的神經(jīng)網(wǎng)絡(luò)模型的連接權(quán)值直接確定一項(xiàng)可避開(kāi)傳統(tǒng)BP(誤差回傳)神經(jīng)網(wǎng)絡(luò)的內(nèi)在弱點(diǎn),如冗長(zhǎng)的權(quán)值迭代計(jì)算、局部極小點(diǎn)問(wèn)題、網(wǎng)絡(luò)參數(shù)及隱神經(jīng)元數(shù)的選取困難等等,并將遞歸神經(jīng)網(wǎng)絡(luò)應(yīng)用于冗余度機(jī)械臂的運(yùn)動(dòng)規(guī)劃與控制中,展現(xiàn)出了良好的成果。
筆者:早在2001年,您率先提出變矩陣/向量/優(yōu)化問(wèn)題的神經(jīng)網(wǎng)絡(luò)新解法,能否借此機(jī)會(huì)有針對(duì)性地講述幾點(diǎn)其與傳統(tǒng)解析與架構(gòu)上的不同?
張雨濃:其與傳統(tǒng)梯度方法的不同之處可歸納為如下數(shù)點(diǎn):首先,新型神經(jīng)網(wǎng)絡(luò)解法是基于矩陣/向量形式的誤差函數(shù)而設(shè)計(jì)的,令其每個(gè)誤差元素不斷遞減至零而成。與此相對(duì),基于梯度法的傳統(tǒng)神經(jīng)網(wǎng)絡(luò)解法是基于非負(fù)或至少下有界的標(biāo)量形式的能量函數(shù)而設(shè)計(jì)的;值得指出的是,在基于梯度法的神經(jīng)網(wǎng)絡(luò)解法中涉及的參數(shù)矩陣等多是探討定常的情況。
其次,新型神經(jīng)網(wǎng)絡(luò)在處理時(shí)變問(wèn)題時(shí),系統(tǒng)地采用變矩陣,向量的時(shí)間導(dǎo)數(shù)信息,這也是新型神經(jīng)網(wǎng)絡(luò)能夠全局指數(shù)收斂到時(shí)變問(wèn)題的準(zhǔn)確理論解的原因之一。與此相對(duì),基于梯度法的傳統(tǒng)神經(jīng)網(wǎng)絡(luò)解法因沒(méi)有使用如此重要的時(shí)間導(dǎo)數(shù)信息而難以有效地求解時(shí)變矩陣/向量/優(yōu)化問(wèn)題。
另外,新型神經(jīng)網(wǎng)絡(luò)通常是用更為普適的隱動(dòng)力學(xué)方程描述的;而基于梯度法的傳統(tǒng)神經(jīng)網(wǎng)絡(luò)則多是采用顯動(dòng)力學(xué)方程描述的。
筆者:在您的科研范圍內(nèi),冗余機(jī)器人是您科學(xué)研究的主項(xiàng),它顯然代表著高端的科技發(fā)展方向,我們想請(qǐng)張教授談一下冗余機(jī)器人今天的發(fā)展?fàn)顩r及其特性、優(yōu)勢(shì),其在未來(lái)科技領(lǐng)域內(nèi)的應(yīng)用情況,給人類社會(huì)所帶來(lái)的利好。
張雨濃:就冗余機(jī)器人而言,現(xiàn)主要研究的是冗余機(jī)械臂,其可廣泛地應(yīng)用于工業(yè)生產(chǎn)之中,包括焊接、油漆,組裝、繪圖、挖掘,送料和其他智能活動(dòng)等等。冗余機(jī)械臂是指末端執(zhí)行器在執(zhí)行給定的任務(wù)時(shí)有比其所必需自由度之上更多的自由度和靈活度的機(jī)械臂。在冗余機(jī)器人的運(yùn)動(dòng)學(xué)研究中,正運(yùn)動(dòng)學(xué)和逆運(yùn)動(dòng)學(xué)都是研究的核心部分。正運(yùn)動(dòng)學(xué)指給定關(guān)節(jié)變量,通過(guò)已知的手臂函數(shù)映射關(guān)系,能夠唯一地確定末端執(zhí)行器的位姿,而逆運(yùn)動(dòng)學(xué)是指給定末端執(zhí)行器的笛卡爾變量,如何來(lái)實(shí)時(shí)求解機(jī)械臂的關(guān)節(jié)變量。兩者剛好相對(duì),但逆運(yùn)動(dòng)學(xué)的求解卻不容易。后者直接關(guān)系到運(yùn)動(dòng)分析,離線編程、軌跡規(guī)劃等等,是將工作空間內(nèi)機(jī)器人末端的位姿轉(zhuǎn)化成關(guān)節(jié)量值的前提。由于機(jī)械臂逆運(yùn)動(dòng)學(xué)問(wèn)題的復(fù)雜性,我們將機(jī)械臂逆運(yùn)動(dòng)學(xué)逆動(dòng)力學(xué)問(wèn)題都統(tǒng)一地轉(zhuǎn)化為最優(yōu)化問(wèn)題,具體為時(shí)變二次規(guī)劃問(wèn)題,這種做法能減少大量矩陣求逆,矩陣相乘等運(yùn)算,減少計(jì)算時(shí)間,也更靈活、更加智能化。
這些科研結(jié)果能為裝備制造,加工作業(yè)乃至空間機(jī)器人等領(lǐng)域的運(yùn)動(dòng)控制和新型機(jī)械臂的研發(fā),制造以及技術(shù)提升提供一個(gè)更為科學(xué)更加有力的理論與實(shí)踐基礎(chǔ)。該冗余度解析理論將會(huì)在重工制造裝備等方面展露,并帶來(lái)廣闊的應(yīng)用前景和較大的社會(huì)經(jīng)濟(jì)效益,如用以改造和提升噴漿機(jī)器人、焊接和繪圖機(jī)器人、車載機(jī)器臂系統(tǒng)等機(jī)械設(shè)備的運(yùn)動(dòng)解析與控制技術(shù)、操作模式及其安全性穩(wěn)定性等。
筆者:2007年您所提出的BP神經(jīng)網(wǎng)絡(luò)權(quán)值直接確定理論研究,克服了傳統(tǒng)BP神經(jīng)網(wǎng)絡(luò)所固有的迭代時(shí)間長(zhǎng)、迭代次數(shù)多,易陷入局部極小點(diǎn)和學(xué)習(xí)精度不高等諸多缺陷。您一直站在科技前沿,在未來(lái)您的研究方向還將力求沖破哪些方面的障礙?
張雨濃:我們的一個(gè)科研工作重心就是人工神經(jīng)網(wǎng)絡(luò)的權(quán)值直接確定法以及外延的新方法新理論,比如在權(quán)值直接確定基礎(chǔ)上的隱層神經(jīng)元數(shù)目自適應(yīng)確定研究等等。就未來(lái)在該方面繼續(xù)做工作而言,首先我們?nèi)詫⒗^續(xù)尋找,挖掘、探討和考察不同的激勵(lì)函數(shù)、網(wǎng)絡(luò)模型,以求從不同的角度更加豐富地證實(shí)權(quán)值直接確定法的可行性,有效性、普適性以及優(yōu)異的學(xué)習(xí)能力等等;其次,我們將(也已經(jīng)在)探討多輸入多輸出人工神經(jīng)網(wǎng)絡(luò)的權(quán)值直接確定法,并同時(shí)探研拓?fù)浣Y(jié)構(gòu)自適應(yīng)確定算法于其中;另外,也如同我們向中科院某所提交的一個(gè)開(kāi)放課題申請(qǐng)書(shū)中所言,應(yīng)用神經(jīng)網(wǎng)絡(luò)權(quán)值與結(jié)構(gòu)直接確定理論處理海量數(shù)據(jù)同樣值得嘗試與探討,我們以往曾開(kāi)發(fā)出基于Toeplitz矩陣的時(shí)間序列高斯過(guò)程回歸技術(shù)處理了六萬(wàn)維矩陣求逆和兩萬(wàn)四千維數(shù)據(jù),這一結(jié)果或可以借鑒用以開(kāi)發(fā)神經(jīng)網(wǎng)絡(luò)超萬(wàn)維數(shù)據(jù)處理技術(shù)。
篇10
[關(guān)鍵詞]多目標(biāo)決策;BP神經(jīng)網(wǎng)絡(luò);礦產(chǎn)資源;綜合開(kāi)發(fā)利用評(píng)價(jià)
礦產(chǎn)資源綜合開(kāi)發(fā)利用評(píng)價(jià)是一個(gè)典型的多目標(biāo)決策問(wèn)題,應(yīng)用多目標(biāo)決策的有關(guān)技術(shù)進(jìn)行方案的排序選優(yōu),能較好地解決多方案的優(yōu)化問(wèn)題。關(guān)鳳峻根據(jù)給出的多個(gè)綜合開(kāi)發(fā)利用方案,采用的層次評(píng)價(jià)方法,建立評(píng)價(jià)體系并采用理想點(diǎn)法進(jìn)行排序,選出最優(yōu)方案。宋光興等人改進(jìn)了理想點(diǎn)法中權(quán)重的確定方式,利用熵技術(shù)法確定礦產(chǎn)資源綜合開(kāi)發(fā)利用的評(píng)價(jià)指標(biāo)的權(quán)重,并得出了排序選優(yōu)的最終結(jié)果。李學(xué)全等人提出了一種灰色關(guān)聯(lián)度線性加權(quán)和方法,是解決礦產(chǎn)資源綜合開(kāi)發(fā)利用評(píng)價(jià)問(wèn)題的一個(gè)有益的嘗試。周科平提出了一種新的多屬性決策法,有效解決了主觀確定的權(quán)重不精確的缺點(diǎn)。陳林、曹樹(shù)剛采用博弈論分析框架中混合策略情況下應(yīng)用最優(yōu)化方法,尋求混合策略Nash均衡的最優(yōu)化點(diǎn),作為多指標(biāo)決策問(wèn)題的優(yōu)選方案。
礦產(chǎn)資源綜合開(kāi)發(fā)利用評(píng)價(jià)中權(quán)重的確定是一個(gè)關(guān)鍵,采用BP人工神經(jīng)網(wǎng)絡(luò)技術(shù)構(gòu)建的非線性評(píng)價(jià)模型對(duì)礦產(chǎn)資源的綜合利用水平進(jìn)行評(píng)價(jià),可避免人為確定各指標(biāo)的權(quán)重帶來(lái)的主觀性。本文試采用BP人工神經(jīng)網(wǎng)絡(luò)方法對(duì)礦產(chǎn)資源綜合開(kāi)發(fā)利用各個(gè)方案做出評(píng)價(jià),并把評(píng)價(jià)結(jié)果與其他方法作比較,以驗(yàn)證方法的可靠性。
1 數(shù)據(jù)來(lái)源以及研究方法
1.1 數(shù)據(jù)來(lái)源
(1)數(shù)據(jù)來(lái)源于參考文獻(xiàn)三篇論文的舉例部分,某鐵金礦經(jīng)研究設(shè)計(jì)得出9個(gè)方案。
(2)將數(shù)據(jù)進(jìn)行歸一化處理,將每一列的數(shù)字xi代入歸一化公式x*i=[SX(]ximaxxi′[SX)]
即每一指標(biāo)數(shù)據(jù)除以各自指標(biāo)中的最大值,將數(shù)據(jù)劃歸在[0,1]范圍之內(nèi)。
1.2 研究方法
BP人工神經(jīng)網(wǎng)絡(luò)簡(jiǎn)介:人工神經(jīng)網(wǎng)絡(luò)是將大量簡(jiǎn)單的神經(jīng)元廣泛連接而成,用以模擬人腦思維方式的復(fù)雜網(wǎng)絡(luò)系統(tǒng),具有自組織、自適應(yīng)、自學(xué)習(xí)和容錯(cuò)性等特點(diǎn),被廣泛應(yīng)用于模式識(shí)別、圖像處理、自適應(yīng)控制等領(lǐng)域。由于礦產(chǎn)資源綜合利用水平評(píng)價(jià)系統(tǒng)是一個(gè)多層次、多因素的復(fù)雜系統(tǒng),采用BP人工神經(jīng)網(wǎng)絡(luò)技術(shù)構(gòu)建的非線性評(píng)價(jià)模型對(duì)礦產(chǎn)資源的綜合利用水平進(jìn)行評(píng)價(jià)和識(shí)別可避免人為確定各指標(biāo)的權(quán)重帶來(lái)的主觀性,提高評(píng)價(jià)結(jié)果的準(zhǔn)確性。
2 運(yùn)用BP人工神經(jīng)網(wǎng)絡(luò)對(duì)礦產(chǎn)資源綜合開(kāi)發(fā)方案進(jìn)行評(píng)價(jià)
運(yùn)用matlab環(huán)境下的BP網(wǎng)絡(luò)模塊,我們將經(jīng)濟(jì)發(fā)展水平分級(jí)指標(biāo)作為樣本輸入,評(píng)價(jià)級(jí)別作為網(wǎng)絡(luò)輸出BP網(wǎng)絡(luò)通過(guò)不斷學(xué)習(xí)修改權(quán)重,找出評(píng)價(jià)指標(biāo)與評(píng)價(jià)級(jí)別間的內(nèi)在對(duì)應(yīng)關(guān)系,利用此網(wǎng)絡(luò)模型進(jìn)行經(jīng)濟(jì)發(fā)展水平的綜合評(píng)價(jià)。
第一、評(píng)價(jià)指標(biāo)體系的建立。以某銅鐵礦設(shè)計(jì)方案為例建立評(píng)價(jià)體系。參考其他人的研究成果及數(shù)據(jù)的可獲取性,選取5項(xiàng)指標(biāo),分別為鐵選礦回收率(%)、金選礦回收率(%)、產(chǎn)值利潤(rùn)率(%)、成本利潤(rùn)率(%)、噸礦利潤(rùn)(元/噸)。
第二、網(wǎng)絡(luò)模型的構(gòu)建。選取以上5項(xiàng)指標(biāo)作輸入神經(jīng)元,輸出神經(jīng)元為銅鐵礦的綜合開(kāi)發(fā)利用水平,構(gòu)建神經(jīng)網(wǎng)絡(luò),采用等間距的線性內(nèi)插方法,對(duì)已經(jīng)歸一化了的數(shù)據(jù)進(jìn)行等級(jí)劃分,構(gòu)建人工神經(jīng)網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)(見(jiàn)表1),并將銅鐵礦的綜合開(kāi)發(fā)利用水平分為3級(jí),3代表綜合開(kāi)發(fā)利用水平高,2代表綜合開(kāi)發(fā)利用水平中等,1代表綜合開(kāi)發(fā)利用水平低。
據(jù)此構(gòu)建5×1×1的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),其中隱含層神經(jīng)元為3個(gè),輸出層神經(jīng)元1個(gè)。網(wǎng)絡(luò)設(shè)計(jì)的參數(shù)為:網(wǎng)絡(luò)初始值為[0,1]之間的隨機(jī)數(shù),基本學(xué)習(xí)速率 0.1;網(wǎng)絡(luò)訓(xùn)練的終止參數(shù)為:最大訓(xùn)練批次為10000次,最大誤差為0.01。網(wǎng)絡(luò)訓(xùn)練達(dá)標(biāo)后,將表1中的原始數(shù)據(jù)歸一化后輸入網(wǎng)絡(luò),得出銅鐵礦的綜合開(kāi)發(fā)利用水平的BP估計(jì)值。
表2表明,方案8的綜合開(kāi)發(fā)利用水平BP值最大,是諸方案中最優(yōu)的;方案7的綜合開(kāi)發(fā)利用水平次之,為次優(yōu)方案;方案1的綜合開(kāi)發(fā)利用水平BP值最小,是諸方案中最差的。 轉(zhuǎn)貼于
3 與基于理想點(diǎn)法評(píng)價(jià)模型計(jì)算得到的結(jié)果相比較
3.1 理想點(diǎn)法簡(jiǎn)介
理想點(diǎn)法是屬于多屬性效用理論的多目標(biāo)決策方法,它最基本的思想是依據(jù)“綜合效用值”進(jìn)行方案排序選優(yōu)。其效用值的計(jì)算是用理想點(diǎn)法中的“距離值”的計(jì)算方法而得。通過(guò)選取各個(gè)目標(biāo)中的最優(yōu)值構(gòu)成一個(gè)多目標(biāo)的理想方案(也稱為理想點(diǎn)),并以目標(biāo)空間中,各方案與理想方案的距離值來(lái)度量各方案的優(yōu)劣。距離越小表示方案目標(biāo)值越接近理想方案的目標(biāo)點(diǎn)。這樣依距離值的大小來(lái)排列方案的優(yōu)劣順序,距離越小,方案越優(yōu)。
以下兩表格分別為基于層次評(píng)價(jià)方法與基于熵值法確定權(quán)重的理想點(diǎn)法得到的礦產(chǎn)資源綜合開(kāi)發(fā)利用評(píng)價(jià)結(jié)果。
3.2 各評(píng)價(jià)模型所得結(jié)果比較
將礦產(chǎn)資源綜合開(kāi)發(fā)利用水平的BP值排序情況(表2)分別與基于層次方法和基于熵值法確定權(quán)重的理想點(diǎn)法(表3)得到的優(yōu)方案排序相比較。采用BP人工神經(jīng)網(wǎng)絡(luò)計(jì)算得到的結(jié)果與采用熵值確定權(quán)重的理想點(diǎn)法得到的結(jié)果相同;BP值法計(jì)算的結(jié)果中最好的三個(gè)方案分別為方案8、方案7、方案9,與層次理想點(diǎn)法的結(jié)果相同,不同之處僅僅存在于方案1與方案2,方案5與方案6,他們的排名也十分接近。這充分說(shuō)明采用BP人工神經(jīng)網(wǎng)絡(luò)方法對(duì)礦產(chǎn)資源的綜合開(kāi)發(fā)利用進(jìn)行評(píng)價(jià)是可行的。此外,由于運(yùn)用matlab軟件可以輕易地實(shí)現(xiàn)BP神經(jīng)網(wǎng)絡(luò)運(yùn)算,這種方法在處理大量數(shù)據(jù)方面還有著獨(dú)特的優(yōu)越性。
4 結(jié) 論
礦產(chǎn)資源綜合開(kāi)發(fā)利用評(píng)價(jià)從本質(zhì)上講是一個(gè)多目標(biāo)決策問(wèn)題。目前,求解多指標(biāo)決策問(wèn)題的方法很多,但各方法的關(guān)鍵在于如何合理確定各指標(biāo)的權(quán)重。采用BP人工神經(jīng)網(wǎng)絡(luò)技術(shù)構(gòu)建的非線性評(píng)價(jià)模型對(duì)礦產(chǎn)資源的綜合利用水平進(jìn)行評(píng)價(jià),可避免人為確定各指標(biāo)的權(quán)重帶來(lái)的主觀性,可以有效地解決礦產(chǎn)資源的綜合開(kāi)發(fā)利用評(píng)價(jià)問(wèn)題。
參考文獻(xiàn):
[1]李學(xué)全,李松仁,尹蒂.礦產(chǎn)資源綜合開(kāi)發(fā)利用評(píng)價(jià)的多目標(biāo)決策灰色關(guān)聯(lián)度方法[J].礦產(chǎn)綜合利用.1996(2):39-43.
熱門標(biāo)簽
人工智能論文 人工智能 人工智能技術(shù) 人工智能專業(yè) 人工智能教育 人工智能課程 人工智培訓(xùn) 人工流產(chǎn) 人工授精 人工神經(jīng)網(wǎng)絡(luò) 心理培訓(xùn) 人文科學(xué)概論