第一篇:基于人工神經(jīng)網(wǎng)絡的預測研究的文獻綜述
基于人工神經(jīng)網(wǎng)絡的預測研究文獻綜述
專業(yè):電子信息工程 班級:08級2班 作者:劉銘 指導老師:熊朝松 引言
隨著多媒體和網(wǎng)絡技術的飛速發(fā)展及廣泛應用,人工神經(jīng)網(wǎng)絡已被廣泛運用于各種領域,而它的預測功能也在不斷被人挖掘著。人工神經(jīng)網(wǎng)絡是一種旨在模仿人腦結構及其功能的信息處理系統(tǒng)。現(xiàn)代計算機構成單元的速度是人腦中神經(jīng)元速度的幾百萬倍,對于那些特征明確,推理或運算規(guī)則清楚地可編程問題,可以高速有效地求解,在數(shù)值運算和邏輯運算方面的精確與高速極大地拓展了人腦的能力,從而在信息處理和控制決策等方面為人們提供了實現(xiàn)智能化和自動化的先進手段。但由于現(xiàn)有計算機是按照馮·諾依曼原理,基于程序存取進行工作的,歷經(jīng)半個多世紀的發(fā)展,其結構模式與運行機制仍然沒有跳出傳統(tǒng)的邏輯運算規(guī)則,因而在很多方面的功能還遠不能達到認得智能水平。隨著現(xiàn)代信息科學與技術的飛速發(fā)展,這方面的問題日趨尖銳,促使科學和技術專家們尋找解決問題的新出路。當人們的思想轉向研究大自然造就的精妙的人腦結構模式和信息處理機制時,推動了腦科學的深入發(fā)展以及人工神經(jīng)網(wǎng)絡和鬧模型的研究。隨著對生物鬧的深入了解,人工神經(jīng)網(wǎng)絡獲得長足發(fā)展。在經(jīng)歷了漫長的初創(chuàng)期和低潮期后,人工神經(jīng)網(wǎng)絡終于以其不容忽視的潛力與活力進入了發(fā)展高潮。這么多年來,它的結構與功能逐步改善,運行機制漸趨成熟,應用領域日益擴大,在解決各行各業(yè)的難題中顯示出巨大的潛力,取得了豐碩的成果。通過運用人工神經(jīng)網(wǎng)絡建模,可以進行預測事物的發(fā)展,節(jié)省了實際要求證結果所需的研究時間。
正是由于人工神經(jīng)網(wǎng)絡是一門新興的學科,它在理論、模型、算法、應用和時限等方面都還有很多空白點需要努力探索、研究、開拓和開發(fā)。因此,許多國家的政府和企業(yè)都投入了大量的資金,組織大量的科學和技術專家對人工神經(jīng)網(wǎng)絡的廣泛問題立項研究。從人工神經(jīng)網(wǎng)絡的模擬程序和專用芯片的不斷推出、論文的大量發(fā)表以及各種應用的報道可以看到,在這個領域里一個百家爭鳴的局面已經(jīng)形成。
為了能深入認識人工神經(jīng)網(wǎng)絡的預測功能,大量收集和閱讀相關資料是非常必要的。搜集的資料范圍主要是大量介紹人工神經(jīng)網(wǎng)路,以及認識和熟悉了其中重要的BP網(wǎng)絡。參考的著作有:馬銳的《人工神經(jīng)網(wǎng)絡原理》,胡守仁、余少波的《神經(jīng)網(wǎng)絡導論》以及一些相關論文,董軍和胡上序的《混沌神經(jīng)網(wǎng)絡研究進展和展望》,朱大奇的《人工神經(jīng)網(wǎng)絡研究現(xiàn)狀及其展望》和宋桂榮的《改進BP算法在故障診斷中的應用》,這些
1著作在后面的參考文獻中將一一列出。
1.我國人工神經(jīng)網(wǎng)絡研究現(xiàn)狀
隨著人工神經(jīng)網(wǎng)絡的20世紀80年代在世界范圍內(nèi)的復蘇,國內(nèi)也逐步掀起了研究熱潮,1989年10月和11月分別在北京和廣州召開了神經(jīng)網(wǎng)絡及其應用討論會和第一屆全國型號處理——神經(jīng)網(wǎng)絡學術會議;1990年2月由國內(nèi)八個學會(中國電子學會、人工智能學會、自動化學會、通信學會、物理學會、生物物理學會和心理學會)聯(lián)合在北京召開“中國神經(jīng)網(wǎng)絡首屆學術會議”,這次大會以“八學會聯(lián)盟,探只能奧秘為主題,收到了300多篇學術論文”,開創(chuàng)了中國人工神經(jīng)網(wǎng)絡及神經(jīng)計算機方面科學研究的新紀元,經(jīng)過十幾年的發(fā)展,中國學術界和工程界在人工神經(jīng)網(wǎng)絡的理論研究和應用方面取得了豐碩成果,學術論文、應用成果和研究人員逐年增加。在國際上,1987年,在美國加洲召開第一屆國際神經(jīng)網(wǎng)絡學會,此后每年召開兩次國際聯(lián)合神經(jīng)網(wǎng)絡大會(UCNN),不久,改學會創(chuàng)辦了刊物Journal Neural Networks,另有十幾種國際著名的神經(jīng)網(wǎng)絡學術刊物相繼問世。至此,神經(jīng)網(wǎng)絡理論研究在國際學術領域獲得了其應有的地位。
經(jīng)過多年的發(fā)展,目前已有上百種的神經(jīng)網(wǎng)絡模型被提出。這么多年來,它的結構與功能逐步改善,運行機制漸趨成熟,應用領域日益擴大,在解決各行各業(yè)的難題中顯示出巨大的潛力,取得了豐碩的成果[1]。正是由于人工神經(jīng)網(wǎng)絡是一門新興的學科,它在理論、模型、算法、應用和時限等方面都還有很多空白點需要努力探索、研究、開拓和開發(fā)。因此,許多國家的政府和企業(yè)都投入了大量的資金,組織大量的科學和技術專家對人工神經(jīng)網(wǎng)絡的廣泛問題立項研究。從人工神經(jīng)網(wǎng)絡的模擬程序和專用芯片的不斷推出、論文的大量發(fā)表以及各種應用的報道可以看到,在這個領域里一個百家爭鳴的局面已經(jīng)形成[2]。
2.人工神經(jīng)網(wǎng)絡的基本原理
人工神經(jīng)網(wǎng)絡是一種應用類似于大腦神經(jīng)突觸聯(lián)接的結構進行信息處理的數(shù)學模型。在工程與學術界也常直接簡稱為神經(jīng)網(wǎng)絡或類神經(jīng)網(wǎng)絡。神經(jīng)網(wǎng)絡是一種運算模型,由大量的節(jié)點和之間相互聯(lián)接構成。神經(jīng)元是人工神經(jīng)網(wǎng)絡的基本處理單元,它一般是一個多輸入/單輸出的非線性元件[3]。由大量處理單元互聯(lián)組成的非線性、自適應信息處理系統(tǒng)。它是在現(xiàn)代神經(jīng)科學
2研究成果的基礎上提出的,試圖通過模擬大腦神經(jīng)網(wǎng)絡處理、記憶信息的方式進行信息處理[4]。
人工神經(jīng)網(wǎng)絡是對人類神經(jīng)系統(tǒng)的一種模擬。盡管人類神經(jīng)系統(tǒng)規(guī)模宏大、結構復雜、功能神奇,但其最基本的處理單元卻只有神經(jīng)元。人工神經(jīng)系統(tǒng)的功能實際上是通過大量神經(jīng)元的廣泛互連,以規(guī)模宏偉的并行運算來實現(xiàn)的。人工神經(jīng)網(wǎng)絡的神經(jīng)元就是模擬生物的神經(jīng)元,神經(jīng)元也和其他類型的細胞一樣,包括有細胞膜、細胞質(zhì)和細胞核。但是神經(jīng)細胞的形態(tài)比較特殊,具有許多突起,因此又分為細胞體、軸突和樹突三部分。細胞體內(nèi)有細胞核突起的作用是傳遞信息。
(1)細胞體
(2)樹突
(3)軸突
(4)突觸
圖1簡單神經(jīng)元網(wǎng)絡圖
軸突是由細胞體向外延伸出的所有纖維中最長的一條分枝,用來向外傳遞神經(jīng)元產(chǎn)生的輸出電信號。每個神經(jīng)元都有一條軸突,其最大長度可達1m以上。在軸突的末端形成了許多很細的分枝,這些分支叫神經(jīng)末梢。每一條神經(jīng)末梢可以與其它神經(jīng)元形成功能性接觸,該接觸部位稱為突觸。所謂功能性接觸,是指非永久性的接觸,這正是神經(jīng)元之間傳遞信息的奧秘之處。
樹突是指由細胞體向外延伸的除軸突以外的其它所有分支。樹突的長度一般較短,但數(shù)量很多,它是神經(jīng)元的輸入端,用于接受從其它神經(jīng)元的突觸傳來的信號。
2.人工神經(jīng)網(wǎng)絡BP網(wǎng)絡和RBF網(wǎng)絡
2.1 BP網(wǎng)絡
BP(Back Propagation)網(wǎng)絡是1986年由Rumelhart和McCelland為首的科學家小
3組提出,是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡[5],是目前應用最廣泛的神經(jīng)網(wǎng)絡模型之一。BP神經(jīng)網(wǎng)絡,即誤差反傳誤差反向傳播算法的學習過程,由信息的正向傳播和誤差的反向傳播兩個過程組成。
BP神經(jīng)網(wǎng)絡模型BP網(wǎng)絡模型包括其輸入輸出模型、作用函數(shù)模型、誤差計算模型和自學習模型。BP 算法因其簡單、易行、計算量小、并行性強等優(yōu)點,是目前神經(jīng)網(wǎng)絡訓練采用最多也是最成熟的訓練算法之一[6]。
2.2 RBF網(wǎng)絡
RBF神經(jīng)網(wǎng)絡是一種具有拓撲結構的前向神經(jīng)網(wǎng)絡.由輸入層、隱含層、輸出層構。RBF神經(jīng)網(wǎng)絡以徑向基函數(shù)作為隱層單元的基,構成隱含層空間,隱含層對輸入矢量進行變換將低維的模式輸入數(shù)據(jù)變換到高維空間內(nèi), 使得在低維空間內(nèi)的線性不可分問題在高維空間內(nèi)線性可分。
RBF網(wǎng)絡的學習算法,由兩部分組成;無導師學習、有導師學習。
3.空調(diào)故障
空調(diào)系統(tǒng)故障模式及故障機制分析[7][8],如下表所示:
表1空調(diào)系統(tǒng)故障模式及故障機制分析
空調(diào)系統(tǒng)故障診斷的神經(jīng)網(wǎng)絡模型分為3 層,分別為輸入層、隱含層和輸出層。輸入層節(jié)點個數(shù)為4 ,對應于4 個故障現(xiàn)象,輸出層節(jié)點個數(shù)為12 ,對應于12 個故障原因。輸出節(jié)點值的大小反映了故障出現(xiàn)的可能性。隱含層節(jié)點的個數(shù)可參照公式初步選取[9]:
4A?M?N??,4.小結
在理論上.RBF網(wǎng)絡和BP網(wǎng)絡一樣能以任意精度逼近任何非線性函數(shù)。但由于它們使用的激勵函數(shù)不同,其逼近性能也不相同。Poggio和Girosi已經(jīng)證明,RBF網(wǎng)絡是連續(xù)函數(shù)的最佳逼近,而BP網(wǎng)絡不是。BP網(wǎng)絡使用的Sigmoid函數(shù)具有全局特性,它在輸入值的很大范圍內(nèi)每個節(jié)點都對輸出值產(chǎn)生影響,并且激勵函數(shù)在輸入值的很大范圍內(nèi)相互重疊,因而相互影響,因此BP網(wǎng)絡訓練過程很長。此外,由于BP算法的固有特性,BP網(wǎng)絡容易陷入局部極小的問題不可能從根本上避免,并且BP網(wǎng)絡隱層節(jié)點數(shù)目的確定依賴于經(jīng)驗和試湊,很難得到最優(yōu)網(wǎng)絡。采用局部激勵函數(shù)的RBF網(wǎng)絡在很大程度上克服了上述缺點,RBF不僅有良好的泛化能力,而且對于每個輸入值,只有很少幾個節(jié)點具有非零激勵值,因此只需很少部分節(jié)點及權值改變。學習速度可以比通常的BP算法提高上千倍,容易適應新數(shù)據(jù),其隱層節(jié)點的數(shù)目也在訓練過程中確定,并且其收斂性也較BP網(wǎng)絡易于保證,因此可以得到最優(yōu)解[10] [11]。
從上面所示的結果來看,主要有一下幾方面的不同:
(1)由于學習速率是固定的,因此BP網(wǎng)絡的訓練過程較長,當需要處理較復雜的問題時,需要的時間很長。而RBF網(wǎng)絡的建網(wǎng)過程即是訓練過程此外,訓練時間較少.精度也比較高。
(2)在處理同一問題時,通常情況BP網(wǎng)絡所需的神經(jīng)元個數(shù)比RBF網(wǎng)絡要少。
(3)BP網(wǎng)絡的輸出和初始的權值有關,而RBF網(wǎng)絡的輸出與初始的權值無關。
(4)RBP網(wǎng)絡隱含層的層數(shù)和單元數(shù)的選擇要憑借經(jīng)驗反復驗證,因此網(wǎng)絡的冗余性比較大。RBF隱層節(jié)點的數(shù)目也在訓練過程中確定。但是要確定徑向基函數(shù)的分布密度。
人工神經(jīng)網(wǎng)絡近來越來越受到人們的關注,因為它為解決大復雜度問題提供了一種相對來說比較有效的簡單方法。可以通過神經(jīng)網(wǎng)絡對事物進行預測從而用簡單的方法完成復雜的問題。
5.研究不足
人工神經(jīng)網(wǎng)絡是一個新興學科,因此還存在許多問題。其主要表現(xiàn)有:
(1)受到腦科學研究的限制:由于生理實驗的困難性,因此目前人類對思維和記憶機制的認識還很膚淺,還有很多問題需要解決;
(2)還沒有完整成熟的理論體系;
(3)還帶有濃厚的策略和經(jīng)驗色彩;
(4)與傳統(tǒng)技術的接口不成熟。
上述問題的存在,制約了人工神經(jīng)網(wǎng)絡研究的發(fā)展。
相信只要能客服這些局限性,人工神經(jīng)網(wǎng)絡的發(fā)展將不可限量。
參考文獻
[1] 朱大奇.人工神經(jīng)網(wǎng)絡研究現(xiàn)狀及其展望[N].江南大學學報,2004:103~108.[2] 董軍,胡上序.混沌神經(jīng)網(wǎng)絡研究進展和展望[J].信息與控制,1997(5):360~368.[3] 韓力群.人工神經(jīng)網(wǎng)絡理論、設計及應用[M].北京:化學工業(yè)出版社,2002.[4] 馬銳.人工神經(jīng)網(wǎng)絡原理[M].北京:機械工業(yè)出版社.2010.[5] 胡守仁,余少波,戴葵.神經(jīng)網(wǎng)絡導[M].長沙:國防科技大學出版社,1992.[6] 胡金濱,唐旭清.人工神經(jīng)網(wǎng)絡的BP算法及其應用[J].信息技術,2004(4):1~4.[7] 余江海.一種制冷系統(tǒng)故障診斷方法[C].上海交通大學碩士論文,2001.[8] 中國機械工程學會設備維修分會,機械設備維修問答叢書,編委會空調(diào)制冷設備維修問答[M].北京:機械工業(yè)出版社.1988.[9] 宋桂榮.改進BP算法在故障診斷中的應用[N].沈陽工業(yè)大學學報,2001(3):252~254.[10] 智會強,牛坤,田亮等.BP網(wǎng)絡和RBF網(wǎng)絡在函數(shù)逼近領域內(nèi)的比較研究[J].科技通報,2005(2).[11] 劉永.張立毅.BP網(wǎng)絡與RFB神經(jīng)網(wǎng)絡的實現(xiàn)及其性能比較[J].電子測量技術研究設計,2007(4):77~80.6
第二篇:基于人工神經(jīng)網(wǎng)絡的預測研究_答辯ppt
幻燈片1
基于人工神經(jīng)網(wǎng)絡的預測研究
作者:劉銘 指導老師:熊朝松 08級電信(2)班
幻燈片2
研究任務
? 通過運用人工神經(jīng)網(wǎng)絡建模,可以進行預測事物的發(fā)展,節(jié)省了實際要求證結果所需的研究時間。
? 論文分為六個部分,第一部分主介紹了人工神經(jīng)網(wǎng)絡的研究背景及意義;第二部分主要介紹了人工神經(jīng)網(wǎng)絡的概念,基本原理、分類和分析方法,第三部分討論了有預測能力的是BP網(wǎng)絡。而在第四部分,討論了也具有預測功能的RBF網(wǎng)絡。第五個部分通過舉一個空調(diào)故障預測的例子來展示以及對比兩種預測網(wǎng)絡的能力。最后一個部分對論文進行總結,提出了人工神經(jīng)網(wǎng)絡預測的發(fā)展前景。
幻燈片3
參考文獻
? 董軍,胡上序,混沌神經(jīng)網(wǎng)絡研究進展和展望[J]信息與制,1997,26(5)”360-368.? 中國機械工程學會設備維修分會,機械設備維修問答叢書,編委會空調(diào)制冷設備維修問答.[Z]機械工業(yè)出版社.? 宋桂榮.,改進BP算法在故障診斷中的應用.[N]沈陽工業(yè)大學學報,2001.23(3):252~254.? 韓力群,人工神經(jīng)網(wǎng)絡理論、設計及應用..[M]北京:化學工業(yè)出版社,2002.? 余江海.一種制冷系統(tǒng)故障診斷方法.[C] 上海交通大學碩士論文,2001.? 馬銳,人工神經(jīng)網(wǎng)路原理,[M]機械工業(yè)出版社.? 朱大奇,人工神經(jīng)網(wǎng)絡研究現(xiàn)狀及其展望,[N]江南大學學報2004.3:103~108 ? 胡金濱,唐旭清.人工神經(jīng)網(wǎng)絡的BP算法及其應用[J].信息技術, 2004, 28(4);1~4.?
智會強,牛坤,田亮等.BP網(wǎng)絡和RBF網(wǎng)絡在函數(shù)逼近領域內(nèi)的比較研究[J].科技通報, 2005,2(2).? 劉永.張立毅,BP網(wǎng)絡與RFB神經(jīng)網(wǎng)絡的實現(xiàn)及其性能比較[J].電子測量技術研究設計。2007.4:77~80.胡守仁,余少波,戴葵,神經(jīng)網(wǎng)絡導[M].長沙:國防科技大學出版社,1992.幻燈片4
內(nèi)容安排順序
? 人工神經(jīng)網(wǎng)絡的研究背景及意義
? 人工神經(jīng)網(wǎng)絡的概念,基本原理、分類和分析方法 ? BP預測網(wǎng)絡 ? RBF預測網(wǎng)絡
? 人工神經(jīng)網(wǎng)絡運用于空調(diào)系統(tǒng)故障的預測 ? 結論與展望
幻燈片5
人工神經(jīng)網(wǎng)絡的研究背景及意義
? 背景:現(xiàn)代計算機構成單元的速度是人腦中神經(jīng)元速度的幾百萬倍,對于那些特征明確,推理或運算規(guī)則清楚地可編程問題,可以高速有效地求解,在數(shù)值運算和邏輯運算方面的精確與高速極大地拓展了人腦的能力,從而在信息處理和控制決策等方面為人們提供了實現(xiàn)智能化和自動化的先進手段。當人們的思想轉向研究大自然造就的精妙的人腦結構模式和信息處理機制時,推動了腦科學的深入發(fā)展以及人工神經(jīng)網(wǎng)絡的研究。
幻燈片6
人工神經(jīng)網(wǎng)絡的研究背景及意義
? 意義:人工神經(jīng)網(wǎng)絡是一種旨在模仿人腦結構及其功能的信息處理系統(tǒng)。人工神經(jīng)網(wǎng)絡是人工智能領域的重要分支,而神經(jīng)網(wǎng)絡的硬件實現(xiàn)是神經(jīng)網(wǎng)路研究的基本問題之一。從對神經(jīng)網(wǎng)絡進行理論探討的角度,可以通過計算機仿真途徑來模擬實現(xiàn)特定的神經(jīng)網(wǎng)絡模型或算法。
幻燈片7
人工神經(jīng)網(wǎng)絡的預測例子
? 現(xiàn)在人工神經(jīng)網(wǎng)絡廣泛運用到了各個領域,它的更多用法也在不斷被開發(fā)中,用它來預測事物的發(fā)展也是其中之一,而現(xiàn)在人工神經(jīng)網(wǎng)絡預測模型可通過幾個問題就能確定答題者是否感染艾滋病,以往判定出入境人員是否感染艾滋病,必須要進行特異性血清學診斷和病原體檢測,不僅花費時間,還需要被檢測者支付一定的費用,因而工作比較難以開展。項目鑒定組組長、廣東省出入境檢驗檢疫局衛(wèi)生檢疫處處長胡龍飛認為,這一項目使得在沒有特異性血清學診斷和病原體檢測的條件下,有望在口岸疾病監(jiān)測和現(xiàn)場衛(wèi)生檢疫工作中及時發(fā)現(xiàn)性病、艾滋病高危人群,盡早切斷傳播途徑,最大限度地保障口岸安全。據(jù)了解,用這個模型研究者隨機抽取了15例梅毒患者和15例非性病患者進行測試,結果該模型準確地識別出15例梅毒病例,準確率達100%。這就是人工神經(jīng)網(wǎng)絡預測的意義,通過問題建模用反向傳播算法來計算出答案,直接縮短了原本檢查需要的實驗時間。
幻燈片8
人工神經(jīng)網(wǎng)路的原理
? 人工神經(jīng)網(wǎng)絡是一種應用類似于大腦神經(jīng)突觸聯(lián)接的結構進行信息處理的數(shù)學模型。神經(jīng)網(wǎng)絡是一種運算模型,由大量的神經(jīng)元之間相互聯(lián)接構成。每個神經(jīng)元代表一種特定的輸出函數(shù),稱為激勵函數(shù)。每兩個神經(jīng)元間的連接都代表一個對于通過該連接信號的加權值,稱之為權值,這相當于人工神經(jīng)網(wǎng)絡的記憶。網(wǎng)絡的輸出則依網(wǎng)絡的連接方式,權重值和激勵函數(shù)的不同而不同。而網(wǎng)絡自身通常都是對自然界某種算法或者函數(shù)的逼近,也可能是對一種邏輯策略的表達。
幻燈片9
人工神經(jīng)網(wǎng)路的原理
? 人工神經(jīng)網(wǎng)絡是對人類神經(jīng)系統(tǒng)的一種模擬。盡管人類神經(jīng)系統(tǒng)規(guī)模宏大、結構復雜、功能神奇,但其最基本的處理單元卻只有神經(jīng)元。人工神經(jīng)系統(tǒng)的功能實際上是通過大量神經(jīng)元的廣泛互連,以規(guī)模宏偉的并行運算來實現(xiàn)的。? 人工神經(jīng)網(wǎng)反映了人腦功能的若干基本特性,但并非生物系統(tǒng)的逼真描述,只是某種模仿、簡化和抽象。
幻燈片10
人工神經(jīng)網(wǎng)路的原理
? 與數(shù)字計算機比較,人工神經(jīng)網(wǎng)絡在構成原理和功能特點等方面更加接近人腦,它不是按給定的程序一步一步地執(zhí)行運算,而是能夠自身適應環(huán)境、總結規(guī)律、完成某種運算、識別或過程控制。
? 神經(jīng)元也和其他類型的細胞一樣,包括有細胞膜、細胞質(zhì)和細胞核。
幻燈片11
人工神經(jīng)網(wǎng)路的原理
生物神經(jīng)元的信息傳遞與處理示意圖
幻燈片12
人工神經(jīng)網(wǎng)路的原理
? 人工神經(jīng)元的一般模型
幻燈片13
BP網(wǎng)絡的預測
? BP網(wǎng)絡是一種按誤差逆?zhèn)鞑ニ惴ㄓ柧毜亩鄬忧梆伨W(wǎng)絡,是目前應用最廣泛的神經(jīng)網(wǎng)絡模型之一。BP網(wǎng)絡能學習和存貯大量的輸入-輸出模式映射關系,而無需事前揭示描述這種映射關系的數(shù)學方程。它的學習規(guī)則是使用最速下降法,通過反向傳播來不斷調(diào)整網(wǎng)絡的權值和閾值,使網(wǎng)絡的誤差平方和最小。
幻燈片14
BP網(wǎng)絡的預測
典型的BP網(wǎng)絡結構模型
幻燈片15
BP網(wǎng)絡的預測
? BP 算法因其簡單、易行、計算量小、并行性強等優(yōu)點,是目前神經(jīng)網(wǎng)絡訓練采用最多也是最成熟的訓練算法之一。
? BP 算法的實質(zhì)是求解誤差函數(shù)的最小值問題,由于它采用非線性規(guī)劃中的梯度下降法,按誤差函數(shù)的負梯度方向修正權值。其主要思路是求出訓練網(wǎng)絡的指標函數(shù)誤差:
kE???(Y?Ct)/2tk?1t?1幻燈片16 mq2
BP網(wǎng)絡的不足
? 由于學習速率是固定的,因此網(wǎng)絡的收斂速度慢,需要較長的訓練時間。對于一些復雜問題,BP算法需要的訓練時間可能非常長,這主要是由于學習速率太小造成的,可采用變化的學習速率或自適應的學習速率加以改進。
? BP算法可以使權值收斂到某個值,但并不保證其為誤差平面的全局最小值,這是因為采用梯度下降法可能產(chǎn)生一個局部最小值。對于這個問題,可以采用附加動量法來解決。
幻燈片17
BP網(wǎng)絡的不足
? 網(wǎng)絡隱含層的層數(shù)和單元數(shù)的選擇尚無理論上的指導,一般是根據(jù)經(jīng)驗或者通過反復實驗確定。因此,網(wǎng)絡往往存在很大的冗余性,在一定程度上也增加了網(wǎng)絡學習的負擔。? 網(wǎng)絡的學習和記憶具有不穩(wěn)定性。也就是說,如果增加了學習樣本,訓練好的網(wǎng)絡就需要從頭開始訓練,對于以前的權值和閾值是沒有記憶的。但是可以將預測、分類或聚類做的比較好的權值保存。
幻燈片18
RBF的網(wǎng)絡預測
RBF神經(jīng)網(wǎng)絡是一種具有拓撲結構的前向神經(jīng)網(wǎng)絡.由輸入層、隱含層、輸出層構。RBF神經(jīng)網(wǎng)絡以徑向基函數(shù)作為隱層單元的基,構成隱含層空間,隱含層對輸入矢量進行變換將低維的模式輸入數(shù)據(jù)變換到高維空間內(nèi), 使得在低維空間內(nèi)的線性不可分問題在高維空間內(nèi)線性可分。
RBF模擬了人腦中局部調(diào)整、相互覆蓋感受野,因此是一種局部逼近網(wǎng)絡,科學界已經(jīng)證明它能以任意精度逼近任意函數(shù)?;脽羝?9
? RBF網(wǎng)絡結構圖
幻燈片20
RBF網(wǎng)絡
? ?
? ? ?
輸入層:
隱層:
一維 二維 輸出層:
wij?1,f(x)?x
f(net)?e
(net??)?2T2?2
f(X)?e(xi??i)(xi??i)?2j?2 f(x)?kx
幻燈片21
? 徑向基神經(jīng)網(wǎng)絡與BP網(wǎng)絡在結構上基本相同,區(qū)別在于RBF網(wǎng)絡隱含層節(jié)點傳輸函數(shù)為徑向基函數(shù),即隱含層節(jié)點對輸入產(chǎn)生局部響應,此RBF常被稱為局部感受野網(wǎng)絡。
幻燈片22
? RBF網(wǎng)絡的優(yōu)點:
?(1)它具有唯一最佳逼近的特性,且無局部極小問題存在。
?(2)RBF神經(jīng)網(wǎng)絡具有較強的輸入和輸出映射功能,并且理論證明在前向網(wǎng)絡中RBF網(wǎng)絡是完成映射功能的最優(yōu)網(wǎng)絡。?(3)網(wǎng)絡連接權值與輸出呈線性關系。?(4)分類能力好。
?(5)學習過程收斂速度快。
幻燈片23
? RBF網(wǎng)絡的缺點
?(1)最嚴重的問題是沒能力來解釋自己的推理過程和推理依據(jù)。
?(2)不能向用戶提出必要的詢問,而且當數(shù)據(jù)不充分的時候,神經(jīng)網(wǎng)絡就無法進行工作。
?(3)把一切問題的特征都變?yōu)閿?shù)字,把一切推理都變?yōu)閿?shù)值計算,其結果勢必是丟失信息。
?(4)理論和學習算法還有待于進一步完善和提高。
幻燈片24
空調(diào)故障預測建模
? 建立預測模型
幻燈片25
? 空調(diào)系統(tǒng)故障診斷的神經(jīng)網(wǎng)絡模型分為3 層,分別為輸入層、隱含層和輸出層。輸入層節(jié)點個數(shù)為4 ,對應于4 個故障現(xiàn)象,輸出層節(jié)點個數(shù)為12 ,對應于12 個故障原因。輸出節(jié)點值的大小反映了故障出現(xiàn)的可能性。隱含層節(jié)點的個數(shù)可參照公式初步選取:
A?M?N??幻燈片26
BP與RBF網(wǎng)絡的預測結果對比
BP網(wǎng)絡
? RBF網(wǎng)絡
E???(Yk?Ct)/2??tk?1t?1 mq2
fn(X)?w0??wi?(X?ci)i?1
n
幻燈片27
BP與RBF網(wǎng)絡的預測結果對比
? BP網(wǎng)絡與RBF網(wǎng)絡預測結果對比
幻燈片28
?(1)由于學習速率是固定的,因此BP網(wǎng)絡的訓練過程較長,當需要處理較復雜的問題時,需要的時間很長。而RBF網(wǎng)絡的建網(wǎng)過程即是訓練過程此外,訓練時間較少.精度也比較高。
?(2)在處理同一問題時,通常情況BP網(wǎng)絡所需的神經(jīng)元個數(shù)比RBF網(wǎng)絡要少。?(3)BP網(wǎng)絡的輸出和初始的權值有關,而RBF網(wǎng)絡的輸出與初始的權值無關。?(4)RBP網(wǎng)絡隱含層的層數(shù)和單元數(shù)的選擇要憑借經(jīng)驗反復驗證,因此網(wǎng)絡的冗余性比較大。RBF隱層節(jié)點的數(shù)目也在訓練過程中確定。但是要確定徑向基函數(shù)的分布密度。
幻燈片29
結論與展望
? 人工神經(jīng)網(wǎng)絡近來越來越受到人們的關注,因為它為解決大復雜度問題提供了一種相對來說比較有效的簡單方法??梢酝ㄟ^神經(jīng)網(wǎng)絡對事物進行預測從而用簡單的方法完成復雜的問題。
? 如化學試驗、機器人、金融市場的模擬、和語言圖像的識別,等領域神經(jīng)網(wǎng)絡都取得了很好的效果。
幻燈片30
結論與展望
? 人工神經(jīng)網(wǎng)絡的局限性
?(1)受到腦科學研究的限制:由于生理實驗的困難性,因此目前人類對思維和記憶機制的認識還很膚淺,還有很多問題需要解決; ?(2)還沒有完整成熟的理論體系; ?(3)還帶有濃厚的策略和經(jīng)驗色彩 ; ?(4)與傳統(tǒng)技術的接口不成熟。
? 上述問題的存在,制約了人工神經(jīng)網(wǎng)絡研究的發(fā)展。
? 相信只要能客服這些局限性,人工神經(jīng)網(wǎng)絡的發(fā)展將不可限量
幻燈片31
謝 謝!
第三篇:人工智能論文:人工智能 人工神經(jīng)網(wǎng)絡 計算機輔助教學
人工智能論文:智能化教學輔助訓練系統(tǒng)
【中文摘要】借助于計算機技術的迅猛發(fā)展與普及應用,人工智能技術越來越多的介入人們?nèi)粘I?由于其不可比擬的優(yōu)勢使得大量傳統(tǒng)的低效率、高重復性的人力工作得到極大的解放,不但提高了工作速度,也極高地提高了工作效率,而且準確程度仍不受影響。智能化教學輔助訓練系統(tǒng)的開發(fā),就是將人工智能技術應用于教學環(huán)節(jié)中的測試訓練環(huán)節(jié),將以往由教師所承擔的完整的考試過程交由計算機系統(tǒng)處理完成,不僅能夠把教師從繁重的工作負擔中解放出來,而且也可以提高測試過程的高效率和高準確性。本文所述的智能化教學輔助訓練系統(tǒng)可以勝任起完成教學過程中最為重要的學生能力測試環(huán)節(jié)的工作,完成平時的練習測試和期中、期末的考查,在保證測試效果的前提下,減輕了教師的工作負擔、提高了測試工作的效率、促進了學生的學習鞏固、提高了學校的教學水平,是非常值得大力推廣與應用的一項新方法。本系統(tǒng)具備以下的主要特點與功能:①暢通的網(wǎng)絡化運行,可以實現(xiàn)局域網(wǎng)以及廣域網(wǎng)的系統(tǒng)擴展;②根據(jù)題型的要求實現(xiàn)自動判卷或提交給具有相應權限的教師進行人工判卷;③根據(jù)預設的題庫系統(tǒng)可以實現(xiàn)教師的隨機抽題組卷功能;④根據(jù)教師的要求實現(xiàn)臨時增設題目并能夠自動完成題庫的分類收錄或即時向已登錄學生...【英文摘要】With the rapid development of computer technology and the popularization of artificial intelligence
technology more and more involved in people’s daily lives, because of its incomparable advantages of making a lot of the traditional low efficiency, high repetitive work was a great human emancipation, not only increased pace of work, but also improve the efficiency high, but accuracy remains unaffected.Intelligent training system teaching aids the development of artificial intelligence technology in teachin...【關鍵詞】人工智能 人工神經(jīng)網(wǎng)絡 計算機輔助教學
【英文關鍵詞】Artificial Intelligence Artificial Neural Networks CAI 【索購全文】聯(lián)系Q1:138113721 Q2:139938848 【目錄】智能化教學輔助訓練系統(tǒng)6-7Abstract7-8
摘要
1.1 教學
第1章 緒論11-25輔助訓練系統(tǒng)綜述11-15述15-
211.2 國內(nèi)外計算機考試系統(tǒng)發(fā)展綜
1.2.2 1.2.1 國外計算機考試系統(tǒng)綜述15-19國內(nèi)計算機考試系統(tǒng)綜述19-21模式簡介21-2321-22
1.3 計算機考試系統(tǒng)的開發(fā)
1.3.1 C/S(Client/Server)模式簡介
1.3.3 1.3.2 B/S(Browser/Server)模式22-2
31.4 當前計算機輔助訓練系統(tǒng)的不足
1.6 本章小結混合模式2323-2424-25結構25-321.5 研究的目的意義24第2章 智能化教學輔助訓練系統(tǒng)的目標、設計原則與
2.1 系統(tǒng)的目標25-27
2.2 系統(tǒng)設計原則
27-2828-302.3 系統(tǒng)的結構28-312.3.1.系統(tǒng)的結構選擇
2.3.3.第3章 系
3.1.1 2.3.2.系統(tǒng)開發(fā)的軟硬件條件30-31
2.4 本章小結31-32系統(tǒng)的數(shù)據(jù)庫結構31統(tǒng)的功能與實現(xiàn)32-41管理員用戶32-33用戶35理模塊35-36模塊36-37塊37-38考試38-39置3940-41
3.1 用戶管理功能32-353.1.2 教師用戶33-35
3.1.3 學生3.2.1 用戶管3.2.3 題庫管理3.2 用戶管理功能的實現(xiàn)35-38
3.2.2 考務管理模塊363.2.4 試卷管理模塊37
3.2.5 考試管理模
3.3.1 在線3.3 系統(tǒng)核心功能與設計38-403.3.2 用戶組卷39
3.3.3 考生IP地址設3.4 本章小結
4.1 組卷方式3.3.4 考生成績查詢39-40第4章 智能化的組卷功能41-47
4.2 組卷的特點42的確定41-42數(shù)學模型42-4444-45
4.3 智能組卷系統(tǒng)的4.4 BP神經(jīng)網(wǎng)絡在智能化組卷系統(tǒng)中的使用
4.6 本章小結45-475.1 系統(tǒng)安全保障模塊
5.3 數(shù)據(jù)安全保障模塊
5.4.1 密鑰的產(chǎn)生
第4.5 實驗結果455章 系統(tǒng)安全性的保障47-534750515253-5653-555.2 身份認證模塊47-505.4 考試數(shù)據(jù)的加密保護50-525.4.2 密鑰存儲51-525.5 本章小結52-536.1 硬件系統(tǒng)容錯53
5.4.3 數(shù)據(jù)接口第6章 系統(tǒng)的容錯功能
6.2 軟件系統(tǒng)容錯
6.2.2 系6.2.1 防止打開多個考試程序53-54
統(tǒng)重啟546.2.3 更換計算機考試54-556.2.4 學生考
6.3 號或姓名異常55本章小結55-56展望59-626.2.5 學生分數(shù)沒有正?;厥?5第7章 系統(tǒng)測試56-598.1 結論59-61
第8章 結論與
8.1.1 系統(tǒng)運行后收到的效果59-618.1.2 系統(tǒng)存在的不足之處61-62參考文獻62-67
致謝67618.2 展望
第四篇:人工孵化肉鴿 人工哺育肉鴿 人工喂養(yǎng)肉鴿相關文獻
石家莊深澤肉鴿養(yǎng)殖場
—肉鴿人工孵化哺育技術
石家莊深澤肉鴿養(yǎng)殖場成立于2001年,是河北地區(qū)專業(yè)的肉鴿人工孵化哺育技術培訓、銷售人工鴿乳飼料的權威化養(yǎng)殖廠家。
我場經(jīng)過十年的潛心研究,成功將肉鴿人工孵化哺育技術運用到我場實際生產(chǎn)中,其豐厚的利潤是傳統(tǒng)養(yǎng)殖的三倍以上,且養(yǎng)殖風險低,隨時按市場走勢確定出欄量。并且不受養(yǎng)殖規(guī)模限制。我場配置的人工鴿乳飼料具備自然鴿乳的相應條件,保證了極易吸收的高蛋白高脂肪特點,哺育出來的乳鴿精神狀態(tài)飽滿,皮膚紅潤,胸部豐滿,翅膀飽滿渾厚。且整體成活率始終保持在96%以上,是我國人工哺育技術成活率居高者。人工孵化種蛋來源廣泛,可自行養(yǎng)殖種鴿,也可同大型種鴿養(yǎng)殖場或種蛋收購商長期合作提供蛋源。人工孵化哺育技術成熟,對全程人工孵化哺育技術的孵化哺育設備制作,各季節(jié)溫濕度調(diào)整,及后期的人工育肥、防疫病害等都有模板化數(shù)據(jù)。養(yǎng)殖成本低廉,因沒有種鴿相應的飼料消耗,且由我場自行配置的人工鴿乳及后期育肥飼料自我控制了乳鴿的出欄成本,按當前高昂的飼料費用,我場始終將乳鴿的出欄成本控制在10元以內(nèi),成功節(jié)省了大量的飼料成本。
肉鴿人工孵化哺育技術是近幾年肉鴿行業(yè)新興的養(yǎng)殖技術,因其投資少,利潤高,成本低廉,且養(yǎng)殖風險低,被廣大肉鴿養(yǎng)殖場廣泛接納。隨著技術的不斷創(chuàng)新,我場現(xiàn)面向廣大養(yǎng)殖場開設肉鴿人工孵化哺育技術培訓指導班,以及發(fā)售全人工孵化哺育技術手冊及人工鴿乳飼料。
培訓內(nèi)容:
1、設備制作技術。(1)孵化機的設計與制作(2)育雛室的設計及制作(2)育雛室的溫濕度及通風的相應精細控制(3)各階段喂養(yǎng)哺育器械的制作。
2、孵化技術。(1)種蛋的選取及無精蛋的剔除(2)鴿蛋孵化的最佳溫濕度控制(3)因環(huán)境變化對孵化所產(chǎn)生的影響的克服(4)根據(jù)胚胎發(fā)育情況對溫濕度的相應調(diào)整(5)裝蛋、照蛋、落盤、出雛是對溫濕度的調(diào)整(6)種蛋的儲藏、運輸條件的控制方法
3、育雛育肥技術。(1)喂養(yǎng)手法的操作(2)喂料量的掌握(3)弱雛的管理(4)飼料過度轉換的時機的掌握(5)后期育肥方法(6)消化不良以及病害的相關處理辦法。聯(lián)系地址:石家莊市深澤縣大興村 聯(lián)系人:王康
聯(lián)系電話:***
0311-80767065 聯(lián)系QQ: 41967390(添加時請注明“肉鴿”字樣)
誠信為本,潛心教學,你的成功就是我們的成功!
第五篇:基于庫存的小波神經(jīng)網(wǎng)絡煤炭期貨價格預測分析
基于庫存的小波神經(jīng)網(wǎng)絡煤炭期貨價格預測分析
【摘 要】本文以Matlab為工具,利用小波神經(jīng)網(wǎng)絡,對基于庫存的動力煤期貨價格進行模型分析和預測,結果表明其具有高度相關性,并具有研究價值。這對探究中國煤炭期貨未來的價格變動趨勢,為煤炭期貨市場提供基礎資料和決策支持。
【關鍵詞】煤炭期貨;MATLAB;神經(jīng)網(wǎng)絡;模型預測
0 引言
隨著經(jīng)濟全球化的推進,我國的基礎能源越來越依賴國際煤炭資源,掌握煤炭未來市場價格的話語權對我國經(jīng)濟發(fā)展、資源供給都具有重要意義。在現(xiàn)貨市場不景氣的情況下,期貨這種能夠規(guī)避市場風險的工具便具有了更大的發(fā)展空間。小波分析具有較好的描述能力,而且預測的精度較高、預測結果的可靠性較大,作為一種信息和信號處理工具在許多方面得到應用。煤炭期貨的上市
動力煤期貨上市后,其價格將成為動力煤市場的風向標,自身也將成為電力企業(yè)鎖定成本的保值工具。因此,動力煤期貨上市,對于動力煤市場乃至主要的國民經(jīng)濟發(fā)展帶來重大積極作用。
一是有利于完善市場體系、穩(wěn)健企業(yè)經(jīng)營、優(yōu)化資源配置。上市動力煤期貨通過形成公正、透明、權威的中遠期價格體系,能夠為煤炭、電力等上下游企業(yè)簽訂長、短期協(xié)議提供有效參考,是動力煤市場化改革的重要配套措施和煤炭市場體系進一步完善的重要內(nèi)容。
二是有利于緩解“煤電聯(lián)動”壓力?!懊弘娐?lián)動”是指在某一約定時間周期內(nèi),如果煤炭價格上漲超過某一既定比例,那么國家便對電價做出相應調(diào)整。推出動力煤期貨后,電力等下游企業(yè)通過期貨市場進行套期保值交易,實現(xiàn)現(xiàn)貨、期貨“兩條腿走路”,有效規(guī)避煤炭價格市場波動風險。
三是有利于“煤電一體化”的發(fā)展方向。一方面,上市動力煤期貨通過提供有效規(guī)避市場風險的金融工具,有助于為進一步推動煤電一體化夯實基礎;另一方面,動力煤期貨能夠為煤炭定價提供有益借鑒,煤電合營企業(yè)可以在期貨價格的基礎上,依據(jù)自身情況,制定結算價格,為煤電一體化消除消極因素。模型與算法
2.1 小波神經(jīng)網(wǎng)絡
小波神經(jīng)網(wǎng)絡方法與傳統(tǒng)的參數(shù)模型方法最大的不同在于它是數(shù)驅(qū)動的自適應技術,不需要對問題的模型做出任何假設。在解決問題的內(nèi)部規(guī)律未知或難以描述的情況下,神經(jīng)網(wǎng)絡可以通過對樣本數(shù)據(jù)的學習訓練,以獲取數(shù)據(jù)之間隱藏的函數(shù)關系,是一種多變量輸入的非線性、非參數(shù)的統(tǒng)計方法。
利用神經(jīng)網(wǎng)絡預測時間序列時,利用時間序列模型不需要知道影響預測變量的因果關系,而且有足夠多的數(shù)據(jù)可以用來構成一個合理長度的時間序列的特點,通過把輸出層單元的誤差逐層向輸入層“分攤”給各層單元,從而獲得參考誤差,并調(diào)整各邊連接權,直到小于允許誤差。輸入信號從輸入節(jié)點依次傳過各隱藏節(jié)點,然后傳到輸出層,每一層的節(jié)點的輸出只影響下一層節(jié)點的輸出。在學習過程中,為使網(wǎng)絡輸出層的誤差平方和達到最小,通過連續(xù)不斷地在相對于誤差函數(shù)斜率下降的方向上計算網(wǎng)絡權值和偏差的變化而逐漸逼近目標。每一次權值和偏差的變化都與網(wǎng)絡誤差的影響成正比,并以反向傳播的方式傳遞到每一層。
2.2 數(shù)據(jù)準備
本文模型中使用的是鄭商所CZCE動力煤自2013年9月上市一年內(nèi)的收盤價格,以交易日為單位(節(jié)假日停盤,故省略)。
庫存數(shù)據(jù)方面,模型使用的是我國主要港口煤炭庫存總量,數(shù)據(jù)來源于魯中煤炭交易中心。選取區(qū)間與動力煤期貨價格的選取區(qū)間相同,都為2013年9月動力煤在鄭商所上市之后的一年時間。動力煤期貨價格與庫存有存在一定的相關性,動力煤期貨價格有較大波動的時段都伴隨著庫存的反向波動。
(5)記錄已學習過的樣本數(shù)p。如果p
(6)確定隱含層層數(shù)。隱含層節(jié)點數(shù)太多會導致學習時間過長;而隱含層節(jié)點太少,容錯性差,識別未經(jīng)學習的樣本能力低,所以必須綜合多方面的因素進行設計。利用逐步增長或逐步修剪來確定。根據(jù)試算比較,最終確定隱含層節(jié)點數(shù)為10。
(7)按權值修正公式修正各層的權職和閾值;
(9)利用測試樣本檢驗訓練好的網(wǎng)絡模型,并對未來進行預測。對訓練、測試以及預測輸出的結果進行反歸一化處理,即將輸出值還原為原量綱值。預測結果評價方法
通過以2013年9月26日到2014年9月5日的煤炭期貨價格與港口庫存數(shù)據(jù)進行分析和單步預測,得到如下圖
并對預測的整體效果進行比較,采用平均值誤差平方和MSE(Mean Suare Error)、平均絕對誤差MAE(Mean Absolute Error)、平均絕對百分誤差MAPE(Mean Absolute Percentage Error)等三項預測誤差評價指標對其進行評價。誤差結果如下(部分)
從圖4及表1可以看出,基于神經(jīng)網(wǎng)絡模型預測的誤差評價指標都非常小,預測表明,在無重大利好消息出臺或者政策變化的情況下,在短期內(nèi),國內(nèi)煤炭期貨價格仍處于在低位保持震蕩的趨勢。結果與討論
通過對煤炭期貨價格交易的分析預測得出,在動力煤期貨上市之后,煤炭下游行業(yè)對煤炭消費的需求,更加直觀的在期貨價格上得以提現(xiàn),而通過市場形成的期貨價格,雖然影響因素眾多,不能完全準確的預測價格波動,但本文模擬出的結果是比較滿意的。也說明煤炭期貨價格變動具有研究價值。
【參考文獻】
[1]江夢,盛宇華.基于波動理論的煤炭期貨市場運行規(guī)律研究[J].中國煤炭,2013,39(7):20-23.[2]劉碩,何永秀,陶衛(wèi)君,楊麗芳,張宇.遺傳BP神經(jīng)網(wǎng)絡的煤價預測與煤價風險規(guī)避策略[J].華北電力大學學報,2009,36(6):75-80.[3]張智勇,吳曉東,楊鵬,李東武.動力煤期貨指數(shù)定價模式的思路探討[J].中國煤炭,2014,40(10).[責任編輯:楊玉潔]