| 研究生: |
楊雅媛 |
|---|---|
| 論文名稱: |
迴歸分析與類神經網路預測能力之比較 A comparison on the prediction performance of regression analysis and artificial neural networks |
| 指導教授: |
陳麗霞
陳春龍 |
| 學位類別: |
碩士
Master |
| 系所名稱: |
商學院 - 統計學系 Department of Statistics |
| 論文出版年: | 2002 |
| 畢業學年度: | 90 |
| 語文別: | 中文 |
| 論文頁數: | 61 |
| 中文關鍵詞: | 迴歸分析 、類神經網路 、區域搜尋法 、演化策略法類神經網路 、倒傳遞類神經網路 |
| 外文關鍵詞: | Regression analysis, Artificial neural networks, Local search methods, Evolution strategies neural network (ESNN), Back-propagation neural network (BPNN) |
| 相關次數: | 點閱:239 下載:158 |
| 分享至: |
| 查詢本校圖書館目錄 查詢臺灣博碩士論文知識加值系統 勘誤回報 |
迴歸分析與類神經網路此兩種方法皆是預測領域上的主要工具。本論文嘗試在線性迴歸模式及非線性迴歸模式的條件下,隨機產生不同特性的資料以完整探討資料特性對迴歸分析與類神經網路之預測效果的影響。這些特性包括常態分配、偏態分配、不等變異、Michaelis-Menten關係模式及指數迴歸模式。
再者,我們使用區域搜尋法(local search methods)中的演化策略法(evolution strategies,ES)作為類神經網路的學習(learning)方法以提高其預測功能。我們稱這種類型的類神經網路為ESNN。
模擬結果顯示,ESNN確實可以取代常用來與迴歸分析做比較的倒傳遞類神經網路(back-propagation neural network,BPNN),成為類神經網路的新選擇。針對不同特性的資料,我們建議:如果原始的資料適合以常態線性迴歸模式配適,則使用者可考慮使用迴歸方法做預測。如果原始的資料經由圖形分析或由檢定方法得知違反誤差項為均等變異之假設時,若能找到合適的權數,可使用加權最小平方法,但若權數難以決定時,則使用ESNN做預測。如果資料呈現韋伯偏態分佈時,可考慮使用ESNN或韋伯迴歸方法。資料適合以非線性迴歸模式做配適時,則選擇以ESNN做預測。
關鍵詞:迴歸分析,類神經網路,區域搜尋法,演化策略法類神經網路,倒傳遞類神經網路
Both regression analysis and artificial neural networks are the main techniques for prediction. In this research, we tried to randomly generate different types of data, so as to completely explore the effect of data characteristics on the predictive performance of regression analysis and artificial neural networks. The data characteristics include normal distribution, skew distribution, unequal variances, Michaelis-Menten relationship model and exponential regression model.
In addition, we used the evolution strategies, which is one of the local search methods for training artificial neural networks, to further improve its predictive performance. We name this type of artificial neural networks ESNN.
Simulation studies indicate that ESNN could indeed replace BPNN to be the new choice of artificial neural networks. For different types of data, we commend that users can use regression analysis for their prediction if the original data is fit for linear regression model. When the residuals of the data are unequal variances, users can use weighted least squares if the optimal weights could be found. Otherwise, users can use ESNN. If the data is fit for weibull distribution, users can use ESNN or weibull regression. If the data is fit for nonlinear regression model, users can choose ESNN for the prediction.
Keywords: Regression Analysis, Artificial Neural Networks, Local Search Methods, Evolution Strategies Neural Network (ESNN), Back-propagation Neural Network (BPNN)
第一章 緒論
第一節 研究背景與動機-----5
第二節 研究之目的與重要性-----3
第二章 迴歸模式介紹
第一節 等變異之常態線性迴歸模式-----4
第二節 不等變異之常態線性迴歸模式-----5
第三節 對數線性迴歸模式-----7
第四節 非線性迴歸模式-----9
第三章 演化策略法結合類神經網路之模式
第一節 簡介類神經網路-----11
第二節 前授型類神經網路-----11
第三節 FNN的建立過程與訓練方法-----13
第四節 BPNN之缺點-----15
第五節 簡介演化策略法(ES)-----17
第六節 演化策略法結合類神經網路模式(ESNN)-----18
第四章 迴歸方法與類神經網路在預測方面之模擬比較
第一節 模式之型態與資料之產生-----21
(一)等變異之常態線性迴歸模式-----21
(二)不等變異之常態線性迴歸模式-----22
(三)韋伯迴歸模式-----22
(四)非線性迴歸模式-----23
第二節 模擬結果-----23
(一)等變異之常態線性迴歸模式-----24
(二)不等變異之常態線性迴歸模式-----39
(三)韋伯迴歸模式-----43
(四)非線性迴歸模式-----47
第三節 模擬結果之總結-----56
第五章 結論與建議-----57
參考文獻-----59
表2-1 對數線性迴歸模式T,Y與ε所服從的分配之關係-----6
表4-1 等變異之常態線性迴歸模式(n=50σ=20)三種方法的RMS值-----25
表4-2 等變異之常態線性迴歸模式(n=50σ=80)三種方法的RMS值-----26
表4-3 等變異常態線性迴歸模式(n=100σ=20)三種方法的RMS值-----27
表4-4 等變異常態線性迴歸模式(n=100σ=80)三種方法的RMS值-----28
表4-5 等變異常態線性迴歸模式(n=200σ=20)三種方法的RMS值-----29
表4-6 等變異常態線性迴歸模式(n=200σ=80)三種方法的RMS值-----30
表4-7 等變異常態線性迴歸模式(n=50σ=20)三種方法的MAPE值-----31
表4-8 等變異常態線性迴歸模式(n=50σ=80)三種方法的MAPE值-----32
表4-9 等變異常態線性迴歸模式(n=100σ=20)三方法的MAPE值-----33
表4-10 等變異常態線性迴歸模式(n=100σ=80)三方法的MAPE值-----34
表4-11 等變異常態線性迴歸模式(n=200σ=20)三方法的MAPE值-----35
表4-12 等變異常態線性迴歸模式(n=200σ=80)三方法的MAPE值-----36
表4-13 等變異之常態線性迴歸模式,RMS值之變異數分析-----37
表4-14 等變異之常態線性迴歸模式,MAPE值之變異數分析-----38
表4-15 不等變異之常態線性迴歸模式三種方法之RMS值-----40
表4-16 不等變異之常態線性迴歸模式三種方法之MAPE值-----41
表4-17 不等變異之常態線性迴歸模式,RMS值、MAPE值變異數分析-----42
表4-18 韋伯迴歸模式四種方法之RMS值-----44
表4-19 韋伯迴歸模式四種方法之MAPE值-----45
表4-20 韋伯迴歸模式四種方法之RMS值、MAPE值變異數分析-----46
表4-21 Michaelis-Menten關係模式四種方法之RMS值-----48
表4-22 Michaelis-Menten關係模式四種方法之MAPE值-----49
表4-23 指數迴歸模式四種方法之RMS值-----50
表4-24 指數迴歸模式四種方法之MAPE值-----51
表4-25 學習曲線例題四種方法之RMS值-----52
表4-26 學習曲線例題四種方法之MAPE值-----53
表4-27 非線性迴歸模式,四種方法之RMS值與MAPE值變異數分析-----54