【教学课件】第十三章简单线性回归分析.ppt
《【教学课件】第十三章简单线性回归分析.ppt》由会员分享,可在线阅读,更多相关《【教学课件】第十三章简单线性回归分析.ppt(84页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、13-13-1 1銘傳應用統計系銘傳應用統計系第十三章第十三章簡單線性迴歸分析簡單線性迴歸分析-1-1Simple Linear Regression-113-13-2 2銘傳應用統計系銘傳應用統計系學習目標學習目標1.簡單線性迴歸模型的描述2.最小平方法的觀念與應用3.簡單迴歸模型參數之估計4.反應變數(y)的估計及預測5.電腦使用及報表的解讀13-13-3 3銘傳應用統計系銘傳應用統計系模型的應用模型的應用1.探討兩個現象(變數)之間的線性關係2.以數學函數之形式或者另外加上機率分配觀念來表示該模型3.可延伸於探討兩種以上變數之間的關連4.常見形式n n數學確定模型數學確定模型(deter
2、ministic models)(deterministic models)n n機率模型機率模型(probabilistic models)(probabilistic models)13-13-4 4銘傳應用統計系銘傳應用統計系確定模型確定模型Deterministic ModelsDeterministic Models1.兩個變數之間有確定關係之假設2.無任何預測上的誤差3.例如:NT$=30.7(=30.7(匯率)*US$或y=rxA touch down is a touch!1英吋英吋=2.54公分公分1英鎊英鎊=0.45359公斤公斤65 mpg=104.61 km/hr13-
3、13-5 5銘傳應用統計系銘傳應用統計系機率模型機率模型Probabilistic ModelsProbabilistic Models1.1.真實生活中極大部分之現象無法以確定模型解釋(同樣30坪房子會有不同售價)2.2.將可以直接觀測到的將可以直接觀測到的兩個變數之間關係中分成兩部份n n確定部份確定部份3030坪房屋平均售價坪房屋平均售價n n隨機誤差部份隨機誤差部份真正和平均售價差額真正和平均售價差額2.2.例如例如:銷售額銷售額 10*10*廣告花費廣告花費+隨機誤差隨機誤差n nY Y=10=10X X+e en n隨機誤差代表,除了廣告花費以外,所有尚未納入模隨機誤差代表,除了廣
4、告花費以外,所有尚未納入模型的相關因素型的相關因素(例如例如商店地點、店面規模商店地點、店面規模)13-13-6 6銘傳應用統計系銘傳應用統計系各種類的機率模型各種類的機率模型機率模型機率模型迴歸模型迴歸模型相關模型相關模型其他模型其他模型13-13-7 7銘傳應用統計系銘傳應用統計系各種類相關的機率模型各種類相關的機率模型Positive Linear RelationshipNegative Linear RelationshipRelationship NOT LinearNo Relationship13-13-8 8銘傳應用統計系銘傳應用統計系簡單迴歸模型簡單迴歸模型 Simple
5、Regression ModelsRegression Models1.能夠建立兩個變數之間的關係2.使用線性函數方式表達n nf(x)=y=b+m x+f(x)=y=b+m x+n ny y代表一個代表一個反應變數反應變數(response variable(response variable銷售額銷售額)l l即是被預測的因應變數即是被預測的因應變數(dependentdependent)n nx x代表一個代表一個獨立變數獨立變數(independent variables)(independent variables)3.該模型常被使用來估計或預測反應變數13-13-9 9銘傳應用統計
6、系銘傳應用統計系簡單迴歸模型應用簡單迴歸模型應用 Simple Regression ModelsRegression Models1.身高與體重的關係2.房屋售價與房屋大小(坪數)的關係3.銷售額與呈列架位的關係4.微積分與統計學成績之間的關聯5.公務員薪資與年資間的關係6.汽車重量與耗油量間的關連13-13-1010銘傳應用統計系銘傳應用統計系簡單迴歸模型應用資料簡單迴歸模型應用資料見檔案見檔案見檔案見檔案 資料一資料一資料一資料一.XLS.XLS13-13-1111銘傳應用統計系銘傳應用統計系簡單迴歸模型應用繪圖簡單迴歸模型應用繪圖1 113-13-1212銘傳應用統計系銘傳應用統計系簡
7、單迴歸模型應用繪圖簡單迴歸模型應用繪圖2 213-13-1313銘傳應用統計系銘傳應用統計系簡單迴歸模型使用時的步驟簡單迴歸模型使用時的步驟1.事先決定反應變數與獨立變數間的模式事先決定反應變數與獨立變數間的模式2.估計模式估計模式的參數參數3.模式中誤差項的機率分配之描述模式中誤差項的機率分配之描述n n估計誤差項的變異情形估計誤差項的變異情形估計誤差項的變異情形估計誤差項的變異情形4.評估模式評估模式5.利用模式做估計或預測工作利用模式做估計或預測工作FFFF13-13-1414銘傳應用統計系銘傳應用統計系建立所使用的模型建立所使用的模型1.定義模型中所包含的兩個變數n n獨立變數獨立變數
8、(可自主變動不受其他因素的影響而改可自主變動不受其他因素的影響而改變其值變其值)n n反應變數反應變數(受到獨立變數的影響而改變其值者受到獨立變數的影響而改變其值者)2.根據變數間的關係建立假設之方程式n n預期的影響預期的影響 (諸如:正或負相關,係數為何諸如:正或負相關,係數為何)n n函數形式函數形式 (線性線性linearlinear或非線性或非線性non-linear)non-linear)13-13-1515銘傳應用統計系銘傳應用統計系使用模型的確定使用模型的確定1.根據自然的道理與原則2.使用數學的定理或理論3.根據過去研究所得4.一般人的常識5.根據經驗或直覺13-13-161
9、6銘傳應用統計系銘傳應用統計系想一想何種模型較為合適呢想一想何種模型較為合適呢?13-13-1717銘傳應用統計系銘傳應用統計系常見的各類迴歸模型常見的各類迴歸模型迴歸模型迴歸模型簡單迴歸簡單迴歸複迴歸複迴歸線性線性線性線性非線性非線性非線性非線性單一解釋變數單一解釋變數單一解釋變數單一解釋變數兩個以上解釋變數兩個以上解釋變數兩個以上解釋變數兩個以上解釋變數13-13-1818銘傳應用統計系銘傳應用統計系簡單線性關係方程式簡單線性關係方程式Linear EquationsLinear Equations斜率斜率斜率斜率截距截距截距截距13-13-1919銘傳應用統計系銘傳應用統計系線性關係範例
10、線性關係範例1 10 03 35 56 610109 9每增加每增加每增加每增加5 5個單位時,增加個單位時,增加個單位時,增加個單位時,增加3 3個單位個單位個單位個單位線性方程式:Y=3+3/5 x13-13-2020銘傳應用統計系銘傳應用統計系線性關係範例線性關係範例1 1圖形圖形線性方程式:Y=3+3/5 x每增加每增加每增加每增加5 5個單位時,增加個單位時,增加個單位時,增加個單位時,增加3 3個單位個單位個單位個單位YY=3/5 X+33=Y-interceptXm=3/5 Slope13-13-2121銘傳應用統計系銘傳應用統計系線性關係範例練習線性關係範例練習1 10 03
11、35 56 610109 92020?當當=20時,時,3+3/5*20=3+12=15線性方程式:Y=3+3/5 x151513-13-2222銘傳應用統計系銘傳應用統計系YXi ii ii i=+b bb be e0 01 1簡單線性迴歸模型簡單線性迴歸模型1.獨立變數和反應變數之間為線性關係線性關係因變數因變數因變數因變數(Dependent(Dependent response variable)response variable)自變數自變數自變數自變數(Independent,(Independent,explanatory explanatory variable)variabl
12、e)斜率參數斜率參數斜率參數斜率參數slopeslope截距參數截距參數截距參數截距參數 Y-interceptY-intercept隨機誤差隨機誤差隨機誤差隨機誤差Random errorRandom error13-13-2323銘傳應用統計系銘傳應用統計系簡單迴歸模型下的母體與簡單迴歸模型下的母體與樣本樣本假設母體關係:假設母體關係:假設母體關係:假設母體關係:未知為參數未知為參數未知為參數未知為參數母體母體母體母體PopulationPopulation隨機取樣隨機取樣隨機取樣隨機取樣Random SampleRandom SampleJJ$JJ$LL$JJ$KK$JJ$KK$13-1
13、3-2424銘傳應用統計系銘傳應用統計系簡單線性迴歸模型簡單線性迴歸模型觀察值觀察值觀察值觀察值觀察值觀察值觀察值觀察值e ei=隨機誤差隨機誤差隨機誤差隨機誤差 Random error Random error13-13-2525銘傳應用統計系銘傳應用統計系未取到的觀未取到的觀未取到的觀未取到的觀察值察值察值察值e e e ei=觀察到的誤差觀察到的誤差觀察到的誤差觀察到的誤差觀察值觀察值觀察值觀察值 簡單簡單線性迴歸模型取樣後結果線性迴歸模型取樣後結果SampleSample Linear Regression Model Linear Regression Model13-13-262
14、6銘傳應用統計系銘傳應用統計系迴歸模型的母數與表達迴歸模型的母數與表達(continued)b b b bo o與與與與b b b b1 1為模型的母數(參數、為模型的母數(參數、為模型的母數(參數、為模型的母數(參數、Parameter)Parameter)(有些課本表為有些課本表為有些課本表為有些課本表為b bo o)與與與與(有些課本表為有些課本表為有些課本表為有些課本表為b b1 1)則為相對應的估計(統計)則為相對應的估計(統計)則為相對應的估計(統計)則為相對應的估計(統計)為為為為 b b b bo o之估計之估計之估計之估計為為為為 b b b b1 1之估計之估計之估計之估計
15、13-13-2727銘傳應用統計系銘傳應用統計系迴歸模型使用時的步驟迴歸模型使用時的步驟Regression Modeling StepsRegression Modeling Steps1.事先決定反應變數與獨立變數間的模式事先決定反應變數與獨立變數間的模式2.估計模式的參數估計模式的參數3.模式中誤差項的機率分配之描述模式中誤差項的機率分配之描述n n估計誤差項的變異情形估計誤差項的變異情形估計誤差項的變異情形估計誤差項的變異情形4.評估模式評估模式5.利用模式做估計或預測工作利用模式做估計或預測工作FFFF13-13-2828銘傳應用統計系銘傳應用統計系迴歸範例解說迴歸範例解說10202
16、0403010352040605060假設某成對資料假設某成對資料(,)如右表所示:如右表所示:13-13-2929銘傳應用統計系銘傳應用統計系02040600204060XY散布圖散布圖 Scatter Plot Scatter Plot1.將所有的樣本點數對(Xi,Yi)繪於圖上2.可看出兩者間的關連及模型的趨勢及適切性13-13-3030銘傳應用統計系銘傳應用統計系動動腦想一想動動腦想一想如何繪出一條直線使所有的點都很靠近此條直線呢如何繪出一條直線使所有的點都很靠近此條直線呢如何繪出一條直線使所有的點都很靠近此條直線呢如何繪出一條直線使所有的點都很靠近此條直線呢?又如何決定你所繪出的線相
17、對來看是又如何決定你所繪出的線相對來看是又如何決定你所繪出的線相對來看是又如何決定你所繪出的線相對來看是 最好的最好的最好的最好的 呢呢呢呢?13-13-3131銘傳應用統計系銘傳應用統計系動動腦想一想動動腦想一想如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。你覺得如何呢你覺得如何呢你覺得如何呢你覺得如何呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?13-13-3232銘傳應用統計系銘傳應用統計系動動腦想一想動動
18、腦想一想如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。你又覺得如何呢你又覺得如何呢你又覺得如何呢你又覺得如何呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?13-13-3333銘傳應用統計系銘傳應用統計系動動腦想一想動動腦想一想如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。你又覺得如何呢
19、你又覺得如何呢你又覺得如何呢你又覺得如何呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?13-13-3434銘傳應用統計系銘傳應用統計系動動腦想一想動動腦想一想如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。你又覺得如何呢你又覺得如何呢你又覺得如何呢你又覺得如何呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?13-13-3535銘傳應用統計系銘傳應用統計系動動腦想一
20、想動動腦想一想如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。如下所繪出的直線使所有的點都很靠近此條直線。你又覺得如何呢你又覺得如何呢你又覺得如何呢你又覺得如何呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?是否還可以有更好的線呢?13-13-3636銘傳應用統計系銘傳應用統計系動動腦想一想動動腦想一想讓你來動動手做做看,找出最佳的直線,並試著讓你來動動手做做看,找出最佳的直線,並試著讓你來動動手做做看,找出最佳的直線,並試著讓你來動動手做做看,找出最佳的直線,並試著決定你所繪出的線
21、是否相對來看是決定你所繪出的線是否相對來看是決定你所繪出的線是否相對來看是決定你所繪出的線是否相對來看是 最好的最好的最好的最好的 呢呢呢呢?13-13-3737銘傳應用統計系銘傳應用統計系各種預估直線的比較各種預估直線的比較1 113-13-3838銘傳應用統計系銘傳應用統計系各種預估直線的比較各種預估直線的比較2 213-13-3939銘傳應用統計系銘傳應用統計系使用電腦來作實驗使用電腦來作實驗打開書後光碟找到檔案:ContentVisual Explorations選取:VisualExplorationsSimple Linear Regression調整斜率、調整截距找到最佳的誤差平
22、方和並比較解答。13-13-4040銘傳應用統計系銘傳應用統計系最小平方法的圖形表達最小平方法的圖形表達Least Squares Method GraphicallyLeast Squares Method Graphically 22Y YX X 11 33 44 LSLS即為使得即為使得即為使得即為使得 最小最小最小最小13-13-4141銘傳應用統計系銘傳應用統計系 最小平方法最小平方法Least Squares MethodLeast Squares Method1.最適切 表示觀察值與預估值間的差異為最小n n但是差異有正有負會互相抵消但是差異有正有負會互相抵消n n因此選擇誤差的
23、平方和作為依據較佳因此選擇誤差的平方和作為依據較佳2.最小平方法即為使得誤差平方和(SSE)為最小13-13-4242銘傳應用統計系銘傳應用統計系 最小平方法最小平方法的求解過程的求解過程1 1如何使得變異量平方最小呢?如何使得變異量平方最小呢?可以使用偏微分,分別讓方程式對可以使用偏微分,分別讓方程式對及及取偏微分,並使結果為取偏微分,並使結果為013-13-4343銘傳應用統計系銘傳應用統計系 最小平方法最小平方法的求解過程的求解過程2 2取偏微分,並使結果為取偏微分,並使結果為0,簡化後得到:,簡化後得到:讓方程式對讓方程式對13-13-4444銘傳應用統計系銘傳應用統計系 最小平方法最
24、小平方法的求解過程的求解過程3 3取偏微分,並使結果為取偏微分,並使結果為0,簡化後得到:,簡化後得到:讓方程式對讓方程式對13-13-4545銘傳應用統計系銘傳應用統計系 最小平方法最小平方法的求解過程的求解過程4 4求解聯立方程式並解得求解聯立方程式並解得上第一方程式乘以上第一方程式乘以並代入下第二個方程式消去並代入下第二個方程式消去並簡化得到:並簡化得到:及及13-13-4646銘傳應用統計系銘傳應用統計系方程式各係數的求解方程式各係數的求解方程式斜率的估計方程式斜率的估計方程式斜率的估計方程式斜率的估計方程式截距的估計方程式截距的估計方程式截距的估計方程式截距的估計預估方程式預估方程式
25、預估方程式預估方程式註:註:註:註:必在迴歸線上必在迴歸線上必在迴歸線上必在迴歸線上13-13-4747銘傳應用統計系銘傳應用統計系計算係數常用的表計算係數常用的表Computation TableComputation Table13-13-4848銘傳應用統計系銘傳應用統計系計算係數常用的公式計算係數常用的公式註:註:註:註:必在迴歸線上必在迴歸線上必在迴歸線上必在迴歸線上13-13-4949銘傳應用統計系銘傳應用統計系ExcelExcel計算係數之步驟計算係數之步驟再接下來計算再接下來計算SSx SSy Ssxy計算出計算出 5組總和:組總和:S S S Sx,x,S S S Sy,y,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 教学课件 教学 课件 第十三 简单 线性 回归 分析
限制150内