第86节 多元回归分析.ppt
《第86节 多元回归分析.ppt》由会员分享,可在线阅读,更多相关《第86节 多元回归分析.ppt(23页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、第第第第8.68.68.68.6节节节节 多元回归分析多元回归分析多元回归分析多元回归分析一、多元线性回归的数学模型一、多元线性回归的数学模型一、多元线性回归的数学模型一、多元线性回归的数学模型二、多元线性回归参数的最小二乘估计二、多元线性回归参数的最小二乘估计二、多元线性回归参数的最小二乘估计二、多元线性回归参数的最小二乘估计三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验五、存在不显著
2、变量的处理五、存在不显著变量的处理五、存在不显著变量的处理五、存在不显著变量的处理六、预测与控制六、预测与控制六、预测与控制六、预测与控制 在许多实际问题中,对某一变量在许多实际问题中,对某一变量在许多实际问题中,对某一变量在许多实际问题中,对某一变量Y Y 有重要影响的解释有重要影响的解释有重要影响的解释有重要影响的解释变量不止一个,此时就需要研究一个随机变量变量不止一个,此时就需要研究一个随机变量变量不止一个,此时就需要研究一个随机变量变量不止一个,此时就需要研究一个随机变量Y Y 与多个普与多个普与多个普与多个普通变量通变量通变量通变量 X X1 1,X X2 2,X XP P 之间的回
3、归关系,这就是多之间的回归关系,这就是多之间的回归关系,这就是多之间的回归关系,这就是多元回归问题元回归问题元回归问题元回归问题.本节仅讨论多元线性回归,多元非线性回归通常也可本节仅讨论多元线性回归,多元非线性回归通常也可本节仅讨论多元线性回归,多元非线性回归通常也可本节仅讨论多元线性回归,多元非线性回归通常也可化为多元线性回归来求解和分析。化为多元线性回归来求解和分析。化为多元线性回归来求解和分析。化为多元线性回归来求解和分析。多元线性回归分析的原理与一元线性回归是类似的多元线性回归分析的原理与一元线性回归是类似的多元线性回归分析的原理与一元线性回归是类似的多元线性回归分析的原理与一元线性回
4、归是类似的.一、多元线性回归的数学模型一、多元线性回归的数学模型一、多元线性回归的数学模型一、多元线性回归的数学模型设被解释变量设被解释变量设被解释变量设被解释变量 Y Y 与与与与 k k 个解释变量个解释变量个解释变量个解释变量 X X1 1,X X2 2,X Xk k 之间之间之间之间存在线性相关关系。存在线性相关关系。存在线性相关关系。存在线性相关关系。则则则则 Y Y 与与与与 X X1 1,X X2 2,X Xk k之间的多元之间的多元之间的多元之间的多元线性回归模型为:线性回归模型为:线性回归模型为:线性回归模型为:Y Y=a a +b b1 1 X X1 1+b b2 2 X
5、X2 2+b bk kX Xk k +(1)(1)设第设第设第设第 i i 次试验数据为次试验数据为次试验数据为次试验数据为 (x xi i1 1,x xi i2 2,x xikik,y yi i ),则多元则多元则多元则多元线性线性线性线性回归有如下数据结构:回归有如下数据结构:回归有如下数据结构:回归有如下数据结构:y yi i =a a +b b1 1 x xi i1 1+b b2 2 x xi i2 2+b bk k x xikik +i i (2)(2)i i N N(0,(0,2 2),且相互独立且相互独立且相互独立且相互独立,i i=1,2,=1,2,n n 因此多元经验线性回归
6、方程为因此多元经验线性回归方程为因此多元经验线性回归方程为因此多元经验线性回归方程为的最小值,的最小值,的最小值,的最小值,得参数得参数得参数得参数 a a,b b1 1,b bk k 的最小二乘估计的最小二乘估计的最小二乘估计的最小二乘估计同样称同样称同样称同样称为多元回归方程的回归系数为多元回归方程的回归系数为多元回归方程的回归系数为多元回归方程的回归系数.二、多元线性回归参数的最小二乘估计二、多元线性回归参数的最小二乘估计二、多元线性回归参数的最小二乘估计二、多元线性回归参数的最小二乘估计根据最小二乘原理,利用多元函数求极值的方法,求根据最小二乘原理,利用多元函数求极值的方法,求根据最小
7、二乘原理,利用多元函数求极值的方法,求根据最小二乘原理,利用多元函数求极值的方法,求三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验如果变量如果变量如果变量如果变量 Y Y 与与与与 X X1 1,X X2 2,X Xk k 之间并无线性关系,之间并无线性关系,之间并无线性关系,之间并无线性关系,则则则则模型模型模型模型(1)(1)(1)(1)式中各一次项系数应全为零式中各一次项系数应全为零式中各一次项系数应全为零式中各一次项系数应全为零.因此要检验的原假因此要检验的原假因此要检验的原假因此要检验的原假设为设为设为
8、设为 HH0 0:b b1 1=b b2 2=b bk k =0=0为构造检验为构造检验为构造检验为构造检验 HH0 0 的统计量,的统计量,的统计量,的统计量,同样需要对总的偏差平同样需要对总的偏差平同样需要对总的偏差平同样需要对总的偏差平方和方和方和方和 S ST T 作如下分解:作如下分解:作如下分解:作如下分解:同样称同样称同样称同样称 S SR R 为回归平方和,为回归平方和,为回归平方和,为回归平方和,S SE E 为剩余平方和为剩余平方和为剩余平方和为剩余平方和.=S SE E +S SR R进一步可以证明,当进一步可以证明,当进一步可以证明,当进一步可以证明,当 HH0 0 为
9、真时为真时为真时为真时,检验统计量检验统计量检验统计量检验统计量检验过程同样可以列成一张方差分析表,多元回归检验过程同样可以列成一张方差分析表,多元回归检验过程同样可以列成一张方差分析表,多元回归检验过程同样可以列成一张方差分析表,多元回归方差分析表的格式与一元回归完全相同方差分析表的格式与一元回归完全相同方差分析表的格式与一元回归完全相同方差分析表的格式与一元回归完全相同.三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验三、多元线性回归方程的显著性检验在多元回归中在多元回归中在多元回归中在多元回归中,回归方程显著的结论仅表明模型中各回归方程显著
10、的结论仅表明模型中各回归方程显著的结论仅表明模型中各回归方程显著的结论仅表明模型中各 b bj j 不全为零,不全为零,不全为零,不全为零,但并不说明它们全不为零但并不说明它们全不为零但并不说明它们全不为零但并不说明它们全不为零.也即并不能保证也即并不能保证也即并不能保证也即并不能保证每个解释变量都对每个解释变量都对每个解释变量都对每个解释变量都对 Y Y 有重要影响有重要影响有重要影响有重要影响.如果模型中含有对如果模型中含有对如果模型中含有对如果模型中含有对 Y Y 无显著影响的变量,无显著影响的变量,无显著影响的变量,无显著影响的变量,就会降低回归就会降低回归就会降低回归就会降低回归方程
11、的预测精度和稳定性方程的预测精度和稳定性方程的预测精度和稳定性方程的预测精度和稳定性.因此,需要从回归方程中剔除对因此,需要从回归方程中剔除对因此,需要从回归方程中剔除对因此,需要从回归方程中剔除对Y Y 无显著影响的变量,重新建立更为简单的回归方程无显著影响的变量,重新建立更为简单的回归方程无显著影响的变量,重新建立更为简单的回归方程无显著影响的变量,重新建立更为简单的回归方程.如果某个变量如果某个变量如果某个变量如果某个变量 X Xi i 对对对对 Y Y 的作用不显著,的作用不显著,的作用不显著,的作用不显著,则模型中则模型中则模型中则模型中b bi i 就可以就可以就可以就可以为为为为
12、0 0,故要检验的原假设为,故要检验的原假设为,故要检验的原假设为,故要检验的原假设为 HH0 0i i:b bi i=0=0,i i=1,2,=1,2,k k 四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验 就拒绝就拒绝就拒绝就拒绝 HH0 0i i,说明解释变量说明解释变量说明解释变量说明解释变量X Xi i对被解释变量的线性作用对被解释变量的线性作用对被解释变量的线性作用对被解释变量的线性作用效果显著。反之,则说明解释变量效果显著。反之,则说明解释变量效果显著。反之,则说明解释变量效果显著。反之,则说明解释
13、变量X Xi i 对被解释变量的线性对被解释变量的线性对被解释变量的线性对被解释变量的线性作用效果不显著。作用效果不显著。作用效果不显著。作用效果不显著。四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验四、多元线性回归系数的显著性检验 记记记记 t ti i 为检验为检验为检验为检验 HH0 0i i 的统计量,则当的统计量,则当的统计量,则当的统计量,则当 HH0 0i i为真时,统计量为真时,统计量为真时,统计量为真时,统计量t ti i t t(n n-k k-1)-1),i i=1,2,=1,2,k k因此,在给定水平因此,在给定水平因此
14、,在给定水平因此,在给定水平 下,若下,若下,若下,若t ti i t t (n n-k k-1)-1)五、存在不显著变量的处理五、存在不显著变量的处理五、存在不显著变量的处理五、存在不显著变量的处理若经检验若经检验若经检验若经检验,X Xi i 的作用不显著,的作用不显著,的作用不显著,的作用不显著,则应从模型中剔除则应从模型中剔除则应从模型中剔除则应从模型中剔除 X Xk k ,并重新求解并重新求解并重新求解并重新求解 Y Y 对余下的对余下的对余下的对余下的 k k-1-1 个变量的回归方程个变量的回归方程个变量的回归方程个变量的回归方程.若检验中同时存在多个不显著的变量,若检验中同时存
15、在多个不显著的变量,若检验中同时存在多个不显著的变量,若检验中同时存在多个不显著的变量,则每次只能剔除则每次只能剔除则每次只能剔除则每次只能剔除一个显著性水平最低的变量,一个显著性水平最低的变量,一个显著性水平最低的变量,一个显著性水平最低的变量,重新求解新的回归方程重新求解新的回归方程重新求解新的回归方程重新求解新的回归方程.再对再对再对再对新的回归系数进行检验,新的回归系数进行检验,新的回归系数进行检验,新的回归系数进行检验,直至所有变量都显著为止直至所有变量都显著为止直至所有变量都显著为止直至所有变量都显著为止.当模型中解释变量很多时,当模型中解释变量很多时,当模型中解释变量很多时,当模
16、型中解释变量很多时,通常会存在较多的不显著通常会存在较多的不显著通常会存在较多的不显著通常会存在较多的不显著变量,变量,变量,变量,以上步骤就非常繁琐以上步骤就非常繁琐以上步骤就非常繁琐以上步骤就非常繁琐.更为有效的方法是对回归变量更为有效的方法是对回归变量更为有效的方法是对回归变量更为有效的方法是对回归变量用用用用“逐步回归逐步回归逐步回归逐步回归”来求解多元线性回归方程。来求解多元线性回归方程。来求解多元线性回归方程。来求解多元线性回归方程。六、预测与控制六、预测与控制六、预测与控制六、预测与控制 在给定解释变量的一组取值在给定解释变量的一组取值在给定解释变量的一组取值在给定解释变量的一组
17、取值 (x x0101,x x0202,x x0 0k k),由由由由回归方程可得回归值回归方程可得回归值回归方程可得回归值回归方程可得回归值 它是它是它是它是 Y Y0 0=a a +b b1 1 X X01 01+b b2 2 X X02 02+b bk k X X0 0k k+0 0 的一个点估计的一个点估计的一个点估计的一个点估计.1.1.1.1.预测预测预测预测 建立了多元回归方程并进行了检验后,就可以利用方程建立了多元回归方程并进行了检验后,就可以利用方程建立了多元回归方程并进行了检验后,就可以利用方程建立了多元回归方程并进行了检验后,就可以利用方程进行预测或控制进行预测或控制进行
18、预测或控制进行预测或控制.且对于且对于且对于且对于Y Y0 0 的置信度为的置信度为的置信度为的置信度为 1 1-的预测区间为的预测区间为的预测区间为的预测区间为其中其中其中其中 六、预测与控制六、预测与控制六、预测与控制六、预测与控制 2.2.2.2.控制控制控制控制 在多元回归情况下,在多元回归情况下,在多元回归情况下,在多元回归情况下,由于解释变量有多个,由于解释变量有多个,由于解释变量有多个,由于解释变量有多个,若控制若控制若控制若控制问题的提法是:问题的提法是:问题的提法是:问题的提法是:当要求以当要求以当要求以当要求以1-1-的概率将的概率将的概率将的概率将 Y Y 控制在某一控制
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 第86节 多元回归分析 86 多元 回归 分析
限制150内