2022年多元回归分析总结分析 .pdf

《2022年多元回归分析总结分析 .pdf》由会员分享，可在线阅读，更多相关《2022年多元回归分析总结分析 .pdf（8页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、.精选文档第十二章多元回归分析在许多实际问题中，影响因变量的因素有一个时，我们用一元回归分析解决问题，但是影响因变量的因素往往有多个，此时问题就上升到了一个因变量同多个自变量的多元回归问题。当因变量与自变量之间为线性关系时，我们称之为多元线性回归。多元性性回归分析的原理同一元线性回归基本相同，但计算上要复杂得多。本章知识结构如下：1、建立回归模型xxxkky22110回归方程xxxkky221102、利用最小二乘法对参数进行估计参数包括k210，3、写出回归方程xxxkky221104、方程拟合优度的检验5、线性关系检验6、回归系数的检验检验单个自变量对因变量的影响是否显著，检验步骤同线性关系

2、的检验，检验过程中可能会因为“多重共线性”问题导致某些自变量无法通过检验。7、利用回归方程进行预测利用给定的 k 个自变量，求出因变量 y 的平均值的预测区间和个别值的预测区间。8、变量选择我称之为“模型的简化”主要方法原理：对统计量进行显著性检验，将一个或一个以上的自变量引入模型，如果增加一个自变量会使得残差平方和（SSE）明显减少，则将该自变量留在模型中，否则剔除。9、多重共线性问题1、产生原因：自变量之间的相关性2、检验方法方法一：多重判定系数R2方法二：估计标准误差Se1)提出假设2)计算统计量)1,()1(knkFknSSEKSSRF3)作出决策,PFFa)向前选择b)向后剔除c)逐

3、步回归a)计算各对自变量之间的相关系数，并对各相关系数进行显著性检验；b)当模型的线性关系进行F 检验显著时，几乎所有回归系数i的 t 检验却不显著；c)回归系数与预期的的相反；多元回归分析.精选文档主要知识点：建立的回归模型中回归系数和误差项分别代表的含义：回归系数)2,1,0(kii表示当其他1k个自变量不变时，第 i 个自变量一个单位因变量 y 的平均变动量；误差项表示不能由各个自变量与y 之间的线性关系所解释的变异性。利用软件用最小二乘法对参数进行估计的方法及步骤：在 Excel中使用“工具”“数据分析”“回归”输入数据区域“确定”，即可得到各参数的估计值，此时便可以写出回归方程。拟合

4、优度的检验方法：方法一：多重判定系数10122RRSSTSSESSTSSRR2表示在因变量 y 的总变差中被估计的回归方程所解释的比例；故R2越大越好。方法二：估计标准误差1()?2eknyySiiSe表示根据所建立的回归方程，用自变量来预测因变量时，平均预测误差的大小；故Se越小越好，越小说明波动性越小。用软件进行线性关系检验的方法：在 Excel 中，在“工具”“数据分析”“回归”方差分析一栏中有“SignificanceF”值（即 P值），当 p时，拒绝原假设；当p时，接受原假设。.精选文档回归系数的检验：检验单个自变量对因变量的影响是否显著，检验步骤同线性关系的检验，检验过程中可能会因

5、为“多重共线性”问题导致某些自变量无法通过检验。检验步骤：第 1 步：提出假设。对于任意参数)2,1(kii有0:0iH0:1iH第 2 步：计算检验的统计量t。)1(?kntStiii第 3 步：做出统计决策。给定显著性水平，根据自由度=n-k-1 查 t 分布表，得t2的值。若tt2，则拒绝原假设；若tt2，则不拒绝原假设。多重共线性：产生原因：自变量之间的相关性；检验方法：方法一：检验模型中各对自变量之间是否显著相关，若显著相关则暗示存在多重共线性；方法二：当模型的线性关系检验（F 检验）显著时，几乎所有回归系数i的 t 检验却不显著；方法三：当回归系数的正负号与预期的相反时也预示着多重

6、共线性的存在；问题的处理：.精选文档方法一：将一个或多个相关的自变量从模型中剔除，使保留的自变量尽可能不相关；方法二：如果要在模型中保留所有的自变量，那就应该：避免根据 t 统计量对单个参数进行检验。对因变量 y 值得推断（估计或预测）限定在自变量样本值的范围内。利用回归方程进行预测：利用给定的 k 个自变量，求出因变量 y 的平均值的预测区间和个别值的预测区间。变量选择：原理：对统计量进行显著性检验，将一个或一个以上的自变量引入模型，如果增加一个自变量会使得残差平方和（SSE）明显减少，则将该自变量留在模型中，否则剔除。主要方法：1）向前选择 2）向后剔除 3）逐步回归本章例题对于绝大多数的

7、钢种而言，磷是有害的元素之一，要求含磷越低越好，经过试验技术人员发现，高磷钢的效率与高磷钢的出钢量及高磷钢中的FeO 含量有一定关系,所测数据如下表：试验序号出钢量(x1)含量(x2)效率(y).精选文档187.913.282.02101.413.584.03109.820.080.0493.014.288.6588.016.481.56115.314.283.5756.914.973.08103.413.088.09101.014.991.41080.312.981.01196.514.678.012110.615.386.513102.918.283.4设高磷钢的效率为y、高磷钢的出钢量为

8、x1、高磷钢中的 FeO 含量为x2用 Excel进行回归，回答下面的问题：（1）写出估计的回归方程。（2）在高磷钢的效率的总变差中，被估计的回归方程所解释的比例是多少？（3）检验回归方程的线性关系是否显著（05.0）。（4）检验各回归系数是否显著（05.0）。（5）检验所建立的回归方程是否存在多重共线性。解：用 Excel进行回归分析输出如下所示：.精选文档回归统计Multiple R0.688844R Square0.474506Adjusted R Square0.369407标准误差3.846481观测值13方差分析dfSSMSFSignificance F回归分析2133.59816

9、6.799074.5148490.040072残差10147.954214.79542总计12281.5523Coefficients标准误差P-valueLower 95%Upper 95%下限95.0%上限95.0%Intercept75.143789.4877361.29E-0554.0037996.2837754.0037996.28377出钢量0.2154850.0745780.0161240.0493140.3816550.0493140.381655FeO 含量-0.843210.5484180.155181-2.065160.378745-2.065160.378745（1）由

10、此可得到高磷钢的效率与高磷钢的出钢量及高磷钢中的FeO 含量的回归方程：xxy2184321.0215485.014378.75其中回归系数215485.01表示，在 FeO含量不变时，高磷钢的效率每增加一个单位，高磷钢的出钢量将增加0.215485个单位。84321.02表示，在高磷钢的出钢量不变时，高磷钢的效.精选文档率每增加一个单位，FeO 含量要降低 0.84321个单位。（2）在回归统计一栏中有R2=0.474506，所以在高磷钢的效率的总变差中，被估计的回归方程所解释的比例是47.75%。（3）在方差分析一栏中有Significance F（即 P值）=0.040072，在05.0

11、的显著性水平下，有 P,故拒绝原假设，说明高磷钢的效率与高磷钢的出钢量和高磷钢中的 FeO含量之间存在显著性的线性关系。（4）由回归分析输出的结果中的P-value（即 P 值）一栏可以看出，只有出钢量对应的回归系数通过了检验。说明在影响高磷钢的效率的两个变量中，只有出钢量的影响是显著的，而高磷钢中的 FeO含量则对高磷钢的效率没有显著性影响。（5）各相关系数检验的统计量如下表所示：查表得2010.2)213(2t，由于统计量小于2010.2)213(2t，所以接受原假设，说明两个自变量之间没有显著的相关关系。故不存在多重共线性。出钢量FeO 含量出钢量1FeO 含量0.2560031出钢量FeO 含量出钢量1FeO 含量0,8783361出钢量、FeO 含量之间的相关矩阵各相关系数检验的统计量.精选文档