多元线性回归模型及其假设条件.pdf

《多元线性回归模型及其假设条件.pdf》由会员分享，可在线阅读，更多相关《多元线性回归模型及其假设条件.pdf（8页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、精品文档5.1 多元线性回归模型及其假设条件1多元线性回归模型多元线性回归模型：ybb xb xi011i22i bpxpii，i 1,2,n2多元线性回归模型的方程组形式3多元线性回归模型的矩阵形式4回归模型必须满足如下的假设条件：第一、有正确的期望函数。即在线性回归模型中没有遗漏任何重要的解释变量，也没有包含任何多余的解释变量。第二、被解释变量等于期望函数与随机干扰项之和。第三、随机干扰项独立于期望函数。即回归模型中的所有解释变量相关。第四、解释变量矩阵 X 是非随机矩阵，且其秩为列满秩的，即：rank(X)k,kn。式中k 是解释变量的个数，n 为观测次数。第五、随机干扰项服从正态分布。

2、第六、随机干扰项的期望值为零。Eu 0第七、随机干扰项具有方差齐性。Xj与随机干扰项u不u2i2（常数）ijij第八、随机干扰项相互独立，即无序列相关。5.2 多元回归模型参数的估计建立回归模型的基本任务是：求出参数,残差：u,u covu,u=0b,b,b01p的估计值，并进行统计检验。2eiyyii；残差平方和：Q=ei1n2iiyiy可编辑精品文档11矩阵求解：X=1xxx1112xxx21221n2nyb01xp1b1y2xp2，B，BY b2yn1xpnbynpXXXY12Qn p 1要通过四个检验：经济意义检验、统计检验、计量经济学检验、模型预测检验。5.4 多元线性回归模型的检验

3、一、12R检验22R检验定义12mR检验又称复相关系数检验法。是通过复相关系数检验一组自变量x,x,xy 之间的线性相关程度的方法。复相关系数与复可决系数检验中的“复”是相对于一元函数而言。复相关系数：自变量在两个以上，检验线性关系密切程度的指标，记为用 R 表示。复可决系数：复相关系数的平方R2。与因变量Ry,x1x2xp，通常在实际应用中，判别线性关系密切程度都是用R2检验，所以复可决系数 R2是模型拟合优度指标，R2越接近于 1，模型拟合越好。0R21。R iyyi1yiy222复相关系数检验法的步骤1）计算复相关系数；可编辑精品文档2）根据回归模型的自由度n-m 和给定的显著性水平值，

4、查相关系数临界值表；3）判别。3调整可决系数R211R2n 1 n mR是一个随自变量个数增加而递增的函数，所以，当对两个具有不同自变量个数但性质相同的回归模型进行比较时，不能只用型所包含的自变量个数的影响。2R作为评价回归模型优劣的标准，还必须考虑回归模2R2消除了自变量个数不同的影响，可以用于不同自变量个数间模型的比较。4R检验的目的2检验模型对原始数据的拟合程度，或对原始数据信息的解释程度。二、F 检验1检验目的通过 F 统计量检验假设H:012 m0是否成立的方法。回归方程的显著性检验是检验所有系数是否同时为0，2F 统计量iyyF iyiy222m1n m，m-1 是回归变差iy的自

5、由度，n-my2是剩余变差i的自由度。yiyF 服从自由度为m1,nm的 F 分布。3回归效果不显著的原因1）影响 y 的因素除了一组自变量x,x,x12m之外，还有其他不可忽略的因素。可编辑精品文档2）y 与一组自变量3）y 与一组自变量4解决办法x,x,x12m之间的关系不是线性的。之间无关。x,x,x12m分析原因另选自变量或改变模型的形式。三、t 检验1检验目的回归系数的显著性检验是检验某个系数是否为0。2T 统计量统计假设 H0：bi 0；统计量：tibyiiiSc，SyQ，nmc是矩阵iiXX1的第I 个对角元素。i是一个自由度为 n-m 的 t 分布变量；统计检验判别：系数ttt

6、。否定假设，ib 0。否则，接受假设b 0。ii四、DW 检验1序列相关的概念及对回归模型的影响序列相关是指数列的前后期相关。若时差为一期的序列相关，称为一节自相关。回归模型假设随机误差项之间不存在序列相关或自相关，即covui和uj互不相关，u,u 0,i j。若回归模型不满足这一假设，则称回归模型存在自相关。ij当模型中存在序列自相关时，使用OLS 方法估计参数，将产生下列严重后果：（1）估计标准误差 S 可能严重低估的真实值。（2）样本方差S2可能严重低估Dj的真实值。i（3）估计回归系数可能歪曲ji的真实值。（4）通常的 F 检验和 t 检验将不再有效。可编辑精品文档（5）根据最小二乘

7、估计量所作的预测将无效。2序列相关的原因（1）惯性：变量的发展趋势。（2）偏误：模型设定有误，删去了一些必要变量。（3）蛛网现象：供给对价格的反应要迟一个时期。（4）其他原因：例如，现时消费取决于前期消费。3序列相关的检验方法DW 检验法。适用条件：序列相关是一阶自回归形式。注意：第一、DW 检验不适用于随机项具有高阶序列相关的检验。第二、DW 检验有一段不能判断其正相关或负相关的范围。第三、对于利用滞后被解释变量做为解释变量的模型，该检验失效。（1）一阶自相关的数学表达式，eett1V（2）DW 检验给出了是否存在一阶自相关的结论。（3）一阶自相关系数的估计值：e et2tTt1et2T 1

8、；更常用的是：2d2t4消除序列相关的方法（1）一阶差分法已知自相关的相关系数=1，原回归模型：yxu；uut01tttt1vt。令：yyyttt1；xxxttt1；yxv。t1tt（2）广义差分法原 回 归 模 型：yxut01tt；uutt1vt。令yyyttt1，可编辑精品文档xtxtxt1，y1t01 1xtvt，d。2（3）广义最小二乘法做变换得到广义差分模型。210P=0001001000*00000，1 PP，*PX，*PY，*Pu，uXY10100Y*X*u。广义最小二乘估计量：1XX11X12arY,Vv XX11,2v Y XY XT k，用样本普通最小二乘残差的一阶自相关

9、系数来估计。k是模型中估计参数个数（含常数项），T 是样本容量。五、异方差1异方差及其检验方法（1）异方差性在观察点聚图上的直观表示（对原始数据点而言）（2）异方差性的检验方法：（1）经济分析法。对数据分组，分别计算方差。（2）直观判断法。对残差而言。（3）等级相关检验法。（4）戈里瑟检验。2消除异方差的基本方法（1）模型变换法是已知异方差与自变量关系的形式，对模型进行变换，利用方差的性质可以证明是等方差的。（2）加权最小二乘法可编辑精品文档使用异方差性的权矩阵W 对模型进行变换。B六、多重共线性X W1XX W11Y1多重共线性：是指模型中解释变量间存在着一定的相关关系，没有满足独立性要求。

10、2原因：（1）各经济变量间存在着内在联系。（2）各经济变量在时间上有共同增长的趋势。（3）在建立模型时引入了一些解释变量的滞后值作为新的解释变量。3解决办法：（1）经济分析的办法，找出引起多重共线性的变量，将他排除在外。（2）统计分析的方法，降维技术或者逐步回归的方法。（3）改变变量定义的形式。七、预测区间1估计标准误差S iyiyn m22点预测、预测误差的样本方差（1）点预测xBy00（2）预测误差的样本方差（预测误差：y0和 y0是向量）eyy0002预测误差的样本方差：(3)预测区间SS021XXXX100ty002n mS0，n30，n 30Sy20八、应用实例可编辑精品文档1散点图，线性关系检验。2建立回归模型。3计算回归系数。4模型检验（R、F、t、DW）。5计算预测区间。可编辑