计量经济学 多元线性回归.ppt

《计量经济学 多元线性回归.ppt》由会员分享，可在线阅读，更多相关《计量经济学 多元线性回归.ppt（56页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1多元回归分析Multiple Regression Analysis y=b0+b1x1+b2x2+.bkxk+u 4.进一步的问题2本章大纲n数据的测度单位换算对OLS统计量的影响n对函数形式的进一步讨论n拟合优度和回归元选择的进一步探讨n预测和残差分析3课堂提纲n重新定义变量的影响n估计系数nR 平方nt 统计量n函数形式n对数函数形式n含二次式的模型n含交叉项的模型4重新定义变量n为什么我们想这样做？n数据测度单位变换经常被用于减少被估参数小数点后的零的个数，这样结果更好看一些。n既然这样做主要为了好看，我们希望本质的东西不改变。5重新定义变量：一个例子n以下模型反映了婴儿出生体重与孕

2、妇吸烟量和家庭收入之间的关系：(1)n考虑如下单位变换：(2)出生体重单位由盎司变为磅(3)香烟的支数变为包数n估计结果列于下表6Table 6.1Y(column)(1)bwght(2)bwghtlbs(3)bwghtX(rows)Cigs-0.4634(0.0916)-0.0289(0.0057)-Packs-9.268(1.832)Faminc0.0927(0.0292)0.0058(0.0018)0.0927(0.0292)Intercept116.794(1.049)7.3109(0.0656)116.974(1.049)Observations138813881388R-squar

3、ed0.02980.02980.0298SSR557,485.512177.5778557.485.51SER20.0631.253920.0637改变被解释变量测度单位的影响n因为1磅16盎司，被解释变量被除以16。n比较第1列与第2列。n(1)中被估参数/16(2)中被估参数n(1)中被估参数的标准差/16(2)中被估参数的标准差n(1)和(2)中 t 统计量相同nR平方相同n(1)中SSR/（16*16）(2)中SSRn(1)中SER(标准差)/16(2)中SER8改变解释变量测度单位的影响n现在香烟数量单位变为包。n现在比较 第(1)列和第(3)列。n变量faminc系数和截距项的估计

4、值和其标准差分析同上。npacks的系数估计值和标准差变为20倍。nt 统计量相同nR平方相同nSSR相同nSER相同9重新定义变量n改变变量y的测度单位会导致系数和标准差相应的改变，所以解释变量系数显著性和对其解释没有改变。n改变一个变量x的测度单位会导致该变量系数和标准差的相应改变，所以所有解释变量显著性和对其解释没有改变。n如果被解释变量以对数形式出现，改变被解释变量度量单位对任何斜率系数没有影响。n来自log(cy)=log(c)+log(y)，改变y测度单位将改变截距，不改变斜率系数。10Beta系数n考虑如下形式的样本回归方程：=200+20,000 x1+0.2x2n我们能说x1

5、是最重要的变量吗？n现在，查看以下各个变量的单位：ny单位：美元nx1单位：美分nx2单位：千美元11Beta系数n上例揭示了什么问题？n被估计系数的大小是不可比较的。n一个相关的问题是，当变量大小差别过大时，在回归中因运算近似而导致的误差会比较大。12Beta系数n有时，我们会看见“标准化系数”或“Beta系数”，这些名称有着特殊的意义n使用Beta系数是因为有时我们把y和各个x替换为标准化版本也就是，减去均值后除以标准离差。n系数反映对于一单位x的标准离差的y的标准离差。13Beta系数14Beta系数15例子 16函数形式nOLS也可以用在x和y不是严格线性的情况，通过使用非线性方程，使

6、得关于参数仍为线性。n可以取x，y（一个或全部）的自然对数n可以用x的平方形式n可以用x的交叉项17对数模型的解释n如果模型是 ln(y)=b0+b1ln(x)+unb1是y对于x的弹性n如果模型是ln(y)=b0+b1x+unb1近似是，给定一单位x的改变，y的百分比变化，常被称为半弹性。18为什么使用对数模型？n取对数后变量的斜率系数，不随变量测度单位改变。n如果回归元和回归子都取对数形式，斜率系数给出对弹性的一个直接估计。n对于y0的模型，条件分布经常偏斜或存在异方差，而ln(y)就小多了，所以nln(y)的分布窄多了，限制了异常（或极端）观测值(outliers)的影响。19一些经验法

7、则n什么类型的变量经常用对数形式？n肯定为正的钱数：工资，薪水，企业销售额和企业市值。n非常大的变量：如人口，雇员总数和学校注册人数等。n什么类型的变量经常用水平值形式？n用年测量的变量：如教育年限，工作经历，任期年限和年龄n可以以水平值或对数形式出现的变量：n比例或百分比变量：失业率，养老保险金参与率等。20对数形式的限制n一个变量取零或负值，则不能使用对数。n如果y非负但可以取零，则有时使用log(1+y)。n当数据并非多数为零时，使用log(1+y)估计，并且假定变量为log(y)，解释所得的估计值，是可以接受的。21慎重使用对数形式n注意到，当y取对数形式时，更难以预测原变量的值，因为

8、原模型允许我们预测log(y)而不是y。22含二次式的模型n对于形式为y=b0+b1x+b2x2+u的模型，我们不能单独将b1解释为关于x，y变化的度量，我们需要将b2也考虑进来，因为23n如果感兴趣的是，给定x的初始值和变动，预测y的变化，那么可以直接使用（1）。n一般来说，我们可以使用x的平均值，中值，或上下四分位数来预测y，取决于我们感兴趣的问题。含二次式的模型24含二次式的模型253.737.3724.4experwage26对含二次式模型的进一步讨论n假如x的系数为正，x2的系数为负。n那么，y首先随x上升而上升，但最终转向随x上升而下降。27对含二次式模型的进一步讨论n假如x的系数

9、为负，x2的系数为正。n那么，y首先随x上升而下降，但最终转向随x上升而上升。28交叉项n对于形式为y=b0+b1x1+b2x2+b3x1x2+u的模型，我们不能单独将b1解释为关于x1，y变化的度量，我们需要将b3也考虑进来，因为拟合优度n每一个观察值可被视为由解释部分和未解释部分构成：n定义：nSST=SSE+SSR2930拟合优度（续）我们怎样衡量我们的样本回归线拟合样本数据有多好呢？可以计算总平方和（SST）中被模型解释的部分，称此为回归R2w R2=SSE/SST=1 SSR/SST31更多关于R2n当回归中加入另外的解释变量时，R2通常会上升。n如果OLS使此解释变量取任何非零系数

10、，那么加入此变量之后，SSR降低了。n实际操作中，被估计系数精确取零是极其罕见的，所以，当加入一个新解释变量后，一般来说，SSR会降低。32调整过的R2(The Adjusted R-squared)n因此，R2增加并不意味着加入新的变量一定会提高模型拟合度。n调整过的R2是R2一个修正版本，当加入新的解释变量，调整过的R2不一定增加。33调整过的R2n调整过的R2是1减去OLS残差的样本方差（修正过自由度之后）与y的样本方差之比。n调整过的R2的三个有用性质：n因为(n-1)/(n-k-1)1，所以调整过的R2总比R2小。n加入一个解释变量有两个相反的效果。（1）SSR降低导致调整过的R2增

11、加。（2）(n-1)/(n-k-1)增加导致调整过的R2降低。n调整过的R2可能是负的，发生在以下情况：所有解释变量使残差平方和下降的太少，不足以抵消因子(n-1)/(n-k-1)。n R2只有在过原点回归中才可能为负。34比较R2和Adjusted R2nR2和调整过的R2告诉我们，解释变量是否很好地预测了，或“解释”了，手头数据中被解释变量的值。nR2和调整过的R2并没有告诉我们n被包含变量是否统计显著n解释变量是否是被解释变量变动的真正原因n是否有遗漏变量偏误，或n是否选取了最合适的解释变量组合35R2和Adjusted R2 n在决定某个变量是否应该被加入模型时，R2和Adjusted

12、 R2并非理想的工具。n决定一个解释变量是否属于模型的因素应该是，该解释变量在总体中对y的局部效应是否为零。36拟合优度和解释变量选择的进一步探讨拟合优度和解释变量选择的进一步探讨nAdjusted R-Squared37n我们定义总体R2为：y的变异在总体中能被解释变量解释的比例，为n调整过的R2仍不是总体R2的一个无偏估计量，因为两个无偏估计量的比例不是一个无偏估计量。拟合优度和解释变量选择的进一步探讨拟合优度和解释变量选择的进一步探讨38n调整过的R2最根本的吸引力，在于它对向模型增加自变量的惩罚。n如果我们向回归模型加入一个新的解释变量，当且仅当新变量的t统计量的绝对值大于1时，调整过

13、的R2增加。拟合优度和解释变量选择的进一步探讨拟合优度和解释变量选择的进一步探讨39利用调整的R2在两个非嵌套模型中进行选择n如果两个模型中任何一个都不是另一个的特例，则两个模型是非嵌套的。nF统计量只允许我们检验嵌套的模型，因为有限制的模型是无限制模型的特例。n我们需要一些在无嵌套模型间进行选择的指导。40n当变量有不同函数形式时，通过比较调整过的R2，在不同的解释变量的非嵌套组合中进行选择，是颇有价值的。n例如，一个模型是y=b0+b1x1+b2log(x2)，另一个是y=b0+b1x1+b2 x2+b3 x22。如果第一个模型调整过的R平方为0.3，而第二个为0.6，我们倾向于选择第二个

14、模型利用调整的R2在两个非嵌套模型中进行选择41n 调整过的R2的限制：我们不能利用它在关于因变量函数形式不同的模型间进行选择利用调整的R2在两个非嵌套模型中进行选择42预测分析：估计量43预测分析：标准差44预测分析：置信区间45预测分析：一个特殊y的置信区间47预测分析：y0的预测区间48n有时，检验个体观测值来看它的因变量高于还是低于预测值是有用的。n也就是，检验个体观测值的残差。残差分析49残差分析n例：将房价对一些可观测特点回归，得预测值，算出残差。残差为负则说明根据可观测因素房价偏低。负的程度最大值的大小说明我们还没有控制因素的重要程度。可为改值建立预测区间。50 y=b0+b1x

15、1+b2x2+.bkxk+u 5.Dummy Variables51虚拟变量n 虚拟变量是一个取值为1或0的变量。n例:male(=1 if are male,0 otherwise),south(=1 if in the south,0 otherwise),etc.n虚变量也称二值变量。52虚拟变量n考虑只有一个解释变量(x)和一个虚拟变量(d)的简单模型。n y=b0+d0d+b1x+un 该模型可以看做是一个截距的变化。This can be interpreted as an intercept shiftn若d=0,则 y=b0+b1x+un 若 d=1,则y=(b0+d0)+b1

16、x+und=0组为基组。53Example of d0 0 xyd0b0y=(b0+d0)+b1xy=b0+b1xslope=b1d=0d=1例1 日本1985-1995年水稻产量与耕种面积的变化 年份产量（10万吨）Y耕种面积（万公顷）X19851162321986116228198710621219889920919891032081990105206199196203199210520919937821319941202201995107211资料来源：农林水产省作物统计。（1）193203213223233243020406080100120140散点散点图图（2）决定系数较低，拟合优度不太好。（3）日本1993年受冻害影响，水稻收成为战后最低水平，设1993年为D=1，其他年份为D=0，再次估算。拟合优度提高，而且回归系数除常数项外均在1%水平显著。引入临时虚拟变量，消除了异常值的影响。