chapter9-模型设定.ppt

《chapter9-模型设定.ppt》由会员分享，可在线阅读，更多相关《chapter9-模型设定.ppt（47页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、9.1函数形式的误设函数形式的误设o回忆经典线性模型中一个隐含的回忆经典线性模型中一个隐含的假设：回归模型是正确设定的 o如果模型未被正确设定，那么我们就遇到“模型设定误差”或“模型设定偏误”.1.我们如何发现模型是“正确的”?2.我们经常会遇到哪些类型的“模型设定误差”?3.设定误差的后果有哪些?4.如何检验设定误差?5.采取那些补救措施？6.如何评价几个表现不相上下的模型的优劣？9.1.1模型选择准则模型选择准则p 数据容纳性数据容纳性：从模型所作出的预测符合：从模型所作出的预测符合逻辑逻辑p 与理论一致与理论一致p 回归元的弱外生性回归元的弱外生性：解释变量与误差不：解释变量与误差不相关

2、相关p 参数不变性参数不变性：参数值稳定，否则预测会：参数值稳定，否则预测会困难困难p 表现出数据的协调性表现出数据的协调性：残差必须完全随：残差必须完全随机机p 模型具有包容性模型具有包容性：其他模型都不可能再：其他模型都不可能再改进我们的模型。改进我们的模型。9.1.2模型设定误差的类型及危害模型设定误差的类型及危害o遗漏有关变量遗漏有关变量很可能产生偏误很可能产生偏误o包含一个无关变量包含一个无关变量估计量方差变大估计量方差变大o采用了错误的函数形式采用了错误的函数形式o测量误差测量误差o对随机误差项不正确的设定对随机误差项不正确的设定 随机误差项是以乘积形式进入模型，还随机误差项是以乘

3、积形式进入模型，还是以相加形式进入模型。是以相加形式进入模型。9.1.3模型设定误差的检验模型设定误差的检验9.1.3.1检验是否含有无关变量检验是否含有无关变量o通过通过t-检验去检验一个变量参数的显著性。检验去检验一个变量参数的显著性。o通过通过F-检验去检验一组变量参数的显著性。检验去检验一组变量参数的显著性。注意，并不能完全依赖统计检验，注意，并不能完全依赖统计检验，还要注意经济或实际上的显著性。还要注意经济或实际上的显著性。9.1.3.2检验遗漏变量和函数形式误设检验遗漏变量和函数形式误设o残差分析：可用于检验遗漏变量和函数形式误设残差分析：可用于检验遗漏变量和函数形式误设逐渐趋于真

4、实模型逐渐趋于真实模型o回归设定误差检验（回归设定误差检验（RESET）o思路：思路： 如果下面的模型满足如果下面的模型满足MLR.4 那么如果在模型中添加自变量的非线性关系应那么如果在模型中添加自变量的非线性关系应该是不显著的。该是不显著的。uxxykk110RESET检验的过程：检验的过程：o考虑扩大方程考虑扩大方程y = 0 + 1x1 + + kxk + d d12 + d d13 +up检验检验H0: d d1 = 0, d d2 = 0 注意：注意：FF2,n-k-3 or LM22自由度：自由度：n-k-1-2Example：住房价格方程：住房价格方程o比较两个模型的比较两个模型

5、的RESET统计量：统计量：Price= 0+ 1lotsize+ 2sqrft+ 3bdrms+uF=4.67，p=0.012lPrice= 0+ 1llotsize+ 2lsqrft+ 3bdrms+uF=2.56，p=0.084被拒绝被拒绝不能被拒绝不能被拒绝9.1小结：小结：oRESET检验的检验的优势是不需要设立对立模型优势是不需要设立对立模型oRESET检验的重要缺陷是如果方程被拒绝，检验的重要缺陷是如果方程被拒绝，它不能告诉我们它不能告诉我们应该如何修正我们的错误模应该如何修正我们的错误模型。型。9.1.4对非嵌套模型的检验对非嵌套模型的检验o如果我们要在下列两个非嵌套模型中选择

6、：如果我们要在下列两个非嵌套模型中选择：o我们可以使用两类方法我们可以使用两类方法判别方法判别方法检验方法检验方法)2()log()log() 1 (2211022110uxxyuxxy判别方法判别方法o两个模型优劣判断必须基于相同的因变量两个模型优劣判断必须基于相同的因变量o然后基于然后基于R2或调整的或调整的R2来判断来判断o还有其他准则可以用以判断：赤池信息准则还有其他准则可以用以判断：赤池信息准则（AIC）、施瓦兹信息准则（）、施瓦兹信息准则（SIC）和马娄斯的）和马娄斯的Cp准则准则) 2()log()log() 1 (2211022110uxxyuxxy赤池信息准则（赤池信息准则（

7、AIC）o对模型中增加回归元施加了更严厉的惩罚对模型中增加回归元施加了更严厉的惩罚o在比较两个模型时，具有最低在比较两个模型时，具有最低AIC的模型优先的模型优先oAIC的优越性在于，不仅适用于样本内预测，的优越性在于，不仅适用于样本内预测，还适用于预测样本外模型的表现。还适用于预测样本外模型的表现。o嵌套模型、非嵌套模型都适用。嵌套模型、非嵌套模型都适用。nSSReAICnk/2施瓦兹信息准则（施瓦兹信息准则（SIC）o对模型中增加回归元施加了比对模型中增加回归元施加了比AIC更严厉的惩更严厉的惩罚罚oSIC的值越低越好的值越低越好oSIC也可以用于比较模型在样本内与样本外的也可以用于比较模

8、型在样本内与样本外的预测表现。预测表现。nSSRnSICnk /马娄斯的马娄斯的Cp准则（软件不能给出）准则（软件不能给出）pCEpnSSRCpp)()2(2o若模型有若模型有p个回归元，则个回归元，则o若模型是正确设定的，则若模型是正确设定的，则o注：上述几个准则，不存在谁更优于谁注：上述几个准则，不存在谁更优于谁检验方法检验方法o方法一方法一：（：（Mizon and Richard，1986）o分别检验：分别检验：uxxxxy)log()log(241322110综合模型综合模型0, 0:0, 0:430210HH检验（检验（2）检验（检验（1）) 2()log()log() 1 (22

9、11022110uxxyuxxy这种检验程序存在的问题这种检验程序存在的问题o（1）（）（2）两模型中的回归元如果存在高）两模型中的回归元如果存在高度相关，则综合模型就存在高度多重共线性。度相关，则综合模型就存在高度多重共线性。这可能使正确模型中的参数检验不显著。这可能使正确模型中的参数检验不显著。（2）的拟合值）的拟合值o方法二：戴维森方法二：戴维森-麦金农麦金农 J检验检验思想：如果（思想：如果（1）正确，那么（）正确，那么（2）中的拟合值）中的拟合值y在在（1）中作为解释变量时应该是不显著的。）中作为解释变量时应该是不显著的。对模型对模型检验：检验：对模型对模型检验：检验：)2()log

10、()log() 1 (2211022110uxxyuxxyuyxxy1221100:10H不能拒绝则说明不能拒绝则说明1兼容兼容20:10Huyxxy)log()log(122110（1）的拟合值）的拟合值不能拒绝则说明不能拒绝则说明2兼容兼容1评价评价J检验：检验：o可能两个模型都被拒绝，或都没有被拒绝。可能两个模型都被拒绝，或都没有被拒绝。那么我们就得不到明确的答案。那么我们就得不到明确的答案。o检验中拟合值的检验中拟合值的t统计量是渐近的服从统计量是渐近的服从t分布分布的，因此，在小样本中，的，因此，在小样本中，J检验会过多的拒检验会过多的拒绝真模型。绝真模型。9.2对无法观测的解释变量

11、使用代理变量对无法观测的解释变量使用代理变量9.2.1代理变量和植入解代理变量和植入解o考虑工资模型考虑工资模型uabilereducwage3210exp)log(如果因为无法观测而放入误差如果因为无法观测而放入误差项，则可能会导致严重偏误，项，则可能会导致严重偏误，这时考虑代理变量这时考虑代理变量IQ可以测量，与无法观可以测量，与无法观测的变量高度相关测的变量高度相关uxxxyvxxxuxxxy332211033303333322110 xdd，且的一个代理变量为无法观测的变量无法观测的变量遗漏变量问题的遗漏变量问题的植入解植入解是无偏估计量吗是无偏估计量吗?植入解得到无偏估计量的假设：植

12、入解得到无偏估计量的假设：ou与与x1、x2、x3*以及以及x3都不相关都不相关ov3与与x1、x2、x3都不相关都不相关E(x3* | x1, x2, x3) = E(x3* | x3) = d d0 + d d3x3 y = ( 0 + 3d d0) + 1x1+ 2x2 + 3d d3x3 + (u + 3v3)333033322110vxxuxxxydd新截距新截距代理变量的斜率代理变量的斜率新误差项新误差项无偏估计量无偏估计量代理变量只与代理变量只与x3有关，有关，与其他自变量无关与其他自变量无关如果代理变量与其他自变量也相关，则会如果代理变量与其他自变量也相关，则会出现偏误！出现偏

13、误！33333223211310303332211033322110vdddddddduxxxyvxxxxuxxxy）（）（则若偏误偏误9.39.2.2用滞后因变量作为代理变量用滞后因变量作为代理变量o如果无法确定遗漏变量的代理变量究竟应该如果无法确定遗漏变量的代理变量究竟应该是什么，那么可以选择较早时期的因变量作是什么，那么可以选择较早时期的因变量作为代理变量。为代理变量。o例如，某些城市过去有较高的犯罪率，同时例如，某些城市过去有较高的犯罪率，同时导致现在和过去犯罪率很高的无法观测因素导致现在和过去犯罪率很高的无法观测因素中，许多都是相同的。中，许多都是相同的。预计它们的符号应该是？预计它

14、们的符号应该是？Example：城市犯罪率：城市犯罪率oCrime表示人均犯罪次数，表示人均犯罪次数，unem表示城市表示城市失业率，失业率，expend表示执法的人均支出，表示执法的人均支出，crime-1表示以前某个年度的犯罪率表示以前某个年度的犯罪率ucrimeendunem)log()log(explog(crime)132109.3随机斜率模型随机斜率模型o如果一个变量的偏效应是随某些无法观测的因如果一个变量的偏效应是随某些无法观测的因素而变化的，这就会产生素而变化的，这就会产生随机斜率模型随机斜率模型。o例如：工资方程例如：工资方程iiiiiueducbawage)log(对于不同

15、的人，多读一对于不同的人，多读一年书的偏效应是不同年书的偏效应是不同的的取决于个人能力取决于个人能力对于没有读过书的人，对于没有读过书的人，工资水平是不同的工资水平是不同的取决于个人能力取决于个人能力对于我们的对于我们的n个观测者：个观测者：o我们有我们有n个个ai，=E（ai）o我们有我们有n个个bi，=E(bi)o对于某个观测者，如果对于某个观测者，如果ai=+ci， bi=+d+di i其随机斜率模型为：其随机斜率模型为：y=ai+bixi=+ci+(+di)xi=+xi+ui其中其中ui=ci+dixi平均边际效应平均边际效应平均截距平均截距随机斜率模型可以写为常系数模型，随机斜率模型

16、可以写为常系数模型，但是其误差与但是其误差与x有关有关异方差异方差随机斜率模型是否有偏？随机斜率模型是否有偏？E(ui|x)= E(ci|x) +xi E(di|x)= E(ai|x)-+ xi E(bi|x)- 如果如果E(ai|x)=，E(bi|x)=则则E(ui|x)=0ui=ci+dixi注意到：注意到：ai=+ci， bi=+di注意注意=E(ai)，=E(bi)允许斜率因人而异，但只要他们的均值独立于允许斜率因人而异，但只要他们的均值独立于解释变量，则解释变量，则OLS估计量就是无偏的估计量就是无偏的9.4有测量误差时有测量误差时OLS的性质的性质o测量误差是模型设定偏误的又一种情

17、况测量误差是模型设定偏误的又一种情况o测量误差来自于两种情况测量误差来自于两种情况1.因变量的测量误差因变量的测量误差2.自变量的测量误差自变量的测量误差9.4.1因变量中的测量误差因变量中的测量误差o测量误差的例子：我们想要测量误差的例子：我们想要“家庭年收入家庭年收入”，但是被调查者只为我们提供了家庭成员的工但是被调查者只为我们提供了家庭成员的工资总收入，实际上投资收益被忽略了，此时资总收入，实际上投资收益被忽略了，此时产生了测量误差。产生了测量误差。o令令y*表示因变量的真实值，表示因变量的真实值，y表示观测值表示观测值o测量误差测量误差e=y-y*存在测量误差会导致存在测量误差会导致O

18、LS估计量估计量的性质发生什么变化？的性质发生什么变化？测量误差的均值为测量误差的均值为0，且测，且测量误差和解释变量无关量误差和解释变量无关o对于真实情况（满足高斯对于真实情况（满足高斯-马尔科夫假定）马尔科夫假定）o而我们回归的方程为而我们回归的方程为o如果也满足满足高斯如果也满足满足高斯-马尔科夫假定，则估计马尔科夫假定，则估计量是有效地，即量是有效地，即 E（e|x）=0o存在测量误差时，误差方差会增大。存在测量误差时，误差方差会增大。uxxykk110*euxxykk110小结：小结：o如果因变量的测量误差与解释变量系统相关，如果因变量的测量误差与解释变量系统相关，则会导致则会导致O

19、LS的偏误。的偏误。o如果测量误差只是一个与解释变量无关的随如果测量误差只是一个与解释变量无关的随机误差，则机误差，则OLS完全适用完全适用，但会加大估计量，但会加大估计量的方差的方差。9.4.2解释变量中的测量误差解释变量中的测量误差o令令x*表示因变量的真实值，表示因变量的真实值，x表示观测值表示观测值o对于解释变量对于解释变量x1的测量误差的测量误差e1=x1-x1*o假设假设E（e1）=0）（所以真实模型：11110*110e-uxyuxyE（u- 1 1e1 |x）=0?0(根据假定根据假定)e1=x1-x1*自变量测量误差在两类假定下的影响自变量测量误差在两类假定下的影响保证了估计

20、量的一致性保证了估计量的一致性误差方差加大误差方差加大o假定一：假定一：Cov（x1，e1）=0E（u- 1e1 |x1）=0Var（u-1e1） Var（u） o假定二假定二（经典变量误差假定（经典变量误差假定CEV）：）：Cov（x1*，e1）=0Cov（x1，e1）=E（x1e1）= E（x1*e1）+E（e12）=Var(e1)Cov（x1，u-1e1）=- 1 Var(e1)在在CEV假定下，假定下，OLS将给出有偏的不一致的估计量将给出有偏的不一致的估计量在在CEV假定下的偏误假定下的偏误o回忆第回忆第5章渐进偏误的定义：章渐进偏误的定义：o在在CEV假定下的偏误假定下的偏误 xV

21、aruxCov,plim11 11*111*1*111*1111111111,plimxVarxVareVarxVarxVareVarxVareVarxVareuxCov衰减偏误衰减偏误小结：小结：o如果自变量存在测量误差，且满足如果自变量存在测量误差，且满足CEV，则估，则估计量会产生衰减偏误。计量会产生衰减偏误。o但如果测量误差的方差但如果测量误差的方差Var（e1）相对于自变）相对于自变量真实值的方差量真实值的方差Var（x1*）很小的话，则测）很小的话，则测量误差不会导致很大偏差。量误差不会导致很大偏差。 1*1*11eVarxVarxVar这时，我们可以忽略自变这时，我们可以忽略自变

22、量测量误差导致的偏误。量测量误差导致的偏误。但困难在于但困难在于Var（e1）和和Var（x1*）不易观测。不易观测。o另一种方法是使用工具变量或代理变量，它另一种方法是使用工具变量或代理变量，它们与观测值们与观测值X高度相关，但与方程误差和测高度相关，但与方程误差和测量误差（量误差（、e）都不相关。那么我们就能）都不相关。那么我们就能得到得到的一致估计。的一致估计。o因此，自变量的观测值要尽量准确。因此，自变量的观测值要尽量准确。也比较困难也比较困难9.5数据缺失、非随机样本和异常观测数据缺失、非随机样本和异常观测9.5.1数据缺失（数据缺失（missing data）o如果一个观测缺失了其

23、因变量或一个自变量，如果一个观测缺失了其因变量或一个自变量，那么这个观测就不能用于多元回归分析。那么这个观测就不能用于多元回归分析。o如果数据是随机缺失的，那么除了减少了样如果数据是随机缺失的，那么除了减少了样本容量而导致估计量没有那么准确以外，不本容量而导致估计量没有那么准确以外，不会引起任何偏误。会引起任何偏误。9.5.2非随机样本非随机样本o如果数据缺失是非随机的，那么将导致样本如果数据缺失是非随机的，那么将导致样本变为非随机样本。变为非随机样本。在婴儿出生的数据集中，如果受教育程度低的人在婴儿出生的数据集中，如果受教育程度低的人缺失数据的概率大。缺失数据的概率大。违背违背MLR.2外生

24、样本选择不会有偏误外生样本选择不会有偏误内生样本选择会有偏误内生样本选择会有偏误o外生样本选择：基于自变量外生样本选择：基于自变量o例如例如o内生样本选择：基于因变量内生样本选择：基于因变量o例如例如uageincomesaving210假设我们针对假设我们针对35岁以上的人群调查，则得到非随机样岁以上的人群调查，则得到非随机样本本不会导致偏误不会导致偏误uereducwealthexp210假设我们针对财富不足假设我们针对财富不足25万的人群调查，也得到非随机万的人群调查，也得到非随机样本样本导致偏误导致偏误9.5.3异常观测异常观测p 异常观测值也可以定义为残差很大的观测值。异常观测值也可

25、以定义为残差很大的观测值。p 如果将一个观测从数据集中去掉会使得如果将一个观测从数据集中去掉会使得OLS估估计量发生很大变化，则这个观测就是异常观测。计量发生很大变化，则这个观测就是异常观测。xy这个很大的残差会因为它这个很大的残差会因为它和回归线的垂直距离很大和回归线的垂直距离很大而把回归线向自己拉近，而把回归线向自己拉近，从而改变回归线的斜率。从而改变回归线的斜率。异常数据的性质异常数据的性质对所有数据的对所有数据的OLS线线除去异常观测值的除去异常观测值的OLS线线不是异常观测值不是异常观测值是异常观测值是异常观测值o由于由于OLS是对残差平方进行最小化，所以是对残差平方进行最小化，所以

26、OLS估计量对异常观测值十分敏感。估计量对异常观测值十分敏感。o一组观测值中可能不止一个异常观测值。一组观测值中可能不止一个异常观测值。o不加思索的将异常观测值从样本中去掉不是不加思索的将异常观测值从样本中去掉不是明智的选择。除非异常观测是由于记录发生明智的选择。除非异常观测是由于记录发生错误而导致，否则异常观测值可能记录了其错误而导致，否则异常观测值可能记录了其他观测值不具备的信息。他观测值不具备的信息。一些检验可以帮助筛选异常值一些检验可以帮助筛选异常值o定义一个虚拟变量，当使用异常观测值时取定义一个虚拟变量，当使用异常观测值时取值为值为1.这个虚拟变量的系数用以度量是否使这个虚拟变量的系数用以度量是否使用异常值所得到的回归线之间的差异。用异常值所得到的回归线之间的差异。o对这个系数检验显著性。对这个系数检验显著性。异常观测值的处理异常观测值的处理o既然既然OLS由于对残差平方最小化而导致对异由于对残差平方最小化而导致对异常观测值比较敏感，那么对残差的绝对值最常观测值比较敏感，那么对残差的绝对值最小化而得到的估计值将对异常观测值不那么小化而得到的估计值将对异常观测值不那么敏感。敏感。o但这种估计值不总是一致估计量，且不可能但这种估计值不总是一致估计量，且不可能是无偏估计量。是无偏估计量。