最新受约束回归模型精品课件.ppt

《最新受约束回归模型精品课件.ppt》由会员分享，可在线阅读，更多相关《最新受约束回归模型精品课件.ppt（30页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、受约束回归受约束回归 一、模型参数的线性约束一、模型参数的线性约束 二、对回归模型增加或减少解释变量二、对回归模型增加或减少解释变量 三、参数的稳定性三、参数的稳定性 *四、非线性约束四、非线性约束这里的这里的F F检验适合所有关于参数线性约束的检验检验适合所有关于参数线性约束的检验如：多元回归中对方程总体线性性方程总体线性性的F检验： H0： j=0 j=1,2,k这里：受约束回归模型为*0Y) 1/(/) 1/(/ )() 1/(/ )() 1/()/()(knRSSkESSknRSSkRSSTSSknRSSkRSSESSTSSknRSSkkRSSRSSFUUUUUURUURUUR这里，运

2、用了ESSR 0。 二、对回归模型增加或减少解释变量二、对回归模型增加或减少解释变量考虑如下两个回归模型kkXXY110qkqkkkkkXXXXY11110(*)(*)(*)式可看成是（*）式的受约束回归：受约束回归：H0：021qkkk相应的统计量为：)1(,()1(/(/ )()1(/(/ )(qknqFqknRSSqESSESSqknRSSqRSSRSSFURUUUR 如果约束条件为真，即额外的变量Xk+1, , Xk+q对没有解释能力，则统计量较小； 否则，约束条件为假，意味着额外的变量对有较强的解释能力，则统计量较大。 因此，可通过F的计算值计算值与临界值临界值的比较，来判断额外变量

3、是否应包括在模型中。讨论：讨论： 统计量的另一个等价式统计量的另一个等价式)1(/()1 (/ )(222qknRqRRFURU 三、参数的稳定性三、参数的稳定性 1 1、邹氏参数稳定性检验、邹氏参数稳定性检验 建立模型时往往希望模型的参数是稳定的，即所谓的结构不变结构不变，这将提高模型的预测与分析功能。如何检验？如何检验？ 假设需要建立的模型需要建立的模型为kkXXY110在两个连续的时间序列（1,2,，n1）与（n1+1,，n1+n2）中，相应的模型分别为：1110kkXXY2110kkXXY 合并两个时间序列为( 1,2,，n1 ，n1+1,，n1+n2 )，则可写出如下无约束回无约束回

4、归模型212121X00XYY 如果 = ，表示没有发生结构变化，因此可针对如下假设进行检验： H0: = (*)式施加上述约束后变换为受约束受约束回归模型(*)212121XXYY（*）因此，检验的F统计量为：)1(2,)1(2/ )(2121knnkFknnRSSkRSSRSSFUUR 记RSS1与RSS2为在两时间段上分别回归后所得的残差平方和，容易验证，21RSSRSSRSSU于是)1(2,)1(2/)(/)(21212121knnkFknnRSSRSSkRSSRSSRSSFR参数稳定性的检验步骤：参数稳定性的检验步骤： （1）分别以两连续时间序列作为两个样本进行回归，得到相应的残差平

5、方： RSS1与RSS2 （2）将两序列并为一个大样本后进行回归，得到大样本下的残差平方和RSSR （3）计算F统计量的值，与临界值比较： 若F值大于临界值，则拒绝原假设，认为发生了结构变化，参数是非稳定的。 该 检 验 也 被 称 为 邹 氏 参 数 稳 定 性 检 验邹 氏 参 数 稳 定 性 检 验（Chow test for parameter stability）。 2 2、邹氏预测检验、邹氏预测检验 上述参数稳定性检验要求n2k。 如果出现n2F(n2, n1-k-1) ，则拒绝原假设，认为预测期发生了结构变化。 例例3.6.2 中国城镇居民食品人均消费需求的邹氏检验。 1、参数稳

6、定性检验、参数稳定性检验19811994：)ln(92. 0)ln(08. 0)ln(05. 163. 3)ln(01PPXQRSS1=0.003240 19952001：01ln71. 0ln06. 3ln55. 078.13lnPPXQ (9.96) (7.14) (-5.13) (1.81) 19812001: 01ln39. 1ln14. 0ln21. 100. 5lnPPXQ (14.83) (27.26) (-3.24) (-11.17) 34.10)821/()000058. 0003240. 0(4/)0000580. 0003240. 0(013789. 0F 给定=5%，查

7、表得临界值F0.05(4, 13)=3.18 判断：判断：F值值临界值，拒绝参数稳定的原假设，表临界值，拒绝参数稳定的原假设，表明中国城镇居民食品人均消费需求在明中国城镇居民食品人均消费需求在1994年前后发年前后发生了显著变化。生了显著变化。 2、邹氏预测邹氏预测检验检验65. 4) 1314/(003240. 07/ )003240. 0013789. 0(F给定=5%，查表得临界值F0.05(7, 10)=3.18判断判断： F值值临界值，拒绝参数稳定的原假设临界值，拒绝参数稳定的原假设 *四、非线性约束四、非线性约束 也可对模型参数施加非线性约束非线性约束,如对模型kkXXXY2211

8、0施加非线性约束12=1,得到受约束回归模型受约束回归模型: *211101kkXXXY 该 模 型 必 需 采 用 非 线 性 最 小 二 乘 法非 线 性 最 小 二 乘 法（nonlinear least squares）进行估计。 非线性约束检验非线性约束检验是建立在最大似然原理最大似然原理基础上的,有最大似然比检验最大似然比检验、沃尔德检验沃尔德检验与拉拉格朗日乘数检验格朗日乘数检验. .1、最大似然比检验、最大似然比检验 (likelihood ratio test, LR) 估计估计: :无约束回归模型与受约束回归模型， 方法方法: :最大似然法， 检验检验: :两个似然函数的值

9、的差异是否“足够”大。 记L( ,2)为一似然函数:无约束回归无约束回归 : Max:),(2L受约束回归受约束回归 : Max:),(2L或求极值：)(),(2gL g( ):以各约束条件为元素的列向量, ：以相应拉格朗日乘数为元素的行向量 约束：g( )=0 受约束受约束的函数值不会超过的函数值不会超过无约束无约束的函数值的函数值，但如果约束条件为真约束条件为真，则两个函数值就非常“接接近近”。22，L，L 由此，定义似然比似然比（likelihood ratio）: 如果如果比值很小，说明说明两似然函数值差距较大，则应拒绝拒绝约束条件为真的假设； 如果如果比值接近于，说明说明两似然函数值

10、很接近，应接受接受约束条件为真的假设。 具体检验具体检验时，由于大样本下：)(),(ln),(ln2222hLLLR h是约束条件的个数。因此： 通过通过LR统计量的统计量的 2 2分布特性来进行判断。分布特性来进行判断。 在中国城镇居民人均食品消费需求例中国城镇居民人均食品消费需求例中，对零阶零阶齐次性齐次性的检验： LR= -2(38.57-38.73)=0.32 给出=5%、查得临界值临界值 2 20.05(1)(1)3.84， 判断判断： LR 2 20.05(1),(1),不拒绝原约束的假设，不拒绝原约束的假设， 表明表明: :中国城镇居民对食品的人均消费需求函中国城镇居民对食品的人

11、均消费需求函数满足零阶齐次性条件数满足零阶齐次性条件。 、沃尔德检验、沃尔德检验（Wald test, W） 沃尔德检验中，只须估计无约束模型。如对kkXXXY22110 在所有古典假设都成立的条件下，容易证明 ),(2212121N因此，在1+2=1的约束条件下 )1 ,0(12121Nz记 )(2221Xf可建立沃尔德统计量沃尔德统计量:) 1 () 1(2222121W 如果有h个约束条件，可得到h个统计量z1,z2,zh 约束条件为真时，可建立大样本大样本下的服从自由度为h的渐近 2 分布统计量 )(2hWZCZ1 其中，Z为以zi为元素的列向量，C是Z的方差-协方差矩阵。 因此，W从

12、总体上测量了无约束回归不满足约束条件的程度。从总体上测量了无约束回归不满足约束条件的程度。 对对非线性约束非线性约束，沃尔德统计量，沃尔德统计量W的算法描述要复杂得多。的算法描述要复杂得多。 3、拉格朗日乘数检验、拉格朗日乘数检验 拉格朗日乘数检验则只需估计受约束受约束模型. 受约束回归是求最大似然法的极值问题: )(),(2gL是拉格朗日乘数行向量，衡量各约束条件对最大似然函数值的影响程度。 如果某一约束为真，则该约束条件对最大似然函数值的影响很小，于是，相应的拉格朗日乘数的值应接近于零。 因此，拉格朗日乘数检验就是检验某些拉格朗日乘数的值是否“足够大”，如果“足够大”，则拒绝约束条件为真的假设。 拉格朗日统计量LM本身是一个关于拉格朗日乘数的复杂的函数，在各约束条件为真的情况下，服从一自由度恰为约束条件个数的渐近2分布。 2nRLM n为样本容量，R2为如下被称为辅助回归辅助回归（auxiliary regression）的可决系数: kkRXXXe22110 如果约束是非线性的，辅助回归方程的估计比较复杂，但仍可按（*）式计算LM统计量的值。 最后，一般地有最后，一般地有:LMLRW 同样地，如果为线性约束，LM服从一精确的2分布：(*)30 结束语结束语