应用回归分析-第2章课后习题参考复习资料.doc
优质文本2.1 一元线性回归模型有哪些根本假定?答:1. 解释变量 是非随机变量,观测值是常数。2. 等方差及不相关的假定条件为 这个条件称为高斯-马尔柯夫()条件,简称条件。在此条件下,便可以得到关于回归系数的最小二乘估计及误差项方差估计的一些重要性质,如回归系数的最小二乘估计是回归系数的最小方差线性无偏估计等。 3. 正态分布的假定条件为 在此条件下便可得到关于回归系数的最小二乘估计及估计的进一步结果,如它们分别是回归系数的最及的最小方差无偏估计等,并且可以作回归的显著性检验及区间估计。4. 通常为了便于数学上的处理,还要求及样本容量的个数要多于解释变量的个数。 在整个回归分析中,线性回归的统计模型最为重要。一方面是因为线性回归的应用最广泛;另一方面是只有在回归模型为线性的假设下,才能的到比较深入和一般的结果;再就是有许多非线性的回归模型可以通过适当的转化变为线性回归问题进行处理。因此,线性回归模型的理论和应用是本书研究的重点。1. 如何根据样本求出及方差的估计;2. 对回归方程及回归系数的种种假设进行检验;3. 如何根据回归方程进行预测和控制,以及如何进行实际问题的结构分析。2.2 考虑过原点的线性回归模型 误差仍满足根本假定。求的最小二乘估计。答:令即解得即的最小二乘估计为2.3 证明:Q (,)= ()2 因为Q (,) Q (, )而Q (, ) 非负且在上可导,当Q取得最小值时,有即-2()=0 -2() =0又( +)= =0, =0即残差的期望为0,残差以变量x的加权平均值为零2.4 解:参数0,1的最小二乘估计与最大似然估计在(0, 32 ) 1,2,n的条件下等价。 证明:因为 所以 其最大似然函数为 使得L最大的,就是,的最大似然估计值。 即使得下式最小 : 因为恰好就是最小二乘估计的目标函数相同。 所以,在 的条件下, 参数0,1的最小二乘估计与最大似然估计等价。2.5.证明是的无偏估计。 证明:假设要证明是的无偏估计,那么只需证明E()=。 因为,的最小二乘估计为 其中E()()() ()()() 其中由于=0,所以= =)0又因为一元线性回归模型为所以E()=0所以E()()( = =所以是的无偏估计。2.6 解:因为 , , 联立 式,得到。 因为,所以 2.7 证明平方和分解公式:证明:2.8 验证三种检验的关系,即验证:1;2证明:1因为,所以又因为,所以故 得证。22.9 验证2.63式: 证明: 其中: 注:各个因变量是独立的随机变量 2.10 用第9题证明是的无偏估计量 证明: 注:2.11验证证明:所以有以上表达式说明r ²与F 等价,但我们要分别引入这两个统计量,而不是只引入其中一个。理由如下:r ²与F,n都有关,且当n较小时,r较大,尤其当n趋向于2时,趋向于1,说明x与y的相关程度很高;但当n趋向于2或等于2时,可能回归方程并不能通过F的显著性检验,即可能x与y都不存在显著的线性关系。所以,仅凭r较大并不能断定x与y之间有密切的相关关系,只有当样本量n较大时才可以用样本相关系数r判定两变量间的相关程度的强弱。 F检验检验是否存在显著的线性关系,相关系数的显著性检验是判断回归直线与回归模型拟合的优劣,只有二者结合起来,才可以更好的回归结果的好坏。2.12 如果把自变量观测值都乘以2,回归参数的最小二乘法估计和会发生什么变化?如果把自变量观测值都加上2,回归参数的最小二乘估计和会发生什么变化?解: 解法一:我们知道当,时,用最小二乘法估计的和分别为当时有 将带入得到当时 有 将带入得到·解法二: 当,时,有 当时 当 , ,由最小二乘法可知,离差平方和时,其估计值应当有 。即回归参数的最小二乘估计和在自变量观测值变化时不会变。2.13 如果回归方程相应的相关系数r很大,那么用它预测时,预测误差一定较小。这一结论能成立吗?对你的答复说明理由。解:这一结论不成立。因为相关系数r表示x与线性关系的密切程度,而它接近1的程度与数据组数有关。n越小,r越接近1。2时,1。因此仅凭相关系数说明x与有密切关系是不正确的。只有在样本量较大时,用相关系数r判定两变量之间的相关程度才可以信服,这样预测的误差才会较小。2.14 解:1散点图为:2x与y大致在一条直线上,所以x与y大致呈线性关系。3得到计算表:XY1104100206-142-4221011001013-7232320000200042010027727254044004034142-62和15100和10600和70和100490110均3均20均20 所以回归方程为:4= 所以,5因为 ,的置信区间为; 同理,因为,所以,的置信区间为。查表知, 所以,的置信区间为-21.21,19.21,的置信区间为0.91,13.09。6决定系数 7计算得出,方差分析表如下:方差来源平方和自由度均方F值490149013.364110336.6676004 查表知,F0.05(1,3)=10.13,F值>F0.05(1,3),故拒绝原假设,说明回归方程显著。(8) 做回归系数1的显著性检验 计算t统计量: 查表知, ,所以,t>t0.05/2(3),所以接受原假设,说明x和Y有显著的线性关系。9做相关系数r的显著性检验:因为 所以,相关系数 因为查表知,2等于3时,%的值为0.959,%的值为0.878 。 所以,%<<%,故x与y有显著的线性关系。10残差表为:序号残差111064221013-33320200442027-75540346 残差图为: 11当X0=4.2时, 其95%的置信区间近似为,即为: 17.1,39.7。2.15解:1画散点图; 图形旧对话框散点图,得到散点图表1如下: 2x与y之间是否大致呈线性关系? 由上面1散点图可以看出,x与y之间大致呈线性关系。 用最小二乘估计求出回归方程; 分析回归线性,得到“回归系数显著性检验表表2如 下: tB. 1().118.355.333每周签发的新保单数目x.004.000.9498.509a. : 每周加班工作时间y 由上表可知: =0.118 =0.004 所以可得回归方程为:=0.118+0.004x4求回归标准误差; 分析回归线性,得到“方析分析表表3如下: F.116.682116.68272.396.000a1.8438.23018.5259a. : (), 每周签发的新保单数目xb. : 每周加班工作时间y 由上表可得, 1.843 10 故回归标准误差为: 0.23 0.485给出与的置信度为95%的区间估计; 由表2可以看出,当置信度为95%时, 的预测区间为:-0.701,0.937 的预测区间为:0.003,0.005 6计算x与y的决定系数; 分析回归线性,得到“模型概要表表4如下: RR R . 1.949a.900.888.4800a. : (), 每周签发的新保单数目xb. : 每周加班工作时间y 由上表可知,x与y的决定系数为0.9,可以看到很接近于1,这就说明此模型的拟合度很好。7对回归方程作方差分析; 由“方差分析表表3可得,值=72.396, 我们知道,当原假设0成立时,F服从自由度为1,2的F分布见,临界值1,2=1,8=5.32 因为值=72.396>5.32, 所以拒绝原假设,说明回归方程显著,即x与y有显著的线性关系。8做回归系数显著性的检验; 由“回归系数显著性检验表表2可得, 的t检验统计量为8.509,对应值近似为0,p<, 说明每周签发的新报单数目x对每周加班工作时间y有显著的影响。9做相关系数的显著性检验; 分析相关双变量,得到“相关分析表表5如下:每周签发的新保单数目x每周加班工作时间y每周签发的新保单数目x 1.949*. (2).000N1010每周加班工作时间y .949*1. (2).000N1010*. 0.01 (2). 由上表可知,相关系数为0.949,说明x与y显著线性相关。10对回归方程作残差图并作相应的分析; 从上图可以看出,残差是围绕0随即波动的,满足模型的根本假设。11该公司预计下一周签发新保单=1000张,需要的加班时间是多少? 当=1000张时0.118+0.004×1000=4.118小时。12给出的置信水平为95%的精确预测区间和近似预测区间。13给出E置信水平为95%的区间估计。 最后两问一起解答: 在计算回归之前,把自变量新值输入样本数据中,因变量的相应值空缺,然后在对话框中点选和计算因变量单个新值和因变量平均值E()的置信区间。结果显示在原始数据表中,如以下图所示(由于排版问题,中间局部图省略): 的精确预测区间为:2.519,4.887 E的区间估计为:3.284,4.123而的近似预测区间那么根据2手动计算,结果为: 4.118-2×0.48,4.118+2×0.48=3.158,5.078 2.16 解答:1绘制y对x的散点图,可以用直线回归描述两者之间的关系吗?如以下图:2由上图可以看出,y与x的散点分布大致呈直线趋势,所以可以用直线回归描述两者之间的关系。3建立y对x的线性回归。利用建立y对x的线性回归,输出结果如下: 表1 模型汇总模型RR 方调整 R 方标准 估计的误差1.835a.697.6912323.256a. 预测变量: (常量), x。表2 方差分析表模型平方和均方F.1回归6.089E816.089E8112.811.000a残差2.645E8495397517.938总计8.734E850a. 预测变量: (常量), x。b. 因变量: y 表3 系数表系数a模型非标准化系数标准系数t.B标准 误差试用版1(常量)12112.6291197.76810.113.000x3.314.312.83510.621.000a. 因变量: ya由表1可知,x与y决定系数为,说明模型的拟合效果一般。x与y线性相关系数0.835,说明x与y有较显著的线性关系。b由表2方差分析表中看到,112.811,显著性,说明回归方程显著。c由表3 可见对的显著性t检验P值近似为零,故显著不为0,说明x对y有显著的线性影响。d综上,x与y的线性回归方程为:用线性回归的功能绘制标准残差的直方图和正态概率图,检验误差项的正态性假设。如以下图:图1 标准残差的直方图 图2 标准残差的正态概率图由图1可见图形略呈右偏,由图2可见正态概率图中的各个散点根本呈直线趋势,残差在0附近波动,以认为残差服从正态分布。