一元线性回归模型及其假设条件高等教育统计学高等教育统计学.pdf

《一元线性回归模型及其假设条件高等教育统计学高等教育统计学.pdf》由会员分享，可在线阅读，更多相关《一元线性回归模型及其假设条件高等教育统计学高等教育统计学.pdf（4页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、(5.32)使Q达到 4.2 一元线性回归模型及其假设条件 1.理论模型 y=a-rbx+s X是解释变量，又称为自变量，它是确左性变量，是可以控制的。是已知的。Y是被解释变量，又称因变量，它是一个随机性变量。是已知的。A.b是待左的参数。是未知的。2.实际中应用的模型 亍=&+hx X是已知的，是未知的。回归预测方程：y=ii+bx 称为回归系数。若已知自变量x的值，则通过预测方程可 以预测出因变量y的值，并给出预测值的置信区间。3.假设条件 满足条件：(1)E()=0；(2)D(&)=a2：(3)Cov(&)=0,iHj；(4)Cov&)=0。条件(1)表示平均干扰为0；条件(2)表示随机

2、干扰项等方差：条件(3)表示随机干扰 项不存在序列相关；条件(4)表示干扰项与解释变量无关。在假立条件(4)成立的情况下,随机变量yN(a+bx,o2)o 一般情况下，wN(0,o2)o 4.需要得到的结果.2，b，(J 4.3模型参数的估计 1.估计原理 回归系数的精确求估方法有最小二乘法、最大似然法等多种，我们这里介绍最小二乘法。估计误差或残差：e,y y =&+厶x,y.=yi+e=a+bx+e.(5.31)误 差匕的大小，是衡量&、/；好坏的重要标志，换句话讲，模型拟合是否成功，就看残差是 否达到要求。可以看出，同一组数据，对于不同的&、厶有不同的匕，所以，我们的问题 是如何选取&、方

3、使所有的匕都尽可能地小，通常用总误差来衡量。衡量总误差的准则有：最大绝对误差最小、绝对误差的总和最小、误差的平方和最小等。我们的准则取：误差的平方和最小。最小二乘法:令 Q=Xe2t=J=X(yra-bx/I f 1/I 最小以估计出厶的方法称为最小二乘法。理论推导：微积分极值理论的拉格朗日极值法。歹是y的算术2.估计结果.ittxiy-txtyi b=Z _心 7 Xxt.b 一=y-bx n Q=Xe-=E(y/-y/J=乞(y 厂&亦 J /l 11 11 平均数。4.5回归方程的检验 一、离差平方和的分解与可决系数 当根据历史数据估计出回归预测方程后，我们要思考这样的一些问题：回归直线

4、是否有意 义？可否用于预测和控制？参与计算的两个变疑x和y是否有线性关系？若有线性关系，其关系的密切程度如何度量。1.离差平方和的分解 第一、（）/）表示观察值刃与其平均值的总离差平方和，用SQ表示。（总变差或离 r-1 差平方和）。第二、（$y）是总离差平方和中由回归直线方程中x的变化所引起，它的大小反映/-I 了自变疑x的重要程度，称为回归平方和。用U表示。（回归变差）。第三、反映了不能由回归直线解释的部分，是由苴他未能控制的随机干扰因/-I 素引起的。称为残差平方和。用Q表示。（剩余变差）2.可决系数R S=U+Q,1=（U/S）+（Q/S总）；疋=U/S=1 Q/S总表示由解释变量x的

5、变化而引起因 变量y的变差占总离差的百分比。称为可决系数。3.相关系数 在一元线性回归中，相关系数是可决系数的平方根。相关系数：是描述变量x与y之间的线性关系密切程度的一个数量指标。计算公式为：n Q 2 释变量又称因变量它是一个随机性变量是已知的是待左的参数是未知的实际中应用的模型亍是已知的是未知的回归预测方程称为回归系数若已知自变量的值则通过预测方程可以预测出因变量的值并给出预测值的置信区间假设条件满释变量无关在假立条件成立的情况下随机变量一般情况下需要得到的结果模型参数的估计估计原理回归系数的精确求估方法有最小二乘法最大似然法等种我们这里介绍最小二乘法估计误差或残差厶误差匕的大小是衡量好

6、坏的重要标题是如何选取方使所有的匕都尽可能地小通常用总误差来衡量衡量总误差的准则有最大绝对误差最小绝对误差的总和最小误差的平方和最小等我们的准则取误差的平方和最小最小二乘法令使达到最小以估计出厶的方法称为最小二乘结论：第一、当*=0时，变疑x与y无任何线性关系，表现为（X|,YI）的散布是完全没 有规则的。第二、当P=1时，所有的样本点都落在回归直线上，称变量x与y完全相关。；=1 是完全正相关，F=1是完全负相关。第三、一般情况是，0|r|0称为正相关，*0称为负相关。忖0.3,视为无相关；0.3|r|0.5为低度相关：0.5|r|0.8为显著相 关：I 20.8为髙度相关。二、回归方程的检

7、验 1.相关系数检验法 建立回归方程前要考察F的大小，以确定回归方程有无使用价值。相关系数；41算后，要进行统讣检验，判别是否具有统汁意义。检验方法是：根据置信度、自由度（样本数据个数一1）和自变量与因变量的总个数查相关系数表，确定临界值，若计 算所得到的相关系数F小于临界值，则无统计意义。反之，则有统计意义，是有效的。2.F检验法 解释F检验法的含义。回归方程显著性检验的含义：即检验：y=a+bx对实际的y和x的拟合是否有统汁意义。所用统计量为F=U/Q/（n-2）o检验步骤是第一步计算统计量F的值;第二步根据给出 的置信度a,得到临界值Fa（1,n-2）：第三步将统计量值F与临界值Fa进行

8、比较,若统 计量值F大于Fa,则认为回归方程显著，线性假设成立，有统计意义，否则回归方程没有 统计意义。实际应用中，统计软件给出了 F值。3.T检验 解释T检验法的含义。P129 T检验法 关于/；=0的假设检验，有专门的t检验。在一元线性回归模型中，F检验与t检验等同。4.6预测区间 1.点预测 设预测点为 无（）.yo j,则预测值为：2.预测置信区间 几士切（”2）S。s=+3厂丘、3.控制区间 已知求兀0的变动范用，称为对兀。的控制，我们在这里不在讲述。释变量又称因变量它是一个随机性变量是已知的是待左的参数是未知的实际中应用的模型亍是已知的是未知的回归预测方程称为回归系数若已知自变量的

9、值则通过预测方程可以预测出因变量的值并给出预测值的置信区间假设条件满释变量无关在假立条件成立的情况下随机变量一般情况下需要得到的结果模型参数的估计估计原理回归系数的精确求估方法有最小二乘法最大似然法等种我们这里介绍最小二乘法估计误差或残差厶误差匕的大小是衡量好坏的重要标题是如何选取方使所有的匕都尽可能地小通常用总误差来衡量衡量总误差的准则有最大绝对误差最小绝对误差的总和最小误差的平方和最小等我们的准则取误差的平方和最小最小二乘法令使达到最小以估计出厶的方法称为最小二乘 4.8 元线性回归模型的应用 第一步，绘制散点图（计算机演示）第二步，设立一元线性回归方程 第三步，计算回归系数 第四步，检验

10、线性关系的显著性（包括相关系数检验、F检验、t检验）第五步，预测（要求给岀点预测和预测区间）释变量又称因变量它是一个随机性变量是已知的是待左的参数是未知的实际中应用的模型亍是已知的是未知的回归预测方程称为回归系数若已知自变量的值则通过预测方程可以预测出因变量的值并给出预测值的置信区间假设条件满释变量无关在假立条件成立的情况下随机变量一般情况下需要得到的结果模型参数的估计估计原理回归系数的精确求估方法有最小二乘法最大似然法等种我们这里介绍最小二乘法估计误差或残差厶误差匕的大小是衡量好坏的重要标题是如何选取方使所有的匕都尽可能地小通常用总误差来衡量衡量总误差的准则有最大绝对误差最小绝对误差的总和最小误差的平方和最小等我们的准则取误差的平方和最小最小二乘法令使达到最小以估计出厶的方法称为最小二乘