简单线性回归精选文档.ppt
( 4.5 )《简单线性回归精选文档.ppt》由会员分享，可在线阅读，更多相关《简单线性回归精选文档.ppt（75页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、简单线性回归本讲稿第一页，共七十五页本章内容本章内容 第一节第一节 简单线性回归简单线性回归 第二节第二节 线性回归的应用线性回归的应用 第三节第三节 残差分析残差分析 第四节第四节 非非线性回归线性回归 本讲稿第二页，共七十五页双变量计量资料：双变量计量资料：每个个体有两个变量值每个个体有两个变量值 总体：总体：无限或有限对变量值无限或有限对变量值 样本：样本：从总体随机抽取的从总体随机抽取的n n对变量值对变量值（X1,Y1）,（X2,Y2）,（Xn,Yn）目的：目的：研究研究X X和和Y Y的数量关系的数量关系 方法：方法：回归与相关回归与相关 简单、基本简单、基本直线回归、直线相关直线
2、回归、直线相关第一节第一节 简单线性回归简单线性回归本讲稿第三页，共七十五页 英国人类学家 F.Galton首次在自然遗传一书中，提出并阐明了“相关”和“相关系数”两个概念，为相关论奠定了基础。其后，他和英国统计学家 Karl Pearson对上千个家庭的身高、臂长、拃长（伸开大拇指与中指两端的最大长度）做了测量，发现发现：历史背景：本讲稿第四页，共七十五页 儿子身高（Y，英寸）与父亲身高（X，英寸）存在线性关系：。也即高个子父代的子代在成年之后的身高平均来说不是更高，而是稍矮于其父代水平，而矮个子父代的子代的平均身高不是更矮，而是稍高于其父代水平。Galton将这种趋向于种族稳定的现象称之“
3、回归”本讲稿第五页，共七十五页 “回归”已成为表示变量之间某种数量依存关系的统计学术语，相关并且衍生出“回归方程”“回归系数”等统计学概念。如研究糖尿病人血糖与其胰岛素水平的关系，研究儿童年龄与体重的关系等。本讲稿第六页，共七十五页线性回归的概念及其统计描述线性回归的概念及其统计描述本讲稿第七页，共七十五页直线回归的概念 目的：目的：研究因变量研究因变量Y对自变量对自变量X的数量依的数量依 存关系。存关系。特点：特点：统计关系。统计关系。X值和值和Y的的均数均数的关系，的关系，不同于一般数学上的不同于一般数学上的X 和和Y的函数关系的函数关系本讲稿第八页，共七十五页 为了直观地说明直线回归的概
4、念，以15名健康人凝血酶浓度（X）与凝血时间(Y)数据（表12-1）进行回归分析，得到图12-1所示散点图（scatter plot）本讲稿第九页，共七十五页No.123456789101112131415X1.11.21.00.91.21.10.90.61.00.91.10.91.11.00.7Y141315151314161714161516141517本讲稿第十页，共七十五页 在定量描述健康人凝血酶浓度（X）与凝血时间(Y)数据的数量上的依存关系时，将凝 血 酶 浓 度称 为自 变 量(independent variable)，用 X 表示；凝血时间称为因变量(dependent va
5、riable)，用 Y 表示本讲稿第十一页，共七十五页本讲稿第十二页，共七十五页 由图12-1可见，凝血时间随凝血酶浓度的增加而减低且呈直线趋势，但并非所有点子恰好全都在一直线上，此与两变量间严格的直线函数关系不同，称为直 线 回 归（linear regression）,其其方方程程叫叫直直线线回回归归方方程程，以以区区别别严严格格意意义义的的直直线线方方程。回归是回归分析中最基本、最简单的一种，故又称简单回归。程。回归是回归分析中最基本、最简单的一种，故又称简单回归。本讲稿第十三页，共七十五页样本线回归方程样本线回归方程 为各X处Y的总体均数的估计。简单线性回归模型 本讲稿第十四页，共七十
6、五页1a 为回归直线在为回归直线在 Y 轴上的截距轴上的截距a 0，表表示示直直线线与与纵纵轴轴的的交交点点在在原原点的上方点的上方a 0，直线从左下方走向右上方，直线从左下方走向右上方，Y 随随 X 增大而增大；增大而增大；b0，直线从左上方走向右下方，直线从左上方走向右下方，Y 随随 X 增大而减小；增大而减小；b=0，表示直线与，表示直线与 X 轴平行，轴平行，X 与与Y 无直线关系无直线关系b 的统计学意义是：的统计学意义是：X 每增加每增加(减减)一个一个单位，单位，Y 平均改变平均改变b个单位个单位 本讲稿第十六页，共七十五页回归模型的前提假设回归模型的前提假设o线性回归模型的前提
7、条件是：线性线性(linear)独立独立(independent)正态正态(normal)等方差等方差(equal variance)本讲稿第十七页，共七十五页 本讲稿第十八页，共七十五页本讲稿第十九页，共七十五页残差(residual)或剩余值，即实测值Y与假定回归线上的估计值 的纵向距离 。求解a、b实际上就是“合理地”找到一条能最好地代表数据点分布趋势的直线。原则：最小二乘法(least sum of squares)，即可保证各实测点至直线的纵向距离的平方和最小回归参数的估计回归参数的估计最小二乘原则最小二乘原则 本讲稿第二十页，共七十五页 回归参数的估计方法回归参数的估计方法 本讲稿
8、第二十一页，共七十五页本例：n=15 X=14.7 X2=14.81 Y=224 XY=216.7 Y2=3368本讲稿第二十二页，共七十五页本讲稿第二十三页，共七十五页本讲稿第二十四页，共七十五页解题步骤本讲稿第二十五页，共七十五页3、计算有关指标的值4、计算回归系数和截距5、列出回归方程本讲稿第二十六页，共七十五页 此直线必然通过点此直线必然通过点(,)(,)且与纵坐标轴相交于且与纵坐标轴相交于截距截距a a。如果散点图没有从坐标系原点开始，。如果散点图没有从坐标系原点开始，可在自变量实测范围内远端取易于读数的可在自变量实测范围内远端取易于读数的 值代入回归方程得到一个点的坐标，连接此值代
9、入回归方程得到一个点的坐标，连接此点与点点与点(,)(,)也可绘出回归直线。也可绘出回归直线。绘制回归直线绘制回归直线本讲稿第二十七页，共七十五页总体回归系数总体回归系数的的的统计推断样本回归系数样本回归系数b的标准误的标准误 本讲稿第二十八页，共七十五页回归方程的假设检验 建立样本直线回归方程，只是完成了统计分析中两变量关系的统计描述，研究者还须回答它所来自的总体的直线回归关系是否确实存在，即是否对总体有？本讲稿第二十九页，共七十五页本讲稿第三十页，共七十五页本讲稿第三十一页，共七十五页1方差分析 本讲稿第三十二页，共七十五页Y的离均差，总变异残差回归的变异本讲稿第三十三页，共七十五页数理统
10、计可证明：本讲稿第三十四页，共七十五页上式用符号表示为 式中 本讲稿第三十五页，共七十五页本讲稿第三十六页，共七十五页上述三个平方和，各有其相应的自由度 ，并有如下的关系：本讲稿第三十七页，共七十五页 如果两变量间总体回归关系确实存在，回归的贡献就要大于随机误差，大到何种程度时可以认为具有统计意义，可计算统计量F:本讲稿第三十八页，共七十五页式中本讲稿第三十九页，共七十五页t 检验 本讲稿第四十页，共七十五页（1）方差分析本讲稿第四十一页，共七十五页 方差分析表 本讲稿第四十二页，共七十五页（2）t 检验参数的意义是：若自变量X增加一个单位，反因变量Y的平均值便增加 本讲稿第四十三页，共七十五
11、页注意：本讲稿第四十四页，共七十五页总体回归系数 的可信区间 利用上述对回归系数的t检验，可以得到的1双侧可信区间为本讲稿第四十五页，共七十五页 本例b=-6.9802,自由度=13，t0.05,13=2.16，Sb=0.78655,代入公式（12-7）得参数的95%置信区间为 =（-8.6791 -5.2813）本讲稿第四十六页，共七十五页本讲稿第四十七页，共七十五页第二 节 线性回归的应用（估计和预测）本讲稿第四十八页，共七十五页反映其抽样误差大小的标准误为本讲稿第四十九页，共七十五页o例12-1中，第一观测值X1=1.1，0.4994，0.404，代入（12.8）式获得第一观测点X1对应
12、的 的标准误为 0.1599Y的总体均数的95%置信区间为 14.0957(2.16)(0.1599)（13.7502，14.4412）本讲稿第五十页，共七十五页实测值实测值预测Y的均值Y的均值的标准误Y的均值的95%置信区间Y值的95%预测区间残差对象实测值 X实测值 Y预测值均值均值的标准误Y均值的95%CIY值的95%预测区间残差下限上限下限上限11.11414.09570.159913.750214.441212.961815.2297-0.095721.21313.39770.215912.931313.864112.221214.5741-0.397731.01514.79370.
- 配套讲稿：
如PPT文件的首页显示word图标，表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制：
部分文档作品中含有的国旗、国徽等图片，仅作为作品整体效果示例展示，禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词：
- 简单 线性 回归 精选 文档
淘文阁 - 分享文档赚钱的网站所有资源均是用户自行上传分享，仅供网友学习交流，未经上传用户书面授权，请勿作他用。
限制150内