曲线估计与回归分析.ppt

v社会科学统计软件社会科学统计软件SPSS教程教程v第七章第七章 曲线估计与回归分析曲线估计与回归分析v 在数量分析中，经常会看到变量与变量之在数量分析中，经常会看到变量与变量之间存在着一定的联系。要了解变量之间如何间存在着一定的联系。要了解变量之间如何发生相互影响的，就需要利用相关分析和回发生相互影响的，就需要利用相关分析和回归分析。本章介绍回归分析基本概念，回归归分析。本章介绍回归分析基本概念，回归分析的主要类型：曲线估计、线性回归分析、分析的主要类型：曲线估计、线性回归分析、非线性回归分析。非线性回归分析。v7.1 曲线估计曲线估计v7.2 回归分析基本概念回归分析基本概念v7.3 线性回归分析线性回归分析7.1 曲线估计曲线估计v 曲线估计即曲线拟合，恰当的曲线拟合方曲线估计即曲线拟合，恰当的曲线拟合方法可以准确而快速地反映出实际情况。法可以准确而快速地反映出实际情况。v 在曲线估计中，一般首先绘制自变量和因在曲线估计中，一般首先绘制自变量和因变量间的散点图，然后通过数据在散点图中变量间的散点图，然后通过数据在散点图中的分布特点选择所要进行回归分析的类型。的分布特点选择所要进行回归分析的类型。确定函数关系后再进一步确定函数关系中的确定函数关系后再进一步确定函数关系中的未知参数，并进行显著性检验。未知参数，并进行显著性检验。v 在实际问题中，用户往往不能确定究竟该选择在实际问题中，用户往往不能确定究竟该选择何种函数模型更接近样本数据，这时可以采用曲何种函数模型更接近样本数据，这时可以采用曲线估计的方法，其步骤如下：线估计的方法，其步骤如下：1.1.根据实际问题本身特点，同时选择几种模根据实际问题本身特点，同时选择几种模型；型；2.SPSS2.SPSS自动完成模型的参数估计，并显示自动完成模型的参数估计，并显示R R2 2、F F检验值、相伴概率值等统计量；检验值、相伴概率值等统计量；3.3.选择具有选择具有R R2 2统计量值最大的模型作为此问题统计量值最大的模型作为此问题的回归模型，并作一些预测。的回归模型，并作一些预测。vP144 线性估计示例线性估计示例 利用数据文件利用数据文件“Cars.sav”，对，对horse和和mpg两变量进行曲线拟合（曲线估计）。两变量进行曲线拟合（曲线估计）。v关键数值说明：关键数值说明：1.R：自变量与因变量的相关系数；：自变量与因变量的相关系数；2.R2和校正的和校正的R2：决定系数，度量建立的函：决定系数，度量建立的函数关系能说明的变异百分比；数关系能说明的变异百分比；3.回归平方和与残差平方和：回归平方和与残差平方和：用回归方程来描述变量之间的统计关系时，用回归方程来描述变量之间的统计关系时，观测值观测值yi与按回归线预测的值与按回归线预测的值Yi并不一定完全并不一定完全一致，即各观测点一致，即各观测点(xi,yi)并不一定都落在回归并不一定都落在回归线上，各观测点偏离回归线的程度，可用它线上，各观测点偏离回归线的程度，可用它们的总偏差平方和们的总偏差平方和“QT”来表示，即来表示，即QT=(yi-Yi)2+(Yi-y)2，其中，其中y是各观测值是各观测值yi的平的平均值。均值。(Yi-y)2称为回归平方和，其越大则自称为回归平方和，其越大则自变量与因变量之间的相关性越好。变量与因变量之间的相关性越好。v (yi-Yi)2称为残差平方和。统计学上把观称为残差平方和。统计学上把观测点与它在回归直线上相应位置的差异测点与它在回归直线上相应位置的差异 称残称残差，把每个残差的平方后加起来差，把每个残差的平方后加起来 称为残差平称为残差平方和，它表示随机误差的效应。方和，它表示随机误差的效应。v 由此可知，总偏平方和由此可知，总偏平方和=残差平方和残差平方和+回回归平方和。归平方和。7.2 回归分析的基本概念回归分析的基本概念v 通过大量的观测数据，可以发现变量之间通过大量的观测数据，可以发现变量之间存在的统计规律，并用一定的数学模型表示存在的统计规律，并用一定的数学模型表示出来，这种用一定模型来表述变量相关关系出来，这种用一定模型来表述变量相关关系的方法就称为回归分析。它是探讨变量间数的方法就称为回归分析。它是探讨变量间数量关系的一种常用统计方法，通过建立变量量关系的一种常用统计方法，通过建立变量间的数学模型对变量进行预测和控制。间的数学模型对变量进行预测和控制。v 回归分析与相关分析有着密切的联系，他回归分析与相关分析有着密切的联系，他们都是研究及度量两个或两个以上变量之间们都是研究及度量两个或两个以上变量之间关系的方法。关系的方法。v 在回归分析中，变量在回归分析中，变量y y称为因变量，处于被称为因变量，处于被解释的特殊地位；而在相关分析中，变量解释的特殊地位；而在相关分析中，变量y y与与变量变量x x处于平等的地位，研究变量处于平等的地位，研究变量y y与变量与变量x x的的密切程度和研究变量密切程度和研究变量x x与变量与变量y y的密切程度是的密切程度是一样的。一样的。v 在回归分析中，因变量在回归分析中，因变量y y是随机变量，自变量是随机变量，自变量x x可以是随机变量，也可以是非随机的确定变量；可以是随机变量，也可以是非随机的确定变量；而在相关分析中，变量而在相关分析中，变量x x和变量和变量y y都是随机变量。都是随机变量。v 相关分析是测定变量之间的关系密切程度，所相关分析是测定变量之间的关系密切程度，所使用的工具是相关系数；而回归分析则是侧重于使用的工具是相关系数；而回归分析则是侧重于考察变量之间的数量变化规律，并通过一定的数考察变量之间的数量变化规律，并通过一定的数学表达式来描述变量之间的关系，进而确定一个学表达式来描述变量之间的关系，进而确定一个或者几个变量的变化对另一个特定变量的影响程或者几个变量的变化对另一个特定变量的影响程度。度。v 回归分析主要解决以下几方面的问题：回归分析主要解决以下几方面的问题：1.1.通过分析大量的样本数据，确定变量之间通过分析大量的样本数据，确定变量之间的数学关系式。的数学关系式。2.2.对所确定的数学关系式的可信程度进行各对所确定的数学关系式的可信程度进行各种统计检验，并区分出对某一特定变量影响较为种统计检验，并区分出对某一特定变量影响较为显著的变量和影响不显著的变量。显著的变量和影响不显著的变量。3.3.利用所确定的数学关系式，根据一个或几利用所确定的数学关系式，根据一个或几个变量的值来预测或控制另一个特定变量的取值，个变量的值来预测或控制另一个特定变量的取值，并给出这种预测或控制的精确度。并给出这种预测或控制的精确度。v 在实际中，根据变量的个数、变量的类型在实际中，根据变量的个数、变量的类型以及变量之间的相关关系，回归分析通常分以及变量之间的相关关系，回归分析通常分为一元线性回归分析、多元线性回归分析、为一元线性回归分析、多元线性回归分析、非线性回归分析、曲线估计、时间序列的曲非线性回归分析、曲线估计、时间序列的曲线估计、含虚拟自变量的回归分析和逻辑回线估计、含虚拟自变量的回归分析和逻辑回归分析等类型。归分析等类型。7.3 线性回归分析线性回归分析v 线性回归分析包括一元线性回归、多元线性回线性回归分析包括一元线性回归、多元线性回归和多元逐步回归。归和多元逐步回归。v 线性回归对数据的要求：线性回归对数据的要求：自变量和因变量必须是具有自变量和因变量必须是具有ScaleScale测度水平的测度水平的数值型变量，分类变量必须为二元的哑变量。数值型变量，分类变量必须为二元的哑变量。（哑变量，即虚拟变量（又称虚设变量、名义变哑变量，即虚拟变量（又称虚设变量、名义变量），是量化了的质变量，通常取值为量），是量化了的质变量，通常取值为0或或1。比。比如性别、年龄、宗教、民族、婚姻状况、教育程如性别、年龄、宗教、民族、婚姻状况、教育程度等。度等。）v 在实际问题中，由于所要研究的现象的总在实际问题中，由于所要研究的现象的总体单位数一般是很多的，在许多场合甚至是体单位数一般是很多的，在许多场合甚至是无限的，因此无法掌握因变量无限的，因此无法掌握因变量y y总体的全部取总体的全部取值。也就是说，总体回归方程事实上是未知值。也就是说，总体回归方程事实上是未知的，需要利用样本的信息对其进行估计。显的，需要利用样本的信息对其进行估计。显然，样本回归方程的函数形式应与总体回归然，样本回归方程的函数形式应与总体回归方程的函数形式一致。方程的函数形式一致。v线性回归模型的建立步骤：线性回归模型的建立步骤：1.根据数据资料作散点图，直观地判断两个变量根据数据资料作散点图，直观地判断两个变量之间是否大致成一直线关系；之间是否大致成一直线关系；2.设直线方程式为设直线方程式为 ，如果，如果 与实际值与实际值Y之间的误差比其他估计值与实际值之间的误差比其他估计值与实际值Y之间的误差小，则这个表达式就是最优拟合直线之间的误差小，则这个表达式就是最优拟合直线模型；模型；3.使用实际资料计算表达式中的参数使用实际资料计算表达式中的参数a和和b；4.将参数将参数a和和b的值带入表达式得到回归方程；的值带入表达式得到回归方程；vP152 线性回归示例线性回归示例 利用数据文件利用数据文件“polishing.sav”，考察打，考察打磨时间（磨时间（time）能否由产品的直径大小）能否由产品的直径大小（diam）来预测，即估计变量）来预测，即估计变量time与与diam之之间的函数关系。间的函数关系。