化学试验设计法中的回归分析讲稿.ppt

《化学试验设计法中的回归分析讲稿.ppt》由会员分享，可在线阅读，更多相关《化学试验设计法中的回归分析讲稿.ppt（31页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、化学试验设计法中的回归分析1第一页，讲稿共三十一页哦多元回归有多种，除了多元线性、非线性回归外，其他多元回归有多种，除了多元线性、非线性回归外，其他如化学计量学中的主成分分析、偏最小二乘法、聚类分如化学计量学中的主成分分析、偏最小二乘法、聚类分析等也是比较常用的回归分析方法。析等也是比较常用的回归分析方法。多元线性回归多元线性回归是一种使用非常广泛的校正方法，在是一种使用非常广泛的校正方法，在均匀设均匀设计计中就要用到。中就要用到。2第二页，讲稿共三十一页哦对于一个多因素（对于一个多因素（X1、X2、Xn）的试验，试验响应指）的试验，试验响应指标为标为Y，如果，如果Y与各因素之间为线性关系，则

2、有：与各因素之间为线性关系，则有：（11）这里，这里，b b0 0为常数项，为常数项，b b1 1、b bn n称为多元线性回归的偏回归称为多元线性回归的偏回归系数。系数。和一元线性回归方法类似，用最小二乘法来确定建立模和一元线性回归方法类似，用最小二乘法来确定建立模型的系数，从而可以建立起型的系数，从而可以建立起Y对对Xi的线性回归方程。的线性回归方程。3第三页，讲稿共三十一页哦当当Xi取不同水平（如取不同水平（如m个水平）时，经过试验可以得到不个水平）时，经过试验可以得到不同的响应指标值同的响应指标值Yi：（12）注意这里注意这里mn1，想一想为什么？，想一想为什么？方程组（方程组（12）

3、可以用最小二乘法来确定）可以用最小二乘法来确定b0bn的值。的值。4第四页，讲稿共三十一页哦即：即：（13）同样的，为了得到极小值，对（同样的，为了得到极小值，对（13）式求导：）式求导：（14）5第五页，讲稿共三十一页哦方程组（方程组（1414）可变形为：）可变形为：(14)(14)(14)称为正规方程组，其方程数目与未知数数目相等。称为正规方程组，其方程数目与未知数数目相等。6第六页，讲稿共三十一页哦方程组方程组(14)(14)右边的系数矩阵为：右边的系数矩阵为：X XT TX Xm m而左边为：而左边为：X XT TY Y7第七页，讲稿共三十一页哦因此因此(14)式的矩阵形式就是：式的矩

4、阵形式就是：XTYXTXB （15）如果如果XTX的逆矩阵的逆矩阵(XTX)-1存在，则系数矩阵为：存在，则系数矩阵为：B(XTX)-1 XTY (16)如果将（如果将（16）式代入（）式代入（12）式，则有：）式，则有：YXBX(XTX)-1XTY (17)(17)式表示了实验值式表示了实验值Yi与拟和值与拟和值Yi的关系，可能很接的关系，可能很接近，也可能不相符，甚至相差很大。因而也需要对拟近，也可能不相符，甚至相差很大。因而也需要对拟和结果进行检验。和结果进行检验。8第八页，讲稿共三十一页哦对于多元回归分析，通常采用对于多元回归分析，通常采用复相关系数复相关系数r来评价拟和值来评价拟和值

5、Yi和实验值和实验值Yi之间的关系。之间的关系。根据方差分析的思想，将根据方差分析的思想，将Y的总差方和的总差方和ssT（total）分解为）分解为两部分，一部分是由自变量的变化引起的两部分，一部分是由自变量的变化引起的Y的波动，即回的波动，即回归差方和归差方和ssReg（regression）；另一部分是随机误差或其他未）；另一部分是随机误差或其他未知因素引起的波动，即残余差平方和知因素引起的波动，即残余差平方和ssRes（residual）。）。9第九页，讲稿共三十一页哦（18）ssT、ssReg、ssRes的自由度分别是的自由度分别是m-1,n,和和m-n-1。（19）r越接近越接近1，

6、说明，说明Y与自变量的相关性越好。与自变量的相关性越好。r在回归分析中是非常重要的指标。在回归分析中是非常重要的指标。但是应注意：但是应注意：r不仅是回归方程中自变量个数不仅是回归方程中自变量个数n的函数，还与观测的函数，还与观测水平数水平数m有关。当有关。当 m相对于相对于n不很大时，常有较大的不很大时，常有较大的r，特别是当，特别是当mn+1时，即使时，即使n个自变量与个自变量与y不相关，也恒有不相关，也恒有r=1(Q=0)。因而在实际。因而在实际计算中，要注意计算中，要注意m和和n的比例问题。的比例问题。一般认为，一般认为，m至少为至少为n的的5倍。倍。10第十页，讲稿共三十一页哦65

7、多元非线性回归多元非线性回归 多多元元非非线线性性回回归归是是另另一一个个很很常常用用的的回回归归方方法法，其其回回归归原原理也和一元非线性回归相似。理也和一元非线性回归相似。一般有两种方法：一般有两种方法：（1 1）变量代换法。变量代换法。（2 2）非线性最小二乘法，它就是采用最小二乘法估计）非线性最小二乘法，它就是采用最小二乘法估计非线性模型中的参数，从而建立非线性回归模型。非线性模型中的参数，从而建立非线性回归模型。一般的，当我们不知道回归模型时，则多元非线性回归一般的，当我们不知道回归模型时，则多元非线性回归可转化成可转化成多元多次多项式多元多次多项式进行拟合，这是基于泰勒展开进行拟合

8、，这是基于泰勒展开的基础。通过这样的转换即可对其进行多元非线性拟合的基础。通过这样的转换即可对其进行多元非线性拟合。11第十一页，讲稿共三十一页哦66 逐步回归分析法介绍（逐步回归分析法介绍（stepwise regression）在上一节中讨论了多元回归分析。当我们不知道指标（因变在上一节中讨论了多元回归分析。当我们不知道指标（因变量）和多个因素（自变量）之间的关系模型时，如何进行回归分量）和多个因素（自变量）之间的关系模型时，如何进行回归分析？析？还有，还有，在某些实际问题中可能有这样的情况：参加回在某些实际问题中可能有这样的情况：参加回归的归的n个变量个变量x1、x2、xn 中，单独观察

9、，有些因素与中，单独观察，有些因素与因变量因变量y的相关程度很密切，但当综合观察的相关程度很密切，但当综合观察n个因素与个因素与y的的相关性时，这些因素可能显得不太重要。相关性时，这些因素可能显得不太重要。12第十二页，讲稿共三十一页哦若把这些变量保留，不仅增加计算工作量，而且会增加回归方若把这些变量保留，不仅增加计算工作量，而且会增加回归方程的不稳定性，因此希望从程的不稳定性，因此希望从n个变量中选出与个变量中选出与y最密切、最具最密切、最具代表性的变量来描述代表性的变量来描述y变化的情况。即希望所得回归方程变化的情况。即希望所得回归方程包含一切对包含一切对y作用显著的因素，不包含对作用显著

10、的因素，不包含对y不显著的变量。不显著的变量。原因：原因：这些因素与这些因素与n个变量中的其他变量之间本来就有个变量中的其他变量之间本来就有相关关系，当做回归时，它们对相关关系，当做回归时，它们对y的作用被其他因子替的作用被其他因子替代了。代了。这时候就要用到这时候就要用到逐步回归分析法逐步回归分析法。逐步回归分析是在多元。逐步回归分析是在多元回归基础上派生出来的一种算法技巧。回归基础上派生出来的一种算法技巧。13第十三页，讲稿共三十一页哦逐步回归方法的基本思想：逐步回归方法的基本思想：对全部的自变量对全部的自变量x1,x2,.,xn,按它们对按它们对Y贡献的大小进行比较，贡献的大小进行比较，

11、并通过并通过F检验法，选择偏回归平方和显著的变量进入回归方程，检验法，选择偏回归平方和显著的变量进入回归方程，每一步只引入一个变量，同时建立一个偏回归方程。每一步只引入一个变量，同时建立一个偏回归方程。当一个变量被引入后，对原已引入回归方程的变量，逐个检当一个变量被引入后，对原已引入回归方程的变量，逐个检验他们的偏回归平方和。如果由于引入新的变量而使得已进验他们的偏回归平方和。如果由于引入新的变量而使得已进入方程的变量变为不显著时，则及时从偏回归方程中剔除。入方程的变量变为不显著时，则及时从偏回归方程中剔除。上面介绍的是上面介绍的是“逐步引入逐步引入”的方法。的方法。另外还有另外还有“逐步剔除

12、逐步剔除”、“有进有出有进有出”等方法。等方法。14第十四页，讲稿共三十一页哦自变量自变量x的显著性如何检验？的显著性如何检验？假定在假定在n个自变量中已经建立了个自变量中已经建立了x1、x2、xL对对y的回的回归方程，对各变量的贡献进行比较，找出最小贡献归方程，对各变量的贡献进行比较，找出最小贡献xj，要检验，要检验xj的显著性，则可由的显著性，则可由xj对对y的方差贡献的方差贡献Qj来衡量。来衡量。通常用通常用Qj与与x1、x2、xL的整体方差的整体方差Q之比之比Qj/Q来量来量度。度。采用采用F检验：检验：FFa a，说明，说明xj贡献较大，保留；贡献较大，保留；FFa a，则剔除，则剔

13、除xj。15第十五页，讲稿共三十一页哦在引入了两个自变量以后，便开始考虑是否有需要剔除的变在引入了两个自变量以后，便开始考虑是否有需要剔除的变量。只有当回归方程中的所有自变量对量。只有当回归方程中的所有自变量对Y都有显著影响而不都有显著影响而不需要剔除时，再考虑从未选入方程的自变量中，挑选对需要剔除时，再考虑从未选入方程的自变量中，挑选对Y有有显著影响的新的变量进入方程。不论引入还是剔除一个显著影响的新的变量进入方程。不论引入还是剔除一个变量都称为一步。变量都称为一步。这一过程不断被重复，直至无法剔除已引入的变量，也这一过程不断被重复，直至无法剔除已引入的变量，也无法再引入新的自变量时，逐步回

14、归过程结束。无法再引入新的自变量时，逐步回归过程结束。一般逐步回归分析都需要借助专用软件完成。一般逐步回归分析都需要借助专用软件完成。16第十六页，讲稿共三十一页哦逐步回归分析逻辑结构图逐步回归分析逻辑结构图输入基本参数、读入原始数据输入基本参数、读入原始数据计算各变量均值、离差矩阵、相关矩阵计算各变量均值、离差矩阵、相关矩阵开始逐步计算开始逐步计算是否为前三步？是否为前三步？是是否否引入处理引入处理剔除处理剔除处理是否剔除？是否剔除？是是否否是否引入？是否引入？否否结束处理，打印计算结果结束处理，打印计算结果对相关阵进行变换对相关阵进行变换是否有待预报样品？是否有待预报样品？否否结束结束预报

15、计算预报计算是是17第十七页，讲稿共三十一页哦多元线性回归举例。多元线性回归举例。例例14.已知水泥在凝固过程中放出的热量已知水泥在凝固过程中放出的热量y(J/g)与以下四种与以下四种成分的含量有关：成分的含量有关：x1:3CaOSiO2;x2:2CaOSiO2;x3:3CaOAl2O3;x4:4CaOAl2O3Fe2O3;原始数据如下表：原始数据如下表：具体具体处理理见EXCEL表。表。18第十八页，讲稿共三十一页哦试验号试验号mx1x2x3x4y(J/g)172666078.52129155274.331156820104.34113184787.6575263395.9611559221

16、05.27371176102.78131224472.59254182293.1102147426115.911140233483.8121160912113.3131068812109.419第十九页，讲稿共三十一页哦67 回归分析法常用软件介绍回归分析法常用软件介绍 1.EXCEL2.Origin3.SPSS5.MatLab4.Dabhttp:/ Package for the Social Science)社会社会科学应用软件包是世界上著名的统计分析软件之一。它和科学应用软件包是世界上著名的统计分析软件之一。它和SAS（Statistical Analysis System，统计分析系统

17、）、，统计分析系统）、BMDP（Biomedical Programs，生物医学程序）并称为国，生物医学程序）并称为国际上最有影响的三大统计软件。际上最有影响的三大统计软件。Dabhttp:/ Matlab是一种广泛应用于工程计算及数是一种广泛应用于工程计算及数值分析领域的新型高级语言值分析领域的新型高级语言。q自自 1984 年推向市场以来，历经二十多年年推向市场以来，历经二十多年的发展与竞争，现已成为国际公认的最优的发展与竞争，现已成为国际公认的最优秀的工程应用开发环境秀的工程应用开发环境。q 在欧美各高等院校，在欧美各高等院校，Matlab 已经成为线性代数、数值分析、数理统已经成为线性

18、代数、数值分析、数理统计、自动控制理论、数字信号处理、时间序列分析、动态系统仿真、图计、自动控制理论、数字信号处理、时间序列分析、动态系统仿真、图像处理等课程的基本教学工具像处理等课程的基本教学工具。q已成为大学生必须掌握的基本技能之一已成为大学生必须掌握的基本技能之一。qMatlab 功能强大、简单易学、编程效率高，深受广大科技工作者的欢迎功能强大、简单易学、编程效率高，深受广大科技工作者的欢迎。30第三十页，讲稿共三十一页哦Matlab:Matrix Laboratry，矩阵实验室矩阵实验室所以，所以，Matlab 能成为国际上最流行的科学与工程计算能成为国际上最流行的科学与工程计算的软件工具，是一种具有广泛应用前景的全新的计算机的软件工具，是一种具有广泛应用前景的全新的计算机高级编程语言。高级编程语言。31第三十一页，讲稿共三十一页哦