回归分析设计.ppt

《回归分析设计.ppt》由会员分享，可在线阅读，更多相关《回归分析设计.ppt（37页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、回归分析回归分析 一、变量间的关系及回归分析的基本概念一、变量间的关系及回归分析的基本概念1.变量间的关系变量间的关系（1）确定性关系确定性关系或函数关系函数关系：研究的是确定现象非随机变量间的关系。（2）统计依赖）统计依赖或相关关系：相关关系：研究的是非确定现象随机变量间的关系。第一节第一节 概述概述2、变量的分类、变量的分类 自变量自变量：可以在某一范围内取确定数值的。：可以在某一范围内取确定数值的。因变量或随机变量因变量或随机变量：取值可观测，但不可：取值可观测，但不可控制的变量。控制的变量。3.回归分析的基本概念回归分析的基本概念回归分析回归分析(regression analysis

2、)(regression analysis)是研究一个变量关于另一个（些）变量的具体依赖关系的计算方法和理论。其目的其目的在于通过自变量的已知或设定值，去估计和（或）预测的因变量（总体）均值。线性回归分析线性回归分析 如果回归分析所建立的模型是线性的，就叫线性回归分析线性回归分析。回归方程回归方程 一元回归方程：多元回归方程：4.回归分析主要内容包括：回归分析主要内容包括：（1）根据样本观察值对模型参数进行估计，求得回归方程；（2）对回归方程、参数估计值进行显著性检验；（3）利用回归方程进行分析、评价及预测。二、最小二乘法二、最小二乘法 设设n次试验得到的观测数据为次试验得到的观测数据为（x

3、x1 1，y y1 1),(),(x x2 2，y y2 2),，（，（x xn n，y yn n）,则有则有 （i=1，2，n）即即 （i=1，2，n）取全部误差的平方和为取全部误差的平方和为 上式中只有上式中只有a a，b b是未知数，即是未知数，即QQ是是a a，b b的函数的函数,要找出一条总的看来最接近这要找出一条总的看来最接近这n n个观测点的直线，个观测点的直线，就是要求出使就是要求出使Q Q取得最小值的取得最小值的a a,b b（记作（记作 ，）.由于平方又叫做二乘方由于平方又叫做二乘方,因此把这种使因此把这种使“偏差平方偏差平方和为最小和为最小”的方法称为最小二乘法的方法称为

4、最小二乘法.这样求得的这样求得的 ，称为参数称为参数a a，b b的最小二乘估计的最小二乘估计，的求法如下的求法如下 解此方程组，可得解此方程组，可得为了方便记忆，引入记号为了方便记忆，引入记号 整理可得整理可得,于是有于是有 回归分析回归分析回归分析回归分析均匀设计表不具有正交性，不能像正交试验那样方便均匀设计表不具有正交性，不能像正交试验那样方便均匀设计表不具有正交性，不能像正交试验那样方便均匀设计表不具有正交性，不能像正交试验那样方便地进行方差分析。地进行方差分析。地进行方差分析。地进行方差分析。试验数据的处理比较复杂，对结果的分析计算最好运试验数据的处理比较复杂，对结果的分析计算最好运

5、试验数据的处理比较复杂，对结果的分析计算最好运试验数据的处理比较复杂，对结果的分析计算最好运用回归分析方法，一般采用用回归分析方法，一般采用用回归分析方法，一般采用用回归分析方法，一般采用多元多元多元多元线性回归线性回归线性回归线性回归（Multiple Multiple Linear RegressionLinear Regression，简称，简称，简称，简称MLRMLR）或）或）或）或逐步回归的方法。逐步回归的方法。逐步回归的方法。逐步回归的方法。（2 2）回归分析）回归分析）回归分析）回归分析下面通过例题讲述均匀试验结果的回归分析方法与步骤。下面通过例题讲述均匀试验结果的回归分析方法与

6、步骤。下面通过例题讲述均匀试验结果的回归分析方法与步骤。下面通过例题讲述均匀试验结果的回归分析方法与步骤。例：在啤酒生产过程的某项例：在啤酒生产过程的某项例：在啤酒生产过程的某项例：在啤酒生产过程的某项试验中，选择的因素有试验中，选择的因素有试验中，选择的因素有试验中，选择的因素有Z Z1 1（底水）和（底水）和（底水）和（底水）和Z Z2 2（吸氧时间），（吸氧时间），（吸氧时间），（吸氧时间），每个因素均取每个因素均取每个因素均取每个因素均取9 9个水平个水平个水平个水平。试。试。试。试验考核的指标验考核的指标验考核的指标验考核的指标y y为吸氧量为吸氧量为吸氧量为吸氧量（g g）。）。）

7、。）。因素因素因素因素水平水平水平水平Z Z1 1（底水）（底水）（底水）（底水）g gZ Z2 2（吸氧（吸氧（吸氧（吸氧时间时间时间时间）minmin 1 1136.5136.51701702 2137.0137.01801803 3137.5137.51901904 4138.0138.02002005 5138.5138.52102106 6139.0139.02202207 7139.5139.52302308 8140.0140.02402409 9140.5140.5250250n n这是一个这是一个这是一个这是一个2 2因素因素因素因素9 9水平的试验，选用水平的试验，选用水平

8、的试验，选用水平的试验，选用U U9 9（9 96 6）较合适。）较合适。）较合适。）较合适。因素及列号因素及列号因素及列号因素及列号x x1 1(Z(Z1 1)1 1x x2 2(Z(Z2 2)3 3y y（g g）1 11(136.5)1(136.5)4(200)4(200)5.85.82 22(137.0)2(137.0)8(240)8(240)6.36.33 33(137.5)3(137.5)3(190)3(190)4.94.94 44(138.0)4(138.0)7(230)7(230)5.45.45 55(138.5)5(138.5)2(180)2(180)4.04.06 66(1

9、39.0)6(139.0)6(220)6(220)4.54.57 77(139.5)7(139.5)1(170)1(170)3.03.08 88(140.0)8(140.0)5(210)5(210)3.63.69 99(140.5)9(140.5)9(250)9(250)4.14.1试验号试验号由由由由U U9 9（9 96 6）的使用表知，）的使用表知，）的使用表知，）的使用表知，因素因素因素因素Z Z1 1和因素和因素和因素和因素Z Z2 2依次安排依次安排依次安排依次安排在第在第在第在第1 1列和第列和第列和第列和第3 3列列列列1 1）建立回归方程建立回归方程建立回归方程建立回归方程

10、表表 均匀均匀试验试验方案及方案及试验结试验结果果因素及列号因素及列号因素及列号因素及列号x x1 1(Z(Z1 1)1 1x x2 2(Z(Z2 2)3 3y y（g g）1 11(136.5)1(136.5)4(200)4(200)5.85.82 22(137.0)2(137.0)8(240)8(240)6.36.33 33(137.5)3(137.5)3(190)3(190)4.94.94 44(138.0)4(138.0)7(230)7(230)5.45.45 55(138.5)5(138.5)2(180)2(180)4.04.06 66(139.0)6(139.0)6(220)6(2

11、20)4.54.57 77(139.5)7(139.5)1(170)1(170)3.03.08 88(140.0)8(140.0)5(210)5(210)3.63.69 99(140.5)9(140.5)9(250)9(250)4.14.1试验号试验号由由由由回归变换得到回归变换得到回归变换得到回归变换得到正正正正规规规规方程方程方程方程组为组为组为组为：解解解解联联联联立方程立方程立方程立方程组组组组，得到，得到，得到，得到b b1 1、b b2 2由由由由求得求得求得求得b b0 0n n设设设设回归方程为：回归方程为：回归方程为：回归方程为：2 2）线性变换线性变换线性变换线性变换 n

12、n为计算简便为计算简便为计算简便为计算简便，采用回归正交类似的，采用回归正交类似的，采用回归正交类似的，采用回归正交类似的方法，对因素方法，对因素方法，对因素方法，对因素Z Z1 1及因素及因素及因素及因素Z Z2 2的的的的各水平各水平各水平各水平作线性变换作线性变换作线性变换作线性变换：因素的零水平和因素的零水平和因素的零水平和因素的零水平和变变变变化区化区化区化区间见间见间见间见下表：下表：下表：下表：因素因素因素因素零水平零水平零水平零水平Z Zj0j0变变变变化区化区化区化区间间间间 j jZ Z1 11361360.50.5Z Z2 216016010102 2）线性变换线性变换线

13、性变换线性变换 例如：例如：例如：例如：，经过线性变换后，因素水平值恰好是均匀设计表经过线性变换后，因素水平值恰好是均匀设计表经过线性变换后，因素水平值恰好是均匀设计表经过线性变换后，因素水平值恰好是均匀设计表U U9 9（9 96 6）中相应的水平数字。）中相应的水平数字。）中相应的水平数字。）中相应的水平数字。表表 啤酒生产啤酒生产U9(96)均匀设计试验方案与结果均匀设计试验方案与结果 变换后的因素水平值正好是U9(96)相应列中的水平数字，如表所示。这样就大大简化了计算。于是：3 3）计算回归系数）计算回归系数）计算回归系数）计算回归系数 合计值计算合计值计算合计值计算合计值计算平均值

14、计算平均值计算平均值计算平均值计算 回归系数计算回归系数计算回归系数计算回归系数计算 3 3）计算回归系数）计算回归系数）计算回归系数）计算回归系数 回归系数计算回归系数计算回归系数计算回归系数计算 解解解解联联联联立方程立方程立方程立方程组组组组得到：得到：得到：得到：因而因而因而因而 回回回回归归归归方程方程方程方程为为为为：3 3）计算回归系数）计算回归系数）计算回归系数）计算回归系数 3-2-8 3-2-94 4）回归方程的显著性检验）回归方程的显著性检验）回归方程的显著性检验）回归方程的显著性检验 总平方和与自由度总平方和与自由度总平方和与自由度总平方和与自由度 回归平方与自由度回归

15、平方与自由度回归平方与自由度回归平方与自由度 3-2-8 3-2-9 误差平方误差平方误差平方误差平方和和和和与自由度与自由度与自由度与自由度计算计算计算计算F FK K值值值值查查F F表，得出表，得出表明回归方程显著。表明回归方程显著。3-2-8 3-2-94 4）回归方程的显著性检验）回归方程的显著性检验）回归方程的显著性检验）回归方程的显著性检验 由上式看出，指标由上式看出，指标由上式看出，指标由上式看出，指标 随因素随因素随因素随因素 增加而减小，随因素增加而减小，随因素增加而减小，随因素增加而减小，随因素 增加而增加，利用此方程可寻找试验范围内的增加而增加，利用此方程可寻找试验范围

16、内的增加而增加，利用此方程可寻找试验范围内的增加而增加，利用此方程可寻找试验范围内的最优工最优工最优工最优工艺条件艺条件艺条件艺条件，也可以对指标，也可以对指标，也可以对指标，也可以对指标 进行进行进行进行预测和控制预测和控制预测和控制预测和控制。根据根据根据根据则则 经变换，回归方程变为：经变换，回归方程变为：经变换，回归方程变为：经变换，回归方程变为：在发酵法生产肌苷中，培养基由葡萄糖、酵母粉、玉米浆、尿素、硫酸铵、磷酸氢二钠、氯化钾、硫酸镁和碳酸钙等成分组成,由于培养基成分较多，且通常采用的水平也较高，不便运用正交试验方法，拟通过均匀试验确定最佳培养基配方。1.确定试验指标 根据本试验目

17、的，以发酵液产肌苷量（mg/mL）作为试验指标，指标越大越好。2.选择试验因素与水平 根据专业知识和有关资料，选用(NH4)2SO4、葡萄糖、尿素、酵母和玉米浆5种成分为试验因素，每个因素至少取5个水平。3.确定试验次数 本试验考虑的因素共5个，考虑到有的因素与试验指标可能时二次关系，即至少要进行10次试验。利用利用Excel回归分析工具软件处理，获得回归方程回归分析工具软件处理，获得回归方程4.选择均匀设计表 根据因素个数以及确定的试验次数，每个因素可取10个水平，选取的因素水平如表7-9所示。故选用U10（1010）均匀表。表表 发酵法生产肌苷试验因素水平表发酵法生产肌苷试验因素水平表 5

18、.制定试验方案，并进行实验 根据U10(1010)表的使用表，当5个因素时，应安排1，2，3，5，7列上。因此将x1，x2，x3，x4和x5分别安排在第1、第2、第3、第5、第7列上。再把每列的水平代码换成相应因素的水平值，即得到试验方案如表。表表 肌苷生产均匀设计试验方案及结果肌苷生产均匀设计试验方案及结果 6.试验结果分析 对表7-10试验结果进行直观分析，第9号试验的试验指标（肌苷产量）最好，其对应的条件即为较优的工艺条件。u直接分析法u回归分析法 利用Excel回归分析工具软件，处理表7-10数据，以获得最优回归方程。建立最优回归方程设：拟构造的线性回归方程有如下形式：试验号x1x2x

19、3x4x5 y18.50.31.71.20.8520.87290.421.450.6517.1539.50.52.31.15121.094100.61.51.40.823.6510.50.71.81.10.623.486110.252.11.350.9523.4711.50.352.41.050.7517.878120.451.61.30.5526.17912.50.551.910.926.7910130.652.21.250.714.8a.回归系数的求解 对试验结果，采用Microsoft Excel回归分析工具软件处理，得自变量x1、x2、x3、x4、x5 的回归系数如下表：表表 肌苷制备

20、均匀设计试验方案及结果肌苷制备均匀设计试验方案及结果 Coefficients标准误差标准误差t StatP-valueIntercept42.9688221.395532.0083080.115021x10.7790910.8631370.9026270.417765x2-4.854558.631373-0.562430.603848x3-12.05454.315686-2.793190.049152x4-9.145458.631373-1.059560.349086x59.2818188.6313731.0753580.342754b.回归方程的建立 根据表中所求回归系数，建立的回归方程为

21、：7.4 均匀试验设计的应用表表 肌苷制备试验结果回归分析肌苷制备试验结果回归分析 dfSSMSF Significance F回归回归594.210118.842021.6721390.319323残差残差445.0728611.26822总计总计9139.283注：注：F0.01(5，4)=15.52 F0.05(5，4)=6.26 F0.25(5，4)=2.07 c.回归方程的显著性检验 经 F 检验，F 1.67 F0.05（5，4）6.26，所以回归方程不显著。由于采用上述回归系数构造的多元线性回归方程不显著。因此，必须重新构造回归方程。d.重新构造回归方程求解回归系数、建立回归方程

22、求解回归系数、建立回归方程试验号x1x2x4x5x11x33x44x55y18.50.31.20.8572.252.891.440.722520.87290.41.450.658142.10250.422517.1539.50.51.15190.255.291.3225121.094100.61.40.81002.251.960.6423.6510.50.71.10.6110.253.241.210.3623.486110.251.350.951214.411.82250.902523.4711.50.351.050.75132.255.761.10250.562517.878120.451.

23、30.551442.561.690.302526.17912.50.5510.9156.253.6110.8126.7910130.651.250.71694.841.56250.4914.8设：拟构造的回归方程为二次项，其表达形式如下：肌苷制备试验数据组成表肌苷制备试验数据组成表是否有其他的组成形式？Coefficients标准误差t StatP-valueIntercept75.022043.42070421.931760.029007x112.882340.29354343.885680.014504x2-4.851790.180012-26.95260.023609x4-106.321

24、3.339214-31.84020.019988x5-120.9962.216025-54.60040.011658x11-0.562950.013619-41.33480.015399x33-3.08950.023038-134.1050.004747x4439.664761.36149429.133250.021843x5584.048281.42403159.021370.010785 根据上述试验数据组成进行回归计算，得自变量x1、x2、x4、x5、x11、x33、x44、x55的回归系数如下：由此可得如下回归方程：dfSSMSFSignificance F回归回归8139.27811

25、7.409763551.3470.012977误差误差10.0049020.004902总计总计9139.283回归方程显著性检验 注：注：F0.01(8，1)=5981 F0.05(8，1)=239 经 F 检验，F 3551.35 F0.05（8，1）238，表明所建立的回归方程显著。因此，上述所建立的回归方程：最优回归方程.根据方程的极值条件，获得最佳组合条件,所以取,所以取,均匀设计和正交设计的比较均匀设计和正交设计的比较1。正交设计具有正交性。如果试验按它设计可以估计出因素的主效正交设计具有正交性。如果试验按它设计可以估计出因素的主效应，有时也能估出它们的交互效应应，有时也能估出它们

26、的交互效应 均匀设计是非正交设计它不可能估计出方差分析模型中的主效应均匀设计是非正交设计它不可能估计出方差分析模型中的主效应和交互效应，但是它可以估计出回归模型中因素的主效应和交互效应和交互效应，但是它可以估计出回归模型中因素的主效应和交互效应2。正交设计用于水平数不高的试验，因为它的试验数至少为水平数的正交设计用于水平数不高的试验，因为它的试验数至少为水平数的平方如有五个因素，每个因素取平方如有五个因素，每个因素取3l个水平，其全部组合有个水平，其全部组合有31528625151个。若用正交设计，至少需要做个。若用正交设计，至少需要做961312个试验。而用均匀个试验。而用均匀设计只需设计只需31次，所以均匀设计适合于多因素多水平试验次，所以均匀设计适合于多因素多水平试验 3。正交设计的数据分析程式简单，正交设计的数据分析程式简单，“直观分析直观分析”可以给出试验指标可以给出试验指标y随每个因素的水平变化的规律随每个因素的水平变化的规律 均匀设计的数据要用回归分析来处理，有时需用逐步回归等筛选均匀设计的数据要用回归分析来处理，有时需用逐步回归等筛选变量的技巧，非使用电脑和应用软件不可变量的技巧，非使用电脑和应用软件不可