智能检测理论与技术优秀PPT.ppt

《智能检测理论与技术优秀PPT.ppt》由会员分享，可在线阅读，更多相关《智能检测理论与技术优秀PPT.ppt（43页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、智能检测智能检测智能检测理论与技术智能检测理论与技术你现在浏览的是第一页，共43页智能检测智能检测第二章内容回顾第二章内容回顾一、一、系统类别与模型系统类别与模型二、二、检测系统的模型检测系统的模型三、检测系统静态特性三、检测系统静态特性四、检测系统动态特性四、检测系统动态特性五、五、基于机理的智能检测基于机理的智能检测你现在浏览的是第二页，共43页智能检测智能检测3.1 回归分析方法概述回归分析方法概述第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归分析回归分析回归分析是一种简单、实用而且成熟的确定变量间相回归分析是一种简单、实用而且成熟的确定变量间相关关系的方法。以关关系

2、的方法。以最小二乘原理最小二乘原理为基础的回归技术为基础的回归技术常用于线性模型的拟合。常用于线性模型的拟合。uu 线性关系线性关系线性关系线性关系t t 线性回归线性回归线性回归线性回归t t 非线性回归非线性回归非线性回归非线性回归uu 自变量数量自变量数量自变量数量自变量数量t t 一元回归分析一元回归分析一元回归分析一元回归分析t t 多元回归分析多元回归分析多元回归分析多元回归分析你现在浏览的是第三页，共43页智能检测智能检测3.1 回归分析方法概述回归分析方法概述第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归分析回归分析你现在浏览的是第四页，共43页智能检测智能

3、检测3.1 回归分析方法概述回归分析方法概述第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归分析回归分析uu 线性化线性化线性化线性化 在实践中，几个变量间的关系并不限于线性关系，更广泛在实践中，几个变量间的关系并不限于线性关系，更广泛在实践中，几个变量间的关系并不限于线性关系，更广泛在实践中，几个变量间的关系并不限于线性关系，更广泛地存在着非线性的相关关系。在解决非线性回归的问题中，可地存在着非线性的相关关系。在解决非线性回归的问题中，可地存在着非线性的相关关系。在解决非线性回归的问题中，可地存在着非线性的相关关系。在解决非线性回归的问题中，可以采用下面两种线性化方法：以采

4、用下面两种线性化方法：以采用下面两种线性化方法：以采用下面两种线性化方法：t t 通过变量变换的方法通过变量变换的方法通过变量变换的方法通过变量变换的方法，把非线性关系化成线性关系。，把非线性关系化成线性关系。，把非线性关系化成线性关系。，把非线性关系化成线性关系。需要确定曲线的函数类型。需要确定曲线的函数类型。需要确定曲线的函数类型。需要确定曲线的函数类型。t t 如果实际问题的曲线类型不易判断时，可如果实际问题的曲线类型不易判断时，可如果实际问题的曲线类型不易判断时，可如果实际问题的曲线类型不易判断时，可采用多项式进行采用多项式进行采用多项式进行采用多项式进行逼近逼近逼近逼近。因为任意曲线

5、都可以近似地用多项式表示。因为任意曲线都可以近似地用多项式表示。因为任意曲线都可以近似地用多项式表示。因为任意曲线都可以近似地用多项式表示。非线性回归一般都可以转化为线性回归。非线性回归一般都可以转化为线性回归。非线性回归一般都可以转化为线性回归。非线性回归一般都可以转化为线性回归。你现在浏览的是第五页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 线性回归线性回归uu 一元线性回归一元线性回归一元线性回归一元线性回归 两个变量两个变量两个变量两个变量x x x x、Y Y Y Y(随机变量随机变量随机变量随机变量

6、)，x x x x确定后，确定后，确定后，确定后，Y Y Y Y 按一定统计规律取值，有随按一定统计规律取值，有随按一定统计规律取值，有随按一定统计规律取值，有随机性。机性。机性。机性。Y Y Y Y的数学期望的数学期望的数学期望的数学期望E(E(E(E(Y Y Y Y)代替代替代替代替Y Y Y Y，研究，研究，研究，研究E(E(E(E(Y Y Y Y)和和和和x x x x的关系，近似表示的关系，近似表示的关系，近似表示的关系，近似表示x x x x和和和和Y Y Y Y的的的的关系。回归函数：关系。回归函数：关系。回归函数：关系。回归函数：一元线性回归函数：一元线性回归函数：一元线性回归

7、函数：一元线性回归函数：其中其中其中其中i i i i为待定系数，称为回归系数。为待定系数，称为回归系数。为待定系数，称为回归系数。为待定系数，称为回归系数。则随机变量则随机变量则随机变量则随机变量Y Y Y Y可以表示为线形部分可以表示为线形部分可以表示为线形部分可以表示为线形部分y y y y和随机部分的叠加，即和随机部分的叠加，即和随机部分的叠加，即和随机部分的叠加，即:其中其中其中其中为随机变量。为随机变量。为随机变量。为随机变量。你现在浏览的是第六页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 线性回归

8、线性回归uu 多元线性回归多元线性回归 假设因变量假设因变量假设因变量假设因变量Y Y Y Y(随机变量随机变量随机变量随机变量)的均值的均值的均值的均值E(E(E(E(Y Y Y Y)=)=)=)=y y y y可以表示成自变可以表示成自变可以表示成自变可以表示成自变量量量量 x x x xi i i i：1111i i i ip p p p 的线性组合，多元线性回归，即：的线性组合，多元线性回归，即：的线性组合，多元线性回归，即：的线性组合，多元线性回归，即：其中其中其中其中i i i i为待定系数，称为为待定系数，称为为待定系数，称为为待定系数，称为p p p p元线性回归函数的回归系数

9、。元线性回归函数的回归系数。元线性回归函数的回归系数。元线性回归函数的回归系数。你现在浏览的是第七页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归函数系数的估计回归函数系数的估计uu 一元回归系数确定一元回归系数确定一元回归系数确定一元回归系数确定，n n n n 次独立观测次独立观测次独立观测次独立观测 设设设设 0 0 0 0和和和和 1 1 1 1分别为分别为分别为分别为 0 0 0 0和和和和 1 1 1 1的估计，则的估计，则的估计，则的估计，则Y Y Y Y关于关于关于关于x x x x的线性回归

10、方程的线性回归方程的线性回归方程的线性回归方程表示为表示为表示为表示为 根据偏差最小准则，即最小二乘原理有根据偏差最小准则，即最小二乘原理有根据偏差最小准则，即最小二乘原理有根据偏差最小准则，即最小二乘原理有你现在浏览的是第八页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归函数系数的估计回归函数系数的估计uu 最小值存在，最小值存在，最小值存在，最小值存在，可以证明可以证明可以证明可以证明 0 0 0 0和和和和 1 1 1 1分别分别分别分别为为为为 0 0 0 0和和和和 1 1 1 1的最小方差无偏估计

11、。的最小方差无偏估计。的最小方差无偏估计。的最小方差无偏估计。你现在浏览的是第九页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归函数系数的估计回归函数系数的估计uu 可以证明可以证明可以证明可以证明 0 0 0 0和和和和 1 1 1 1分别为分别为分别为分别为 0 0 0 0和和和和 1 1 1 1的最小方差无偏估计，亦称的最小方差无偏估计，亦称的最小方差无偏估计，亦称的最小方差无偏估计，亦称最优线性无偏估计最优线性无偏估计最优线性无偏估计最优线性无偏估计。uu 多元线性回归多元线性回归多元线性回归多元线性

12、回归你现在浏览的是第十页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归系数显著性检验回归系数显著性检验回归系数显著性检验回归系数显著性检验uu 显著性检验显著性检验显著性检验显著性检验 对于一元线性回归，对于一元线性回归，对于一元线性回归，对于一元线性回归，1 1 1 1反映自变量反映自变量反映自变量反映自变量x x x x对随机变量对随机变量对随机变量对随机变量Y Y Y Y的影响程的影响程的影响程的影响程度，度，度，度，1 1 1 1大说明影响显著，有显著影响说明回归合理，回归效果好。如大说明影响显著，有

13、显著影响说明回归合理，回归效果好。如大说明影响显著，有显著影响说明回归合理，回归效果好。如大说明影响显著，有显著影响说明回归合理，回归效果好。如无影响，应选择有影响的自变量重新回归。无影响，应选择有影响的自变量重新回归。无影响，应选择有影响的自变量重新回归。无影响，应选择有影响的自变量重新回归。uu 显著性检验方法显著性检验方法显著性检验方法显著性检验方法t t F F F F 检验法检验法检验法检验法：检验自变量和因变量之间是否存在线性关系。：检验自变量和因变量之间是否存在线性关系。：检验自变量和因变量之间是否存在线性关系。：检验自变量和因变量之间是否存在线性关系。t t t t t t 检

14、验法检验法检验法检验法：检验每个自变量对因变量的影响是否显著。：检验每个自变量对因变量的影响是否显著。：检验每个自变量对因变量的影响是否显著。：检验每个自变量对因变量的影响是否显著。t t 相关系数检验法相关系数检验法相关系数检验法相关系数检验法：复相关系数衡量回归方程拟合品质，：复相关系数衡量回归方程拟合品质，：复相关系数衡量回归方程拟合品质，：复相关系数衡量回归方程拟合品质，偏相关系数评价每个自变量对因变量的作用。偏相关系数评价每个自变量对因变量的作用。偏相关系数评价每个自变量对因变量的作用。偏相关系数评价每个自变量对因变量的作用。你现在浏览的是第十一页，共43页智能检测智能检测3.2 线

15、性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归系数显著性检验回归系数显著性检验uu F F F F 检验法检验法t t 假设：假设：假设：假设：如果如果如果如果H HH H0 0 0 0成立，则不能认为成立，则不能认为成立，则不能认为成立，则不能认为X X X X与与与与y y y y有线性相关关系。有线性相关关系。有线性相关关系。有线性相关关系。t t 检验统计量：检验统计量：检验统计量：检验统计量：你现在浏览的是第十二页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检

16、测n 回归系数显著性检验回归系数显著性检验回归系数显著性检验回归系数显著性检验uu F F F F 检验法检验法检验法检验法t t 式中：式中：式中：式中：回归离差平方和回归离差平方和回归离差平方和回归离差平方和，反映回归值与平均值的偏差，反映回归值与平均值的偏差，反映回归值与平均值的偏差，反映回归值与平均值的偏差，揭示揭示揭示揭示y y y y与与与与X X X X的线性关系所引起的数据波动。的线性关系所引起的数据波动。的线性关系所引起的数据波动。的线性关系所引起的数据波动。残差平方和残差平方和残差平方和残差平方和，反映观测值与回归值的偏差，揭示，反映观测值与回归值的偏差，揭示，反映观测值与

17、回归值的偏差，揭示，反映观测值与回归值的偏差，揭示试验误差和非线性关系对试验结果所引起的数据波动。试验误差和非线性关系对试验结果所引起的数据波动。试验误差和非线性关系对试验结果所引起的数据波动。试验误差和非线性关系对试验结果所引起的数据波动。总离差平方和总离差平方和总离差平方和总离差平方和，反映观测值与平均值的偏差程度。，反映观测值与平均值的偏差程度。，反映观测值与平均值的偏差程度。，反映观测值与平均值的偏差程度。你现在浏览的是第十三页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测SSTSSTSSTSST你现在浏览的

18、是第十四页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归系数显著性检验回归系数显著性检验uu F F F F 检验法检验法检验法检验法 对给定的显著性水平对给定的显著性水平对给定的显著性水平对给定的显著性水平 （一般取（一般取（一般取（一般取1%1%1%1%或或或或5%5%5%5%），有：），有：），有：），有：-当当当当 时，拒绝时，拒绝时，拒绝时，拒绝 H H H H0 0 0 0，即可认为变量，即可认为变量，即可认为变量，即可认为变量y y y y与与与与X X X X 有线性有线性有线性有线性相关关系

19、。相关关系。相关关系。相关关系。-当当当当 时，接受时，接受时，接受时，接受 H H H H0 0 0 0 ，即可认为变量，即可认为变量，即可认为变量，即可认为变量y y y y与与与与X X X X没没没没有线性相关关系。有线性相关关系。有线性相关关系。有线性相关关系。-一般当一般当一般当一般当 时，则认为可以用时，则认为可以用时，则认为可以用时，则认为可以用X X X X的线性模型来拟合的线性模型来拟合的线性模型来拟合的线性模型来拟合 y y y y，即模型通过了，即模型通过了，即模型通过了，即模型通过了F F F F 检验。检验。检验。检验。你现在浏览的是第十五页，共43页智能检测智能检

20、测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归系数显著性检验回归系数显著性检验uu t t t t 检验法检验法检验法检验法t t 假设：假设：假设：假设：如果如果如果如果H HH H0 0 0 0成立，则不能认为成立，则不能认为成立，则不能认为成立，则不能认为x x x xi i i i与与与与y y y y有线性相关关系。有线性相关关系。有线性相关关系。有线性相关关系。t t 检验统计量：检验统计量：检验统计量：检验统计量：你现在浏览的是第十六页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于

21、回归分析的智能检测基于回归分析的智能检测n 回归系数显著性检验回归系数显著性检验uu t t 检验法检验法检验法检验法 对给定的显著性水平对给定的显著性水平对给定的显著性水平对给定的显著性水平 （一般取（一般取（一般取（一般取1%1%1%1%或或或或5%5%5%5%），有：），有：），有：），有：-当当当当 时，拒绝时，拒绝时，拒绝时，拒绝 H H H H0 0 0 0，即可认为，即可认为，即可认为，即可认为x x x xi i i i对对对对y y y y有影响。有影响。有影响。有影响。-当当当当 时，接受时，接受时，接受时，接受 H H H H0 0 0 0,即可认为即可认为即可认为即可认

22、为x x x xi i i i对对对对y y y y无关重要，无关重要，无关重要，无关重要，应该从回归方程中剔除。应该从回归方程中剔除。应该从回归方程中剔除。应该从回归方程中剔除。你现在浏览的是第十七页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归系数显著性检验回归系数显著性检验uu 相关系数检验法相关系数检验法相关系数检验法相关系数检验法衡量回归方程的拟合品质：定义衡量回归方程的拟合品质：定义衡量回归方程的拟合品质：定义衡量回归方程的拟合品质：定义复相关系数复相关系数复相关系数复相关系数R R R R（），

23、），），），R R R R 越接近于越接近于越接近于越接近于1 1 1 1，表明方程拟合得越好。，表明方程拟合得越好。，表明方程拟合得越好。，表明方程拟合得越好。（R R2 2称为复判定系数）称为复判定系数）称为复判定系数）称为复判定系数）你现在浏览的是第十八页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归系数显著性检验回归系数显著性检验uu 相关系数检验法相关系数检验法相关系数检验法相关系数检验法评价自变量评价自变量评价自变量评价自变量 x x x xj j j j 对因变量对因变量对因变量对因变量 y y

24、 y y 的作用：定义的作用：定义的作用：定义的作用：定义偏相关系数偏相关系数偏相关系数偏相关系数V V V Vj j j j ，V V V Vj j j j越大，越大，越大，越大，说明说明说明说明 x x x xj j j j 对对对对 y y y y 的作用越显著。的作用越显著。的作用越显著。的作用越显著。你现在浏览的是第十九页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归变量的选择回归变量的选择uu回归效果不显著的原因：回归效果不显著的原因：t t 影响影响影响影响y y y y 的因素除了自变量的因素

25、除了自变量x xi i (i i=1,2,=1,2,p p)之外，还之外，还之外，还之外，还有其他不可忽略的因素有其他不可忽略的因素有其他不可忽略的因素有其他不可忽略的因素;t t y y y y与自变量与自变量x x x xi i (i i i i=1,2,=1,2,p p p p)之间的关系不是线性的之间的关系不是线性的之间的关系不是线性的之间的关系不是线性的;t t y y与自变量与自变量x xi i (i i=1,2,=1,2,p p p p)之间无关。之间无关。相关系数相关系数你现在浏览的是第二十页，共43页智能检测智能检测3.2 线性回归分析方法线性回归分析方法第三章第三章 基于回

26、归分析的智能检测基于回归分析的智能检测n 回归变量的选择回归变量的选择uu 回归变量选择回归变量选择 选择恰当，获得最优经验回归函数，否则，影响回归函选择恰当，获得最优经验回归函数，否则，影响回归函选择恰当，获得最优经验回归函数，否则，影响回归函选择恰当，获得最优经验回归函数，否则，影响回归函数质量，抵消显著变量的作用。数质量，抵消显著变量的作用。数质量，抵消显著变量的作用。数质量，抵消显著变量的作用。uu 选择原则选择原则t t 包括所有显著变量；包括所有显著变量；t t 自变量个数尽可能少自变量个数尽可能少 ，减少计算量。，减少计算量。可以证明，相关系数检验，可以证明，相关系数检验，可以证

27、明，相关系数检验，可以证明，相关系数检验，F F F F检验和检验和检验和检验和t t t t检验三种检验方法的检验效果检验三种检验方法的检验效果检验三种检验方法的检验效果检验三种检验方法的检验效果是一样的。是一样的。是一样的。是一样的。你现在浏览的是第二十一页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归分析回归分析uu 变量分析变量分析 t t 石化系统石化系统t t 物料平衡，能量平衡物料平衡，能量平衡 uu 系统机理分析系统机理分析uu 系统先验知识系统先验知识你现在浏览的是第二十二页，共

28、43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归模型回归模型uu 过程系统回归模型过程系统回归模型 t t 石化系统石化系统t t 物料平衡，能量平衡物料平衡，能量平衡 uu 系统机理模型系统机理模型uu 系统先验知识系统先验知识你现在浏览的是第二十三页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 回归建模方法回归建模方法uu 过程系统回归建模过程系统回归建模 t t 石化系统石化系统t t 物料平衡，能量平衡

29、物料平衡，能量平衡 uu 系统动力学模型系统动力学模型uu 系统先验知识系统先验知识你现在浏览的是第二十四页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 选定回归变量选定回归变量 t t 回归变量回归变量t t 显著性检验显著性检验 uu 建立系统回归模型建立系统回归模型uu 优化回归模型优化回归模型uu 智能检测模型估计被测量智能检测模型估计被测量你现在浏览的是第二十五页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智

30、能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 多元逐步回归多元逐步回归uu 主元分析法主元分析法uu 部分最小二乘法部分最小二乘法部分最小二乘法部分最小二乘法为了避免矩阵求逆运算，可以采用为了避免矩阵求逆运算，可以采用递推最小二乘递推最小二乘递推最小二乘递推最小二乘，为了防止数据饱和还可以采用为了防止数据饱和还可以采用带遗忘因子的最小二带遗忘因子的最小二乘法乘法。你现在浏览的是第二十六页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智

31、能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 多元逐步回归多元逐步回归 （“最优回归方程最优回归方程”技术）技术）t t 多元逐步回归是从与多元逐步回归是从与多元逐步回归是从与多元逐步回归是从与y y y y有关的变量中选取对有关的变量中选取对有关的变量中选取对有关的变量中选取对y y y y有显著影响的变有显著影响的变有显著影响的变有显著影响的变量来建立回归方程的一种常用算法。量来建立回归方程的一种常用算法。量来建立回归方程的一种常用算法。量来建立回归方程的一种常用算法。t t 基本思想基本思想基本思想基本思想：对全部自变量按其对因变量影响程度的大小，从：对全部自变量按

32、其对因变量影响程度的大小，从：对全部自变量按其对因变量影响程度的大小，从：对全部自变量按其对因变量影响程度的大小，从大到小依次逐个地引入回归方程，而且随时对回归方程当前所大到小依次逐个地引入回归方程，而且随时对回归方程当前所大到小依次逐个地引入回归方程，而且随时对回归方程当前所大到小依次逐个地引入回归方程，而且随时对回归方程当前所含的全部自变量进行检验，看其对因变量的作用是否显著。不含的全部自变量进行检验，看其对因变量的作用是否显著。不含的全部自变量进行检验，看其对因变量的作用是否显著。不含的全部自变量进行检验，看其对因变量的作用是否显著。不显著则立即加以剔除。只有在回归方程中所含的所有因子对

33、因显著则立即加以剔除。只有在回归方程中所含的所有因子对因显著则立即加以剔除。只有在回归方程中所含的所有因子对因显著则立即加以剔除。只有在回归方程中所含的所有因子对因变量作用都显著时，才考虑引入新的因子，继而对它进行检验。变量作用都显著时，才考虑引入新的因子，继而对它进行检验。变量作用都显著时，才考虑引入新的因子，继而对它进行检验。变量作用都显著时，才考虑引入新的因子，继而对它进行检验。如此往复输入、剔除，直至无法引入新变量或剔除老变量为止。如此往复输入、剔除，直至无法引入新变量或剔除老变量为止。如此往复输入、剔除，直至无法引入新变量或剔除老变量为止。如此往复输入、剔除，直至无法引入新变量或剔除

34、老变量为止。你现在浏览的是第二十七页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 主元分析法主元分析法主元分析法主元分析法t t 在研究工业过程时，为了全面了解和分析问题，通常记录了许在研究工业过程时，为了全面了解和分析问题，通常记录了许在研究工业过程时，为了全面了解和分析问题，通常记录了许在研究工业过程时，为了全面了解和分析问题，通常记录了许多与之有关的变量。这些变量虽然不同程度的反映了过程的部分多与之有关的变量。这些变量虽然不同程度的反映了

35、过程的部分多与之有关的变量。这些变量虽然不同程度的反映了过程的部分多与之有关的变量。这些变量虽然不同程度的反映了过程的部分信息，但某些变量之间可能存在相关性，即当信息，但某些变量之间可能存在相关性，即当信息，但某些变量之间可能存在相关性，即当信息，但某些变量之间可能存在相关性，即当X X X X中存在中存在中存在中存在线性相关线性相关线性相关线性相关的变量的变量的变量的变量时，时，时，时，不存在，不能采用多元线性回归方法。若不存在，不能采用多元线性回归方法。若不存在，不能采用多元线性回归方法。若不存在，不能采用多元线性回归方法。若X X X X的的的的变量接近线性关系，则多元线性回归方法计算不

36、稳定。为了变量接近线性关系，则多元线性回归方法计算不稳定。为了变量接近线性关系，则多元线性回归方法计算不稳定。为了变量接近线性关系，则多元线性回归方法计算不稳定。为了解决线性回归时解决线性回归时解决线性回归时解决线性回归时由于数据共线性而导致病态协方差矩阵不由于数据共线性而导致病态协方差矩阵不由于数据共线性而导致病态协方差矩阵不由于数据共线性而导致病态协方差矩阵不可逆问题可逆问题可逆问题可逆问题，以及在尽可能保持，以及在尽可能保持，以及在尽可能保持，以及在尽可能保持原有信息的基础上减少变量个数原有信息的基础上减少变量个数原有信息的基础上减少变量个数原有信息的基础上减少变量个数，简化建模，可以采

37、用统计学中的简化建模，可以采用统计学中的简化建模，可以采用统计学中的简化建模，可以采用统计学中的主元分析主元分析主元分析主元分析和和和和主元回归方法主元回归方法主元回归方法主元回归方法。你现在浏览的是第二十八页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 主元分析法主元分析法t t 主元分析法是一种将多个相关变量转化为主元分析法是一种将多个相关变量转化为主元分析法是一种将多个相关变量转化为主元分析法是一种将多个相关变量转化为少数几个相互少数几个

38、相互少数几个相互少数几个相互独立的变量独立的变量独立的变量独立的变量的有效地分析方法。的有效地分析方法。的有效地分析方法。的有效地分析方法。t t 基本思想基本思想基本思想基本思想：主元分析的最终目的是在数据表中找到能概括原：主元分析的最终目的是在数据表中找到能概括原：主元分析的最终目的是在数据表中找到能概括原：主元分析的最终目的是在数据表中找到能概括原数据表中的信息或者能将一个高维空间进行降维处理。主元回数据表中的信息或者能将一个高维空间进行降维处理。主元回数据表中的信息或者能将一个高维空间进行降维处理。主元回数据表中的信息或者能将一个高维空间进行降维处理。主元回归解决了由于输入变量间的线性

39、相关而引起的计算问题。同时，归解决了由于输入变量间的线性相关而引起的计算问题。同时，归解决了由于输入变量间的线性相关而引起的计算问题。同时，归解决了由于输入变量间的线性相关而引起的计算问题。同时，由于忽略了那些次要的主元，还起到了抑制测量噪声对模型系由于忽略了那些次要的主元，还起到了抑制测量噪声对模型系由于忽略了那些次要的主元，还起到了抑制测量噪声对模型系由于忽略了那些次要的主元，还起到了抑制测量噪声对模型系统影响的作用。统影响的作用。统影响的作用。统影响的作用。你现在浏览的是第二十九页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智

40、能检测基于回归分析的智能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 主元分析法算法步骤主元分析法算法步骤t t （1 1 1 1）数据预处理，对）数据预处理，对）数据预处理，对）数据预处理，对X X X X、Y Y Y Y按列标准化按列标准化按列标准化按列标准化t t （2 2 2 2）求相关矩阵）求相关矩阵）求相关矩阵）求相关矩阵R R R Rt t （3 3 3 3）求）求）求）求R R R R的特征值和特征向量的特征值和特征向量的特征值和特征向量的特征值和特征向量P P P Pt t （4 4 4 4）根据特征值从大到小重新排列特征值和特征向量）根据特征值从大到小重

41、新排列特征值和特征向量）根据特征值从大到小重新排列特征值和特征向量）根据特征值从大到小重新排列特征值和特征向量P P P Pt t （5 5 5 5）计算主元贡献率）计算主元贡献率）计算主元贡献率）计算主元贡献率t t （6 6 6 6）计算累积主元贡献率，当其大于）计算累积主元贡献率，当其大于）计算累积主元贡献率，当其大于）计算累积主元贡献率，当其大于85%85%85%85%，记录主元个数，记录主元个数，记录主元个数，记录主元个数k k k kt t （7 7 7 7）计算主元矩阵）计算主元矩阵）计算主元矩阵）计算主元矩阵t t （8 8 8 8）计算回归系数）计算回归系数）计算回归系数）计

42、算回归系数你现在浏览的是第三十页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 部分最小二乘法部分最小二乘法（第二代回归分析方法）（第二代回归分析方法）t t PLS PLS PLS PLS是化学计量专家为了解决预测建模的问题，根据启发式推理是化学计量专家为了解决预测建模的问题，根据启发式推理是化学计量专家为了解决预测建模的问题，根据启发式推理是化学计量专家为了解决预测建模的问题，根据启发式推理和直觉提出来的。和直觉提出来的。和直觉提出来的。和直

43、觉提出来的。PLSPLSPLSPLS方法将高维数据空间投影到低维特征空间，方法将高维数据空间投影到低维特征空间，方法将高维数据空间投影到低维特征空间，方法将高维数据空间投影到低维特征空间，得到相互正交的特征向量，再建立特征向量之间的一元线性回归关得到相互正交的特征向量，再建立特征向量之间的一元线性回归关得到相互正交的特征向量，再建立特征向量之间的一元线性回归关得到相互正交的特征向量，再建立特征向量之间的一元线性回归关系。系。系。系。正交特征投影使正交特征投影使正交特征投影使正交特征投影使PLSPLSPLSPLS有效地克服了普通最小二乘回归的共有效地克服了普通最小二乘回归的共有效地克服了普通最小

44、二乘回归的共有效地克服了普通最小二乘回归的共线性问题线性问题线性问题线性问题。同时同时同时同时PLSPLSPLSPLS方法将多元回归问题转化为若干个一元回归，方法将多元回归问题转化为若干个一元回归，方法将多元回归问题转化为若干个一元回归，方法将多元回归问题转化为若干个一元回归，适用于样本数较少且变量数较多的过程建模。适用于样本数较少且变量数较多的过程建模。适用于样本数较少且变量数较多的过程建模。适用于样本数较少且变量数较多的过程建模。与主元回归相比，与主元回归相比，与主元回归相比，与主元回归相比，PLSPLSPLSPLS在选取特征向量时强调输入对输出的预测作用，去除了对回归在选取特征向量时强调

45、输入对输出的预测作用，去除了对回归在选取特征向量时强调输入对输出的预测作用，去除了对回归在选取特征向量时强调输入对输出的预测作用，去除了对回归无益的噪声，使模型包含最少的变量数，因此无益的噪声，使模型包含最少的变量数，因此无益的噪声，使模型包含最少的变量数，因此无益的噪声，使模型包含最少的变量数，因此PLSPLSPLSPLS具有更好的具有更好的具有更好的具有更好的鲁棒鲁棒鲁棒鲁棒性和预测稳定性性和预测稳定性性和预测稳定性性和预测稳定性。你现在浏览的是第三十一页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测

46、n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu 部分最小二乘法部分最小二乘法（第二代回归分析方法）（第二代回归分析方法）t t 部分最小二乘回归法可以集部分最小二乘回归法可以集部分最小二乘回归法可以集部分最小二乘回归法可以集多元回归分析多元回归分析多元回归分析多元回归分析，典型相关分典型相关分典型相关分典型相关分析析析析和和和和主元分析主元分析主元分析主元分析的基本功能为一体，将建模预测类型的数据分的基本功能为一体，将建模预测类型的数据分的基本功能为一体，将建模预测类型的数据分的基本功能为一体，将建模预测类型的数据分析方法和非模型式的数据认识分析方法有机的结合起来。析方法和非模型

47、式的数据认识分析方法有机的结合起来。析方法和非模型式的数据认识分析方法有机的结合起来。析方法和非模型式的数据认识分析方法有机的结合起来。t t 基本思想基本思想基本思想基本思想：部分最小二乘回归法与普通多元回归分析方：部分最小二乘回归法与普通多元回归分析方：部分最小二乘回归法与普通多元回归分析方：部分最小二乘回归法与普通多元回归分析方法在思路上的主要区别就是它在回归建模过程中采用了法在思路上的主要区别就是它在回归建模过程中采用了法在思路上的主要区别就是它在回归建模过程中采用了法在思路上的主要区别就是它在回归建模过程中采用了信信信信息综合与筛选技术息综合与筛选技术息综合与筛选技术息综合与筛选技术

48、。还有就是它不直接考虑因变量集合与自。还有就是它不直接考虑因变量集合与自。还有就是它不直接考虑因变量集合与自。还有就是它不直接考虑因变量集合与自变量集合的回归模型，而是在变量系统中提取若干对系统变量集合的回归模型，而是在变量系统中提取若干对系统变量集合的回归模型，而是在变量系统中提取若干对系统变量集合的回归模型，而是在变量系统中提取若干对系统具有最佳解释能力的新综合变量。具有最佳解释能力的新综合变量。具有最佳解释能力的新综合变量。具有最佳解释能力的新综合变量。你现在浏览的是第三十二页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检

49、测基于回归分析的智能检测n 基于回归模型的智能检测原理基于回归模型的智能检测原理uu PLSPLS在统计应用中的重要性在统计应用中的重要性t t PLS PLS PLS PLS是一种是一种是一种是一种多因变量对多自变量多因变量对多自变量多因变量对多自变量多因变量对多自变量的回归建模方法；的回归建模方法；的回归建模方法；的回归建模方法；t t PLS PLS PLS PLS可以较好地解决许多以往普通多元回归解决不了的问题：可以较好地解决许多以往普通多元回归解决不了的问题：可以较好地解决许多以往普通多元回归解决不了的问题：可以较好地解决许多以往普通多元回归解决不了的问题：-更好地解决多重相关性在系

50、统建模中的不良影响；更好地解决多重相关性在系统建模中的不良影响；更好地解决多重相关性在系统建模中的不良影响；更好地解决多重相关性在系统建模中的不良影响；-不用受到样本点数太少的限制。不用受到样本点数太少的限制。不用受到样本点数太少的限制。不用受到样本点数太少的限制。t t PLS PLS PLS PLS实现了实现了实现了实现了多种数据分析方法多种数据分析方法多种数据分析方法多种数据分析方法的综合应用。的综合应用。的综合应用。的综合应用。你现在浏览的是第三十三页，共43页智能检测智能检测3.3 基于回归分析的智能检测基于回归分析的智能检测第三章第三章 基于回归分析的智能检测基于回归分析的智能检测