系统辨识与控制--ppt课件.ppt

《系统辨识与控制--ppt课件.ppt》由会员分享，可在线阅读，更多相关《系统辨识与控制--ppt课件.ppt（455页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、 学习的课程内容学习的课程内容Part I 理论教学理论教学第第1章章 辨识的一些基本概念辨识的一些基本概念内内 容：容： 系统和模型概念、建模方法、辨识定义、辨识问题的表达形式、系统和模型概念、建模方法、辨识定义、辨识问题的表达形式、 辨识算法的基本原理、误差准则、辨识的内容和步骤、辨识的应用。辨识算法的基本原理、误差准则、辨识的内容和步骤、辨识的应用。 内内 容：容： 随机过程的基本概念及其数学描述、谱密度函数、白噪声及其产随机过程的基本概念及其数学描述、谱密度函数、白噪声及其产生方法、生方法、 M序列的产生及其性质序列的产生及其性质第第2章章 随机信号的描述与分析随机信号的描述与分析第第

2、3章章 过程的数学描述过程的数学描述内内 容：容： 连续系统的输入输出模型、离散系统的输入输出模型、数学模连续系统的输入输出模型、离散系统的输入输出模型、数学模 型之间的等价变换、噪声模型及其分类。型之间的等价变换、噪声模型及其分类。 1ppt课件第第4章章 经典的辨识方法经典的辨识方法内内 容：容：Levy法、相关分析法、实验一辅导。法、相关分析法、实验一辅导。第第5章章 线性动态模型参数辨识（线性动态模型参数辨识（I II ）最小二乘法）最小二乘法 内内 容：容： 最小二乘法的基本概念、最小二乘问题的提法、最小二乘问题最小二乘法的基本概念、最小二乘问题的提法、最小二乘问题的解、最小二乘参数

3、估计的收敛性、最小二乘参数估计的几何解析、最小的解、最小二乘参数估计的收敛性、最小二乘参数估计的几何解析、最小二乘参数估计的统计性质、最小二乘参数估计的递推算法、最小二乘递推二乘参数估计的统计性质、最小二乘参数估计的递推算法、最小二乘递推算法的几种变形，增广最小二乘法、广义最小二乘法、辅助变量法、相关算法的几种变形，增广最小二乘法、广义最小二乘法、辅助变量法、相关二步法。二步法。2ppt课件第第6章章 梯度校正参数辨识方法梯度校正参数辨识方法内 容：确定性问题的梯度校正参数辨识方法 随机性问题的梯度校正法第第7章章 极大似然法极大似然法第第8章章 模型阶次辨识模型阶次辨识 内 容：Hankel

4、矩阵法、F-Test定阶法。第第9章章 系统辨识在实际中的应用系统辨识在实际中的应用3ppt课件参考书：参考书：1.方崇智、萧德云编著，方崇智、萧德云编著，过程辨识过程辨识，清华大学出版社，北京，清华大学出版社，北京3.蔡季冰编著，蔡季冰编著，系统辨识系统辨识，北京理工大学出版社，北京，北京理工大学出版社，北京预修课程：自动控制原理，概率统计与随机过程预修课程：自动控制原理，概率统计与随机过程 2.李言俊，张科编著，李言俊，张科编著，系统辨识理论及应用系统辨识理论及应用，国防工业出版社，北京，国防工业出版社，北京4ppt课件系统辨识基础系统辨识基础 第第1讲讲 第第1章章 辨识的一些基本概念辨

5、识的一些基本概念1.1 系统和模型 (第1讲)1.2 辨识的定义和三要素(第2讲)1.3 辨识算法的基本原理 (第2讲)1.4 辨识的步骤(第2讲) 1.5 线性系统辨识问题的表达形式(第3讲)1.6 线性系统辨识的误差准则及其关于参数空间的线性问题(第3讲)5ppt课件1.1 系统和模型1.1.1 系统1.1.2 模型1.1.3 建模方法6ppt课件1.1.1 系统 定义 System: A group of interacting, interrelated, or interdependent elements forming a whole （金山词霸）. An object in w

6、hich variables of different kinds interact and produce observable signals (Ljung) 其它课程、科学研究、工程实践、日常生活 严格定义 系统科学（不讨论）7ppt课件1.1.1 系统 例：带太阳能加热装置的房屋8ppt课件1.1.1 系统温度：感兴温度：感兴趣的可测输趣的可测输出出 以系统的观点看待太阳能加热装置泵速：可泵速：可控的输入控的输入室外环境室外环境:不可测的干扰输入不可测的干扰输入dz太阳辐射：可太阳辐射：可测的干扰测的干扰 输入输入u可测可测输入输入9ppt课件1.1.1 系统 太阳能加热系统框图激励激

7、励不可测干扰可测输入可测输出10ppt课件1.1.1 系统 系统：可以用如下框图来表示的客观对象 系统的要素未知干扰可测输入可测输出我们感兴趣的可测信号使z发生变化的可测信号使z发生变化的不可测信号信号之间的客观因果关系？11ppt课件1.1.1 系统 系统的分类(从f 的角度分)： 动态与静态（静态系统是动态系统的特例） 线性与非线性 离散与连续（1.观察值总是离散的；2.控制系统的输出在采样间隔内保持不变；3.采样间隔足够小）12ppt课件1.1.1 系统 线性动态系统 是一种理想化的假设，可以简化研究 工程实践中，很多系统可以近似看成线性系统13ppt课件1.1.2 模型(1) 数学模型

8、(2) 其它类型的模型(3) 模型的定义14ppt课件(1)数学模型不可测干扰?()f 假设的数学关系e什么是数学模型数学模型：对真实系统的变量间相互关系的假定性数学描述?综合误差15ppt课件(1)数学模型 数学模型的要素()f 假设的数学关系e系统的实际输出系统的实际输入综合误差直观：对d的模拟,ed（f f）,伪干扰本质：刻画u f z关系描述不了的部分( 未知d, f的误差)，强行补偿的手段u f z关系描述不了的误差,综合误差,方程误差,可以计算16ppt课件(1)数学模型 数学模型和真实系统的区别, ,u d fz可测输出不可测干扰可测输入()f 假设的数学关系e综合误差可测输入可

9、测输出,u zf eu z拟合关系17ppt课件(1)数学模型 数学模型的两类形式及其用途可测输出()f 假设的数学关系e综合误差可测输入f z系统分析系统设计预测(预测控制)性能监测与故障诊断仿真在线估计和软测量模型评价与系统辨识18ppt课件dff uuz z zuuzfff u(1)数学模型 数学模型的近似性和外特性等价de. .a szz从黑箱角度出发,外特性等价(统计意义)近似性模型是对真实系统本质信息的一种有用的描述19ppt课件(1)数学模型l 数学模型的分类(i)静态模型与动态模型(ii)确定性模型与随机性模型(iii)定常模型与时变模型(iv)集中参数与分布参数模型(v)线性

10、模型与非线性模型(vi)单变量与多变量模型(vii)连续与离散模型20ppt课件静态模型与动态模型 动态模型是用来描述过程出于过渡过程时的各状态变量之间的关系的，它们一般都是时间的函数。 而静态模型则是动态模型出于稳态时的表现，或者说静态模型是用来描述过程出于稳态时（各状态变量的各阶导数均为0）的各状态变量之间的关系的。它们一般不是时间的函数。21ppt课件确定性模型与随机模型 由确定性模型所描述的过程，当过程的状态确定以后，过程的输出响应是唯一确定的。 由随机性模型所描述的过程，即使过程的状态确定了，过程的输出响应仍然是不确定的。22ppt课件集中参数模型与分布参数模型 集中参数模型中模型的

11、各变量与空间位置无关，而把变量看作在整个系统中是均一的，对于稳态模型，其为代数方程，对于动态模型，则为常微分方程。 分布参数模型中至少有一个变量与空间位置有关，所建立的模型对于稳态模型为空间自变量的常微分方程，对于动态模型为空间、时间自变量的偏微分模型23ppt课件线性模型与非线性模型 线性模型用来描述线性过程，必定满足叠加原理和均匀性。非线性模型用来描述非线性过程，一般不满足叠加原理。另外需要注意的是： 系统线性和关于参数空间线性的区别系统线性和关于参数空间线性的区别 如果模型的输出关于输入变量是线性的，称之为系统线性。 如果模型的输出关于参数空间是线性的，称之为参数空间线性。 本质线性和本

12、质非线性的区别本质线性和本质非线性的区别 如果模型经过适当的数学变换可将原来是非线性的模型转变为线性模型，那么原来的模型称为本质线性，否则原来的模型称为本质非线性。24ppt课件(2)其它类型的模型 l 根据 的实现形式，模型的表现形式为物理模型“直觉”模型图表模型数学模型f25ppt课件(3) 模型的定义 定义1LJUNG：“模型就是对系统的变量之间的相互关系的一种假设性描述。” 定义2LJUNG：“一个系统的模型就是针对某种特定的目的、对该系统的某些特性的一种描述。” 定义3Eykhoff, 1974 ：“模型是把关于系统（过程）的本质的部分信息简缩成有用的描述形式。” 定义4徐南荣：“模

13、型是对系统（实体）的特征和它的变化规律的一种表示或抽象，而且往往是对系统（实体）中那些所要研究的特定的特征定量的抽象。” 定义5：模型是针对特定的应用，对系统中与该应用相关的那些信号（变量）之间的本质关系的一种假定性的近似描述。 26ppt课件1.1.3 建模方法l 机理建模， “白箱”建模，理论建模()f 假设的数学关系e机理分析(化学,物理,物料、能量平衡,传热传质)机理清楚不适合复杂系统“白箱”建模27ppt课件28ppt课件1.1.3 建模方法 辨识建模，实验建模，统计建模，“黑箱”建模()f 假设的数学关系e拟合,统计分析外特性等价适合复杂系统建模机理不清“黑箱”建模29ppt课件1

14、.1.3 建模方法 混合建模，“灰箱”建模 机理已知的部分采用机理建模，机理未知的部分采用辨识建模 利用机理建模确定模型的结构，利用辨识建模确定模型的参数 本课程的重点：辨识建模30ppt课件1.1.3 建模方法 建模的基本原则 目的性：建模的目的要明确； 实在性：模型的物理概念要明确； 可辨识性：模型结构要合理；输入信号要持续激励；数据要充足； 悭吝：在满足精度要求的前提下，待辨识的模型参数个数要尽可能少(模型复杂度, 过拟合)31ppt课件系统辨识基础系统辨识基础 第第2讲讲 第第1章章 辨识的一些基本概念辨识的一些基本概念1.1 系统和模型 (第1讲) 1.2 辨识的定义和三要素(第2讲

15、)1.3 辨识算法的基本原理 (第2讲)1.4 辨识的步骤(第2讲)1.5 线性系统辨识问题的表达形式(第3讲)1.6 线性系统辨识的误差准则及其关于参数空间的线性问题(第3讲)32ppt课件1.2 辨识的定义和三要素 辨识的定义1 Zadeh,1962：辨识就是在输入和输出数据的基础上，从一组给定的模型类中，确定一个与所测系统等价的模型。 辨识的定义2Ljung,1978 ：辨识就是按照一个准则在一组模型类中选择一个与数据拟合得最好的模型。 典型的黑箱建模33ppt课件1.2 辨识的定义和三要素l辨识定义所揭示的辨识基本思路在候选模型类中选择一个选择的依据？最好地拟合输入输出数据 输入输出数

16、据 什么是最好？定量的等价准则 l辨识三要素输入输出数据 模型类 (如系数待定的差分方程)等价准则( )f22(1)(1)( )( )JKzzz Lz LD未知34ppt课件1.3 辨识算法的基本原理 准备好三要素 u和z, 辨识原理( )f22(1)(1)( )( )JKzzz Lz L22minmin(1)(1)( )( )JKzzz Lz L ,( )zu f,min( (1)( ), (1)( ), )f KJzz L uu L?三要素(每个要素变化，都会影响辨识结果)35ppt课件1.3 辨识算法的基本原理l模型类 要素1要素1要素2要素3批处理递推36ppt课件1.4 辨识的步骤(

17、1)设计辨识实验，获取实验数据(2)选择模型类，即模型结构(3)选择等价准则 (4)求解优化问题，计算模型(5)模型校验(6)辨识步骤的重复(7)补充说明：参数辨识与结构辨识(8)辨识步骤图37ppt课件(1)设计辨识实验，获取实验数据l 数据集是辨识的三要素之一l 数据集性质影响辨识结果，u 数据集，因此要设计辨识实验(重点设计u) ,min( (1)( ), (1)( ), )f KJzz L uu L38ppt课件(1)设计辨识实验，获取实验数据l u 应该保证可辨识性 可辨识性：辨识结果唯一 数据不合适时，优化问题的解不唯一 输入信号为(2n阶)持续激励(n阶)系统可辨识 持续激励：定

18、义(略)，直观：信号要覆盖系统的全部频谱，要激励系统的所有模态,min( (1)( ), (1)( ), ) f KJzz L uu L解唯一39ppt课件(1)设计辨识实验，获取实验数据l u 应该保证辨识精度 辨识参数的精度 对于固定的数据集u、z 对于固定的数据集u、z，Cramer-Rao不等式 最优输入信号,arg min( , )f KJz u 1covM 00covE ,()covf K辨识算法0log( | )log( | )p zp zME 1min ()uL MFisher信息矩阵由u和系统特性决定40ppt课件 Cramer-Rao不等式不等式 考虑一个随机向量z，它在参

19、数 条件下的条件概率密度函数记作 。在一定的正则条件下，参数 的任何无偏估计值 都将满足下列不等式：其中，M为Fisher信息矩阵，定义为p z 100CovEM0log( |)log( |)Ezpp zzM 辨识输入信号的选择辨识输入信号的选择1.持续激励输入信号的要求持续激励输入信号的要求2.最优输入信号设计的要求最优输入信号设计的要求41ppt课件(1)设计辨识实验，获取实验数据l 设计u时还应考虑的其它因素 输入信号幅度不能太大，以免使工况进入非线性区； “净扰动”要小，正、负扰动机会均等（不影响工作点）； 工程易实现，成本低 l 设计实验时还应该考虑的因素 采样时间的设计 数据长度的

20、设计 42ppt课件(2)选择模型类，即模型结构l 模型类是辨识的三要素之一l 模型结构严重不合理时，模型的预测误差和准则函数值很可能无法达到可接受的水平：l 模型结构影响优化问题求解的难度和复杂度 l * 模型结构不合理时，可能影响系统的可辨识性，即上述优化问题的 解不唯一 （*不必掌握）,min( (1)( ), (1)( ), )f KJzz L uu L43ppt课件(2)选择模型类，即模型结构l 模型类的确定 依赖于对系统的先验知识、或工程人员的直觉和经验。 线性模型结构（如差分方程、传递函数、状态方程等）是人们在实际应用中所广泛选取的模型类。 44ppt课件(3)选择等价准则 l

21、等价准则是辨识的三要素之一l 影响辨识结果（例如，通过不同加权，使辨识对不同时间或不同频段模型误差赋予不同的重视程度）l 影响优化问题的求解难度和辨识算法的形式和复杂度,min( (1)( ), (1)( ), )f KJzz L uu L22(1)(1)( )( )JKzzz Lz L45ppt课件(3)选择等价准则 最常见的等价准则，加权平方和 2221(1)(1)( )( ) ( )( )( )LiJKzzz Lz Liz iz i46ppt课件(4)求解优化问题，计算模型 在(1)-(3)的基础上，求解 计算出辨识结果(3)(2),(1)(4)min( (1)( ), (1)( ),

22、)fKJzz L uu L 47ppt课件(5)模型校验 在上述步骤(1)-(3)中，每一步都存在着很多不同的选择 (1)-(3)的选择并不一定合理，(4)所得出的模型也不一定满意。因此，在得到模型后，必须通过各种手段来测试模型是否符合实际应用的要求。48ppt课件(5)模型校验 常见的模型校验手段有： 在实际应用中检验； 用不同时段的数据分别建立多个模型，检查模型特性一致性（零极点、增益、延迟等）； 利用不同时段的数据分别建立模型，然后交叉使用数据，比较模型的准则函数值； 增加数据长度，检查模型准则函数值的变化49ppt课件(6)辨识步骤的重复 当模型校验表明所得到的模型不可靠或不满意时，必

23、须重复(1)-(5 )50ppt课件(6)辨识步骤的重复 辨识步骤(1)设计辨识实验，获取实验数据(2)选择模型类，即模型结构(3)选择等价准则 (4)求解优化问题，计算模型(5)模型校验重复上述步骤，直到通过模型校验51ppt课件(7)补充说明：参数辨识与结构辨识l 参数辨识 参数辨识的内容 ：参数估计值 参数辨识的方法：步骤(4)l 结构辨识的内容 模型类的形式（结构）， 的形式 选定模型类后，确定参数的个数（例如，差分方程的阶次）f52ppt课件(7)补充说明：参数辨识与结构辨识l 结构辨识的方法（模型类的形式）：已包含在上述辨识步骤中： 假定结构(2) 选择等价准则(3) 求解优化问题

24、，计算模型(4) 模型检验(5) 修改结构的假定(2) 53ppt课件(7)补充说明：参数辨识与结构辨识 阶次辨识的方法（结构辨识的特殊情况） 假定阶次(2) 选择等价准则(3) 求解优化问题，计算模型(4) 校验(5)（采用专门用于检验阶次的准则函数） 修改阶次(2) 54ppt课件(8)辨识步骤图辨识目的先验知识实验设计输入输出信号检测存储模型结构设定辨识方法应用参数模型辨识非参数模型辨识模型结构辨识模型检验重新试验最终模型不合格合格经济指标任务实际经验预实验 操作条件等价准则55ppt课件系统辨识基础系统辨识基础 第第3讲讲 第第1章章 辨识的一些基本概念辨识的一些基本概念1.1 系统和

25、模型 (第1讲) (书1.1)1.2 辨识的定义和三要素(第2讲) (书1.2)1.3 辨识算法的基本原理 (第2讲) (书1.4)1.4 辨识的步骤(第2讲) (书1.6)1.5 线性系统辨识问题的表达形式(第3讲) (书1.3)1.6 线性系统辨识的误差准则及其关于参数空间的线性问题(第3讲) (书1.5)56ppt课件1.5线性系统辨识问题的表达形式(1)线性系统和线性模型类(2) 最小二乘格式57ppt课件(1)线性系统和线性模型类l 在工程实践中，当信号在工作点附近小范围变化时，很多系统都可以近似看成线性系统f58ppt课件(1)线性系统和线性模型类l 对于线性系统，可以选择线性模型

26、类待确定参数待确定参数任意形式的线性模型f59ppt课件, ,dfu d G Gz,( ),( ),ueu zGGeu z拟合关系l线性系统和线性模型的区别伪干扰补偿手段综合误差,方程误差60ppt课件(2)最小二乘格式 基于ARX模型的模型类111()1( )( )( )()()B zz ku ke kA zA z111(, )()eG zA z111()(, )()uB zGzA z11112112()1, ()ababnnnnA za za zB zb zb zb z 11() ( )() ( )( )A zz kB zu ke k61ppt课件(2)最小二乘格式 ARX模型最小二乘格式

27、( )(1)()(1)()abh kz kz knu ku kn 1212abnnaaabbb( )( )( )z khke k1212( )(1)(2)() (1)(2)()( )abnanbz ka z ka z ka z knbu kb u kb u kne k 最小二乘格式很多线性模型类都可以等价转换成最小二乘格式62ppt课件(2)最小二乘格式l 最小二乘格式模型类l 意义：统一的模型类,统一的辨识方法( )( )( )z khke k1212( )( )( )( )NNh kh kh khk待辨识，线性模型类数据向量方程误差63ppt课件(2)最小二乘格式 最小二乘格式模型类的要素

28、系统的可观测数据向量假定的变量间关系补偿手段方程误差综合误差不是真实的干扰 估计输出64ppt课件(2)最小二乘格式 线性模型化成最小二乘格式的规则(辨识算法的需要) 数据向量h中的元素必须是线性不相关的(保证将来的最小二乘算法有解)； 数据向量h中的所有元素必须是可测或可估计的 参数向量 必须包括模型中的所有独立参数；( )( )( )z khke k65ppt课件(2)最小二乘格式 线性系统与最小二乘模型类的比较客观的线性系统 人为假定的模型类 , ,u d fz,h zeh z拟合关系实际的干扰 方程误差 实际输入 数据向量 66ppt课件(2)最小二乘格式l 线性系统也可以表达成最小二

29、乘格式人为假定的模型类 ,h zeh z拟合关系方程误差 客观存在 干扰 (e)真实参数假定参数, h dz67ppt课件(2)最小二乘格式l 基于最小二乘格式，重新理解辨识的基本原理(第2讲，与图1.9有区别)要素1要素1要素2要素3批处理递推68ppt课件(2)最小二乘格式l 基于最小二乘格式，重新理解辨识的基本原理(第2讲，图1.9)( )( )z khk0( )( )( )z khkd k批处理递推(残差,新息)69ppt课件(2)最小二乘格式k 时刻的输出值预测：k 时刻的输出误差，或称为“新息”( )( ) (1)Tz khkkz kz kz kz kh kk1( )( )( )(

30、 )( ) ()70ppt课件原理：将新息(Innovation)“反馈”到辨识算法中去，依据该值修正“下一时刻”模型参数的估计值。此迭代过程不断进行下去，直至对应的准则函数取得最小值。反馈的又一功能。与神经网络的学习算法（Bp）算法相似。“辨识”的过程就是“学习”的过程。71ppt课件辨识的精度问题“时域评价结果”与“频域评价结果”不一致。设对象具有如下传递函数：辨识得到的模型为： 321( )2032131G ssss21( )32.412.61G sss72ppt课件以阶跃响应为评价指标：精度较高。以阶跃响应为评价指标：精度较高。010203040506070809010000.10.2

31、0.30.40.50.60.70.80.91Step ResponseTime (sec)Amplitude. 阶跃响应的对比73ppt课件0510152025303540455000.010.020.030.040.050.060.07Impulse ResponseTime (sec)Amplitude脉冲响应的对比74ppt课件-150-100-500Magnitude (dB)10-310-210-1100101102-270-180-900Phase (deg)Bode DiagramFrequency (rad/sec)频率特性的对比75ppt课件结论：1. 辨识得到的模型只是实际

32、过程的近似，需要有明确的评价指标；2. 不同的评价指标会得出不同的“精度评价”结果。提示：不必要一味追求“精确”的模型。评价标准：实际应用的效果。76ppt课件(2)最小二乘格式 关于参数空间线性的模型也可以化成最小二乘格式2221233312( )(1)(2)() (1)(2)()( )abnanbz ka zka zka zknbukb ukb ukne k 2233( )(1)()(1)()abh kzkzknukukn 1212abnnaaabbb( )( )( )z khke k77ppt课件(2)最小二乘格式 本质线性模型也可以化成最小二乘格式11222( )(1)(1)( )ab

33、z kzkukek22211ln ( )ln(1)ln(1)ln( )z kazkbukek 2211( )ln(1)ln(1), h kzkukab ( )( )( )z kh ke k78ppt课件1.6 线性系统辨识的误差准则及其关于参数空间的线性问题(1)引言(2) 输出误差准则(3)广义误差准则(4)输入误差准则79ppt课件(1)引言l 采用平方和准则函数21( )( )LiJz iz i除输出误差外，还可采用其它误差80ppt课件(2) 输出误差准则输出误差81ppt课件(2) 输出误差准则 误差准则的导数关于参数是非线性的11111() ( )() ( )( )()1( )(

34、)( )()()A zz kB zu kd kB zz ku kd kA zA z82ppt课件(2) 输出误差准则 如果扰动是作用在过程输出端的白噪声，那么选用这种误差准则就是理所当然的了。但是，输出误差的导数通常是模型参数的非线性函数，因此在这种误差准则意义下，辨识问题将归结成复杂的非线性最优化问题，需要用梯度法、牛顿法或共轭梯度法等迭代的最优化算法，这就使得辨识算法变得比较复杂。在实际应用中是否采用这种误差准则要视具体情况而定。83ppt课件(3) 广义误差准则广义误差84ppt课件(3) 广义误差准则误差准则的导数关于参数是线性的11111() ( )() ( )( )()1( )(

35、)( )()()A zz kB zu kd kB zz ku kd kA zA z85ppt课件(3) 广义误差准则l 广义误差准则的另一种解释（方程式误差）1212( )(1)(2)() (1)(2)()abnanbz ka z ka z ka z knbu kb u kb u kn 1212( )(1)(2)()(1)(2)()( )abnanbz ka z ka z ka z knbu kb u kb u kne k11() ( )() ( )( )A zz kB zu ke k另一种输出重构方法,最优预测11( )( )() ( )() ( )z kz kA zz kB zu k211

36、1() ( )() ( )LiJA zz kB zu k86ppt课件(4) 输入误差准则 输入误差87ppt课件(4) 输入误差准则 误差准则的导数关于参数是非线性的11111() ( )() ( )( )()1( )( )( )()()A zz kB zu kd kB zz ku kd kA zA z88ppt课件(4) 输入误差准则 如果扰动是作用在过程输入端的白噪声，那么选用这种误差准则也是自然的。但是，输入误差也是模型参数的非线性函数，辨识算法也是比较复杂的。这种误差准则现在几乎不用了，然后它的基本概念还是很重要的。89ppt课件系统辨识基础 第4讲第2章 随机信号的描述与分析2.1

37、 随机过程的基本概念及其数学描述（第4讲）2.2 谱密度函数（第4讲）2.3 线性过程在随机输入下的响应（第5讲）2.4 白噪声及其产生方法（书2.5）（第5讲）2.5 M序列的产生及其性质（书2.6）(第6讲)90ppt课件2.1 随机过程的基本概念及其数学描述2.1.1 基本概念2.1.2 随机过程的概率密度函数2.1.3 随机过程的数字特征2.1.4 平稳性、各态遍历性2.1.5 相关函数和协方差函数91ppt课件2.1.1 基本概念 一个例子： 质量一定、高度一定、初速度为0的自由落体运动的运动轨迹（高度-时间）x(t) ,可重复，确定性信号 当下落物体很轻时，考虑到空气阻力、风的影响

38、，上述自由落体的运动轨迹x(t)没有确定性的规律，不可重复，每次试验结果不同。一个试验结果样本函数92ppt课件2.1.1 基本概念93ppt课件2.1.1 基本概念 随机过程x(t) 不可重复，每次试验取得一个具体的试验结果xi(t)（确定性信号），又称为一个实现，或一个样本函数, i=1,2,3。 随机过程：所有可能的样本函数的集合，x(t) = x1(t), x2(t),xi(t)94ppt课件( )x t95ppt课件2.1.1 基本概念 随机过程的另一种定义 t=tk，x(tk)=x1(tk), x2(tk),xi(tk)，随机过程退化为随机变量 随机过程：不同时刻的随机变量的集合，

39、 x(t)=x (tk)，或者随机变量随时间的变化过程96ppt课件97ppt课件2.1.1 基本概念 如图，时间方向（时间t）和集合方向（样本函数的序号i） 先向下，再向右： x(t) 是不同时刻的随机变量的集合 先向右，再向下：x(t)是所有样本函数的集合，x(t)= x1(t), x2(t),xi(t)98ppt课件99ppt课件2.1.1 基本概念X(t)t连续 t离散X连续连续随机过程连续随机序列X离散离散随机过程离散随机序列100ppt课件2.1.2 随机过程的概率密度函数 一维概率密度函数： 对于特定时刻t1，x(t1)退化为随机变量，其概率密度函数为p (x, t1) p (x

40、, t1)dx描述了随机变量x(t1)（即随机过程x(t)在t1时刻）在x附近取值的概率101ppt课件102ppt课件2.1.2 随机过程的概率密度函数 二维概率密度函数： 同时考虑两个特定的时刻t1和t2， x(t1)，x(t2) 成为二维随机变量，其概率密度函数为p2(x1,x2; t1,t2) p2(x1,x2; t1,t2)dx1dx2描述了随机变量x(t1)（即随机过程x(t)在t1时刻）在x1附近取值、并且随机变量x(t2)（即随机过程x(t)在t2时刻）在x2附近取值的概率103ppt课件104ppt课件2.1.2 随机过程的概率密度函数 随机过程的多维概率密度函数 同时考虑多

41、个特定的时刻t1，t2， t3, (x(t1)，x(t2), x(t3),)成为多维随机变量 多维概率密度函数p2(x1,x2,x3,; t1,t2, t3) 不实用105ppt课件2.1.3 随机过程的数字特征(a)集合方向的数字特征（统计特征）(b)时间方向的统计特征106ppt课件(a)集合方向的数字特征 对于特定的t，从集合方向看，可以定义一维随机 变量x(t)的数字特征 均值或数学期望 方差 均方 上述数字特征是时间t的函数1( ) ( )( , )xtE x txp x t dx2221xxxtEx ttxtp x t dx( ) ( )( ) ( )( , )2221( )( )

42、( , )xtE x tx p x t dx107ppt课件108ppt课件(a)集合方向的数字特征 从集合方向看，对于两个特定时刻t1和t2，可以 定义二维随机变量(x(t1)，x(t2)的二维数字特征 自相关函数 协方差函数 二维数字特征是t1和t2的函数1212122121212( ,) ( ) ( )(,; ,)xR t tE x t x tx x px x t t dx dx 12112211222121212( ,) ( )( ) ( )( )( )( )(,; ,)xxxxxC t tEx ttx ttxtxtpx x t t dx dx 109ppt课件110ppt课件(a)集

43、合方向的数字特征 各数字特征之间的关系 基本的数字特征：自相关函数，均值2( )( , )xxtR t t=2( )( , )xxtR t t2222( )( )( )( , )( )xxxxxtttR t tt121212( ,)( ,)( )( )xxxxC t tR t ttt111ppt课件(b)时间方向的统计特征 对于特定的样本i，xi(t)成为一个确定性的样本函数。 把样本函数xi(t)看成各个时刻的样本取值xi(tk)的集合，则可以在时间方向上定义其统计特征112ppt课件(b)时间方向的统计特征 时间均值 时间方差 时间自相关函数12lim( )TiiTTxx t dtT221

44、2lim( )TiiiTTxx txdtT1 2( ) ()lim( )()TiiiiTTx t x tx t x tdtT113ppt课件114ppt课件2.1.4 平稳性、各态遍历性(1)平稳性(2)各态遍历性115ppt课件(1)平稳性 平稳性： 随机过程的统计性质不随时间改变，则称它为平稳随机过程 注意：指所有统计特性，最根本的是概率密度函数，如 p1(x,t) =p1(x)，高维复杂116ppt课件(1)平稳性 宽平稳性 平稳性要求太高，可以降低为只考虑均值和自相关函数（两个基本统计特征） 宽平稳随机过程：即均值不随时间改变、并且自相关函数只和t2和t1的时间差有关、而与起始时间t1

45、无关的随机过程，即( )xxt1221xxxR t tR ttR( ,)()( )117ppt课件118ppt课件119ppt课件(1)平稳性 宽平稳（平稳）随机过程的数字特征之间的关系（利用基本数字特征表达其它特征）220 xxE x tR( )( )( ) ( ) ()xRE x t x t2220 xxxxEx tR ( ) ( )2=xxxxxCEx tx tR( ) ( ) ()( )xE x t ( )120ppt课件(2)各态遍历性 出发点：希望用一个样本的时间方向的统计特征来估计随机过程的集合方向的数字特征 各态遍历随机过程：对于一个宽平稳随机过程，如果它集合方向的统计特征（集

46、合平均）与时间方向的统计特征（时间平均）相等（即 ) 则称其为宽平稳各态遍历的随机过程。,( )( ) ()xixiix Rx t x t121ppt课件(2)各态遍历性 对于各态遍历随机过程： 是平稳的 所有样本的时间平均都相等（与i无关） 所有样本的时间平均都等于随机过程的集合平均（严格的定义是当时间趋于无穷时，各种时间平均依概率1收敛于相应的集合平均）122ppt课件123ppt课件124ppt课件(2)各态遍历性 平稳各态遍历随机过程的统计特征的计算111 211( ) ( ) ()( ) ()lim( )()( )( ) ()xTiiiiTTNxiikRE x t x tx t x

47、tx t x tdtTR lx k x klN1112 ( )lim( )( )NTxiiiTTkE x txx t dtx kTN125ppt课件2.1.5 相关函数和协方差函数(1)自相关函数与协方差函数(2)互相关函数与互协方差函数(3)独立与互不相关(4)自相关函数的性质(5)互相关函数的性质(6)自协方差函数与互协方差函数的性质(7)相关函数与协方差函数的计算126ppt课件(1)自相关函数与协方差函数 对于平稳随机过程x(t)，可以定义如下的自相关函数和协方差函数 自相关函数 协方差函数( ) ( ) ()xRE x t x t( ) ( ) ()xxxCEx tx t127ppt

48、课件(2)互相关函数与互协方差函数 对于两个平稳随机过程x(t)和y(t)，可以定义如下的互相关函数和互协方差函数 互相关函数 互协方差函数 互相关函数与互协方差函数的关系( ) ( ) ()xyRE x t y t( ) ( ) ()xyxyCEx ty t( )( )xyxyxyCR 128ppt课件(3)独立与互不相关 两个随机过程互相独立：联合概率密度=边缘概率密度的乘积（边缘概率密度函数可以是高阶的） 两个随机过程互不相关的充要条件： 不是互不相关的充要条件， 但 是互不相关的充要条件 独立 互不相关0 ( ),xyC0( )xyR( )xyxyR 129ppt课件(4)自相关函数的

49、性质 自相关函数是偶函数 证明：2(0)=E00( ) ()xxRx t x t2(0)=E00( ) ()xxRx t x t( )=(- )xxRR( )=(- ) ( ) () () ( )xxRE x t x tE x tx tR130ppt课件(4)自相关函数的性质 自相关函数在=0时具有最大值 证明： ( )|(0)|xxRR2220202020 ( ) ()()( )()( )( )( )|( )| |( )|xxxxEx tx tx tE x tx tx tRRRR131ppt课件(4)自相关函数的性质 周期平稳过程的自相关函数也是具有相同周期的周期函数 ()( ) ( ) (

50、) ( ) ()xxRTE x t x tTE x t x tR132ppt课件(4)自相关函数的性质 x(t)中的直流成分使其相关函数向上平移 证明：2x222( )( )( ) ( ) () ( ) ()( )( )xxxxyxyxyxx ty tRE x t x tEy ty tRR 133ppt课件(4)自相关函数的性质 对于不含周期性成分的平稳随机过程，当|时， x(t)和x(t+)是互不相关的，即 (书上有误) 证明： 2 0( ) ( ) ( ),( )xxxRE x tE x tC 2C0 | | | | |lim( )lim ( ) ()lim ( ) ()lim( )xxx