第13章--状态空间模型和卡尔曼滤波(第三版)ppt课件.ppt

《第13章--状态空间模型和卡尔曼滤波(第三版)ppt课件.ppt》由会员分享，可在线阅读，更多相关《第13章--状态空间模型和卡尔曼滤波(第三版)ppt课件.ppt（95页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目第十三章第十三章第十三章第十三章 状态空间模型和卡尔曼滤波状态空间模型和卡尔曼滤波状态空间模型和卡尔曼滤波状态空间模型和卡尔曼滤波 上上世世纪纪60年年代代初初，由由于于工工程程控控制制领领域域的的需需要要，产产生生了了卡卡尔尔曼曼滤滤波波 (KalmanFiltering)。进进入入70年年代代初初，人人们们明明确确提提出出了了状状态态空空间间模模型型的的标标准准形形式式，并并开开始始将将其其应应用用到到经经济济领领域域。80年年代代以以后后，状状态态空空间间模模型型已已成成

2、为为一一种种有有力力的的建建模模工工具具。许许多多时时间间序序列列模模型型，包包括括典典型型的的线线性性回回归归模模型型和和ARIMA模模型型都都能能作作为为特特例例写写成成状状态态空空间间的的形形式式，并并估估计计参参数数值值。在在计计量量经经济济学学文文献献中中，状状态态空空间间模模型型被被用用来来估估计计不不可可观观测测的的时时间间变变量量：理理性性预预期期，测测量量误误差差，长长期期收收入入，不不可可观观测测因因素素（趋趋势势和和循循环环要要素素）。状状态态空空间间模模型型在在经经济济计计量量学学领领域域其其他他方面的大量应用请参见方面的大量应用请参见Harvey（1989）和）和Ha

3、milton（1994）。1认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目 在在一一般般的的统统计计模模型型中中出出现现的的变变量量都都是是可可以以观观测测到到的的，这这些些模模型型以以反反映映过过去去经经济济变变动动的的时时间间序序列列数数据据为为基基础础，利利用用回回归归分分析析或或时时间间序序列列分分析析等等方方法法估估计计参参数数，进进而而预预测测未未来来的的值值。状状态态空空间间模模型型的的特特点是提出了点是提出了“状态状态状态状态”这一概念。这一概念。而而实实际际上上，无无论论是是工工程程控控制制问问题题中中出

4、出现现的的某某些些状状态态（如如导导弹弹轨轨迹迹的的控控制制问问题题）还还是是经经济济系系统统所所存存在在的的某某些些状状态态都都是是一一种种不不可可观观测测的的变变量量，正正是是这这种种观观测测不不到到的的变变量量反反映映了了系系统统所所具具有有的的真真实实状状态态，所所以以被被称称为为状状状状态态态态向向向向量量量量。这这种种含含含含有有有有不不不不可可可可观观观观测测测测变变变变量量量量的的的的模模模模型型型型被被被被称称称称为为为为UCUC模模模模型型型型(UnobservableComponentModel)。2认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家

5、对扶贫工作高度重视，已经展开了“精准扶贫”项目UC模模型型通通过过通通常常的的回回归归方方程程式式来来估估计计是是不不可可能能的的，必必须须利利用用状状态态空空间间模模型型来来求求解解。状状状状态态态态空空空空间间间间模模模模型型型型建建建建立立立立了了了了可可可可观观观观测测测测变变变变量量量量和和和和系系系系统统统统内内内内部部部部状状状状态态态态之之之之间间间间的的的的关关关关系系系系，从从而而可可以以通通过过估估计计各各种种不不同同的的状状态态向向量量达达到到分分析析和和观测的目的。观测的目的。EViews状状态态空空间间对对象象对对单单方方程程或或多多方方程程动动态态系系统统提提供供

6、了了一一个个直直接接的的、易易于于使使用用的的界界面面来来建建立立、估估计计及及分分析析方方程程结结果果。它它提提供供了了大大量量的的建建立立、平平滑滑、滤滤波波及及预预测测工工具具，帮帮助助我我们们利利用用状状态态空空间间形形式式来来分析动态系统。分析动态系统。3认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目利用状态空间形式表示动态系统主要有两个优点：利用状态空间形式表示动态系统主要有两个优点：第第一一，状状态态空空间间模模型型将将不不可可观观测测的的变变量量(状状态态变变量量)并并入入可可观观测测模型并与其一起得到估计

7、结果；模型并与其一起得到估计结果；其其次次，状状态态空空间间模模型型是是利利用用强强有有效效的的递递归归算算法法卡卡卡卡尔尔尔尔曼曼曼曼滤滤滤滤波波波波来来估估计计的的。卡卡尔尔曼曼滤滤波波可可以以用用来来估估计计单单变变量量和和多多变变量量的的ARMA模模型型、MIMIC（多多指指标标和和多多因因果果）模模型型、马马尔尔可可夫夫转转换换模模型型以以及及变变参参数数模模型。型。4认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.113.1状态空间模型的定义状态空间模型的定义状态空间模型的定义状态空间模型的定义 在本节中，

8、我们仅就如何定义并预测一个线性状态空间模型做以在本节中，我们仅就如何定义并预测一个线性状态空间模型做以简要的讨论。状态空间模型一般应用于多变量时间序列。设简要的讨论。状态空间模型一般应用于多变量时间序列。设yt是包含是包含k 个经济变量的个经济变量的k 1维可观测向量。这些变量与维可观测向量。这些变量与m 1维向量维向量 t 有关有关，t t 被称为状态向量被称为状态向量被称为状态向量被称为状态向量。定义。定义“量测方程量测方程量测方程量测方程”(measurementequation)或称或称“信信信信号方程号方程号方程号方程”(signalequation)为为(13.1.1)其其中中：T

9、 表表示示样样本本长长度度，Z Zt t 表表示示k m 矩矩阵阵，称称为为量量量量测测测测矩矩矩矩阵阵阵阵，dt 表表示示k 1向向量量，ut 表表示示k 1向向量量，是是均均值值为为0，协协方方差差矩矩阵阵为为Ht 的的不不相相关关扰扰动项，即动项，即(13.1.2)5认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目一一般般地地，t t 的的的的元元元元素素素素是是是是不不不不可可可可观观观观测测测测的的的的，然然而而可可表表示示成成一一阶阶马马尔尔可可夫夫(Markov)过过程程。下下面面定定义义转转转转移移移移方方方

10、方程程程程(transitionequation)或或称称状状状状态态态态方方方方程程程程(stateequation)为为(13.1.3)其其中中：T Tt t 表表示示m m 矩矩阵阵，称称为为状状状状态态态态矩矩矩矩阵阵阵阵，ct 表表示示m 1向向量量，Rt 表表示示m g 矩矩阵阵，t 表表示示g 1向向量量，是是均均值值为为0，协协方方差差矩矩阵阵为为Qt 的的连连续续的的不不相关扰动项，即相关扰动项，即(13.1.4)量测方程和状态方程的扰动项的协方差矩阵用量测方程和状态方程的扰动项的协方差矩阵用 表示表示6认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家

11、对扶贫工作高度重视，已经展开了“精准扶贫”项目当当k 1时，变为单变量模型，量测方程可以写为时，变为单变量模型，量测方程可以写为(13.1.5)其其中中：Zt 表表示示1 m 矩矩阵阵，t 表表示示m 1状状态态向向量量，ut 是是方方差差为为 2的的扰动项扰动项。7认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目若使上述的状态空间模型成立，还需要满足下面两个假定：若使上述的状态空间模型成立，还需要满足下面两个假定：(1)初始状态向量初始状态向量 0的均值为的均值为a0，协方差矩阵为协方差矩阵为P0，即即(13.1.6)(2

12、)在在所所有有的的时时间间区区间间上上，扰扰动动项项ut 和和 t 相相互互独独立立，而而且且它它们们和和初初始状态始状态 0也不相关，即也不相关，即(13.1.7)且且(13.1.8)8认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目量量测测方方程程中中的的矩矩阵阵Zt,dt,Ht 与与转转移移方方程程中中的的矩矩阵阵Tt,ct,Rt,Qt 统统称称为为系系系系统统统统矩矩矩矩阵阵阵阵。如如不不特特殊殊指指出出，它它们们都都被被假假定定为为非非随随机机的的。因因此此，尽尽管管它它们们能能随随时时间间改改变变，但但是是都都是

13、是可可以以预预先先确确定定的的。对对于于任任一一时时刻刻t，yt 能能够够被被表表示示为为当当前前的的和和过过去去的的ut 和和 t 及及初初始始向向量量 0的线性组合，所以模型是线性的。的线性组合，所以模型是线性的。9认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目例例例例13.113.1一阶移动平均模型一阶移动平均模型一阶移动平均模型一阶移动平均模型MA(1)MA(1)(13.1.9)其其中中：E(t)=0，var(t)=2，cov(t,t-s)=0,通通过过定定义义状状态态向向量量 t=(yt,t)可以写成状态空间形式

14、可以写成状态空间形式量量测测方方程程：(13.1.10)状状态态方方程程：(13.1.11)这种形式的特点是不存在量测方程噪声。这种形式的特点是不存在量测方程噪声。10认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目 对对于于任任何何特特殊殊的的统统计计模模型型，状状态态向向量量 t 的的定定义义是是由由结结构构确确定定的的。它它的的元元素素一一般般包包含含具具有有实实际际解解释释意意义义的的成成分分，例例如如趋趋势势或或季季节节要要素素。状状态态空空间间模模型型的的目目标标是是，所所建建立立的的状状态态向向量量 t 包包含

15、含了了系系统统在在时时刻刻 t 的的所所有有有有关关信信息息，同同时时又又使使用用尽尽可可能能少少的的元元素素。所所以以如如果果状状态态空空间间模模型型的的状状态态向向量量具具有有最最小小维维数数，则则称称为为 最最最最 小小小小 实实实实 现现现现(MinimalRealization)。对对一一个个好好的的状状态态空空间间模模型型，最最小小实实现现是是一一个个基基本本准准则则。然然而而对对于于任任一一特特殊殊问问题题的的状状态态空空间间模模型型的的表表示示形形式式却却不不是是惟惟一一的的，这一点很容易验证。这一点很容易验证。考考虑虑通通过过定定义义一一个个任任意意的的非非奇奇异异矩矩阵阵B

16、，得得到到 t*=B t ，为为新新的状态向量。用的状态向量。用B 矩阵左乘状态方程矩阵左乘状态方程(13.1.3)，得到，得到(13.1.12)式中式中Tt*=BTt B-1，ct*=Bct，Rt*=BRt。相应的量测方程是。相应的量测方程是(13.1.13)式中式中Zt*=Zt B-1 。11认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目例例13.2二阶自回归模型二阶自回归模型AR(2)(13.1.14)其其中中：E(ut)=0，var(ut)=2，cov(ut,ut-s)=0,考考虑虑两两个个可可能能的的状状态态空空

17、间间形式形式(k=1,m=2)是是(13.1.15)(13.1.16)换一种形式换一种形式(13.1.17)12认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目系系统统矩矩阵阵Zt，Ht，Tt，Rt，Qt 可可以以依依赖赖于于一一个个未未未未知知知知参参参参数数数数的的集集合合。状状态态空空间间模模型型的的一一个个主主要要的的任任务务就就是是估估计计这这些些参参数数，在在例例13.1的的MA(1)模模型型中中的的参参数数 ,2和和例例13.2的的AR(2)模模型型中中的的参参数数 1，2，2是是未未知知的的，这这些些参参数数

18、将将通通过过 向向量量表表示示，并并被被称称为为超超超超参参参参数数数数（hyperparametershyperparameters）。超超参参数数确确定定了了模模型型的的随随机机性性质质，在在ct 和和dt 中中出出现现的的参参数数仅仅影影响响确确定定性性的的可可观观测测变变量量和和状状态态的的期期望望值值。在在状状态态空空间间模模型型中中可可以以引引入入外外生生变变量量作作为为解解释释变变量量，也也可可以以引引入入yt 的的延延迟迟变变量量，这这些些都都可可以以放放到到dt 中中去去。如如果果ct 或或dt 是是未未知知参参数数的的一一个个线线性性函函数数，这这些些未未知知参参数数也也可

19、可以以作作为为状状态态变变量量或或者者超超参参数数的一部分元素。的一部分元素。13认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目 例例例例13.313.3变参数模型变参数模型变参数模型变参数模型 通常的回归模型可用下式表示，即通常的回归模型可用下式表示，即：其其中中：yt 是是因因变变量量，xt 是是m 1的的解解释释变变量量向向量量，是是待待估估计计的的m 1未未知知参参数数向向量量，ut 是是扰扰动动项项。这这种种回回归归方方程程式式所所估估计计的的参参数数在在样样本本期期间间内内是是固固定定的的，可可以以采采用用普普

20、通通最最小小二二乘乘法法(OLS)、工工具具变变量量法法等等计计量量经经济济模型的常用方法进行估计。模型的常用方法进行估计。14认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目实实际际上上近近年年来来，我我国国由由于于经经济济改改革革、各各种种各各样样的的外外界界冲冲击击和和政政策策变变化化等等因因素素的的影影响响，经经济济结结构构正正在在逐逐渐渐发发生生变变化化，而而用用固固定定参参数数模模型型表表现现不不出出来来这这种种经经济济结结构构的的变变化化，因因此此，需需要要考考虑虑采采用用变变变变参参参参数数数数模模模模型型型

21、型(Time-varyingParameterModel)。下面利用状态空间模型来构造变参数模型。下面利用状态空间模型来构造变参数模型。量测方程：量测方程：状态方程：状态方程：其其中中xt 是是具具有有随随机机系系数数 t 的的解解释释变变量量的的集集合合，zt 是是有有固固定定系系数数 的的解解释释变变量量集集合合，随随机机系系数数向向量量 t 是是对对应应于于(13.1.1)中中的的状状态态向向量量，称称为为可可变变参参数数。变变变变参参参参数数数数 t t 是是是是不不不不可可可可观观观观测测测测变变变变量量量量，必必必必须须须须利利利利用用用用可可可可观观观观测测测测变变变变量量量量

22、y yt t 和和和和 x xt t 来来来来估估估估计计计计。假假定定变变参参数数 t 的的变变动动服服从从于于AR(1)模模型型（也也可可以以简简单单地地扩扩展展为为AR(p)模模型型），扰扰动动向向量量 ut,t 假假定定为为相相互互独独立立的的，且且服服从从均均值值为为0，方方差差为为 2和和协方差矩阵为协方差矩阵为Q 的正态分布。的正态分布。15认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.213.2卡尔曼滤波卡尔曼滤波卡尔曼滤波卡尔曼滤波(KalmanFiltering)(KalmanFiltering)

23、当当一一个个模模型型被被表表示示成成状状态态空空间间形形式式就就可可以以对对其其应应用用一一些些重重要要的的算算法法求求解解。这这些些算算法法的的核核心心是是Kalman滤滤波波。Kalman滤滤波波是是在在时时刻刻t 基基于于所所有有可可得得到到的的信信息息计计算算状状态态向向量量的的最最理理想想的的递递推推过过程程。在在某某些些工工程程问问题题中中，状状态态向向量量的的当当前前值值具具有有重重要要影影响响(例例如如，它它可可以以表表示示火火箭箭在在空空间间的的坐坐标标)。Kalman滤滤波波的的主主要要作作用用是是：当当扰扰动动项项和和初初始始状状态态向向量量服服从从正正态态分分布布时时，

24、能能够够通通过过预预测测误误差差分分解解计计算算似似然然函函数数，从从而而可可以以对对模模型型中中的的所所有有未未知知参参数数进进行行估估计计，并并且且当当新新的的观观测测值值一一旦旦得得到到，就就可可以利用以利用Kalman滤波连续地修正状态向量的估计。滤波连续地修正状态向量的估计。16认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目以以下下设设YT 表表示示在在t=T时时刻刻所所有有可可利利用用的的信信息息的的信信息息集集合合，即即YT=yT,yT-1,y1。状状态态向向量量的的估估计计问问题题根根据据信信息息的的多多少

25、少分分为为3种类型：种类型：(1)当当t T时时，超超出出样样本本的的观观测测区区间间，是是对对未未来来状状态态的的估估计计问问题题，称为称为预测（预测（预测（预测（predictionprediction）；(2)当当t=T 时时，估估计计观观测测区区间间的的最最终终时时点点，即即对对现现在在状状态态的的估估计计问题，称为问题，称为滤波（滤波（滤波（滤波（filteringfiltering）；(3)当当t T 时时，是是基基于于利利用用现现在在为为止止的的观观测测值值对对过过去去状状态态的的估估计计问题，称为问题，称为平滑（平滑（平滑（平滑（smoothingsmoothing）。17认识

26、到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目进进一一步步，假假定定at t-1和和Pt t-1分分别别表表示示以以利利用用到到t-1为为止止的的信信息息集集合合Yt-1为为条条件件的的状状态态向向量量 t 的的条条件件均均值值和和条条件件误误差差协协方方差差矩矩阵，即阵，即在本节假定系统矩阵在本节假定系统矩阵Zt,Ht,Tt,Rt 和和Qt 是已知的，设初始是已知的，设初始状态向量状态向量 0的均值和误差协方差矩阵的初值为的均值和误差协方差矩阵的初值为a0和和P0，并假定，并假定a0和和P0也是已知的。也是已知的。18认识到

27、了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.2.1Kalman13.2.1Kalman滤波的一般形式滤波的一般形式滤波的一般形式滤波的一般形式1 1滤波滤波滤波滤波考考虑虑状状态态空空间间模模型型(13.1.1)和和(13.1.3)，设设a at t-1-1为为为为状状状状态态态态向向向向量量量量 t-t-11的的的的均均均均值值值值，也也是是基基于于信信息息集集合合Yt-1的的 t-1的的估估估估计计计计量量量量，Pt-1表表示示估估计计误误差差的的m m 协方差矩阵，即协方差矩阵，即(13.2.1)当给定当给定at-

28、1和和Pt-1时，时，t 的条件分布的均值由下式给定，即的条件分布的均值由下式给定，即(13.2.2)在在扰扰动动项项和和初初始始状状态态向向量量服服从从正正态态分分布布的的假假设设下下，t 的的条条件件分分布布的的均均值值at t-1是是 t 在在最最小小均均方方误误差差意意义义下下的的一一个个最最优优估估计计量量。估估计误差的协方差矩阵是计误差的协方差矩阵是(13.2.3)式式式式(13.2.2)(13.2.2)和式和式和式和式(13.2.3)(13.2.3)称为预测方程称为预测方程称为预测方程称为预测方程(pedictionequations)(pedictionequations)。1

29、9认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目一一旦旦得得到到新新的的预预测测值值yt，就就能能够够修修正正 t 的的估估计计at t-1，更更更更新新新新方方方方程程程程(updatingequations)(updatingequations)是是是是(13.2.4)和和(13.2.5)其中其中(13.2.6)上述上述式式式式(13.2.2)(13.2.2)式式式式(13.2.6)(13.2.6)一起构成一起构成一起构成一起构成KalmanKalman滤波的公式。滤波的公式。滤波的公式。滤波的公式。Kalman滤波的

30、初值可以按滤波的初值可以按a0和和P0或或a1 0和和P1 0指定。这样，对于指定。这样，对于t=1,2,T，每当得到一个观测值时，每当得到一个观测值时，Kalman滤波提供了状态向量的最滤波提供了状态向量的最优估计。当所有的优估计。当所有的T 个观测值都已处理，个观测值都已处理，Kalman滤波基于信息集合滤波基于信息集合YT，产生当前状态向量和下一时间条件状态向量的最优估计。这个估计包，产生当前状态向量和下一时间条件状态向量的最优估计。这个估计包含了产生未来状态向量和未来观测值的最优预测所需的所有信息。含了产生未来状态向量和未来观测值的最优预测所需的所有信息。20认识到了贫困户贫困的根本原

31、因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目22平滑平滑平滑平滑平滑（平滑（smoothing）(t=T-1,T-2,1)(13.2.10)(13.2.11)其其中中：aT|T,PT|T 是是平平滑滑的的初初值值。还还可可以以计计算算得得到到yt 的的平平滑滑估估计计和和协协方方差矩阵差矩阵21认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目33预测预测预测预测如如果果量量测测方方程程(13.1.1)的的扰扰动动项项和和初初始始状状态态向向量量服服从从多多元元正正态态分分布布，

32、则则yt 关关于于Yt-1的的条条件件分分布布也也是是正正态态的的。且且这这个个条条件件分分布布的的均均值值和和协协方方差差矩阵可以直接由矩阵可以直接由Kalman滤波给定。滤波给定。以以信信息息集集Yt-1为为条条件件，t 服服从从具具有有均均值值at t 1和和协协方方差差矩矩阵阵Pt t 1的正态分布。如果量测方程被写为的正态分布。如果量测方程被写为(13.2.12)可可以以直直接接看看出出yt 的的条条件件分分布布是是正正态态的的，yt 的的条条件件均均值值(一一一一步步步步向向向向前前前前(线线线线性性性性)最最最最小均方误差估计小均方误差估计小均方误差估计小均方误差估计):(13.

33、2.13)22认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目一步向前预测误差向量一步向前预测误差向量(13.2.14)预测误差协方差矩阵由式预测误差协方差矩阵由式(13.2.6)的的Ft 给定，即给定，即(13.2.15)由由后后面面13.2.2节节的的论论述述可可以以知知道道条条件件均均值值是是yt 的的最最小小均均方方误误差差意意义义的的最最优优估估计计量量(MMSE)。因因此此，可可以以利利用用式式(13.2.13)，以以及及Kalman滤波公式滤波公式(13.2.2)(13.2.6)，对，对yt，t（t=T+1,T

34、+2,）进行预测。）进行预测。23认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.2.2Kalman13.2.2Kalman滤波的解释和性质滤波的解释和性质滤波的解释和性质滤波的解释和性质 Kalman滤波的导出依赖于扰动项和初始状态向量服从正态分布滤波的导出依赖于扰动项和初始状态向量服从正态分布的假设。有了正态分布的假设，就能够基于信息集合的假设。有了正态分布的假设，就能够基于信息集合YT=yT,yT-1,y1，利用，利用Kalman滤波递推地计算滤波递推地计算 t 的分布。这些条件分布自的分布。这些条件分布自身也都

35、服从正态分布，因此也就由它们的均值和协方差矩阵完全确身也都服从正态分布，因此也就由它们的均值和协方差矩阵完全确定，这就是定，这就是Kalman滤波计算的估计量。为了说明滤波计算的估计量。为了说明 t 的条件均值的条件均值是是 t 在最小均方误差意义下的一个最优估计量，下面首先介绍均方误在最小均方误差意义下的一个最优估计量，下面首先介绍均方误差和最小均方估计的概念。差和最小均方估计的概念。24认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目1.1.均方误差均方误差均方误差均方误差设设z 是是随随机机向向量量，已已知知样样本本集

36、集合合ZT=zT,zT-1,z1，是是基基于于ZT 的的z 的任一估计量，则定义均方误差（的任一估计量，则定义均方误差（meansquareerror，MSE）为）为(13.2.16)2.2.最小均方估计最小均方估计最小均方估计最小均方估计 设设是是基基于于ZT 的的z 的的任任一一估估计计量量，是是其其中中使使均均方方误误差差达达到到最最小小的的z 的估计量，即的估计量，即(13.2.17)则称则称为为z 的最小均方估计的最小均方估计(mininummeansquareestimator，MMSE)。Kalman滤波以信息集滤波以信息集Yt 为条件，产生为条件，产生 t 的条件均值和方差的条

37、件均值和方差(13.2.18)(13.2.19)其中：数学期望算子下面的下标其中：数学期望算子下面的下标t 表示是关于表示是关于Yt 的条件期望。的条件期望。25认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目设设是是以以信信息息集集Yt 为为条条件件的的 t 的的任任一一估估计计量量，估估计计误误差差可可以以被被分分为为两个部分两个部分(13.2.20)对对式式(13.2.20)两两端端平平方方，并并求求期期望望值值，经经过过计计算算，由由于于混混合合乘乘积积项项为为零，得到零，得到(13.2.21)在在式式(13.2.2

38、1)等等号号右右边边的的第第一一项项是是 t 的的条条件件方方差差，由由于于var(t Yt)0，且且与与估估计计量量无无关关，因因此此要要想想使使式式(13.2.21)达达到到最最小小，只只需需在在第第二二项项取取即即可可。也也就就是是说说，t 的的最最小小均均方方估估计计(MMSE)就就是是由由Kalman滤波所得到的条件均值滤波所得到的条件均值at=E(t Yt)，并且是惟一的。，并且是惟一的。26认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目当当状状态态空空间间模模型型的的扰扰动动项项的的分分布布不不能能满满足足正

39、正态态分分布布假假定定时时，一一般般地地，Kalman滤滤波波所所产产生生的的估估计计量量at 不不再再是是状状态态向向量量 t 的的条条件件均均值值，换换句句话话说说，式式(13.2.18)将将不不成成立立。但但是是如如果果限限制制估估计计量量是是观观测测值值的的线线性性组组合合，即即在在所所有有线线性性估估计计范范围围内内，at 是是具具有有最最小小均均方方误误差差意意义义上上的的最最优优估估计计量量。此此时时称称at 是是基基于于信信息息集集Yt 的的 t 的的最最小小均均方方线线性性估估计计量量(minimummeansquare linear estimator，MMSLE)，估估计

40、计误误差差的的协协方方差差矩矩阵阵是是由由Kalman滤波给出的滤波给出的Pt 矩阵。矩阵。进进一一步步地地，上上述述关关于于状状态态向向量量 t 的的论论述述也也可可以以类类似似地地用用来来解解释释yt 基基于信息集于信息集Yt1的条件均值，用的条件均值，用表示，即表示，即(13.2.22)在正态假定下，在正态假定下，是是yt 在最小均方误差意义下的最优估计量在最小均方误差意义下的最优估计量(MMSE)，并且在不满足正态假定时，是，并且在不满足正态假定时，是yt 的最小均方线性估计量的最小均方线性估计量(MMSLE)。27认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国

41、家对扶贫工作高度重视，已经展开了“精准扶贫”项目预测误差预测误差(13.2.23)被被称称为为新新新新息息息息(innovations)(innovations)，因因为为它它代代表表在在Yt-1的的基基础础上上新新观观测测值值yt 所所带带来来的的信信息息。从从更更新新方方程程(13.2.4)中中可可以以看看出出，新新息息vt 对对修修正正状状态态向量的估计量起到了关键的作用。向量的估计量起到了关键的作用。在在正正态态假假定定下下，根根据据是是最最小小均均方方误误差差意意义义下下的的最最优优估估计计量量，可以推断可以推断vt 的均值是零向量。进一步地，从式的均值是零向量。进一步地，从式(13

42、.2.23)容易看出容易看出(13.2.24)其其中中：Ft 由由式式(13.2.6)给给定定。在在不不同同的的时时间间区区间间，新新息息vt 是是不不相相关关的的，即即,(13.2.25)28认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.2.313.2.3修正的修正的修正的修正的KalmanKalman滤波递推公式滤波递推公式滤波递推公式滤波递推公式当当量量测测方方程程和和转转移移方方程程的的扰扰动动项项是是相相关关的的时时候候，需需要要修修改改Kalman滤滤波。考虑具有量测方程和转移方程的状态空间形式波。考虑具

43、有量测方程和转移方程的状态空间形式(13.2.26)(13.2.27)假设假设(13.2.28)其中其中Gt 是已知的是已知的g k 矩阵。量测方程和状态方程的扰动项的协方差矩矩阵。量测方程和状态方程的扰动项的协方差矩阵用阵用 表示表示注注意意当当量量测测方方程程和和转转移移方方程程的的干干扰扰项项在在同同时时点点相相关关，在在不不同同时时点点不不相相关关时时，Kalman滤滤波波中中的的预预测测公公式式(13.2.2)，(13.2.3)不不变变，更更新新方方程程进进行行如如下下修修改改：在在(13.2.4)和和式式(13.2.5)中中矩矩阵阵Pt t 1Zt 变变为为Pt t 1Zt+Rt

44、Gt，式，式(13.2.6)变为变为(13.2.29)29认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.2.413.2.4非时变模型及非时变模型及非时变模型及非时变模型及KalmanKalman滤波的收敛性滤波的收敛性滤波的收敛性滤波的收敛性 在在许许多多实实际际应应用用问问题题中中，状状态态空空间间模模型型的的系系统统矩矩阵阵Zt，dt，Ht，Tt，ct，Rt 和和Qt 都都是是不不依依赖赖于于时时间间变变化化的的，这这样样就就可可以以写写成成不不带带时时间间下下标标的的模模型型，称称为为非非时时变变模模型型。一一

45、般般允允许许ct 和和dt 是是依依时时间间变变化化的的，于于是是状状态态空间模型的量测方程空间模型的量测方程(13.1.1)和转移方程和转移方程(13.1.3)就可以写为就可以写为(13.2.32)(13.2.33),(13.2.34)如如果果系系统统是是稳稳定定的的，则则转转移移矩矩阵阵T 的的所所有有的的特特征征根根的的模模的的倒倒数数应应当当小于小于1，即，即(13.2.35)且如果初始协方差矩阵且如果初始协方差矩阵P1 0是非负定的，则是非负定的，则(13.2.36)独立于独立于P1 0，Pt+1 t呈指数地迅速收敛到呈指数地迅速收敛到。30认识到了贫困户贫困的根本原因，才能开始对症

46、下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.2.5Kalman13.2.5Kalman滤波的初始条件滤波的初始条件滤波的初始条件滤波的初始条件(1)仅仅当当状状态态转转移移矩矩阵阵T,方方差差矩矩阵阵P 和和Q 是是非非时时变变的的且且满满足足某某些些稳稳定定性性条条件件，初初始始条条件件的的求求解解才才是是可可能能的的。如如果果初初始始条条件件的的求求解解是是可可能能的，可以利用关系式：的，可以利用关系式：在更复杂的模型中给出求协方差矩阵初始条件在更复杂的模型中给出求协方差矩阵初始条件P0的一种方法的一种方法(13.2.37)式式中中Vec()算算子子是

47、是把把矩矩阵阵拉拉直直，即即表表示示矩矩阵阵的的列列是是一一列列接接着着一一列列而而形形成成一一个个向向量量，而而运运算算符符 表表示示克克罗罗内内克克积积(kroneckerproduct)，I 为为单单位矩阵。位矩阵。(2)如如果果初初始始条条件件的的求求解解是是不不可可能能的的，状状态态将将按按扩扩散散先先验验处处理理。当当利利用用扩扩散散先先验验时时，采采用用Koopman，Shephard和和Doornik(1998)提提出出的的方方法法将将设设置置 0=0和和P0=I，这这里里 为为一一个个任任意意的的大大数数。如如设设 =106，然后通过乘以残差协方差矩阵的最大的对角线元素调整，

48、然后通过乘以残差协方差矩阵的最大的对角线元素调整P。31认识到了贫困户贫困的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目13.313.3状态空间模型超参数的估计状态空间模型超参数的估计状态空间模型超参数的估计状态空间模型超参数的估计 在在13.2节节讨讨论论利利用用Kalman滤滤波波递递推推公公式式求求状状态态向向量量的的估估计计量量时时，假假定定状状态态空空间间模模型型的的系系统统矩矩阵阵Zt,Ht,Tt,Rt 和和Qt 是是已已知知的的。但但实实际际上上系系系系统统统统矩矩矩矩阵阵阵阵是是是是依依依依赖赖赖赖于于于于一一一一个个个个未

49、未未未知知知知参参参参数数数数的的的的集集集集合合合合，这这这这些些些些未未未未知知知知参参参参数数数数用用用用向向向向量量量量 表表表表示示示示，并并并并被被被被称称称称为为为为超超超超参参参参数数数数。例例如如，在在例例13.1的的一一阶阶移移动动平平均均模模型型MA(1)中中 =(,2)，在在例例13.2的的二二阶阶自自回回归归模模型型AR(2)中中 =(1,2,2)。本本节节对对于于状状态态空空间间模模型型的的量量测测方方程程(13.1.1)和和状状态态方程方程(13.1.3)中含有未知参数的情况，介绍超参数的估计方法。中含有未知参数的情况，介绍超参数的估计方法。32认识到了贫困户贫困

50、的根本原因，才能开始对症下药，然后药到病除。近年来国家对扶贫工作高度重视，已经展开了“精准扶贫”项目在在许许多多问问题题中中，特特别别在在关关于于正正态态分分布布的的各各种种估估计计问问题题中中，极极大大似似然然法法是是最最常常用用的的方方法法，这这主主要要表表现现在在极极大大似似然然估估计计量量常常具具有有某某些些优良的性质。这里采用极大似然法估计未知的超参数。优良的性质。这里采用极大似然法估计未知的超参数。极极大大似似然然法法的的原原理理通通常常用用于于观观测测值值y1,y2,yT 相相互互独独立立且且具具有有同样分布的情形，此时它们的联合概率函数被给定为同样分布的情形，此时它们的联合概率