第8章智能控制理论优秀PPT.ppt

第8章智能控制理论现在学习的是第1页，共66页8.1 8.1 模糊模糊RBFRBF网络网络 在在模模糊糊系系统统中中，模模糊糊集集、隶隶属属度度函函数数和和模模糊糊规规则则的的设设计计是是建建立立在在经经验验知知识识基基础础上上的的。这这种种设设计计方方法法存存在在很很大大的的主主观观性性。将将学学习习机机制制引引到到模模糊糊系系统统中中，使使模模糊糊系系统统能能够够通通过过不不断断学学习习来来修修改改和和完完善善隶隶属属函函数数和和模模糊规则，是模糊系统的发展方向。糊规则，是模糊系统的发展方向。现在学习的是第2页，共66页模模糊糊系系统统与与模模糊糊神神经经网网络络既既有有联联系系又又有有区区别别，其其联联系系表表现现为为模模糊糊神神经经网网络络在在本本质质上上是是模模糊糊系系统统的的实实现现，其其区区别别表表现现为为模模糊糊神神经经网络又具有神经网络的特性。网络又具有神经网络的特性。神神经经网网络络与与模模糊糊系系统统的的比比较较见见表表8-1。模模糊糊神神经经网网络络充充分分地地利利用用了了神神经经网网络络和和模模糊糊系系统各自的优点，因而受到了重视。统各自的优点，因而受到了重视。现在学习的是第3页，共66页模糊系统模糊系统神经网络神经网络获取知识获取知识专家经验专家经验算法实例算法实例推理机制推理机制启发式搜索启发式搜索并行计算并行计算推理速度推理速度低低高高容错性容错性低低非常高非常高学习机制学习机制归纳归纳调整权值调整权值自然语言实自然语言实现现明确的明确的不明显不明显自然语言灵自然语言灵活性活性高高低低表表8-1 8-1 模糊系统与神经网络的比较模糊系统与神经网络的比较现在学习的是第4页，共66页将将神神经经网网络络的的学学习习能能力力引引到到模模糊糊系系统统中中，将将模模糊糊系系统统的的模模糊糊化化处处理理、模模糊糊推推理理、精精确确化化计计算算通通过过分分布布式式的的神神经经网网络络来来表表示示是是实实现现模模糊糊系系统统自自组组织织、自自学学习习的的重重要要途途径径。在在模模糊糊神神经经网网络络中中，神神经经网网络络的的输输入入、输输出出节节点点用用来来表表示示模模糊糊系系统统的的输输入入、输输出出信信号号，神神经经网网络络的的隐隐含含节节点点用用来来表表示示隶隶属属函函数数和和模模糊糊规规则则，利利用用神神经经网网络络的的并并行行处处理理能能力力使使得得模模糊系统的推理能力大大提高。糊系统的推理能力大大提高。现在学习的是第5页，共66页模模糊糊神神经经网网络络在在本本质质上上是是将将常常规规的的神神经经网网络络赋赋予予模模糊糊输输入入信信号号和和模模糊糊权权值值，其其学学习习算算法法通通常常是是神神经经网网络络学学习习算算法法或或其其推推广广。模模糊糊神神经经网网络络技技术术已已经经获获得得了了广广泛泛的的应应用用，当当前前的的应应用用主主要要集集中中在在以以下下几几个个领领域域：模模糊糊回回归归、模模糊糊控控制制、模模糊糊专专家家系系统统、模模糊糊矩矩阵阵方方程程、模模糊糊建建模模和和模模糊糊模模式式识别。识别。模模糊糊神神经经网网络络是是将将模模糊糊系系统统和和神神经经网网络络相相结结合合而而构构成成的的网网络络。利利用用RBFRBF网网络络与与模模糊糊系系统统相相结结合合，构构成成了模糊了模糊RBFRBF网络。网络。现在学习的是第6页，共66页8.1.1网络结构网络结构采采用用图图8-1所所示示的的模模糊糊神神经经网网络络系系统统，其其模模糊糊推推理理系系统统主主要要由由输输入入层层、模模糊糊化化层层、模模糊糊相联层、模糊后相连层和输出层构成。相联层、模糊后相连层和输出层构成。现在学习的是第7页，共66页 输出层输出层输出层输出层(o)模糊推理层模糊推理层模糊推理层模糊推理层(k)(k)(k)(k)模糊化层模糊化层模糊化层模糊化层(j)(j)(j)(j)输入层输入层输入层输入层(i)(i)(i)(i)图图8-1 8-1 模糊模糊RBFRBF神经网络结构神经网络结构现在学习的是第8页，共66页模糊模糊RBF网络中信号传播及各层的功能表示如下：网络中信号传播及各层的功能表示如下：第一层：输入层第一层：输入层该该层层的的各各个个节节点点直直接接与与输输入入量量的的各各个个分分量量连连接接，将将输输入入量量传传到到下下一一层层。对对该该层层的的每每个个节节点点i的的输输入入输输出表示为：出表示为：现在学习的是第9页，共66页第二层：隶属函数层，即模糊化层第二层：隶属函数层，即模糊化层该该层层的的每每个个节节点点具具有有隶隶属属函函数数的的功功能能，采采用用高高斯斯函函数作为隶属函数。对第数作为隶属函数。对第j个节点：个节点：其其中中和和分分别别是是第第i个个输输入入变变量量的的第第j个个模模糊糊集集合合高高斯函数的均值和标准差。斯函数的均值和标准差。现在学习的是第10页，共66页第三层：规则层，即模糊推理层第三层：规则层，即模糊推理层该该层层通通过过与与模模糊糊化化层层的的连连接接来来完完成成模模糊糊规规则则的的匹匹配配，各各个个节节点点之之间间实实现现模模糊糊运运算算，即即通通过过各各个个模模糊糊节节点点的的组组合合得得到到相相应应的的点点火火强强度度。每每个个节节点点j的输出为该节点所有输入信号的乘积，即的输出为该节点所有输入信号的乘积，即其中其中，为输入层中第为输入层中第i个输入隶属个输入隶属函数的个数，即模糊化层节点数。函数的个数，即模糊化层节点数。现在学习的是第11页，共66页,第四层：输出层第四层：输出层该该层层的的每每个个节节点点的的输输出出为为该该节节点点所所有有输输入入信信号号的的加权和，即加权和，即其其中中l l为为输输出出层层节节点点的的个个数数，W W为为输输出出节节点点与与第第三三层层各节点的连接权矩阵。各节点的连接权矩阵。现在学习的是第12页，共66页在在此此模模糊糊神神经经网网络络中中，可可调调参参数数有有三三类类：一一类类为为规规则则的的权权系系数数；第第二二类类和和第第三三类类为为高高斯斯函函数数的的均均值值和标准差和标准差，即输入隶属函数的参数。，即输入隶属函数的参数。8.1.2 8.1.2 基于模糊基于模糊RBFRBF网络的逼近算法网络的逼近算法采采用用模模糊糊RBF网网络络逼逼近近对对象象，取取网网络络结结构构为为2-4-1，如图如图8-2所示。所示。现在学习的是第13页，共66页图图8-2模糊模糊RBF神经网络逼近神经网络逼近现在学习的是第14页，共66页取取，和和分分别别表表示示网网络络输输出出和和理理想想输输出出。网网络络的的输输入入为为u(k)和和y(k)，网网络的输出为络的输出为，则网络逼近误差为：，则网络逼近误差为：采采用用梯梯度度下下降降法法来来修修正正可可调调参参数数，定定义义目目标函数为：标函数为：现在学习的是第15页，共66页网络的学习算法如下：网络的学习算法如下：输出层的权值通过如下方式来调整输出层的权值通过如下方式来调整:则输出层的权值学习算法为：则输出层的权值学习算法为：其中其中 为学习速率，为学习速率，为动量因子。为动量因子。现在学习的是第16页，共66页输入隶属函数参数修正算法为：输入隶属函数参数修正算法为：其中其中现在学习的是第17页，共66页隶属函数参数学习算法为：隶属函数参数学习算法为：现在学习的是第18页，共66页8.1.3仿真实例仿真实例 使用模糊使用模糊RBF网络逼近对象：网络逼近对象：其中采样时间为其中采样时间为1ms1ms。模糊模糊RBF网络逼近程序见网络逼近程序见chap8_1.m。现在学习的是第19页，共66页8.2Pi-Sigma神经网络神经网络神神经经模模糊糊建建模模是是近近年年来来基基于于模模糊糊集集理理论论发发展展起起来的一种新的方法。来的一种新的方法。模模糊糊建建模模技技术术缺缺点点是是过过分分地地依依赖赖隶隶属属函函数数的的准准确确性性。采采用用高高木木-关关野野模模糊糊系系统统，用用一一种种混混合合型型的的pi-sigma神神经经网网络络，可可以以建建立立一一种种自自适适应应能能力力很很强强的的模模糊糊模模型型。这这种种模模型型不不但但实实现现了了模模糊糊模模型型的的自自动动更更新新，而而且且能能不不断断修修正正各各模模糊糊子子集集的的隶隶属属函函数数，使模糊建模更具合理性。使模糊建模更具合理性。现在学习的是第20页，共66页8.2.1高木高木-关野模糊系统关野模糊系统 在高木在高木-关野模糊系统中，高木和关野用以下关野模糊系统中，高木和关野用以下“”“”规则的形式来定义模糊系统的规则：规则的形式来定义模糊系统的规则：If is ，is ，is then 现在学习的是第21页，共66页对对于于输输入入向向量量，高高木木-关关野野模模糊糊系系统统的的各各规规则则输输出出等于各等于各的加权平均：的加权平均：式中，加权系数式中，加权系数 包括了规则包括了规则 作用于输入所作用于输入所取得的值。取得的值。现在学习的是第22页，共66页8.2.2混合型混合型pi-sigma神经网络神经网络 常常规规的的前前向向型型神神经经网网络络含含有有求求和和节节点点，这这给给处处理理某某些些复复杂杂问问题题带带来来了了困困难难。一一种种基基于于混混合合型型pi-sigma神神经经网网络络模模型型如如图图8-5所所示示，在在该该网网络络中中，输输入入神神经经元元有有4个个，S、P和和分分别别表表示示相相加、相乘和相乘运算。加、相乘和相乘运算。现在学习的是第23页，共66页图图8-5具有具有4个输入的混合型个输入的混合型pi-sigma神经网络神经网络现在学习的是第24页，共66页显显然然，这这种种结结构构的的神神经经网网络络属属于于高高木木-关关野野模模糊糊系系统统。采采用用该该网网络络实实现现的的模模糊糊系系统统可可方方便便地地在在线线修修正正隶隶属属函函数数和和参参数数，适适合合于于复复杂杂系系统统的的模模糊糊预预测和控制。测和控制。为方便神经网络的学习，各模糊子集的隶属为方便神经网络的学习，各模糊子集的隶属函数均取高斯型，即：函数均取高斯型，即：网络的输出为：网络的输出为：现在学习的是第25页，共66页混合型混合型pi-sigma神经网络学习算法：神经网络学习算法：假设网络的期望输出为假设网络的期望输出为，定义代价函数：，定义代价函数：根据梯度下降法有：根据梯度下降法有：现在学习的是第26页，共66页其中其中其中 。现在学习的是第27页，共66页对对 有：有：其中其中现在学习的是第28页，共66页现在学习的是第29页，共66页其中、为学习速率。现在学习的是第30页，共66页8.2.3仿真实例仿真实例使用混合型使用混合型pi-sigma神经网络逼近对象：神经网络逼近对象：混合型混合型pi-sigma神经网络逼近程序见神经网络逼近程序见chap8_2.m现在学习的是第31页，共66页8.3 8.3 小脑模型神经网络小脑模型神经网络8.3.1CMAC概述概述小小脑脑模模型型神神经经网网络络（CMAC-CerebellarModelArticulationController）是是一一种种表表达达复复杂杂非非线线性性函函数数的的表表格格查查询询型型自自适适应应神神经经网网络络，该该网网络络可可通通过过学学习算法改变表格的内容，具有信息分类存储的能力。习算法改变表格的内容，具有信息分类存储的能力。现在学习的是第32页，共66页CMAC已已被被公公认认为为是是一一类类联联想想记记忆忆网网络络的的重重要要组组成成部部分分，能能够够学学习习任任意意多多维维非非线线性性映映射射，CMAC算算法法被被证证明明可可有有效效地地用用于于非非线线性性函函数数逼逼近近、动态建模、控制系统设计等。动态建模、控制系统设计等。CMAC比其它神经网络的优越性体现在：比其它神经网络的优越性体现在：（1）小小脑脑模模型型是是基基于于局局部部学学习习的的神神经经网网络络，它它把把信信息息存存储储在在局局部部结结构构上上，使使每每次次修修正正的的权权极极少少，在在保保证证函函数数非非线线性性逼逼近近性性能能的的前前提提下下，学学习习速速度度快，适合于实时控制；快，适合于实时控制；（2）具具有有一一定定的的泛泛化化能能力力，即即所所谓谓相相近近输输入入产产生生相相近输出，不同输入给出不同输出；近输出，不同输入给出不同输出；现在学习的是第33页，共66页(3)具有连续（模拟）输入输出能力；具有连续（模拟）输入输出能力；(4)采采用用寻寻址址编编程程方方式式，在在利利用用串串行行计计算算机机仿仿真真时时，它它将使响应速度加快；将使响应速度加快；(5)CMAC函函数数非非线线性性逼逼近近器器对对学学习习数数据据出出现现的的次次序序不敏感。不敏感。由由于于CMAC所所具具有有的的上上述述优优越越性性能能，使使它它比比一一般般神神经经网网络络具具有有更更好好的的非非线线性性逼逼近近能能力力，更更适适合合于于复复杂动态环境下非线性实时控制的要求。杂动态环境下非线性实时控制的要求。CMAC神经网络的结构如图神经网络的结构如图8-8所示。所示。现在学习的是第34页，共66页图图8-8 CMAC8-8 CMAC神经网络结构神经网络结构现在学习的是第35页，共66页8.3.2一种典型一种典型CMAC算法算法CMAC网网络络由由输输入入层层，中中间间层层和和输输出出层层组组成成。在在输输入入层层与与中中间间层层、中中间间层层与与输输出出层层之之间间分分别别为为由由设设计计者者预预先先确确定定的的输输入入层层非非线线性性映映射射和和输输出出层层权权值值自自适应性线性映射。适应性线性映射。CMAC神神经经网网络络的的设设计计主主要要包包括括输输入入空空间间的的化化分分、输输入入层层至至输输出出层层非非线线性性映映射射的的实实现现及及输输出出层层权权值学习算法。值学习算法。现在学习的是第36页，共66页CMAC是是前前馈馈网网络络，输输入入输输出出之之间间的的非非线线性性关系由以下两个基本映射实现。关系由以下两个基本映射实现。（1）概念映射（）概念映射（UAC）概概念念映映射射是是从从输输入入空空间间U至至概概念念存存储储器器AC的的映映射。射。设设输输入入空空间间向向量量为为，量量化化编编码码为为，输输入入空空间间映映射射至至AC中中c个个存存储储单单元元（c为二进制非零单元的数目）。为二进制非零单元的数目）。现在学习的是第37页，共66页采用下式表示映射后的向量：采用下式表示映射后的向量：Rp=S(up)=s1(up),s2(up),sc(up)T式中式中sj(up)=1,j=1,2,c映射原则为：在输入空间邻近的两个点，在映射原则为：在输入空间邻近的两个点，在AC中有部分的重叠单元被激励。距离越近，重叠中有部分的重叠单元被激励。距离越近，重叠越多；距离越远的点，在越多；距离越远的点，在AC中不重叠，这称为局中不重叠，这称为局域泛化，域泛化，c为泛化常数。为泛化常数。现在学习的是第38页，共66页（2）实际映射）实际映射（ACAP）实实际际映映射射是是由由概概念念存存储储器器AC中中的的c个个单单元元，用用杂杂散散编编码码技技术术映映射射至至实实际际存存储储器器AP的的c个个单单元元，c个个单单元元中中存存放放着着相相应应权权值值。网网络络的的输输出出为为AP中中c个个单元的权值的和。单元的权值的和。只考虑单输出：只考虑单输出：即即现在学习的是第39页，共66页CMAC采用的学习算法如下：采用的学习算法如下：采用采用学习规则调整权值，权值调整指标为学习规则调整权值，权值调整指标为其中其中 。由梯度下降法，权值按下式调整：由梯度下降法，权值按下式调整：现在学习的是第40页，共66页其中 为惯性系数。现在学习的是第41页，共66页8.3.3仿真实例仿真实例采用CMAC网络逼近非线性对象：取取u(k)作作为为网网络络的的输输入入，采采用用线线性性化化函函数数对对输输入状态进行量化，实现入状态进行量化，实现CMAC的概念映射：的概念映射：现在学习的是第42页，共66页其中其中xmin和和xmax输入的最大最小值，输入的最大最小值，M为为xmax量化后所对应的最大值，量化后所对应的最大值，roundround()()为四舍五入的为四舍五入的MatlabMatlab函数。函数。采采用用杂杂散散编编码码技技术术中中的的除除留留余余数数法法实实现现CMAC的的实实际际映映射射。设设杂杂凑凑表表长长为为m，以以元元素素值值s(k)+i除除以以某某数数N（N=m）后后所所得得余余数数+1作作为为杂杂凑地址，实现了实际映射，即凑地址，实现了实际映射，即现在学习的是第43页，共66页其中其中。在在仿仿真真中中，取取M=100，N=7，取取泛泛化化参参数数c=7,=1.5,=0.05。CMAC网络逼近程序为网络逼近程序为chap8_3.m。现在学习的是第44页，共66页8.4 Hopfield8.4 Hopfield神经网络神经网络8.4.1 Hopfield8.4.1 Hopfield网络原理网络原理1986年年美美国国物物理理学学家家J.J.Hopfield利利用用非非线线性性动动力力学学系系统统理理论论中中的的能能量量函函数数方方法法研研究究反反馈馈人人工工神神经经网网络络的的稳稳定定性性，提提出出了了Hopfield神神经经网网络络，并并建建立立了了求求解解优优化计算问题的方程。化计算问题的方程。现在学习的是第45页，共66页 基基本本的的Hopfield神神经经网网络络是是一一个个由由非非线线性性元元件件构构成成的的全全连连接接型型单单层层反反馈馈系系统统，Hopfield网网络络中中的的每每一一个个神神经经元元都都将将自自己己的的输输出出通通过过连连接接权权传传送送给给所所有有其其它它神神经经元元，同同时时又又都都接接收收所所有有其其它它神神经经元元传传递递过过来来的的信信息息。Hopfield神神经经网网络络是是一一个个反反馈馈型型神神经经网网络络，网网络络中中的的神神经经元元在在时时刻刻的的输输出出状状态态实实际际上上间接地与自己的时刻的输出状态有关。间接地与自己的时刻的输出状态有关。现在学习的是第46页，共66页 反反馈馈型型网网络络的的一一个个重重要要特特点点就就是是它它具具有有稳稳定定状状态态，当当网网络络达达到到稳稳定定状状态态的的时时候候，也也就就是是它它的的能能量量函数达到最小的时候。函数达到最小的时候。HopfieldHopfield神神经经网网络络的的能能量量函函数数表表征征网网络络状状态态的的变变化化趋趋势势，并并可可以以依依据据HopfieldHopfield工工作作运运行行规规则则不不断断进进行行状状态态变变化化，最最终终能能够够达达到到的的某某个个极极小小值值的的目目标标函函数数。网网络络收收敛敛就就是是指指能能量量函函数数达到极小值。达到极小值。现在学习的是第47页，共66页 如如果果把把一一个个最最优优化化问问题题的的目目标标函函数数转转换换成成网网络络的的能能量量函函数数，把把问问题题的的变变量量对对应应于于网网络络的的状状态态，那那么么HopfieldHopfield神经网络就能够用于解决优化组合问题。神经网络就能够用于解决优化组合问题。HopfieldHopfield神神经经网网络络模模型型是是由由一一系系列列互互联联的的神经单元组成的反馈型网络，如图神经单元组成的反馈型网络，如图8-108-10所示。所示。现在学习的是第48页，共66页图图8-10Hopfield网络模型网络模型现在学习的是第49页，共66页 如如果果把把一一个个最最优优化化问问题题的的目目标标函函数数转转换换成成网网络络的的能能量量函函数数，把把问问题题的的变变量量对对应应于于网网络络的的状状态态，那那么么Hopfield神经网络就能够用于解决优化组合问题。神经网络就能够用于解决优化组合问题。现在学习的是第50页，共66页对对于于HopfieldHopfield神神经经网网络络第第i i个个神神经经元元，采采用用微微分分方程建立其输入输出关系，即：方程建立其输入输出关系，即：其中其中 。现在学习的是第51页，共66页其中其中g()g()为双曲函数，一般取为：为双曲函数，一般取为：为为n n个神经元的网络状态向量；个神经元的网络状态向量；为网络的输出向量；为网络的输出向量；为网络的输入向量。为网络的输入向量。现在学习的是第52页，共66页 定义定义HopfieldHopfield网络的网络的LyapunovLyapunov能量函数为能量函数为若权值矩阵 是对称的（），则现在学习的是第53页，共66页由于 ,则 由由于于，双双曲曲函函数数是是单单调调上上升升函函数数，显显然然它它的的反反函函数数 也也为为单单调调上上升升函函数数，即即有有，则则可可得得到到，即即能能量量函函数数具具有有负负的的梯梯度度，当当且且仅仅当当时时,（）。）。现在学习的是第54页，共66页 由由此此可可见见，随随着着时时间间的的演演化化，网网络络的的解解在在状状态态空空间间中中总总是是朝朝着着能能量量E EN N减减少少的的方方向向运运动动。网网络络最最终终输输出出向向量量V V为网络的稳定平衡点，即为网络的稳定平衡点，即E EN N的极小点。的极小点。HopfieldHopfield网网络络在在优优化化计计算算中中得得到到成成功功应应用用，有有效效地地解解决决了了著著名名的的旅旅行行推推销销商商问问题题（TSPTSP问问题题），另另外外，它在智能控制和系统辨识中也有广泛应用。它在智能控制和系统辨识中也有广泛应用。现在学习的是第55页，共66页8.4.2 8.4.2 基于基于Hopfield网络的自适应控制网络的自适应控制 1.系统描述系统描述 被控对象为一阶系统：即 其中 为转动惯量，为控制输入，实际速度为 。现在学习的是第56页，共66页取取速速度度指指令令为为，将将控控制制器器设设计计为为“P控控制制+前馈控制前馈控制”的形式：的形式：整理得：整理得：令 ,则 其中其中F F和和G G为待定控制器参数，可采用为待定控制器参数，可采用HopfieldHopfield网络进行辨识。网络进行辨识。现在学习的是第57页，共66页2.基于基于Hopfield网络的控制器优化网络的控制器优化所采用的所采用的hopfield网络结构如图网络结构如图8-11所示。所示。图图8-11Hopfield网络结构网络结构现在学习的是第58页，共66页控制系统的能量函数取控制系统的能量函数取将将表达式代入上式并展开得：表达式代入上式并展开得：取取Hopfield网网络络输输出出神神经经元元数数为为2，假假设设输输入入电电阻阻无无穷穷大大，此此时时Hopfield网网络络的的标标准准能能量量函函数数为：为：现在学习的是第59页，共66页将 展开，得：令 ，得：当Hopfield网络处于平衡状态时，能量函数最小，由网络权值对称得 ，此时现在学习的是第60页，共66页由上两式得：由上两式得：现在学习的是第61页，共66页由上两式得：连接权矩阵 和外部输入 如下：现在学习的是第62页，共66页标准标准Hopfield网络的动态方程为：网络的动态方程为：取取 ，将所求的，将所求的 和和 代入上式得：代入上式得：现在学习的是第63页，共66页取神经元输出的非线性特性为双曲函数，即取神经元输出的非线性特性为双曲函数，即其中其中。网络实际输出为：网络实际输出为：由于由于，则，则现在学习的是第64页，共66页同理可得：同理可得：求解微分方程，可得到优化后的求解微分方程，可得到优化后的F、G，从，从而实现而实现 和和 的整定。的整定。现在学习的是第65页，共66页3仿真实例仿真实例被控对象为一阶系统：被控对象为一阶系统：其中 ，。Hopfield网络的自适应控制程序包括主程序网络的自适应控制程序包括主程序chap8_4sim.mdl、控制器、控制器S函数程序函数程序chap8_4s.m、被控对象被控对象S函数程序函数程序chap8_4plant.m和作图程序和作图程序chap8_4plot.m。现在学习的是第66页，共66页