第7章-智能最优化算法ppt课件.ppt

《第7章-智能最优化算法ppt课件.ppt》由会员分享，可在线阅读，更多相关《第7章-智能最优化算法ppt课件.ppt（54页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程第7章 智能最优化算法病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 随着仿生学、遗传学和人工智能科学的发展，从20世纪70年代以来，科学家相继将遗传学、神经网络科学的原理和方法应用到最优化领域，形成了一系列新的最优化方法，如遗传算法、神经网络算法、蚁群算法等。这些算法不需要构造精确的数学搜索方向，不需要进行繁杂的一维搜索，而是通过大量简单的信息传播和演变方法，得到问题的最优解。遗传算法是模拟生物在自然环境中的遗传和进化过

2、程而形成的一种自适应全局最优化概率搜索算法。7.1 遗传算法病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程7.1.1 生物的遗传与进化 生物从其亲代继承特性或形状的现象称为遗传；生物在其延续生存的过程中,逐渐适应生存环境，使其品质不断得到改良，这种生命现象称进化。构成生物的基本结构和功能单元是细胞 细胞中含有一种微小的丝状化合物称染色体 染色体主要由一种叫做核糖核酸(简称DNA)的物质构成 DNA按一定规则排列的长连称基因 基因是遗传的基本单位病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起

3、不同程度的病理生理过程 另外，在进行细胞复制时，也可能产生某些差错，从而使DNA发生某种变异，产生新的染色体。可见，同源染色体之间的复制、交叉或变异会使基因或染色体发生各种各样的变化，从而，使生物呈现新的性状，产生新的物种。细胞在分裂时，遗传物质DNA通过复制转移到新的细胞中，新细胞就继承了旧细胞的基因。有性生殖生物在繁殖下一代时，两个同源染色体之间通过交叉而重组，即在两个染色体的某一相同位置处DNA被切断，然后分别交叉组合形成两个新的染色体。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程7.1.2 基本遗传算法可以看作由 n 个

4、遗传基因组成的染色体，也称个体。最简单的等位基因由0和1这两个整数组成，相应的染色体或个体就是一个二进制符号串。在遗传算法中，将设计变量用符号串 表示。由 m 个个体组成一个群体，记作 这种编码所形成的符号串称个体的基因型，与之对应的值称个体的表现型。把其中每一个 看作一个遗传基因，它的所有可能的取值称等位基因。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程（1）遗传编码 遗传算法的运行不直接对设计变量本身进行操作，而是对表示可行解的个体编码进行选择、交叉和变异等遗传运算。在遗传算法中把原问题的可行解转化为个体符号串的方法称编码。

5、现有的编码方法可以分为三类，它们是二进制编码、浮点数编码和符号编码。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 二进制编码所用的符号集是由 0 和 1 组成的二 值符号集，它所构成的个体基因型是一个二进制符号串。符号串的长度与所要求的求解精度有关。假设某一参数的取值范围是，若用长度为的二进制符号串来表示，总共能够产生 个编码。编码精度为（7-1）这里介绍常用的二进制编码方法。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程假设某一个体的编码是：(7-2)则对应的解码

6、公式为(7-3)就表示一个个体，称个体的基因型，对应的十进制数175就是个体的表现型，编码精度为例如，对于变量若采用10位二进制编码时，可代表个不同的个体。如病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 在研究生物的遗传和进化现象时，生物学家使用适应度这个术语来度量物种对生存环境的适应程度。，一般由目标函数或惩罚函数（2）个体适应度 在遗传算法中使用适应度这个概念来度量群体中个体的优劣程度。适应度较高的个体遗传到下一代的概率较大，反之则较小。度量个体适应度的函数称适应度函数，一般由目标函数 或惩罚函数 转换而来。以目标函数为例，

7、常用的转换关系如下：病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程对于极大化问题：(7-4)式中 为一适当小的正数。对于极小化问题：(7-5)为一较大的正数。式中，病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 生物的进化是以集团为主体进行的。与此对应，遗传算法的运算对象也是由M个个体所组成的集合，称群体。第t 代群体记作 P（t），遗传算法的运算就是群体的反复演变过程。（3）遗传运算 遗传算法将染色体中基因的复制、交叉和变异归结为各自的运算规则或遗传算子，并反复将这

8、些遗传算子作用于群体 P（t），对其进行选择、交叉和变异运算，以求得到最优的个体，即问题的最优解。生物的进化过程主要是通过染色体之间的复制、交叉和变异来完成的。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程1）选择运算 遗传算法使用选择算子来对群体中的个体进行优胜劣汰操作。适应度较高的个体有较大的概率遗传到下一代。设群体的大小为M，个体 i 的适应度为fi，则个体 i 被选中的概率Pis为：目前常用比例选择运算。其基本的操作是：个体被选中并遗传到下一代的概率与它的适应度的大小成正比。每个概率值组成一个区间，全部概率值之和为1。病原

9、体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程2）交叉运算 交配重组是生物遗传进化过程中的一个重要环节。模仿这一过程，遗传算法使用交叉运算，即在两个相互配对的个体间按某种方式交换其部分基因，从而形成两个新生的个体。运算前需对群体中的个体进行随机配对，然后以不同的方式确定配对个体交叉点的位置，并在这些位置上进行部分基因的交换，形成不同的交叉运算方法。目前最常用的是单点交叉运算。产生一个0到1之间的随机数，依据概率值所出现的区间来决定对应的个体被选中的次数，此法亦称轮盘法。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在

10、一定部位生长繁殖，引起不同程度的病理生理过程110000 0001000101 0011父个体1父个体2110001 0001000100 0011子个体1子个体2交叉运算交叉点交叉点 单点交叉又称简单交叉，它是在个体编码串中随机地设置一个交叉点，并在该交叉点上相互交换两个配对个体的基因，如下所示：3）变异运算 生物的遗传和进化过程中，在细胞的分裂和复制环节上可能产生一些差错，从而导致生物的某些基因发生某种变异，产生出新的染色体，表现出新的生物性状。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 模仿这一过程，遗传算法采用变异运算

11、，将个体编码串中的某些基因座上的基因值用它的不同等位基因来替换，从而产生新的个体。有很多变异运算方法，最简单的是基本位变异。基本位变异操作是在个体编码串中依变异概率Ps随机指定某一位或某几位基因座上的基因值作变异运算，如下所示：1100010001 1100011001变异运算病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程编码，构成初始群体P(t)计算P(t)中各个体的适应度图7-1 遗传算法的运算流程图给定T、置t=0t=t+1得 到 新 的 群 体 p(t+1)变异运算交叉运算选择运算 Y取最大适应度的个体解码输出终止遗传算法

12、的运算流程图如下：N病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程例 用遗传算法求如下函数的全局最大值 s.t.xi 1,2,7(i=1,2)由此开始的遗传算法求解过程如表所示。解，由于变量的取值上限为7下限为0，故对和均采用3位二进制编码。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程0.23 0.21 0.42 0.14(16)53 50 98 34适应度 f(x1,x2)(15)7,2 7,1 7,7 3,5变量 x1,x2(14)子代群体 P（1）(13)11

13、1010 111001 111111 011101变异结果(12)6 2 5 4变异点(11)111011 101001 111101 011001交叉结果(10)5 4交叉点(9)3-4 1-2配对情况(8)111001 101011 111001 011101选择结果(7)2 0 1 1选择次数(6)0.35 0.17 0.24 0.24(5)50 25 34 34适应度 f(x1,x2)(4)7,1 3,4 5,3 3,5变量 x1,x2(3)111001 011100 101011 011101初始群体 P(0)(2)4 3 2 1个体编号 i(1)病原体侵入机体，消弱机体防御机能，破

14、坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 需要说明的是，表中第、8、11 栏的数据是应该随机产生的，这里特意选择了一些较好的数据以便尽快得到较好的结果。实际运算中一般需求经过多次进化才能得到这样的最优结果。从表中可以看出，群体经过一代进化后，其适应度的最大值和平均值都得到了明显的改进。实际上已经找到了最佳的个体“111111”以及对应的最优解：X 7,7 T,f(X)=98病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程7.2 神经网络算法7.2.1 人工神经元与神经网络 人的大脑中有100多亿个神

15、经细胞。一个神经细胞主要由细胞体、树突、轴突和突触组成。树突伸向四方，其作用是收集四周神经细胞的信息。突触是两个神经细胞之间起连接作用的部分。树突将收集到的信息经过轴突输出，传给其他细胞。突触有兴奋性和抑止性两种状态。兴奋性突触在脉冲的刺激下能使下一个神经细胞产生兴奋性膜电位，很多细胞通过各自的突触对某一个神经细胞发生作用，使其膜电位发生变化，当膜电位的累加值超过某一阈值时，就会使该细胞产生一个新的脉冲。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 一个神经细胞周围大约有1001000个其他细胞，神经细胞的信息就是这样从一个细胞

16、传递给另外一个细胞的，从一个神经网络传到另一个神经网络。1943年，美国心理学家 W.McCllochhe 和数学家 W.pitts根据生物神经元的基本特性，提出MP神经元模型，开创了人工神经元研究的新纪元。MP神经元模型如图所示 图7-2 MP神经元模型wj1x2xnwj2wjnjf()ujyjx1 图7-3 MP模型的激活函数ujff(uj)1病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程其符号的正负表示产生的作用是兴奋性的或抑止性的，其数值的大小表达作用的强弱；表示神经元 的阈值（触发值）代表神经元 的总输入，表示神经元 的

17、状态或输出。图7-2 MP神经元模型wj1x2xnwj2wjnjf()ujyjx1其中个神经元对第 个表示第神经元的作用权值，病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 于是一个神经元在某时刻的状态或输出可用下面的数学表达式加以描述（7-7）其中 称激活函数。(7-8)时，神经元的状态是总输入的双值函数。当激活函数取如图7-3所示的符号函数病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 当小于零时，表示神经元未被触发，保持原来的状态不变。这与生物神经细胞对信息的反

18、应和传递是一致的，因此它也成为人工神经元及其所构成的神经网络最基本的数学描述。除符号函数之外，常用的激活函数还有如图7-4所示的线性函数和 S 型函数等。当大于零时，表示神经元被触发产生一个新的脉冲。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程（a）线性函数0ua1-ua-1yjuj图7-4 激活函数(b)S型函数 01-1yjuj病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 目前提出的人工神经网络模型已有40 多种按网络结构分为前馈型和反馈型；按网络性能分为连续

19、型、离散型、确定型和随机型；按学习方式分为有导师型和无导师型；按突触连接性质分为一阶线性型和高阶非线性型等。人工神经网络是将上述人工神经元以某种方式组合起来的网络结构。人工神经网络通过某种学习（训练）方法模拟生物体中神经网络的某些结构与功能，从而用以解决不同的工程实际问题。目前常用的 BP 网络和 RBF 网络属前馈型神经网络，Hopfield 网络属反馈型网络。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 BP 网络由多个输入结点、多个隐含层和一个输出层组成。每层包含多个神经元（结点）。前后层之间实现全连接，层内各结点之间无连

20、接。7.2.2 BP网络 BP网络是一种输入信号前向传播、误差信号反向传播的多层前馈型网络。（1）BP网络结构 BP网络中，隐含层神经元的激活函数一般采用Sigmoid型的对数函数或正切函数，输出层神经元通常采用线性激活函数。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程图7-5所示为单隐层BP网络的结。(a)结构图隐层（n个神经元）输出层（m个神经元）x1x2x3xn1w 111w1n,n1w1n,3u1unu2v1v2vnh1h2hny1y2ynw 112w2m,nw211病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对

21、稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程图7-5 单隐层BP网络输 入W1W2隐 含 层输 出 层 线性激活函数S型激活函数(b)结构简图Xn11n1n1uyvhm1mnn1nn1m1(c)网络结构示意图 XW1 JHL YW2病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程网络中隐含层和输出层神经元的输出为(7-9)若将神经元的阈值也视为一个连接权值，即令 则上式可写成如下形式（7-10）病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程（2）BP学习算法

22、 BP网络的学习训练过程分为两个阶段。第一阶段正向传播。若在输出层得不到希望的结果，则转入第二阶段反向传播，将误差信号沿原来的神经元连接通路返回，通过修改各层神经元的权值，使得误差信号不断减小，最后达到误差允许的范围。设共有 N 个学习样本：对应的输出期望值为：若给定网络的所有连接权值的初始值。将第P个样本输入后，网络的输出是病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 将N个样本全部输入，并按式（7-9）作正向传递运算后，网络的总误差为（7-13）若此误差值大于给定的精度，则要设法改变网络的各个连接权值，以使网络误差减小，并最

23、终满足给定的精度要求。取误差函数的负梯度作为误差函数的调整方向，对于任意权系数，权值的调整量和新的权值分别为(7-12)与期望值相比输出误差为病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 其中n代表修正或调整的次数。这就是BP网络学习训练的基本思想，由此得到的算法称BP算法。（3）BP 算法的计算公式 对输出层的权值（716）令（718）（717）和权值的修正算式 得（718）病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程其中称等效误差，为实际误差，为学习速率，通常

24、取同理，对于隐含层权值有令等效误差病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 多个隐含层BP网络中，其他隐含层的权值修正式可按同样方法推出。综上所述，BP算法的执行步骤如下：隐含层的权值调整量和权值的修正算式分别为（720）给定初始权值矩阵 和阈值向量为小的随机数向量，给定计算精度；输入训练样本和期望输出；对各个样本，按式（79）或式（710）计算网络隐含层 的状态和输出层的输出；病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程成立，则网络的学习完成。否则转；精度判

25、断：若有按式(7-17)和式（7-19）计算输出层和隐含层的等效误差、并按式（7-18）和式（7-20）对所有权值进行修正后转。综上所述，BP 算法 是以梯度法寻求误差函数极小化的迭代算法。训练依据是给定的某一过程若干组数据构成的试验样本(x,d)训练结果是一组符合该过程运行规律的网络权值W和阈值。有了这一组权值和阈值，就可以方便地模拟和仿真该过程，得到任意一组给定数据所对应的预测结果。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 Hopfield人工神经网络是一种单层对称全反馈式网络，7.2.3 Hopfield网络 Hopf

26、ield网络根据激活函数的不同分离散型网络和连续型网络两种。离散型Hopfield网络是一种反馈型单层二值神经元网络，图7-9 所示为n个神经元组成的Hopfield网络。图7-9 Hopfield 网络y1(t+1)y2(t+1)yn(t+1)v1(t+1)v2(t+1)vn(t+1)f（）f（）f（）u1(t)u2(t)un(t)x1x2xnwn1w21w1nw2n-2-nwn2病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 每个神经元结点的输出为 0 或 1。类似于 MP 神经元，可表示为（724）若进一步令 则这时的权矩阵

27、是一个主对角线元素全部为零的对称矩阵。对应的网络是一种无自反馈的对称型Hopfield网络。其中，即网络是对称的。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 为外界输入时的网络状态称网络的初始状态，记作 为外界输入时的网络状态称网络的初始状态，记作 以 其结构可以用一个加权无向量图表示，如图7-10和图7-11所示。图7-10 Hopfield 网络 结 构简图图7-11 Hopfield 网络 等价结构图y1y2y3w21w12w13w23w32w31w31y1y2y3w12w13w23病原体侵入机体，消弱机体防御机能，破坏

28、机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程式中 sgn。为符号函数，即网络运行的方式有异步和同步两种：异步（串行）方式。在任意时刻t，随机或按某一确定的顺序对网络的某一神经元的状态进行演变更新，其余神经元的状态保持不变。同步（并行）方式。在任意时刻t，网络中的部分神经元（如同一层）的状态同时演变更新，或网络中的全部神经元的状态同时进行演变更新。Hopfield 离散型网络在某一时刻t 的能量函数定义为 病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 可以证明，如果网络的权值矩阵是对称的且无自反馈，若按

29、异步（串行）方式更新时网络是稳定的，必定会收敛于一个稳定状态。也就是说，在网络的循环演变过程中，能量函数是单调下降的。当网络最终趋于稳定状态时，能量函数达到最小值。网络演变中，能量函数的变化可表示为或分析可知，若取激活函数为符号函数，即令病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程可保证网络在演变过程中，能量函数单调下降，最后达到极小值 连续型Hopfield网络的结构与离散型相同，状态方程也相同，不同的是激和函数为连续可微、单调上升的S型函数，即Hopfield网络用来求解最优化问题的基本步骤可概括如下：选择合适的问题表达，使

30、网络输出与最优化问题的解彼此对应；构造计算能量函数，使其最小值对应问题的最优值；由能量函数和解的表达形式推出对应的连接权矩阵和阈值向量；构造相应的神经网络；进行网络演变运算，直到网络达到稳定状态，得到最优解为止。病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 在用Hopfield 网络求解最优化问题时，关键在于针对不同的问题构造相应的能量函数和网络结构。为此首先需要把目标函数和约束条件与网络的能量函数联系起来，即令网络的能量函数等于最优化问题的目标函数或惩罚函数（728）（729）或 从而确定网络的结构和结构参数（权值和阈值）。然

31、后按异步方式，不断对网络进行更新，当网络达到稳定状态时，便可得到最优化问题的最优解。对于无约束的二次函数最优化问题病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程显然，若将二阶导数矩阵H 当作权矩阵，将梯度当作阈值向量则有对于线性规划问题建立相应的外点惩罚函数若取 病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 可见以能量函数（732）建立神经网络并运算求解，当能量函数达到极小时惩罚函数也达到极小，对应的解就是线性规划问题的最优解。可以验证当能量函数取作时，惩罚函数与能

32、量函数的值仅相差一个常数。（732）即 将式上式代入式（7-30）后得 当网络的能量函数确定以后，变量X还需用神经元的状态向量V表示，设它们之间的转换矩阵为T，即病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程令 则有 这就是用神经网络算法求解二次函数最优化问题时的能量函数。对应的神经元状态演变关系为或 病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程例74 求解无约束最优化问题解 首先将目标函数带入式（728），比较可知对应的神经网络为三结点Hopfield网络，网络参

33、数为：即 按式 和 病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程对网络进行更新，取 因 有 同理有病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 可见，网络到此已达到稳定状态，故所求无约束问题的最优解是例7-5 求解无约束最优化问题给定初始点解：采用离散型Hopfield 网络，将变量用二位二进制数表示即令病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 取目标函数为计算能量函数，即 将上面用二进制数表示

34、的 和 代入上式由于Hopfield 网络中存在关系，故权矩阵和阈值向量是病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 对应的网络如图7-12，其中n=4，即有4个神经元。图7-12 例7-4 的网络结构图 1234病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 演变求解采用串行运行方式，初始点对应的网路初始状态是 分别单独改变第1到第4个神经元的状态，得如下状态向量和能量函数 病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 可见，能量函数的值都小于前一个状态，任取其中一个作为下一个状态向量，如取 同理有 病原体侵入机体，消弱机体防御机能，破坏机体内环境的相对稳定性，且在一定部位生长繁殖，引起不同程度的病理生理过程 神经网络算法的稳定点一般只是最优化问题的局部最优点，上面问题的全局最优解是 只要将变量用三位二进制表示，建立相应的网络并进行同样的演变就可得到。