模拟退火算法和遗传算法精选文档.ppt
《模拟退火算法和遗传算法精选文档.ppt》由会员分享,可在线阅读,更多相关《模拟退火算法和遗传算法精选文档.ppt(78页珍藏版)》请在淘文阁 - 分享文档赚钱的网站上搜索。
1、模拟退火算法和遗传算法本讲稿第一页,共七十八页模拟退火算法及模型模拟退火算法及模型 算法的提出算法的提出 模拟退火算法最早的思想由模拟退火算法最早的思想由Metropolis等(等(1953)提出,)提出,1983年年Kirkpatrick等将其应用于组合优化。等将其应用于组合优化。算法的目的算法的目的 解决解决NP复杂性复杂性问题;问题;克服优化过程陷入局部极小;克服优化过程陷入局部极小;克服初值依赖性。克服初值依赖性。物理退火过程物理退火过程本讲稿第二页,共七十八页模拟退火算法及模型模拟退火算法及模型 物理退火过程物理退火过程 什么是退火:什么是退火:退火是指将固体加热到足够高的温度,使分
2、子呈随机排列退火是指将固体加热到足够高的温度,使分子呈随机排列状态,然后逐步降温使之冷却,最后分子以低能状态排列,状态,然后逐步降温使之冷却,最后分子以低能状态排列,达到某种稳定状态。达到某种稳定状态。物理退火过程物理退火过程本讲稿第三页,共七十八页模拟退火算法及模型模拟退火算法及模型 物理退火过程物理退火过程 加温过程加温过程增强粒子的热运动,消除系统原先可能增强粒子的热运动,消除系统原先可能存在的非均匀态;存在的非均匀态;等温过程等温过程对于与环境换热而温度不变的封闭系统,对于与环境换热而温度不变的封闭系统,系统状态的自发变化总是朝自由能减少的方向进行,系统状态的自发变化总是朝自由能减少的
3、方向进行,当自由能达到最小时,系统达到平衡态;当自由能达到最小时,系统达到平衡态;冷却过程冷却过程使粒子热运动减弱并渐趋有序,系统能量逐使粒子热运动减弱并渐趋有序,系统能量逐渐下降,从而得到低能的晶体结构。渐下降,从而得到低能的晶体结构。物理退火过程物理退火过程本讲稿第四页,共七十八页10.1.1 模拟退火算法的基本原理模拟退火算法的基本原理 数学表述数学表述 在温度在温度T,分子停留在状态,分子停留在状态r满足满足Boltzmann概率分布概率分布物理退火过程物理退火过程本讲稿第五页,共七十八页10.1.1 模拟退火算法的基本原理模拟退火算法的基本原理 数学表述数学表述 在在同一个温度同一个
4、温度T,选定两个能量,选定两个能量E1E2,有,有在同一个温度,分子停留在能量小的状态的概率比停在同一个温度,分子停留在能量小的状态的概率比停留在能量大的状态的概率要大。留在能量大的状态的概率要大。本讲稿第六页,共七十八页10.1.1 模拟退火算法的基本原理模拟退火算法的基本原理 数学表述数学表述 若若|D|为状态空间为状态空间D中状态的个数,中状态的个数,D0是具有最低能量的状是具有最低能量的状态集合:态集合:当温度很高时,每个状态概率基本相同,接近平均值当温度很高时,每个状态概率基本相同,接近平均值1/|D|;状态空间存在超过两个不同能量时,具有最低能量状态状态空间存在超过两个不同能量时,
5、具有最低能量状态的概率超出平均值的概率超出平均值1/|D|;当温度趋于当温度趋于0时,分子停留在最低能量状态的概率趋于时,分子停留在最低能量状态的概率趋于1。本讲稿第七页,共七十八页10.1.1 模拟退火算法的基本原理模拟退火算法的基本原理 Metropolis准则(准则(1953)以概率接受新状态以概率接受新状态 若在温度若在温度T,当前状态,当前状态i 新状态新状态j 若若Ej=randrom0,1 s=sj;Until 抽样稳定准则满足;抽样稳定准则满足;退温退温tk+1=update(tk)并令并令k=k+1;Until 算法终止准则满足;算法终止准则满足;输出算法搜索结果。输出算法搜
6、索结果。本讲稿第十三页,共七十八页10.1.3 模拟退火算法的计算步骤及收敛性模拟退火算法的计算步骤及收敛性 定义定义 本讲稿第十四页,共七十八页10.1.3 模拟退火算法的计算步骤及收敛性模拟退火算法的计算步骤及收敛性 定义定义 一步转移概率:一步转移概率:n步转移概率:步转移概率:若解空间有限,称马尔可夫链为若解空间有限,称马尔可夫链为有限状态有限状态;若若 ,称马尔可夫链为,称马尔可夫链为时齐的时齐的。马尔科夫链马尔科夫链本讲稿第十五页,共七十八页10.1.3 模拟退火算法的计算步骤及收敛性模拟退火算法的计算步骤及收敛性 模拟退火算法对应了一个马尔可夫链模拟退火算法对应了一个马尔可夫链
7、模拟退火算法:新状态接受概率仅依赖于新状态和当前状模拟退火算法:新状态接受概率仅依赖于新状态和当前状态,并由温度加以控制。态,并由温度加以控制。若固定每一温度,算法均计算马氏链的变化直至平稳分若固定每一温度,算法均计算马氏链的变化直至平稳分布,然后下降温度,则称为布,然后下降温度,则称为时齐算法时齐算法;若无需各温度下算法均达到平稳分布,但温度需按一若无需各温度下算法均达到平稳分布,但温度需按一定速率下降,则称为定速率下降,则称为非时齐算法非时齐算法。分析收敛性分析收敛性本讲稿第十六页,共七十八页10.1.3 模拟退火算法的计算步骤及收敛性模拟退火算法的计算步骤及收敛性 模拟退火过程是从一个状
8、态(解)到另一个状态(解)模拟退火过程是从一个状态(解)到另一个状态(解)不断地随机游动,我们称这种游动为不断地随机游动,我们称这种游动为变换变换。从邻域从邻域Si中选出某个解中选出某个解j的方法称为解的产生机制的方法称为解的产生机制.从当前解变换到下一个解的过程称为转移,它由产生从当前解变换到下一个解的过程称为转移,它由产生机制的应用和接受准则的应用两部分组成。机制的应用和接受准则的应用两部分组成。本讲稿第十七页,共七十八页10.1.3 模拟退火算法的计算步骤及收敛性模拟退火算法的计算步骤及收敛性 本讲稿第十八页,共七十八页10.1.3 模拟退火算法的计算步骤及收敛性模拟退火算法的计算步骤及
9、收敛性 本讲稿第十九页,共七十八页10.1.4 模拟退火算法实现的技术问题模拟退火算法实现的技术问题冷却进度表冷却进度表控制参数值控制参数值Tf的选取的选取马尔科夫链长度马尔科夫链长度Lk的选取的选取控制参数衰减函数的选取控制参数衰减函数的选取本讲稿第二十页,共七十八页10.1.4 模拟退火算法实现的技术问题模拟退火算法实现的技术问题原则原则 (1)在固定温度下,接受使目标函数下降的候选解的概率在固定温度下,接受使目标函数下降的候选解的概率要大于使目标函数上升的候选解概率;要大于使目标函数上升的候选解概率;(2)随温度的下降,接受使目标函数上升的解的概率要逐渐减随温度的下降,接受使目标函数上升
10、的解的概率要逐渐减小;小;(3)当温度趋于零时,只能接受目标函数下降的解。当温度趋于零时,只能接受目标函数下降的解。方法方法 具体形式对算法影响不大具体形式对算法影响不大 一般采用一般采用min1,exp(-C/t)本讲稿第二十一页,共七十八页10.1.4 模拟退火算法实现的技术问题模拟退火算法实现的技术问题方法方法 (1)均匀抽样一组状态,以各状态目标值得方差为)均匀抽样一组状态,以各状态目标值得方差为初温;初温;(2)随机产生一组状态,确定两两状态间的最大目标值差,)随机产生一组状态,确定两两状态间的最大目标值差,根据差值,利用一定的函数确定初温;根据差值,利用一定的函数确定初温;(3)利
11、用经验公式。)利用经验公式。初温初温本讲稿第二十二页,共七十八页10.1.4 模拟退火算法实现的技术问题模拟退火算法实现的技术问题时齐算法的温度下降函数时齐算法的温度下降函数 (1),越接近越接近1 1温度下降越慢,且其温度下降越慢,且其大小可以不断变化;大小可以不断变化;(2),其中,其中t0为起始温度,为起始温度,K为算法温度下降的为算法温度下降的总次数。总次数。温度更新函数温度更新函数本讲稿第二十三页,共七十八页10.1.4 模拟退火算法实现的技术问题模拟退火算法实现的技术问题非时齐模拟退火算法非时齐模拟退火算法 每个温度下只产生一个或少量候选解每个温度下只产生一个或少量候选解时齐算法时
12、齐算法常用的常用的Metropolis抽样稳定准则抽样稳定准则 (1)检验目标函数的均值是否稳定;)检验目标函数的均值是否稳定;(2)连续若干步的目标值变化较小;)连续若干步的目标值变化较小;(3)按一定的步数抽样。)按一定的步数抽样。内循环终止准则内循环终止准则本讲稿第二十四页,共七十八页10.1.4 模拟退火算法实现的技术问题模拟退火算法实现的技术问题模拟退火算法的优点模拟退火算法的优点 质量高;质量高;初值鲁棒性强;初值鲁棒性强;简单、通用、易实现。简单、通用、易实现。模拟退火算法的缺点模拟退火算法的缺点 由于要求较高的初始温度、较慢的降温速率、较低的终由于要求较高的初始温度、较慢的降温
13、速率、较低的终止温度,以及各温度下足够多次的抽样,因此优化过程止温度,以及各温度下足够多次的抽样,因此优化过程较长。较长。模拟退火算法的优缺点模拟退火算法的优缺点本讲稿第二十五页,共七十八页模拟退火算法的实现与应用模拟退火算法的实现与应用算法流程算法流程 30城市城市TSP问题问题本讲稿第二十六页,共七十八页模拟退火算法的实现与应用模拟退火算法的实现与应用运行过程运行过程 30城市城市TSP问题问题本讲稿第二十七页,共七十八页模拟退火算法的实现与应用模拟退火算法的实现与应用运行过程运行过程 30城市城市TSP问题问题本讲稿第二十八页,共七十八页模拟退火算法的实现与应用模拟退火算法的实现与应用运
14、行过程运行过程 30城市城市TSP问题问题本讲稿第二十九页,共七十八页10.2 遗传算法遗传算法 遗传算法(遗传算法(Genetic Algorithm,简称,简称GA)是一种以自然)是一种以自然选择和遗传理论为基础,将生物进化过程中适者生存规则选择和遗传理论为基础,将生物进化过程中适者生存规则与种群内部染色体的随机交换机制相结合的随机化搜索算与种群内部染色体的随机交换机制相结合的随机化搜索算法。法。本讲稿第三十页,共七十八页10.2 遗传算法遗传算法 达尔文的自然选择说达尔文的自然选择说遗传(遗传(heredity):子代和父代具有相):子代和父代具有相 同或相似的性状,保证物种的稳定性;同
15、或相似的性状,保证物种的稳定性;变异(变异(variation):子代与父代,子代不同个体之间总):子代与父代,子代不同个体之间总有差异,是生命多样性的根源;有差异,是生命多样性的根源;生存斗争和适者生存:具有适应性变异的个体被保留,不生存斗争和适者生存:具有适应性变异的个体被保留,不具适应性变异的个体被淘汰。具适应性变异的个体被淘汰。自然选择过程是长期的、缓慢的、连续的过程。自然选择过程是长期的、缓慢的、连续的过程。生物进化理论和遗传学的基本知识生物进化理论和遗传学的基本知识 本讲稿第三十一页,共七十八页10.2 遗传算法遗传算法 遗传学基本概念与术语遗传学基本概念与术语基因座(基因座(lo
16、cus):遗传基因在染色体中所占据的位置,):遗传基因在染色体中所占据的位置,同一基因座可能有的全部基因称为等位基因(同一基因座可能有的全部基因称为等位基因(allele););个体(个体(individual):指染色体带有特征的实体;):指染色体带有特征的实体;种群(种群(population):个体的集合,该集合内个体数称为种):个体的集合,该集合内个体数称为种群的大小;群的大小;遗传算法的基本原理和特点遗传算法的基本原理和特点 本讲稿第三十二页,共七十八页10.2 遗传算法遗传算法 遗传学基本概念与术语遗传学基本概念与术语进化(进化(evolution):生物在其延续生存的过程中,逐渐
17、):生物在其延续生存的过程中,逐渐适应其生存环境,使得其品质不断得到改良,这种生适应其生存环境,使得其品质不断得到改良,这种生命现象称为进化;命现象称为进化;适应度(适应度(fitness):度量某个物种对于生存环境的适):度量某个物种对于生存环境的适应程度。对生存环境适应程度较高的物种将获得更多应程度。对生存环境适应程度较高的物种将获得更多的繁殖机会,而对生存环境适应程度较低的物种,其的繁殖机会,而对生存环境适应程度较低的物种,其繁殖机会就会相对较少,甚至逐渐灭绝繁殖机会就会相对较少,甚至逐渐灭绝;遗传算法的基本原理和特点遗传算法的基本原理和特点本讲稿第三十三页,共七十八页10.2 遗传算法
18、遗传算法 遗传学基本概念与术语遗传学基本概念与术语选择(选择(selection):指决定以一定的概率从种群中选):指决定以一定的概率从种群中选择若干个体的操作择若干个体的操作;复制(复制(reproduction):细胞在分裂时,遗传物质):细胞在分裂时,遗传物质DNA通过复制而转移到新产生的细胞中,新的细胞就继承通过复制而转移到新产生的细胞中,新的细胞就继承了旧细胞的基因了旧细胞的基因;交叉(交叉(crossover):在两个染色体的某一相同位置处):在两个染色体的某一相同位置处DNA被切断,其前后两串分别交叉组合形成两个新的染色被切断,其前后两串分别交叉组合形成两个新的染色体。又称基因重
19、组,俗称体。又称基因重组,俗称“杂交杂交”;遗传算法的基本原理和特点遗传算法的基本原理和特点本讲稿第三十四页,共七十八页10.2 遗传算法遗传算法 遗传学基本概念与术语遗传学基本概念与术语变异(变异(mutation):在细胞进行复制时可能以很小的概):在细胞进行复制时可能以很小的概率产生某些复制差错,从而使率产生某些复制差错,从而使DNA发生某种变异,发生某种变异,产生出新的染色体,这些新的染色体表现出新的性状产生出新的染色体,这些新的染色体表现出新的性状;编码(编码(coding):表现型到基因型的映射;):表现型到基因型的映射;解码(解码(decoding):从基因型到表现型的映射。):
20、从基因型到表现型的映射。遗传算法的基本原理和特点遗传算法的基本原理和特点本讲稿第三十五页,共七十八页10.2 遗传算法遗传算法 遗传算法的基本思路遗传算法的基本思路 遗传算法实现的技术问题遗传算法实现的技术问题本讲稿第三十六页,共七十八页10.2 遗传算法遗传算法 遗传算法实现的技术问题遗传算法实现的技术问题 遗传算法的工作步骤本讲稿第三十七页,共七十八页10.2 遗传算法遗传算法 遗传算法实现的技术问题遗传算法实现的技术问题本讲稿第三十八页,共七十八页10.2 遗传算法遗传算法 问题的提出问题的提出 一元函数求最大值:一元函数求最大值:简单函数优化的实例简单函数优化的实例 本讲稿第三十九页,
- 配套讲稿:
如PPT文件的首页显示word图标,表示该PPT已包含配套word讲稿。双击word图标可打开word文档。
- 特殊限制:
部分文档作品中含有的国旗、国徽等图片,仅作为作品整体效果示例展示,禁止商用。设计者仅对作品中独创性部分享有著作权。
- 关 键 词:
- 模拟 退火 算法 遗传 精选 文档
限制150内