基础知识续人工神经网络常用学习规则.ppt

《基础知识续人工神经网络常用学习规则.ppt》由会员分享，可在线阅读，更多相关《基础知识续人工神经网络常用学习规则.ppt（44页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、人工神经网络常用的学习规则l MP模型是于1943 年由美国心理学家McCulloch 和数学家Pitts 建立的第一个神经元模型，也可以称为处理单元(Processing Element)，它是一个多输入多输出的非线性信息处理单元。如图5-6 所示，图5-7 为MP模型的作用函数。MP神经元是人工神经元模型的基础，也是人工神经网络模型的基础。图5-6 MP 神经元模型 01(x)F(x)l 人类具有学习能力，人类的知识和智慧是在不断的学习与实践中逐渐形成和发展起来的。关于人工神经网络的学习机制，涉及到神经元如何分布、处理和存储信息。常用的人工神经网络学习规则如下，图5-8是权值调整的一般情况

2、，其中：Wj 为联接到神经元j 的权值向量，X 为输入向量，r 为学习信号，d 为导师信号。权向量的调整准则为 l 式中 为学习速率。权值调整的迭代格式为 权值调整的一般情况wXr(w,x,d)dj信号生成器OjjwjX1)Hebbian 学习规则l 1949 年，心理学家最早提出了关于神经网络学习机理的“突触修正”的假设。该假设指出，当神经元的突触前膜电位与后膜电位同时为正时，突触传导增强，当前膜电位与后膜电位正负相反时，突触传导减弱，也就是说，当神经元i 与神经元j 同时处于兴奋状态时，两者之间的连接强度应增强。根据该假设定义的权值调整方法，称为Hebbian学习规则。在Hebbian 学

3、习规则中，学习信号简单地等于神经元的输出l 式中 W 为权向量，X 为输入向量。权向量的调整公式为权向量中，每个分量的调整由下式确定l 上式表明，权值调整量与输入输出的乘积成正比。显然，经常出现的输入模式将对权向量有最大的影响。在这种情况下，Hebbian 学习规则需预先设置权饱和值，以防止输入和输出正负始终一致时出现权值无约束增长。此外，要求权值初始化，即在学习开始前(t=0)，先对Wj(0)赋予零附近的小随机数。Hebbian 学习规则代表一种纯前馈、无导师学习。该规则至今仍在各种神经网络模型中起着重要作用。2)Perceptron（感知器）学习规则l 1958 年，美国学者Frank R

4、osenblatt 首次定义了一个具有单层计算单元的神经网络结构，称为感知器(Perceptron)。感知器的学习规则规定，学习信号等于神经元期望输出（教师信号）与实际输出之差l 式中 为期望的输出，。感知器采用了与阈值转移函数类似的符号转移函数，其表达为因此，权值调整公式应为l 式中，当实际输出与期望值相同时，权值不需要调整；在有误差存在情况下，由于、，l 权值调整公式简化为l 感器学习规则只适用于二进制神经元，初始权值可取任意值。l 感知器学习规则代表一种有导师学习。由于感知器理论是研究其他神经网络的基础，该规则对于神经网络的有导师学习具有极为重要的意义。l 3)(Delta)学习规则l

5、1986 年，认知心理学家McClelland 和Rumelhart 在神经网络训练中引入了 规则，该规则亦可称为连续感知器学习规则，与上述离散感知器学习规则并行。规则的学习信号规定为l 上式定义的学习信号称为。式中是转移函数的导数。显然，规则要求转移函数可导，因此只适用于有导师学习中定义的连续转移函数，如Sigmoid 函数。l 事实上，规则很容易由输出值与期望值的最小平方误差条件推导出来。定义神经元输出与期望输出之间的平方误差为l 式中，误差E 是权向量Wj 的函数。欲使误差E 最小，Wj 应与误差的负梯度成正比，即l 式中，比例系数 是一个正常数。由式(5-12)，误差梯度为l 可以看出

6、，上式中 与X 之间的部分正是式(5-11)中定义的学习信号。Wj 中每个分量的调整由下式计算l 学习规则可推广到多层前馈网络中，权值可初始化为任意值。l 4)Widrow-Hoff 学习规则l 1962 年，Bernard Widrow 和Marcian Hoff提出了Widrow-Hoff 学习规则，又称为最小均方规则(LMS)。Widrow-Hoff 学习规则的学习信号为l 权向量调整量为.l 的各分量为l 实际上，如果在学习规则中假定社会元转移函数为，则有，此时式(5-11)与式(5-17)相同。l 因此，Widrow-Hoff 学习规则可以看成是学习规则的一个特殊情况。该学习规则与神

7、经元采用的转移函数无关，因而不需要对转移函数求导数，不仅学习速度较快，而且具有较高的精度。权值可初始化为任意值。l 5)Correlation（相关）学习规则l 相关学习规则学习信号为l 易得出分别为l 该规则表明，当dj 是xi 的期望输出时，相应的权值增量 ij 与两者的乘积djxi成正比。l 如果Hebbian 学习规则中的转移函数为二进制函数，且有oj=dj，则相 关学习规则可看作Hebbian 规则的一种特殊情况。应当注意的是，Hebbian 学习规则是无导师学习，而相关学习规则是有导师学习。这种学习规则要求将权值初始化为零。l 6)Winner-Take-all（胜者为王）学习规则

8、l Winner-Take-all 学习规则是一种竞争学习规则，用于无导师学习。一般将网络的某一层确定为竞争层，对于一个特定的输入X，竞争层的所有p 个神经元均有输出响应，其中响应值最大的神经元为在竞争中获胜的神经元，即l 只有获胜神经元才有权调整其权向量，调整量为l 式中，是学习常数，一般其值随着学习的进展而减小。由于两个向量的点积越大，表明两者越近似，所以调整获胜神经元权值的结果是使Wm进一步接近当前输入X。显然，当下次出现与X 相像的输入模式时，上次获胜的神经元更容易获胜。在反复的竞争学习过程中，竞争层的各神经元所对应的权向量被逐渐调整为输入样本空间的聚类中心。在有些应用中，以获胜神经元

9、为中心定义一个获胜领域，除获胜神经元调整权值外，领域内的其他神经元也不同程度地调整权值。权值一般被初始化为任意值并进行归一化处理。l 7)Outstar（外星）学习规则l 神经网络中有两类常见节点，分别称为内星节点和外星节点，其特点见图5-8 和5-9。图5-8 中的内星节点总是接受来自四面八方的输入加权信号，因此是信号的汇聚点，对应的权值向量称为内星权向量；图5-9 中的外星节点总是向四面八方发出输出加权信号，因此是信号的发散点，对应的权值向量称为外星权向量。内星学习规则定内星节点的输出响应是输入向量X 和内星权向量Wj 的点积。该点积反映了X 与Wj 的相似程度，其权值按式(5-23)调整

10、。因此Winner-Take-All 学习规则与内星规则一致。l 下面介绍外星学习规则。外星学习规则属于有导师学习，其目的是为了生成一个期望的维输出向量，设对应的外星权向量用Wj 表示，学习规则如下 l 式中，的规定与作用与式(5-23)中的 相同，给出的外星学习规则使节点j 对应的外星权向量向期望输出向量d 靠近。WijWnjW1jjWijWnjW1jj2.4神经网络学习l 人工神经网络是由人工神经元（简称神经元）互联组成的网络，它是从微观结构和功能上对人脑的抽象、简化，是模拟人类智能的一条重要途径，反映了人脑功能的若干基本特征，如并行信息处理、学习、联想、模式分类、记忆等。目前，已发展了几

11、十种神经网络，例如Hopfield 模型，Feldmann 等的连接型网络模型，Hinton 等的玻尔茨曼机模型，以及Rumelhart 等的多层感知机模型和Kohonen 的自组织网络模型等等。l 在这众多神经网络模型中，应用最广泛的是多层感知机神经网络。多层感知机神经网络的研究始于20 世纪50 年代，但一直进展不大。直到1985 年，Rumelhart 等人提出了误差反向传递学习算法（即BP 算法），实现了Minsky 的多层网络设想。l 神经网络对控制领域和反问题研究有吸引力的特征表现在：(1)能逼近任意L2 上的非线性函数；(2)信息的并行分布式处理与存储；(3)可以多输入、多输出；

12、(4)便于用超大规模集成电路(VLSI)或光学集成电路系统实现，或用现有的计算机技术实现；(5)能进行学习，以适应环境的变化。l 决定网络整体性能的三大要素包括：(1)神经元（信息处理单元）的特性；(2)神经元间相互联接的形式拓扑结构；(3)为适应环境而改善性能的学习规则。表5-1 为对神经网络发展有重要影响的神经网络 l 神经网络通过相继给网络输入一些样本模式，并按照一定的规则（或学习算法）不断改变网络各层的连接权值，使网络的输出不断地接近期望的输出值，这一个过程称为神经网络的学习或训练。学习的实质是可变权值的动态调整的自适应过程。改变权值的规则称为学习规则或学习算法（相应也称训练规则或训练

13、算法）。单个处理单元，无论采用哪一种学习规则进行调整，其算法都十分简单。大量处理单元集体进行权值调整时，网络就呈现出“智能”的特性。l 神经网络结构和功能不同，学习方法也各不相同。在人工神经网络的结构和转移函数决定以后，如何设计权使网络达到一定的要求，就成为决定神经网络信息处理性能的第三大要素。学习问题归根结底就是网络连接权的调整问题，其方法有以下几种：名称 提出者 年代 典型应用领域 局限性 特点Perceptron(感知器)Frank Rosenblatt(康奈尔大学)1958 文字识别、声音识别、声纳信号识别、学习记忆问题研究不能识别识别复杂字符，对字的大小、平移和倾斜敏感最早的神经网络

14、，已很少应用；有学习能力，只能进行线形分类Adaline(自适应线形单元)和Madaline(多个Adaline 的组合网络)Bernard Widrow(斯坦福大学)1960 1962雷达天线控制,自适应回波抵消，适应性调制解调，电话线中适应性补偿等要求输入-输出之间为线性关系学习能力较强，较早开始商业应用，Madaline 是Adaline 的功能扩展Avalanche(雪崩网)S.Drossberg(波士顿大学)1967 连续语音识别，机器人手臂运动的教学指令不易改变运动速度和插入运动Cerellatron（小脑自动机）D.Marr（麻省理工学院）1969 1982控制机器人的手臂运动需

15、要复杂的控制输入类似于Avalanche 网络，能调和各种指令序列，按需要缓缓地插入动作Back Propagation(误差反传网络)P.Werbos(哈佛大学)David umlhart(斯坦福大学)James MeClelland(斯坦福大学)1974 1985语音识别，工业过程控制，贷款信用评估，股票预测，自适应控制等需要大量输入-输出数据，训练时间长，易陷入局部极小多层前馈网络，采用最小均方差学习方式，是目前应用最广泛的学习网络Self-organizing feature map(自组织特征映射网络)Tuevo Konhonen(芬兰赫尔辛基技术大学)1980 语音识别，机器人控制

16、，工业过程控制，图像压缩，专家系统等模式类型数需预先知道对输入样本自组织聚类，可映射样本空间的分布Hopfield 网络 John Hopfield(加州理工学院)1982 求解TSP 问题，线性规划，联想记忆和用于辨识无学习能力，连接要对称，权值要预先给定单层自联想网络，可从有缺陷和有噪声输入中恢复完整信息Boltzman machine(玻尔兹曼机)Cauchy machine(柯西机)J.Hinton(多伦多大学)T.Sejnowski(霍尔金斯大学)1985 1986图像、声纳和雷达等模式识别波尔兹曼机训练时间长，柯西机在某些统计分布下产生噪声采用随机学习算法的网络，可训练实现全局最优

17、Bidirectional Associative Memory(BAM,双向联想记忆网)Bart Kosko(南加州大学)1985 1988内容寻址的联想记忆存储的密度低，数据必须适应编码双向联想式单层网络，具有学习功能，简单易学Counter Propagation(CPN,双向传播网)Robert Hecht-Nielsen1986 神经网络计算机，图像分析和统计分析需要大量处理单元和连接，需要高度准确一种在功能上作为统计最优化和概率密度函数分析的网络Adaptive Resonance Theory(自适应共振理论ART)有ART1、ART2 和ART3 3 种类型G.Carpente

18、r and S Grossberg(波士顿大学)1976 1990模式识别领域，擅长识别复杂模式或未知的模式受平移、旋转及尺度的影响；系统比较复杂，难以用硬件实现可以对任意多和任意复杂的二维模式进行自组织学习，ART1 用于二进制，ART2 用于连续信号Brain State in a Box(盒中脑BSB 网络)James Anderson（布朗大学）1977 解释概念形成，分类和知识处理只能作一次性决策，无重复性共振具有最小均方差的单层自联想网络，类似于双向联想记忆，可对片段输入补全Neocognition(新认知机)Fukushima K福岛邦彦(日本广播协会)1978 1984手写字母

19、识别 需要大量加工单元和联系多层结构化字符识别网络，与输入模式的大小、平移和旋转无关，能识别复杂字形l 图5-1 有导师学习神经网络模型图 5-2 无导师学习神经网络模型 期望输出实际输出学习机输入ANN比较实际输出学习机输入ANN自我比较l 1)有导师学习(Supervised Learning,SL)，在学习过程中，网络根据实际输出与期望输出的比较，进行联接权值的调整，将期望输出称为导师信号，它是评价学习的标准。这种学习模式采用纠错的规则，学习方法要在给出输入模式X 的同时在输出侧还要给出与之相应的目标模式，又称教师信号或期望输出模式，两者一起称为训练对。l 一般训练一个网络需要许多个训练

20、对，称为训练集。学习时，使用训练集中的某个输入模式，得到一个网络的实际输出模式y，再与期望输出模式J相比较，不相符时求出误差，按误差的大小和方向调整权值，以使误差向着减小方向变化。然后逐个用训练集中的每个训练对，不断地修改网络的权值，整个训练集反复地作用于网络许多次，直到训练集作用下的误差小于事前规定的容许值为止，即认为网络在有导师的训练下已学会了训练数据中包含的知识和规则，学习过程便告结束，并存储于网络中，提供给运行阶段使用。l 2)无导师学习(Non Supervised Learning,NSL)，无导师信号提供给网络，网络能够根据特有的结构和学习规则，进行联接权值的调整，此时，网络的学

21、习评价标准隐含其内部。在学习时，训练集仅由各输入模式组成，而不提供相应的输出模式。网络能恨据特有的内部结构和学习规则，响应输入的激励反复调整权值，这个过程称为网络的自组织。l 自组织学习是靠神经元本身对输入模式的不断适应，抽取输入信号的规律（如统计规律），l从而将输入模式按其相似程度自动划分若干类，将其输入特征记忆下来，当它再次出现，就能把它识别出来。这种学习，网络调整权值不受外来的教师信号的影响，可以认为这种学习评价准则隐含于网络内部。ll 3)再励学习(Reinforcement Learning,RL)，它把学习看作试探评价（奖或惩）过程，学习机选择一个动作（输出）作用于环境之后，使环境的状态改变，并产生一个再励信号（奖或惩）反馈至学习机，学习机依据再励信号与环境当前的状态，再选择下一动作作用于环境。选择的原则，是使受到奖励的可能性最大。l 图5-3 再励学习神经网络模型 状态输入 ANN1 ANN2 学习机输出-动作