人工神经网络入门讲稿.ppt

关于人工神经网络入门关于人工神经网络入门第一页，讲稿共三十二页哦一、概述一、概述1.生物神经网络人工神经网络2.生物神经元3.人工神经元模型4.人工神经网络结构5.神经网络特点6.神经网络学习方式第二页，讲稿共三十二页哦1、生物神经网络、生物神经网络人工神经网络人工神经网络 生物神经系统的某些结构和功能是天生的，如某些本能动作，但大多数功能需要后天学习才能获得。构造“人工神经元”模拟生物细胞，并以某种方式进行连接，从而模拟“人脑”的某些功能。第三页，讲稿共三十二页哦2、生物神经元、生物神经元 生物神经元是人脑神经系统的基本单元，相互之间通过神经末梢连接，神经元信息是宽度和幅度相同的脉冲串，兴奋的神经元，输出高频率的脉冲串，引起下一个神经元兴奋；否则输出频率就低，抑制下一个神经元。第四页，讲稿共三十二页哦3、人工神经网络模型、人工神经网络模型 人工神经元是人工神经网络的基本单元。依据生物神经元的结构和功能，可以把它看作一个多输入单输出的非线性阈值器件。第五页，讲稿共三十二页哦p2p1pRfaw1w2wRP：其它神经元的输出，即该神经元输入向量；w：其它神经元与该神经元的连接强度，即权值向量；：神经元的阈值，判断输入向量加权和与其大小；f：神经元输入输出关系函数，即传输函数，传输函数 不同构成了不同的神经网络模型；a：神经元输出第六页，讲稿共三十二页哦p2p1pRaw1w2wRfnb人工神经元一般模型第七页，讲稿共三十二页哦4、人工神经网络结构、人工神经网络结构 单个人工神经元不能完成输入信号的处理，需要按照一定的规则连接成网络，并让网络中每个神经元的权值和阈值按照一定的规则变化，才能实现一定的功能要求。可分为分层型和互连型两种。第八页，讲稿共三十二页哦 分层型神经网络按照功能分为输入层、中间层和输出层，中间层也称为隐层，隐层可以有多层（一般不超过2层），也可以没有。第九页，讲稿共三十二页哦5、神经网络特点、神经网络特点n n分布式存储信息n n并行协同处理信息n n信息处理与存储合而为一n n对信息处理具有自组织、自学习特点，便于联想、综合和推广。第十页，讲稿共三十二页哦6、神经网络学习方式、神经网络学习方式 与生物神经网络一样，人工神经网络必须经过学习，才具有智能特性。人工神经网络的学习过程是在不断调节权值和阈值的过程。模仿人的学习过程，提出三种学习方法：监督学习、无监督学习、强化学习。第十一页，讲稿共三十二页哦1）监督学习）监督学习 给出了与所有输入模给出了与所有输入模式式p p对应的输出模式的对应的输出模式的“正确答案正确答案”，即期望输，即期望输出出t t（目标），每次学习（目标），每次学习后，根据实际输出后，根据实际输出a a与期与期望输出望输出t t的差别（误差的差别（误差e e），），决定是否再次学习和学习方决定是否再次学习和学习方法，最终使法，最终使e e满足要求。满足要求。神经网络神经网络（学习系统）（学习系统）误差分析误差分析 P输入 a实际输出e 误差信号 t 期望输出第十二页，讲稿共三十二页哦监督学习的误差信号定义：监督学习的误差信号定义：均方误差均方误差msemse平均绝对误差平均绝对误差maemae误差平方和误差平方和ssesse第十三页，讲稿共三十二页哦2）无监督学习n n没有信息作为响应的校正，依据网络结构和学习规没有信息作为响应的校正，依据网络结构和学习规则调节自身参数和结构，使网络输出反映输入的某则调节自身参数和结构，使网络输出反映输入的某些固有特性。些固有特性。3）强化学习n n介于两者之间，外部环境对学习后的输出结果只给出介于两者之间，外部环境对学习后的输出结果只给出评价信息，而无答案，网络学习系统通过强化正面评评价信息，而无答案，网络学习系统通过强化正面评价行为来改善自身性能。价行为来改善自身性能。第十四页，讲稿共三十二页哦二、神经网络模型二、神经网络模型1.感知器2.BP网络3.线性神经网络4.径向基网络5.竞争型神经网络6.自组织神经网络7.反馈型神经网络第十五页，讲稿共三十二页哦1、感知器、感知器特点感知器神经元及感知器神经网络模型感知器学习局限性感知器网络设计第十六页，讲稿共三十二页哦特点特点n n在解决线性可分问题时，感知器保持了运算速度快，性能可靠的优点；n n理解感知器的训练算法，能够为更好理解其它复杂的神经网络模型奠定基础。第十七页，讲稿共三十二页哦感知器神经元及感知器神经网络模型感知器神经元及感知器神经网络模型n n神经元传输函数f：阈值型传输函数n n感知器网络输出：0，1n n感知器学习规则：规则，eta，网络训练目的是使t a第十八页，讲稿共三十二页哦感知器学习感知器学习 感知器神经网络的训练，需要提供训练样本集，感知器神经网络的训练，需要提供训练样本集，每个样本由神经网络的输入向量和输出向量对组成，每个样本由神经网络的输入向量和输出向量对组成，n n个训练样本构成的训练样本集为：个训练样本构成的训练样本集为：每一步学习，对于各层感知器神经元的权值和阈值的每一步学习，对于各层感知器神经元的权值和阈值的调整算法表示为：调整算法表示为：第十九页，讲稿共三十二页哦 通过有限步数的学习后，网络实际输出和期望输出的误差将减小到0，此时，完成网络训练。训练结果使网络训练样本模式分布记忆在权值和阈值之中，当给定网络一个输入模式时，网络将计算出相应输出，从而判断这一输入模式属于记忆中的哪一种模式或接近于哪一种模式。第二十页，讲稿共三十二页哦感知器局限性感知器局限性n n输出值n n单层感知器网络只用于解决线性可分问题n n感知器学习算法只适用于单层感知器网络第二十一页，讲稿共三十二页哦感知器网络设计感知器网络设计n n确定输入向量的取值范围、维数、网络层的神经元数目、传输函数和学习函数；n n构造训练样本集，确定每个样本的输入向量和目标向量，训练样本，得到满足误差性能指标的神经网络；n n构造测试样本集，仿真网络的性能。第二十二页，讲稿共三十二页哦 举例：判断数字的奇偶性。第二十三页，讲稿共三十二页哦2、BP网络网络特点BP网络学习BP网络设计第二十四页，讲稿共三十二页哦特点特点n n感知器神经网络学习规则和LMS学习算法只能训练单层神经网络，只能解决线性可分问题，多层神经网络可用于非线性分类n nBP神经元传输函数为非线性函数n nBP网络一般为多层网络n n在人工神经网络应用中，绝大部分的神经网络模型采用了BP网络及其变化形式第二十五页，讲稿共三十二页哦BP网络学习网络学习n n第一阶段：输入已知学习样本，通过设置的网络结构和前一次迭代的权值和阈值，从网络第一层向后计算各神经元输出n n第二阶段：从最后一层向前计算各权值和阈值对总误差的影响，并据此修改n n以上两个过程反复交替，直到达到收敛：误差反向传播（back propagation）。第二十六页，讲稿共三十二页哦BP网络设计网络设计n n网络层数n n输入层节点数n n输出层节点数n n隐层节点数第二十七页，讲稿共三十二页哦网络层数网络层数 理论上已经证明，在不限制隐层节点数的情况下，两层（只有一个隐层）BP网络可以实现任意非线性映射，BP网络隐层一般不超过两层。第二十八页，讲稿共三十二页哦输入层节点数输入层节点数 输入层起缓冲存储器作用，它接收外部输入数据，其节点数取决于输入矢量的维数，如以3232大小图像像素作为输入数据时，输入节点为1024第二十九页，讲稿共三十二页哦输出层节点数输出层节点数 当神经网络用于模式分类时，可以二进制形式表示不同模式的输出结果，输出节点数可根据待分类模式数来确定。第三十页，讲稿共三十二页哦隐层节点数隐层节点数 隐层节点数往往根据前人设计所得经验和自己的试验来确定。一般来说，隐层节点数与求解问题要求，输入输出单元数有关，可以参照以下公式设计：第三十一页，讲稿共三十二页哦感感谢谢大大家家观观看看第三十二页，讲稿共三十二页哦