人工神经网络是一个非线性的有向图.优秀PPT.ppt

《人工神经网络是一个非线性的有向图.优秀PPT.ppt》由会员分享，可在线阅读，更多相关《人工神经网络是一个非线性的有向图.优秀PPT.ppt（23页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、Artificial Neural Networks人工神人工神经网网络是一个非是一个非线性的有向性的有向图，图中含有可以通中含有可以通过变更更权大小来存放模式的大小来存放模式的加加权边，并且可以从不完整的或未知的，并且可以从不完整的或未知的输入找到模式。入找到模式。擅擅长两个方面：两个方面：对大大量量的的数数据据进行行分分类，并并且且只只有有较少少的的几种状况；几种状况；必需学必需学习一个困一个困难的非的非线性映射。性映射。目前目前应用：用：人人们主主要要将将其其用用于于语音音、视觉、学学问处理理、帮助决策等方面。帮助决策等方面。在在数数据据压缩、模模式式匹匹配配、系系统建建模模、模模糊糊限

2、限制制、求求组合合优化化问题的的最最佳佳解解的的近近似似解解（不不是是最最佳佳近近似似解解）等等方方面面也也有有较好好的的应用。用。xnwnx1w1x2w2net=XW人工神经元模拟生物神经元的人工神经元模拟生物神经元的一阶特性一阶特性。输入：输入：X=（x1，x2，xn）联接权：联接权：W=（w1，w2，wn）T网络输入：网络输入：net=xiwi向量形式：向量形式：net=XW2022/10/306a+bo(0,c)netac=a+b/21、BP算法的出现算法的出现非循环多级网络的训练算法非循环多级网络的训练算法UCSD PDP小小组组的的Rumelhart、Hinton和和William

3、s1986年独立地给出了年独立地给出了BP算法清晰而简洁的描述算法清晰而简洁的描述1982年，年，Paker就完成了相像的工作就完成了相像的工作1974年，年，Werbos已提出了该方法已提出了该方法2、弱弱点点：训训练练速速度度特特殊殊慢慢、局局部部微微小小点点的的逃逃离离问问题题、算法不确定收敛。算法不确定收敛。3、优点：广泛的适应性和有效性。、优点：广泛的适应性和有效性。应当当将将netnet的的值尽尽量量限限制制在在收收敛比比较快快的的范范围内内可可以以用用其其它它的的函函数数作作为激激活活函函数数，只只要要该函函数数是到是到处可可导的的2022/10/3080.5f(net)0.25

4、o011（0,0.5）net（0,0）o2022/10/309x1o1输出层输出层隐藏层隐藏层输入层输入层x2o2omxnW(1)W(2)W(3)W(L)2022/10/3010 x1o1输出层输出层隐藏层隐藏层输入层输入层x2o2omxnWV2 2、向后传播阶段、向后传播阶段误差传播阶段：误差传播阶段：（1 1）计计算算实实际际输输出出OpOp与与相相应应的的志志向向输输出出YpYp的的差；差；（2 2）按微小化误差的方式调整权矩阵。）按微小化误差的方式调整权矩阵。（3 3）网络关于第）网络关于第p p个样本的误差测度：个样本的误差测度：2022/10/3011（4）网络关于整个样本集的误差

5、测度：网络关于整个样本集的误差测度：2022/10/30121、输出层权的调整、输出层权的调整wpq=wpq+wpqwpq=qop=fn(netq)(yq-oq)op=oq(1-oq)(yq-oq)opwpqANpANq第第L-1层层第第L层层wpq2022/10/3013ANpANqANhvhppk-11kwp1wpqqkwpmmk第第k-2层层第第k层层第第k-1层层基本基本BP算法算法neti=x1w1i+x2w2i+xnwni2022/10/3014clcclc;clear;close all;ld=200;x=rand(2,ld);x=(x-0.5)*3;x1=x(1,:);x2=x

6、(2,:);F=20+x1.2-10*cos(2*pi*x1)+x2.2-10*cos(2*pi*x2);net=newff(minmax(x),5,1,tansig,purelin,trainlm);net.trainParam.epochs=5000;net.trainParam.goal=1e-3;net.trainParam.lr=0.05;net.trainParam.mc=0.8;net,tr=train(net,x,F);interval=0.1;x1,x2=meshgrid(-1.5:interval:1.5);F=20+x1.2-10*cos(2*pi*x1)+x2.2-10*cos(2*pi*x2);mesh(x1,x2,F);Surf(x1,x2,F);interval=0.1;i,j=meshgrid(-1.5:interval:1.5);row=size(i);tx1=i(:);tx1=tx1;tx2=j(:);tx2=tx2;tx=tx1;tx2;%testingty=sim(net,tx);v=reshape(ty,row);figuresubplot(1,3,2)mesh(i,j,v);