第4章(人工神经网络1-基础知识)ppt课件.pptx

《第4章(人工神经网络1-基础知识)ppt课件.pptx》由会员分享，可在线阅读，更多相关《第4章(人工神经网络1-基础知识)ppt课件.pptx（61页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用第第4章章 人工神经网络人工神经网络内容内容：教材：教材109-119、191-200页页4.1基础知识（补充）基础知识（补充）4.2神经元与神经网络神经元与神经网络4.3反向传播神经网络反向传播神经网络4.4离散的离散的Hopfield网络网络经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为

2、消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用4.1基础知识基础知识1最速下降法（梯度法）最速下降法（梯度法）2Matlab程序设计语言与神经网络工具箱程序设计语言与神经网络工具箱经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用1最速下降法最速下降法最最速速下下降降法

3、法（又又称称梯梯度度法法）是是1847年年 Cauchy提提出出来来的的最最优优化化算算法法，用用于于求求解解非非线线性性函函数数的的局局部部最小值（最小点）最小值（最小点）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用回顾高等数学中一元函数的求极值问题：回顾高等数学中一元函数的求极值问题：极小点的条件是极小点的条件是：经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿

4、其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用n元函数极小点的条件元函数极小点的条件：矩阵是半正定的矩阵是半正定的Hesse矩阵矩阵梯度梯度经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用自然而然想到的求极小值的方法自然而然想到的求极小值

5、的方法令梯度为零，通过解非线性方程组，求出一组令梯度为零，通过解非线性方程组，求出一组极值点极值点根据每一个极值点处的矩阵是否为半正定，来根据每一个极值点处的矩阵是否为半正定，来判断极小值点判断极小值点经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用在实际中，在实际中，这一方法是不可行的这一方法是不可行的：变量的个数多变量的个数多不易求解非线性方程组不易求解非线性方程组不易判断矩阵是否

6、半正定不易判断矩阵是否半正定经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用在最优化技术中，采用迭代的方法求出其中的在最优化技术中，采用迭代的方法求出其中的一个解一个解不同的初始值可能对应于不同的解，并求出不同的初始值可能对应于不同的解，并求出局部极值局部极值经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费

7、用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用在在最最速速下下降降法法中中，以以负负梯梯度度方方向作为极小化算法的下降方向向作为极小化算法的下降方向迭代格式为迭代格式为梯度梯度经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用是迭代步长，可以用一维搜索来确定是迭代步长，可以用一维搜索来确定终止准则终止准

8、则：向量的向量的2范数：范数：经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用最速下降法的计算步骤最速下降法的计算步骤：1：给定初始点：给定初始点x1，允许误差允许误差，置置k=12：计算搜索方向：计算搜索方向g(xk)=f(xk)经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺

9、诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用3：如如果果|g(x)|2，则则终终止止计计算算，算算法法找找到到解解。否否则则，从从xk 出出发发，沿沿-g(xk)进进行行一一维维搜搜索索，求求出出k，使得使得 f(xk-k g(xk)=min f(xk-g(xk)4：置置 xk+1=xk-k g(xk)，k=k+1，转到转到步步2经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，

10、增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用说明说明：在在编编程程时时，还还需需要要设设置置最最大大允允许许迭迭代代次次数数，以以提前终止迭代过程提前终止迭代过程在在人人工工神神经经网网络络的的算算法法中中经经常常人人为为地地设设定定迭迭代代步长（学习率）步长（学习率）（常量或者单调减小常量或者单调减小）经营者提供商品或者服务有欺

11、诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用梯度法的特点梯度法的特点：一般来说，只能找到一个局部最小点（多解）一般来说，只能找到一个局部最小点（多解）收敛速度较慢收敛速度较慢算法结构简单，易于用各种编程语言来实现算法结构简单，易于用各种编程语言来实现经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行

12、为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用2Matlab程序设计语言与神经网络工具箱程序设计语言与神经网络工具箱(1)Matlab简介简介Matlab（MatrixLaboratory）是美国是美国MathWorks公司的产品，是一种功能强大、效率高、便于进行公司的产品，是一种功能强大、效率高、便于进行科学和工程计算的交互式软件包。科学和工程计算的交互式软件包。当前使用的版本当前使用的版本：Matlab6.1、Matlab6.5和和Matlab7.0经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的

13、金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用Matlab的特点的特点：高效方便的矩阵和数组运算高效方便的矩阵和数组运算例如：求例如：求Ax=b，语句是语句是x=Ab求特征值，语句是求特征值，语句是e=eig(A)编程效率高编程效率高Matlab语语言言简简洁洁紧紧凑凑，使使用用灵灵活活方方便便，程程序序书书写形式自由。库函数丰富写形式自由。库函数丰富经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受

14、服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用结构化结构化/面向对象面向对象当当前前Matlab版版本本采采用用C+编编写写的的，既既有有结结构构化化的的控控制制语语句句（for,while,break,continue,if），又又有有面面向向对象编程的特性对象编程的特性方便的绘图功能方便的绘图功能能够绘制各种二维、三维图件能够绘制各种二维、三维图件经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务

15、有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用用户使用方便用户使用方便使使用用方方式式有有命命令令行行和和.m文文件件（脚脚本本M文文件件、函函数数M文文件件）。后后者者作作为为编编译译型型语语言言使使用用：编编辑辑-编编译译-连连接接-执行与调试执行与调试功能强大的工具箱功能强大的工具箱近三十个工具箱近三十个工具箱经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金

16、额为消费者购买商品的价款或接受服务的费用扩充能力强扩充能力强用用户户可可以以自自己己编编写写函函数数，建建立立新新的的库库函函数数和和扩扩充充库库函函数数。核核心心文文件件和和工工具具箱箱文文件件都都是是可可读读可可写写的的源源文文件件，用用户户可可以以修修改改。可可以以与与C，C+语语言言混混合编程合编程计算速度比计算速度比C语言慢，易学会难精通语言慢，易学会难精通经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者

17、购买商品的价款或接受服务的费用(2)Matlab语言的要点语言的要点注释行注释行注释行的开头是注释行的开头是“”经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用变量变量变量命名规则是：变量命名规则是：区分大小写区分大小写长度最多不能超过长度最多不能超过19个字符个字符变变量量名名必必须须以以字字母母开开头头，由由字字母母、数数字字和和下下划划线组成线组成经营者提供商品或者服务有欺诈行为

18、的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用数组数组数数组组是是一一系系列列数数的的有有序序排排列列，用用方方括括号号“”表示表示数组的下标从数组的下标从1开始开始元素之间用元素之间用“空格空格”或或“逗号逗号”分开分开经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其

19、受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用例：例：x=0,1,2,3,4,5,6;（行向量行向量）x(1)：第一个元素：第一个元素x(1:5)：第一到第五个元素：第一到第五个元素x(3:-1:1)：第三到第一个元素：第三到第一个元素经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用注意注意：如果语句最后没有如果语句最后没有“；”，则显示，则显示x的所有值的所有值有分

20、号则不显示有分号则不显示经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用矩阵矩阵矩阵用矩阵用“方括号方括号”来表示来表示同一行的数据用同一行的数据用“空格空格”或或“逗号逗号”隔开隔开不同行的数据用不同行的数据用“分号分号”隔开隔开经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺

21、诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用例：例：A=1,0,0;0,1,0;0,0,1;引用一个元素可以用两个下标来表示引用一个元素可以用两个下标来表示例例A(i,j)引用多个元素可以用冒号来表示引用多个元素可以用冒号来表示例例A（：，（：，j）：第第j列的所有元素列的所有元素经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费

22、用4.1.2.3神经网络工具箱神经网络工具箱神神经经网网络络工工具具箱箱包包含含了了人人工工神神经经网网络络中中的的主主要要模模型型与与算算法法，具体有：具体有：感知器神经网络感知器神经网络（Perceptron，Rosenblatt，1957）线性神经网路（线性神经网路（Adaline,Widrow和和Hoff，1960）BP神经网络神经网络（BP，Rumelhart和和McCelland，1986）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿

23、其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用自组织网络自组织网络（SOM，Kohonen，1980）离散的离散的Hopfield网络（网络（Hopfield，1986）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用第第4章章 人工神经网络人工神经网络4.1基础知识（补充）基础知识（补充）4.2神经元与神经网络神经元与神经网络4.3反向传播神经网络反向传播神经网络

24、4.4离散的离散的Hopfield网络网络经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用4.2.1生理神经元生理神经元4.2.2人工神经元人工神经元4.2.3神经网络神经网络经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加

25、赔偿的金额为消费者购买商品的价款或接受服务的费用4.2.1生理神经元生理神经元1 生理神经元的结构生理神经元的结构2生理神经元的工作原理生理神经元的工作原理经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用典型的神经元分成：典型的神经元分成：细胞体细胞体(cellbody)突突(process)1生理神经元的结构生理神经元的结构轴突轴突(axon)树突树突(dendrite)生理神经元的

26、组成生理神经元的组成经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用轴突轴突是个突出部分，长度可达是个突出部分，长度可达 lm，把本神经把本神经元的输出发送到与其相连接的其它神经元元的输出发送到与其相连接的其它神经元生理神经元的组成生理神经元的组成输出端输出端经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费

27、用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用树突树突是突出部分，但一般较短，且分枝很多，是突出部分，但一般较短，且分枝很多，与其它神经元的轴突相连，以接收来自其它神经与其它神经元的轴突相连，以接收来自其它神经元的生物信号元的生物信号 生理神经元的组成生理神经元的组成输入端输入端输出端输出端经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额

28、为消费者购买商品的价款或接受服务的费用突触突触是轴突的末端与树突进行信号传递的界面是轴突的末端与树突进行信号传递的界面生理神经元的组成生理神经元的组成接口接口输出端输出端输入端输入端输入端输入端经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用2神经元的工作原理神经元的工作原理只有神经元所有输入的总效应达到只有神经元所有输入的总效应达到阈值电平阈值电平后，后，神经元才会产生一个全强度的输

29、出神经元才会产生一个全强度的输出窄脉冲窄脉冲，从细，从细胞体经轴突进入轴突分枝。此时，称为神经元的胞体经轴突进入轴突分枝。此时，称为神经元的触发触发（抑制转化为兴奋）（抑制转化为兴奋）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用神经元通过突触形成的神经元通过突触形成的网络网络，传递神经元间的，传递神经元间的兴兴奋与抑制奋与抑制；大脑的全部神经元构成极其复杂的拓；大脑的全部神经元构成

30、极其复杂的拓扑网络群体，用于实现扑网络群体，用于实现记忆记忆与与思维思维经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用4.2.2人工神经元人工神经元人工神经元是生理神经元的人工神经元是生理神经元的数学模型数学模型，由，由McCulloch与与Pitts在在1943年首先建立的，现在年首先建立的，现在的模型经过后人适当的改进与完善的模型经过后人适当的改进与完善经营者提供商品或者服务有欺

31、诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用在人工神经元模型中在人工神经元模型中：用权值和乘法器模拟突触特性用权值和乘法器模拟突触特性用加法器模拟树突的互联作用用加法器模拟树突的互联作用用与阈值比较来模拟细胞体内电化学作用产生用与阈值比较来模拟细胞体内电化学作用产生的开关特性的开关特性经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务

32、的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用n 个输入个输入 xi R(i=1,n)，相当于其它神经元的相当于其它神经元的输出值，其中输出值，其中 n 是输入（信号）的数目（即，与是输入（信号）的数目（即，与其相连的其他神经元的个数）其相连的其他神经元的个数）人工神经元模型人工神经元模型经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金

33、额为消费者购买商品的价款或接受服务的费用n 个连接权系数（权值）个连接权系数（权值）w j i R(i=1,n)，相当于突触的连接强度（对于激发状态取正值，相当于突触的连接强度（对于激发状态取正值，对于抑制状态取负值）对于抑制状态取负值）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用j ：神经元的阈值，相当于动作电平的阈值神经元的阈值，相当于动作电平的阈值经营者提供商品或者服务有欺诈

34、行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用总输入总输入：输入信号的加权和，即：输入信号的加权和，即单输出单输出y为：为：经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用 f 称为激发函数、作用函数、

35、激励函数、变换函称为激发函数、作用函数、激励函数、变换函数、转换函数、传递函数数、转换函数、传递函数经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用激发函数激发函数 f 的常用形式的常用形式阈值函数阈值函数或者阶跃函数或者阶跃函数（非线性函数，不可微非线性函数，不可微）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接

36、受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用符号函数符号函数（非线性函数，不可微非线性函数，不可微）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用线性函数线性函数（线性函数、线性函数、1阶可微）阶可微）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿

37、的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用Sigmoid函数函数（非线性函数，任意阶可微非线性函数，任意阶可微）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消

38、费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用Sigmoid函数的特点：函数的特点：第一第一、非线性、单调性（单调增）、非线性、单调性（单调增）第二第二、无限次可微、无限次可微第三第三、当值很大时，可以近似阈值函数或符号函数、当值很大时，可以近似阈值函数或符号函数第四第四、当值很小时，可以近似线性函数、当值很小时，可以近似线性函数经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服

39、务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用神经元的动作：神经元的动作：求加权和求加权和 与阈值比较与阈值比较用激发函数得到输出用激发函数得到输出经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用公式表示上的简化公式表示上的简化令令w j 0=-j，并记并记wj=(wj 0,wj 1,wj n)Tx=(1,x1,xn )T

40、则有则有yj=f(wj Tx)注意注意：有些神经元可能不包含阈值：有些神经元可能不包含阈值经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用图形表示上的简化图形表示上的简化将神经元简化为圆圈或者实心元将神经元简化为圆圈或者实心元阈值阈值经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有

41、欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用4.2.3神经网络神经网络人工神经网络人工神经网络是由大量处理单元（人工神经元）相是由大量处理单元（人工神经元）相互连结组成的非线性、大规模、自适应的动力系统。互连结组成的非线性、大规模、自适应的动力系统。它是在现代神经科学研究成果的基础上提出的，试它是在现代神经科学研究成果的基础上提出的，试图通过图通过模拟大脑神经网络处理、记忆信息的方式模拟大脑神经网络处理、记忆信息的方式，设计出一种新的机器使之具有像人脑那样的信息处设计出一种新的机器使之具有像人脑那样的信息处理能力理能力经营者提供商品

42、或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用人工神经网络的特点人工神经网络的特点并行分布处理并行分布处理神经网络具有高度的并行结构和并行实现能力，神经网络具有高度的并行结构和并行实现能力，因而具有较好的容错能力和较快的总体处理能因而具有较好的容错能力和较快的总体处理能力，所以特别适于力，所以特别适于实时和动态处理实时和动态处理经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到

43、的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用非线性映射非线性映射神经网络具有神经网络具有高度高度非线性非线性映射映射（变换变换）能力能力，是是处理非线性问题处理非线性问题的一种有效手段的一种有效手段经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的

44、费用学习能力学习能力神经网络通过神经网络通过样本样本数据数据完成学习或完成学习或训练。训练训练。训练后后的的神经网络具有神经网络具有推广或者泛化推广或者泛化能力能力（对未来数据对未来数据的预测能力的预测能力）。因此，神经网络能够解决数学模。因此，神经网络能够解决数学模型或规则难以处理的问题型或规则难以处理的问题（类似于黑盒子）（类似于黑盒子）经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的

45、费用适应性与集成性适应性与集成性神经网络神经网络可以用于可以用于在线在线处理处理，并能同时进行定量和定，并能同时进行定量和定性操作。神经网络的强适应和信息融合能力使得它可性操作。神经网络的强适应和信息融合能力使得它可以同时输入大量不同的控制信号，解决输入信息间的以同时输入大量不同的控制信号，解决输入信息间的互补和冗余问题，并实现互补和冗余问题，并实现信息集成和融合信息集成和融合处理。处理。所以，所以，特别特别适于复杂、大规模和多变量系统适于复杂、大规模和多变量系统经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经

46、营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用硬件实现硬件实现除了软件实现外，除了软件实现外，神经网络神经网络还用还用硬件实现硬件实现。超大超大规模集成电路实现规模集成电路实现硬件硬件的面世，使得的面世，使得神经网络成神经网络成为具有快速和大规模处理能力的网络为具有快速和大规模处理能力的网络经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用经营者提供商品或者服务有欺诈行为的，应当按照消费者的要求增加赔偿其受到的损失，增加赔偿的金额为消费者购买商品的价款或接受服务的费用本课程介绍的神经网络模型有本课程介绍的神经网络模型有：多层感知器及其多层感知器及其BP训练算法（训练算法（BP网络）网络）Hopfield网络（网络（Hopfield网络网络)