神经网络与应用精.ppt

《神经网络与应用精.ppt》由会员分享，可在线阅读，更多相关《神经网络与应用精.ppt（19页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、神经网络与应用第1页，本讲稿共19页人工神经网络发展萌芽期萌芽期阀值加权和模型(MP模型）Hebb学习律上世纪四十年代第一次高潮期 电子线路模拟感知器 大规模投入研究上世纪五六十年代沉寂期 异或运算不可表示 多层感知器学习规则不知上世纪八十年代初复兴期 Hopfield网络 BP神经网络 至今第2页，本讲稿共19页生物神经元神经元细胞体突起树突 轴突生物神经元构成第3页，本讲稿共19页标准M-P模型图v1v4v3v2vniwi1wi2wi3wi4winF(ui)ui第4页，本讲稿共19页标准M-P模型数学描述神经元状态Ui=Wij*Vj-i j神经元输出Vi=f（Ui）阶跃函数Vi=f（Ui）

2、=1Ui00Ui=0第5页，本讲稿共19页典型神经网络应用自适应谐振理论（ART）该模型主要包括ART1、ART2和ART3，它们可以对任意多和任意复杂的二维模式进行自组织、自稳定和大规模并行处理。ART1主要用于二值输入，ART2和ART3主要用于连续信号输入。该类模型主要用于模式识别（如雷达、声纳的信号识别）。缺点是对转换、失真及规模的变化较为敏感。雪崩模型（Avalanche）该类神经网络模型可以学习、记忆和重现随机复杂度的时空模式。主要用于连续的语音识别和教学机器人。缺点是调节困难。Hopfield神经网络模型 它是由相同处理单元构成的单层自联想网络模型。主要用于从片段中进行图像和数据

3、的完全恢复。第6页，本讲稿共19页典型神经网络应用 对流传播模型（CPN）该类神经网络模型是一种在功能上作为统计最优化和概率密度函数分析的网络模型。主要用于图像压缩、统计分析、贷款应用打分。缺点是对任何类型的问题均需大量的处理单元和连接。反传神经网络模型（BP）该类神经网络模型是一多层映射神经网络。采用的是最小均方差的学习方式，是目前使用最广泛的神经网络模型之一。主要用于语言综合、语言识别、自适应控制等。缺点是它仅仅是有监督的一种学习方式，而且需要大量的输入、输出样本。第7页，本讲稿共19页神经网络分类网络拓扑结构反馈型网络前向型网络连续型网络离散型网络网络性能学习方式有监督型网络无监督型网络

4、突触性质一阶线性网络高阶非线性网络第8页，本讲稿共19页误差反向传播网络（BP）第9页，本讲稿共19页调整权值误差反向传播过程实际上是通过计算输出层的误差ek，然后将其与输出层激活函数的一阶导数f2相乘来求得ki由于隐含层中没有直接给出目标矢量，所以利用输出层的ki反向传递来求出隐含层权值的变化量w2ki。然后计算同样通过将ei与该层激活函数的一阶导数f1相乘，而求得ij，以此求出前层权值的变化量w1ij如果前面还有隐含层，沿用上述同样方法依此类推，一直将输出误差ek逐层的反推算到第一层为止第10页，本讲稿共19页神经网络适用场景神经网络的局限性和优势神经网络的局限性和优势神经网络的局限性和优

5、势神经网络的局限性和优势1.非典型解决方案 神经网络与经典计算方法相比并非优越,只有当常规方法解决不了或效果不佳时神经网络方法才能显示出其优越性。尤其对问题的机理不甚了解或不能用数学模型表示的系统,如故障诊断、特征提取和预测等问题,神经网络往往是最有利的工具。2.海量数据处理1.神经网络对处理大量原始数据而不能用规则或公式描述的问题,表现出极大的灵活性和自适应性。第11页，本讲稿共19页神经网络工具包重量级工具MatlabJoone Editor 构建网络很方便更新滞后Joone例子丰富，提供很多种网络及工具支持云计算EncogFor Java第12页，本讲稿共19页神经网络工具包-Joone

6、第13页，本讲稿共19页神经网络工具包 Encog For Java第14页，本讲稿共19页意向度模型架构图卖家买家买家数据收集偏好信息行为信息客户信息反馈信息网站模型管理ANN模型数据预处理器训练器输出处理营销匹配意向度计算模型训练第15页，本讲稿共19页意向度模型应用场景意向度模型后台接待系统访客精准营销探头浏览网站计算意向度访客识别模型优化WEB IM接待人员聊天数据反馈第16页，本讲稿共19页意向度数据模型第17页，本讲稿共19页构造BP神经网络选择BP神经网络，BP神经网络被广泛采用，在大数据量处理上具有很好的性能构造神经网络2.确定隐含层节点数量1.确定隐含层层数3.调整学习率、动量4.调整网络结构RPROP（弹性BP），LM方法，标准BP第18页，本讲稿共19页第19页，本讲稿共19页