2022年神经网络与复杂网络的分析 .pdf

1 神经网络与复杂网络的分析摘要复杂网络在现实生活中是无处不在的，生物网络是它的一个分类。 神经网络是很重要的生物网络。利用神经网络是可以研究一些其他的方向，如网络安全、人工智能等。 而神经网络又可以因为它是复杂的网络，可以利用复杂网络的部分性质里进行研究，比如小世界效应的。本文只要介绍了几篇应用复杂网络的研究，并进行简单的介绍和分析。关键词： 复杂网络、神经网络Abstract The Complex network is in everywhere in real life, while Biological network is one of kinds of it. And neural network is one of the most important of biological network. The neural network could be used to research other subjects such as network security, artificial intelligence and so on. However we also use some properties of complex network to study neural network. Foe example we could use small-world to study it. This paper introduces and analysis five articles that use complex network. Key word：complex network、neural network 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 1 页，共 5 页 - - - - - - - - - 2 神经网络与复杂网络的分析在神经网络的研究中， 除了根据神经生物学实验得到基本组成单元的数学模型以及使用动力学对于模型系统的活动进行认识以外，神经网络的结构也是一个重要的方面。 网络的结构对于大多数复杂系统整体的动力学具有重要的影响，这已经是一个被普遍接受的观点。复杂网络一开始就是一个交叉学科研究。在复杂网络研究兴起之前， 网络概念就已经在几个研究领域出现并发挥着重要的作用，例如社会学研究， 计算机网络和互联网， 数学中的一个分支图论， 以及神经系统活动。 在现实世界中复杂网络是无处不在的。在现实社会中复杂网络主要分为四类：社交网络、生物网络、技术网络和信息网络。在现实生活中很多生物系统都可以被表示成网络的形式，并利用这种形成的网络结构来研究相应的生物系统。生物网络的典型例子可能是代谢路径网络， 它是代谢基质和代谢产物的刻画，如果一已知代谢反应存在， 其作用于给定基质并产生指定产物，两者之间由有向边连接。 如一个不同的网络是蛋白质之间的力学物理相互作用网络（与代谢物中的化学反应相对），它经常被指为蛋白质相互作用网络。 而在生物网络中还有几个重要的应用如：基因调节网络、食物链网、血管网络等。在其中还有一个相当重要的生物网络就是神经网络。就是对现实中的神经网络进行模拟，但是对现实神经网络的拓扑结构进行测度极为困难，但在一些案个别的案例中得到成功实施。人工神经网络也简称为神经网络或称作连接模型，它是一种模范动物神经网络行为特征， 进行分布式并行信息处理的算法数学模型。这种网络依靠系统的复杂程度，通过调整内部大量节点之间相互连接的关系，从而达到处理信息的目的。人工神经网络是一种应用类似于大脑神经突触联接的结构进行信息处理的数学模型。在工程与学术界也常直接简称为神经网络或类神经网络。神经网络是一种运算模型， 由大量的节点 （或称神经元） 和之间相互联接构成。 每个节点代表一种特定的输出函数， 称为激励函数 （activation function） 。每两个节点间的连接都代表一个对于通过该连接信号的加权值，称之为权重， 这相当于人工神经网络的记忆。网络的输出则依网络的连接方式，权重值和激励函数的不同而不同。而网名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 2 页，共 5 页 - - - - - - - - - 3 络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。在研究神经网络时， 有几个重要的研究方向。 可以研究复杂网络的拓扑属性来研究神经网络。在王胜军 1的论文复杂网络上神经动力学研究中主要是研究了复杂网络的拓扑属性对神经网络动力学的影响，神经网络中限制同步性的一种动力学机制，并且使用神经网络研究了复杂网络本身的一个普遍性问题：稀疏性特征的意义。他是分为几个方面来进行研究的。一、研究了复杂网络结构对于两层神经网络之间的同步的影响。 二、研究了神经元之间突触耦合的效能对于兴奋性神经网络中放电同步的影响。三、研究了度关联无标度吸引子网络对刺激的响应。四、使用吸引子网络模型作为例子研究复杂网络稀疏特征的功能意义。从这几个方面来研究神经网络，和理解一个稀疏的连接密度上网络的拓扑属性对于网络上动力学的影响最明显。 使用信噪比分析， 我们证明非单调的差异是由网络度分布的差异性和信号强度的竞争导致的。 此工作有助于深刻理解具有网络结构的复杂系统往往是稀疏的这一普遍现象。在研究神经网络时， 并不一定是从网络的结构来研究的，也可以从小世界的方向进行对神经网络的研。 小世界效应是复杂网络的一个性质。在主要是指在一个网络中的任意两个节点之间的距离是很短的。著名的六度分割的实验就表明了在真实世界存在一种小世界效应的。而神经网络是属于生物网络的，而生物网络是复杂网络在现实世界中的一个重要的分类，所以神经网络也应该具有小世界效应的。但是真是的神经网络是不容易进行研究的，所以通过研究人工神经网络来进行对真实的神经网络的研究。而LI Shou-wei 3在 Analysis of Contrasting Neural Network with Small-world Network 文章，对三类网络进行比较，即比较人工神经网络、 脑神经网络和小世界网络。 根据和脑神经网络进行比较分析，可以观测到典型的人工神经网络时规则的，它的功能有很对缺陷和限制； 脑神经网络是一个小世界网络； 人工神经网络和小世界网络的不同组成它们复杂性的三个等级：点、边和行为。 还讨论了如何重构人工神经网络到小世界网络。小世界神经网络可以通过以一定概率p 进行重连，而对于最好的模拟是这个重连的概率是满足 0p0.1 的。对小世界网络和神经网络的关系的研究不止这样，还有很多人是名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 3 页，共 5 页 - - - - - - - - - 4 基于小世界神经网络进行研究的。在王小虎等人2的文章多层前向小世界神经网络的逼近与容错性能 中就是借助了小世界效应来研究神经网络的。他们的基本思想是基于 WattsStrogatz网络模型的构造思想， 对多层前向神经网络中的规则连接依重连概率进行重连，构建了一种多层前向小世界神经网络模型对该网络模型进行简要的数学描述， 并以函数逼近和网络容错仿真考察了构建的小世界神经网络的性能。神经网络是一个大的领域， 在其中联想记忆是一个重要的组成部分，也是神经网络用于智能控制、 模式识别与人工智能等领域的一个重要功能。它主要利用神经网络的良好容错性 能使不完整的、 污损的、畸变的输入样本恢复成完整的原型，适于识别、分类等用途。在徐志4的基于复杂网络的联想记忆网络研究中就是应用复杂网络的拓扑结构来研究神经网络中的联想记忆网络。他们是建立一个具有稀疏拓扑连接结构的网络来完成联想记忆的功能。他们首先对传统的研究方法进行里总结，如：离散Hopfield 网络和连续Hopfield 网络进行了分析。基于复杂网络的新型联想记忆网络。即出于降低连接复杂度的目的，同时根据生物学中神经系统中的复杂网络的特性的发现，基于小世界模型建立具有复杂网络特性的新型联想记忆网络， 是该新型网络能再整体中连接较少的情况下仍使得网络具有良好的记忆回想功能，同时减少连边数。 结果这种情况下， 即连边数数很小的情况下，能够完成联想记忆功能，并与其它的相比，具有一定的优势。不同的人在研究时有着不同的思路和方向的。而在研究不同的理论时可以是相互利用的。 所以可以用复杂网络的理论来进行对神经网络的研究，同样也可以用神经网络的理论来研究复杂网络。张兰华等人 5通过应用 BP网络来进行对社团分类的研究。 BP 网络是向后传播网络是在1986 年由 Rumelhart和 McCelland为首的科学家小组提出， 是一种按误差逆传播算法训练的多层前馈网络，是目前应用最广泛的神经网络模型之一。BP 网络能学习和存贮大量的输入-输出模式映射关系，而无需事前揭示描述这种映射关系的数学方程。它的学习规则是使用最速下降法，通过反向传播来不断调整网络的权值和阈值，使网络的误差平方和最小。BP 神经网络模型拓扑结构包括输入层（input） 、隐层 (hide layer)和输出层(output layer)。在张兰华等人的文章是将神经网络分类特性应用到社团结构的分类之中的，以 BP 网络为模型，用社团节点与神经网络节点的相似性来模拟社团名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 4 页，共 5 页 - - - - - - - - - 5 分类结果，构建成员关系图的邻接矩阵，利用邻接矩阵来进行实验设计建立BP 神经网络 ,通过已知样本学习和检验样本检验,实现成员关系网络的分类模拟。在进行神经网络和复杂网络的研究时，有着大量的研究。总结在这短短几周的时间的学习，了解到了神经网络的一些知识，对此，感谢蒲老师的教导。并对为完成这篇文章给予帮助的同学表示感谢参考文献1.王胜军 . 复杂网络上神经动力学研究. 2009 2.王小虎 . 多层前向小世界神经网络的逼近与容错性能. 西安交通大学学报第44 卷第7期.2010 3.LI Shou-wei. Analysis of Contrasting Neural Network with Small-world Network. DOI 10.1109/FITME.2008.55 4.徐志 . 基于复杂网络的联想记忆网络研究.2007 5.张兰华 . 基于 BP 神经网络的社团分类研究. 微电子学与计算机第28 卷第 6 期.2011 6.M. E. J. Newman. The structure and function of complex networks. 7.汪小帆，李翔，陈关荣复杂网络理论及其应用M 北京：清华大学出版社，2006：38 名师资料总结 - - -精品资料欢迎下载 - - - - - - - - - - - - - - - - - - 名师精心整理 - - - - - - - 第 5 页，共 5 页 - - - - - - - - -