2022年模糊C均值聚类算法及实现 .docx

《2022年模糊C均值聚类算法及实现 .docx》由会员分享，可在线阅读，更多相关《2022年模糊C均值聚类算法及实现 .docx（11页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、精选学习资料 - - - - - - - - - 模糊 C均值聚类算法及实现摘要 ：模糊聚类是一种重要数据分析和建模的无监督方法；本文对模糊聚类进行了概述,从理论和试验方面讨论了模糊c 均值聚类算法,并对该算法的优点及存在的问题进行了分析；该算法设计简洁,应用范畴广,但仍存在简洁陷入局部极值点等问题,仍需要进一步讨论；关键词： 模糊 c 均值算法；模糊聚类；聚类分析Fuzzy c-Means Clustering Algorithm and Implementation Abstract: Fuzzy clustering is a powerful unsupervised method f

2、or the analysis of data and construction of models.This paper presents an overview of fuzzy clustering and do some study of fuzzy c-means clustering algorithm in terms of theory and experiment.This algorithm is simple in design,can be widely used,but there are still some problems in it,and therefore

3、,it is necessary to be studied further. Key words: fuzzy c-Mean algorithm；fuzzy clustering；clustering analysis 1 引言20 世纪 90 岁月以来,随着信息技术和数据库技术的迅猛进展,人们可以非常便利地猎取和储备大量的数据；但是,面对大规模的数据, 传统的数据分析工具只能进行一些表层的处理, 比方查询、 统计等, 而不能获得数据之间的内在关 系和隐含的信息；为了摆脱“ 数据丰富,学问贫乏” 的困境,人们迫切需要一种 能够智能地、 自动地把数据转换成有用信息和学问的技术和工具,这种对强有

4、力 数据分析工具的迫切需求使得数据挖掘技术应运而生；将物理或抽象对象的集合分组成由类似的对象组成的多个类的过程称为聚类；由聚类所生成的簇是一组数据对象的集合,此相像,与其它簇中的对象相异；这些对象与同一个簇中的对象彼聚类是一种重要的数据分析技术,搜寻并且识别一个有限的种类集合或簇集合,进而描述数据； 聚类分析作为统计学的一个分支, 己经被广泛讨论了很多年；名师归纳总结 - - - - - - -第 1 页,共 7 页精选学习资料 - - - - - - - - - 而且,聚类分析也已经广泛地应用到诸多领域中,包括数据分析、模式识别、图像处理以及市场讨论 1；通过聚类,人们能够识别密集的和稀疏的

5、区域,因而发现全局的分布模式, 以及数据属性之间的好玩的相互关系；在商务上, 聚类能帮助市场分析人员从客户基本信息库中发觉不同的客户群,并且用购买模式来刻画不同的客户群的特点； 在生物学上, 聚类能用于推导植物和动物的分类,对基因进行分类, 获得对种群中固有结构的熟悉； 聚类在地球观测数据库中相像地区确实定,汽车保险单持有者的分组, 及依据房屋的类型、 价值和地理位置对一个城市中房屋的分组上也可以发挥作用；聚类也能用于对 以发觉信息；基于层次的聚类算法文献中最早显现的 法是 1957 年在 Lloyd 的文章中最早显现的,之后Web 上的文档进行分类,Single-Linkage 层次聚类算

6、MacQueen独立提出了经典的模糊 C 均值聚类算法, FCM 算法中模糊划分的概念最早起源于 Ruspini 的文章中,但关于 FCM 的算法的具体的分析与改良就是由Dunn 和 Bezdek 完成的；聚类分析是多元统计分析的一种,也是非监督模式识别的一个重要分支,在 模式分类、 图像处理和模糊规章处理等众多领域中获得最广泛的应用；它把一个没有类别标记的样本集按某种准就划分为假设干个子集类 ,使相像的样本尽可能的归为一类, 而将不相像的样本尽量划分到不同的类中；硬聚类把每个待辨识的对象严格地划分到某类中, 具有非此即彼的性质, 模糊聚类由于能够描述样本类属的中介性, 能够客观地反映现实世界

7、, 已逐步成为聚类分析的主流 2 - 3 ；在众多的模糊聚类算法中,模糊c 均值聚类算法 FCM应用最为广泛；它依据某种判别准就,将数据的聚类转化为一个非线性优化问题,并通过迭代来进行求解,目前已成为非监督模式识别的一个重要分支；数据挖掘中的聚类分析主要集中在针对海量数据的有一效和有用的聚类方 法讨论,聚类方法的可伸缩性, 高维聚类分析, 分类属性数据聚类和具有混合属性数据的聚类, 非距离模糊聚类等； 因此,数据挖掘对聚类分析有其特别的要求 ; 可伸缩性,能够处理不同类型属性,强抗噪性,高维性,对输入次序不敏锐性,可说明性和可用性等；本文正是在此背景下对数据挖掘中的聚类分析进行论述,并着重讨论

8、了 FCM 算法；2 模糊聚类算法名师归纳总结 - - - - - - -第 2 页,共 7 页精选学习资料 - - - - - - - - - 2.1 模糊聚类算法概述模糊聚类算法是一种基于函数最优方法的聚类算法,使用微积分运算技术求最优代价函数； 在基于概率算法的聚类方法中将使用概率密度函数,为此要假定合适的模型,模糊聚类算法的向量可以同时属于多个聚类,从而摆脱上述问题；在模糊聚类算法中, 定义了向量与聚类之间的近邻函数,并且聚类中向量的隶属度由隶属函数集合供应； 对模糊方法而言, 在不同聚类中的向量隶属函数值是相 互关联的；硬聚类可以看成是模糊聚类方法的一个特例；2.2 模糊聚类算法的分

9、类模糊聚类分析算法大致可分为三类 4：1分类数不定,依据不同要求对事物进行动态聚类,此类方法是基于模糊 等价矩阵聚类的,称为模糊等价矩阵动态聚类分析法；2分类数给定,查找出对事物的最正确分析方案,此类方法是基于目标函 数聚类的,称为模 c 均值聚类；3在摄动有意义的情形下,依据模糊相像矩阵聚类,此类方法称为基于摄 动的模糊聚类分析法；3 模糊 c 均值 FCM聚类算法3.1 算法描述模糊 c 均值聚类算法的步骤仍是比较简洁的,模糊c 均值聚类 FCM,即众所周知的模糊 ISODATA,是用隶属度确定每个数据点属于某个聚类的程度的一种聚类算法； 1973 年,Bezdek提出了该算法, 作为早期

10、硬 c 均值聚类 HCM 方法的一种改良；FCM 把 n 个向量 xii=1,2, ,n分为 c 个模糊组,并求每组的聚类中心,使得非相像性指标的价值函数到达最小；模糊划分,使得每个给定数据点用值在FCM 与 HCM 的主要区分在于 FCM 用 0,1 间的隶属度来确定其属于各个组的程度；与引入模糊划分相适应, 隶属矩阵 U 答应有取值在 0,1 间的元素； 不过,名师归纳总结 加上归一化规定,一个数据集的隶属度的和总等于1：第 3 页,共 7 页- - - - - - -精选学习资料 - - - - - - - - - ic1uij,1j1 ,.,n 那么, FCM 的价值函数或目标函数就是

11、：J U,c 1,.,c cicJiic1nm u ijd2,3.2 1jij这里 uij 介于 0,1 间；ci 为模糊组 I 的聚类中心, dij=|ci-xj|为第 I 个聚类中心与第 j 个数据点间的欧几里德距离；且m,1是一个加权指数；构造如下新的目标函数,可求得使3.2式到达最小值的必要条件：这里J U,c 1,.,cc,1,.,nJ U,c 1,.,ccn1jicu ij1j1cnumd2njcuij1ijiji1jj1i1 j,j=1 到 n,是 3.1式的 n 个约束式的拉格朗日乘子；对全部输入参量求导,使式到达最小的必要条件为：c ijnm u ijxj 1um ijnj1

12、和u ijc112/m1 dijkd kj由上述两个必要条件,模糊c 均值聚类算法是一个简洁的迭代过程；在批处理方式运行时, FCM 用以下步骤确定聚类中心 ci 和隶属矩阵 U1 ：步骤 1：用值在 0,1 间的随机数初始化隶属矩阵 束条件U,使其满意式中的约步骤 2：用式运算 c 个聚类中心 ci,i=1, ,c；步骤 3：依据式运算价值函数；假如它小于某个确定的阀值,或它相对 上次价值函数值的转变量小于某个阀值,就算法停止；步骤 4：用运算新的U 矩阵；返回步骤 2；上述算法也可以先初始化聚类中心,然后再执行迭代过程；由于不能确保名师归纳总结 - - - - - - -第 4 页,共 7

13、 页精选学习资料 - - - - - - - - - FCM 收敛于一个最优解；算法的性能依靠于初始聚类中心；因此,我们要么用另外的快速算法确定初始聚类中心,要么每次用不同的初始聚类中心启动该算法,多次运行 FCM；设被分类的对象的集合为：X = x1 , x2 , , xN ,其中每一个对象xk有 n 个特性指标,设为xk = x1k ,x2k , , xnk T , 假如要把 X 分成 c 类,就它的每一个分类结果都对应一个 c N 阶的 Boolean矩阵 U= u ik c N,对应的模糊 c 划分空间为：M fc = UcN R| uik 0,1 ,i ,k ；Nu ik= 1 ,k

14、;00,and u l0,1 with ic1ul1第 5 页,共 7 页ikikikUntil |UlUl1|- - - - - - -精选学习资料 - - - - - - - - - 3.2 试验采纳闻名的 iris 数据集对算法进行测试实现,其中样本总数 m=150,样本属性数 n=4,设定的划分内别 k=3；运算次数为 10 次的输出结果：能对数组实现分类,但是分类正确率不是很抱负；3.3 FCM 算法优缺点通过试验和算法的讨论学习,不难发觉FCM 算法的优缺点5-8：第一,模糊 c 均值泛函 Jm 仍是传统的硬 c 均值泛函 J1 的自然推广； J1 是一个应用很广泛的聚类准就, 对

15、其在理论上的讨论已经相当的完善, 这就为 Jm 的讨论供应了良好的条件；名师归纳总结 - - - - - - -第 6 页,共 7 页精选学习资料 - - - - - - - - - 其次,从数学上看, Jm与 Rs 的希尔伯特空间结构 正交投影和均方靠近理论 有亲密的关联,因此 Jm 比其他泛函有更深厚的数学基础；最终, FCM 聚类算法不仅在很多邻域获得了特别胜利的应用,而且以该算法为基础,又提出基于其他原型的模糊聚类算法,形成了一大批 FCM 类型的算法,比方模糊 c 线 FCL ,模糊 c 面FCP ,模糊 c 壳FCS 等聚类算法,分别实现了对呈线状、超平面状和“ 薄壳” 状结构模式

16、子集 4 结语或聚类 的检测；模糊 c 均值算法因设计简洁,解决问题范畴广,易于应用电脑实现等特点 受到了越来越多人的关注,并应用于各个领域；但是,自身仍存在的诸多问题,例如剧烈依靠初始化数据的好坏和简洁陷入局部鞍点等,仍旧需要进一步的研 究；参考文献：1 A K Jain,M N Murty ,P J Flynn. Data Clustering：A Review,ACM Computing SurveysJ,1999,313：264-323. 2 Spragins J. Learning without a teacher J .IEEE Transactions of Informati

17、on Theory ,2005 ,23 6 ：223 -230. 3 Babusk R. FUZZYAND NEURAL CONTROLM . Netherlands： Delft University of Technology ,2001. 4 Theodoridis S.Pattern Recongnition M.Second Edition.USA ： Elsevier Scinece ,2003. 5 高新波 .FCM 聚类算法中模糊加权指数m 的优选方法 J.模糊系统与数学,2005,191：143-148 6 朱剑英,应用模糊数学方法的假设干关键问题及处理方法J.模糊系统与数学, 1992,112：57-63 名师归纳总结 7 高新波 .模糊聚类分析及其应用 M. 西安：西安电子科学出版社,2004 第 7 页,共 7 页8 刘蕊洁,张金波,刘锐 .模糊 c 均值聚类算法 J.重庆工学院学报, 2007-21-1 - - - - - - -