2022年模糊C均值聚类算法及实现.docx

《2022年模糊C均值聚类算法及实现.docx》由会员分享，可在线阅读，更多相关《2022年模糊C均值聚类算法及实现.docx（7页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、精品学习资源模糊 C均值聚类算法及实现摘要 ：模糊聚类是一种重要数据分析和建模的无监督方法；本文对模糊聚类进行了概述，从理论和试验方面讨论了模糊c 均值聚类算法，并对该算法的优点及存在的问题进行了分析；该算法设计简洁，应用范畴广，但仍存在简洁陷入局部极值点等问题，仍需要进一步讨论；关键词： 模糊 c 均值算法；模糊聚类；聚类分析Fuzzy c-Means Clustering Algorithm and ImplementationAbstract: Fuzzy clustering is a powerful unsupervised method for the analysis of d

2、ata and construction of models.This paper presents an overview of fuzzy clustering and do some study of fuzzyc-means clustering algorithminterms oftheory and experiment.This algorithm is simple in design,can be widely used,but there are still some problems in it,and therefore,it is necessary to be s

3、tudied further.Key words: fuzzy c-Mean algorithm；fuzzy clustering； clustering analysis1 引言20 世纪 90 岁月以来，随着信息技术和数据库技术的迅猛进展，人们可以特别便利地猎取和储备大量的数据； 但是， 面对大规模的数据， 传统的数据分析工具只能进行一些表层的处理， 比方查询、 统计等， 而不能获得数据之间的内在关系和隐含的信息；为了摆脱“数据丰富，学问贫乏”的困境，人们迫切需要一种 能够智能地、 自动地把数据转换成有用信息和学问的技术和工具，这种对强有力数据分析工具的迫切需求使得数据挖掘技术应运而生；将

4、物理或抽象对象的集合分组成由类似的对象组成的多个类的过程称为聚类；由聚类所生成的簇是一组数据对象的集合， 这些对象与同一个簇中的对象彼此相像，与其它簇中的对象相异；聚类是一种重要的数据分析技术， 搜寻并且识别一个有限的种类集合或簇集合，进而描述数据；聚类分析作为统计学的一个分支， 己经被广泛讨论了很多年；欢迎下载精品学习资源而且，聚类分析也已经广泛地应用到诸多领域中，包括数据分析、模式识别、图 像处理以及市场讨论 1；通过聚类，人们能够识别密集的和稀疏的区域，因而发觉全局的分布模式， 以及数据属性之间的好玩的相互关系； 在商务上， 聚类能帮忙市场分析人员从客户基本信息库中发觉不同的客户群，并且

5、用购买模式来刻画不同的客户群的特点； 在生物学上， 聚类能用于推导植物和动物的分类， 对基因进行分类， 获得对种群中固有结构的熟悉； 聚类在地球观测数据库中相像地区的确定，汽车保险单持有者的分组， 及依据房屋的类型、 价值和地理位置对一个城市中房屋的分组上也可以发挥作用；聚类也能用于对Web 上的文档进行分类， 以发觉信息；基于层次的聚类算法文献中最早显现的Single-Linkage 层次聚类算法是 1957 年在 Lloyd 的文章中最早显现的，之后 MacQueen 独立提出了经典的模糊 C 均值聚类算法， FCM 算法中模糊划分的概念最早起源于Ruspini 的文章中，但关于 FCM

6、的算法的具体的分析与改良就是由Dunn 和 Bezdek 完成的；聚类分析是多元统计分析的一种，也是非监督模式识别的一个重要分支，在 模式分类、图像处理和模糊规章处理等众多领域中获得最广泛的应用；它把一个没有类别标记的样本集按某种准就划分为假设干个子集类 ，使相像的样本尽可能的归为一类， 而将不相像的样本尽量划分到不同的类中； 硬聚类把每个待辨识的对象严格地划分到某类中， 具有非此即彼的性质， 模糊聚类由于能够描述样本类属的中介性， 能够客观地反映现实世界， 已逐步成为聚类分析的主流 2 - 3 ；在众多的模糊聚类算法中，模糊 c 均值聚类算法 FCM应用最为广泛；它依据某种判别准就，将数据的

7、聚类转化为一个非线性优化问题， 并通过迭代来进行求解， 目前已成为非监督模式识别的一个重要分支；数据挖掘中的聚类分析主要集中在针对海量数据的有一效和有用的聚类方法讨论， 聚类方法的可伸缩性， 高维聚类分析， 分类属性数据聚类和具有混合属性数据的聚类， 非距离模糊聚类等； 因此，数据挖掘对聚类分析有其特别的要求 ; 可伸缩性，能够处理不同类型属性，强抗噪性，高维性，对输入次序不敏锐性，可说明性和可用性等；本文正是在此背景下对数据挖掘中的聚类分析进行论述，并着重讨论了 FCM算法；2 模糊聚类算法欢迎下载精品学习资源2.1 模糊聚类算法概述模糊聚类算法是一种基于函数最优方法的聚类算法，使用微积分运

8、算技术求最优代价函数； 在基于概率算法的聚类方法中将使用概率密度函数，为此要假定合适的模型，模糊聚类算法的向量可以同时属于多个聚类，从而摆脱上述问题； 在模糊聚类算法中， 定义了向量与聚类之间的近邻函数， 并且聚类中向量的隶属度由隶属函数集合供应； 对模糊方法而言， 在不同聚类中的向量隶属函数值是相互关联的；硬聚类可以看成是模糊聚类方法的一个特例；2.2 模糊聚类算法的分类模糊聚类分析算法大致可分为三类 4：1分类数不定，依据不同要求对事物进行动态聚类，此类方法是基于模糊等价矩阵聚类的，称为模糊等价矩阵动态聚类分析法；2分类数给定，查找出对事物的最正确分析方案，此类方法是基于目标函数聚类的，称

9、为模 c 均值聚类；3在摄动有意义的情形下，依据模糊相像矩阵聚类，此类方法称为基于摄动的模糊聚类分析法；3 模糊 c 均值 FCM聚类算法3.1 算法描述模糊 c 均值聚类算法的步骤仍是比较简洁的，模糊c 均值聚类 FCM，即众所周知的模糊 ISODATA，是用隶属度确定每个数据点属于某个聚类的程度的一种聚类算法； 1973 年，Bezdek提出了该算法， 作为早期硬 c 均值聚类HCM 方法的一种改良；FCM 把 n 个向量 xii=1,2, ,n分为 c 个模糊组，并求每组的聚类中心， 使得非相像性指标的价值函数到达最小； FCM 与 HCM 的主要区分在于 FCM 用模糊划分，使得每个给

10、定数据点用值在0，1 间的隶属度来确定其属于各个组的程度；与引入模糊划分相适应， 隶属矩阵 U 答应有取值在 0，1 间的元素； 不过， 加上归一化规定，一个数据集的隶属度的和总等于1：欢迎下载精品学习资源cuiji 11,j1,., n 欢迎下载精品学习资源那么， FCM 的价值函数或目标函数就是：欢迎下载精品学习资源cJ U , c1,., cc J ii 1cni 1juij2dijm，3.2欢迎下载精品学习资源这里 uij 介于 0，1 间；ci 为模糊组 I 的聚类中心， dij =|ci -xj |为第 I 个聚类中心欢迎下载精品学习资源与第 j 个数据点间的欧几里德距离；且 m1

11、,是一个加权指数；欢迎下载精品学习资源构造如下新的目标函数，可求得使 3.2式到达最小值的必要条件：欢迎下载精品学习资源J U ,c1,.,cc ,1,., n JU ,c1,.,cc cnj 1j i 1uij1欢迎下载精品学习资源cnu md 2ncu1欢迎下载精品学习资源ijiji 1jjijj 1i 1欢迎下载精品学习资源这里 j， j=1 到 n，是 3.1式的 n 个约束式的拉格朗日乘子；对全部输入参量求导，使式到达最小的必要条件为：欢迎下载精品学习资源nj1cinj1mu xijjmuij欢迎下载精品学习资源和u1欢迎下载精品学习资源ijcdijk 1dkj2 / m 1欢迎下载

12、精品学习资源由上述两个必要条件，模糊 c 均值聚类算法是一个简洁的迭代过程；在批处理方式运行时， FCM 用以下步骤确定聚类中心 ci 和隶属矩阵 U1 ：步骤 1：用值在 0，1 间的随机数初始化隶属矩阵 U，使其满意式中的约束条件步骤 2：用式运算 c 个聚类中心 ci， i=1,c；步骤 3：依据式运算价值函数；假如它小于某个确定的阀值，或它相对上次价值函数值的转变量小于某个阀值，就算法停止；步骤 4：用运算新的 U 矩阵；返回步骤 2；上述算法也可以先初始化聚类中心，然后再执行迭代过程；由于不能确保欢迎下载精品学习资源FCM 收敛于一个最优解；算法的性能依靠于初始聚类中心；因此，我们要

13、么用另外的快速算法确定初始聚类中心，要么每次用不同的初始聚类中心启动该算法，多次运行 FCM；设被分类的对象的集合为： X = x1 ， x2 ， xN ，其中每一个对象 xk 有 n 个特性指标，设为 xk = x1k ， x2k， ， xnk T , 假如要把 X 分成 c 类， 就它的每一个分类结果都对应一个cN 阶的 Boolean矩阵 U= u ik c N，对应的模糊 c 划分空间为：欢迎下载精品学习资源Mfc = UcNR| uik 0，1 ， i ， k ；Nuik= 1 ， k;00， andu l 0，1 withcu1l iki 1欢迎下载精品学习资源欢迎下载精品学习资源

14、Until|UikAl U l1 |欢迎下载精品学习资源3.2 试验采纳闻名的 iris 数据集对算法进行测试实现，其中样本总数 m=150，样本属性数 n=4，设定的划分内别 k=3；运算次数为 10 次的输出结果：能对数组实现分类，但是分类正确率不是很抱负；3.3 FCM 算法优缺点通过试验和算法的讨论学习，不难发觉 FCM 算法的优缺点 5-8 ：第一，模糊 c 均值泛函 Jm 仍是传统的硬 c 均值泛函 J1 的自然推广； J1 是一个应用很广泛的聚类准就， 对其在理论上的讨论已经相当的完善， 这就为 Jm 的讨论供应了良好的条件；欢迎下载精品学习资源其次，从数学上看， Jm 与 Rs

15、 的希尔伯特空间结构 正交投影和均方靠近理论 有亲密的关联，因此 Jm 比其他泛函有更深厚的数学基础；最终， FCM 聚类算法不仅在很多邻域获得了特别胜利的应用，而且以该算法为基础，又提出基于其他原型的模糊聚类算法，形成了一大批FCM 类型的算法，比方模糊 c 线 FCL ，模糊 c 面FCP ，模糊 c 壳FCS 等聚类算法，分别实现了对呈线状、超平面状和“薄壳”状结构模式子集或聚类 的检测；4 结语模糊 c 均值算法因设计简洁，解决问题范畴广，易于应用电脑实现等特点受到了越来越多人的关注，并应用于各个领域；但是，自身仍存在的诸多问题， 例如剧烈依靠初始化数据的好坏和简洁陷入局部鞍点等，仍旧

16、需要进一步的研 究；参考文献：1 A K Jain，M N Murty ，P J Flynn. Data Clustering：A Review，ACM Computing SurveysJ，1999， 313：264-323.2 Spragins J. Learning without a teacher J .IEEE Transactions of Information Theory ， 2005 ，23 6 ：223 -230.3 Babusk R.FUZZYANDNEURALCONTROLM.Netherlands： DelftUniversity of Technology ，2001.4 TheodoridisS.Pattern RecongnitionM.SecondEdition.USA ： Elsevier Scinece ，2003.5 高新波.FCM 聚类算法中模糊加权指数 m 的优选方法 J. 模糊系统与数学，2005，191：143-1486 朱剑英，应用模糊数学方法的假设干关键问题及处理方法J. 模糊系统与数学， 1992，112：57-637 高新波 .模糊聚类分析及其应用 M. 西安：西安电子科学出版社， 20048 刘蕊洁，张金波，刘锐 .模糊 c 均值聚类算法 J. 重庆工学院学报， 2007-21-1欢迎下载