5.1 聚类分析.pptx

《5.1 聚类分析.pptx》由会员分享，可在线阅读，更多相关《5.1 聚类分析.pptx（20页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、聚类分析,授课人：,目录,01,何为聚类分析,02,常见聚类方法,03,聚类性能度量,PART 01,何为聚类分析,聚类分析是一种典型的无监督学习，也就是在事先不知道每个样本的类别，没有对应的标签值的情况下，可以对未知类别的样本按照一定的规则划分成若干个类簇，这些类簇具有如下特点：,l 同一个类簇中的样本尽可能相似（或性质相同、距离相近）。 l 不同的类簇中的样本尽可能不相似（或性质不相同，距离较远）。,即聚类分析算法不依赖训练模型和历史样本数据，仅针对当前待分析的样本运行聚类算法，将样本划分成不同的几个类别，从而揭示样本间的内在性质和相互之间的联系规律。,何为聚类分析,聚类方法的应用场景：,

2、何为聚类分析,一些鸢尾花样本分布图,右图是一些鸢尾类植物的样本分布图，按萼片长度、高度和花瓣长度显示在三维空间里，仅仅从观察数据的角度是很难将这些样本分成不同的簇群，也不知道将它们分成几个簇群比较合适。问题是，我们还必须要去探索这些鸢尾花到底有几个品种？甚至是否还存在一些未知的品种？,何为聚类分析,样本被分为3个簇,假设有样本分为以下3个簇，那么如何描述簇的基本特征以区分各个簇的差异呢？,聚类得到的簇可以用聚类中心、簇大小、簇密度和簇 描述等特征来表示簇的特点。 1.聚类中心是一个簇中所有样本点的均值(质心)， 如右图中的符号。 2.簇大小表示簇中所含样本的数量。 3.簇密度表示簇中样本点的紧

3、密程度，越紧密说明簇内样本的相似度越高。 4. 簇描述是簇中样本的业务特征，如簇号。,何为聚类分析,思考： 有哪些常用的聚类方法对样本进行聚类分析呢？,何为聚类分析,PART 02,常见聚类方法,常见聚类方法,基于划分的聚类,基于层次的聚类,基于密度的聚类,常见聚类方法,基于划分的聚类,基于划分的方法是简单、常用的一种聚类方法，它通过将对象划分为互斥的簇进行聚类， 每个对象属于且仅属于一个簇，划分结果旨在使簇之间的相似性低，簇内部的相似度高，基于划分的经典算法有k均值、k-medoids算法等。,常见聚类方法,基于层次的聚类,层次聚类的应用广泛程度仅次于基于划分的聚类，核心思想是通过对数据集按

4、照层次，把数据划分到不同层的簇，从而形成一个树形的聚类结构。层次聚类算法可以揭示数据的分层结构，在树形结构上不同层次进行划分，可以得到不同粒度的聚类结果。按照层次聚类的过程分为自底向上的聚合聚类和自顶向下的分裂聚类。聚合聚类以AGNES、BIRCH、ROCK等算法为代表，分裂聚类以DIANA算法为代表。,常见聚类方法,基于密度的聚类,基于划分聚类和基于层次聚类的方法在聚类过程中根据距离来划分类簇，因此只能够用于挖掘球状簇。但往往现实中还会有各种形状，这时上面的两大类算法将不适用了。 为了解决这一缺陷，基于密度聚类算法利用密度思想，将样本中的高密度区域(即样本点分布稠密的区域)划分为簇，将簇看作

5、是样本空间中被稀疏区域(噪声)分隔开的稠密区域。 这一算法的主要目的是过滤样本空间中的稀疏区域，获取稠密区域作为簇基于密度的聚类算法是根据密度而不是距离来计算样本相似度，所以基于密度的聚类算法能够用于挖掘任意形状的簇，并且能够有效过滤掉噪声样本对于聚类结果的影响。常见的基于密度的聚类算法有DBSCAN、OPTICS和DENCLUE等。,常见聚类方法,除了上述方法外，还有基于 网格的聚类、基于模型的聚类 等，有兴趣的同学可以阅读相关材料。,常见聚类方法,PART 03,聚类性能度量,无论使用什么聚类方法对样本进行分簇，都会涉及到如何对聚类后的效果进行评估，来衡量聚类模型的性能。聚类性能度量指标就

6、是用于对聚类后的结果进行评判，分为内部指标和外部指标两大类，外部指标要事先指定聚类模型作为参考来评判聚类结果的好坏，称为有标签的评价；而内部指标是指不借助任何外部参考，只用参与聚类的样本本身要评判聚类结果的好坏。,聚类性能度量,常用的内部指标,常用的内部指标,A,轮廓系数 （Silhouette Coefficient）,B,C,CH分数 （Calinski Harabasz Score）,戴维森堡丁指数(DBI),聚类性能度量,轮廓系数（Silhouette Coefficient）,所有样本的轮廓系数的均值称为聚类结果的轮廓系数，定义为S，是该聚类是否合理、有效的度量。聚类结果的轮廓系数S的取值在-1,1之间，值越大，说明同类样本相距越近，不同样本相距越远，畸形变化程度大，则聚类效果越好。对于不正确的聚类分数为-1 ，对于高密度的聚类分数为+1，S值0.5表明聚类较好。,聚类性能度量,CH分数（Calinski Harabasz Score）,DBI的值越小，表示簇内样本之间的距离越小，同时簇间距离越大，即簇内相似度高，簇间相似度低，最小是0，值越小，代表聚类效果越好。,戴维森堡丁指数(DBI),类别内部数据的协方差越小越好，类别之间的协方差越大越好，这时的CH分数会高。当簇密集且分离较好时，分数更高,因此CH的数值越大越好。,聚类性能度量,携手同行，走向辉煌！,