误差分析课件 聚类分析之快速聚类法.ppt

《误差分析课件 聚类分析之快速聚类法.ppt》由会员分享，可在线阅读，更多相关《误差分析课件 聚类分析之快速聚类法.ppt（26页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、聚类分析的聚类分析的快速聚类法快速聚类法聚类分析样品间相似性的度量快速聚类分析及实例目录分类分类俗语说，物以类聚、人以群分。俗语说，物以类聚、人以群分。但什么是分类的根据呢？但什么是分类的根据呢？比如，要想把中国的县分成若干类，就有很比如，要想把中国的县分成若干类，就有很 多种分类法；多种分类法；可以按照自然条件来分，可以按照自然条件来分，比如考虑降水、土地、日照、湿度等各方面；比如考虑降水、土地、日照、湿度等各方面；也可以考虑收入、教育水准、医疗条件、基也可以考虑收入、教育水准、医疗条件、基础设施等指标；础设施等指标；既可以用某一项来分类，也可以同时考虑多既可以用某一项来分类，也可以同时考虑

2、多项指标来分类。项指标来分类。基本思想是：通过定义样品或变量间“接近程度”的度量，以此为基础，将“相近”的样品或变量归为一类。聚类分析的介绍聚类分析的介绍聚类分析聚类分析和判别分析判别分析是研究分类问题的数据分析方法。聚类分析和判别分析的比较聚类分析聚类分析判别分析判别分析区别区别进行聚类分析前进行聚类分析前对总体有几种类对总体有几种类型并不知道型并不知道总体分类已给定，总体分类已给定，在总体分布或来自在总体分布或来自总体训练样本基础总体训练样本基础上，对新样品判定上，对新样品判定属于哪个总体属于哪个总体联系联系判别分析中的训练样本往往是从聚类判别分析中的训练样本往往是从聚类分析中得到的分析中

3、得到的引入引入:如何度量远近如何度量远近？如如果果想想要要对对100个个学学生生进进行行分分类类，如如果果仅仅仅仅知知道道他他 们们的的数数学学成成绩绩，则则只只好好按按照照数数学学成成绩绩来来分分类类；这这些些成成绩绩在在直直线线上上形形成成100个个点点。这这样样就就可可以以把把接接近的点放到一类。近的点放到一类。如如果果还还知知道道他他们们的的物物理理成成绩绩，这这样样数数学学和和物物理理成成绩绩就就形形成成二二维维平平面面上上的的100个个点点，也也可可以以按按照照距距离离远近来分类。远近来分类。三三维维或或者者更更高高维维的的情情况况也也是是类类似似；只只不不过过三三维维以以上的图形

4、无法直观地画出来而已。上的图形无法直观地画出来而已。设X=为所关心的p个指 标，对此指标作n次观测得n组观测值 称这n组观测数据为n个样品样品。这样，每个样品可看成p维空间的一个点，n个样品组成p维空间的n个点，我们可以用各点之间的距离来衡量个样品点之间的靠近程度。样品间相似性的度量样品间相似性的度量1 欧氏距离欧氏距离2 绝对绝对距离距离3 Minkowski距离距离其中m1，又称为Lm距离。4 Chebyshev距离距离是Minkowski距离当m时的极限。广义的广义的“距离距离”：由于不同指标通常有不同的由于不同指标通常有不同的量纲量纲量纲量纲，这会引起各取值的分散程度差异，这会引起各取

5、值的分散程度差异较大，有时会造成很不合理的结果，为了消除此种影响，常需要在较大，有时会造成很不合理的结果，为了消除此种影响，常需要在分析前对数据进行标准化处理分析前对数据进行标准化处理。5 方差加权距离方差加权距离 标准化数据的欧氏距离就是方差加权距离。?6 马马氏距离氏距离通常都是尝试各种不同距离分析，最终采用最有利于分类的距离定义。=-=-=-=-niiTniiinjiTjijixnxxxxxnSxxxSxxSxxxxd11212111)(11,)()()(其中算得的协方差矩阵：是由样品其中L令形成n个样品两两之间的距离矩距离矩阵阵：其中 思想思想：首先将样品粗糙得分类，然后再依据样品间的

6、距离按一定规则逐步调整，直至不能再调整为止。适合于适合于：样本数目较大的数据集的聚类分析 局限性局限性：需要事先指定分类的数目，而且此数目对最终分类结果有较大影响。解决办法：实际中一解决办法：实际中一般要对多个分类的数般要对多个分类的数目进行尝试，以找出目进行尝试，以找出合理的分类结果合理的分类结果快速聚类分析及实例快速聚类分析及实例1 选择聚点选择聚点(聚类中心点聚类中心点)经验选择 将n个样品人为地（或随机地）分为k类，以每类的均值向量（称为重心）作为聚点。最大最小原则先选择所有样品中相距先选择所有样品中相距最远的两个样品为初始最远的两个样品为初始的两个聚点，然后的两个聚点，然后,选择选择

7、第第3 3个聚点个聚点(与前两个聚与前两个聚点的距离最小者点的距离最小者 ),),按相按相同的原则依次选取下去，同的原则依次选取下去，直至选出直至选出k k个聚点。个聚点。（1）随机选择聚类种子点或中心点；（2）将每个观察样本分配给最近的种子；（3）重新把每个聚集中的中心点作为种子；（4）不断重复上述过程直到种子的变化 足够小为止。快速聚类法的步骤快速聚类法的步骤快速聚类法的步骤快速聚类法的步骤1.设k个初始聚点的集合是用下列原则实现初始分类：这样，将样品分成不相交的k类，以上初始分类的原则是每个样品以最近的初始聚点归类，这样得到一个初始分类2.从出发，计算新的聚点集合，以的重心作为新的聚点：

8、其中是类中的样品数。这样，得到新的聚点集合从出发，将样品作新的分类。记得到分类这样依次进行下去。在以上递推计算过程中，不一定是样品，又一般不是的重心。当m逐渐增大，分类趋于稳定，此时，就会近似为的重心，从而算法即可结束。实际计算时，从某一步m开始，分类与完全相同，计算即告结束。3.设在第m步得到分类实例实例:国产轿车市场竞争格局的快速聚类分析国产轿车市场竞争格局的快速聚类分析 通过几个主要的汽车网站,收集2006年11 月6-12 日 目前汽车产品的车型主要参数和厂家指导价.利用SPSS 软件,采用聚类分析的方法,对目前主要的轿车产品进行了聚类处理。车型的生产企业和企业所属集团代码的说明车型的

9、生产企业和企业所属集团代码的说明 1-中国中国(自主品自主品牌牌)2-欧洲欧洲3-日本日本4-美国美国5-韩国韩国 按照上述的方法和分类原则进行数据收集按照上述的方法和分类原则进行数据收集,共产共产生了生了158158个车型及其相关数据涵盖了轿车市场绝大部个车型及其相关数据涵盖了轿车市场绝大部分生产企业和车型分生产企业和车型,可视为国产轿车的总体可视为国产轿车的总体,所以该所以该研究能反映出目前国产轿车竞争的全貌。研究能反映出目前国产轿车竞争的全貌。聚类分析过程及结果聚类分析过程及结果由研究者指定聚类成多少类(如k个)SPSS 确定k个初始类中心点 迭代过程(Iteration History

10、)聚类结果 在确定聚类数目的过程中,尝试了聚类数为8-15 个共8 个聚类方案,以有助于识别相竞争的车型,并尽可能与轿车级别的划分相一致为判断依据,13 个聚类数所得到的结果是最为令人满意的。SPSS 根据样本数据的情况选择k 个有代表性的样本数据作为初始类中心,初始类中心也可以由用户自行指定。SPSS 逐一计算每一个记录到各个类别中心点的欧氏距离,把各个记录按照距离最近的原则归入各个类别,并计算新形成的类别中心点;按照新的中心位置,重新计算每一记录距离新的类别中心点的距离,并重新进行归类,更新类别中心点;重复,直到达到终止迭代的判断要求为止。聚类结果低端产品高端产品直观上我们可以发现直观上我

11、们可以发现:11类和类和12类间距离最小类间距离最小,说明低端产品的差异相对说明低端产品的差异相对较小较小10类和类和7类类间的距离最大类类间的距离最大,说明高端产品之间差说明高端产品之间差异增大异增大第第11类主要为普及型轿车，这类产品是市场竞争类主要为普及型轿车，这类产品是市场竞争最为激烈的领域，为进一步展示各车型间的竞争关最为激烈的领域，为进一步展示各车型间的竞争关系，应对其进行系，应对其进行再次聚类再次聚类。排量（毫升）排量（毫升）价格（元）价格（元）整备质量（千克）整备质量（千克）结果分析结果分析 结合实际背景知识和聚类结果,可以从以下几个方面对国产轿车市场竞争格局有一个全面的分析:企业产品线战略分析 竞争产品的识别及竞争格局分析