MATLAB数据分析方法-(5).ppt

《MATLAB数据分析方法-(5).ppt》由会员分享，可在线阅读，更多相关《MATLAB数据分析方法-(5).ppt（112页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、1/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析普通高等院校计算机课程规划普通高等院校计算机课程规划教材教材MATLAB数据分析方法数据分析方法李柏年 吴礼斌 主编 张孔生 丁 华 参编 2/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析第六章第六章聚类分析聚类分析“人人以以类类聚聚,物物以以群群分分”。对对事事物物进进行行分分类类，是

2、是人人们们认认识识事事物物的的出出发发点点，也也是是人人们们认认识识世世界界的的一一种种重重要要方方法法。因因此此，分分类类学学已已成成为为人人们们认认识识世世界界的的一一门门基基础础学学科科。聚聚类类分分析析又又称称群群分分析析，它它是是研研究究（样样品品或或指指标标）分分类类问问题题的的一一种种多多元元统统计计方方法法，所所谓谓类类，通通俗俗地地说说，就就是是指指相相似似元元素素的的集集合合。本本章章主主要要介介绍绍谱谱系系聚聚类类、K均均值值聚聚类类、模模糊糊均均值值聚聚类类和和模模糊糊减减法法聚聚类类及及其其MATLAB实现实现3/24MATLABMATLAB数据分析方法（机械工业出版

3、社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析第第2章章数据描述性分析数据描述性分析数据描述性分析是从样本数据出发，概括分析数据数据描述性分析是从样本数据出发，概括分析数据的集中位置、分散程度、相互关联关系等，分析数据分的集中位置、分散程度、相互关联关系等，分析数据分布的正态或偏态特征布的正态或偏态特征.描述性分析是进行数据进一步分描述性分析是进行数据进一步分析的基础析的基础.对不同类型量纲的数据有时还要进行变换，对不同类型量纲的数据有时还要进行变换，然后再作出合理分析然后再作出合理分析.本章主要介绍样本数据的基本统本

4、章主要介绍样本数据的基本统计量、数据的可视化、数据分布检验及数据变换等内容计量、数据的可视化、数据分布检验及数据变换等内容.2.1基本统计量与数据可视化基本统计量与数据可视化2.1.1样本数据的基本统计量样本数据的基本统计量描述数据基本特征主要为集中位置和分散程度。描述数据基本特征主要为集中位置和分散程度。设从所研究的对象设从所研究的对象(即总体即总体)X中观测得到中观测得到n个观测值个观测值4/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析6.1.1聚类的思想聚类

5、的思想在社会经济领域中存在着大量分类问题，比如对我国在社会经济领域中存在着大量分类问题，比如对我国30个省市自治区独立核算工业企业经济效益进行分析，个省市自治区独立核算工业企业经济效益进行分析，一般不是逐个省市自治区去分析，而较好地做法是选取一般不是逐个省市自治区去分析，而较好地做法是选取能反映企业经济效益的代表性指标，如百元固定资产实能反映企业经济效益的代表性指标，如百元固定资产实现利税、资金利税率、产值利税率、百元销售收入实现现利税、资金利税率、产值利税率、百元销售收入实现利润、全员劳动生产率等等，根据这些指标对利润、全员劳动生产率等等，根据这些指标对30个省市个省市自治区进行分类，然后根

6、据分类结果对企业经济效益进自治区进行分类，然后根据分类结果对企业经济效益进行综合评价，就易于得出科学的分析。又比如若对某些行综合评价，就易于得出科学的分析。又比如若对某些大城市的物价指数进行考察，而物价指数很多，有农用大城市的物价指数进行考察，而物价指数很多，有农用生产物价指数、服务项目价指数、食品消费物价指数、生产物价指数、服务项目价指数、食品消费物价指数、建材零售价格指数等等。建材零售价格指数等等。6.1距离聚类距离聚类5/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析

7、聚类分析由于要考察的物价指数很多，通常先对这些物价指数进由于要考察的物价指数很多，通常先对这些物价指数进行分类。总之，需要分类的问题很多，因此聚类分析这行分类。总之，需要分类的问题很多，因此聚类分析这个有用的数学工具越来越受到人们的重视，它在许多领个有用的数学工具越来越受到人们的重视，它在许多领域中都得到了广泛的应用。域中都得到了广泛的应用。聚类问题的一般提法是：设有聚类问题的一般提法是：设有个样品的个样品的元观测数元观测数据组成一个数据矩阵据组成一个数据矩阵6/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（

8、机械工业出版社）第第6章章 聚类分析聚类分析其其中中每每一一行行表表示示一一个个样样品品，每每一一列列表表示示一一个个指指标标，表表示示第第个个样样品品关关于于第第项项指指标标的的观观测测值值，要要根根据据观观测测值值矩矩阵阵X对对样样品品或或指指标标进进行行分分类类。一一种种分分类类的的思思想想是是：在在样样品品之之间间定定义义距距离离，在在指指标标之之间间定定义义相相似似系系数数.样样品品距距离离表表明明样样品品之之间间的的相相似似度度，指指标标之之间间的的相相似似系系数数刻刻画画指指标标之之间间的的相相似似度度.将将样样品品(或或变变量量)按按相相似似度度的的大大小小逐逐一一归归类类，关

9、关系系密密切切的的聚聚集集到到较较小小的的一一类类，关关系系疏疏远远的的聚聚集集到到较较大大的的一一类类，直直到到所所有有的的样样品品(或或变变量量)都都聚聚集集完完毕毕。上上述述思思想正是聚类分析的基本思想。想正是聚类分析的基本思想。7/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析值值得得注注意意的的是是：第第4章章介介绍绍的的判判别别分分析析和和聚聚类类分分析析是是两两种种不不同同目目的的的的分分类类方方法法，它它们们所所起起的的作作用用是是不不同同的的。判判

10、别别分分析析方方法法假假定定组组（或或类类）已已事事先先分分好好，判判别别新新样样品品应应归归属属哪哪一一组组，对对组组的的事事先先划划分分有有时时也也可可以以通通过过聚聚类类分分析析得得到到。聚聚类类分分析析方方法法是是按按样样品品（或或变变量量）的的数数据据特特征征，把把相相似似的的样样品品（或或变变量量）倾倾向向于于分分在在同同一一类类中中，把把不不相相似似的样品（或变量）倾向于分在不同类中。的样品（或变量）倾向于分在不同类中。8/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章

11、 聚类分析聚类分析6.1.2向量的距离向量的距离设有设有n个样品的个样品的p元观测数据元观测数据这时，每个样品可看成这时，每个样品可看成元空间的一个点，也即元空间的一个点，也即一个一个维向量，两个向量之间的距离记为，满足维向量，两个向量之间的距离记为，满足如下条件：如下条件：9/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析(1)(非负性非负性)且且当且仅当当且仅当(2)(对称性对称性)(3)(三角不等式三角不等式)在聚类分析中最常用的是欧氏距离。在聚类分析中最常用

12、的是欧氏距离。10/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析1.欧氏距离2.绝对距离3.明氏距离4.切氏距离(6.1.1)(6.1.2)(6.1.4)(6.1.3)其中m(m0)为常数。11/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析5.方差加权距离6.马氏距离其中为样品的协方差矩阵.(6.1.5)(6.1.6)其中12/24M

13、ATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析在MATLAB中，计算距离的命令是pdist.调用格式Y=pdist(X,distance)输入的X是一个矩阵，行为个体，列为指标，distance 是距离的类型。若缺省distance，则输出的Y是一个行向量，向量的长度为(N-1)*N/2,其中N是样本的容量，Y的元素分别为个体(1,2),(1,3),.,(1,N),(2,3),.(2,N),.(N-1,N)之间的欧氏距离。可选项distance有：euclidean欧氏距

14、离；cityblock绝对距离；minkowski明氏距离(m=2)；chebychev切氏距离；seuclidean方差加权距离；mahalanobis马氏距离。13/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析省（市）工薪收入(元/人)经营净收入(元/人)财产性收入(元/人)转移性收入(元/人)北京18738.96778.36452.757707.87上海21791.111399.14369.126199.77安徽9302.38959.43293.923603

15、.72陕西8354.63638.7665.332610.61新疆9422.22938.15141.751976.49表6.1 5省(区、市)城镇居民人均家庭收入例6.1.1 2008年我国5省、区、市城镇居民人均年家庭收入如下表为了研究上述5个省、区、市的城镇居民收入差异，需要利用统计资料对其进行分类，指标变量有4个，计算各省、区、市之间的前6种距离14/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析解：x=18738.96 778.36 452.75 7707.8

16、721791.11 1399.14 369.12 6199.779302.38 959.43 293.92 3603.728354.63 638.76 65.33 2610.619422.22 938.15 141.75 1976.49;d1=pdist(x);%此时计算出各行之间的欧氏距离，为了得到距离矩阵，键入命令：D=squareform(d1);%注意此时d1必须是一个行向量，结果为实对称矩阵15/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析D=1.0e+

17、004*0 0.3462 1.0293 1.1575 1.0944 0.3462 0 1.2763 1.3932 1.3080 1.0293 1.2763 0 0.1428 0.1639 1.1575 1.3932 0.1428 0 0.1280 1.0944 1.3080 0.1639 0.1280 0矩阵D中的第3行第2列为12763，表示上海与山西的欧氏距离为12763,其余类推.16/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析若想得到下三角阵，则有命令：

18、S=tril(squareform(d1)S=1.0e+004*0 0 0 0 0 0.3462 0 0 0 0 1.0293 1.2763 0 0 0 1.1575 1.3932 0.1428 0 0 1.0944 1.3080 0.1639 0.1280 017/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析欧氏距离与量纲有关，因此，有时需要对数据进行预处理，如标准化等，在Matlab中的命令是：zscore(x).d2=pdist(x,cityblock);%

19、计算绝对距离D2=squareform(d2)D2=1.0e+004*0 0.5265 1.3881 1.6009 1.5519 0.5265 0 1.5600 1.8090 1.7281 1.3881 1.5600 0 0.2490 0.1921 1.6009 1.8090 0.2490 0 0.2078 1.5519 1.7281 0.1921 0.2078 018/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析d3=pdist(x,minkowski,3);%

20、计算明氏距离,d3为1行10列的行向量d4=pdist(x,chebychev)%计算切氏距离.d5=pdist(x,seuclidean)%计算方差加权距离.d6=pdist(x,mahalanobis)%计算马氏距离19/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析欧氏距离与量纲有关，因此，有时需要对数据进行预处理，如标准化等，在MATLAB中的命令是zscore，调用格式 Z=zscore(X)输入X表示N行p列的原始观测矩阵，行为个体，列为指标。输出Z为X

21、的标准化矩阵，即Z=(Xones(N,1)*mean(X)./(ones(N,1)*std(X)，其中mean(X)为行向量，表示各个指标的均值估计，std（X）表示指标的标准差估计。./表示对应元素相除，ones(N,1)表示元素全为1的行向量，向量的长度为N。20/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析 聚类分析方法不仅可以对样品进行分类，而且可以对变量进行分类，在对变量进行分类时，常常采用相似系数来度量变量之间的相似性。对 个指标变量进行聚类时，用相似

22、系数来衡量变量之间的相似程度（关联度），若用 表示变量 之间的相似系数，则应满足：(1)且(2)当且仅当(3)21/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析相似系数中最常用的是相关系数与夹角余弦.例例6.1.2.计算例6.1.1中各指标之间的相关系数与夹角余弦解：x=;%与例6.1.1数据相同R=corrcoef(x);%指标之间的相关系数R=1.0000 0.6183 0.8138 0.8931 0.6183 1.0000 0.4287 0.2927 0.8

23、138 0.4287 1.0000 0.9235 0.8931 0.2927 0.9235 1.000022/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析x1=normc(x);%将将x的各列化为单位向量的各列化为单位向量J=x1*x1%计算夹角余弦计算夹角余弦J=1.00000.95360.96090.97970.95361.00000.90260.89900.96090.90261.00000.98330.97970.89900.98331.000023/24

24、MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析6.1.3类间距离与递推公式类间距离与递推公式前面，我们介绍了两个向量之间的距离，下面我们介绍两个类别之间的距离：设表示两个样品之间的距离，分别表示两个类别，各自含有（1）最短距离即用两类中样品之间的距离最短者作为两类间距离.个样品.(6.1.9)24/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分

25、析（2）最长距离即用两类中样品之间的距离最长者作为两类间距离.(6.1.10)（3）类平均距离即用两类中所有两两样品之间距离的平均作为两类间距离.(6.1.11)25/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析（4）重心距离其中分别是两类重心之间的欧氏距离作为类间距离.(6.1.12)的重心，这是用26/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章

26、聚类分析聚类分析（5）离差平方和距离（ward）显然，离差平方和距离与重心距离的平方成正比.(6.1.13)设有两类合并成新的一类,包含了个样品，如何计算与其他类别之间的距离，这就需要建立类间距离的递推公式.27/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析（1）最短距离(6.1.14)（2）最长距离（3）类平均距离(6.1.15)(6.1.16)28/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出

27、版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析（4）重心距离(6.1.17)29/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析证明：30/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析（5）离差平方和距离(6.1.18)31/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分

28、析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析6.2谱系聚类与谱系聚类与K均值聚类均值聚类谱系聚类法是目前应用较为广泛的一种聚类法谱系聚类法是目前应用较为广泛的一种聚类法.谱系聚类是根据生物分类学的思想对研究对象进行谱系聚类是根据生物分类学的思想对研究对象进行分类的方法分类的方法.在生物分类学中，分类的单位是：在生物分类学中，分类的单位是：门、纲、目、科、属、种，其中种是分类的基本门、纲、目、科、属、种，其中种是分类的基本单位，分类单位越小，它所包含的生物就越少，生物单位，分类单位越小，它所包含的生物就越少，生物之间的共同特征就越多之间的共同特征就越多.利用

29、这种思想，谱系聚类利用这种思想，谱系聚类首先将各样品自成一类，然后把最相似首先将各样品自成一类，然后把最相似(距离最近或距离最近或6.2.1谱系聚类谱系聚类32/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析相似相似系数最大)的样品聚为小类，再将已聚合的小类按各类之间的相似性(用类间距离度量)进行再聚合，随着相似性的减弱，最后将一切子类都聚为一大类，从而得到一个按相似性大小聚结起来的一个谱系图.1谱系聚类的步骤谱系聚类的步骤谱系聚类的步骤如下：(1)个样品开始作为个

30、类,距离或相似系数，得到实对称矩阵计算两两之间的33/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析(2)从 的非主对角线上找最小(距离)或最大元素(相似系数)，设该元素是则将合并成一个新类在中去掉所在的两行、两列，并加上新类之间的距离或相似系数，得到与其余各类34/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析阶矩阵(3)从出发重复步骤

31、(2)的做法得到，再由出发重复上述步骤，直到两个样品聚为一个大类为止.(4)在合并过程中要记下合并样品的编号及两类合并时的水平，并绘制聚类谱系图.35/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析例例6.2.1 1 从例从例6.1.1 1算得的算得的样样品品间间的欧氏距离矩的欧氏距离矩阵阵出出发发，用下列方法用下列方法进进行行谱谱系聚系聚类类.(1)最短距离，(2)最长距离.解：我们用1，2，3，4，5分别表示北京,上海,安徽,陕西和新疆，将欧氏距离矩阵除以，记为

32、36/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析(1)最短距离法：将各个样品看成一类，即，从可以看出各类中距离最短的是，因此将在水平上合成一个,计算与之间的最短距离，得新类37/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析将计算结果作为第一列，从，剩余元素作为其余各列得到,中去掉第4、5行与4、5列38/24MATLABMATLAB

33、数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析从可以看到与的距离最小，因此在的水平上将与合成一类,即，计算与之间的最短距离，得将计算结果作为第一列，从中划掉与所在的行与列，剩余元素作为其他列得39/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析从可以看出最接近，在的水平上合并成一类，至此只剩下两类他们之间的距离为:故在此水平上将合成一类，包含了全部的五个样品.40/

34、24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析2谱系聚类的谱系聚类的MATLAB实现实现为了方便快捷地实现大样本的聚类分析，我们将利用MATLAB软件实现谱系聚类的方法.（1）谱系聚类命令linkage。调用格式：Z=linkage(Y,method)输入Y是一个距离矩阵，例如Y是由pdist命令生成的欧氏距离向量。Method 是一个可选项，如最长距离，最短距离等。single -最短距离（缺省状态）complete-最长距离 average -类平均距离 wei

35、ghted-加权平均距离 centroid -重心距离 ward -离差平方和距离41/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析输出Z是一个矩阵(N-1行，3列)，Z的第一列和第二列均为正整数，第3列表示聚类的水平，每一行表示在相同的聚类水平上将个体合并成新的一类，每生成一个新的类，其编号将在现有基础上增加1。（2）作谱系聚类图命令dendrogram，其调用格式 H=dendrogram(z,N)输入Z是一个(N-1)行3列的矩阵，由linkage命令生成,

36、N是样本容量。输出产生一个树谱系聚类图，每两类通过线段连接，高度表示类间的距离。%此命令作出m个样本的图形,缺省时默认为30。42/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析（3）输出聚类结果命令cluster，调用格式 T=cluster(z,k)输入Z是一个(N-1)行3列的矩阵，由linkage命令生成,N是样本容量。k是分类数目.输出T是一个列向量(N行1列)，每一个元素均为正整数，且最大的数字不超过k,第i行的数字l表示第i个个体属于第l类。如果遇到大

37、样本数据，为了便于得到每一类样本的编号，可以利用如下命令：find(T=l)%找出属于第l类的样品编号43/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析例例6.2.2利用MATLAB软件对例6.1.1中的5个省、区、市进行聚类解：x=18738.96 778.36 452.75 7707.87 21791.11 1399.14 369.12 6199.77 9302.38 959.43 293.92 3603.72 8354.63 638.76 65.33 261

38、0.61 9422.22 938.15 141.75 1976.49;d=pdist(x);%欧氏距离44/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析(1)类间距离为最短距离,Matlab中的命令：(2)z1=linkage(d),输出结果为：z1=1.0e+004*0.0004 0.0005 0.1280%在1280的水平，G4,G5合成一类为G6 0.0003 0.0006 0.1428%在1428的水平，G6,G3合成一类为G7 0.0001 0.0002

39、 0.3462%在3462的水平，G1,G2合成一类为G8 0.0007 0.0008 1.0293%在10293的水平，G7,G8合成一类45/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析谱系聚类图：H=dendrogram(z1)图5.1 最短距离聚类图46/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析(2)当类间距离为最长距离时

40、，Matlab中的命令：z2=linkage(d,complete)，输出结果为：z2=1.0e+004*0.0004 0.0005 0.1280%在1280的水平，G4,G5合成一类为G6 0.0003 0.0006 0.1639%在1639的水平，G6,G3合成一类为G7 0.0001 0.0002 0.3462%在3462的水平，G1,G2合成一类为G8 0.0007 0.0008 1.3932%在13932的水平，G7,G8合成一类47/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第

41、第6章章 聚类分析聚类分析图5.2 最长距离聚类图48/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析(3)当类间距离为类平均距离时，Matlab中的命令：z3=linkage(d,average),输出结果为z3=1.0e+004*0.0004 0.0005 0.1280%在1280的水平，G4,G5合成一类为G6 0.0003 0.0006 0.1533%在1533的水平，G6,G3合成一类为G7 0.0001 0.0002 0.3462%在3462的水平，G1

42、,G2合成一类为G8 0.0007 0.0008 1.2098%在12098的水平，G7,G8合成一类49/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析图5.3 类平均距离聚类图50/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析51/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（

43、机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析若我们不知道实际的观测数据，但已经知道样品之间的距离，若我们不知道实际的观测数据，但已经知道样品之间的距离，那么如何在那么如何在MATLAB中实现相应的聚类？中实现相应的聚类？例例6.2.3欧州各国语言有许多相似之处，有的十分相近，以欧州各国语言有许多相似之处，有的十分相近，以E,N,Da,Du,G,Fr,S,I,P,H,Fi分别表示英语、挪威语、丹麦语、分别表示英语、挪威语、丹麦语、荷兰语、德语、法语、西班牙语、意大利语、波兰语、匈牙利荷兰语、德语、法语、西班牙语、意大利语、波兰语、匈牙利语和荷兰语等语和荷兰语等11种

44、语言种语言.人们以任两种语言对人们以任两种语言对1-10这十个数字这十个数字拼写中第一个字母不相同的个数定义两种语言间的拼写中第一个字母不相同的个数定义两种语言间的距离距离.这种距离是广义距离这种距离是广义距离.例如，英语和挪威语只有数字例如，英语和挪威语只有数字1和和8的第的第一个字母不同，故这两种语言间的距离定义为一个字母不同，故这两种语言间的距离定义为2.这样得到这样得到11种种语言间的距离矩阵如下：语言间的距离矩阵如下：52/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚

45、类分析聚类分析53/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析54/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析解：解：d=227666679915466678965655689599910897778992151091310941091098;%按列输入距离矩阵按列输入距离矩阵(只输入下三角阵中的非零元素只输入下三角阵中的非零元素

46、)z4=linkage(d,centroid);%重心距离重心距离H2=dendrogram(z4)%谱系图谱系图z5=linkage(d,ward);%离差平方和距离离差平方和距离figure(2)H3=dendrogram(z5)%谱系图谱系图图6.4重心距离的谱系聚类图图6.5离差平方和距离的谱系聚类图55/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析subplot(2,3,1)plot(meas(1:50,1),meas(1:50,2),*,meas(51

47、:100,1),meas(51:100,2),g*,meas(101:150,1),meas(101:150,2),ro),title(x1-x2)subplot(2,3,2)plot(meas(1:50,1),meas(1:50,3),*,meas(51:100,1),meas(51:100,3),g*,meas(101:150,1),meas(101:150,3),ro),title(x1-x3)subplot(2,3,3)plot(meas(1:50,1),meas(1:50,4),*,meas(51:100,1),meas(51:100,4),g*,meas(101:150,1),me

48、as(101:150,4),ro),title(x1-x4)subplot(2,3,4)56/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析plot(meas(1:50,2),meas(1:50,3),*,meas(51:100,2),meas(51:100,3),g*,meas(101:150,2),meas(101:150,3),ro)title(x2-x3)subplot(2,3,5)plot(meas(1:50,2),meas(1:50,4),*,meas(

49、51:100,2),meas(51:100,4),g*,meas(101:150,2),meas(101:150,4),ro)title(x2-x4)subplot(2,3,6)plot(meas(1:50,3),meas(1:50,4),*,meas(51:100,3),meas(51:100,4),g*,meas(101:150,3),meas(101:150,4),ro)title(x3-x4)57/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析结果显示第一类

50、里只有两个样品，说明聚类效果不理想，为了提高聚类效果的优良性，我们将运用K均值聚类和模糊C均值聚类对其进行再讨论.图6.6Iris 数据的散点图(两个指标)同理可作两两指标经聚类分类后的数据散点图。从图形6.6也可看出聚类效果不理想。58/24MATLABMATLAB数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）数据分析方法（机械工业出版社）第第6章章 聚类分析聚类分析例例6.2.4RA Fisher在1936年发表的Iris数据中，研究某植物的萼片长、宽及花瓣长、宽.x1:萼片长，x2：萼片宽，x3：花瓣长，x4:花瓣宽.Iris数据保存在MATL