第七讲聚类分析PPT讲稿.ppt

《第七讲聚类分析PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《第七讲聚类分析PPT讲稿.ppt（60页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、第七讲聚类分析第1页，共60页，编辑于2022年，星期二第一节 聚类分析概述 多元统计分析中的分类方法 聚类分析的涵义 聚类分析方法 第2页，共60页，编辑于2022年，星期二多元统计分析中的分类方法一类：研究对象存在事先分类情况下，判断某个未知样品的归类 一类：研究对象不存在事先分类情况下，进行数据结构的分类 第3页，共60页，编辑于2022年，星期二聚类分析的涵义是一种将样品或变量，按照它们在性质上的亲疏程度进行分类的多元统计分析方法。描述亲疏程度的途径：计算多维空间上点的距离；计算相似系数或相关系数 第4页，共60页，编辑于2022年，星期二聚类分析方法 按照聚类方法的不同系统聚类分析法

2、动态聚类分析法模糊聚类分析法图论聚类分析法聚类预报法按照分类对象划分第5页，共60页，编辑于2022年，星期二系统聚类分析法是在样品距离的基础上定义类与类的距离，首先将个样品自成一类，然后每次将具有最小距离的两个类合并，合并后再重新计算类与类之间的距离，再并类，这个过程一直持续到所有的样品都归为一类为止。这种聚类方法称为系统聚类法。根据并类过程所做的样品并类过程图称为聚类谱系图。第6页，共60页，编辑于2022年，星期二动态聚类分析法第7页，共60页，编辑于2022年，星期二模糊聚类分析法利用模糊集理论来处理分类问题的聚类方法 第8页，共60页，编辑于2022年，星期二图论聚类分析法 利用图论

3、中最小支撑树的概念来处理分类问题的聚类方法 第9页，共60页，编辑于2022年，星期二聚类预报法利用聚类分析来处理预报问题的方法。可以弥补回归分析和判别分析的不足。第10页，共60页，编辑于2022年，星期二聚类分析方法 Q型聚类分析法 R型聚类分析法第11页，共60页，编辑于2022年，星期二Q型聚类分析法特征：对样品进行的分类处理。作用：能够综合利用多个变量对样品进行分类；分类结果直观，聚类谱系图清晰;聚类结果细致、全面、合理。第12页，共60页，编辑于2022年，星期二R型聚类分析法 第13页，共60页，编辑于2022年，星期二第二节 距离与相似系数 变量类型 数据变换处理 距离 相似系

4、数 距离以及相似系数的选择原则 第14页，共60页，编辑于2022年，星期二变量类型 名义特性：变量值是用一些类来表示的，类与类之间没有等级关系，如性别，职业等；顺序特性：变量值是用有序等级来表示的。如优秀、良好、中、及格、不及格等；数值特性：变量值是用连续的量来度量的。如长度、重量、压力等。对于不同类型的变量在定义距离相似测度时有很大的差异。这里主要研究的是具有数值特性的变量的聚类分析方法。第15页，共60页，编辑于2022年，星期二数据变换处理 原因：实际应用所使用的样本资料中，由于不同的变量具有不同的计量单位（或量纲），并且具有不同的数量级，为了使具有不同计量单位和数量级的数据能够放在一

5、起进行比较分析，通常都要对数据进行变换处理。涵义：所谓数据变换，就是将原始数据矩阵中的各个变量值，按照某种特定的运算把它变换成为一个新值，而且数值的变换不依赖于原始数据中其他变量的新值。方法：中心化变换规格化变换（极差正规化）标准化变换对数变换其他方法第16页，共60页，编辑于2022年，星期二中心化变换方法第17页，共60页，编辑于2022年，星期二规格化变换（极差正规化）第18页，共60页，编辑于2022年，星期二标准化变换 第19页，共60页，编辑于2022年，星期二对数变换 第20页，共60页，编辑于2022年，星期二其他方法极差标准化。把每个变量的样本极差皆化为1。立方根变换。把非线

6、性数据结构变为线性结构。平方根变换。把非线性数据结构变为线性结构。第21页，共60页，编辑于2022年，星期二距离 距离的条件常用距离、明氏距离、欧氏距离、绝对值距离、切比雪夫距离、兰氏距离以上距离一个共同的特点是，均没有考虑相关性。、马氏距离、其他距离第22页，共60页，编辑于2022年，星期二距离的条件第23页，共60页，编辑于2022年，星期二明氏距离（明科夫斯基）第24页，共60页，编辑于2022年，星期二欧氏距离 第25页，共60页，编辑于2022年，星期二绝对值距离 第26页，共60页，编辑于2022年，星期二切比雪夫距离 第27页，共60页，编辑于2022年，星期二兰氏距离 第2

7、8页，共60页，编辑于2022年，星期二马氏距离 第29页，共60页，编辑于2022年，星期二其他距离斜交空间距离链距离第30页，共60页，编辑于2022年，星期二相似系数 相似系数的定义常用相似系数夹角余弦相关系数指数相似系数非参数方法第31页，共60页，编辑于2022年，星期二相似系数的定义第32页，共60页，编辑于2022年，星期二夹角余弦 第33页，共60页，编辑于2022年，星期二相关系数 第34页，共60页，编辑于2022年，星期二指数相似系数 第35页，共60页，编辑于2022年，星期二非参数方法 第36页，共60页，编辑于2022年，星期二距离以及相似系数的选择原则 对于同一数

8、据资料，进行聚类分析时，选择的不同的距离公式或者不同的相似系数，聚类结果是不一样的。因为不同的距离公式或者不同的相似系数所反映的样品或指标的亲疏程度的意义是不同，因此，在运用中应该根据不同的实际情况，选择不同距离或相似系数。实际意义原则数据性质原则第37页，共60页，编辑于2022年，星期二实际意义原则即所选择的距离或者相似系数应该具有明确的实际意义。比如经济指标之间的相关应该是具有现实的经济联系的。第38页，共60页，编辑于2022年，星期二数据性质原则 根据原始数据的各自特点，选择不同的数据变换，再根据不同的数据变换选择不同的距离或者相似系数。、若数据进行了标准化，则相关系数与夹角余弦是一

9、致。、若聚类分析前已经对变量的相关性作了处理，则通常采用欧氏距离，而不必选用斜交空间距离。、所选距离应与所选聚类分析方法一致（）若聚类方法为离差平方和法时，距离只能选用欧氏距离；（）工作量大小原则。斜交空间距离的计算量一般很大。总之，在一般情况下，有以下的经验可以借鉴。相关系数的稳定性要强于相似系数，而分辨力却弱于相似系数；使用距离和使用相似系数进行聚类的结果对比，相似系数的计算数值由大到小单调地减少，所以聚类谱系图能够比较明显地反映分群的情况，而使用距离的数据有时呈现非单调性增加，聚类谱系图反映的分群情况就不够明显。第39页，共60页，编辑于2022年，星期二第三节 系统聚类分析方法 系统聚

10、类分析的涵义及步骤 系统聚类方法 系统聚类分析方法的统一公式 剩余信息的剔除 谱系分类的确定 系统聚类分析方法的性质 第40页，共60页，编辑于2022年，星期二系统聚类分析的涵义及步骤 涵义：是在样品距离的基础上，定义类与类之间的距离，首先将几个样品自成一类，然后每次将具有最小距离的两类合并，合并后重新计算类与类之间的距离，这个过程一直继续到所有样品归为一类为止。把这个过程作成一个聚类谱系图。这种方法即系统聚类。第41页，共60页，编辑于2022年，星期二系统聚类分析的涵义及步骤基本思想：是把样品看成m维（m个指标）空间的点，而把每个变量看成m维空间的坐标轴。基本方法：是将个样品自成一类，先

11、计算/（）个相似性测度或距离，并且把具有最小测度的两个样品合并成两个元素的类，然后按照某种聚类方法计算这个类和其余个样品之间的距离，这样一直持续下去，并类过程中，每一步所做的并类（样品与样品，样品与类、类与类）都要使测度在系统中保持最小，每次减少一类，直到所有样品都归为一类为止。第42页，共60页，编辑于2022年，星期二系统聚类分析的涵义及步骤 具体步骤：数据变换处理；计算各样品之间的距离，并将距离最近的两个样品并成一类；选择并计算类与类之间的距离，并将距离最近的两类合并，如果类的个数大于，则继续并类直到所有样品归为一类；绘制系统聚类谱系图，按不同的分类标准或不同的分类原则得出不同的分类结果

12、。第43页，共60页，编辑于2022年，星期二系统聚类方法 进行聚类分析时，由于对类与类之间的距离的定义和理解不同，并类的过程中又会产生不同的聚类方法。常用的系统聚类方法有8种。最短距离法最长距离法中间距离法重心法类平均法可变类平均法可变法离差平方和法第44页，共60页，编辑于2022年，星期二常用聚类分析方法 最短距离法涵义步骤第45页，共60页，编辑于2022年，星期二第46页，共60页，编辑于2022年，星期二最长距离法第47页，共60页，编辑于2022年，星期二中间距离法第48页，共60页，编辑于2022年，星期二重心法第49页，共60页，编辑于2022年，星期二类平均法第50页，共6

13、0页，编辑于2022年，星期二可变类平均法第51页，共60页，编辑于2022年，星期二可变法第52页，共60页，编辑于2022年，星期二离差平方和法第53页，共60页，编辑于2022年，星期二离差平方和法第54页，共60页，编辑于2022年，星期二系统聚类分析方法的统一公式 出发点：上述聚类方法的并类原则和步骤是完全一样的，所不同的是类与类之间的距离公式有不同的定义，从而得到不同的递推公式。1969年维希特提出了统一的公式，这为编制统一的计算机程序提供了极大的方便性。第55页，共60页，编辑于2022年，星期二第56页，共60页，编辑于2022年，星期二剩余信息的剔除 进行型聚类分析时，必须选

14、择恰当的反映样本的变量，选择对聚类效果较为显著的变量，剔除对聚类分析效果影响较小的变量。、原则：对所研究问题密切相关的变量具有较强分辨能力的变量、方法人为地挑选变量先用型聚类分析挑选主要变量，然后再进行型聚类分析。先进行主成分分析挑选主要变量，然后再进行型聚类分析。用判别分析检验变量的分辨能力。第57页，共60页，编辑于2022年，星期二谱系分类的确定 如何运用恰当地“类”的概念，把所进行的聚类分析进行解释，把样品或变量进行分类。第58页，共60页，编辑于2022年，星期二系统聚类分析方法的性质 空间守恒空间扩张空间收缩并类距离的单调性 第59页，共60页，编辑于2022年，星期二第四节 系统聚类分析应用举例 第60页，共60页，编辑于2022年，星期二