聚类分析 课件.ppt

《聚类分析 课件.ppt》由会员分享，可在线阅读，更多相关《聚类分析 课件.ppt（35页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、聚类分析 第1页，此课件共35页哦n n聚类分析有：聚类分析有：聚类分析有：聚类分析有：n n1 1：QQ型聚类分析和型聚类分析和型聚类分析和型聚类分析和RR型聚类分析。型聚类分析。型聚类分析。型聚类分析。QQ型聚类是对样品进行聚类，型聚类是对样品进行聚类，型聚类是对样品进行聚类，型聚类是对样品进行聚类，RR型聚类是对变量进行型聚类是对变量进行型聚类是对变量进行型聚类是对变量进行聚类。聚类。聚类。聚类。n n2 2：静态聚类和动态聚类法。：静态聚类和动态聚类法。：静态聚类和动态聚类法。：静态聚类和动态聚类法。n n第二节第二节第二节第二节 距离和相似系数距离和相似系数距离和相似系数距离和相似系

2、数n n距离和相似系数有各种各样的定义。这些定义与变量的类型有着非常密切的关系。距离和相似系数有各种各样的定义。这些定义与变量的类型有着非常密切的关系。距离和相似系数有各种各样的定义。这些定义与变量的类型有着非常密切的关系。距离和相似系数有各种各样的定义。这些定义与变量的类型有着非常密切的关系。n n一、变量的一、变量的一、变量的一、变量的 类型类型类型类型 1 1、间隔尺度：变量是用连续的量来表示的，如长度、重量、速度，温度等。、间隔尺度：变量是用连续的量来表示的，如长度、重量、速度，温度等。、间隔尺度：变量是用连续的量来表示的，如长度、重量、速度，温度等。、间隔尺度：变量是用连续的量来表示

3、的，如长度、重量、速度，温度等。n n2 2、顺序尺度：变量度量时不用明确的数值表示，而是用等级来表示，等级之间有次、顺序尺度：变量度量时不用明确的数值表示，而是用等级来表示，等级之间有次、顺序尺度：变量度量时不用明确的数值表示，而是用等级来表示，等级之间有次、顺序尺度：变量度量时不用明确的数值表示，而是用等级来表示，等级之间有次序关系；如产品分为一、二、三等。序关系；如产品分为一、二、三等。序关系；如产品分为一、二、三等。序关系；如产品分为一、二、三等。n n3 3、名义尺度：变量度量时既没有数量表示，也没有次序关系，如物体有红、黄、蓝、名义尺度：变量度量时既没有数量表示，也没有次序关系，如

4、物体有红、黄、蓝、名义尺度：变量度量时既没有数量表示，也没有次序关系，如物体有红、黄、蓝、名义尺度：变量度量时既没有数量表示，也没有次序关系，如物体有红、黄、蓝三种颜色；医学化验中的阴性和阳性，性别的男性和女性等。三种颜色；医学化验中的阴性和阳性，性别的男性和女性等。三种颜色；医学化验中的阴性和阳性，性别的男性和女性等。三种颜色；医学化验中的阴性和阳性，性别的男性和女性等。n n下面给出具有间隔尺度变量的距离和相似系数的定义。下面给出具有间隔尺度变量的距离和相似系数的定义。下面给出具有间隔尺度变量的距离和相似系数的定义。下面给出具有间隔尺度变量的距离和相似系数的定义。第2页，此课件共35页哦一

5、、距离设有n个样品，每个样品测得p项指标，其原始资料阵如下：对样品分类常用的距离：对样品分类常用的距离：如果把n个样品（X中的n个行）看成是p维空间的n个点，则两个样品间相似程度可用 p维空间中两点的距离来度量,用 表示第i个样品点与第j个样品点之间的距离。1、明考夫斯基（Minkowski）距离 当q=1时，称为绝对值距离当q=2时，称为欧氏（Euclid）距离 当q=时，Chebyshev距离第3页，此课件共35页哦但它存在两方面的缺陷：第一，它与各指标的量纲有关；第二，它没有考虑指标之间的相关性。应先对各变量的数据进行标准化处理，然后用标准化后的数据计算距离。2、马氏（Mahalanob

6、is）距离马氏距离既排除了变量之间相关性的干扰，而且还不受各变量计量单位的影响。3、兰氏（LanceWilliams）距离当 时，但仍没有考虑指标间的相关性。由于它对大的异常值不敏感，故适用于高度偏斜的数据。第4页，此课件共35页哦具有以下几个性质 对一切i，j 1.2.当且仅当第i个样品与第j个样品的各变量值相同 3.对一切i，j 4.对于一切i，j，k如果把任何两个样品之间的距离 都算出来后，可排列成矩阵D 根据D可对n个样品进行分类，距离近的点归为一类，距离远的点归为不同的类。以上距离的定义均要求变量是间隔尺度的，如果使用的是有序尺度或名义尺度，则有相应的定义距离的方法。第5页，此课件共

7、35页哦例如：某高校举办了一个培训班，从学员的资料中得到这样4个变量：性别（男、女），专业（经济类，非经济类），职业（教师，非教师），学历（大学本科，大学本科以下），现有两名学员，其四个变量的取值分别为 二、相似系数二、相似系数1、夹角余弦这是受相似型的启发而来 i，j=1，2，p第6页，此课件共35页哦2、相关系数如果数据已标准化了，则变量之间的夹角余弦就是相关系数。相似系数有下列性质 1.对于一切的i，j ，当且仅当 为常数时，2.对于一切的i，j 变量之间常借助相似系数来定义距离，如令 如果把两两之间的相似系数都算出来后，可排列成矩阵 相似系数大的归为一类，相似系数小的归为不同的类。第7

8、页，此课件共35页哦 第三节第三节第三节第三节 无量纲化方法无量纲化方法无量纲化方法无量纲化方法n n各样品或指标的观测值因量纲不同，或量纲虽相同，但数量级不同，直接用各样品或指标的观测值因量纲不同，或量纲虽相同，但数量级不同，直接用各样品或指标的观测值因量纲不同，或量纲虽相同，但数量级不同，直接用各样品或指标的观测值因量纲不同，或量纲虽相同，但数量级不同，直接用原始数据进行一系列计算就会突出那些绝对值大的变量的作用而削弱那些绝原始数据进行一系列计算就会突出那些绝对值大的变量的作用而削弱那些绝原始数据进行一系列计算就会突出那些绝对值大的变量的作用而削弱那些绝原始数据进行一系列计算就会突出那些绝

9、对值大的变量的作用而削弱那些绝对值小的变量的作用，因此，在计算之前，应对原始数据进行无量纲处理。对值小的变量的作用，因此，在计算之前，应对原始数据进行无量纲处理。对值小的变量的作用，因此，在计算之前，应对原始数据进行无量纲处理。对值小的变量的作用，因此，在计算之前，应对原始数据进行无量纲处理。当对样品进行分析时，应按列进行无量纲处理当对样品进行分析时，应按列进行无量纲处理当对样品进行分析时，应按列进行无量纲处理当对样品进行分析时，应按列进行无量纲处理.n n1 1、标准化变换（标准差标准化）、标准化变换（标准差标准化）、标准化变换（标准差标准化）、标准化变换（标准差标准化）其中：n n特点：标

10、准化后每一列变量是平均值为特点：标准化后每一列变量是平均值为0 0，方差为，方差为1 1，且与变量的量纲无关。，且与变量的量纲无关。2 2、极差标准化（极差正规化）、极差标准化（极差正规化）i=1，2，n j=1，2，p特点:经过变化后，每列变量的最大值为1，最小值为0，其余数据在01中间，且消除了量纲的影响。第8页，此课件共35页哦n n3 3、功效系数法、功效系数法n n功效系数法是利用特定的方法将每个指标的原始数据转化为用百功效系数法是利用特定的方法将每个指标的原始数据转化为用百分制表示的数值。这种方法不仅可以对每一指标进行直接比较，分制表示的数值。这种方法不仅可以对每一指标进行直接比较

11、，还可以解决不同性质的指标综合问题。还可以解决不同性质的指标综合问题。n n其步骤为：其步骤为：n n（1 1）对每一个指标确定一个满意值和不允许值）对每一个指标确定一个满意值和不允许值n n（2 2）以满意值和不允许值的差额作为分母计算功效系数）以满意值和不允许值的差额作为分母计算功效系数n n其计算公式；其计算公式；变换后指标的取值在0100之间。第9页，此课件共35页哦产品销售率产品销售率（%）可比产品成本降低率可比产品成本降低率（%）全员劳动全员劳动生产率生产率（千元（千元/人）人）甲甲乙乙丙丙丁丁戊戊757585856060686873733 32 2-1-10 01 19 9121

12、26 67 78 8例如：给出5个地区下属3个指标，为进行聚类分析，需对它们做数据处理：第10页，此课件共35页哦n n 功效系数表功效系数表产品销售率产品销售率（%）可比产品成本降低率可比产品成本降低率（%）全员劳动生产率（千元全员劳动生产率（千元/人）人）满意值满意值1001005 51515不允许值不允许值50500 05 5甲甲乙乙丙丙丁丁戊戊8080888868687474787884847676525260606868767688886464686872724、相对化变换第11页，此课件共35页哦第四节第四节 系统聚类法系统聚类法n n一、一、一、一、QQ型系统聚类法的基本思想和聚

13、类步骤型系统聚类法的基本思想和聚类步骤型系统聚类法的基本思想和聚类步骤型系统聚类法的基本思想和聚类步骤n n其基本思想是：其基本思想是：其基本思想是：其基本思想是：开始时先将开始时先将开始时先将开始时先将n n个样品点各自作为一类，计算它们之间的距离，个样品点各自作为一类，计算它们之间的距离，个样品点各自作为一类，计算它们之间的距离，个样品点各自作为一类，计算它们之间的距离，然后将距离最近的两类合并为一个新类，计算新类与其它类的距离，重复然后将距离最近的两类合并为一个新类，计算新类与其它类的距离，重复然后将距离最近的两类合并为一个新类，计算新类与其它类的距离，重复然后将距离最近的两类合并为一个

14、新类，计算新类与其它类的距离，重复进行两个最近类的合并，每次减少一类，直至所有的样品合并为所需类数进行两个最近类的合并，每次减少一类，直至所有的样品合并为所需类数进行两个最近类的合并，每次减少一类，直至所有的样品合并为所需类数进行两个最近类的合并，每次减少一类，直至所有的样品合并为所需类数为止，所以系统聚类法也称逐步聚类法。其步骤如下：为止，所以系统聚类法也称逐步聚类法。其步骤如下：为止，所以系统聚类法也称逐步聚类法。其步骤如下：为止，所以系统聚类法也称逐步聚类法。其步骤如下：n n步骤一：聚类前先对数据进行变换处理，消除量纲对数据的影响；步骤一：聚类前先对数据进行变换处理，消除量纲对数据的影

15、响；步骤一：聚类前先对数据进行变换处理，消除量纲对数据的影响；步骤一：聚类前先对数据进行变换处理，消除量纲对数据的影响；n n步骤二：将各样品点自成一类（步骤二：将各样品点自成一类（步骤二：将各样品点自成一类（步骤二：将各样品点自成一类（n n个样品共有个样品共有个样品共有个样品共有n n类），计算各样品点之间的距离，并类），计算各样品点之间的距离，并类），计算各样品点之间的距离，并类），计算各样品点之间的距离，并将最近的两个样品点并成一个新类；将最近的两个样品点并成一个新类；将最近的两个样品点并成一个新类；将最近的两个样品点并成一个新类；n n步骤三：计算新类与其它类的距离步骤三：计算新类与

16、其它类的距离步骤三：计算新类与其它类的距离步骤三：计算新类与其它类的距离,将距离最近的两类合并，重复上述作法，将距离最近的两类合并，重复上述作法，将距离最近的两类合并，重复上述作法，将距离最近的两类合并，重复上述作法，直至所有样品点归为所需类数为止；直至所有样品点归为所需类数为止；直至所有样品点归为所需类数为止；直至所有样品点归为所需类数为止；n n步骤四：绘出系统聚类图。步骤四：绘出系统聚类图。步骤四：绘出系统聚类图。步骤四：绘出系统聚类图。n nQQ型系统聚类方法取决于类与类之间距离的选择，由于类与类之间距离的定义型系统聚类方法取决于类与类之间距离的选择，由于类与类之间距离的定义型系统聚类

17、方法取决于类与类之间距离的选择，由于类与类之间距离的定义型系统聚类方法取决于类与类之间距离的选择，由于类与类之间距离的定义有多种，不同的选择就会产生不同的聚类方法。有多种，不同的选择就会产生不同的聚类方法。有多种，不同的选择就会产生不同的聚类方法。有多种，不同的选择就会产生不同的聚类方法。第12页，此课件共35页哦n n二、聚类方法二、聚类方法n n（一）最短距离法（一）最短距离法（一）最短距离法（一）最短距离法在容量为n的样本数据矩阵中，用 表示第 i个样品与第j个样品之间的距离用 表示初始类 3 1 2 4 5其具体聚类步骤为：用 表示 与 的距离，规定两类之间的距离为一个类的所有个体与另

18、一个类的所有个体之间距离的最小者。第13页，此课件共35页哦（1）规定样品之间的距离的计算方法，计算n个样品点中两两之间的距离 得样品矩阵，初始时每个样品自成一类，显然（2）找出中非对角线最小元素，设为 于是将 与 并类，记为（3）计算新类 与任一类 之间的距离 这样可得第一次并类矩阵（4）将 重复上述（2）、（3）的做法，得 如此下去，直到所有的元素并成一类为止。第14页，此课件共35页哦例例1：设有5个样品，每个样品只观测一个指标，分别为1、2、3.5、7、9，试用最短距离法对5个样品进行分类。(定义两样品之间的距离为绝对距离）G G1 1 G G2 2 G G3 3 G G4 4 G G

19、5 5GG1 1GG2 2GG3 3GG4 4GG5 50 1 0 2.5 1.5 06 5 3.5 08 7 5.5 2 0 G G6 6 G G3 3 G G4 4 G G5 5GG6 6GG3 3GG4 4GG5 50 1.5 05 3.5 07 5.5 2 0 G G7 7 G G8 8GG7 7GG8 8 0 3.5 0 G G7 7 G G4 4 G G5 5GG7 7GG4 4GG5 5 0 3.5 0 5.5 2 0第15页，此课件共35页哦 0 1 2 3 4 Label +-+-+-+-+样品1样品2样品3样品4样品5（二）最长距离法用 表示 的距离，规定两类之间的距离为一

20、个类的所有个体与另一个类的所有个体之间距离的最大者。1.2.3.4.5最长距离法和最短距离法的并类步骤相同.第16页，此课件共35页哦例：例：设有5个样品，每个样品只观测一个指标，分别为1、2、3.5、7、9，试用最长距离法对它们进行分类。（定义两样品之间的距离为绝对距离）G G1 1 G G2 2 G G3 3 G G4 4 G G5 5GG1 1GG2 2GG3 3GG4 4GG5 50 1 0 2.5 1.5 06 5 3.5 08 7 5.5 2 0 G G1 1 G G3 3 G G4 4 G G5 5GG6 6GG3 3GG4 4GG5 50 2.5 06 3.5 08 5.5 2

21、 0 G G6 6 G G3 3 G G7 7GG6 6GG3 3GG7 70 2.5 08 5.5 0 G G8 8 G G7 7GG8 8GG7 708 0第17页，此课件共35页哦 0 2 4 6 8 Label +-+-+-+-+样品1样品2样品3样品4样品5（三）中间距离法类与类之间的距离既不取两类最近样品间的距离，也不取两类最远样品间的距离，而是取介于两者中间的距离，故称中间距离法。如果在某一步将类 与 合并为 第18页，此课件共35页哦由于都是用距离的平方计算新类与其他类的距离的，所以开始 的元素一律改写为 其并类步骤与最短距离法大致相同。例：设有5个样品，每个样品只观测一个指标

22、，分别为1、2、3.5、7、9，试用中间距离法对它们进行分类。（样品之间的距离为欧氏距离的平方）G G1 1 G G2 2 G G3 3 G G4 4 G G5 5GG1 1GG2 2GG3 3GG4 4GG5 50 1 0 6.25 2.25 036 25 12.25 064 49 30.25 4 0 G G6 6 G G3 3 G G4 4 G G5 5GG6 6GG3 3GG4 4GG5 504 030.25 12.25 056.25 30.25 4 0 G G7 7 G G4 4 G G5 5GG7 7GG4 4GG5 5020.25 042.25 4 0 G G7 7 G G8 8G

23、G7 7GG8 8 030.25 0第19页，此课件共35页哦 0 1 2 3 4 5 3 0 31 Label +-+-+-+-+-+-+-+样品1样品2样品3样品4样品5（四）类平均距离法（四）类平均距离法类平均法有两种定义距离的方法，第一种是把类与类之间的距离定义为两类之间所有样品对距离的平均距离。12345第二种是把类与类之间的平方距离定义为两类之间所有样品对距离平方的平均值，即第20页，此课件共35页哦在很多情况下类平均法被认为是一种比较好的系统聚类法。例：设有5个样品，每个样品只观测一个指标，分别为1、2、3.5、7、9，试用中间距离法对它们进行分类。（样品之间的距离为欧氏距离的平

24、方）G G1 1 G G2 2 G G3 3 G G4 4 G G5 5GG1 1GG2 2GG3 3GG4 4GG5 50 1 0 6.25 2.25 036 25 12.25 064 49 30.25 4 0 G G6 6 G G3 3 G G4 4 G G5 5GG6 6GG3 3GG4 4GG5 504.25 030.5 12.25 056.5 30.25 4 0 G G6 6 G G3 3 G G7 7 GG6 6GG3 3GG7 704.25 043.5 21.25 0 G G8 8 G G7 7GG8 8GG7 7036.08 0第21页，此课件共35页哦 0 1 2 3 4 5

25、 36 37 Label +-+-+-+-+-+-+-+样品1样品2样品3样品4样品5（五）重心法 在欧氏空间中，将两类之间的距离定义为两类重心之间的距离，这种聚类方法称为重心法。对样本分类而言，每一类的重心就是该类样本点的均值。若一个样品点表示一类，其重心就是它本身；若两个样品点表示一类，其重心就是两点连线的中点。设与 合并为新类 它们各含有 和 个样品点，它们的重心分别为和 设某一类 的重心为 它与新类 的距离为 第22页，此课件共35页哦例：设有5个样品，每个样品只观测一个指标，分别为1、2、3.5、7、9，试用重心法对它们进行分类。（样品之间的距离采用欧氏距离的平方）G G1 1 G

26、G2 2 G G3 3 G G4 4 G G5 5GG1 1GG2 2GG3 3GG4 4GG5 50 1 0 6.25 2.25 036 25 12.25 064 49 30.25 4 0 G G6 6 G G3 3 G G4 4 G G5 5GG6 6GG3 3GG4 4GG5 504 030.25 12.25 056.25 30.25 4 0第23页，此课件共35页哦 G G7 7 G G4 4 G G5 5GG7 7GG4 4GG5 5023.361 046.694 4 0 G G7 7 G G8 8GG7 7GG8 8034.03 0 1 2 3 4 5 34 35 Label +-

27、+-+-+-+-+-+-+样品1样品2样品3样品4样品5第24页，此课件共35页哦（六）离差平方和法（Ward法）离差平方和法的基本思想来源于方差分析，如果类分的合理，同类样本点的离差平方和应当较小，而类与类之间的离差平方和应当较大，从这种思想出发产生了离差平方和法。设 与 合并为新类 则类的离差平方和分别是 如果 这两类相距较近，则合并后所增加的离差平方和 应较小；否则，应较大，于是第25页，此课件共35页哦如果样品间的距离采用欧氏距离计算，则递推公式为 其基本思想是：先将n个样品各自成一类，此时W=0，然后将其中某两类合并成一类，使W增加最小，这时类的数目变为n-1个，随后再合并其中的两类

28、使W增加最小，直到所有的样品都归为适当的类为止。离差平方和法就是把两类合并增加的离差平方和看成是平方距离。例：设有5个样品，每个样品只观测一个指标，分别为1、2、3.5、7、9，试用重心法对它们进行分类。（样品之间的距离采用欧氏距离的平方）第一步：将5个样品各自分成一类，显然这时类内离差平方和S=0第二步：将一切可能的任意两类合并，计算合并后各新类的离差平方和，例如将和 合并，它的离差平方和 将 和 合并，它的离差平方和 将一切可能的两类合并的离差平方和都算出来，列表如下：第26页，此课件共35页哦 G G1 1 G G2 2 G G3 3 G G4 4 G G5 5GG1 1GG2 2GG3

29、 3GG4 4GG5 50 0.5 03.125 1.125 018 12.5 6.125 032 25.5 15.125 2 0 G G6 6 G G3 3 G G4 4 G G5 5 GG6 6GG3 3GG4 4GG5 50 2.667 020.167 6.125 037.5 15.125 2 0 G G6 6 G G3 3 G G7 7GG6 6GG3 3GG7 7 0 2.667 0 42.25 13.5 0 G G8 8 G G7 7GG8 8GG7 7 0 40.83 0第27页，此课件共35页哦 0 1 2 3 4 5 40 41 Label +-+-+-+-+-+-+-+样品

30、1样品2样品3样品4样品5一般来说，不同的聚类方法效果不完全相同.例：为了研究我国各省、自治区、直辖市城镇居民生活消费的分布规律，将2004年各项消费支出的资料列于表 第28页，此课件共35页哦地区食品衣着家庭设备用品及服务医疗保健交通和通讯教育文化娱乐服务居住杂项商品和服务北 京3925.541062.47823.841182.811562.192115.891065.67461.98天 津3278.24624.61497.48823.99787.711232.381230.17327.86河 北2142.36630.93343.21550.29595.95682.87705.18168.3

31、9山 西1917.75747.43314.82401.75587901.4614.2169.8内蒙古2024.87897.88360.31473.64699.66858.38627.02277.5辽 宁2643.95651.66276.89541.26652.4845.37661.8269.96吉 林2180.09739.52254.33527.32643.16795.04700.04229.51黑龙江1972.24719.28215.07537.44548.39762.49611.44201.18上 海4593.32796.72780.26761.71702.862195.151326.69

32、474.33江 苏2931.7610.96493.53496.77765.171031.14760.71242.28浙 江3851.23941.8596.62828.811419.091681.09971.33346.17安 徽2509.02637.88257.01395.74564.92623.48534.3188.99福 建3394.63598.37435.32476.751055.591050.3869.25280.93江 西2296.48513.57328.18268.11498.45785.66505.47141.93山 东2310.66829.22457.33484.42801.2

33、3983.07601.54206.28河 南1855.44650.3332.06436.53569.85694.56578.6176.84湖 北2516.2710.96334.12461.4600.48938.62641.62195.12湖 南2479.58689.48388.15475.61881.891091.29640.73237.87广 东3953.3620.07592.66649.71754.121577.71205.12342.11广 西2727.09423.17397.33461.67584.12960.77660.26231.31海 南2722.84300.17302.4135

34、0.17701.92686.75564.86173.29重 庆3015.32779.68474.15537.95865.451200.52903.22196.77四 川2560.35557.94384.08433.36769.24874.37600.67191.15贵 州2260.46585.18286.56301.26601.08793.4468.21198.3云 南2895.6651.72302.04623.22882.19725.08592.93164.21西 藏3799.171079.74469.74320.651184.66617.39483.2383.66陕 西2236.48609

35、.33409513.27583.191025.76646.92209.1甘 肃2204.04736.19336.2411.95601.16853.31572.49221.96青 海2056.06621.98438.44451.95566.97746.89664.2212.47宁 夏2156.34636.81364.07440.77646.97651.14660.19265.08新 疆2083.13766.73292.14375.18615.19840.59566.99233.66第29页，此课件共35页哦三、聚类方法的选择三、聚类方法的选择（一）系统聚类法的性质1.单调性设 是系统聚类法中第k

36、次并类时的距离，如果 则称并类距离具有单调性。最短距离法、最长距离法、类平均法、和离差平方和法都具有单调性；但中间距离法和重心法不具有单调性。2.空间的浓缩和扩张空间的浓缩和扩张设两个同阶矩阵 如果 的每个元素不小于 相应的元素，则记为 特别地，如果矩阵D的元素是非负的，则有 此处的 的含义与非负定阵的含义不同.如果 表示将 的每个元素平方，由 设有两种系统聚类法A、B，它们在第K步的距离阵记为若 则称A比B使空间扩张，或称B比A使空间浓缩。第30页，此课件共35页哦以类平均法为基准，其它方法都与它作比较，可以得出一些结论：1、D（短）D（平）；D（重）D（平），即最短距离法和重心法比类平均法

37、使空间浓缩；2、D（长）D（平），D（离）D（平），即最长距离法、离差平方和法比类平均法使空间扩张；以上比较的这些方法中，太浓缩的方法不够灵敏，太扩张的方法灵敏度过高而容易失真。而类平均法比较适中，既不太浓缩，也不太失真，因而它被认为是一种比较理想的方法。中间距离法与类平均法的比较没有一个统一的结论。（二）几种分类方法结合运用在实际分类中多用几种分类方法，把结果中的共性提取出来，如果用几种方法分类的某些结果都一样，则说明这样的聚类确实反映了事物的本质，而将有争议的样品暂时放在一边，而后用判别分析法去归类。在应用聚类方法时，也可以根据实际需要进行选择。第31页，此课件共35页哦四、分类数的确定四

38、、分类数的确定实际应用中人们主要根据研究的目的，从实用的角度出发，选择合适的分类数实际应用中人们主要根据研究的目的，从实用的角度出发，选择合适的分类数（一）杰米尔曼（一）杰米尔曼（Demirimen）准则）准则Demirimen 在在1972年提出了应根据研究的目的来确定适当的分类方法，并提出了一年提出了应根据研究的目的来确定适当的分类方法，并提出了一些根据谱系图来分类的准则：些根据谱系图来分类的准则：准则准则1:任何类都必须在邻近各类中是突出的，即各类重心之间距离必须大。任何类都必须在邻近各类中是突出的，即各类重心之间距离必须大。准则准则2:确定的类中，各类所包含的单位都不应过多。确定的类中

39、，各类所包含的单位都不应过多。准则准则3:分类的数目应该符合实用目的。分类的数目应该符合实用目的。准则准则4:若采用几种不同的聚类方法处理，则在各自的聚类图中应发现相同的类。若采用几种不同的聚类方法处理，则在各自的聚类图中应发现相同的类。（二）使用统计量五、五、五、五、RR型系统聚类法型系统聚类法型系统聚类法型系统聚类法R R R R型系统聚类法和型系统聚类法和型系统聚类法和型系统聚类法和Q Q Q Q型系统聚类法的聚类原理和步骤是相同的，但有两点区别：一型系统聚类法的聚类原理和步骤是相同的，但有两点区别：一型系统聚类法的聚类原理和步骤是相同的，但有两点区别：一型系统聚类法的聚类原理和步骤是相

40、同的，但有两点区别：一是采用的距离不同，二是各类中元素的构成不同。是采用的距离不同，二是各类中元素的构成不同。是采用的距离不同，二是各类中元素的构成不同。是采用的距离不同，二是各类中元素的构成不同。n n对变量聚类，一开始是把每个变量作为独立的类，然后，从全部各类变量对变量聚类，一开始是把每个变量作为独立的类，然后，从全部各类变量对变量聚类，一开始是把每个变量作为独立的类，然后，从全部各类变量对变量聚类，一开始是把每个变量作为独立的类，然后，从全部各类变量中计算出相似性系数距离矩阵。聚类时，是将相关系数的绝对值作为相似性中计算出相似性系数距离矩阵。聚类时，是将相关系数的绝对值作为相似性中计算出

41、相似性系数距离矩阵。聚类时，是将相关系数的绝对值作为相似性中计算出相似性系数距离矩阵。聚类时，是将相关系数的绝对值作为相似性距离，因为它们之间有负相关变量，系数的符号仅仅是说明相关的方向。如距离，因为它们之间有负相关变量，系数的符号仅仅是说明相关的方向。如距离，因为它们之间有负相关变量，系数的符号仅仅是说明相关的方向。如距离，因为它们之间有负相关变量，系数的符号仅仅是说明相关的方向。如果只想对正相关的变量进行聚类，系数的符号可以保存下来。果只想对正相关的变量进行聚类，系数的符号可以保存下来。果只想对正相关的变量进行聚类，系数的符号可以保存下来。果只想对正相关的变量进行聚类，系数的符号可以保存下

42、来。第32页，此课件共35页哦第四节第四节 用用K-MK-M过程进行大样本数据的聚类分析过程进行大样本数据的聚类分析n n前面介绍了基本的聚类分析，并叙述了聚类形成的一般方法。但在前面介绍了基本的聚类分析，并叙述了聚类形成的一般方法。但在大样本的情况下（比如，数据文件有大样本的情况下（比如，数据文件有200200个以上的个案，计算时就个以上的个案，计算时就会产生许多中间结果，就需要很多的缓冲区和很大内存容量来容会产生许多中间结果，就需要很多的缓冲区和很大内存容量来容纳，这时可采用纳，这时可采用K-MK-M聚类分析方法来进行快速聚类。聚类分析方法来进行快速聚类。n n快速聚类分析是由用户指定类别

43、数的大样本资料的逐步聚类分析。它先快速聚类分析是由用户指定类别数的大样本资料的逐步聚类分析。它先对数据进行初始分类，然后逐步调整，得到最终分类。对数据进行初始分类，然后逐步调整，得到最终分类。n n和层次聚类分析一样，和层次聚类分析一样，K-MK-M聚类分析也以距离为样本间亲疏程度的标聚类分析也以距离为样本间亲疏程度的标志。但两者的不同在于：分层聚类分析法，根据不同的聚类数目可志。但两者的不同在于：分层聚类分析法，根据不同的聚类数目可生成一系列连续的聚类解。而生成一系列连续的聚类解。而K-MK-M聚类分析只生成固定类数的聚类聚类分析只生成固定类数的聚类解，类数需要用户事先指定，且无图形输出。解

44、，类数需要用户事先指定，且无图形输出。第33页，此课件共35页哦n n其计算过程如下：其计算过程如下：n n1 1、首先需要用户指定聚类成多少类、首先需要用户指定聚类成多少类k kn n2 2、SPSSSPSS确定确定k k个类的初始类中心点。个类的初始类中心点。SPSSSPSS会根据样本数据的会根据样本数据的实际情况，选择实际情况，选择k k个有代表性的样本数据作为初始中心类。初始类个有代表性的样本数据作为初始中心类。初始类也可以由用户自行指定，需要指定也可以由用户自行指定，需要指定k k组样本数据作为初始类中心点。组样本数据作为初始类中心点。n n3 3、计算所有样本数据点到、计算所有样本

45、数据点到k k个类中心点的欧氏距离，个类中心点的欧氏距离，SPSSSPSS按按照距照距k k个类中心点距离最短的原则，把所有样本点分配到各个类中心点距离最短的原则，把所有样本点分配到各中心点所在的类，形成一个新的中心点所在的类，形成一个新的k k类，完成一次迭代。类，完成一次迭代。n nK-MK-M聚类例聚类例1.sav1.sav第34页，此课件共35页哦n n从单因素方差分析结果看从单因素方差分析结果看,各类之间的差异不明显各类之间的差异不明显,则需则需要尝试其他分类的数目要尝试其他分类的数目.这说明这说明,K-M,K-M聚类是一种尝试性聚类是一种尝试性的聚类的聚类,有时候需要反复进行有时候需要反复进行,来最终确定一个合理的聚类来最终确定一个合理的聚类数目数目.第35页，此课件共35页哦