判别分析(第1、2节绪论、距离判别法).ppt

第一节第一节 引言引言 什么是判别分析？什么是判别分析？在在我我们们的的日日常常生生活活和和工工作作实实践践中中，常常常常会会遇遇到到判判别别分分析析问问题题，即即根根据据历历史史上上划划分分类类别别的的有有关关资资料料和和某某种种最最优优准准则则，确确定定一一种种判判别别方法，判定一个新的样品归属哪一类。方法，判定一个新的样品归属哪一类。例例如如，在在医医学学诊诊断断中中，一一个个病病人人肺肺部部有有阴阴影影，医医生生要要判判断断该该病病人人患患的的是是肺肺结结核核、肺肺部部良良性性肿肿瘤瘤还还是是肺肺癌癌？这这里里三三种种病病人人的的集集合合体体可可看看做做是是三三个个总总体体，病病人人是是来来源源于于三三个个总总体体之之一一的的样样本本。判判别别分分析析的的目目的的是是通通过过检检测测病病人人的的一一些些指指标标（如如阴阴影影大大小小、边边缘缘的的光光滑滑度、体温等度、体温等）来判定该病人应属于那个总体）来判定该病人应属于那个总体.又又如如，在在天天气气预预报报中中，我我们们有有一一段段较较长长时时间间关关于于某某地地区区每每天天气气象象的的记记录录资资料料（晴晴阴阴雨雨、气气温温、气气压压、湿湿度度等等），现现在在想想建建立立一一种种用连续五天的气象资料来预报第六天是什么天气的方法。这些问题都可以应用判别分析方法予以解决。用连续五天的气象资料来预报第六天是什么天气的方法。这些问题都可以应用判别分析方法予以解决。第一节第一节 引言引言 这这类类问问题题可可用用数数学学语语言言来来表表达达如如下下：设设有有n个个样样品品，对对每每个个样样品品测测得得p项项指指标标（变变量量）的的数数据据，已已知知每每个个样样品品属属于于k个个类类别别（或或总总体体）G1，G2，Gk中中的的某某一一类类，且且它它们们的的分分布布函函数数分分别别为为F1(x)，F2(x)，Fk(x)。我我们们希希望望利利用用这这些些数数据据，找找出出一一种种判判别别函函数数（或或判判别别准准则则），使使得得这这一一函函数数具具有有某某种种最最优优性性质质，能能把把属属于于不不同同类类别别的的样样本本点点尽尽可可能能地地区区别别开开来来，并并对对测测得得同同样样p项项指指标标（变变量量）数数据据的的一一个个新新样样品品（待待判判样样品品），能能判判定定这这个个样样品品归属于哪一类。归属于哪一类。直观上讲直观上讲，判别分析是用来判别样品所属类型的一种多元统计分析方法。，判别分析是用来判别样品所属类型的一种多元统计分析方法。第二节第二节 距离判别法距离判别法 马氏距离马氏距离 第二节第二节 距离判别法距离判别法图图5.1 第二节第二节 距离判别法距离判别法更一般地，设总体更一般地，设总体G1的分布为的分布为 ，设总体，设总体G2的分布为的分布为 ，则利用统计距离，可以找出分界点，则利用统计距离，可以找出分界点 ，且不妨设，且不妨设 ，所以若令，所以若令按这种距离最近的判别准则：按这种距离最近的判别准则：第二节第二节 距离判别法距离判别法因因为为是是单单指指标标的的问问题题，这这时时判判别别函函数数设设为为：，在在此此例例中中 因因 ，故判，故判 。下面给出对于下面给出对于m元总体的这种相对距离元总体的这种相对距离即所谓的马氏距离定义即所谓的马氏距离定义 第二节第二节 距离判别法距离判别法1、两个总体的距离判别问题、两个总体的距离判别问题（1）情情形形：有有协协方方差差矩矩阵阵相相等等的的两两个个总总体体G1和和G2，其其均均值值分分别别是是 1和和 2，对对于于一一个个新新的的样样品品X，要判断它来自哪个总体。，要判断它来自哪个总体。一一般般的的想想法法是是计计算算新新样样品品X到到两两个个总总体体的的马马氏氏距距离离D2（X，G1）和和D2（X，G2），并并按按照照如如下下的的判判别别规规则则进进行行判断判断这这个个判判别别规规则则的的等等价价描描述述为为：求求新新样样品品X到到G1的的距距离离与与到到G2的的距距离离之之差差，如如果果其其值值为为正正，X属属于于G2；否否则则X属属于于G1。第二节第二节 距离判别法距离判别法 第二节第二节 距离判别法距离判别法 第二节第二节 距离判别法距离判别法 第二节第二节 距离判别法距离判别法 第二节第二节 距离判别法距离判别法作为特殊情形，我们考虑：作为特殊情形，我们考虑：第二节第二节 距离判别法距离判别法我们用这种特殊情形，说明错判概率的有关概念。我们用这种特殊情形，说明错判概率的有关概念。从从图图上上可可直直观观地地看看到到，用用距距离离判判别别法法会会发发生生错错判判，如如样样本本X虽虽然然来来自自于于总总体体 ，但但却却落落入入区区域域 ，所所以以按按照照判判别别准准则则被被判判别别为为属属于于 。错错判判的的概概率率为为图图中中阴阴影影左左半半部部分分面面积，记为积，记为 ，另一个错判概率，另一个错判概率 。第二节第二节 距离判别法距离判别法从从错错判判概概率率公公式式 可可看看出出，当当两两个个总总体体的的均均值值相相差差甚甚微微，即即 越越小小，错错判判概概率率变变得得越越大大，这这时时作作判判别别分分析析没没有有意意义义。因因此此只只有有当当两两个个总总体体的的均均值值有有显著性差异时，做判别分析才有意义。显著性差异时，做判别分析才有意义。第二节第二节 距离判别法距离判别法 第二节第二节 距离判别法距离判别法 我们用我们用p=1时的特殊情形，说明两总体协方差不等时的归类过程。假定两总体为正态总体时的特殊情形，说明两总体协方差不等时的归类过程。假定两总体为正态总体:并并假假定定 ，这这时时 ，当当观观测测值值x x满满足足条条件件：时，时，其中，其中，这个点把直线分成两个部分，即，这个点把直线分成两个部分，即相对应的判别准则为：相对应的判别准则为：