多元统计分析PPT讲稿.ppt

《多元统计分析PPT讲稿.ppt》由会员分享，可在线阅读，更多相关《多元统计分析PPT讲稿.ppt（46页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、多元统计分析PPT第一页，讲稿共四十六页哦1问题引入问题引入2思路点思路点拨拨3判判别别分析方法分析方法4DNA序列分序列分类问题类问题的求解的求解5.参参考文考文献献目目 录录第二页，讲稿共四十六页哦 首先，我首先，我们们来来考考虑虑一下一下2000年年“网网易杯易杯”全全国国大大学学生生数学数学建模建模竞赛竞赛的的A题题是是关关于于“DNA序列分序列分类类”的的问题问题 1问题问题引入引入第三页，讲稿共四十六页哦 人类基因组中的人类基因组中的DNA全序列是由全序列是由4个碱基个碱基A，T，C，G按一定顺序排成的长约按一定顺序排成的长约30亿的序列，毫亿的序列，毫无疑问，这是一本记录着人类自

2、身生老病死及无疑问，这是一本记录着人类自身生老病死及遗传进化的全部信息的遗传进化的全部信息的“天书天书”。但是，除了。但是，除了这四种碱基外，人们对它所包含的内容知之甚这四种碱基外，人们对它所包含的内容知之甚少，如何破译这部少，如何破译这部“天书天书”是二十一世纪最重是二十一世纪最重要的任务之一。在这个目标中，研究要的任务之一。在这个目标中，研究DNA全序列全序列具有什么结构，由这具有什么结构，由这4个字符排成的看似随机的个字符排成的看似随机的序列中隐藏着什么规律，又是解读这部天书的序列中隐藏着什么规律，又是解读这部天书的基础，是生物信息学（基础，是生物信息学（Bioinformatics）最

3、重要）最重要的课题之一。的课题之一。第四页，讲稿共四十六页哦虽然人类对这部虽然人类对这部“天书天书”知之甚少，但也发现了知之甚少，但也发现了DNA序列中的一些规律性和结构。例如，在全序列序列中的一些规律性和结构。例如，在全序列中有一些是用于编码蛋白质的序列片段，即由这中有一些是用于编码蛋白质的序列片段，即由这4个字符组成的个字符组成的64种不同的种不同的3字符串，其中大多数用字符串，其中大多数用于编码构成蛋白质的于编码构成蛋白质的20种氨基酸。又例如，在不种氨基酸。又例如，在不用于编码蛋白质的序列片段中，用于编码蛋白质的序列片段中，A和和T的含量特别的含量特别多些，于是以某些碱基特别丰富作为特

4、征去研究多些，于是以某些碱基特别丰富作为特征去研究DNA序列的结构也取得了一些结果。此外，利用统序列的结构也取得了一些结果。此外，利用统计的方法还发现序列的某些片段之间具有相关性，计的方法还发现序列的某些片段之间具有相关性，等等。这些发现让人们相信，等等。这些发现让人们相信，DNA序列中存在着局序列中存在着局部的和全局性的结构，充分发掘序列的结构对理解部的和全局性的结构，充分发掘序列的结构对理解DNA全序列是十分有意义的。全序列是十分有意义的。第五页，讲稿共四十六页哦作为研究作为研究DNA序列的结构的尝试，试对以下序列进行分序列的结构的尝试，试对以下序列进行分类：类：问题一：下面有问题一：下面

5、有20个已知类别的人工制造的序列（见个已知类别的人工制造的序列（见附件附件1），其中序列标号），其中序列标号110 为为A类，类，11-20为为B类。类。请从中提取特征，构造分类方法，并用这些已知类别请从中提取特征，构造分类方法，并用这些已知类别的序列，衡量你的方法是否足够好。然后用你认为满的序列，衡量你的方法是否足够好。然后用你认为满意的方法，对另外意的方法，对另外20个未标明类别的人工序列（标号个未标明类别的人工序列（标号2140）进行分类，把结果用序号（按从小到大的顺）进行分类，把结果用序号（按从小到大的顺序）标明它们的类别（无法分类的不写入）：序）标明它们的类别（无法分类的不写入）：A

6、类类 ；B类类 。第六页，讲稿共四十六页哦问题二：请对问题二：请对 182个自然个自然DNA序列序列（http:/ 问题的本问题的本 质质对另外对另外20个未标明类别的个未标明类别的DNA序列进行分类序列进行分类 根据根据所给所给的的20个已个已知类知类别的别的DNA序列序列所提所提供的供的信息信息 对对182个自然个自然DNA序序列进行分类列进行分类 第八页，讲稿共四十六页哦 如果将每一个如果将每一个DNADNA序列都看作样本，那么该问序列都看作样本，那么该问题就进一步提炼成一个纯粹的数学问题：设有两题就进一步提炼成一个纯粹的数学问题：设有两个总体（类）个总体（类）和和 ，其分布特征（来其分

7、布特征（来自各个总体的样本）已知，对给定的新品自各个总体的样本）已知，对给定的新品 ，我们需要判断其属于哪个总体（类）。，我们需要判断其属于哪个总体（类）。对于上面的数学问题，可以用很多成熟对于上面的数学问题，可以用很多成熟的方法来解决，例如：的方法来解决，例如：（1 1）BPBP神经网络；神经网络；（2 2）聚类分析；）聚类分析；（3 3）判别分析；等等。）判别分析；等等。第九页，讲稿共四十六页哦 如何选取方法是建模过程中需要解决的另外一个问题：如何选取方法是建模过程中需要解决的另外一个问题：BPBP神经网络是人工神经网络的一种，它通过对训练样本的学习，神经网络是人工神经网络的一种，它通过对

8、训练样本的学习，提取样本的隐含信息，进而对新样本的类别进行预测。提取样本的隐含信息，进而对新样本的类别进行预测。BPBP神经神经网络可以用以解决上面的网络可以用以解决上面的DNADNA序列分类问题，但是，如何提取序列分类问题，但是，如何提取特征、如何提高网络的训练效率、如何提高网络的容错能力、特征、如何提高网络的训练效率、如何提高网络的容错能力、如何建立网络结构是能否成功解决如何建立网络结构是能否成功解决DNADNA序列分类问题的关键所序列分类问题的关键所在；聚类分析和判别分析都是多元统计分析中的经典方法，都在；聚类分析和判别分析都是多元统计分析中的经典方法，都可以用来将对象（或观测值）分成不

9、同的集合或类别，但是，可以用来将对象（或观测值）分成不同的集合或类别，但是，聚类分析更侧重于聚类分析更侧重于“探索探索”对象（或观测值）的自然分组方对象（或观测值）的自然分组方式，而判别分析则侧重于将未知类别的对象（或观测值）式，而判别分析则侧重于将未知类别的对象（或观测值）“归结归结”（或者说，分配）到已知类别中。显然，判别分（或者说，分配）到已知类别中。显然，判别分析更适合用来解决上面的析更适合用来解决上面的DNADNA序列分类问题。序列分类问题。第十页，讲稿共四十六页哦3判判别别分析方法分析方法 判别分析是用于判别样品所属类别的一种多元判别分析是用于判别样品所属类别的一种多元统计分析方法

10、。判别分析问题都可以这样描述：设统计分析方法。判别分析问题都可以这样描述：设有有 个个 维的总体维的总体 ，其分布特征已知（如，其分布特征已知（如已知分布函数分别为已知分布函数分别为 或者已知来自各个或者已知来自各个总体的样本），对给定的一个新样品总体的样本），对给定的一个新样品 ，我们需要，我们需要判断其属于哪个总体。一般来说，根据判别规则的判断其属于哪个总体。一般来说，根据判别规则的不同，可以得到不同的判别方法不同，可以得到不同的判别方法，例如，距离判别、，例如，距离判别、贝叶斯（贝叶斯（Bayes）判别、费希尔（）判别、费希尔（Fisher）判别、逐）判别、逐步判别、序贯判别等。这里，我

11、们简单介绍三个常步判别、序贯判别等。这里，我们简单介绍三个常用的判别方法：距离判别、贝叶斯（用的判别方法：距离判别、贝叶斯（Bayes）判别和）判别和费希尔（费希尔（Fisher）判别。）判别。第十一页，讲稿共四十六页哦判判 别别 分分 析析 方方 法法1.1.距离判距离判别别2.2.贝贝叶斯（叶斯（BayesBayes）判）判别别3.3.费费希尔（希尔（FisherFisher）判）判别别4.4.判判别别分析模型的分析模型的 显显著性著性检验检验 第十二页，讲稿共四十六页哦3.1 距离判距离判别别 距离判别的基本思想：样品距离判别的基本思想：样品 X X离哪离哪个总体的距离最近，就判断个总体

12、的距离最近，就判断 X X 属于哪个总体。属于哪个总体。这里的这里的“距离距离”是通常意义下的距是通常意义下的距离（欧几里得距离：在离（欧几里得距离：在 m m 维欧几里得空维欧几里得空间间 R R 中，两点中，两点 与与 的欧几里得距离，也就是的欧几里得距离，也就是通常我们所说的距离为通常我们所说的距离为 ）吗？）吗？带着这个疑问，我们来考虑这样一个问带着这个疑问，我们来考虑这样一个问题题 ：第十三页，讲稿共四十六页哦 设有两个正态总体设有两个正态总体 ，和和 ，现在有一个新的样品位于现在有一个新的样品位于 A A 处（参见图处（参见图1 1）从图中不难看出：从图中不难看出：，是否，是否 A

13、 A 处的样品处的样品属于总体属于总体 呢？呢？图图 1第十四页，讲稿共四十六页哦 显然不是，因为从概率的角度来看，总显然不是，因为从概率的角度来看，总体体 的样本比较分散，而总体的样本比较分散，而总体 的样本则的样本则非常集中，因此非常集中，因此 处的样品属于总体处的样品属于总体 的的概率明显大于属于总体概率明显大于属于总体 的概率，也就是的概率，也就是说，说，处的样品属于总体处的样品属于总体 的的“可能性可能性”明明显大于属于总体显大于属于总体 的的“可能性可能性”！这也说！这也说明了用欧几里得距离来度量样品到总体距明了用欧几里得距离来度量样品到总体距离的局限性。因此，需要引入新的距离概离

14、的局限性。因此，需要引入新的距离概念念这就是下面给出的马氏距离。这就是下面给出的马氏距离。第十五页，讲稿共四十六页哦定义定义1 1（马氏距离）：设总体（马氏距离）：设总体 G 为为 m 维总体维总体 （m m 个因素或指标），其均值向量个因素或指标），其均值向量为为 （这里（这里 T T 表示转置），协表示转置），协方差阵为方差阵为 ，则样品，则样品 到总体到总体 G G 的马氏的马氏距离定义为距离定义为第十六页，讲稿共四十六页哦3.1.1 3.1.1 两总体的距离判别两总体的距离判别 先考虑两个总体（先考虑两个总体（）的情况。设有两个）的情况。设有两个总体总体 和和 ,和和 分别是分别是 和

15、和 的协方差阵，的协方差阵，和和 分别是分别是 和和 的均值。对于新的样品的均值。对于新的样品 ，需要判断，需要判断它来自那个总体。它来自那个总体。设来自设来自 （）的训练样本为）的训练样本为其中其中 表示来自哪个总体，表示来自哪个总体，表示表示来自总体来自总体 的样本量。的样本量。第十七页，讲稿共四十六页哦要判断新样品要判断新样品 来自哪个总体，一般的想法是分别来自哪个总体，一般的想法是分别计算新样品到两个总体的马氏距离计算新样品到两个总体的马氏距离 和和 ：如果如果 则判定则判定 ；反之，如果反之，如果 则判定则判定 ：即即 （1 1）A.A.时的判别方法时的判别方法第十八页，讲稿共四十六

16、页哦其中其中 ，记记 为了得到更简单的判别规则，我们下面计为了得到更简单的判别规则，我们下面计算新样品到两个总体的马氏距离算新样品到两个总体的马氏距离 和和 的差的差第十九页，讲稿共四十六页哦显然，判别规则（显然，判别规则（1 1）式等价于）式等价于 （2 2）通常，称通常，称 为判别系数向量称为判别系数向量称 为线性判别函数。为线性判别函数。注意判别准则（注意判别准则（1 1）式或者（）式或者（2 2）式将）式将 维空间维空间 划分成两部分：划分成两部分：和和 也即也即 。距离判别的实质就是：给出空。距离判别的实质就是：给出空间间 的一个划分的一个划分 和和 ，如果样品，如果样品 落入落入

17、之中，则之中，则判定判定 ；如果样品；如果样品 落入落入 之中，则判定之中，则判定 。第二十页，讲稿共四十六页哦 当当 时，根据判别准则（时，根据判别准则（1 1）式，我们同样的给出）式，我们同样的给出判别函数判别函数 为为相应的判别规则为相应的判别规则为 （3 3）B.B.时的判别方法时的判别方法第二十一页，讲稿共四十六页哦 在实际应用中，总体的均值和协方差阵一般是在实际应用中，总体的均值和协方差阵一般是未知的，我们所知道的仅仅是一组样本或者观测未知的，我们所知道的仅仅是一组样本或者观测值，在这种情况下，就需要利用数理统计的知识，值，在这种情况下，就需要利用数理统计的知识，对对 进行估计。进

18、行估计。利用已知样本，易得利用已知样本，易得 的无偏估计的无偏估计分别为分别为C.C.的估计的估计 第二十二页，讲稿共四十六页哦 对于多个总体的情况，可以类似于两个总体的处理过程，对于多个总体的情况，可以类似于两个总体的处理过程，我们给出如下的步骤：我们给出如下的步骤：第一步：计算样品第一步：计算样品 到每个总体的马氏距离到每个总体的马氏距离 ；第二步：比较第二步：比较 的大小，将样品的大小，将样品 判为判为距离最小的那个总体。距离最小的那个总体。如果均值为：如果均值为：和协方差：和协方差：未知，未知，可以类似两个总体的情形运用训练样本来进行估计。这里不可以类似两个总体的情形运用训练样本来进行

19、估计。这里不再赘述。再赘述。3.1.2 多多总总体的距离判体的距离判别别第二十三页，讲稿共四十六页哦3.1.3 3.1.3 距离判别的不足距离判别的不足 距离判别方法简单实用，容易实现，并且结论距离判别方法简单实用，容易实现，并且结论的意义明确。但是，距离判别没有考虑：的意义明确。但是，距离判别没有考虑：（1 1）各总体本身出现的可能性在距离判别中没）各总体本身出现的可能性在距离判别中没有考虑；有考虑；（2 2）错判造成的损失在距离判别中也没有考虑。）错判造成的损失在距离判别中也没有考虑。在很多情况下，不考虑上面的两种因素是不合理在很多情况下，不考虑上面的两种因素是不合理的。贝叶斯（的。贝叶斯

20、（BayesBayes）判别方法克服了距离判别的不足。）判别方法克服了距离判别的不足。第二十四页，讲稿共四十六页哦与前面距离判别方法不同的是：所谓贝叶斯与前面距离判别方法不同的是：所谓贝叶斯（BayesBayes）判别，就是在考虑各总体的先验概）判别，就是在考虑各总体的先验概率和错判损失的情况下，给出空间率和错判损失的情况下，给出空间 的一个的一个划分：划分：，使得运用此划分来判别归类时，所带来的使得运用此划分来判别归类时，所带来的平均错判损失最小。平均错判损失最小。3.2 贝贝叶斯判叶斯判别别第二十五页，讲稿共四十六页哦贝叶斯（贝叶斯（BayesBayes）判别问题的数学描述为：设有）判别问

21、题的数学描述为：设有 个个 维的总体维的总体 ，其密度函数分别为，其密度函数分别为 ，若已知这若已知这 个总体各自出现的概率（先验概率）为个总体各自出现的概率（先验概率）为 （，且，且 ），假设已知将本来属），假设已知将本来属于总体于总体 的样品错判为总体的样品错判为总体 所造成的损失为所造成的损失为 。在这样的情形下，对于新的样品在这样的情形下，对于新的样品 ，需要判断它，需要判断它来自那个总体。来自那个总体。为了给出贝叶斯（为了给出贝叶斯（BayesBayes）判别准则，我们从下）判别准则，我们从下面几个方面来讨论：面几个方面来讨论：第二十六页，讲稿共四十六页哦 先验概率表示对各总体的先知

22、认识，或者说，事先对所先验概率表示对各总体的先知认识，或者说，事先对所研究的问题所具有的认识。一般来说，先验概率并不容研究的问题所具有的认识。一般来说，先验概率并不容易获得，其更多的来自于长期累积的经验。先验概率可易获得，其更多的来自于长期累积的经验。先验概率可以通过下面几种赋值方法得到：以通过下面几种赋值方法得到：基于经验或者历史资料进行估计；基于经验或者历史资料进行估计；利用训练样本中各种样品所占的比例利用训练样本中各种样品所占的比例 作作为为 的值。其中的值。其中 表示第表示第 类总体的样品数，类总体的样品数，是总训练样本数，该方法要求训练样本是通过随是总训练样本数，该方法要求训练样本是

23、通过随机抽样得到的；机抽样得到的；3.3.假定假定 。A.A.确定先验概率确定先验概率第二十七页，讲稿共四十六页哦 这里用这里用 表示将本来属于总体表示将本来属于总体 的样品错判为总体的样品错判为总体 的概率，即误判概率，显然，根据概率的定义，易得：的概率，即误判概率，显然，根据概率的定义，易得：（）（4 4）实际上，（实际上，（4 4）式的几何意义是很明显的，见图）式的几何意义是很明显的，见图2 2。B.B.确定错判概率确定错判概率 图图2 2表示的是两个正态总体的误判概率示意图。表示的是两个正态总体的误判概率示意图。第二十八页，讲稿共四十六页哦误判概率的估计方法有以下几种：误判概率的估计方

24、法有以下几种：（1 1）利用训练样本为检验集，用判别方法对训练）利用训练样本为检验集，用判别方法对训练样本进行判断，统计误判的样本个数，计算误判样本样本进行判断，统计误判的样本个数，计算误判样本占总样本的比例，并作为误判概率的估计值；占总样本的比例，并作为误判概率的估计值；（2 2）当训练样本足够大时，从训练样本中预留一）当训练样本足够大时，从训练样本中预留一部分作为检验集，并记录判错的比率，作为误判概率部分作为检验集，并记录判错的比率，作为误判概率的估计值；的估计值；（3 3）运用舍一法：每次预留一个样本来检验，）运用舍一法：每次预留一个样本来检验，用剩下用剩下 的样本建立判别准则，循环检验

25、完所的样本建立判别准则，循环检验完所有训练样本，记录判错的比率，以此作为误判概率有训练样本，记录判错的比率，以此作为误判概率的估计值。的估计值。第二十九页，讲稿共四十六页哦C.C.确定错判损失确定错判损失 错判必然带来损失。现实中，错判的损失一般错判必然带来损失。现实中，错判的损失一般来说很难定量给出。但是可以运用赋值法来确定：来说很难定量给出。但是可以运用赋值法来确定：（1）根据经验或者实际问题的特征人为根据经验或者实际问题的特征人为 确定；确定；（2）假设各种误判损失都相等。假设各种误判损失都相等。第三十页，讲稿共四十六页哦 基于前面的讨论，运用概率知识：判别法基于前面的讨论，运用概率知识

26、：判别法 将本来属于总体将本来属于总体 的样本错判给其它总体的平的样本错判给其它总体的平均损失为均损失为那么，关于先验概率的平均错判损失那么，关于先验概率的平均错判损失 为为 （5 5）如果能找到如果能找到 使得平均损失使得平均损失 达达到最小，那么到最小，那么 就称为贝叶斯（就称为贝叶斯（BayesBayes）判别的）判别的解。解。D.D.确定平均损失确定平均损失第三十一页，讲稿共四十六页哦定理定理1 1：设有：设有 个总体：个总体：，已知，已知 的联合密度函数为的联合密度函数为 ，先验概率为，先验概率为 ，错判损失为，错判损失为 ，则贝叶斯，则贝叶斯（BayesBayes）判别的解）判别的

27、解为为 其中其中 （6 6）下面给出贝叶斯（下面给出贝叶斯（BayesBayes）判别的解的主要结论）判别的解的主要结论：第三十二页，讲稿共四十六页哦 3.3 3.3 费希尔判别费希尔判别 费希尔判别的基本思想：借助于方差分析的思想，费希尔判别的基本思想：借助于方差分析的思想，利用投影将利用投影将 元的数据投影到某一个方向，使得投影后元的数据投影到某一个方向，使得投影后组与组之间的差异尽可能的大，然后根据一定的判别规组与组之间的差异尽可能的大，然后根据一定的判别规则对新样本的类别进行判断。则对新样本的类别进行判断。首先构造一个线性判别函数首先构造一个线性判别函数 （7 7）可见上面的函数将可见

28、上面的函数将 元的数据投影到了一个方向，系元的数据投影到了一个方向，系数数 的确定原则是使得总体间的的确定原则是使得总体间的差异最大，总体内部的离差最小。差异最大，总体内部的离差最小。第三十三页，讲稿共四十六页哦A.A.确定线性判别函数确定线性判别函数 设有设有 个个 元总体：元总体：，它们的均值为：，它们的均值为：；协方差为：；协方差为：。在在 的条件下，有的条件下，有 令令这里这里确定确定 ，使得，使得 个总体间的差异最大，总体内部的离差个总体间的差异最大，总体内部的离差最小，则最小，则 应该达到最大。应该达到最大。第三十四页，讲稿共四十六页哦为了确保为了确保 的唯一性，不妨设的唯一性，不

29、妨设 。因此，问题转化。因此，问题转化为：在条件为：在条件 约束下，求约束下，求 使得使得 式达到最式达到最大大这是大家非常熟悉的条件极值的问题。根据拉格朗日这是大家非常熟悉的条件极值的问题。根据拉格朗日乘子法：乘子法：求解得求解得 （8 8）由方程（由方程（8 8）第一式知，）第一式知，是是 的特征根，的特征根，是相应的特是相应的特征向量。可以证明征向量。可以证明 （的大小可以衡量判别函数的大小可以衡量判别函数 的判别效果，故称的判别效果，故称 为判别效率）。设为判别效率）。设 的非零特征的非零特征根为根为 ，相应的满足约束条件的特征向量为，相应的满足约束条件的特征向量为 ，显然，取，显然，

30、取 时时 达到最大。达到最大。第三十五页，讲稿共四十六页哦B.B.确定判别规则确定判别规则 假设系数假设系数 已经求出，那么线性判已经求出，那么线性判别函数别函数 就完全确定下来，对于一个新的样品就完全确定下来，对于一个新的样品 ，可以构造下面的判别规则：，可以构造下面的判别规则：（9 9）第三十六页，讲稿共四十六页哦3.4 3.4 判别分析模型的显著性检验判别分析模型的显著性检验 建立了判别分析模型以后还需要对模型进行评价，建立了判别分析模型以后还需要对模型进行评价，这就需要对判别分析模型的显著性进行检验，主要包括两这就需要对判别分析模型的显著性进行检验，主要包括两个方面：判别效果的检验和各

31、变量判别能力的检验个方面：判别效果的检验和各变量判别能力的检验11，22。所谓判别效果的检验就是检验所谓判别效果的检验就是检验 k k 个总体的均值是否有显个总体的均值是否有显著的差异，反映了采用判别分析模型的有效性问题；各变著的差异，反映了采用判别分析模型的有效性问题；各变量判别能力的检验反映的是各指标（因素）对判别分类所量判别能力的检验反映的是各指标（因素）对判别分类所起的作用时候显著。具体的检验方法因为过于复杂，这里起的作用时候显著。具体的检验方法因为过于复杂，这里不再赘述。不再赘述。需要说明的是，作为多元统计分析中的经典方法，判需要说明的是，作为多元统计分析中的经典方法，判别分析在许多

32、关于多元统计分析的教材中均有详细而深刻的别分析在许多关于多元统计分析的教材中均有详细而深刻的论述。论述。第三十七页，讲稿共四十六页哦4 4DNADNA序列分类问题的求解序列分类问题的求解 关于关于DNADNA序列分类问题的讨论和分析，我们在第序列分类问题的讨论和分析，我们在第1 1部分和部分和第第2 2部分已经作了详细的分析和讨论。这里，我们将根据多元部分已经作了详细的分析和讨论。这里，我们将根据多元统计分析的知识建立判别分析模型来求解统计分析的知识建立判别分析模型来求解DNADNA序列的分类问题序列的分类问题（这里只求解问题一）。（这里只求解问题一）。首先，需要提取每条序列的所蕴含的特征首先

33、，需要提取每条序列的所蕴含的特征因为因为将序列的全部信息都作为指标（因素）来建立判别模型是将序列的全部信息都作为指标（因素）来建立判别模型是不可能的。不可能的。第三十八页，讲稿共四十六页哦A.A.特征的提取特征的提取 DNA DNA序列中所蕴含的信息是非常丰富的，因此，如何提取特序列中所蕴含的信息是非常丰富的，因此，如何提取特征、提取什么特征是一个非常困难的问题征、提取什么特征是一个非常困难的问题这个问题涉及到这个问题涉及到生物学的知识，此处将不深入展开讨论。我们考虑采用序列生物学的知识，此处将不深入展开讨论。我们考虑采用序列中中4 4个碱基个碱基A A，T T，C C，G G的含量百分比作为

34、的含量百分比作为DNADNA序列的特征。序列的特征。为了便于讨论，我们用为了便于讨论，我们用 表示碱基表示碱基A A在序列中所占的百在序列中所占的百分比；分比；表示碱基表示碱基T T在序列中所占的百分比；在序列中所占的百分比；表示碱基表示碱基C C在在序列中所占的百分比；序列中所占的百分比；表示碱基表示碱基G G在序列中所占的百分比。在序列中所占的百分比。因为，因为，+=1+=1，因此，因此 、和和 中只有三个变量是独立的，不失一般性，我们选中只有三个变量是独立的，不失一般性，我们选取取 、和和 为指标，以为指标，以 表示第表示第 个个DNADNA序列的特征向量，换句话说，序列的特征向量，换句

35、话说，“完全完全”代表第代表第 个个DNADNA序列。序列。第三十九页，讲稿共四十六页哦 正如前面第正如前面第2 2部分中所分析的：在此部分中所分析的：在此DNADNA序列分类问题中，序列分类问题中，共有两个已知的总体（类）共有两个已知的总体（类）（A A类）和类）和 （B B类），而且，训练样本共有类），而且，训练样本共有 个，其中，前个，其中，前1010个样本（记为个样本（记为 ）属于总体（类）属于总体（类）；后；后 1010个样本（记为个样本（记为 ）属于总体）属于总体 （类）（类）。需要解决的问题是：对给定的新样品需要解决的问题是：对给定的新样品 ，我们需要判断，我们需要判断其属于哪个

36、总体（类）。其属于哪个总体（类）。第四十页，讲稿共四十六页哦B.B.建立判别模型建立判别模型 这里分别建立距离判别和费希尔（这里分别建立距离判别和费希尔（FisherFisher）判别模型。）判别模型。（1 1）距离判别模型）距离判别模型在距离判别模型中，首先需要估计总体（类）在距离判别模型中，首先需要估计总体（类）和和 的均值的均值 和协方差阵和协方差阵 ，运用前面，运用前面3.1.13.1.1小节的公式，可以得到均值小节的公式，可以得到均值 和协方差阵和协方差阵 的无偏估计。的无偏估计。然后，计算样本然后，计算样本 到总体（类）到总体（类）和和 的马氏距离的马氏距离 ；根据判别准则（根据判

37、别准则（1 1），可得：），可得：若若 ，则判定，则判定 为为A A类；类；若若 ，则判定，则判定 为为B B类。类。第四十一页，讲稿共四十六页哦（2 2）费希尔判别模型）费希尔判别模型 首先，确定判别函数首先，确定判别函数 利用费希尔利用费希尔(Fisher)(Fisher)判别准则，可以求出判别准则，可以求出 确定了判别函数，就可以根据费希尔确定了判别函数，就可以根据费希尔(Fisher)(Fisher)判别准则（判别准则（9 9）式，判断新的）式，判断新的DNADNA序列序列的类别问题了。的类别问题了。第四十二页，讲稿共四十六页哦C.C.模型求解和软件实现模型求解和软件实现 判别分析的计

38、算机实现是非常简单的，运用Matlab和SPSS等软件都可以进行判别分析。经过计算，结果如下：（1）距离判别：运用上面算法对已知类别的训练本进行判定，结果为：A类：1，2，3，5，6，7，8，9，10B类：4，11，12，13，14，15，16，17，18，19，20只有第4个样本发生了误判，故正确率为95%。运用上面算法对21-40进行分类，结果为A类：22，23，25，27，29，30，32，33，34，35，36，37B类：21，24，26，28，31，38，39，40第四十三页，讲稿共四十六页哦（2 2）费希尔判别）费希尔判别 运用上面算法对已知类别的训练本进行判定，结果为：运用上面算

39、法对已知类别的训练本进行判定，结果为：A A类：类：1 1，2 2，3 3，5 5，6 6，7 7，8 8，9 9，1010 B B类：类：4 4，1111，1212，1313，1414，1515，1616，1717，18 18，1919，2020 只有第只有第4 4个样本发生了误判，故正确率为个样本发生了误判，故正确率为95%95%。运用上面算法对运用上面算法对21-4021-40进行分类，结果为：进行分类，结果为：A A类：类：2222，2323，2525，2727，2929，34 34，3535，3636，3737B B类：类：2121，2424，2626，2828，3030，3131，

40、3232，3333，38 38，39 39，4040第四十四页，讲稿共四十六页哦参考文献参考文献1 1 高惠璇，应用多元统计分析，北京大学出版社，高惠璇，应用多元统计分析，北京大学出版社，2005 2005。2 2 张尧庭张尧庭,方开泰，多元统计分析引论，科学出版社，方开泰，多元统计分析引论，科学出版社，1982 1982。3 3 陈家鼎，孙山泽，李东风，数理统计学讲义，高等教陈家鼎，孙山泽，李东风，数理统计学讲义，高等教 育出版社，育出版社，19981998。4 4 梁之舜，邓集贤，杨维权等，概率论与数理统计（第梁之舜，邓集贤，杨维权等，概率论与数理统计（第 二版）（上），高等教育出版社，二版）（上），高等教育出版社，19981998。5 5 朱建平，应用多元统计分析，科学出版社，朱建平，应用多元统计分析，科学出版社，20062006。6 6 全国大学生数学建模竞赛优秀论文汇编（全国大学生数学建模竞赛优秀论文汇编（1999-1999-2000 2000），中国物价出版社，），中国物价出版社，20022002。第四十五页，讲稿共四十六页哦第四十六页，讲稿共四十六页哦