生物医学数据挖掘.pptx

《生物医学数据挖掘.pptx》由会员分享，可在线阅读，更多相关《生物医学数据挖掘.pptx（88页珍藏版）》请在淘文阁 - 分享文档赚钱的网站上搜索。

1、参考文献1、生物医学数据挖掘（第二版）上海科学技术出版社2、生物医学数据分析及其MATLAB实现 北京大学出版社3、生物信息学 科学出版社第1页/共88页第一章 概论第2页/共88页1.1 什么是数据挖掘1.1.1数据、信息和知识 数据是对客观事物特征状态的记录；数据也是信息及知识的载体。如何从大量的数据中发现和找出以隐含方式存在于其中、有意义的信息和知识。第3页/共88页1.1.2 数据挖掘的定义 数据挖掘是对大量观察到的数据进行分析，以便从中发现事先未知的联系和规律的过程。目的：让数据拥有者得到非常清晰而有用的结果（即信息和知识）第4页/共88页第5页/共88页第6页/共88页7数据挖掘分

2、类挖掘任务挖掘任务挖掘对象挖掘对象挖掘方法挖掘方法常用聚类分类分类关联回归与序列回归与序列第7页/共88页生物医学数据来源人体生理信息的种类形态形态身高、骨长、心脏、胃、肾等器官的几何形状、血管直径等身高、骨长、心脏、胃、肾等器官的几何形状、血管直径等振动振动心音、肠鸣音、呼吸音、血管音等心音、肠鸣音、呼吸音、血管音等压力压力血压、心内压、颅内压、胸腔内压、眼内压等血压、心内压、颅内压、胸腔内压、眼内压等速度速度血流速度、排尿速度、神经传导速度等血流速度、排尿速度、神经传导速度等流量流量血流量、呼吸流量、尿流量等血流量、呼吸流量、尿流量等温度温度体表温度、口腔温度、血液温度、直肠温度、其他脏器

3、温度等体表温度、口腔温度、血液温度、直肠温度、其他脏器温度等生物电生物电细胞电位、脑电、心电、胃电、肌电等细胞电位、脑电、心电、胃电、肌电等生物磁生物磁心磁、脑磁、胃磁等心磁、脑磁、胃磁等物理性质参数物理性质参数组织密度、对组织密度、对X射线的衰减系数、体内氢核分布、对超声波的声阻抗等射线的衰减系数、体内氢核分布、对超声波的声阻抗等化学成分化学成分O2、CO2、Na+等等生物量生物量酶、抗原、抗体、激素、神经递质、酶、抗原、抗体、激素、神经递质、DNA、RNA和蛋白质等和蛋白质等第8页/共88页1.2数据挖掘的应用及方法1.2.1应用1.（分类应用实例）乳腺疾病诊断2.（回归应用实例）子宫颈癌

4、患者存活率及其受各危险因子影响模型3.（时间序列分析应用实例）胰岛素依赖性糖尿病变化趋势，变化周期4.（预测应用实例）肾透析提高患者生存率5.（聚类应用实例）流行病学因素对肺癌患者临床医学状况的影响6.（关联规则分析应用实例）患者住院期间感染影响患者健康7.（序列发现，序列分析应用实例）基因比较第9页/共88页1.2.2方法从学习对象和过程的角度看分为有指导学习和无指导学习有指导学习指学习样本的归属都是已知的，确定的。例如分类无指导学习指学习样本的归属事先并不确定或已知。例如聚类第10页/共88页从学习方法的角度看，有多种数学工具可用：回归分析学统计学方法，人工神经网络，决策树等根据待解决问题

5、的类型、要求，以及数据本身的特点，确定最佳方法。第11页/共88页数据挖掘技术数据挖掘任务的完成需要相应的数据挖掘技术。目前的数据挖掘算法主要来自3个领域：统计学、机器学习（人工智能）和数据库。数据挖掘的焦点是自动或半自动的挖掘模式。有些机器算法应用于数据挖掘，比如神经网络、遗传算法等。数据库技术是数据挖掘的第三种技术来源。因为数据挖掘需要处理大量数据，如何对大量数据进行处理，需要数据库技术。第12页/共88页1.3生物医学数据挖掘的特殊性1.3.1医学数据的特殊性1.原始数据数量大，且呈多样性或异质性2.有时很难以数学方式来表达其结构及特征3.医学数据经常需要更新4.采集医学数据很难完全避免

6、噪声干扰5.生物医学数据难免会发生丢失6.医学数据可能包含冗余的、没有意义的或不一致的属性第13页/共88页1.3.2伦理、法律和社会等方面对隐私敏感的问题1.3.3医学的特殊性质第14页/共88页1.4数据挖掘的评价1.4.1样本的组织将原始样本数据组织成学习样本集和测试样本集的原则：尽可能使学习样本集和测试样本集中的样本分布和样本总体的分布一致，尽可能使学习样本集有足够多的样本。常用方法：第15页/共88页1.随机分组法：将已知数据集合随机的分为互不重叠的学习样本集和测试样本集。2.交叉验证法：将原已知数据集随机的分为K组，依次以其中的一组数据为测试样本，而以其他数据为学习样本进行训练和测

7、试。3.留一法：是交叉验证法中当K等于原始样本数据量M时的特例。第16页/共88页1.4.2有指导学习的评价(分类）被分类归于C1类被分类归于C2类被分类归于C3类实际属于C1类C11C12C13实际属于C2类C21C22C23实际属于C3类C31C32C333类分类的混淆矩阵第17页/共88页被分类归于阳性的样本被分类归于阴性的样本总计实际属于阳性的样本a,Ntpb,Nfna+b实际属于阴性的样本c,Nfpd,Ntnc+d总计a+cb+da+b+c+d特异性和灵敏度的计算第18页/共88页1.4.3无指导学习的评价无指导学习数据挖掘目标往往不清晰，但有评价指导学习数据挖掘的一些原理，可沿用于

8、评价无指导学习的性能。例如：聚类。第19页/共88页开源数据挖掘工具（平台）WekaRTanagraYALEKNIMEOrangeGGobi第20页/共88页1.5数据挖掘的过程数据挖掘软件Intelligent Miner(IBM)Clementine(SPSS)Enterprise Miner(SAS)Microsoft SQL Server2005(Microsoft)第21页/共88页1.明确分析目的2.组织及预处理数据3.探索性分析数据4.实施数据挖掘方法，并以此分析数据5.评价和比较各种方法的性能，确定最终的结果6.解释数据挖掘结果及其在本专业领域中的应用第22页/共88页第23页

9、/共88页Weka统计分析方面较弱，在机器学习方面要强得多第24页/共88页R用于统计分析和图形化的计算机语言及分析工具，支持系列分析技术，包括统计检验，预测建模，数据可视化第25页/共88页Tanagra使用图形界面的数据挖掘软件，强项是统计分析，提供了众多的有参和无参的检验方法，但缺乏高级的可视化能力第26页/共88页YALE提供图形化界面，提供了大量的运算符，包括数据处理，变换，探索，建模，评估等等环节。第27页/共88页KNIME采用类似数据流的方式来建立分析挖掘过程第28页/共88页Orange提供大量的可视化方法，可对数据和模型进行多种图形化演示，并能智能搜索合适的可视化形式，支持

10、对数据的交互式探索，弱项在于传统统计分析能力不强，不支持统计检验，报表能力也有限。第29页/共88页第30页/共88页GGobi用于交互式可视化的开源软件第31页/共88页第二章 医学数据采集与准备第32页/共88页2.1数据的采集与组织2.1.1数据的采集、存储与管理数据库系统（DBMS）是存储，组织和管理数据的有效工具，由一组含有内部相关数据的数据文件和一组管理数据的软件程序组成，有时也简称为数据库（DB）。数据仓库（DW）是一个面向特定研究目的、集成来自各个不同数据库的数据并相对稳定的数据集合，它是数据挖掘直接操作和处理的对象。第33页/共88页第34页/共88页2.1.2数据的组织1.

11、数据的结构住院号住院号姓名姓名性别性别手术年龄手术年龄诊断诊断治疗方法治疗方法疗效疗效1001孙宝英孙宝英男男3先天性多指先天性多指手术矫形手术矫形优优1002吴立生吴立生男男1先天性并指先天性并指手术矫形手术矫形优优1003王启勇王启勇男男12肱骨骨折肱骨骨折手术复位手术复位良良1004何俊峰何俊峰女女3髋关节脱位髋关节脱位手术复位手术复位优优2005王春章王春章男男7斜颈斜颈手术手术良良第35页/共88页2.数据的类型数值型：由有序数字构成的数据分类型：表示对象类别归属的数据二值型：只有两种取值的数据布尔型：特殊的二值型数据排序型：特殊的分类型数据第36页/共88页胃癌TNM分期原发肿瘤的

12、部位及大小（T）1肿瘤局限于粘膜或粘膜下层2肿瘤侵及肌层3肿瘤侵及浆膜4肿瘤已穿透浆膜淋巴转移部位和数量（N）0无淋巴结转移1离癌灶最近，贴近于胃壁的第1站淋巴结有转移2远隔癌灶部位的第2站淋巴结有转移3第3站淋巴结有转移是否已有远处转移（M）0尚无远处转移1已有远处转移第37页/共88页2.2数据管理及数据管理系统的基本功能2.2.1数据管理是指对各种数据进行收集、分类、组织、编码、存储、查询和维护。(Excel Access)2.2.2Excel的基本功能1.数据的存储2.数据的排序3.数据的筛选4.数据的统计分析5.数据的分类汇总第38页/共88页2.2.3关系数据库管理系统的基本功能1

13、.数据的定义和存储2.数据的排序、索引和筛选排序是通过字段有序的排列记录，以便更有效的进行查询；索引的主要功能是用来加速记录的存取；筛选是让数据表显示符合条件的纪录，隐藏不符合条件的纪录。3.数据的查询与统计第39页/共88页l进行数据挖掘的时候，首先要将实际问题转化为数据挖掘问题，能否转换为恰当的数据挖掘问题是进行数据挖掘的关键。第40页/共88页2.3数据预处理2.3.1数据预处理的目的不完整性：指有些数据记录的某些属性或特征值缺少；不一致性：指有些数据记录的若干属性或特征值在逻辑上互相矛盾因而可信度降低；噪声：指有些数据的值有误差或表现出随机性的波动。数据预处理一般包括数据清洗，数据整合

14、，数据变换，数据精简等功能。第41页/共88页2.3.2数据的分布特性反映数据分布主要趋势的参数：均值：同类数据值的算术平均中值：也称中位数众数：原始数据集合中某个值出现的频数最多半程位：原始数据集合中最大数值和最小数值的均数。第42页/共88页反映数据分布散布性的参数：全程范围：数据集合的最大数值和最小数值之和。四分位数：是k百分位数的特例四分位范围标准差和变异系数第43页/共88页例：有一个数据集合为：100，120，120，110，130，132，132，133，133，131，132，130，138，129，132，140，140，121，125，计算得到该数据集合的分布特征参数。第4

15、4页/共88页2.3.3数据清洗1.数据缺失常用处理方法：（1）忽略含有数据缺失的记录；（2）用一个常量或标识符号来取代所有缺失的数据值；（3）以全体数据相同属性的均值取代某个记录缺失的该属性值；（4）以最可能发生的值取代某个记录缺失的属性值。第45页/共88页2.数据噪声分组平滑：分组是将某项数据值按一定的顺序排成序列，然后将若干个连续排列的相邻数据组成一个组。回归平滑：回归是将原始数据拟合为某种回归函数，以该函数的的值取代相应的原始数据。聚类平滑：聚类是以原始数据各个相关特征属性值构成特征空间，根据原始数据在此空间中的分布状态。第46页/共88页2.3.4数据整合实体识别，也称对象匹配或设

16、计方案整合。在不同的数据库中，可能采用不同的名称、标识符号或代码来表示客观世界中的同一事物，要识别这些事物是否相同。消除冗余，若数据的某个特征属性的值或状态，可从其他几个特征属性推导而得到，则产生信息冗余。数据值冲突，在不同数据库中，对同一参数采用不同的单位可引起。第47页/共88页2.3.5数据变换数据变换是将原始数据的类型或取值范围变换到合适的形式，以便适应不同数据挖掘算法的要求。一方面，原始数据类型根据数据反映的客观事物的性质不同而各异；另一方面，生物医学数据反映的客观事物的生理或生化性质不同，量纲也各不相同，这导致了这些数据的数值变化范围会有很大的差异。第48页/共88页一方面，生物医

17、学数据反映的客观事物的生理或生化性质不同，量纲也各不相同，这导致了这些数据的数值变化范围会有很大的差异；另一方面，数据的取值范围对某些数据挖掘算法的性能也会有所影响。第49页/共88页将原始数据的变化范围变换到另一个指定的取值范围，以取得更好的数据挖掘效果，这种变换数据取值范围的过程称为数据的归一化。常用的数据归一化方法：十进计数法最小最大归一法Z分数归一法对数归一法第50页/共88页2.3.6数据精简1.样本数据的选择随机选取典型性分数2.数据特征属性的选择逐一尝试涉企相关性高的特征舍弃分类型特征舍弃数值型特征特征复合第51页/共88页第52页/共88页第53页/共88页第54页/共88页第

18、55页/共88页第56页/共88页第57页/共88页第58页/共88页第59页/共88页分组分组分组分组1分组分组2分组分组3均值均值方差方差原数据原数据129，131，124136，131，132138，134，139132.674.69均值均值平滑平滑128，128，128133，133，133137，137，137132.673.91中值中值平滑平滑129，129，129132，132，132138，138，138133.003.97边界值边界值平滑平滑131，131，124136，131，131139，134，139132.894.73第60页/共88页第三章 回归分析第61页/共88

19、页3.1回归分析的功能第62页/共88页3.2常用的回归分析方法3.2.1线性回归3.2.2Logistic回归3.2.3人工神经网络3.2.4回归树第63页/共88页第64页/共88页第65页/共88页第66页/共88页第67页/共88页第68页/共88页第69页/共88页第四章 分类第70页/共88页第五章 聚类分析第71页/共88页5.1聚类分析的功能5.1.1聚类分析的定义与作用聚类是一种数据分析方法，它面向一个数据集，将其中全体数据分别划归不同组别。聚类依据原则：同一类别内的各个数据相似性较高，不同类之间的数据相似性较低。聚类作用：可根据其内在属性将数据归纳为不同的类别，并借此了解数

20、据属性的分布规律；也可作为数据预处理的手段，为实施其他数据挖掘技术进行数据准备。第72页/共88页5.1.2聚类分析中的相似性度量1、由特征属性确定的相似性2、数值型数据之间的相似性3、二值型数据之间的相似性4、分类型数据之间的相似性5、排序型数据之间的相似性6、混合型数据之间的相似性第73页/共88页例：现有若干个样本根据由6个特征属性构成，特征属性的名称及各样本数据的相应特征值如表，计算各个样本数据之间的相似程度。记录性别年龄组收缩压舒张压 糖尿病类型 心绞痛11220012010203180105213111108000第74页/共88页5.2聚类分析的方法5.2.1聚类分析方法1、划分

21、法第一步：任选k个样本数据第二步：进行第一轮聚类第三步：进行第二轮聚类第四步：计算聚类误差E2、分层分层聚类法可分为两种实施方案：凝聚性分层聚类，分裂型分层聚类5.2.2高维特征空间中的聚类第75页/共88页5.3聚类分析的应用住院患者人群分类5.3.1研究目标根据某地区若干医院住院患者的实际情况，将其划分为若干类别，并分析这些类别患者的某些共性。5.3.2数据采集与处理划分住院患者类别依据的特征：患者的年龄，主要诊断分类，住院时间，住院病区和收入水平等5.3.3数据挖掘与分析第76页/共88页第第1类类第第2类类第第3类类第第4类类第第5类类第第6类类合计合计第第1类类88130540110

22、80.0%11.8%0.0%4.5%3.6%0.0%100%第第2类类118402701040.0%第第3类类1063002661.5%0.0%95.5%0.0%0.0%3.0%100%第第4类类2006923762.6%0.0%0.0%90.8%2.6%3.9%100%第第5类类4640570715.6%8.5%5.6%0%80.3%0.0%100%第第6类类0001022230.0%0.0%0.0%4.3%0.0%95.7%100%合计合计1061036777702745023.6%22.9%14.9%17.1%15.6%6.0%100%住院患者分类的测试结果第77页/共88页第六章 关联

23、规则第78页/共88页第79页/共88页Customerbuys diaperCustomerbuys bothCustomerbuys beer第80页/共88页6.1关联规则的功能6.1.1关联规则的定义关联规则主要反映了事物之间的关联性。关联规则挖掘就是发现大量数据中项集之间有趣的关联在交易数据、关系数据或其他信息载体中，查找存在于项目集合或对象集合之间的频繁模式、关联、相关性、或因果结构。应用：购物篮分析、交叉销售、产品目录设计、聚集、分类等两种策略：1。商品放近，增加销量2。商品放远，增加其他商品的销量第81页/共88页6.1.2关联规则的质量和重要性1、关联规则的支持度SAB=NA

24、B/N2、关联规则的置信度CAB=NAB/NA3、关联规则的提升度LAB=CAB/SB第82页/共88页6.2关联规则的分析方法6.2.1关联规则分析的基本方法6.2.2剪枝和合并剪枝：指将支持度小于预先设置阈值的特征属性过滤掉，不将其构成规则组合的过程。合并：指将过滤后保留的特征属性加以组合，以精简最总所得的规则。第83页/共88页6.3关联规则的应用糖尿病患者的筛查6.3.1研究目的分析从积累的大量数据中发现和糖尿病相关的模式和规则，以帮助医生加深对糖尿病的理解。6.3.2数据采集及预处理6.3.3数据挖掘与分析第84页/共88页6.4关联规则的应用院内感染检测控制6.4.1研究目的分析根据已收集到的住院病史记录数据，以关联规则分析为技术方法，从中寻找和发现与院内感染共生的抗生素耐药性等现象。6.4.2数据采集及预处理6.4.3数据挖掘与分析第85页/共88页第七章 时间序列分析第86页/共88页第八章 序列分析第87页/共88页感谢您的观看！第88页/共88页